您的位置:  首页 > 技术 > 前端 > 正文

将 JavaScript 嵌入到 Rust 中,并在 WebAssembly 中运行

2021-09-27 14:00 https://my.oschina.net/u/4532842/blog/5270084 WasmEdge 次阅读 条评论

WasmEdge 将 Rust 强大的性能和 JavaScript 的简单易用完美结合在一起

在我之前的文章中,我讨论了如何在 WebAssembly 沙箱中运行 JavaScript 程序。 WasmEdge runtime 为云原生 JavaScript 应用程序提供了一个轻量级、高性能且符合 OCI 标准的“容器”。

然而,JavaScript 是一种“慢”语言。使用 JavaScript 的原因主要是因为它用起来很容易,开发者生产力高,对初学者来说尤其如此。另一方面,WebAssembly 能够运行用 Rust 等语言编写的高性能应用程序。有没有结合 JavaScript 和 Rust 的解决方案? WasmEdge 给出了两全其美的答案。

有了 WasmEdge 和 QuickJS,开发者就可以完美搭配这两个最强大的语言来创造应用程序。就像下面这样:

  • 该应用程序本身是用 Rust 写的并被编译成了 WebAssembly。它可以作为单个 wasm 字节码文件进行编译和部署。 它可以由符合 OCI 的容器工具管理,如 Docker Hub、CRI-O 和 k8s。
  • JavaScript 程序嵌入在 Rust 应用程序中。 Rust 程序可以在编译时包含JavaScript 源代码,也可以在 runtime 通过文件、STDIN、网络请求甚至函数调用引入JS。 这样一来 JavaScript 程序可以由与Rust 程序不同的开发者编写。
  • Rust 程序可以处理应用程序中的计算密集型任务,而 JavaScript 程序可以处理“业务逻辑”。 例如,Rust 程序可以为 JavaScript 程序准备数据。

接下来,让我们看几个示例。所有示例都在 wasmedge-quickjs repo 的 embed_in_rust 分支中。

$ git clone https://github.com/second-state/wasmedge-quickjs

$ git checkout embed_in_rust

确保你已经安装 RustWasmEdge,这样才能构建和运行本文中的示例。

Hello WasmEdge

main.rs 中的以下 Rust 程序在编译时嵌入了一个 JavaScript 程序。

pub mod quickjs_sys;



... ...



fn main() {

    use quickjs_sys as q;

    let mut ctx = q::Context::new();

    // include js code

    let code = include_str!("../example_js/demo.js");

    // get args and set into quickjs

    let mut res_args = args_parse();

    res_args.insert(0, "<embedded_no_filename>".to_string());

    ctx.put_args(res_args);

    // run js code

    ctx.eval_str(code, "");

}

example_js/demo.js 代码如下。

import * as std from 'std';



print('hello')

print('args:',...args)



//write fs

let wf = std.open('demo.txt','w')

wf.puts('hello quickjs')

wf.close()



//read fs

let rf = std.open('demo.txt','r')

let r = rf.getline()

print(r)

rf.close()

你可以将 Rust + JavaScript 应用程序构建到单个 WebAssembly 字节码程序中。

$ cargo build --target wasm32-wasi --release

运行它,就看到打印到控制台的结果了。

$ cd example_js

$ wasmedge --dir .:. ../target/wasm32-wasi/release/quickjs-rs-wasi.wasm

就是这样。 Rust 代码可以通过传递参数甚至直接修改包含的 JavaScript 源代码,将数据传递到 JavaScript 代码中。 JavaScript 代码还可以通过写入临时文件来返回值。

使用嵌入式 JavaScript 进行图片识别

你可以修改 main.rs 中的 Rust 程序以嵌入不同的 JavaScript 程序。 在下面的示例中,让我们更改为

`pub mod quickjs_sys;



... ...



fn main() {

    ... ...

    let code = include_str!("../example_js/tensorflow_lite_demo/main.js");

    ... ...

    ctx.eval_str(code, "");

}`

main.js 代码使用 WasmEdge Tensorflow 扩展的 JavaScript API 来调用 ImageNet 读取和识别图像模型。

import {TensorflowLiteSession} from 'tensorflow_lite'

import {Image} from 'image'



let img = new Image('./example_js/tensorflow_lite_demo/food.jpg')

let img_rgb = img.to_rgb().resize(192,192)

let rgb_pix = img_rgb.pixels()



let session = new TensorflowLiteSession('./example_js/tensorflow_lite_demo/lite-model_aiy_vision_classifier_food_V1_1.tflite')

session.add_input('input',rgb_pix)

session.run()

let output = session.get_output('MobilenetV1/Predictions/Softmax');

let output_view = new Uint8Array(output)

let max = 0;

let max_idx = 0;

for (var i in output_view){

    let v = output_view[i]

    if(v>max){

        max = v;

        max_idx = i;

    }

}

print('label index:',max_idx,'\nconfidence:',max/255)

你可以将 Rust + JavaScript 应用程序构建到单个 WebAssembly 字节码程序中。 注意 --features=tensorflow 标志,它要求 Rust 编译器使用 WasmEdge TensorFlow 扩展 API。

$ cargo build --target wasm32-wasi --release --features=tensorflow

运行并查看打印到控制台的结果。

$ cd example_js/tensorflow_lite_demo

$ wasmedge --dir .:. ../../target/wasm32-wasi/release/quickjs-rs-wasi.wasm

运行地更快

运行上面的 Tensorflow 推理示例需要花费 1-2 秒。这在 Web 应用场景中是可以接受的,但还能改进。在上篇文章中,我们提过由于其 AOT(提前编译器)优化,WasmEdge 是当前速度最快的 WebAssembly runtime。 WasmEdge 提供了一个 wasmedgec 实用程序来将 wasm 文件编译为原生的 so 共享库。你可以使用 wasmedge 来运行 so 文件而不是 wasm 文件以获得更快的性能。

下面的例子使用了 wasmedgewasmedgec 的扩展版本来支持 WasmEdge Tensorflow 扩展。

$ cd example_js/tensorflow_lite_demo

$ wasmedgec-tensorflow ../../target/wasm32-wasi/release/quickjs-rs-wasi.wasm quickjs-rs-wasi.so

$ wasmedge-tensorflow-lite --dir .:. quickjs-rs-wasi.so

你可以看到图像分类任务可以在 0.1 秒内完成。这至少是 10 倍的改进!

so 共享库不能跨机器和操作系统移植。你必须在你部署和运行应用程序的机器上运行 wasmedecwasmedec-tensorflow

下一步

在 Rust 中嵌入 JavaScript 是一种创建高性能云原生应用程序的强大方法。 下一篇文章中,我们将研究另一种技术方法:在 JavaScript 中嵌入原生库。

云原生 WebAssembly 中的 JavaScript 是下一代云和边缘计算基础设施中的新兴领域。 我们也是刚刚起步! 如果你也感兴趣,请加入我们的 WasmEdge 项目或通过提出 feature request issue 告诉我们,你需要的是什么。

  • 0
    感动
  • 0
    路过
  • 0
    高兴
  • 0
    难过
  • 0
    搞笑
  • 0
    无聊
  • 0
    愤怒
  • 0
    同情
热度排行
友情链接