请先关注 [低调大师] 公众号 优秀的自媒体个人博客,低调大师,许军

低调大师

您现在的位置是:首页>文章详情

文章详情

将 JavaScript 嵌入到 Rust 中,并在 WebAssembly 中运行

2021-09-27 26热度

WasmEdge 将 Rust 强大的性能和 JavaScript 的简单易用完美结合在一起

在我之前的文章中,我讨论了如何在 WebAssembly 沙箱中运行 JavaScript 程序。 WasmEdge runtime 为云原生 JavaScript 应用程序提供了一个轻量级、高性能且符合 OCI 标准的“容器”。

然而,JavaScript 是一种“慢”语言。使用 JavaScript 的原因主要是因为它用起来很容易,开发者生产力高,对初学者来说尤其如此。另一方面,WebAssembly 能够运行用 Rust 等语言编写的高性能应用程序。有没有结合 JavaScript 和 Rust 的解决方案? WasmEdge 给出了两全其美的答案。

有了 WasmEdge 和 QuickJS,开发者就可以完美搭配这两个最强大的语言来创造应用程序。就像下面这样:

  • 该应用程序本身是用 Rust 写的并被编译成了 WebAssembly。它可以作为单个 wasm 字节码文件进行编译和部署。 它可以由符合 OCI 的容器工具管理,如 Docker Hub、CRI-O 和 k8s。
  • JavaScript 程序嵌入在 Rust 应用程序中。 Rust 程序可以在编译时包含JavaScript 源代码,也可以在 runtime 通过文件、STDIN、网络请求甚至函数调用引入JS。 这样一来 JavaScript 程序可以由与Rust 程序不同的开发者编写。
  • Rust 程序可以处理应用程序中的计算密集型任务,而 JavaScript 程序可以处理“业务逻辑”。 例如,Rust 程序可以为 JavaScript 程序准备数据。

接下来,让我们看几个示例。所有示例都在 wasmedge-quickjs repo 的 embed_in_rust 分支中。

$ git clone https://github.com/second-state/wasmedge-quickjs $ git checkout embed_in_rust 

确保你已经安装 RustWasmEdge,这样才能构建和运行本文中的示例。

Hello WasmEdge

main.rs 中的以下 Rust 程序在编译时嵌入了一个 JavaScript 程序。

pub mod quickjs_sys; ... ... fn main() { use quickjs_sys as q; let mut ctx = q::Context::new(); // include js code let code = include_str!("../example_js/demo.js"); // get args and set into quickjs let mut res_args = args_parse(); res_args.insert(0, "<embedded_no_filename>".to_string()); ctx.put_args(res_args); // run js code ctx.eval_str(code, ""); } 

example_js/demo.js 代码如下。

import * as std from 'std'; print('hello') print('args:',...args) //write fs let wf = std.open('demo.txt','w') wf.puts('hello quickjs') wf.close() //read fs let rf = std.open('demo.txt','r') let r = rf.getline() print(r) rf.close() 

你可以将 Rust + JavaScript 应用程序构建到单个 WebAssembly 字节码程序中。

$ cargo build --target wasm32-wasi --release 

运行它,就看到打印到控制台的结果了。

$ cd example_js $ wasmedge --dir .:. ../target/wasm32-wasi/release/quickjs-rs-wasi.wasm 

就是这样。 Rust 代码可以通过传递参数甚至直接修改包含的 JavaScript 源代码,将数据传递到 JavaScript 代码中。 JavaScript 代码还可以通过写入临时文件来返回值。

使用嵌入式 JavaScript 进行图片识别

你可以修改 main.rs 中的 Rust 程序以嵌入不同的 JavaScript 程序。 在下面的示例中,让我们更改为

`pub mod quickjs_sys; ... ... fn main() { ... ... let code = include_str!("../example_js/tensorflow_lite_demo/main.js"); ... ... ctx.eval_str(code, ""); }` 

main.js 代码使用 WasmEdge Tensorflow 扩展的 JavaScript API 来调用 ImageNet 读取和识别图像模型。

import {TensorflowLiteSession} from 'tensorflow_lite' import {Image} from 'image' let img = new Image('./example_js/tensorflow_lite_demo/food.jpg') let img_rgb = img.to_rgb().resize(192,192) let rgb_pix = img_rgb.pixels() let session = new TensorflowLiteSession('./example_js/tensorflow_lite_demo/lite-model_aiy_vision_classifier_food_V1_1.tflite') session.add_input('input',rgb_pix) session.run() let output = session.get_output('MobilenetV1/Predictions/Softmax'); let output_view = new Uint8Array(output) let max = 0; let max_idx = 0; for (var i in output_view){ let v = output_view[i] if(v>max){ max = v; max_idx = i; } } print('label index:',max_idx,'\nconfidence:',max/255) 

你可以将 Rust + JavaScript 应用程序构建到单个 WebAssembly 字节码程序中。 注意 --features=tensorflow 标志,它要求 Rust 编译器使用 WasmEdge TensorFlow 扩展 API。

$ cargo build --target wasm32-wasi --release --features=tensorflow 

运行并查看打印到控制台的结果。

$ cd example_js/tensorflow_lite_demo $ wasmedge --dir .:. ../../target/wasm32-wasi/release/quickjs-rs-wasi.wasm 

运行地更快

运行上面的 Tensorflow 推理示例需要花费 1-2 秒。这在 Web 应用场景中是可以接受的,但还能改进。在上篇文章中,我们提过由于其 AOT(提前编译器)优化,WasmEdge 是当前速度最快的 WebAssembly runtime。 WasmEdge 提供了一个 wasmedgec 实用程序来将 wasm 文件编译为原生的 so 共享库。你可以使用 wasmedge 来运行 so 文件而不是 wasm 文件以获得更快的性能。

下面的例子使用了 wasmedgewasmedgec 的扩展版本来支持 WasmEdge Tensorflow 扩展。

$ cd example_js/tensorflow_lite_demo $ wasmedgec-tensorflow ../../target/wasm32-wasi/release/quickjs-rs-wasi.wasm quickjs-rs-wasi.so $ wasmedge-tensorflow-lite --dir .:. quickjs-rs-wasi.so 

你可以看到图像分类任务可以在 0.1 秒内完成。这至少是 10 倍的改进!

so 共享库不能跨机器和操作系统移植。你必须在你部署和运行应用程序的机器上运行 wasmedecwasmedec-tensorflow

下一步

在 Rust 中嵌入 JavaScript 是一种创建高性能云原生应用程序的强大方法。 下一篇文章中,我们将研究另一种技术方法:在 JavaScript 中嵌入原生库。

云原生 WebAssembly 中的 JavaScript 是下一代云和边缘计算基础设施中的新兴领域。 我们也是刚刚起步! 如果你也感兴趣,请加入我们的 WasmEdge 项目或通过提出 feature request issue 告诉我们,你需要的是什么。

收藏 (0)

相关文章

    文章评论

    共有0条评论来说两句吧...