wasmer 运行时
上一篇文章分享了基于wasm的openssl实践，讲述了openssl的MD5算法如何在浏览器中执行。在探索过程中发现了openssl是可以通过wasm编译后直接run，并且有自己的runtime，这是因为openssl.wasm是通过wasmer编译运行的，这一篇文章分享制作具有运行时的openssl.wasm
概述
- Wasmer介绍
- Openssl编译到WASM
- 总结
一、Wasmer介绍
Wasmer是一个用于在服务器上执行WebAssembly的开源运行时。支持基于WebAssembly的超轻量级容器，该容器可以在任何地方运行，还可以嵌入其他编程语言。其生态包括以下几个部分：
1. Wasmer Runtime
Wasmer Runtime是Wasmer生态其中一个，允许wasm模块可以独立运行。关键功能是使程序能够以任何编程语言运行；使二进制文件能够在Wasmer支持的任何“操作系统”（例如Linux、macOS、Windows和FreeBSD）上不加修改地运行；充当Wasm模块，通过应用程序二进制接口（ABI），如WASI（WebAssembly System Interface）和Emscripten（1.38.43及更早版本）与本机“操作系统”功能交互的安全桥梁。
2. WAPM
WAPM是WebAssembly Package Manager的缩写，为可以独立使用的Wasmer Runtime做的软件包管理器。可以理解为通过Wasmer软件包编译出来的.wasm文件是可以独立运行的，WAPM就是为了管理这些能独立运行的runtime而存在的。如图：
搜索一个openssl运行时的.wasm。
提供了运行时环境。
整个看上去和docker hub有点像，还有制作方法，我们可以参考做一个新版的openssl.wasm.
3. WebAssembly.sh
WebAssembly shell程序是一个在线shell程序，您可以在其中拖放WebAssembly模块以进行尝试，还可以执行WAPM中可用的WASI模块的所有命令。在线演示地址：https://webassembly.sh/
4. Wasienv
Wasienv是一个工具，旨在将所有编程语言引入WebAssembly WASI的工具可以将不同的编程语言编译到WebAssembly中，然后在浏览器或服务器中运行程序。
看上去和上一篇我们使用的Emscripten很像，虽然两者都能把高级语言编译成.wasm文件，但是后者更注重web方面的开发在浏览器中运行(也是第一个生成wasm的工具)，前者是解决跨平台的问题，体现的是wasm的可移植性。
这里有个WebAssembly WASI的概念，WASI是WebAssembly System Interface的缩写,是WebAssembly 平台的系统接口, 由Wasmtime项目设计,目的是为WASM设计一套引擎无关(engine-indepent), 面向非Web系统(non-Web system-oriented)的API标准。因为 WebAssembly 是概念机的汇编语言，所以 WebAssembly 需要一个概念操作系统的系统接口，而不是任何单一操作系统的系统接口。 这样，它就可以在所有不同操作系统中运行。
二、 Openssl编译到WASM
1. 环境准备
-
Python 3.7.3
-
Pip3 19.3.1
-
Openssl 官网： https://www.openssl.org/source
-
依赖工具 wasienv
2. 安装wasienv
curl https://raw.githubusercontent.com/wasienv/wasienv/master/install.sh | sh
问题1
我本地无法解析raw.githubusercontent.com
解决办法
把install.sh复制到本地执行
问题2
执行过程中 pip3 install wasienv --install-option="--install-scripts=$INSTALL_DIRECTORY/bin" --upgrade --user 报错，不支持这种写法
WARNING: Skipping wasienv as it is not installed.
/usr/local/lib/python3.7/site-packages/pip/_internal/commands/install.py:235: UserWarning: Disabling all use of wheels due to the use of --build-option / --global-option / --install-option.
cmdoptions.check_install_build_global(options)
ERROR: Location-changing options found in --install-option: ['--install-scripts'] from command line. This is unsupported, use pip-level options like --user, --prefix, --root, and --target instead.
解决办法
经过查阅资料，是因为pip3更新到最新版本导致，不支持--install-option=“”显示传参，回退版本
pip install --upgrade pip==19.3.1
问题3
执行过程 curl https://get.wasmer.io -sSfL | sh报错，无法解析域名
解决办法
浏览器访问，把内容复制出来，我保存的文件是install2.sh，修改install.sh中的引用。
问题4
执行过程 INSTALL_DIRECTORY/bin/wasienv install-sdk unstable
File "/usr/local/lib/python3.7/site-packages/urllib3/connectionpool.py", line 659, in urlopen
conn = self._get_conn(timeout=pool_timeout)
File "/usr/local/lib/python3.7/site-packages/urllib3/connectionpool.py", line 279, in _get_conn
return conn or self._new_conn()
File "/usr/local/lib/python3.7/site-packages/urllib3/connectionpool.py", line 948, in _new_conn
"Can't connect to HTTPS URL because the SSL module is not available."
解决办法
分析
这是说python没有ssl模块，对于依赖的包，无法下载的问题。
经过查阅资料，python ssl模块对于openssl的版本有要求，所以这里尝试升级openssl
# 当前版本
~/Desktop/wasm$ openssl version
LibreSSL 2.8.3
# 安装其他版本openssl,第一步很慢
brew update && brew upgrade
brew uninstall --ignore-dependencies openssl;
brew install https://github.com/tebelorg/Tump/releases/download/v1.0.0/openssl.rb
参考文档
https://www.jianshu.com/p/f8585da77ed9
https://stackoverflow.com/questions/45954528/pip-is-configured-with-locations-that-require-tls-ssl-however-the-ssl-module-in/59280089#59280089
https://stackoverflow.com/questions/35280956/ignoring-ensurepip-failure-pip-7-1-2-requires-ssl-tls-python-3-x-os-x#35282183
#设置brew源
https://www.jianshu.com/p/b26c7bc14440
问题4.1
安装openssl 错误
Error: Calling Non-checksummed download of openssl formula file from an arbitrary URL is disabled! Use 'brew extract' or 'brew create' and 'brew tap-new' to create a formula file in a tap on GitHub instead.
If reporting this issue please do so at (not Homebrew/brew or Homebrew/core):
https://github.com/tebelorg/Tump/issues/new
解决办法
是openssl版本问题
执行
brew uninstall openssl
brew tap-new $USER/old-openssl
brew extract --version=1.0.2t openssl $USER/old-openssl
brew install openssl@1.0.2t
参考文档：https://github.com/kelaberetiv/TagUI/issues/635
一顿操作之后，wasienv工具安装完成。
3. openssl 生成 .wasm文件
我通过WAPM找到了openssl编译的脚本，这是一个开源的例子。
git clone https://github.com/wapm-packages/OpenSSL.git
目录结构
build.sh
#!/usr/bin/env sh
# Based on code from https://github.com/TrueBitFoundation/wasm-ports/blob/master/openssl.sh
OPENSSL_VERSION=1.1.1d
PREFIX=`pwd`
DIRECTORY="openssl-${OPENSSL_VERSION}"
if [ ! -d "$DIRECTORY" ]; then
echo "Download source code"
wget https://www.openssl.org/source/openssl-${OPENSSL_VERSION}.tar.gz
tar xf openssl-${OPENSSL_VERSION}.tar.gz
fi
cd openssl-${OPENSSL_VERSION}
echo "Configure"
make clean
wasiconfigure ./Configure linux-x32 -no-asm -static -no-sock -no-afalgeng -DOPENSSL_SYS_NETWARE -DSIG_DFL=0 -DSIG_IGN=0 -DHAVE_FORK=0 -DOPENSSL_NO_AFALGENG=1 -DOPENSSL_NO_SPEED=1 || exit $?
cp ../progs.h apps/progs.h
sed -i 's|^CROSS_COMPILE.*$|CROSS_COMPILE=|g' Makefile
echo "Build"
wasimake make -j12 build_generated libssl.a libcrypto.a apps/openssl
rm -rf ${PREFIX}/include
mkdir -p ${PREFIX}/include
cp -R include/openssl ${PREFIX}/include
cp -R apps/openssl.wasm ../
echo "Done"
思路如下：
- 从openssl官网上下载对应版本的包。
- 通过之前安装的wasienv工具生成Makefile文件。
- cp progs.h文件到openssl/apps目录下
- 编译生成wasm文件，此时wasm文件在apps/openssl目录下。
- 将openssl/include和.wasm文件复制到新的目录下。
4、验证openssl.wasm
~/Desktop/wasm/openssl_demo/OpenSSL$ wasmer run openssl.wasm
OpenSSL> help
Standard commands
asn1parse ca cms crl
crl2pkcs7 dgst dhparam dsa
dsaparam ec ecparam enc
engine errstr exit gendsa
genpkey genrsa help list
nseq ocsp passwd pkcs12
pkcs7 pkcs8 pkey pkeyparam
pkeyutl prime rand rehash
req rsa rsautl sess_id
smime spkac srp ts
verify version x509
Message Digest commands (see the `dgst' command for more details)
blake2b512 blake2s256 gost md4
md5 mdc2 rmd160 sha1
sha224 sha256 sha384 sha512
speed
Cipher commands (see the `enc' command for more details)
aes-128-cbc aes-128-ecb aes-192-cbc aes-192-ecb
aes-256-cbc aes-256-ecb base64 bf
bf-cbc bf-cfb bf-ecb bf-ofb
camellia-128-cbc camellia-128-ecb camellia-192-cbc camellia-192-ecb
camellia-256-cbc camellia-256-ecb cast cast-cbc
cast5-cbc cast5-cfb cast5-ecb cast5-ofb
des des-cbc des-cfb des-ecb
des-ede des-ede-cbc des-ede-cfb des-ede-ofb
des-ede3 des-ede3-cbc des-ede3-cfb des-ede3-ofb
des-ofb des3 desx idea
idea-cbc idea-cfb idea-ecb idea-ofb
rc2 rc2-40-cbc rc2-64-cbc rc2-cbc
rc2-cfb rc2-ecb rc2-ofb rc4
rc4-40 seed seed-cbc seed-cfb
seed-ecb seed-ofb
看起来还不错，基本的命令还是有的，生成一个rsa私钥试试。
#!/usr/bin/env sh
wasmer run openssl.wasm --dir=. -- genrsa -des3 -out priv.key 1024 || exit $?
~/Desktop/wasm/openssl_demo/OpenSSL$ cat priv.key
-----BEGIN RSA PRIVATE KEY-----
Proc-Type: 4,ENCRYPTED
DEK-Info: DES-EDE3-CBC,6D2827691E261E49
ADR7PRPukSBTEHiWvLxuj8DyU9QtiZIC0ZEQxJMRhx7n0b1J5wnrmIMfwbgtVLru
7vi/zdMqwIRJ7Afq3/g0r0/rWA55CF3SCX+UVSGnMrkOV68MWh2ETFCBD3NqmNG3
XZToct1bON0ES6OTEON+4V3PBunSpeU+6EKE8pTOLBeb6Frt1IQ1FgG8xVGfsCnk
DJKncHzN0D66mFlW0mrluiNvHk/PfBvzXQv2FlTdvctThOj/DK6yQ3m4PtPLYn1d
7qOy1wQt1OuXHnymgkR66Rf6OA2aAJXPxBp7C/aVxEAWWLKNw3zv/9rhlOqkIsEQ
i+tnf58VEBR6HGCDXA4UD83x1Pr9h0l5pcrHcvZYv+bnSiIhZGIVSCx0U9jmgbef
qg+L4wzIaaWaOTKpCtHm/10DWII5H6TO6uQHF8Bjz3bvR77tv/jaKRgrG+F7y4h9
5I+DsQjHhcQvIi2aro2o0DGsaD0qLK4jWbvFRxBb7FBfBEFQ9AWz04tZ9Oco5/Ti
ybMaZyLoCNGauqEQV3vS1OoR9IZ1Dzqra5X+YDRSGxTN+31dSCDYH5ta1VTHJyis
SMDfEisqz6vcIyEf+pWzF+yzhQj9aAqFEbWg+pG0Bhx4GXxhLy0WjnFVlWHxjTjN
hoZYC0vKc9uNvzaewFjHEn3IwnXTaXdknE25uBBc18ceBsaW7uzW7D4iPvjhtOC3
znrwo+VGuNPGJTb7md9Dz1q2fjTrPintPftN9ZqxAjeYx+7NiVZfm71mV88EAXYW
eQMQZmTFTiSyTcotDkyRPkvbDbXEytB4sVbwXiBasKxmrgzgz6UIjA==
-----END RSA PRIVATE KEY-----
三、总结
本篇文章主要介绍了WebAssembly的运行时，以及如何制作一个运行时的openssl.wasm。整体感觉还不错，现在我们有了运行时的openssl.wasm，并且支持基本的命令，但不知道性能如何，下一篇文章分享openssl.wasm与原生openssl性能对比。
参考资料
- Wasmer文档
- WAPM
Netwarps 由国内资深的云计算和分布式技术开发团队组成，该团队在金融、电力、通信及互联网行业有非常丰富的落地经验。Netwarps 目前在深圳、北京均设立了研发中心，团队规模30+，其中大部分为具备十年以上开发经验的技术人员，分别来自互联网、金融、云计算、区块链以及科研机构等专业领域。 Netwarps 专注于安全存储技术产品的研发与应用，主要产品有去中心化文件系统（DFS）、去中心化计算平台（DCP），致力于提供基于去中心化网络技术实现的分布式存储和分布式计算平台，具有高可用、低功耗和低网络的技术特点，适用于物联网、工业互联网等场景。 公众号：Netwarps
