每日一博 | 2023 年的 Web Worker 项目实践
前言—
Web Workers
是 2009 年就已经提案的老技术,但是在很多项目中的应用相对较少,常见一些文章讨论如何写 demo ,但很少有工程化和项目级别的实践,本文会结合 Web Workers
在京东羚珑的程序化设计项目中的实践,分享一下在当下的 2023 年,关于 worker
融入项目的一些思考和具体的实现方式,涉及到的 demo 已经放在 github 上附在文末,可供参考。
先简单介绍下 Web Workers
,它是一种可以运行在 Web 应用程序后台线程,独立于主线程之外的技术。众所周知,JavaScript 语言是单线程模型的,而通过使用 Web Workers
,我们可以创造多线程环境,从而可以发挥现代计算机的多核 CPU 能力,在应对规模越来越大的 Web 程序时也有较多收益。
Web Workers 宏观语义上包含了三种不同的 Worker:DedicatedWorker(专有worker)
、 SharedWorker(共享Worker)
、 ServiceWorker
,本文讨论的是第一种,其他两种大家可以自行研究一下。
引入 Web Worker—
当引入新技术时,通常我们会考虑的问题有:1、兼容性如何?2、使用场景在哪?
问题 1,Web Workers 是 2009 年的提案,2012 年各大浏览器已经基本支持,11 年过去了,现在使用已经完全没有问题啦
问题 2,主要考虑了以下 3 点:
-
Worker API
的局限性:同源限制、无 DOM 对象、异步通信,因此适合不涉及 DOM 操作的任务 -
Worker
的使用成本:创建时间 + 数据传输时间;考虑到可以预创建,可以忽略创建时间,只考虑数据传输成本,这里可参考 19 年的一个测试 Is postMessage slow [1] ,简要结论是比较乐观的,大部分设备和数据情况下速度不是瓶颈 -
任务特点:需要是可并行的多任务,为了充分利用多核能力,可并行的任务数越接近 CPU 数量,收益会越高。多线程场景的收益计算,可以参考 Amdahl
公式,其中F
是初始化所需比例,N
是可并行数:
综上结论是,可并行的计算密集型任务适合用 Worker
来做。
不过 github 上我搜罗了一圈,也发现有一些不局限于此,颇有创意的项目,供大家打开思路:
-
redux 挪到了 worker 内 [2] -
dom 挪到了 worker 内 [3] -
可使用多核能力的框架 [4]
Worker 实践—
介绍完 worker
,一个问题出现了:为什么一个兼容性良好,能够发挥并发能力的技术(听起来很有诱惑力),到现在还没有大规模使用呢?
我理解有 2 个原因:一是暂无匹配度完美的使用场景,因此引入被搁置了;二是 worker api
设计得太难用,参考很多 demo 看,限制多配置还麻烦,让人望而却步。本文会主要着力于第二点,希望给大家的 worker
实践提供一些成熟的工程化思路。
至于第一点理由,在如此卷的前端领域,当你手中已经有了一把好用的锤子,还找不到那颗需要砸的钉子吗?
Worker 到底有多难用
下面是一个原始 worker
的调用示例,上面是主线程文件,下面是 worker
文件:
// index.js
const worker = new Worker('./worker.js')
worker.onmessage = function (messageEvent) {
console.log(messageEvent)
}
// worker.js
importScripts('constant.js')
function a() {
console.log('test')
}
其中问题有:
-
postMessage
传递消息的方式不适合现代编程模式,当出现多个事件时就涉及分拆解析和解决耦合问题,因此需要改造 -
新建 worker
需要单独文件,因此项目内需要处理打包拆分逻辑,独立出worker
文件 -
worker
内可支持定义函数,可通过importScript
方式引入依赖文件,但是都独立于主线程文件,依赖和函数的复用都需要改造 -
多线程环境必然涉及同步运行多个 worker
,多worker
的启动、复用和管理都需要自行处理
看完这么多问题,有没有感觉头很大,一个设计这样原始的 api,如何舒服的使用呢?
类库调研
首先可以想到的就是借助成熟类库的力量,下面表格是较为常见的几款 worker
类库,其中我们可能会关注的关键能力有:
-
通信是否有包装成更好用的方式,比如 promise
化或者rpc
化 -
是否可以动态创建函数——可以增加 worker
灵活性 -
是否包含多 worker
的管理能力,也就是线程池 -
考虑 node
的使用场景,是否可以跨端运行
比较之下,workerpool[5] 胜出,它也是个年纪很大的库了,最早的代码提交在 6 年前,不过实践下来没有大问题,下文都会在使用它的基础上继续讨论。
有类库加持的 worker 现状
通过使用 workerpool
,我们可以在主线程文件内新建 worker
;它自动处理多 worker
的管理;可以执行 worker
内定义好的函数 a
;可以动态创建一个函数并传入参数,让 worker
来执行。
// index.js
import workerpool from 'workerpool'
const pool = workerpool.pool('./worker.js')
// 执行一个 worker 内定义好的函数
pool.exec('a', [1, 2]).then((res) => {
console.log(res)
})
// 执行一个自定义函数
pool
.exec(
(x, y) => {
return x + y
}, // 自定义函数体
[1, 2], // 自定义函数参数
)
.then((res) => {
console.log(res)
})
// worker.js
importScripts('constant.js')
function a() {
console.log('test')
}
但是这样还不够,为了可以舒适的写代码,我们需要进一步改造。
向着舒适无感的 worker 编写前进
我们期望的目标是:
-
足够灵活:可以随意编写函数,今天我想计算 1+1
,明天我想计算1+2
,这些都可以动态编写,最好它可以直接写在主线程我自己的文件里,不需要我跑到worker
文件里去改写; -
足够强大:我可以使用公共依赖,比如 lodash
或者是项目里已经定义好的某些公共函数。
考虑到 workerpool
具备了动态创建函数的能力,第一点已经可以实现;而第二点关于依赖的管理,则需要自行搭建,接下来介绍搭建步骤。
-
抽取依赖,管理编译和更新:
新增一个依赖管理文件worker-depts.js
,可按照路径作为 key 名构建一个聚合依赖对象,然后在 worker
文件内引入这份依赖
// worker-depts.js
import * as _ from 'lodash-es'
import * as math from '../math'
const workerDepts = {
_,
'util/math': math,
}
export default workerDepts
// worker.js
import workerDepts from '../util/worker/worker-depts'
-
定义公共调用函数,引入所打包的依赖并串联流程:
worker
内定义一个公共调用函数,注入 worker-depts 依赖,并注册在 workerpool
的方法内
// worker.js
import workerDepts from '../util/worker/worker-depts'
function runWithDepts(fn: any, ...args: any) {
var f = new Function('return (' + fn + ').apply(null, arguments);')
return f.apply(f, [workerDepts].concat(args))
}
workerpool.worker({
runWithDepts,
})
主线程文件内定义相应的调用方法,入参是自定义函数体和该函数的参数列表
// index.js
import workerpool from 'workerpool'
export async function workerDraw(fn, ...args) {
const pool = workerpool.pool('./worker.js')
return pool.exec('runWithDepts', [String(fn)].concat(args))
}
完成以上步骤,就可以在项目任意需要调用 worker
的位置,像下面这样,自定义函数内容,引用所需依赖(已注入在函数第一个参数),进行使用了。
这里我们引用了一个项目内的公共函数 fibonacci
,也引用了一个 lodash
的 map
方法,都可以在depts
对象上取到
// 项目内需使用worker时
const res = await workerDraw(
(depts, m, n) => {
const { map } = depts['_']
const { fibonacci } = depts['util/math']
return map([m, n], (num) => fibonacci(num))
},
input1,
input2,
)
-
优化语法支持
没有语法支持的依赖管理是很难用的,通过对 workerDraw
进行 ts
语法包装,可以实现在使用时的依赖提示:
import workerpool from 'workerpool'
import type TDepts from './worker-depts'
export async function workerDraw<T extends any[], R>(fn: (depts: typeof TDepts, ...args: T) => Promise<R> | R, ...args: T) {
const pool = workerpool.pool('./worker.js')
return pool.exec('runWithDepts', [String(fn)].concat(args))
}
然后就可以在使用时获取依赖提示:
-
其他问题
新增了 worker
以后,出现了 window
和 worker
两种运行环境,如果你恰好和我一样需要兼容 node
端运行,那么运行环境就是三种,原本我们通常判断 window 环境使用的也许是 typeof window === 'object'
这样,现在不够用了,这里可以改为 globalThis 对象,它是三套环境内都存在的一个对象,通过判断globalThis.constructor.name
的值,值分别是'Window' / 'DedicatedWorker'/ 'Object'
,从而实现环境的区分
总结—
通过使用 workerpool
,添加依赖管理和构建公共 worker
调用函数,我们实现了一套按需调用,灵活强大的 worker
使用方式。
在京东羚珑的程序化设计项目中,通过把 skia 图形绘制部分逐步改造为 worker
内调用,我们实现了整体服务耗时降低 75% 的效果,收益还是非常不错的。
文中涉及的代码示例都已放在 github[6] 上,内有 vite
和 webpack
两个完整实现版本,感兴趣的小伙伴可以 clone 下来参照着看~
参考资料—
Is postMessage slow: https://dassur.ma/things/is-postmessage-slow/
[2]redux 挪到了 worker 内: https://blog.axlight.com/posts/off-main-thread-react-redux-with-performance
[3]dom 挪到了 worker 内: https://github.com/ampproject/worker-dom
[4]可使用多核能力的框架: https://github.com/neomjs/neo
[5]workerpool: https://github.com/josdejong/workerpool
[6]github: https://github.com/Silencesnow/worker-demo-2022
[7]MDN Web Workers API: https://developer.mozilla.org/zh-CN/docs/Web/API/Web_Workers_API
[8]workerpool: https://github.com/josdejong/workerpool
[9]前端项目上 Web Worker 实践: https://www.youtube.com/watch?v=AEpG-3XXrjk
[10]Web Worker 文献综述: https://juejin.cn/post/6854573213297410062
本文分享自微信公众号 - 凹凸实验室(AOTULabs)。
如有侵权,请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一起分享。

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
云原生业界生态空前活跃,要落地仍然考验创造力
于爽(Calvin Yu) 青云科技 KubeSphere 容器产品负责人,参与并研发了多款青云容器相关产品,如 Kubernetes On QingCloud,KubeSphere 等。在加入青云科技之前,于爽供职于 IBM,对中间件监控、电子商务等多个领域有深入研究。青云科技旗下开源项目 OpenFunction ,是一个现代化的函数即服务项目,它能够帮助开发者专注于他们的业务逻辑,而不必担心底层运行环境和基础设施,此外,它引入了 Knative、Tekton、Shipwright、Dapr、KEDA 等些技术栈,为打造新一代开源函数计算平台提供了无限可能。 近日,OSCHINA 和 Gitee 联合发布了《2022 中国开源开发者报告》。青云科技 KubeSphere 容器产品负责人于爽(Calvin Yu)在报告中对开源云原生领域发展进行了解读,以下为原文。 云原生业界生态空前活跃,要落地仍然考验创造力 CPU 经历了单核到多核的发展,电脑、手机等个人电子设备也借助互联网和 5G 实现了社会数字化、万物互联。而 2022 年这一年,云原生领域,也在潜移默化地发生着类似的变化。 ...
- 下一篇
PureFlash —— 分布式存储系统
PureFlash是一个开源的分布式存储系统,项目起始于2016年。 一、PureFlash整体介绍 PureFlash是一个开源的ServerSAN实现,也就是通过大量的通用服务器,加上PureFlash的软件系统,构造出一套能满足企业各种业务需求的分布式SAN存储。 PureFlash是为全闪存时代而设计的存储系统。当前SSD盘的应用越来越广泛,大有全面取代HDD的趋势。SSD与HDD的显著区别就是性能差异,这也是用户体验最直接的差异,而且随着NVMe接口的普及,二者差异越来大,这种近百倍的量变差异足以带来架构设计上的质变。举个例子,原来HDD的性能很低,远远低于CPU、网络的性能能力,因此系统设计的准则是追求HDD的性能最大化,为达到这个目标可以以消耗CPU等资源为代价。而到了NVMe时代,性能关系已经完全颠倒了,盘不再是瓶颈,反而CPU、网络成为系统的瓶颈。那种消耗CPU以优化IO的方法只能适得其反。 因此我们需要一套全新的存储系统架构,以充分发挥SSD的能力,提高系统的效率。PureFlash的设计思想以简化IO stack, 数据通路与控制通路分离,快速路径优先为基本原则,...
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- Docker快速安装Oracle11G,搭建oracle11g学习环境
- CentOS7安装Docker,走上虚拟化容器引擎之路
- Docker安装Oracle12C,快速搭建Oracle学习环境
- SpringBoot2全家桶,快速入门学习开发网站教程
- CentOS7设置SWAP分区,小内存服务器的救世主
- CentOS7,CentOS8安装Elasticsearch6.8.6
- Hadoop3单机部署,实现最简伪集群
- SpringBoot2更换Tomcat为Jetty,小型站点的福音
- Docker使用Oracle官方镜像安装(12C,18C,19C)
- SpringBoot2配置默认Tomcat设置,开启更多高级功能