Web函数请求多并发上线，Web服务部署更快更省！-低调大师

Web函数请求多并发上线，Web服务部署更快更省！

2022-05-24 466

Web函数（Web Function）是云函数的一种函数类型，区别于事件函数（Event Function），Web函数通过支持原生的HTTP/WebSocket协议，兼容任意一种原生Web框架编写的Web服务，无需改造即可将传统项目部署到函数，保证和本地开发服务体验一致。

自21年6月推出以来，广受欢迎，数万传统Web项目轻松迁移到函数上，让老代码也能在Serverless基础设施上继续发光。然而，随着Web函数在更多场景得到应用，一些问题也逐渐暴露出来。

一、Web函数请求单并发

默认情况下，在调用函数时，云函数会分配一个并发实例处理请求或事件。函数代码运行完毕返回后，该实例会处理其他请求。如果在请求到来时，所有实例都在运行中，云函数则会分配一个新的并发实例。一个并发实例同一时刻仅处理一个事件的运行逻辑，保障每个事件的处理效率和稳定性。

在大多数情况下，请求单并发都是值得推荐使用的模式，无需在写代码时考虑多个请求同时处理带来的典型并发难题，例如线程安全、阻塞调用、异常处理等。

而在Web应用中，典型的业务场景是IO密集型——函数内访问数据库或其他系统的接口等下游服务，会有较多时间在等待这些下游服务响应。这种等待一般都是在做iowait，不怎么消耗CPU，此时，单实例单并发模式则会产生两个问题:

计算资源浪费，在websocket长连接中尤为突出；
计费略高，每一个同时进来的请求因为分配在不同的实例中进行处理，单独计费，整体费用较传统容器或主机方案没有优势。

二、Web函数请求多并发

Web函数目前已经支持请求多并发模式，您可以根据业务需要进行启用和配置。请求多并发支持自定义静态并发、智能动态并发两种模式。

（一）自定义静态并发

启用后，当同时有多个请求，将不超过指定并发值的请求调度到同一函数实例内执行。并发增多，将增加函数实例的CPU、内存等消耗，建议配合压力测试进行合理设置，避免函数执行异常。目前支持的并发范围为2～100并发。

（二）智能动态并发

启用后，在函数实例负载允许的情况下，智能动态调度更多请求到同一函数实例内运行。将于后续推出，敬请期待。

三、压测

多并发vs单并发压测结果：最大请求延迟降低82.7%，成本节约98.8%

测试说明：

在北京地域准备一个Web函数，模拟请求响应时间500ms，函数配置为512MB。

在北京市准备公网压测环境，分别压测未开启多并发和开启100多并发时的表现，压测条件为：100并发，持续请求50000次。

未开启请求多并发：需要60个实例，最大响应时间4177ms，计费内存时间12500GBs

客户端压测结果：最大响应时间4177ms，平均响应时间为569ms。压测开始时，函数接收到100并发请求，立即开始冷启动拉起函数实例，在冷启动过程中，头几批请求开始等待，最长响应时间为4177ms，而随着实例拉起来正常处理请求，则新的并发请求会被立即均匀分配到多个实例中进行处理，因此后续的大多数请求等待时间小，整体平均响应时间被拉平，回归到正常水平。

函数监控截图：一开始冷启动瞬间拉起了100个实例，后续实例轮转复用，平稳在60实例。计费时间为0.5GB*0.5s*50000=12500GBs。

开启请求多并发：仅需1个实例，最大响应时间723ms，计费时长150GBs

客户端压测结果：最大响应时间723ms，平均响应时间为565ms。压测开始时，函数接收到100并发请求，立即开始冷启动拉起函数实例，在冷启动过程中，头一批请求开始等待，最长响应时间为723ms，而随着第一个实例被拉起来，新的并发请求会被立即分配到该实例中进行处理。处于等待冷启动中的请求数要显著少于未开启多并发时。

函数监控截图：并发请求进入，所有请求被分配到一个函数实例进行立即处理。

函数计费时间内存截图：只需一个实例，多并发模式下，分配到同一实例处理的请求，只会计算一次，计费时间为0.5GB*282.728s=141GBs。节省98.8%费用。

四、请求多并发的优势

（一）成本更低

未开启请求多并发时，单个函数实例一次只会处理一个请求，第一个请求处理完成才会开始处理下一个请求，内存时间的计费时长是每个请求的执行时长的加和，如下图所示：

开启请求多并发之后，单个函数实例一次会处理多个并发请求，第一个请求未结束时，如果第二个请求进来，则会有一段时间两个请求同时在处理，此时，交叠的这段时间只会计算一次。如下图所示：

可以看到，在IO密集型场景中，如Websocket长连接业务，可减少计费执行时长，节省费用。

（二）性能提升

多个请求并发在同一个实例中可复用数据库连接池，减缓下游服务压力。

请求并发密集时，多个请求只需要一个实例进行处理，无需拉起多个实例，从而降低实例冷启动几率，降低响应延迟。

云函数产品介绍：

https://cloud.tencent.com/product/scf

Web函数请求多并发产品文档：

https://cloud.tencent.com/document/product/583/71688

微信关注我们

原文链接：https://my.oschina.net/qcloudcommunity/blog/5530913

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

HDFS 细粒度锁优化，FusionInsight MRS有妙招

摘要：华为云FusionInsight MRS通过FGL对HDFS NameNode锁机制进行优化，有效提升了NameNode的读写吞吐量，从而能够支持更多数据，更多业务请求访问，从而更好的支撑政企客户高效用数，业务洞见更准，价值兑现更快。本文分享自华为云社区《FusionInsight MRS HDFS 细粒度锁优化实践》，作者：pippo。背景 HDFS依赖NameNode作为其元数据服务。NameNode将整个命名空间信息保存在内存中提供服务。读取请求（getBlockLocations、listStatus、getFileInfo）等从内存中获取信息。写请求（mkdir、create、addBlock）更新内存状态，并将日志事务写入到日志服务（QJM）。 HDFS NameNode的性能决定了整个Hadoop集群的可扩展性。命名空间性能的改进对于进一步扩展Hadoop集群至关重要。 Apache HDFS 整体架构如下： Apache HDFS 交互信息如下：痛点 HDFS NameNode的写操作的性能受全局命名空间系统锁的限制。每个写操作都会获取锁并保留锁，直到该操作...

2022-05-24

393

本文是从项目工程角度来讲解的，技术角度请参看另一个文章《真实项目代码教你四步扔了传统服务器，让你优雅使用Serverless做全栈开发》（https://zhuanlan.zhihu.com/p/493447018) 本文汇总了我的多个Serverless的全栈项目实际开发的经验，主要针对中小型项目。可以直接使用我的经验，或者根据实际情况再做调整。第一步：决策Serverless 项目管理的艺术体现在如何在限定条件下发挥优势、规避劣势，因此我们需要先确定中小项目里Serverless的优劣势是什么。（一）Serverless的优势成本低：对小项目来说，Serverless的成本可以说极其低，虽然我们技术人员不太关心和负责成本，但是对于中小项目的公司级决策来说，成本是一个无法规避的问题。低人员需求（专注开发）：不再需要对服务器环境进行配置、管理和优化了，代码直接上传即可使用。颠覆式的性能优化（性能就是这么方便）：这个是我最看重的优势，也是必须发挥的优势。传统服务器的调优配置是针对全项目级的，一个接口出现性能瓶颈需要拉动整个项目的配置，而Serverless可以做单个API接...

2022-05-24

399

资源下载

更多资源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。