首页 文章 精选 留言 我的
优秀的个人博客,低调大师

微信关注我们

原文链接:https://my.oschina.net/u/5783135/blog/5598315

转载内容版权归作者及来源网站所有!

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

「风控算法服务平台」高性能在线推理服务设计与实现

本文作者:郁昌存 来自京东科技-风险管理中心 一、背景/目标 1) 风控智能化体系建设依赖大量深度学习/机器学习模型进行实时在线的风险识别、智能决策。要求可以将算法模型快速部署为在线服务,供决策引擎调用。 2) 风控决策引擎涵盖交易、支付、营销等核心链路,业务场景对决策系统性能要求极高,平均tp99<50ms。要求算法模型实时服务在高吞吐量下,仍能满足性能要求。 3)精细化运营大背景下,算法模型服务需要支持大促不降级,且不能通过野蛮加机器方式提高吞吐量。要求从技术及架构层进行改进,对算法模型在线推理性能有质的提升。 二、平台整体概览 三、产品功能 四、在线推理模块设计方案 本文主要以在线推理服务模块展开讲解: 1. 多引擎支持 抽象底层,将不同框架实现、自定义脚本语言统一定义为引擎,引擎提供模型load、predict方法。 1)自定义脚本引擎:Python、Groovy。 2)机器学习引擎:Pytorch、Tensorflow、MxNet、XGBoost、PMML、TensorRT。 3)支持引擎动态扩展,接口继承实现load、predict方法即可。 2. 高性能 集成nat...

深入浅出DDD编程

作者 | 刘嘿嘿、离夏、立羽 导读 最近几年,微服务拆分大行其道,在业务越来越复杂的情况下,许多业务纷纷抛弃了传统单体架构,拥抱微服务。但随着微服务的拆分结束,大家又发现了新的问题,比如服务间逻辑复杂,运维复杂性变高,微服务架构变得越来越难以管理,最终演化成大泥球架构。 而本文主要介绍如何通过DDD对微服务进行拆分,首先介绍了什么是DDD,通过从分析DDD的优势,到如何通过DDD进行业务拆分,并且在最后通过代码样例的方式,深入浅出的为读者介绍了DDD代码的核心实现。帮助大家进一步的了解DDD应该如何落地。 全文6271字,预计阅读时间16分钟。 01 什么是DDD DDD(领域驱动设计),起源于2004年Eric Evans出版《领域驱动设计》,近些年由于微服务的兴起,大家逐渐对单体服务进行拆分。 但是随着微服务拆分,由于业务逻辑拆分不合理导致调用环路问题、重试风暴问题等等,都给系统造成了更多的风险,并且随着业务更加复杂微服务职责划分出现问题,则业务迭代效率变得越来越差,最终变成一个大泥球系统。 而DDD的优势便是指导业务进行微服务拆分,下面我们以会员中心为例来具体讲解一下如何进行业务...

相关文章

发表评论

资源下载

更多资源
优质分享App

优质分享App

近一个月的开发和优化,本站点的第一个app全新上线。该app采用极致压缩,本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长,特征是大鼻子、头戴帽子、身穿背带裤,还留着胡子。与他的双胞胎兄弟路易基一起,长年担任任天堂的招牌角色。

腾讯云软件源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题,腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构,目前腾讯云软件源站支持公网访问和内网访问。

Sublime Text

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能,例如代码缩略图,Python的插件,代码段等。还可自定义键绑定,菜单和工具栏。Sublime Text 的主要功能包括:拼写检查,书签,完整的 Python API , Goto 功能,即时项目切换,多选择,多窗口等等。Sublime Text 是一个跨平台的编辑器,同时支持Windows、Linux、Mac OS X等操作系统。

用户登录
用户注册