如何搭建大规模机器学习平台？以阿里和蚂蚁的多个实际场景为例-低调大师

如何搭建大规模机器学习平台？以阿里和蚂蚁的多个实际场景为例

2017-08-14 701

近年来，随着“大”数据及“大”模型的出现，学术界和工业界对分布式机器学习算法引起了广泛关注。针对这一刚需，本论文设计了一个独一无二的分布式平台——鲲鹏。它无缝的结合了分布式系统及并行优化算法，解决了大规模机器学习算法带来的一系列问题。鲲鹏不仅囊括了数据/模型并行、负载平衡、模型同步、稀疏表示、工业容错等特性，而且还提供了封闭好的、宜于调用的API供普通的机器学习者开发分布式算法，降低使用成本并提升效率。

本论文的实验在十亿级别的样本和特征数据上进行，结果表示，鲲鹏这一设计使得一系列算法的性能都得到了极大的提升，包括FTRL，Sparse-LR，以及MART。此外，鲲鹏在阿里巴巴双11狂欢购物节及蚂蚁金服的交易风险检测中体现出了其巨大的应用价值。

研究背景

现在是个大数据的时代，各个平台的数据量都与时俱进。举例而言，国外的Twitter每

微信关注我们

原文链接：https://yq.aliyun.com/articles/171164

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

不容忽视无服务器架构的四大主要弊端

无服务器架构是指高度依赖于第三方服务（即后端即服务，简称BaaS）或者运行在临时容器（即功能即服务，简称FaaS）内之定制化代码的应用程序，目前最为知名的相关服务为AWSLambda。尽管名为"无服务器"，但此类架构并非将代码彻底剥离于服务器之外。"无服务器计算"是指企业或个人无需购买、租赁或配置用于支持后端代码运行的物理或者虚拟服务器。无服务器解决方案通常包含Web服务器、FaaS层、安全令牌服务（简称STS）、用户验证以及数据库等组成要素。无服务器代码可与面向常规服务器形式的代码--例如微服务--并发运行。举例来说，我们可将一款Web应用中的部分代码以微服务形式编写，而另一部分则可表现为无服务器形式。此外，在编写当中完全不涉及任何服务器配置要素的应用程序亦可实现无服务器化。 FaaS提供的平台允许开发者根据具体事件触发代码执行操作，而无需构建并维护复杂的基础设施。在这一体系当中，由第三方应用或服务对服务器端逻辑及状态进行管理。无服务器计算的弊端1.第三方API系统的问题供应商控制、多租户问题、供应商锁定以及安全缺陷等负面影响皆可能由第三方API所引发。在不具备系统控制能力的...

2017-08-15

518

Twitter 上有人泄露了微软正在开发的 Windows 10 Cloud(云)版本的操作系统镜像文件。这一版本的操作系统只能运行从 Windows Store 购买的 UWP 应用程序，安装 32 位软件将会被提示版本不适配，但可以安装商店里的 32 位转制 App。据了解，Windows 10 Cloud 是 Windows 10 在 ARM 处理器上运行计划的一部分，就现在的版本来看，已经取得了很大的进步。 Windows 10 Cloud 版本提醒用户「本版本的 Windows 10 用于保护个人安全，只能运行 Windows Store 应用程序」。虽然有人尝试直接安装 32 位软件报错，但是从 Windows Store 中下载 32 位、经过桌面应用转换器转换的 App 却可以运行。不过说到底，转换后的 App 已经不是传统意义上的 32 位软件，已经成为 UWP 应用。去年年底曝光的 Windows 10 ARM 版本可以运行 Photoshop 并且能够流畅使用，现在用户可以从商店下载 32 位应用，也就是说在不久的将在用户可以在商店里面下载到更多的软件来使用，不...

2017-08-15

620

资源下载

更多资源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。