阿里妈妈基于TensorFlow做了哪些深度优化？TensorFlowRS架构解析-低调大师

阿里妈妈基于TensorFlow做了哪些深度优化？TensorFlowRS架构解析

2018-04-25 782

一．综述

深度学习比传统的逻辑回归有着更强的模型刻画能力，同时也带来了计算力百倍提升的需求。相比图像、语音、视频等领域，搜索、广告、推荐等场景有着独特的场景特点: 样本规模和特征空间通常非常巨大，千亿样本、百亿特征并不罕见，同时存在大量的稀疏特征作为Embedding输入。这就要求我们针对此场景下的计算特点对深度学习框架进行设计和优化。

本文所阐述的工作由阿里妈妈基础平台团队与PAI团队合作完成，我们基于TensorFlow在搜索、广告、推荐场景下进行了深度的优化与增强，内部项目名称为TensorFlowRS，主要的成果如下：

(1) 解决了原生TF水平扩展能力不足的问题。在我们的测试中，绝大多数搜索广告模型的训练性能提升在十倍以上，某些模型的极限性能最高可提升百倍。

(2) 支持完备的在线学习语义，模型变更实时写出；稀疏特征无需做连续

微信关注我们

原文链接：https://yq.aliyun.com/articles/585292

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

国内数据库顶会DTCC 阿里数据库技术干货全面解析

如果你是一个技术人的话，就一定听过中国数据库技术大会（简称DTCC）。作为国内数据库及大数据领域规模最大、最受欢迎的技术交流盛会，云集了国内外顶尖专家，共同探讨MySQL、NoSQL、Oracle、缓存技术、云数据库、智能数据平台、大数据安全、大数据和开源、大数据创业、大数据深度学习等领域的前瞻性热点话题与技术。自2010年以来，迄今已成功举办了八届，累计参与人次达到20000+。 2018 年 5 月 10日，DTCC2018将如约而至。阿里数据库的核心团队将亮相此会，并与国内数据库专业人士交流过去9年在数据库领域的经验。一起来看看在DTCC2018上阿里数据库团队都给你准备了哪些你最关心的主题吧。 1、主题：深度解析云原生数据库POLARDB 直播时间：5月11日下午15:00 简介：什么是“云原生数据库”，云原生数据库的标准是什么，

2018-04-26

672

今天上午在北京举行的GMIC大会上，Facebook首席AI科学家Yann LeCun进行了主题演讲。他介绍了当前AI的一些最新进展，FAIR在计算机视觉、机器翻译等领域提出的一些最先进的架构。LeCun认为，监督学习不会被替代，但监督会不断减少，或者不断弱化。他强调了可微分编程的潜力，称未来还会出现更多的有关深度学习的变革，比如说更复杂的架构，同时也会出现更多的新理论。 Yann LeCun（杨立昆）首先介绍了今天的基于监督学习的AI系统。今天所有的应用，不管是影像、声音或者是图像的识别，或者一种语言翻译到另外一种语言，以及测试等等，都可以利用AI。通过深度学习我们可以训练机器，比如说向它展示一个车的图像，它就会知道这是一辆车，下次向机器展示同一个图像的话你就会得到你想要的答案。在这种监督下的学习对于计算机学习说是非常重要的。深度

2018-04-26

603

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。