【云周刊】第209期:Perseus(擎天):统一深度学习分布式通信框架 [弹性人工智能]
本期头条
Perseus(擎天):统一深度学习分布式通信框架 弹性人工智能
近些年来,深度学习在图像识别,自然语言处理等领域快速发展。各种网络模型,需要越来越多的计算力来进行训练。以典型的中等规模的图像分类网络Resnet50为例,基准的训练精度为Top-1 76%, Top-5 为 93%,为达到此精度,一般需要将整个Imagenet数据集的128万张图片,训练90次(90 epoch). 这样的计算量,以单张P100的计算力需要6天才能训练完毕,而最近的NLP 领域取得突破的Bert 模型以及GPT-2的预训练,如果在单机上进行则需要数月甚至按年计。因此在实际的生产环境,引入分布式训练,大大降低模型训练所需的时间,提高模型迭代的速度成为紧迫的需求。基于这样的需求,各大深度学习框架,基本都实现了分布式训练的支持。点击查看
低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
RDS数据订阅服务使用说明
RDS数据订阅服务使用说明 RDS数据订阅服务主要解决的RDS上的数据同步到HBase,用户可以在HBase上查到RDS的数据,满足大数据查询分析的需求 使用场景 历史数据沉淀 业务使用MySQL承担交易等关键的在线业务,同时有数据分析的需求,需要做一些复杂查询,但不能影响在线业务。利用BDS异构数据源迁移,把RDS数据实时同步到HBase,可以轻松应对大数据查询需求。 迁移方式 RDS历史数据迁移 通过Sqoop完成RDS历史数据迁移到HBase 通过DataX完成RDS历史数据迁移到HBase RDS实时增量数据迁移 DTS服务提供对RDSbinlog收集,实时抓取源RDS实例的binlog,并提供数据订阅的功能 BDS迁移服务订阅DTS所收集的数据,将实时的数据写入到HBase 迁移步骤(钉钉联系@侧田(jianan.xjn)) RDS历史数据迁
- 下一篇
大数据学习一般学什么
大数据已经成为发展的趋势 那么大数据学习到底应该掌握哪些知识呢,笔者根据自己的经验总结如下: 学习要根据自身情况来定,如果你是零基础,那就必须先从基础java开始学起(大数据支持很多开发语言,但企业用的最多的还是JAVA),接下来学习数据结构、linux系统操作、关系型数据库,夯实基础之后,再进入大数据的学习,具体可以按照如下体系: 其实这就是想告诉你的大数据的三个发展方向,平台搭建/优化/运维/监控、大数据开发/设计/架构、数据分析/挖掘。 第一阶段 CORE JAVA (加**的需重点熟练掌握,其他掌握) Java基础** 数据类型,运算符、循环,算法,顺序结构程序设计,程序结构,数组及多维数组 面向对象** 构造方法、控制符、封装 继承** 多态** 抽象类、接口** 常用类 集合Collection、list** HashSet、TreeSet、Collection 集合类Map** 异常,File 文件/流** 数据流和对象流** 线程(理解即可) 网络通信(理解即可) 第二阶段 数据结构 关系型数据库 Linux系统操作 Linux操作系统概述,安装Linux操作系统,图形...
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- Red5直播服务器,属于Java语言的直播服务器
- Hadoop3单机部署,实现最简伪集群
- CentOS7,CentOS8安装Elasticsearch6.8.6
- CentOS7安装Docker,走上虚拟化容器引擎之路
- CentOS7编译安装Gcc9.2.0,解决mysql等软件编译问题
- Windows10,CentOS7,CentOS8安装MongoDB4.0.16
- CentOS7编译安装Cmake3.16.3,解决mysql等软件编译问题
- SpringBoot2整合Redis,开启缓存,提高访问速度
- CentOS6,7,8上安装Nginx,支持https2.0的开启
- Linux系统CentOS6、CentOS7手动修改IP地址