首页 文章 精选 留言 我的

精选列表

搜索[国密算法],共10000篇文章
优秀的个人博客,低调大师

Pluto-基于Caffe的GPU多机多卡深度学习算法产品

作者 阿里巴巴-计算平台-机器学习团队 同Caffe的关系 完全兼容Caffe。Pluto基于开源库Caffe扩展而来,是Caffe的超集,完全兼容Caffe的配置和数据,使用过Caffe的同学几分钟就能用Pluto跑起多机多卡版程序。 Pluto的单机核心代码同开源社区版本保持同步,所以开源社区提供的一些新特性我们能够迅速merge到Pluto里面 新特性 我们来源于Caffe,但同时根据我们的用户需求我们提供了一些Pluto独有的新特性,帮助用户在模型训练中提高效率。 多机多卡,通过并行计算提高计算和收敛速度。 数据读取提供多lmdb支持。开源版本只能从一个lmdb读取训练数据,Pluto提供支持从多个lmdb按概率(可配置)读取数据,可以更好的支持用户训练数据的增量更新,不会因为训练数据增加而重新制作lmdb文件。 hdf5文件prefetch支持。因为hdf5文件读取时需要全部load进内存的特点,当以hdf5文件作为数据存储格式时数据读取时间同计算时间无法进行overlap。Pluto提供文件级的prefetch支持,通过独立线程在计算时preload下一份hdf5文件,缩短训练时间。 Sequential learning支持。Sequence learning对于语音识别和自然语言处理中存在时序关联的数据进行处理建模拥有天然的优势。Pluto中提供的Sequence learning的相关支持,包括常用的RNN/LSTM以及双向的LSTM,可以高效准确的进行自然场景图片描述(如Image Caption)和自然语言处理中的相关建模任务。 多种同步模式支持。用户可以配置多卡间的同步轮数间隔,默认每轮同步一次;也可以配置按时间同步,即每张卡独立的迭代一段时间后同步一次,适用于资源竞争激烈或快慢机明显的环境。 Sparse 数据格式支持。支持sparse格式的训练数据。 性能分析 实验环境 GPU Device: Tesla K40m with 12GiB display memory, two cards in each box Network: InfiniBand, GPU direct cuDNNv2:open Alexnet在Imagenet数据集上的实验结果 梯度平均在每轮计算都做一次梯度平均,可以获得同单机一模一样的收敛结果,即acc57.1%,计算和收敛加速比如下: 模型平均每张卡各自计算若干轮后做一次模型平均,会影响收敛结果,但是可以提高计算加速比,结果如下: 收敛曲线 Googlenet在Imagenet数据集上的实验结果: 模型平均 收敛曲线 如何使用 在阿里云机器学习平台PAI上,可以选择Caffe组件使用。 使用文档见: https://help.aliyun.com/document_detail/49571.html?spm=5176.doc42745.6.548.Dd4AFR#Caffe

优秀的个人博客,低调大师

[免费]手把手,阿里算法专家教你21天搭建推荐系统

【线上活动报名】 活动:21天快速搭建推荐系统 讲师:阿里云技术专家郑重(卢梭) 时间:6月16日晚20:00 报名方式: (一)长按上图二维码,扫码报名 (二)扫码加入“大数据文摘-阿里云栖社区” 群定位:阿里系云计算、大数据、人工智能等技术讨论 群中会有专人指导大家完成注册并提供如下群友福利: (1)实战技术培训干货(在线培训、培训文章、PDF等)放送 (2)阿里云计算、大数据等产品意见、建议反馈 (3)不定期专家讲座答疑 (4)受邀成为社区专家,共同策划技术选题 (5)各种福利早知道,比如云主机优惠券、课程通知、新品试用等 (6)优先报名参加云栖社区的线下活动,如云栖大会等 ◆◆◆ 推荐系统的搭建是个复杂工程,涉及到实时计算、离线计算,以及各种数据采集、流转等,对自建推荐系统来说,1人年是跑不掉的。本文介绍如何搭建一个个性化推荐系统所需的环境准备、

资源下载

更多资源
Mario

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长,特征是大鼻子、头戴帽子、身穿背带裤,还留着胡子。与他的双胞胎兄弟路易基一起,长年担任任天堂的招牌角色。

Nacos

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称,一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集,帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Rocky Linux

Rocky Linux

Rocky Linux(中文名:洛基)是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版,作为CentOS稳定版停止维护后与RHEL(Red Hat Enterprise Linux)完全兼容的开源替代方案,由社区拥有并管理,支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性,采用模块化包装和SELinux安全架构,默认包含GNOME桌面环境及XFS文件系统,支持十年生命周期更新。

WebStorm

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源,继承了IntelliJ IDEA强大的JS部分的功能。

用户登录
用户注册