首页 文章 精选 留言 我的
优秀的个人博客,低调大师

微信关注我们

原文链接:https://www.oschina.net/news/306517/537clock-1-3-released

转载内容版权归作者及来源网站所有!

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

案例分享|Alluxio 在B站AI训练场景的应用

分享嘉宾 刘礼铭 bilibili 人工智能资深工程师 刘礼铭,毕业于浙江大学,负责B站 AI 机器学习平台。 分享提纲 B站 AI 训练场景介绍; Alluxio 如何提升 AI 训练效率; 未来规划 👉观看完整分享👈 B站AI的训练场景 机器学习平台介绍 首先,简单介绍一下B站 AI 的训练场景,整个机器学习平台的架构如下图所示: 它具备了一个常规机器学习平台的能力,比如交互式建模、数据集管理、模型训练、模型部署等基础能力,用户也会有一些精确的数据集、业务团队以及资源运营相关的能力,同时对机器学习框架(比如业界流行的 TensorFlow、PyTorch、DeepSeed 以及自研的一些框架等)都需要兼容。同时,为了加速整个训练的收益,我们与 Alluxio 进行了很多合作,搭建了一个在 AI 训练场景的训练集群,调度器主要是 Volcano,是现在机器学习平台常用的。 已有存储方案介绍 下图是我们搭建 Alluxio 之前的存储方案, HDFS 主要针对大数据的分析场景,B站自研的 OSS 存储叫 BOSS,还有一些 NAS 存储的系统,当然每个存储系统都有自己的优缺点,...

高性能跨平台网络通信框架 HP-Socket v6.0.2

项目主页:http://www.oschina.net/p/hp-socket 开发文档: https://www.docin.com/p-4592706661.html 下载地址: https://github.com/ldcsaa/HP-Socket v6.0.2 更新 一、主要更新 优化Linux通信组件多路复用处理架构,避免“惊群”问题,提升性能。 自动为 HP-Socket 工作线程设置唯一线程名称,方便跟踪调试。 TCP Client/Agent 以同步方式连接服务端时,支持通过 SetSyncConnectTimeout() 设置连接超时时间。 支持定时回收垃圾内存和被动回收垃圾内存(默认使用定时回收,回收间隔 15 秒)。 Windows版本支持在没有安装 MFC 的环境下编译。 二、第三方库更新 openssl 升级到 3.0.14 版本 llhttp 升级到 9.2.1 版本 mimalloc 升级到 2.1.7 版本 zlib 升级到 1.3.1 版本 HP-Socket 组件列表 基础组件 SSL 组件 HTTP 组件

相关文章

发表评论

资源下载

更多资源
Oracle

Oracle

Oracle Database,又名Oracle RDBMS,或简称Oracle。是甲骨文公司的一款关系数据库管理系统。它是在数据库领域一直处于领先地位的产品。可以说Oracle数据库系统是目前世界上流行的关系数据库管理系统,系统可移植性好、使用方便、功能强,适用于各类大、中、小、微机环境。它是一种高效率、可靠性好的、适应高吞吐量的数据库方案。

Apache Tomcat

Apache Tomcat

Tomcat是Apache 软件基金会(Apache Software Foundation)的Jakarta 项目中的一个核心项目,由Apache、Sun 和其他一些公司及个人共同开发而成。因为Tomcat 技术先进、性能稳定,而且免费,因而深受Java 爱好者的喜爱并得到了部分软件开发商的认可,成为目前比较流行的Web 应用服务器。

JDK

JDK

JDK是 Java 语言的软件开发工具包,主要用于移动设备、嵌入式设备上的java应用程序。JDK是整个java开发的核心,它包含了JAVA的运行环境(JVM+Java系统类库)和JAVA工具。

Sublime Text

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能,例如代码缩略图,Python的插件,代码段等。还可自定义键绑定,菜单和工具栏。Sublime Text 的主要功能包括:拼写检查,书签,完整的 Python API , Goto 功能,即时项目切换,多选择,多窗口等等。Sublime Text 是一个跨平台的编辑器,同时支持Windows、Linux、Mac OS X等操作系统。