腾讯 Angel 正式加入 LF 深度学习基金会,代码库已迁移
今年3月我们曾报道过,腾讯计划将开源的 Angel 项目贡献给 LF 深度学习基金会。8月27日,Angel 正式宣布加入 LF 基金会,并表示即将发布可达万亿级维度特性计算的 2.0 版本。 Angel 是一个基于参数服务器(ParameterServer)理念的高性能分布式机器学习平台,在腾讯内部广泛应用于腾讯视频推荐、微信内容推荐、广点通点击率预估等业务场景,于2017年6月正式开源。Angel发布之初的口号是可以轻松处理 TB 级别的数据和十亿维度的主题模型,从目前透露的 2.0 相关信息来看,Angel 将扩展到千亿级维度特性。 Angel 2.0 特性: 1. 万亿级维度特性计算 a)基于参数服务器,Angel 可以轻松扩展到万亿级维度的模型 b)针对稀疏大模型的场景, Angel 对底层数数学库进行了做了优化 c)Angel 上的算法通过 pulling/pushing 子模型, 轻松训练万亿级维度的模型 2.高性能数学库 a)无泛型设计, 采用 Java 基础数据类型来加速计算 b)使用快速哈希方法,加速稀疏向量/矩阵运算 c)Long-Key 索引和 Co...
