Apache 基金会宣布 Apache Pulsar 毕业成为顶级项目
Apache 软件基金会宣布,Apache Pulsar 已经成功地从孵化毕业,成为基金会的一个新的顶级项目。
Pulsar 是一个分布式的消息发布/订阅传递平台,旨在实现可扩展性和灵活性,并确保无数据丢失。项目于2015年由 Yahoo 开源,2017年6月提交给 Apache 孵化器。
Pulsar 最初目标是创建一个多租户可扩展的消息传递系统,也正因此,其将服务区和存储层分开的独特架构,已被证明是一个关键的优势。这两层架构使 Pulsar 能够为集群操作提供极为简化的方法,允许运营商轻松扩展集群并替换故障节点,或者提供更高的写入和读取可用性。
Pulsar 利用 Apache BookKeeper 作为存储组件,目前已被 MercadoLibre、Oath、One Click Retail、STICorp、TaxiStartup、Yahoo Japan Corporation 和 Zhaopin.com 等企业使用。
低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
Uber 开源深度学习分布训练库 Petastorm
Uber 近日宣布开源 Petastorm,这是由 Uber ATG 开发的数据访问库,可直接基于数 TB的Apache Parquet格式数据集进行单机或分布式训练和深度学习模型评估。Petastorm支持流行的基于Python的机器学习(ML)框架,如Tensorflow、Pytorch和PySpark,也可以直接用在 Python 代码中。 通常,我们通过连接来自多个数据源的记录来生成数据集。该数据集由 Apache Spark 的 Python 接口 PySpark 生成,稍后将被用在机器学习训练中。Petastorm 提供了一个简单的功能,可以使用 Petastorm 特定的元数据扩展标准的 Parquet ,从而使其与 Petastorm 兼容。 使用 Petastorm ,消耗数据就像在 HDFS 或文件系统路径创建和迭代读取对象一样简单。Petastorm 使用PyArrow库来读取 Parquet 文件。过程概述图如下: Petastorm 结合了各种特性以支持自动驾驶算法的训练,包括行过滤、数据分片、shuffle、对字段子集的访问,以及对时间序列数据(n-gram...
- 下一篇
Google 开源图形着色器测试框架 GraphicsFuzz
Google 在今年8月份收购了 GraphicsFuzz , 这是一家专门从事移动图形跑分测试工具的公司。Google 发言人当时表示,GraphicsFuzz 所开发的技术能帮助图形技术供应商创建更可靠的产品,尤其是当前以技术驱动的世界中拥有很高的需求。 近日,Google 的 GitHub 页面上悄然出现了GraphicsFuzz 的源码存储库,从文档来看,该测试框架除了适用于 GLSL 着色器,还在努力扩展到其他目标,如 SPIR-V、D3D HLSL 和 Apple Metal 。 GraphicsFuzz 通过渲染 semantically equivalent 着色器和查找输出差异来发现图形驱动程序中的 bug ,这种方法被称为蜕变测试(metamorphic testing)。 GraphicsFuzz 率先将模糊和蜕变测试结合起来,产生了一种高度自动化的测试图形驱动程序的方法,该方法可以在影响最终用户之前快速发现并修复可能破坏可靠性和安全性的错误。 更多详情可查阅项目文档。
相关文章
文章评论
共有0条评论来说两句吧...