谷歌开源更快、更高效的 TensorFlow 运行时 TFRT
TensorFlow 官方博客宣布开源新的运行时 TFRT,该运行时提供了统一的、可扩展的基础结构层,并在各类硬件上均具有高性能。
TFRT 产品经理 Eric Johnson 表示,TFRT 将取代现有的 TensorFlow 运行时。原有的 TensorFlow 运行时最初是为图形执行和训练模型的工作负载而构建的。与之相比,新的运行时将急切的执行需求放在第一位,同时特别强调架构的可扩展性和模块化。
它能够很好地满足开发复杂模型时寻求更快的迭代时间的开发者需求、在训练和服务生产模型时改进性能的需求,以及希望以模块化方式将边缘和数据中心设备集成到 TensorFlow 中的硬件制造商需求。
简单来讲,TFRT 可以减少开发、验证和部署企业级模型所需的时间。
TFRT 利用了 eager 和图形执行的通用抽象,为了获得更好的性能,其图执行器支持并发执行操作和异步 API 调用。在性能测试中,与 TensorFlow 当前的运行时相比,TFRT 将经过训练的 ResNet-50 模型(一种流行的图像识别算法)在图形卡上的推理时间缩短了 28%。
TFRT 仍处在早期开发阶段,它已经与 TensorFlow 集成,最终将成为其默认运行时。
关于 TFRT 的更多信息,可查看 TensorFlow 官方博客:https://blog.tensorflow.org/2020/04/tfrt-new-tensorflow-runtime.html
低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
微软开源 MsQuic,QUIC 协议的跨平台实现
微软在其技术社区官方博客宣布,已开源自己的内部 QUIC 库,即 MsQuic。 QUIC(QuickUDPInternetConnections,快速 UDP 网络连接)是一种实验性的网络传输协议,正在由 IETF 进行标准化。QUIC 最初由谷歌开发,在 2013 年实现。谷歌希望使用这个协议来取代 HTTPS/HTTP 协议,使网页传输速度加快。2018 年,基于 QUIC 协议的 HTTP(HTTP over QUIC)成为即将到来的 HTTP/3,正式被确定为下一代网络规范。 微软的 MsQuic 是实现 QUIC 传输协议的跨平台通用库,主要用于支持其产品内部的 QUIC 数据连接。MsQuic针对多种使用模式进行了优化,已经被多个微软产品和服务使用,包括但不限于: Windows 将在内核中附带 MsQuic,Windows HTTP/3 堆栈也是基于 MsQuic 构建的。 Microsoft 365 正在使用 HTTP/3 测试 IIS 的预览版。 .NET Core 已在 MsQuic 的基础上在 Kestrel 和 HttpClient 中构建了对 HTTP/3 ...
- 下一篇
ECS权益配额新特性-精细化的实例规格配额管理
功能说明 ECS控制台迁移配额功能新做了改版和优化,一方面,你可以通过该功能查看ECS产品相关的配额限制,针对实例规格部分的配额限制还能自助发起提额申请流程。正常情况下,申请将在一个工作日内完成审核。 操作步骤 1、前往 ECS 控制台概览页 点击页面右上角的【权益配额】,进入到页面后,可以方便的查看或搜索ECS资源的使用限制,并且可以通过资源类型进行筛选。针对可申请提升的使用限制,你可以点击工单申请进行提额。 2、目前ECS针对地域、可用区、付费类型、网络类型以及实例规格做了精细化的配额限制,你可以通过实例规格限制的功能,合理搭配筛选条件,查询出相应的限制。 3、针对实例规格的限制,该功能还提供了新的提额方式,你可以针对特定的限制自助申请提升限制额度,你可以通过该限制的详情页,查看到对应的提额申请的记录。同一时间特定配额限制只允许一条审核中的记录,提额申请一般会在一个工作日内得到响应。 4、提交提额申请时,你可根据当前的总配额上限来决定要申请的配额值范围,不合理的设置可能会导致审核不通过。 其他 后续,申请提额的入口会逐渐增强针对合理提额的自动审批能力,以便在合理提额的范围内,做到即...
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- Mario游戏-低调大师作品
- CentOS6,CentOS7官方镜像安装Oracle11G
- SpringBoot2配置默认Tomcat设置,开启更多高级功能
- Windows10,CentOS7,CentOS8安装Nodejs环境
- Docker安装Oracle12C,快速搭建Oracle学习环境
- Windows10,CentOS7,CentOS8安装MongoDB4.0.16
- CentOS8编译安装MySQL8.0.19
- MySQL8.0.19开启GTID主从同步CentOS8
- CentOS8安装Docker,最新的服务器搭配容器使用
- CentOS8,CentOS7,CentOS6编译安装Redis5.0.7