全图化引擎(AI·OS)中的编译技术
全图化引擎又称算子执行引擎，它的介绍可以参考从HA3到AI OS -- 全图化引擎破茧之路。本文从算子化的视角介绍了编译技术在全图化引擎中的运用。主要内容有：
1. 通过脚本语言扩展通用算子上的用户订制能力，目前这些通用算子包括scorer算子，filter算子等。这一方面侧重于编译前端，我们开发了一种嵌入引擎的脚本语言cava，解决了用户扩展引擎功能的一些痛点，包括插件的开发测试效率，兼容性，引擎版本升级效率等。
2. 通过codegen技术优化全图化引擎性能，由于全图化引擎是基于tensorflow开发，它天生具备tensorflow xla编译能力，利用kernel的fuse提升性能，这部分内容可以参考XLA Overview。xla主要面向tensorflow内置的kernel，能发挥的场景是在线预测模型算分。但是对于用户自己
关注公众号 低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有，本站原创内容转载请注明来源。
- 上一篇
PHP 源码探秘 - 在解析外部变量时的一个 BUG
bug 复现 有个朋友跟我描述了一个bug，要我帮看看是什么情况。原本他有一个表单，如下。 <form method="post"> <input type="text" name="id[]" value="1"> <input type="text" name="id[]" value="2"> <input type="submit"> </form> 但是有一个前端插件会动态插入两个input，最后ajax提交的时候是 <form method="post"> <input type="text" name="id[]" value="1"> <input type="text" name="id[]_text" value="a"> <input type="text" name="id[]" value="2"> <input type="text" name="id[]_text" value="b"> <input type="submit"&g...
- 下一篇
Java语言中的String、StringBuffer和StringBuilder三者的详细介绍
String：内容不可更改 String字符串对象的内容不可更改，更改是一种假象，实际更改的是堆内存的指向。 例如：String str = "Hello"; str+" word!"; 首先系统会在栈内存中开辟一个栈空间存储"str"，然后在堆内存中开辟一个堆空间存储"Hello"，栈内存空间中的"str"指向堆内存空间的"Hello"。到" str+"word!"; "时，系统会再开辟两个堆内存空间，一个存放" word!"，另一个存放"Hello word!"，然后栈内存空间中的"str"指向堆内存空间的"Hello word!"，之后"Hello"与" word!"所占的堆内存空间会因为没有被引用而被系统回收。所以，用String变量拼接字符串的时候与其他两种字符串操作对象相比，较为耗内存空间。 StringBuffer：
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- Eclipse初始化配置，告别卡顿、闪退、编译时间过长
- Red5直播服务器，属于Java语言的直播服务器
- Docker使用Oracle官方镜像安装(12C,18C,19C)
- Springboot2将连接池hikari替换为druid，体验最强大的数据库连接池
- Docker安装Oracle12C，快速搭建Oracle学习环境
- CentOS6,CentOS7官方镜像安装Oracle11G
- Jdk安装(Linux,MacOS,Windows),包含三大操作系统的最全安装
- CentOS关闭SELinux安全模块
- CentOS7编译安装Gcc9.2.0，解决mysql等软件编译问题
- Windows10,CentOS7,CentOS8安装MongoDB4.0.16
微信收款码
支付宝收款码