全图化引擎(AI·OS)中的编译技术-低调大师

全图化引擎(AI·OS)中的编译技术

2018-11-29 803

全图化引擎又称算子执行引擎，它的介绍可以参考从HA3到AI OS -- 全图化引擎破茧之路。本文从算子化的视角介绍了编译技术在全图化引擎中的运用。主要内容有：

1. 通过脚本语言扩展通用算子上的用户订制能力，目前这些通用算子包括scorer算子，filter算子等。这一方面侧重于编译前端，我们开发了一种嵌入引擎的脚本语言cava，解决了用户扩展引擎功能的一些痛点，包括插件的开发测试效率，兼容性，引擎版本升级效率等。

2. 通过codegen技术优化全图化引擎性能，由于全图化引擎是基于tensorflow开发，它天生具备tensorflow xla编译能力，利用kernel的fuse提升性能，这部分内容可以参考XLA Overview。xla主要面向tensorflow内置的kernel，能发挥的场景是在线预测模型算分。但是对于用户自己

微信关注我们

原文链接：https://yq.aliyun.com/articles/674227

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

PHP 源码探秘 - 在解析外部变量时的一个 BUG

bug 复现有个朋友跟我描述了一个bug，要我帮看看是什么情况。原本他有一个表单，如下。 <form method="post"> <input type="text" name="id[]" value="1"> <input type="text" name="id[]" value="2"> <input type="submit"> </form> 但是有一个前端插件会动态插入两个input，最后ajax提交的时候是 <form method="post"> <input type="text" name="id[]" value="1"> <input type="text" name="id[]_text" value="a"> <input type="text" name="id[]" value="2"> <input type="text" name="id[]_text" value="b"> <input type="submit"&g...

2018-11-30

591

String：内容不可更改 String字符串对象的内容不可更改，更改是一种假象，实际更改的是堆内存的指向。例如：String str = "Hello"; str+" word!"; 首先系统会在栈内存中开辟一个栈空间存储"str"，然后在堆内存中开辟一个堆空间存储"Hello"，栈内存空间中的"str"指向堆内存空间的"Hello"。到" str+"word!"; "时，系统会再开辟两个堆内存空间，一个存放" word!"，另一个存放"Hello word!"，然后栈内存空间中的"str"指向堆内存空间的"Hello word!"，之后"Hello"与" word!"所占的堆内存空间会因为没有被引用而被系统回收。所以，用String变量拼接字符串的时候与其他两种字符串操作对象相比，较为耗内存空间。 StringBuffer：

2018-11-30

648

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。