如何让手机快速运行AI应用？这有份TVM优化教程-低调大师

如何让手机快速运行AI应用？这有份TVM优化教程

2018-01-21 596

本文来自AI新媒体量子位（QbitAI）

在移动设备上部署深度神经网络的需求正在快速增加。

和桌面平台类似，GPU也能在移动平台加速推理速度、降低能耗。但问题是，大多数现有深度学习框架并不能很好的支持移动GPU。

为什么会这样？因为移动GPU和桌面GPU在架构上存在差异。

所以想要利用移动GPU，还得进行专门的优化。这种额外的工作，最终导致的结果就是大多数深度学习框架都对移动GPU的支持不足。

TVM通过引入一个统一的IR堆栈来解决不同硬件平台的部署问题。使用TVM/NNVM可以为ARM Mali GPU生成高效内核，并且进行端到端的编译。

基于Mali-T860 MP4的测试结果表明，与Arm Compute Library相比，上面这个方法在VGG-16上快1.4倍，在MobileNet上快2.2倍。

在郑怜悯发表的这篇文章中，他还从GPU

微信关注我们

原文链接：https://yq.aliyun.com/articles/389976

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

API大赛之Serverless应用场景

1. serverless的前世今生 Serverless概念是近年来特别火的一个技术概念，这次借助2017年阿里云的第二届API大赛，来仔细一下盘点一下这个架构构建的应用场景，场景适合各行各业，对轻计算、高弹性、无状态等场景有诉求的用户都可以通过本文来普及一些基础概念，能对技术选型做一些有意义的指导就达到本文目的。关于Serverless架构的前世今生，网上比较流行一张描述人类形态发展史的网图。从爬行猿人到蹲着的类猿人，再到直立人类，最后到使用工具的新兴人类。从四只脚爬行到直立行走，释放了双手，从释放双手到开始使用工具。人类的进化每一次都伴随着生产效率的提升。同理，在整个IT计算的发展里程，也是逐步提高生产效率的里程，具体演进图如下所示：从大型物理机到通过虚拟化技术把物理机虚拟成单个的VM资源，从虚拟化集群到把集群搬到云计算上只做简单运维，再到把每一个VM按照运行空间最小化切分成更细的Docker容器，再从Doceker容器变成干脆不用管理任何运行环境的Serverless服务，即仅仅需要编写核心代码即可。代际的技术变革都是把资源切分得更细致，让运行效率变得更高，让硬件软件...

2018-01-22

559

以下是访谈实录：一王友强：罗总您好，请您介绍下您的从业经历吧？罗果：从业经历么？这个不太好回答，网友们问到这个问题的话，我一般都回答有3年工作经验，本来我也觉得好像哪里不对，不过想想右军也就十八岁，我这个也偏差不大。工作先是在东软，东软非常不错，就是东北比较冷，于是来到杭州。现在在恒生，恒生也是家好公司，这不一呆就这么多年过去了。 2013年开始试水开源，一路走来感觉非常充实，也非常感谢恒生在这方面的开放与支持。二王友强：了解到罗总写了一本《企业级Java EE架构设计精深实践》能介绍下写这本书的背景么？罗果：其实，做企业级架构这么多年了，也有一些自己的心得，不一定都是最好的，但都是我们尽可能往好了做的，都是扎扎实实的实践，许多实践也是经受住了应用过程的种种考验。当然，有可能有许多同学也有类似的问题，也就需要在这些领域踩坑，那么

2018-01-22

816

资源下载

更多资源

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。