打破在服务器基础设施上运行AI的瓶颈局限之一
【大咖・来了 第7期】10月24日晚8点观看《智能导购对话机器人实践》
现如今的企业组织机构正在大规模的采用AI人工智能应用程序来解析不断呈指数级增长的庞大数据量,这不仅要求极高,并且需要具备强大的并行处理功能,因此原来的标准化CPU已然无法充分执行许多AI解析任务了。有鉴于此,当企业数据中心在接近或达到服务器性能的瓶颈局限时,究竟应该相应的采取哪些有效的应对措施呢?
在本文中,我们将帮助您企业数据中心准备并应对由AI应用程序为企业本地部署环境和云基础架构所带来的限制。同时,我们还采访了数据中心业界的同行们,邀请他们提供了相关的指导性建议,其中包括着重强调了企业数据中心与服务器供应商密切合作的重要性,这些服务器供应商可以为您的企业从早期阶段尽快过渡到稳步的高级生产阶段,进而充分利用AI功能提供相应的指导。
当前的企业组织机构正在积极努力的应对众多的变数,以确定他们对使用由深度学习时带来的能够提供新的洞察见解的人工智能(AI)应用程序到底应该采取怎样的立场。而这一领域在当下可以说是充满了***的商机,不采取积极的行动可能会演变成商业灾难,因为企业的竞争对手们正在收集并分析处理海量以前无法获得的数据信息,来扩大其客户群。大多数企业组织都已然意识到了这一严峻的挑战,故而他们的业务部门、IT员工、数据科学家和开发人员们都在共同努力,以确定企业的人工智能战略。
在某种程度上,采用AI战略的企业将逐步体验到在利用AI应用程序方面更为先进的领军企业们过往的经历:他们的服务器性能将遭遇到瓶颈局限问题。人工智能应用程序,特别是深度学习系统可以对当下呈指数级不断增长的海量数据信息进行分析,但这些系统要求非常高,并且需要具备强大的并行处理能力,故而越来越多的标准化CPU已然无法充分执行这些AI任务了。早期阶段和高级阶段的AI用户在某些时候将不得不彻底改造其服务器基础设施以实现所需的相关性能。
因此,IDC建议正在开发AI功能或扩展现有AI功能的企业组织机构应以严格控制的方式解决这一服务器性能瓶颈问题。务必要在充分掌握相关细节的前提下实施下一步的基础设施迁移。此外,我们建议他们务必要与其服务器供应商密切合作,这些服务器供应商可以为企业客户从早期阶段尽快过渡到稳步的高级生产阶段,进而充分利用AI功能提供相应的指导。
打破在数据中心服务器基础设施上运行AI的瓶颈
IDC发现,大多数处于概念验证(POC)测试或生产模式的人工智能和深度学习应用程序的企业在某种程度上已经达到了 “服务器基础设施瓶颈限制”的水平——有时在这些企业迁移到不同的服务器基础设施后,会不止一次的出现基础设施瓶颈局限性的问题。
IDC采访了相关的企业组织当他们在其现有的企业内部部署服务器基础架构上开始运行AI应用程序时所经历的情况。77.1%的受访者表示他们在内部服务器部署基础设施上运行AI遇到了一个或多个限制。在采用了认知软件的云用户中,90.3%的企业遇到了这种限制。下表1列出了在企业内部部署服务器环境和云基础架构中运行AI应用程序的相关限制。
表1:基础架构运行AI应用程序的瓶颈限制(排名分主次顺序)
资料来源:《认知服务器基础架构调查》2017年6月,IDC
正是由于这些基础设施的瓶颈局限问题的出现,很多企业很快经历了代际转变。尽管人工智能应用程序和深度学习的兴起仅仅只有几年时间,但IDC发现,已有22.8%的企业在采用第三代服务器基础设施来运行其人工智能应用程序了,而37.6%的企业在使用第二代服务器基础设施,39.6%的企业则在使用***代的服务器基础设施。上述这些调查百分比表明了当下的企业客户正在寻找合适的基础设施。而下表2则列出了AI服务器基础架构最常出现的代际。
表2:人工智能服务器基础设施最常见的代际(排名分顺序)
资料来源:《认知服务器基础架构调查》2017年6月,IDC
转向具有更高处理器性能(通常所采取的最常见的措施)、更大的I / O带宽和加速器的系统是一个合理的决定。但是这些数据也表明了理想配置所存在的不确定性。一些企业已经尝试了横向规模化扩展,并纵向扩展;而另外一些企业则采取了相反的方案。其他某些迁移从虚拟机开始,然后转移到专用服务器,而其他一些同行却与此相反。
这些矛盾的举措其实并不像其看起来那么奇怪。当前的企业组织不仅在AI软件上进行试验,而且同时也在基础设施上进行试运行。一些企业已经开始采用横向的规模化扩展配置,并且随着解决方案的日趋成熟,他们决定需要更高的性能,而这些性能能够在数据中心的现有扩展系统中获得。其他一些企业则在扩展系统的一个分区上启动了POC,并在解决方案进入下一阶段时决定将其转移到一个单插槽或双插槽的服务器集群。同样的,一款解决方案可能已经在虚拟机中开发出来,然后被迁移到专用的服务器上,以便在有些绝缘隔热的的环境中进一步开发(很多企业更倾向于在早期阶段如此进行)。
IDC认为,对于早期的实验和开发而言,所有这些迁移的举措都是有道理的。利用现有的环境意味着延迟投资于新的服务器基础设施,直到企业明确了什么是最为恰当的配置为止。但是,一旦应用程序接近运行并准备投入生产,就需要及时的做出合理的基础架构方面的决策了,以避免触及基础设施的瓶颈。
根据来自已经运行了AI应用程序的企业用户们的反馈,我们认为:认知应用程序的理想基础架构配置是一组具有加速器的单路或双路服务器,不过,企业也还可以根据实际业务需要在稍后阶段添加加速器。中型系统集群也是可行的,但只有在工作负载迅速的规模化扩展的情况下才是相关的。其他配置可能也是可行的。从对于企业用户的研究中可以清楚地看出,超融合系统和虚拟机已被证明对认知应用的影响较小。
低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
步入计算多元化时代 异构计算为什么发展空间巨大?
【大咖・来了 第7期】10月24日晚8点观看《智能导购对话机器人实践》 在互联网行业,随着信息化的普及,数据量的暴增使得人们对存储空间又有了新要求,同时,机器学习、人工智能、无人驾驶、工业仿真等领域的崛起,使得通用CPU在处理海量计算、海量数据/图片时遇到越来越多的性能瓶颈,如并行度不高、带宽不够、时延高等。 为了应对计算多元化的需求,越来越多的场景开始引入GPU、FPGA等硬件进行加速,异构计算应运而生。异构计算(Heterogeneous Computing),主要指不同类型的指令集和体系架构的计算单元组成的系统的计算方式。 20世纪80年代,异构计算技术就已经诞生了。所谓的异构,就是CPU、DSP、GPU、ASIC、协处理器、FPGA等各种计算单元、使用不同的类型指令集、不同的体系架构的计算单元,组成一个混合的系统,执行计算的特殊方式,就叫做“异构计算”。 特别是在人工智能领域,异构计算大有可为。众所周知,AI意味着对计算力的超高要求,目前以GPU为代表的异构计算已成为加速AI创新的新一代计算架构。 我们为什么需要异构计算? 谈到计算,我们通常会想到CPU,但是CPU属于通用计算...
- 下一篇
2018 年 4 月 Web 服务器调查报告,微软持续上涨
【大咖・来了 第7期】10月24日晚8点观看《智能导购对话机器人实践》 Netcraft 发布了2018 年 4 月 Web 服务器调查报告,排名前三的依然是 Microsoft、Apache 和nginx。 本月微软继续增长,增长了 1.15个百分点,市场份额达到 36.94%。 Nginx 这个月还是下滑趋势,下降了 0.65 个百分点,但是市场份额从 23.11% 降到了 22.62%。 Apache 同样下降了 1.15 个百分点,市场份额从 26.23% 跌至 25.58%。 在面向 Web 的计算机市场(web-facing computers market)中,nginx再次上涨 0.46 个百分点至24.97%。Apache 和 Microsoft 均有小幅下滑。 在活跃站点方面,Apache 本月下降了 0.62个百分点,Nginx、Google 和微软均略有上升。 了解更多数据可查阅榜单详情。 NETCRAFT 公司官网每月公布的调研数据(Web Server Survey)已成为当今人们了解全球网站数量以及服务器市场分额情况的主要参考依据,时常被诸如华尔街杂志,英...
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- Docker使用Oracle官方镜像安装(12C,18C,19C)
- Jdk安装(Linux,MacOS,Windows),包含三大操作系统的最全安装
- Springboot2将连接池hikari替换为druid,体验最强大的数据库连接池
- Linux系统CentOS6、CentOS7手动修改IP地址
- CentOS7,CentOS8安装Elasticsearch6.8.6
- CentOS8编译安装MySQL8.0.19
- SpringBoot2整合MyBatis,连接MySql数据库做增删改查操作
- CentOS关闭SELinux安全模块
- 设置Eclipse缩进为4个空格,增强代码规范
- SpringBoot2整合Redis,开启缓存,提高访问速度