红帽 AI 推理服务器正式发布-低调大师

红帽 AI 推理服务器正式发布

2025-05-22 214

红帽公司宣布推出红帽AI推理服务器（Red Hat AI Inference Server），由vLLM驱动，并通过Neural Magic技术进一步增强，可在混合云环境中提供速度更快、性能更优且成本效益更高的AI推理。

公告称，红帽AI推理服务器是一款专为高性能设计的开放推理解决方案，配备先进的模型压缩和优化工具。将vLLM的前沿创新整合进自身的企业级能力中，可以作为独立的容器化产品交付，也可以作为RHEL AI和红帽OpenShift AI的一部分提供。

无论在何种部署环境中，红帽AI推理服务器均向用户提供经过加固且具备支持的vLLM发行版，并包含以下功能：

智能LLM压缩工具，可大幅缩减基础AI模型与微调AI模型大小，在保持甚至可能进一步提升模型准确性的同时，最小化计算资源消耗。
优化的模型存储库，托管在红帽AI组织的Hugging Face中，提供对经过验证和优化的前沿AI模型集合的即时访问，这些模型已准备好用于推理部署，可助力效率提升2-4倍，同时不影响模型准确性。
红帽的企业支持，以及在将社区项目带入生产环境方面数十年的专业经验。
第三方支持，实现更大的部署灵活性，支持红帽AI推理服务器在非红帽Linux和Kubernetes平台上部署，具体遵循红帽第三方支持政策。

红帽AI业务部门副总裁兼总经理Joe Fernandes表示，“推理是生成式AI的真正价值所在，即在用户进行交互时，特定模型会迅速给出准确回复，但这必须以高效和具有成本效益的方式实现。红帽AI推理服务器旨在满足大规模高性能、快速响应的推理需求，同时保持低资源需求，提供一个通用推理层，支持任意模型在任意环境中的任意加速器上运行。”

微信关注我们

原文链接：https://www.oschina.net/news/351173

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

智元机器人开源具身世界模型EVAC与评测基准EWMBench

近日，智元机器人重磅发布具身智能领域双重里程碑式突破：在去年发布的机器人4D世界模型基础上，推出动作序列驱动的世界模型框架 EVAC（EnerVerse-AC），同时配套提出全球首个具身世界模型评测基准 EWMBench，构建从世界模型从训练到评测的全链路闭环。这两大创新成果现已全面开源，EVAC也成为全球顶尖机器人赛事 AgiBot World Challenge @ IROS 2025 的baseline之一。 EVAC arxiv：https://arxiv.org/abs/2505.09723 EVAC 开源代码：https://github.com/AgibotTech/EnerVerse-AC EWMBench arxiv: https://arxiv.org/abs/2505.09694 EWMBench 开源代码：https://github.com/AgibotTech/EWMBench 智元机器人这一动作，打破当前具身智能演进面临的两大关键制约：在测试阶段，真机验证代价大、风险高，仿真系统又受制于虚实偏差；在数据层面，海量真机数据尚未构建基于轨迹扩增的高效利用机制...

2025-05-22

529

在2025全球人工智能终端展暨第六届深圳国际人工智能展览期间，荣耀在国内首发阿尔法战略，宣布从智能手机制造商向全球领先的AI终端生态公司全面转型，计划未来五年投入100亿美元（约合人民币720亿元）构建覆盖全场景的AI生态体系。荣耀终端有限公司产品线总裁方飞介绍：“荣耀将通过打造真正智慧的手机，构筑智慧生态和拥抱智慧世界的三步走战略。” 第一步，从开发打造真正智慧的手机开始。在AI智能体时代，荣耀将与合作伙伴打开技术的边界，共创AI终端的新范式；第二步，在物理AI时代，将打开产业的边界，共创AI生态的新范式；第三步，在通用人工智能（AGI）时代，荣耀将打开人类潜能的边界，共创人类文明的新范式。

2025-05-22

181

资源下载

更多资源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。