首页 文章 精选 留言 我的
优秀的个人博客,低调大师

微信关注我们

原文链接:https://www.oschina.net/news/343365

转载内容版权归作者及来源网站所有!

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

Mozilla 发布 LocalScore:简化本地 AI 模型基准测试的新工具

Mozilla 最近通过其 Mozilla Builders 计划推出了一款名为 LocalScore 的工具,旨在为本地大型语言模型(LLM)提供便捷的基准测试。 该工具兼容 Windows 和 Linux 系统,目前处于早期开发阶段。 LocalScore 是基于上周发布的 Llamafile0.9.2版本开发的,这一更新使得 LocalScore 成为一款实用的基准测试工具,能够在 CPU 和 GPU 上进行大型语言模型的性能评估。通过这一工具,用户可以轻松测量 LLM 系统的性能,获取快速且可靠的结果。 用户可以选择直接从 Llamafile 包中调用 LocalScore,或者使用适用于 Windows 和 Linux 的独立 LocalScore 二进制文件,方便进行 AI 基准测试。值得一提的是,LocalScore.ai 作为一个可选的存储库,专门用于存储 CPU 和 GPU 基准测试的结果,这些结果基于 Meta Llama3.1模型的官方模型进行计算。用户通过 LocalScore.ai 能够轻松运行基准测试,过程简单明了。

IBM 发布 z17 大型机:每日可处理 4500 亿次 AI 推理

IBM 发布了其大型计算机硬件的最新版本 IBM z17。该公司表示,这款完全加密的大型计算机由 IBM Telum II 处理器驱动,专为 250 多种 AI 用例而设计,包括 AI 代理和生成式 AI。 虽然大型机可能被一些人视为过时技术,但消息人士透露,当今71%的《财富》500强企业仍在使用它们。咨询公司Market Research Future数据表明,到2024年,大型机市场价值估计达到53亿美元。 z17 一天可处理 4500 亿次推理运算,比其前身IBM z16提升了 50% 。z16 于 2022 年发布,运行该公司的原始 Tellum 处理器。该系统旨在能够与其他硬件、软件和开源工具完全集成。 IBM Z 产品管理和设计副总裁 Tina Tarquinio 在接受 TechCrunch 采访时表示,这次大型机升级已经筹备了五年,远早于2022年11月OpenAI发布ChatGPT引发的当前AI热潮。 Tarquinio 表示,IBM在打造 z17 时花费了2000多个小时的研究时间,收集了来自100多个客户的反馈。她认为有趣的是,五年前开始的研发方向与市场最终的走...

相关文章

发表评论

资源下载

更多资源
优质分享App

优质分享App

近一个月的开发和优化,本站点的第一个app全新上线。该app采用极致压缩,本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长,特征是大鼻子、头戴帽子、身穿背带裤,还留着胡子。与他的双胞胎兄弟路易基一起,长年担任任天堂的招牌角色。

腾讯云软件源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题,腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构,目前腾讯云软件源站支持公网访问和内网访问。

Rocky Linux

Rocky Linux

Rocky Linux(中文名:洛基)是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版,作为CentOS稳定版停止维护后与RHEL(Red Hat Enterprise Linux)完全兼容的开源替代方案,由社区拥有并管理,支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性,采用模块化包装和SELinux安全架构,默认包含GNOME桌面环境及XFS文件系统,支持十年生命周期更新。