首页 文章 精选 留言 我的
优秀的个人博客,低调大师

微信关注我们

原文链接:https://www.oschina.net/news/370016/apache-cloudberry-2-0-0-released

转载内容版权归作者及来源网站所有!

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

开源跨平台大模型工具 Ollama 发布 0.11.9-rc0 测试版

ollama 团队近日发布了 0.11.9-rc0 测试版,重点提升了 CPU/GPU 并行性能。此次更新引入了新的执行机制,让 GPU 在处理当前批次任务的同时,CPU 可以并行准备下一批计算,从而减少 GPU 空闲等待时间,旨在提升其在多平台运行 AI 大语言模型时的整体性能。 在实测中,macOS Metal 环境下 token 处理速度提升约 2–3%,而在 GeForce RTX 4090 上提升幅度约 7%。 此外,新版本还修复了 AMD GPU 无法识别的问题,并解决了 macOS 与 Linux 上因未处理错误导致的部分崩溃情况,进一步提升了跨平台稳定性与兼容性。这意味着 ollama 在运行大语言模型时将具备更高的效率和更稳定的表现。 关键性能优化 引入一种新的执行方式:通过在后台并行构建下一批次的计算图,将 GPU 与 CPU 的计算任务重叠执行。这能有效减少 GPU 等待下一批任务所造成的空闲时间,提升吞吐效率。 该改动由 VMware 工程师 Daniel Hiltgen 提出,他在 Pull Request 中指出: “这重构了 ollama 主运行循环,将主...

腾讯优图实验室正式开源智能体框架 Youtu-Agent

9月2日,腾讯优图实验室宣布正式开源智能体框架 Youtu-Agent。该框架以极简设计和高性能表现为核心,旨在为研究人员和开发者提供高效、易用、可复现的智能体开发工具。 据介绍,Youtu-Agent面向实际场景的开源应用框架,能够覆盖文件管理、数据分析、学术研究与广域信息综述等多个方向应用。目前,Youtu-Agent开源框架已为腾讯云多个产品业务提供支持。 Youtu-Agent 的核心亮点在于,它不需要额外训练模型,也不依赖海外闭源大模型 API,就能在真实场景中展现出优异的效果,比较好地兼顾了科研和应用双重需求。 验证性能:在 WebWalkerQA 上达到 71.47% 的 pass@1,在 GAIA(纯文本子集)上达到 72.8% 的 pass@1,纯粹使用DeepSeek-V3系列模型(不使用 Claude 或 GPT),建立了强大的开源起点。 开源友好且成本敏感:针对可访问、低成本部署进行了优化,不依赖封闭模型。 实际用例:开箱即用地支持 CSV 分析、文献综述、个人文件整理以及播客和视频生成等任务。(即将推出) 灵活的架构:基于openai-agents构建,可兼容...

相关文章

发表评论

资源下载

更多资源
Mario

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长,特征是大鼻子、头戴帽子、身穿背带裤,还留着胡子。与他的双胞胎兄弟路易基一起,长年担任任天堂的招牌角色。

腾讯云软件源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题,腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构,目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring

Spring框架(Spring Framework)是由Rod Johnson于2002年提出的开源Java企业级应用框架,旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念,提供核心容器、应用上下文、数据访问集成等模块,支持整合Hibernate、Struts等第三方框架,其适用范围不仅限于服务器端开发,绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux

Rocky Linux(中文名:洛基)是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版,作为CentOS稳定版停止维护后与RHEL(Red Hat Enterprise Linux)完全兼容的开源替代方案,由社区拥有并管理,支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性,采用模块化包装和SELinux安全架构,默认包含GNOME桌面环境及XFS文件系统,支持十年生命周期更新。

用户登录
用户注册