开源推理 AI 模型 Sky-T1，训练成本不到 450 美元-低调大师

开源推理 AI 模型 Sky-T1，训练成本不到 450 美元

2025-01-13 197

加州大学伯克利分校 Sky Computing 实验室的研究团队 NovaSky 发布了一款名为 Sky-T1-32B-Preview 的推理模型。并表示在多项推理和编码基准测试中，该模型性能与 o1-preview 相当。

“值得注意的是，Sky-T1-32B-Preview 的训练成本不到 450 美元，这表明可以经济高效地复制高级推理能力”。

目前，该模型的所有细节（即数据、代码、模型权重）均已开源，用户可以从零开始复现该模型。

根据介绍，Sky-T1 的初始训练数据是通过阿里巴巴的 QwQ-32B-Preview 生成。然后整理 data mixture，以涵盖需要推理的不同领域，并使用拒绝采样程序来提高数据质量。之后利用 OpenAI 的 GPT-4o-mini 将数据重构为更易用的格式。训练这款拥有 320 亿参数的 Sky-T1 模型耗时约 19 小时，使用了 8 台 Nvidia H100 GPU。

NovaSky 团队表示，Sky-T1-32B-Preview 仅标志着其开发具有高级推理能力的开源模型的征程开始。“展望未来，我们将专注于开发更高效的模型，保持强大的推理性能，并探索进一步提高模型在测试时的效率和准确性的先进技术。”

微信关注我们

原文链接：https://www.oschina.net/news/329475/sky-t1

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

🔥 Xinference v1.2.0 重磅登场！KV Cache 共享、Cline 支持亮点频现！

Xorbits Inference（Xinference）是一个性能强大且功能全面的分布式推理框架。可用于大语言模型（LLM），语音识别模型，多模态模型等各种模型的推理。通过 Xorbits Inference，你可以轻松地一键部署你自己的模型或内置的前沿开源模型 - https://github.com/xorbitsai/inference。无论你是研究者，开发者，或是数据科学家，都可以通过 Xorbits Inference 与最前沿的 AI 模型，发掘更多可能。 Xinference 的功能和亮点有： 🌟 模型推理，轻而易举：大语言模型，语音识别模型，多模态模型的部署流程被大大简化。一个命令即可完成模型的部署工作。 ⚡️ 前沿模型，应有尽有：框架内置众多中英文的前沿大语言模型，包括 baichuan，chatglm2 等，一键即可体验！内置模型列表还在快速更新中！ 🖥 异构硬件，快如闪电：通过 ggml，同时使用你的 GPU 与 CPU 进行推理，降低延迟，提高吞吐！ ⚙️ 接口调用，灵活多样：提供多种使用模型的接口，包括 OpenAI 兼容的 RESTful A...

2025-01-15

511

欢迎阅读 OSCHINA 编辑部出品的开源日报，每天更新一期。 # 2025.1.13 今日要闻华为余承东 2025 全员信：鸿蒙三分天下有其一，10 万个原生应用是未来半年到一年关键目标 1 月 13 日消息，华为常务董事、终端 BG 董事长、智能汽车解决方案 BU 董事长余承东发布了新年第一封全员信。余承东表示：“时代的洪流冲天下，鸿蒙三分天下有其一，是历史赋予我们这代终端人的责任与使命。” 他还提到，2025 年鸿蒙生态要压强投入，10 万个应用是生态成熟标志，这是未来半年到一年时间的关键目标。 DeepSeek 推出移动版 APP DeepSeek 推出了官方移动版 APP，提供深度思考和联网搜索功能，可以生成内部思维链，逐步分析问题并得出结论。此外，该 APP 还提供图片、文件等多模态输入模式。据介绍，该 APP 由 DeepSeek-R1-Lite 模型和 DeepSeek V3模型提供支持。英伟达与美国半导体协会反对新一轮芯片出口禁令受美国拜登政府计划对人工智能芯片出口实施新限制措施消息的影响，1 月 10 日美股开盘后，英伟达股价大跌超 3%，AMD 股价大跌近...

2025-01-13

447

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Eclipse

Eclipse 是一个开放源代码的、基于Java的可扩展开发平台。就其本身而言，它只是一个框架和一组服务，用于通过插件组件构建开发环境。幸运的是，Eclipse 附带了一个标准的插件集，包括Java开发工具（Java Development Kit，JDK）。

JDK

JDK是 Java 语言的软件开发工具包，主要用于移动设备、嵌入式设备上的java应用程序。JDK是整个java开发的核心，它包含了JAVA的运行环境（JVM+Java系统类库）和JAVA工具。