SiliconCloud公测上线，每人免费送3亿Token-低调大师

SiliconCloud公测上线，每人免费送3亿Token

2024-05-31 372

随着模型能力的不断提升，不少开源大模型在诸多维度上已能媲美GPT4这类顶尖闭源模型，这也让它们能胜任多数生成式AI应用场景，更多开发者也开始基于开源大模型开发应用。

作为坚定看好开源大模型发展的AI Infra公司，硅基流动（SiliconFlow）顺势而为。今天，我们推出集合主流开源大模型的一站式云服务平台SiliconCloud，为开发者提供更全面、更快、更便宜的模型API。

“6.18购物狂欢节”来临之际，我们决定，自即日起为开发者送上一波福利： 每人送3亿token，注册即可畅玩。

3亿token领取传送门（截止6月18日23:59）：

www.siliconflow.cn/zh-cn/siliconcloud

不同于多数大模型云服务平台只提供自家大模型API，SiliconCloud上架了包括DeepSeek V2、Mistral、LLaMA 3、Qwen、SDXL、InstantID在内的多种开源大语言模型、图片生成模型，支持用户自由切换符合不同应用场景的模型。

更重要的是，SiliconCloud提供开箱即用的 大模型 推理加速服务 ，为你的生成式AI应用带来更高效的用户体验。

直观感受一下加速后的Deepseek V2的token输出速度。

（Demo录屏展示无加速）

对于图片生成模型，SiliconCloud能 让Stable Diffusion XL模型实现 毫秒 级即时图片输出 ，层层嵌套提示词，输出效果很稳定。

（Demo录屏展示无加速）

对开发者来说，通过SiliconCloud就可以一键接入顶级开源大模型的能力，拥有更好应用开发速度和体验的同时，大大降低应用开发的试错成本。

1 极致算力优化，最高10倍加速大模型推理

加速大模型推理降本增效，硅基流动团队是专业选手。

众所周知，大模型的快速发展导致算力成本居高不下，甚至高端芯片严重短缺，这抑制了生成式AI应用的蓬勃发展。

基于丰富的AI基础设施及加速优化经验，我们希望通过软件手段，在解决算力供需关系的同时跨数量级降低大模型推理的成本。作为国内最早瞄准大模型推理领域的团队，我们率先为SiliconCloud研发了底层推理加速引擎，在各种场景中，最高可实现10倍加速。

要知道，大模型推理优化不止于单个模型的性能最优，而是达到全局最优的性能。

基于硅基流动深厚的工程优化能力，通过模型、机制、框架、算子等层面的联合优化，无论是以LLaMA为代表的Dense模型，还是以Mixtral为代表的MoE模型，均可达到SOTA推理效率。

极致的大模型推理性能实现，是我们立足行业的基本能力与底气。

2 更全面、更快、更便宜，加速大模型应用爆发

生成式AI加速发展，开发者渴求更快、更便宜的推理算力，SiliconCloud将帮助开发者更低成本地使用大模型，降低大模型应用开发的门槛。

未来，我们将全方位支持大模型应用生态发展，推进主流开源大模型的可及性：一方面，免费送巨量token助力个人开发者打造创新应用，另一方面，助力大模型公司、AI应用公司实现推理的降本增效，进而促进大模型应用迎来大爆发，加速大模型的普惠化。

如果你想开发大模型应用，不用迟疑，现在就是最好时机。

而对于那些真正在乎大模型推理性能和成本的开发者，绝不会错过SiliconCloud。更何况，现在还送3亿token。

快 试试吧 ：

www.siliconflow.cn/zh-cn/siliconcloud

扫码加入SiliconCloud交流群

本文分享自微信公众号 - OneFlow（OneFlowTechnology）。
如有侵权，请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”，欢迎正在阅读的你也加入，一起分享。

微信关注我们

原文链接：https://my.oschina.net/oneflow/blog/11206651

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

SiliconCloud上新：GLM-4-9B，通用能力超越Llama 3

今天，智谱发布了第四代 GLM 系列开源模型：GLM-4-9B。 GLM-4-9B 系列模型包括：基础版本 GLM-4-9B（8K）、对话版本 GLM-4-9B-Chat（128K）、超长上下文版本 GLM-4-9B-Chat-1M（1M）和多模态版本 GLM-4V-9B-Chat（8K）。GLM-4-9B 模型具备了更强大的推理性能、更长的上下文处理能力、多语言、多模态和 All Tools 等突出能力。目前，SiliconCloud已上线GLM-4-9B-Chat开源模型。欢迎试用： https://cloud.siliconflow.cn/models/text/chat/17885302522 注意！！！GLM-4-9B-Chat已进入“6.18购物狂欢节”福利包：“每人送3亿token”。注册即可畅玩（截止6月18日23:59）： www.siliconflow.cn/zh-cn/siliconcloud 据智谱介绍，在预训练方面，他们引入了大语言模型进入数据筛选流程，最终获得了10T高质量多语言数据，数据量是ChatGLM3-6B模型的3倍以上。同时，它们采用了FP8技术...

2024-06-06

358

今天凌晨，阿里巴巴通义千问团队发布了Qwen2系列开源模型。该系列模型包括5个尺寸的预训练和指令微调模型：Qwen2-0.5B、Qwen2-1.5B、Qwen2-7B、Qwen2-57B-A14B以及Qwen2-72B。随即，硅基流动团队在云服务平台SiliconCloud上线了Qwen2-7B、Qwen2-57B-A14B、Qwen2-72B模型。欢迎来玩儿： https://cloud.siliconflow.cn/models/text/chat/ 注意！！！与上周发布的GLM-4-9B模型一样，上述三款Qwen2模型同样已进入“6.18购物狂欢节”福利包：“新用户送3亿token”。注册即可畅玩（截止6月18日23:59）： www.siliconflow.cn/zh-cn/siliconcloud Qwen2模型评测表现及亮点 Qwen2在多个评测基准上具有领先优势。据Qwen官方博客介绍，在针对预训练语言模型的评估中，对比当前最优的开源模型，Qwen2-72B在包括自然语言理解、知识、代码、数学及多语言等多项能力上均显著超越当前领先的模型，如Llama-3-70B以及...

2024-06-07

332

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。