StableLM —— Stability AI 开发的语言模型-低调大师

StableLM —— Stability AI 开发的语言模型

2023-05-18 924

StableLM 项目仓库包含 Stability AI 正在开发的 StableLM 系列语言模型，目前 Stability AI 发布了初始的 StableLM-alpha 模型集，具有 30 亿和 70 亿参数。150 亿和 300 亿参数的模型正在开发中。

Stability AI 目前在 HuggingFace Spaces 上发布了 70 亿参数模型 —— StableLM-Tuned-Alpha-7B 的演示版本，用户可以访问该网站试用。

StableLM-Alpha 模型是在建立在扩展版 the Pile 数据集基础上训练的，该数据集包含 1.5 万亿个 tokens，扩展版数据集大小大约是 the Pile 的 3 倍。

Size	StableLM-Base-Alpha	StableLM-Tuned-Alpha	Training Tokens	Parameters	Web Demo
3B	checkpoint	checkpoint	800B	3,638,525,952
7B	checkpoint	checkpoint	800B	7,869,358,080	HuggingFace
15B	进行中	(pending)
30B	进行中	(pending)
65B	进行中	(pending)
175B	(planned)

微信关注我们

原文链接：https://www.oschina.net/p/stablelm

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

每日一博 | 2 万字解读金融级云原生

作者：刘伟光，阿里云智能新金融&互联网行业总裁、中国金融四十人论坛常务理事，毕业于清华大学电子工程系 01 前言 2015年云原生理念提出的时候，彼时全球金融百年发展形成的信息化到数字化的背后，金融级的技术服务水准经过长时间的打磨已经形成行业共识的标准。8年前的云原生经典理念是聚焦在容器化、DevOps、持续开发持续集成、微服务架构这些软件开发层面的新范式。而金融级要求诸如高可用、高性能、业务连续性、系统安全稳定等等这些要求跟云原生架构的理念仿佛处在两个相距遥远的范畴。随着技术层面的不断演进，在新型的应用系统的开发方面，金融机构开始逐步引入容器化等云原生部署架构，但是始终发现聚焦在开发态层面的云原生能力是不能触达金融的系统建设的各个层面。云计算技术日新月异的变化反过来推动了云原生的发展从狭义到广义，今天的云已经变成了更为普适性的标准基础设施，更是新技术新业务创新的平台；因此诸如云原生大数据，和云原生存储以及云原生网络技术等技术让云的原生能力从软件开发走向数据平台进而延展到底层物理部署架构。今天的云计算无论是公共云还是专有云，其技术体系带来的先进性以及对开源的拥抱和支持确实在改变...

2023-05-19

557

Linux 6.2 系列内核已结束生命周期，在kernel.org上被标记为 EOL ，这意味着该版本不会再有任何新功能、Bug 修复或安全补丁。 Linux 6.2 于 2023 年 2 月底正式发布，是一个非 LTS 版本，只有为期三个月的支持，在维护了 16 个版本之后退役。仍想留在 6.2 版本的用户建议更新到最新的 6.2.16 版本，但官方的建议是升级到最新的稳定版主线：Linux 6.3。 Linux 6.3 内核系列已更新到 6.3.3 版本，带来了大量新功能和改进，比如：修复了持续多年的 CPU 平衡算法问题增加 Thunderbolt/USB4 DisplayPort 带宽分配模式 EXT4 文件系统在 Linux 6.3 中获得写入性能改进补丁引入新的 SSDFS 文件系统，针对 ZNS SSD 进行优化引入 IPv4 "Big TCP"，改进高速网络性能提供对 Steam Deck 控制器的初始支持不过 Linux 6.3 也是一个短期版本，如果不想频繁折腾，可以使用 Linux 6.1 LTS 系列。

2023-05-19

933

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。