StableLM —— Stability AI 开发的语言模型-低调大师

StableLM —— Stability AI 开发的语言模型

2023-05-18 893

StableLM 项目仓库包含 Stability AI 正在开发的 StableLM 系列语言模型，目前 Stability AI 发布了初始的 StableLM-alpha 模型集，具有 30 亿和 70 亿参数。150 亿和 300 亿参数的模型正在开发中。

Stability AI 目前在 HuggingFace Spaces 上发布了 70 亿参数模型 —— StableLM-Tuned-Alpha-7B 的演示版本，用户可以访问该网站试用。

StableLM-Alpha 模型是在建立在扩展版 the Pile 数据集基础上训练的，该数据集包含 1.5 万亿个 tokens，扩展版数据集大小大约是 the Pile 的 3 倍。

Size	StableLM-Base-Alpha	StableLM-Tuned-Alpha	Training Tokens	Parameters	Web Demo
3B	checkpoint	checkpoint	800B	3,638,525,952
7B	checkpoint	checkpoint	800B	7,869,358,080	HuggingFace
15B	进行中	(pending)
30B	进行中	(pending)
65B	进行中	(pending)
175B	(planned)

微信关注我们

原文链接：https://www.oschina.net/p/stablelm

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

每日一博 | 2 万字解读金融级云原生

作者：刘伟光，阿里云智能新金融&互联网行业总裁、中国金融四十人论坛常务理事，毕业于清华大学电子工程系 01 前言 2015年云原生理念提出的时候，彼时全球金融百年发展形成的信息化到数字化的背后，金融级的技术服务水准经过长时间的打磨已经形成行业共识的标准。8年前的云原生经典理念是聚焦在容器化、DevOps、持续开发持续集成、微服务架构这些软件开发层面的新范式。而金融级要求诸如高可用、高性能、业务连续性、系统安全稳定等等这些要求跟云原生架构的理念仿佛处在两个相距遥远的范畴。随着技术层面的不断演进，在新型的应用系统的开发方面，金融机构开始逐步引入容器化等云原生部署架构，但是始终发现聚焦在开发态层面的云原生能力是不能触达金融的系统建设的各个层面。云计算技术日新月异的变化反过来推动了云原生的发展从狭义到广义，今天的云已经变成了更为普适性的标准基础设施，更是新技术新业务创新的平台；因此诸如云原生大数据，和云原生存储以及云原生网络技术等技术让云的原生能力从软件开发走向数据平台进而延展到底层物理部署架构。今天的云计算无论是公共云还是专有云，其技术体系带来的先进性以及对开源的拥抱和支持确实在改变...

2023-05-19

530

Linux 6.2 系列内核已结束生命周期，在kernel.org上被标记为 EOL ，这意味着该版本不会再有任何新功能、Bug 修复或安全补丁。 Linux 6.2 于 2023 年 2 月底正式发布，是一个非 LTS 版本，只有为期三个月的支持，在维护了 16 个版本之后退役。仍想留在 6.2 版本的用户建议更新到最新的 6.2.16 版本，但官方的建议是升级到最新的稳定版主线：Linux 6.3。 Linux 6.3 内核系列已更新到 6.3.3 版本，带来了大量新功能和改进，比如：修复了持续多年的 CPU 平衡算法问题增加 Thunderbolt/USB4 DisplayPort 带宽分配模式 EXT4 文件系统在 Linux 6.3 中获得写入性能改进补丁引入新的 SSDFS 文件系统，针对 ZNS SSD 进行优化引入 IPv4 "Big TCP"，改进高速网络性能提供对 Steam Deck 控制器的初始支持不过 Linux 6.3 也是一个短期版本，如果不想频繁折腾，可以使用 Linux 6.1 LTS 系列。

2023-05-19

898

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。