马斯克旗下 xAI 发布首个 AI 大模型产品 Grok
马斯克旗下 xAI 团队发布其首个 AI 大模型产品 —— Grok;目前只训练了 2 个月左右的时间,因此尚处于非常早期的测试阶段。
Grok 是一款仿照《银河系漫游指南》设计的人工智能,可以回答几乎任何问题,更难能可贵的是,它甚至可以建议你要问什么问题!
Grok 在回答问题时略带诙谐和反叛,因此如果你讨厌幽默,请不要使用它!
Grok 的一个独特且根本的优势是它可以通过 𝕏 平台实时了解世界。它还能回答被大多数其他人工智能系统拒绝的尖锐问题。
Grok 基于 xAI 团队于 11 月发布的自研大语言模型 Grok-1。在 xAI 宣布成立后,项目团队就用 330 亿个参数训练了一个 LLM 原型(Grok-0),这一早期模型自称与 LLaMA 2 (70B) 能力相当,但只使用了一半的训练资源。
Grok-1 则在此基础上改进了推理和编码能力。Grok-1 是一个基于 Transformer 的自回归模型,经过预先训练以执行 next-token 预测。然后利用人类和早期 Grok-0 模型的广泛反馈对该模型进行微调,初始 Grok-1 的上下文长度为 8192 个 token。
一些评测结果如下所示:
Grok-1 也存在一些局限性,该语言模型不具备独立搜索网络的能力,官方建议在 Grok 中部署搜索工具和数据库可以增强模型的能力和真实性。并警告称,尽管可以访问外部信息源,但该模型仍会产生幻觉。
为了创建 Grok,xAI 团队还构建了一个基于 Kubernetes、Rust 和 JAX 的自定义训练和推理堆栈。
“Rust 已被证明是构建可扩展、可靠且可维护的基础架构的理想选择。它提供高性能、丰富的生态系统,并防止分布式系统中通常会发现的大多数错误。鉴于我们的团队规模较小,基础架构的可靠性至关重要,否则维护就会缺乏创新。Rust 让我们充满信心,任何代码修改或重构都可能产生可以在最少监督的情况下运行数月的工作程序。”
目前 Grok 仅面向少数美国用户开放测试。
相关阅读:
低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
承载微软跨平台生态之梦的 UWP,正在消亡
开发者发现,微软最新的 Windows11Canary Build 25987 预览版已经开始提供两个版本的 XAML Shell 服务,新的版本直接基于 Win32 + XAML,曾经被寄予厚望的 UWP 在新版本里已经不见踪影。 viahttps://twitter.com/thebookisclosed/status/1720108362275213594 据介绍,新增的 dll 名为 ControlCenter.dll,这是控制中心的文件,目前已经同时提供旧版本和新的基于 Win32+XAML 的版本,即用户可以通过 ViveTool 启用这种新变体。 一般来说能被发现已经可以通过 ViveTool 启用,那么这个新变化基本已经开发完毕,后续就会分别面向不同的用户进行测试,收集运行数据。 延伸阅读 微软正式弃用 UWP WinUI 3 仍专注于 Win32 应用,暂无面向 UWP 的计划 Win32 应用进入微软应用商店,UWP 怎么办? Microsoft Store 完全使用 XAML 以替代 HTML,Visual Studio 预计年底上架商店
- 下一篇
OpenHarmony 4.0 开发数据:华为贡献者 1800 名、增删改代码 8849882 行
OpenHarmony 公布了关于 4.0 Release 版本的开发数据。 据介绍,OpenAtom OpenHarmony 4.0 Release版本于10月27日发布,经过了32周的开发周期。 在此期间,有65499个Committs进入了版本。共有2220位贡献者为 4.0 Release版本做出了贡献。其中,华为贡献者1800名,累计2000+名,共增删改代码8849882行,占比80.03%。 华为的5名顶级贡献者和华为以外的15名顶级贡献者如下: 以下的单位参与了OpenHarmony 4.0 Release版本的工作,较活跃的如下: 不同单位在不同子系统的贡献比例: 华为的贡献覆盖30多个核心子系统,其他顶级共建单位在各领域的贡献情况如下: 这些单位对OpenHarmony 4.0 Release版本的工作主要集中在以下领域: • 深开鸿的工作主要集中在短距,驱动,XTS,开发工具,ArkUI子系统中,包括蓝牙&wifi增强,ArkUI运行时,ArkUI组件增强,NAPI框架生成工具,ALSA驱动HDI插件平台解耦,codec驱动HDI接口,ArkUI XTS套...
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- Windows10,CentOS7,CentOS8安装Nodejs环境
- CentOS7编译安装Cmake3.16.3,解决mysql等软件编译问题
- Linux系统CentOS6、CentOS7手动修改IP地址
- Springboot2将连接池hikari替换为druid,体验最强大的数据库连接池
- SpringBoot2整合Thymeleaf,官方推荐html解决方案
- Docker快速安装Oracle11G,搭建oracle11g学习环境
- Eclipse初始化配置,告别卡顿、闪退、编译时间过长
- CentOS8安装Docker,最新的服务器搭配容器使用
- MySQL8.0.19开启GTID主从同步CentOS8
- Jdk安装(Linux,MacOS,Windows),包含三大操作系统的最全安装