谷歌发布轻量级开源大语言模型 Gemma-低调大师

谷歌发布轻量级开源大语言模型 Gemma

2024-02-22 247

谷歌发布了开源大语言模型 Gemma，这是一款轻量级、先进的开源模型，供开发者和研究人员用于AI构建。

Gemma模型家族包括 2B（20亿参数）和 7B（70亿参数）两种尺寸，能够在不同的设备类型上运行，包括笔记本电脑、桌面电脑、IoT设备、移动设备和云端。

性能和设计

Gemma模型在技术和基础设施组件上与Gemini共享，这使得Gemma 2B和7B在其大小范围内相比其他开放模型具有最佳性能。

Gemma模型不仅可以直接在开发者的笔记本电脑或桌面电脑上运行，而且在关键基准测试中的表现超过了更大的模型，同时遵循严格的安全和负责任输出标准。

主要特点

轻量级、高性能模型：Gemma模型家族包括Gemma 2B和Gemma 7B两种尺寸，提供预训练和指令调优的变体，针对其大小范围内相比其他开放模型具有最佳性能。
跨框架工具链支持：支持JAX、PyTorch和TensorFlow通过原生Keras 3.0进行推理和监督式微调（SFT），适应多种开发需求和环境。
易于入门和集成：提供准备就绪的Colab和Kaggle笔记本，以及与Hugging Face、MaxText、NVIDIA NeMo和TensorRT-LLM等流行工具的集成，方便开发者快速上手。
高效的运算能力：针对多个AI硬件平台上进行优化，确保在NVIDIA GPU和Google Cloud TPU上的行业领先性能。通过与NVIDIA的合作，无论是在数据中心、云端还是本地RTX AI PC上，都确保了行业领先的性能和与尖端技术的集成。

Gemma模型能够在不同的设备类型上运行，包括笔记本电脑、桌面电脑、IoT设备、移动设备和云端。这种广泛的兼容性使得模型能够适应各种应用场景和需求。

模型地址：https://huggingface.co/models?other=gemma&sort=trending&search=google…
博客：https://blog.google/technology/developers/gemma-open-models/

微信关注我们

原文链接：https://www.oschina.net/news/279713/google-gemma-open-models

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

你好，iLogtail 2.0！

作者：张浩翔（笃敏）概述随着可观测数据采集需求的不断推陈出新，多样化的数据输入输出选项、个性化的数据处理能力组合、以及高性能的数据处理吞吐能力已经成为顶流可观测数据采集器的必备条件。然而，由于历史原因，现有的 iLogtail 架构和采集配置结构已经无法继续满足上述需求，逐渐成为制约 iLogtail 继续向前快速演进的瓶颈： ▶︎ iLogtail 设计之初完全面向文件日志采集至日志服务的场景： 1）简单地将日志分为多种格式，每种格式的日志仅支持一种处理方式（如正则解析、Json 解析等）； 2）功能实现与日志服务相关概念（如 Logstore 等）强绑定；基于此设计思想，现有的 iLogtail 架构偏向于单体架构，导致模块间耦合严重，可扩展性和普适性较差，难以提供多个处理流程级联的能力。 ▶︎ Golang 插件系统的引入极大地扩展了 iLogtail 的输入输出通道，且一定程度提升了 iLogtail 的处理能力。然而，囿于 C++ 部分的实现，输入输出与处理模块间的组合能力仍然严重受限： 1）C++ 部分原生的高性能处理能力仍然仅限于采集日志文件并投递至日志服务的场景使...

2024-02-22

281

华为官方微信公众号消息显示，在 2 月 26 日华为产品与解决方案发布会上，即将首发华为通信大模型。华为称，2024年，5G-A商用元年正式开启！万兆时代已来，共同见证将5G-A带入现实。

2024-02-22

306

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。