中兴通讯“星云研发大模型”：AI 编程助手、1000 亿 token-低调大师

中兴通讯“星云研发大模型”：AI 编程助手、1000 亿 token

2023-10-12 432

2023 年 10 月 11 日-13 日，在中国移动全球合作伙伴大会举办期间，中兴通讯“星云研发大模型”亮相，旨在辅助开发人员进行需求分析、产品设计、编程、测试、版本部署等。

据介绍，“星云研发大模型”支持白名单机制有效控制使用范围，以及代码特征值识别有效识别敏感代码片段、敏感词识别机制可实时监测并拦截敏感内容，还有后台审计机制可完整回溯安全事件等。

中兴通讯表示，2023 年 4 月，“星云研发大模型”使用启动，截至目前，日活人数达 1.2 万人，代码采纳率达 40%~45%，编码提效 30%，整体研发提效 10%。

中兴通讯将领域数据、Know-How 知识积累、数十万篇通信领域技术文档和1000 亿 token的无线 / 核心网 / 云代码语料等注入大模型，进行增量预训练，使用并行训练框架。

中兴通讯称：“自研部署方案使用动态 batch 策略、PagedAttention 技术，结合无损模型量化，吞吐量大幅提升，单 GPU（A800）达到 1500tokens / s，仅使用 4 张 GPU 卡（A800）可满足超千人使用需求。对比业界常规的部署方案，单 GPU 吞吐量分别提升 10 + 倍和 20 + 倍；结合 int4 量化技术，在模型精度不下降情况下，模型大小和显存使用量均下降一半。”

微信关注我们

原文链接：https://www.oschina.net/news/261477

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

开源中国发布大模型技术图谱（LLM Tech Map）

LLM 技术图谱 (LLM Tech Map) 是将 LLM 相关技术进行系统化和图形化的呈现，此图谱主要特点是“专注于技术人视角”，不求从 LLM 产业角度汇聚信息，而是希望让从事相关工作或是想了解 LLM 的技术人有一个快速感知。核心价值：帮助技术人快速了解 LLM 的核心技术和关键方向。 LLM 技术图谱（LLM Tech Map）从基础设施、大模型、Agent、AI 编程、工具和平台，以及算力几个方面，为开发者整理了当前 LLM 中最为热门和硬核的技术领域以及相关的软件产品和开源项目。基础设施 LLM 技术图谱（LLM Tech Map）的基础设施部分主要包括以下几个方面：向量数据库：向量数据库是专门用于存储和检索向量数据的数据库，它可以为 LLM 提供高效的存储和检索能力。数据库向量支持：传统数据库通常不支持向量数据的存储和检索，数据库向量支持可以为传统数据库添加向量数据的存储和检索能力。大模型框架、微调 (Fine Tuning)：针对大模型的开发。大模型训练平台与工具大模型 LLM 技术图谱（LLM Tech Map）的大模型部分主要包括以下几个方面：备案...

2023-10-12

372

杭州亚运会实现核心系统100%上云。 10月8日晚，杭州亚运会圆满闭幕。作为史上首届“云上亚运”，杭州亚运会创造了历史。杭州亚运会实现了核心系统100%上云，并借助后台云算力、云存储等云技术保障，建设一系列各层级、各场馆数字指挥平台，实现全面感知、高效指挥。同时，首次实现云上转播，据统计，杭州亚运会在云上传输了60路高清和超高清信号，总计超过7200小时时长。核心系统100%上云，赛事成绩5秒发布杭州亚运会是史上首届云上亚运，实现核心系统100%上云，并借助后台云算力、云存储等云技术保障，建设一系列各层级、各场馆数字指挥平台，实现全面感知、高效指挥。基于云底座，杭州亚运会全面采用云原生技术，赛事核心系统群实现了系统通和数据通。这一创新的云技术方案避免了传统模式下各自“建烟囱”、数据难以互通的“老大难”问题，可以更好地支撑丰富的智能应用。三大核心系统群将注册管理、竞赛报名、赛事成绩等赛事信息安全地汇聚在云计算底座上，并通过应用程序编程接口、文件传输等接口统一输出，实现各类数据准确、即时地一键输出。在裁判员确认成绩之后，5秒钟就可实现赛事信息发布，这是全球综合性运动会上成绩发布...

2023-10-12

378

资源下载

更多资源

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。