Meta 开源基于 Llama 2 的 AI 代码生成大模型:Code Llama
Meta 刚刚开源了号称是编程领域“最先进的大语言模型”——Code Llama,可根据代码和自然语言提示生成代码和有关代码的自然语言,支持多种主流编程语言,包括 Python、C++、Java、PHP、Typescript (Javascript)、C# 和 Bash。
Code Llama 完全免费,可用于研究和商业用途,并已在 GitHub 发布:https://github.com/facebookresearch/codellama。
Code Llama 基于 Llama 2 大语言模型打造,提供了三种模型:
- Code Llama - 基础代码模型
- Code Llama - Python - 专门针对 Python 进行优化
- Code Llama - Instruct - 专门用于理解自然语言指令
运行示例
- 根据自然语言生成代码
- 解释代码功能/结构
Code Llama 提供了三种不同大小的模型,分别具有 7B、13B 和 34B 参数,可以用于代码补全和调试。每个模型都使用 500B 代码 tokens 和代码相关数据进行训练,此外 7B 和 13B 基础模型和指令模型经过了中间填充 (FIM) 功能的训练,支持在现有代码中插入代码的功能。
Meta 表示这三种不同大小模型满足了不同的服务和延迟要求。例如,7B 模型可以在单个 GPU 上运行。 34B 模型返回最佳结果并提供更好的编码辅助,但较小的 7B 和 13B 模型速度更快,更适合需要低延迟的任务,例如实时代码补全。
根据 Meta 提供的数据,Code Llama 在流行的编码基准测试 HumanEval 和 Mostly Basic Python Programming (MBPP)上的性能优于现有解决方案,并与 ChatGPT 相当。
低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
dperf 项目参加 DPDK 峰会 2023
DPDK峰会是由Linux基金会举办的DPDK专题会议,交流DPDK生态上的最新进展。今年DPDK峰会在爱尔兰都柏林举行,时间是9月12-13日。 dperf项目是一款基于DPDK的高性能网络性能测试仪,在业内被广泛使用。项目作者jianzhang博士也受邀参加本次峰会,并做题为”dperf: a 100Gbps Network Load Tester”的报告。欢迎感兴趣的朋友关注。 附录:DPDK峰会2023主页DPDK峰会2023演讲列表
- 下一篇
【直播预告】没有 “专业” 的向量数据库,大模型就玩不转了吗?
向量数据库曾寂寂无名,然而随着生成式 AI 大模型的爆发式增长,其热度被推向了前所未有的巅峰。 不久前,诸多向量数据库公司纷纷宣布完成融资: Pinecone 完成 1 亿美元 B 轮融资,WeaviateBV 获得 5000 万美元 B 轮融资,Chroma 获得 1800 万美元种子轮融资,Qdrant 获 750 万美元种子融资。资本的涌入侧面可以证明向量数据库的爆火程度。 在国内,除了 Zilliz 这只领头羊在向量数据库赛道驰骋之外,大华股份、云创数据、中国软件、东软集团、每日互动、星环科技和美亚柏科等公司也正在押注这一领域。 怎么,难道没有专业的向量数据库,大模型就玩不转了吗? 8 月 29 日,OSCHINA【开源漫谈】第2期,特意邀请了 5 位业内具有代表性的专家,以直播的方式,从以下角度对这一问题作出回答。 我们真的需要一个像 Milvus 这样的 “专业”向量数据库吗,还是像 PostgreSQL、Redis、ElasticSearch 等数据库一样升级向量功能支持就行了? 当企业面临选择向量数据库或者向量插件等产品时,主要考虑哪些因素? 结合实际场景,将各向量产品...
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- SpringBoot2全家桶,快速入门学习开发网站教程
- CentOS6,CentOS7官方镜像安装Oracle11G
- CentOS8,CentOS7,CentOS6编译安装Redis5.0.7
- SpringBoot2整合MyBatis,连接MySql数据库做增删改查操作
- Windows10,CentOS7,CentOS8安装Nodejs环境
- SpringBoot2整合Thymeleaf,官方推荐html解决方案
- CentOS6,7,8上安装Nginx,支持https2.0的开启
- MySQL8.0.19开启GTID主从同步CentOS8
- Hadoop3单机部署,实现最简伪集群
- Docker安装Oracle12C,快速搭建Oracle学习环境