OpenAI 员工的一天
Chain Of Thought (CoT) 第一作者、从谷歌跳槽到 OpenAI 的 Jason Wei 分享了自己在 OpenAI 的一天:
[9:00am] 起床
[9:30am] 搭乘 Waymo 前往 Mission SF,途中在 Tartine 买个牛油果吐司
[9:45am] 背诵 OpenAI 章程。向优化之神致敬,学习《The Bitter Lession》(强化学习之父 Rich Sutton 著)
[10:00am] 在 Google Meet 上开会,讨论如何在更多数据上训练更大的模型
[11:00am] 敲代码,在更多数据上训练更大的模型。搭档是 Hyung Won Chung
[12:00pm] 去食堂吃午饭(纯素且无麸质)
[1:00pm] 真正开始在大量数据上训练大模型
[2:00pm] 处理基础设施问题(我是脑子被驴踢了吗为啥要从 master 分支拉代码?)
[3:00pm] 监控模型训练进度,玩 Sora
[4:00pm] 给刚才训练的大模型上提示工程
[4:30pm] 短暂休息,坐在牛油果椅子上,思考 Gemini Ultra 的性能到底有多强
[5:00pm] 头脑风暴模型可能的算法改进
[5:05pm] 修改算法风险太高,pass。最安全的策略还是力大砖飞(增加算力和数据规模)
[6:00pm] 晚餐时间,和 Roon 一起享用蛤蜊浓汤
[7:00pm] 回家
[8:00pm] 喝点小酒,继续写码。Ballmer’s peak(酒精带来的编码高效阶段)即将到来
[9:00pm] 分析实验结果,我对 wandb 又爱又恨
[10:00pm] 启动实验,让它自己跑一晚上,第二天查看结果
[1:00am] 实验真正开始运行
[1:15am] 上床睡觉。在纳德拉和黄仁勋的守护下入梦。心想:压缩才是真谛。晚安

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
StarkNet 撒钱,程序员在 Web3 领了 14 万
StarkNet 启动空投活动,GitHub 排名前 5000 开源项目的贡献者可领取价值 $200 奖励。 背景 StarkNet 公链项目为了激励开发者参与其平台建设,启动了空投活动。 如果曾向 GitHub 上获得较多 Star 的项目提交过 PR ,就有资格领取 111.1 STRK 的空投奖励。 只需要使用 OAuth 2.0 登录,就可以直接领取。 有程序员晒出自己在这次空投活动获得的奖励——近 14 万人民币。 https://twitter.com/strrlthedev/status/1760182038504837287 领取规则 截止到 2023 年 11 月 15 日,至少对全球排名前 5000 的仓库提交过三次代码贡献。 其中至少有一次贡献是在 2018 年或之后完成的。 领取步骤 领取地址:https://provisions.starknet.io/ 访问奖励领取页面并连接钱包(推荐使用Argent X)。 通过 GitHub 登录,采用 OAuth 2.0 验证方式。 直接领取奖励。后续的治理投票和问卷调查可忽略不计。
- 下一篇
出门问问创始人李志飞点评谷歌开源大模型 Gemma:差点意思
谷歌在北京时间昨晚发布了开源大模型Gemma,对标Meta旗下Llama 2。 出门问问创始人李志飞发表文章点评,称Gemma推出时间有点晚、开源力度不够、未放下高贵的头颅。 李志飞在文章中表示,相比于去年上半年就开源,现在可能要花数倍的努力进行模型的差异化以及推广的投入,才有可能在众多开源模型中脱颖而出。“面对OpenAI的强力竞争,只有杀敌一千、自损一千五。” 以下为李志飞全文: 看到Google开源了小的语言模型Gemma,直接狙击Llama 2,回顾去年5月对Google关于开源和竞争的看法,几点思考如下: 1. 时间有点晚:相比于去年上半年就开源,现在可能要花数倍的努力进行模型的差异化以及推广的投入,才有可能在众多开源模型中脱颖而出。 2. 开源力度不够:感觉这次开源还是被动防御和略显扭捏的应对之策,不是进攻。比如说,开个7B的模型实在是太小儿科了,一点杀伤力都没有。应该直接开源一个超越市场上所有开源的至少100B的模型、1M的超长上下文、完善的推理infra方案、外加送一定的cloud credit。是的,再不歇斯底里Google真的就晚了。面对OpenAI的强力竞争,只有...
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- Windows10,CentOS7,CentOS8安装MongoDB4.0.16
- Eclipse初始化配置,告别卡顿、闪退、编译时间过长
- SpringBoot2整合Thymeleaf,官方推荐html解决方案
- Hadoop3单机部署,实现最简伪集群
- Springboot2将连接池hikari替换为druid,体验最强大的数据库连接池
- Docker安装Oracle12C,快速搭建Oracle学习环境
- CentOS8安装MyCat,轻松搞定数据库的读写分离、垂直分库、水平分库
- CentOS7设置SWAP分区,小内存服务器的救世主
- SpringBoot2整合Redis,开启缓存,提高访问速度
- CentOS8,CentOS7,CentOS6编译安装Redis5.0.7