首页 文章 精选 留言 我的

精选列表

搜索[CLI能力],共10000篇文章
优秀的个人博客,低调大师

AI 编程将阻碍专业能力的形成

这篇文章与我在 6 月写的《从前慢:两种慢,两种命运》指向同一个判断:AI 消除了工作流里的摩擦,却也悄悄跳过了成长路上的必经之路。 当时可能有不少读者看到标题就跳过了。Lars Faye 从编程教育研究和新手使用 AI 的行为出发,为这个判断补上了另一组证据:代码生成得越顺畅,越可能绕过形成判断力所必需的规划、失败和调试。

优秀的个人博客,低调大师

1.1 混元大模型:综合能力优化

- **痛点:**​ 在长文本理解(128K+)、复杂逻辑推理、多模态融合上,与 GPT-4o、Claude 3.5 存在差距。 - **方案:**​ 集中资源攻坚**“中文代码生成”**与**“长文本逻辑压缩”**;引入 **MoE(Mixture of Experts)架构**,降低推理成本,提升模型稀疏度。 # 2026年组织效能优化瓶颈:GPU集群利用率与算力调度失衡 > **本站本系列目录链接,非广告**:[https://cloud.tencent.com.cn/developer/article/2715462](https://cloud.tencent.com.cn/developer/article/2715462) **场景**:某BG技术总监老张,与组织效能顾问老李的一次对话。 **老张**:老李,我们BG最近又批了一笔采购单,买了二十张H20。但我看了下监控,现有的卡利用率还不到一半。上面一边催降本,一边又批新卡,我感觉这就是个无底洞。 **老李**:你说到根子上了。钱花了,卡占了,但活没干完。混元大模型的预训练和微调任务分散在各BG的GPU集群里,高峰期局部过载、全局闲置。整体MFU长期在45%-55%晃荡,业界头部早就做到65%以上了。 **老张**:我也知道利用率低,但有什么办法?我们自己的训练任务就那么多,总不能把卡借给别的BG用吧?万一人家占着不放,我们自己要用的时候怎么办? **老李**:你这个问题,恰好暴露了旧范式的死穴。旧路线的天花板,已经用完了所有可调参数的自由度。再调就是增加内层损耗(协调会、审批流),再改就是牺牲其他BG的在线推理业务(抢占在线卡)。它的上限不是技术限制,是跨部门资源调度的管理熵增限制。 **老张**:那你的方案是什么?总不能让我把卡白送出去吧? **老李**:不是白送,是建立一个**集团级GPU虚拟化调度中台**。打破WXG、IEG、TEG之间的物理算力墙。你的卡还是你的,但你不用的时段,系统会自动分配给需要的任务。你用的时候,优先级自动调回来。 **老张**:听起来像是共享单车。但技术上能做到吗?跨BG调度的延迟会不会很高? **老李**:我们来看一组对标: - **GPU整体利用率(MFU)**:基线45%-55% → 本方案目标≥65% - **跨BG算力调度延迟**:基线人工审批、小时级 → 本方案自动化、秒级 - **训练任务排队时长**:基线平均3-7天 → 本方案≤24小时 - **单Token训练成本**:基线1.0x → 本方案≤0.8x **老张**:秒级调度?怎么做到的? **老李**:三个核心动作。 第一,**架构重构:从诸侯分封到集团云化**。取消各BG独立占有高端GPU的私有化部署模式,所有高端算力纳入TEG统一纳管,构建算力资源池。各BG按季度申报算力预算,物理卡不再固定归属,仅做逻辑隔离。 第二,**调度算法:拓扑感知调度(Topology-Aware Scheduling)**。调度器优先将任务分配至NVLink连通性最高的节点组内,减少跨节点通信开销。同时用预测模型预判任务结束时间,提前把下一个任务的数据预热到目标节点。 第三,**混部策略:昼夜节律与潮汐效应**。日间保障微信、游戏的在线推理低延迟需求,限制训练任务对网络带宽的占用。夜间在线业务低谷,释放闲置算力,全力保障混元大模型训练吞吐。另外设立紧急算力通道,当混元训练遇到关键里程碑(如SFT阶段),可临时借用非核心业务的空闲算力,事后归还。 **老张**:这个“紧急通道”听起来不错,但怎么保证借了之后能按时还?万一人家也要用呢? **老李**:这就是灰度容错的设计。我们通过内部结算价机制来平衡。上交算力的BG可以获得相应的算力积分,未来调用集团算力时可享受折扣,形成多予多取的正向循环。谁贡献得多,谁调用的时候就便宜。 **老张**:那首批试点怎么搞?总不能一下子把所有BG都拉进来吧? **老李**:当然不能。灰度定义:首批试点仅覆盖TEG内部30%的非核心训练任务。此处需根据业务实测数据 `[训练任务平均完成时间]` 反推 `[调度算法的并行度参数]`。这个数据可以通过现有的Prometheus+Grafana监控栈在24小时内直接获取,无需定制开发。 **老张**:如果网络抖动导致训练中断怎么办? **老李**:系统自动回滚至上一个Checkpoint,并记录为一次容错事件,不计入算力利用率损耗。这就是间接测量兜底——在最坏情况下,我们的方案依然能保证训练不丢进度。 **老张**:最后一个问题。你这个方案,到底是技术优化还是组织变革? **老李**:两者都是。但最终鉴定我给的是破局级。因为这不是简单的技术调优,而是资源分配权的结构性重构。它将算力从部门资产还原为集团生产要素,解决了局部闲置与全局短缺的公认死结。量级跃迁体现在:成本降20%+,效率提2倍+。 **老张**:物理理由是什么? **老李**:算力是AI时代的石油。在英伟达禁令与国产芯片替代的空窗期,榨干现有算力是唯一可行的降本增效路径。 **老张**:好,我回去拉一下我们BG的GPU利用率数据,看看哪些任务可以首批接入。 **老李**:数据说话,方案落地。 --- ## 文末声明 本题为公开管理效能难题,不含任何企业内部机密、未披露数据或商业陷阱。所述方案基于公开技术文献(如Google Borg、Meta Grand Teton)与通用管理原理推导。 ## 标签区 # 组织熵减 #算力调度 #降本增效 #中台建设 #AI基础设施 #GPU虚拟化 --- **署名:华夏之光永存** 如有一切疑问或咨询,请提交留言,可第一时间处理。

优秀的个人博客,低调大师

OpenAI 收购 Rockset 以增强其检索能力

OpenAI 宣布完成对数据库分析公司 Rockset 的收购,但具体财务条款尚未披露。此举是 OpenAI 继去年收购 AI 设计公司 Global Illumination 之后公开宣布的第二次重大收购。 OpenAI 在其官方博客上发表的一篇公告中表示,他们将整合 Rockset 的技术来“为其所有产品的基础设施提供支持”。Rockset 团队的成员将加入 OpenAI,而 Rockset 的现有客户也将“逐步”离开 Rockset 平台。 OpenAI 首席运营官 Brad Lightcap 称,“Rockset 的基础设施使公司能够将其数据转化为可操作的情报。我们很高兴通过将 Rockset 的基础集成到 OpenAI 产品中,为我们的客户带来这些好处。” Rockset 由前 Facebook 工程师 Venkat Venkataramani 和 Tudor Bosman 以及数据库架构师 Dhruba Borthakur 于 2016 年共同创立,其创建的工具可让公司自动从数据库和公共云存储服务中提取数据,然后为搜索和分析应用程序索引这些数据。 数据显示,在被收购之前, Rockset 已成功从 Icon Ventures、Sequoia 和 Greylock 等投资者手中筹集了超过 1.175 亿美元的资金。该公司还拥有 Meta 和 JetBlue 等知名客户。

优秀的个人博客,低调大师

如何提高你的代码设计能力?

前段时间零零碎碎把设计模式梳理了一遍,这个想法的初衷是基于JDK15的发布,阅读一些源码,一些设计很熟悉但是总是想不起是什么设计模式! 我们日常开发或者在做底层架构设计时,更应该留意和关注代码层面还有业务层面的设计。目前整理成一个专栏方便后面快速查看~ 目前正在更新 设计模式-行为型相关的设计模式 开放封闭原则 一个软件实体应当对扩展开放,对修改关闭。即软件实体应尽量在不修改原有代码的情况下进行扩展。 开闭原则即对拓展开放,对修改关闭,要想在功能新增的时候不修改原先的代码,即程序中使用的是抽象类或者接口,我们新增的子类或者实现,这样才能保障我们拓展功能的时候不用修改原先的代码,所以说抽象化是开闭原则的关键。 里氏替换原则 所有引用基类(父类)的地方必须能透明地使用其子类的对象。 基类存在的地方必定能被子类替换,且功能不会发生影响。里氏替换原则是“开-闭原则的补充”。 里氏替换通俗来讲就是子类可以拓展父类但是不能改变父类已确定的行为,包含以下四个含义: 子类可以实现父类的抽象方法,但是不能覆盖父类的非抽象方法。 子类中可以增加自己特有的方法。 当子类重载父类方法时,形参的范围要比父类的形参范围大,这样别的类调用这个方法时会优先匹配父类的实现而不是子类的实现。 当子类实现父类的抽象方法时,方法的返回值要比父类更严格,也可以说成更具体。 依赖倒转原则 抽象不应该依赖于细节,细节应当依赖于抽象。换言之,要针对接口编程,而不是针对实现编程。 依赖倒转原则要求我们在程序代码中传递参数时或在关联关系中,尽量引用层次高的抽象层类,即使用接口和抽象类进行变量类型声明、参数类型声明、方法返回类型声明,以及数据类型的转换等,而不要用具体类来做这些事情。 在实现依赖倒转原则时,我们需要针对抽象层编程,而将具体类的对象通过依赖注入(Dependency Injection, DI)的方式注入到其他对象中,依赖注入是指当一个对象要与其他对象发生依赖关系时,通过抽象来注入所依赖的对象。 常用的注入方式有三种,分别是:构造注入,设值注入(Setter注入)和接口注入。 构造注入是指通过构造函数来传入具体类的对象,设值注入是指通过Setter方法来传入具体类的对象,而接口注入是指通过在接口中声明的业务方法来传入具体类的对象。这些方法在定义时使用的是抽象类型,在运行时再传入具体类型的对象,由子类对象来覆盖父类对象。 开闭原则是目标,里氏代换原则是基础,依赖倒转原则是手段。 单一职能原则 一个类只负责一个功能领域中的相应职责,或者可以定义为:就一个类而言,应该只有一个引起它变化的原因。 类的功能尽量单一,这样才能提高复用率。单一职能原则是软件高内聚低耦合的指导方针。 使用多个专门的接口,而不使用单一的总接口,即客户端不应该依赖那些它不需要的接口。 每一接口都应该承担一种相对独立的角色,该干的事情都敢,不该干的事情都不干。 迪米特原则 一个软件实体应当尽可能少地与其他实体发生相互作用。类与类之间的耦合度应尽量的低,这样如果类发生变化,影响才会最小。 不要和陌生人说话,只和你的直接朋友通信,直接朋友包含如下: 当前对象本身(this) 作为参数的对象 成员变量 集合成员变量中的元素 创建的对象 可以通过使用第三者类来降低两个类的耦合度。 合成复用原则 尽量使用对象组合,而不是继承来达到复用的目的。 通过继承来实现复用的问题是它会破坏封装性,子类能够看到基类的实现细节,自身类通过继承而来的基类方法是静态的(因为继承的类是确定的),而通过调用成员变量去执行成员变量的方法是动态的,因为成员变量可以是抽象化的,而实现类可以有很多种,每一种实现类的功能又不相同,但是他们可以被当作同一类型而被引入。 Java常用设计模式 往期推荐 什么是存储过程,在实际项目中用得多么? Redis主从同步与故障切换,有哪些坑? 怎么能避免写出慢SQL? 如何防止Redis脑裂导致数据丢失? 边缘计算的未来是什么样的? 本文分享自微信公众号 - 码农架构(iByteCoding)。 如有侵权,请联系 support@oschina.cn 删除。 本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一起分享。

资源下载

更多资源
腾讯云软件源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题,腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构,目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称,一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集,帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Rocky Linux

Rocky Linux

Rocky Linux(中文名:洛基)是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版,作为CentOS稳定版停止维护后与RHEL(Red Hat Enterprise Linux)完全兼容的开源替代方案,由社区拥有并管理,支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性,采用模块化包装和SELinux安全架构,默认包含GNOME桌面环境及XFS文件系统,支持十年生命周期更新。

Sublime Text

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能,例如代码缩略图,Python的插件,代码段等。还可自定义键绑定,菜单和工具栏。Sublime Text 的主要功能包括:拼写检查,书签,完整的 Python API , Goto 功能,即时项目切换,多选择,多窗口等等。Sublime Text 是一个跨平台的编辑器,同时支持Windows、Linux、Mac OS X等操作系统。

用户登录
用户注册