首页 文章 精选 留言 我的
优秀的个人博客,低调大师

微信关注我们

原文链接:https://www.oschina.net/news/335957

转载内容版权归作者及来源网站所有!

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

DeepSeek 开源周第四日:DualPipe、EPLB 优化并行策略

DeepSeek“开源周”的进度已进行到第四天,今天开源了优化并行策略的项目。 DualPipe - 一种用于 V3 / R1 训练中计算-通信重叠的双向管道并行算法。 EPLB - 一种用于 V3 / R1 的专家并行负载平衡器。 分析 V3 / R1 中的计算-通信重叠。 具体项目介绍和链接如下: DualPipe: “双管道(DualPipe)”是在《深度搜索-V3 技术报告》中引入的一种创新的双向流水线并行算法。它实现了正向和反向计算-通信阶段的完全重叠,同时也减少了流水线气泡。 专家并行负载均衡器(EPLB): 在使用专家并行(EP)时,不同的专家被分配到不同的 GPU。由于不同专家的负载可能因当前工作负载而异,因此保持不同 GPU 的负载平衡非常重要。正如在 DeepSeek-V3 论文中所述,我们采用冗余专家策略,复制高负载的专家。 然后,我们通过启发式方法将复制的专家分配到 GPU 上,以确保不同 GPU 之间的负载平衡。 此外,由于 DeepSeek-V3 中使用了分组受限的专家路由,我们还尽可能尝试将同一组的专家放置在同一节点上,以减少节点间的数据流量。为了便于复现...

Kubescape 成为 CNCF 孵化项目

CNCF 技术监督委员会 (TOC) 已投票接受 Kubescape 作为 CNCF 孵化项目。 根据介绍,Kubescape 是一个开源的 Kubernetes 安全项目,旨在为整个开发和部署生命周期提供全面的安全覆盖,于 2022 年 11 月进入云原生计算基金会 (CNCF) 沙箱。它提供姿态和漏洞管理,以及自动加固策略。 此外,Kubescape 还提供基于 eBPF 的威胁检测功能,能够识别云工作负载的异常和可疑行为。Kubescape 既可以作为 CLI 工具,也可以作为 Kubernetes 操作器使用。CLI 工具用于手动扫描、脚本编写和 CI/CD 集成,而 Kubescape 操作器则是一组微服务,从内部监控您的 Kubernetes 集群。 Kubescape 由专注于云运行时安全的网络安全公司 ARMO 于 2021 年创建。自成立以来,Kubescape 一直是增长最快的开源安全项目之一,在云原生社区中获得了广泛采用。 Kubescape 也是首个 CNCF Kubernetes 安全扫描器。

相关文章

发表评论

资源下载

更多资源
优质分享App

优质分享App

近一个月的开发和优化,本站点的第一个app全新上线。该app采用极致压缩,本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Apache Tomcat

Apache Tomcat

Tomcat是Apache 软件基金会(Apache Software Foundation)的Jakarta 项目中的一个核心项目,由Apache、Sun 和其他一些公司及个人共同开发而成。因为Tomcat 技术先进、性能稳定,而且免费,因而深受Java 爱好者的喜爱并得到了部分软件开发商的认可,成为目前比较流行的Web 应用服务器。

Eclipse

Eclipse

Eclipse 是一个开放源代码的、基于Java的可扩展开发平台。就其本身而言,它只是一个框架和一组服务,用于通过插件组件构建开发环境。幸运的是,Eclipse 附带了一个标准的插件集,包括Java开发工具(Java Development Kit,JDK)。

Sublime Text

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能,例如代码缩略图,Python的插件,代码段等。还可自定义键绑定,菜单和工具栏。Sublime Text 的主要功能包括:拼写检查,书签,完整的 Python API , Goto 功能,即时项目切换,多选择,多窗口等等。Sublime Text 是一个跨平台的编辑器,同时支持Windows、Linux、Mac OS X等操作系统。