首页 文章 精选 留言 我的

精选列表

搜索[CANN开源],共10000篇文章
优秀的个人博客,低调大师

DeepEP —— 开源 EP 通信库

DeepEP 是专为Mixture-of-Experts (MoE)和 expert parallelism (EP)定制的通信库。它提供高吞吐量和低延迟的all-to-allGPU 内核,也就是所谓的 MoE 调度和组合。该库还支持低精度操作,包括 FP8。 为了与 DeepSeek-V3论文中提出的 group-limited gating algorithm 保持一致,DeepEP 提供了一组针对非对称域带宽转发(例如将数据从 NVLink 域转发到 RDMA 域)进行优化的内核。这些内核提供高吞吐量,使其适合训练和推理预填充任务。此外,它们还支持 SM (Streaming Multiprocessors)数量控制。 对于延迟敏感的推理解码,DeepEP 包含一组具有纯 RDMA 的低延迟内核,以最大限度地减少延迟。该库还引入了一种 hook-based 通信计算重叠方法,该方法不占用任何 SM 资源。 要求 Hopper GPU(以后可能支持更多架构或设备) Python 3.8 及以上版本 CUDA 12.3 及以上版本 PyTorch 2.1 及以上版本 用于节点内通信的 NVLink 用于节点内通信的 RDMA 网络

优秀的个人博客,低调大师

Upgit —— 开源图片上传工具

upgit 可以将文件(不限于图片)快捷上传到 Github 仓库、CDN 、网盘等位置并得到其直链。简洁跨平台,不常驻内存。兼容 VSCode 和 Typora。 特点 支持多平台,包括 Linux 、Windows 和 macOS 支持多种上传器,目前包括 Github 和 SMMS 不限制文件类型 支持从剪贴板上传 自定义自动重命名规则(包括路径) 可通过替换规则实现CDN加速 可通过环境变量配置 将 URL 输出到标准输出 /剪贴板,支持 Markdown 格式 上传扩展 Github Gitee 腾讯云 COS 七牛云 Kodo 又拍云 Hello Niupic SM.MS Imgur ImgUrl.org CatBox LSkyPro Chevereto ImgBB Cloudinary EasyImage 其它自定义上传接口

资源下载

更多资源
腾讯云软件源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题,腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构,目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称,一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集,帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Rocky Linux

Rocky Linux

Rocky Linux(中文名:洛基)是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版,作为CentOS稳定版停止维护后与RHEL(Red Hat Enterprise Linux)完全兼容的开源替代方案,由社区拥有并管理,支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性,采用模块化包装和SELinux安全架构,默认包含GNOME桌面环境及XFS文件系统,支持十年生命周期更新。

Sublime Text

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能,例如代码缩略图,Python的插件,代码段等。还可自定义键绑定,菜单和工具栏。Sublime Text 的主要功能包括:拼写检查,书签,完整的 Python API , Goto 功能,即时项目切换,多选择,多窗口等等。Sublime Text 是一个跨平台的编辑器,同时支持Windows、Linux、Mac OS X等操作系统。

用户登录
用户注册