首页 文章 精选 留言 我的

精选列表

搜索[安全加速 SCDN],共10000篇文章
优秀的个人博客,低调大师

走出“Token黑洞”:Agent推理加速、成本治理与端云协同实战

2026年7月,随着AI Agent从实验性项目全面铺开,企业CFO们正面临一场前所未有的“账单风暴”。Gartner最新数据显示,生产级Agent的月度推理成本平均超出预算4.2倍,其中68%的支出源于无效Token消耗、冗余模型调用与低效架构设计。行业共识已从“不惜代价追求效果”转向“单位智能成本工程化”,通过动态模型路由、语义缓存与端云协同推理,让每一分算力都精准转化为业务价值。这标志着Agent进入FinOps时代,可度量的推理经济性已成为决定其能否规模化落地的生死线。

优秀的个人博客,低调大师

《硅基加速之后:AI 时代的教育、劳动与公平制度》前言

我写这本书,不是为了再回答一次“AI 会不会取代人类”。这个问题太容易把我们带进一种简单的恐惧:仿佛未来只有两个选项,要么机器胜利,要么人类退场。我更关心的是另一个更难、也更现实的问题:当机器能力以硅基速度跃迁,而人的教育、职业转换和公共制度仍以碳基节奏缓慢更新时,我们怎样避免生产率提升演变成结构性断裂?

优秀的个人博客,低调大师

谷歌前 CEO 敦促欧洲加速开源 AI 布局,避免依赖中国技术

1 月 20 日,在瑞士达沃斯世界经济论坛上,谷歌前首席执行官、科技投资人埃里克·施密特(Eric Schmidt)指出,欧洲需要大幅投资开源人工智能技术,否则可能陷入对中国 AI 模型的依赖。 施密特认为,目前美国 AI 企业普遍采用闭源模型开发路线,这些技术通常通过购买或授权方式对外提供,而中国则倾向于开放权重和开源,推动其 AI 模型生态更广泛地被使用。 他强调,欧洲若不愿意投入巨额资金建设本土开源 AI 实验室和模型,将可能在未来的 AI 技术竞争中依赖中国提供的技术与模型,“这对欧洲并非理想的结果”。 此外,施密特还提到,解决能源价格飙升和加强数据中心基础设施建设是提升欧洲 AI 竞争力的关键配套环节。

优秀的个人博客,低调大师

智元开源 VideoDataset:基于 GPU 硬件解码的 VLM 训练加速利器

智元机器人团队宣布开源 VideoDataset,一个基于实际 AI 训练需求深度开发的高性能视频数据加载库。 极致性能: 通过将解码任务从传统的 CPU 转移到 GPU,充分挖掘硬件解码能力,吞吐量提升 4 倍。 随机访问: 解决了硬件解码通常不支持随机寻帧 (Random Seek) 的业界难题,专为 AI 训练设计的随机采样功能。 无缝集成: 兼容 PyTorch Dataset 接口,提供 Mixin 类,开发者改几行代码即可接入现有训练流。 为了更直观地评估 VideoDataset 的表现,智元方面进行了 VideoDataset 与主流 CPU 软件解码方案的全面性能对比测试,测试对象包括 OpenCV、Torchvision(PyAV)、Torchvision(VideoReader)和TorchCodec。 结果显示,VideoDataset与主流 CPU 软件解码方案对比,在解码吞吐量上提升了3到4倍。并且,它能更有效地分担计算负载,从而将解码任务近乎剥离CPU。这一优势使得 VideoDataset 在大规模视频数据训练中不仅能提供更高的解码效率,还能最大限度地利用GPU资源,提高整体训练效率。 同时,由于支持多解码器复用,在面对实际训练中海量视频随机解码的场景下,VideoDataset 的解码吞吐量相比主流 GPU 硬件解码方案同样也有明显的优势。 VideoDataset 基于 NVIDIA Video Codec SDK 进行封装,通过多解码器(Decoder)调度和生产者—消费者模型等多种手段实现了解码与训练的完全异步流水线,使解码器利用率达到 90% 以上,提升了解码性能和吞吐量。 并通过将视频进行 GOP 级切分,支持快速定位到关键帧。这样,解码器无需解码整个 GOP,只需要解码到目标帧即可停止,从而实现了高效的随机寻帧。还解决了 Python 多进程(spawn/fork)与 CUDA Context 的冲突,确保在 DataLoader 多 worker 模式下稳定运行。 公告透露,VideoDataset 接下来的版本更新将包括: 支持多级流水线优化,提升训练流程的灵活性与效率; 完全支持Lerobot,推动生态系统的互联互通; 面向PB级数据的分布式存储加载,处理海量数据不再是难题; 更多视频格式的兼容,助力与HuggingFace生态深度集成。

优秀的个人博客,低调大师

AMD 开源 Brotli-G 压缩格式,可使用 GPU 加速 Brotli 压缩

AMD 的 GPUOpen 团队公布了一个新的开源项目:Brotli-G,Brotli-G 基于 IETF 维护的完善的 Brotli 无损压缩算法标准( RFC7932),但可以使用 GPU 进一步增强 Brotli 压缩算法的性能和压缩比。 Brotli 压缩算法由 Google Research 开发,于 2013 年首次发布,开源规范于 2013 年至 2016 年间开发和推广。 Brotli是 LZ77 压缩算法和霍夫曼编码(类似于 GZIP 和 Deflate)的组合,作为 GZIP 和 Deflate 算法的开源继承者,Brotli具有相似的性能,但压缩比更好。 目前 Brotli 在 Web 应用程序和内容中被广泛采用,用于压缩 Web 应用程序资产,例如字体、javascript、图像等。 如今超过 95% 的网络浏览器都支持 Brotli 解压。 许多 Web 应用程序框架都支持 Brotli 编码(例如 NGINX 和 ASP.NET)。 一些 CDN 使用 Brotli 编码(例如 Azure 和 ImageKit) Brotli-G 性能优化 Brotli-G对标准 Brotli 比特流格式的修改主要集中在:允许在 GPU 和多线程 CPU 上进行高效的数据并行解压缩,同时仍保持相对较高压缩率。主要的变化可概括为: 限制要压缩的块(页面)的大小,提供在 GPU 上使用多个计算单元 (CU) 的能力。 实施并行霍夫曼子流,提供使用 SIMD 处理的能力。 简化了比特流格式,最大限度地提高 GPU 性能。 目前 Brotli-G 解压缩算法已作为“着色器-shader”程序(用微软的 HLSL 高阶着色器语言编写)实现,可以在任何兼容 DirectX 的显卡上运行(但似乎不支持 AMD 的 Radeon 显卡...)。在着色器中实现解压缩,可充分利用 GPU 硬件的巨大并行处理能力,以实现快速解压缩效果。 AMD 开源的是一个 Brotli-G SDK,包含用于 CPU 和 GPU 上的 CPU 压缩和解压缩的源代码。该 SDK 还包含 CLI 应用程序的源码,可用于测量 Brotli-G 编解码器的性能。 需要注意的一件事是,已经使用 Brotli 压缩的内容,无法使用 Brotli-G 解压缩器进行解压。如果要利用 Brotli-G,必须使用兼容 Brotli-G 的压缩器(也在 SDK 中提供)重新压缩该内容。 目前该 SDK 以基于 MIT 的BCP 78许可证(这是标准 Brotli 压缩算法的许可证)开源,可以在其GitHub 存储库中找到。

资源下载

更多资源
腾讯云软件源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题,腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构,目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称,一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集,帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring

Spring框架(Spring Framework)是由Rod Johnson于2002年提出的开源Java企业级应用框架,旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念,提供核心容器、应用上下文、数据访问集成等模块,支持整合Hibernate、Struts等第三方框架,其适用范围不仅限于服务器端开发,绝大多数Java应用均可从中受益。

WebStorm

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源,继承了IntelliJ IDEA强大的JS部分的功能。

用户登录
用户注册