笔记列表-低调大师优秀个人博客

文章列表

共 187338 篇

2025-05-28

大语言模型推理优化技术综述

编者按：如何将 LLM 的推理过程从"烧钱的无底洞"转变为"高性能的生产力引擎"？本文深入剖析了提升 LLM 推理效率的五大核心技术：巧妙的 KV 缓存管理、Query-sparsity attention（QUEST）、推测解码（使用 draft model 加速生成过程）、权重调度（通过 Flexgen 实现跨设备资源分配）以及系统级优化（FastSe...

310

阅读约30分钟

2025-05-28

红帽车用操作系统即将全面上市

红帽宣布在汽车行业取得重大突破：红帽车用操作系统已通过ISO 26262第2版（2018年版）ASIL-B级安全标准认证，达到该标准中独立于环境的安全要素（SEooC）功能安全认证。该持续认证的开源操作系统平台预计于2025年第三季度推出，为汽车制造商和供应商带来安全认证的Linux。红帽车用操作系统是一款经过安全认证、基于Linux的操作系统，可满足...

458

阅读约2分钟

2025-05-28

JuiceFS 企业版 5.2：迈入千亿文件时代，稳定性与性能再升级

JuiceFS 企业版 5.2 版本近日发布，文件管理规模迈入千亿级。此次升级重点提升了超大规模集群的稳定性，优化了分布式缓存的网络性能，并增强了系统的易用性与安全性，旨在支持高并发访问等复杂的高性能应用场景。 JuiceFS 企业版专为高性能场景设计，自 2019 年起开始应用于机器学习领域，现已成为 AI 行业核心基础设施之一。我们的商业客户涵盖大模型公...

393

阅读约11分钟

2025-05-28

ProxyPin V1.1.9 已经发布，全平台 HTTP 抓包工具

ProxyPin V1.1.9 已经发布，全平台 HTTP 抓包工具此版本更新内容包括： iOS App Store：https://apps.apple.com/app/proxypin/id6450932949 QQ群交流: https://qm.qq.com/q/pE3U9IAkXC 证书安装流程介绍：https://www.bilibili.com...

477

阅读约2分钟

2025-05-28

Claude 移动端版本已上线“语音模式”

Anthropic宣布为其 Claude 聊天机器人上线语音模式 (voice mode)，作为 Beta 版在 iOS 和 Android 移动应用上逐步向英语用户推出，计划在未来几周内覆盖所有订阅计划。这一功能由 Claude Sonnet 4 模型驱动，旨在提供更自然的交互体验，允许用户通过语音与 Claude 进行完整对话，尤其适合双手繁忙的场景，...

453

阅读约2分钟

2025-05-28

Mistral AI 发布 Agents API，内置代码执行、网络搜索等工具

Mistral AI 宣布推出 Agents API，其内置代码执行、网络搜索等工具，支持跨对话持久记忆和智能体编排。官方公告写道：传统语言模型擅长生成文本，但在执行操作或保持上下文方面存在局限。Mistral 的新 Agents API 通过将 Mistral 强大的语言模型与以下功能结合，解决了这些局限性：内置的代码执行、网络搜索、图像生成和 MC...

274

阅读约3分钟

2025-05-28

多模态大模型视觉推理能力评估：o3 仅得 25.8% 分数

清华大学、腾讯混元、斯坦福大学及卡耐基梅隆大学的研究团队近日联合发布了一项新评估基准 ——RBench-V，专门针对多模态大模型的视觉推理能力进行测试。 RBench-V 基准测试包含803道题目，涉及多个领域，包括几何与图论、力学与电磁学、多目标识别和路径规划等。与以往只要求文字回答的评估不同，这次评测特别要求模型生成或修改图像内容，以支持推理过程。这意味...

278

阅读约2分钟

2025-05-28

秘塔AI搜索推出全新“极速”模型，响应速度最高400 tokens/秒

秘塔AI搜索推出了全新“极速”模型，新版模型不仅更快，准确率更高，逻辑也更清晰。据介绍，秘塔AI团队通过在GPU上进行kernel fusion，以及在CPU上进行动态编译优化，在单张H800 GPU上实现了最高400 tokens/秒的响应速度，大部分问题2秒内就能答完。用户可通过测速站点kuai.metaso.cn体验实际效果，但团队提示模型规模较小...

291

阅读约1分钟

2025-05-28

Trae IDE 海外版上线付费订阅服务，Pro 版每月 10 美金

字节跳动旗下 AI IDE ——Trae IDE 已针对海外版上线付费订阅服务，具体权益如下： ✅ 不再“排队等待”——更快地访问像 Claude Sonnet 4 这样的顶级模型 ✅ 每月 600 次快速请求 Premium 模型 ✅ 无限自动补全和慢速请求 ✅ 额外快速请求按需付费 ✅ 新用户首月仅需 3 美元除了上线付费订阅服务，Trae IDE 还...

522

阅读约1分钟

2025-05-28

Salesforce 斥资 80 亿美元收购 Informatica

全球第一 CRM 平台 Salesforce 宣布斥资 80 亿美元全资收购企业级 AI 驱动云端数据管理公司 Informatica。Salesforce 将向 Informatica A 类和 B-1 类普通股股东支付每股 25 美元。此次收购是 Salesforce 在云计算领域的重要布局，通过收购 Informatica，Salesforce 将进...

238

阅读约2分钟

2025-05-28

谷歌回应在 AI 搜索植入广告：用户觉得有帮助

谷歌搜索正在其AI模式(AI Mode)和AI概览(AI Overviews)功能中添加广告，谷歌声称这些广告是“有帮助的”。在上周的谷歌营销活动Google Marketing Live上，谷歌确认已经开始在美国推出这些广告，并声称它们为客户提供了新的“机会”。据一些用户反映，这些广告出现在AI概览的下方，紧随其后的是传统的蓝色链接。随后在媒体发现的一...

235

阅读约2分钟

2025-05-28

TimescaleDB 2.20.1 发布，基于 PostgreSQL 的时序数据库

TimescaleDB 是一个开源数据库，旨在使 SQL 可扩展到时间序列数据，基于 PostgreSQL 构建的，并打包为 PostgreSQL 扩展程序，提供跨时间和空间的自动分区，以及完整的 SQL 支持。 TimescaleDB 2.20.1 现已发布，此版本包含自2.20.0版本以来的性能改进和错误修复。具体更新内容如下： Features #81...

315

阅读约2分钟

2025-05-28

ProxyPin v1.1.8 已经发布，全平台 HTTP 抓包工具

ProxyPin v1.1.8 已经发布，全平台 HTTP 抓包工具此版本更新内容包括： iOS App Store：https://apps.apple.com/app/proxypin/id6450932949 QQ群交流: https://qm.qq.com/q/pE3U9IAkXC 证书安装流程介绍：https://www.bilibili.com...

314

阅读约2分钟

2025-05-28

Spring AI Alibaba 发布企业级 MCP 分布式部署方案

作者：影子，刘宏宇，刘军 Spring AI 通过集成 MCP 官方的 java sdk，让 Spring Boot 开发者可以非常方便的开发自己的 MCP 服务，把自己企业内部的业务系统通过标准 MCP 形式发布为 AI Agent 能够接入的工具；另一方面，开发者也可以使用 Spring AI 开发自己的 AI Agent，去接入提供各种能力的 MCP...

271

阅读约19分钟

2025-05-28

腾讯混元开源语音数字人模型 HunyuanVideo-Avatar

腾讯混元宣布开源语音数字人模型HunyuanVideo-Avatar，由腾讯混元视频大模型（HunyuanVideo）及腾讯音乐天琴实验室MuseV技术联合研发，支持头肩、半身与全身景别，以及多风格、多物种与双人场景，面向视频创作者提供高一致性、高动态性的视频生成能力。用户可上传人物图像与音频，HunyuanVideo-Avatar模型会自动理解图片与音频...

309

阅读约3分钟

2025-05-28

👍JeeSiteV5.12.0 发布 Java+AI 低代码 Spring AI Vue3 微服务

升级内容 AI助手升级 Spring AI 1.0.0-RC1、Chroma 1.0.0 等新增 spring.ai.defaultPromptTemplate 默认问题回答模板参数新增 AI 结构化输出、文本格式、JSON格式、Java对象格式、结合Tool Calling方式输出优化文章附件及内容中链接网址的读取代码逻辑，如果是 html 附件...

366

阅读约11分钟

2025-05-28

被拒两次后，我彻底重构了 iOS 上架流程｜Appuploader复盘实录

有一段时间，我对“App Store 审核”三个字产生了条件反射。不是因为怕写代码，而是因为我太怕看见“Your app has been rejected”那封邮件了。作为跨平台独立开发者，我从构建到发布全程一个人搞定。项目上线那天，本应是收获成就感的节点，结果因为 App Store 的严格机制，被迫一拖再拖。我从第一次被拒、第二次被拒，再到最终一次...

193

阅读约7分钟

2025-05-28

启用 Java AOT 编译打包 Solon 项目（Solon AOT）

1、Java 的 AOT（Ahead-Of-Time） AOT（Ahead-Of-Time）编译是与 JIT（Just-In-Time）相对的一种编译方式。在 AOT 模式下，Java 字节码（Bytecode）在程序运行之前，就被提前编译为目标平台的本地机器代码。 2、Solon AOT Solon AOT 是 Java AOT 的增强模式。可借助容器在...

207

阅读约5分钟

2025-05-28

大语言模型推理优化技术综述（The Art of LLM Inference）

434

阅读约30分钟

2025-05-28

Kmesh v1.1.0 发布，基于 eBPF 和可编程内核的无 Sidecar 服务网格

Kmesh v1.1.0 版本已正式发布。在 v1.0.0 的基础上，此版本对 Kmesh 的架构、可观察性和生态系统集成进行了重大改进。Kmesh 官方网站经过了全面的重新设计，提供了直观的界面和精简的文档，以增强用户和开发者的体验。此外，我们还重构了 DNS 模块并添加了长连接指标，从而能够更深入地洞察更多流量模式。在 Kernel-Native 模...

301

阅读约6分钟

资源下载

更多资源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。

文章列表

大语言模型推理优化技术综述

红帽车用操作系统即将全面上市

JuiceFS 企业版 5.2：迈入千亿文件时代，稳定性与性能再升级

ProxyPin V1.1.9 已经发布，全平台 HTTP 抓包工具

Claude 移动端版本已上线“语音模式”

Mistral AI 发布 Agents API，内置代码执行、网络搜索等工具

多模态大模型视觉推理能力评估：o3 仅得 25.8% 分数

秘塔AI搜索推出全新“极速”模型，响应速度最高400 tokens/秒

Trae IDE 海外版上线付费订阅服务，Pro 版每月 10 美金

Salesforce 斥资 80 亿美元收购 Informatica

谷歌回应在 AI 搜索植入广告：用户觉得有帮助

TimescaleDB 2.20.1 发布，基于 PostgreSQL 的时序数据库

ProxyPin v1.1.8 已经发布，全平台 HTTP 抓包工具

Spring AI Alibaba 发布企业级 MCP 分布式部署方案

腾讯混元开源语音数字人模型 HunyuanVideo-Avatar

👍JeeSiteV5.12.0 发布 Java+AI 低代码 Spring AI Vue3 微服务

被拒两次后，我彻底重构了 iOS 上架流程｜Appuploader复盘实录

启用 Java AOT 编译打包 Solon 项目（Solon AOT）

大语言模型推理优化技术综述（The Art of LLM Inference）

Kmesh v1.1.0 发布，基于 eBPF 和可编程内核的无 Sidecar 服务网格

资源下载

腾讯云软件源

Spring

Rocky Linux

Sublime Text

欢迎您来访！