搜索[LLM聚合]结果-低调大师优秀个人博客

精选列表

搜索[LLM聚合]，共9673篇文章

如何在不可信的云环境中，构建兼具极致性能与卓越安全的大语言模型（LLM）推理服务?

本文摘要本项目旨在应对"隐语杯"密态大模型推理挑战赛的核心命题：如何在不可信的云环境中，构建兼具极致性能与卓越安全的大语言模型（LLM）推理服务。

2025-11-04

实战：把大模型API成本压到十分之一，模型分层+上下文压缩+聚合路由完整方案

最近把团队的大模型API月开销从四位数砍到不到十分之一，模型效果几乎没打折。这篇把完整优化思路拆开讲，适合正在为Token账单发愁的开发者和小团队。

2026-08-31

ARTS 0830: 有效括号、LLM 在预测下一个词与真正昂贵的是逐对象 new/free

每周完成一个 ARTS：至少做一个 leetcode 的算法题、阅读并点评至少一篇英文技术文章、学习至少一个技术技巧、分享一篇有观点和思考的技术文章。（也就是 Algorithm、Review、Tips、Share 简称 ARTS）

2026-08-30

3万亿参数开源、成本只有对手1/4:Kimi K3给中小团队的LLM部署账该怎么算

7月27日晚,月之暗面把 Kimi K3 的完整权重放了出来。这不是又一次"发布即画饼"——参数、架构报告、推理适配全部同步到位,896个专家的MoE、KDA混合注意力、Per-Head Muon优化器,全部可以下载下来自己跑。

2026-07-30

深圳腾讯云代理商：阿里云ACK部署LLM后TTFT波动？从网关到KV Cache逐层排查指南

本文从网关、调度、显存到KV Cache逐层拆解，提供一套可复现的“阿里云ACK LLM部署 TTFT波动排查”路径。

2026-07-27

零基础认识大语言模型（LLM）工作原理(11.MCP：为什么 AI 世界需要统一的工具协议？)

这些能力让 AI 从一个"只会聊天"的模型，逐渐变成一个能够完成任务的 Agent。

2026-07-14

国内大模型 API 聚合平台怎么选：从调用链路、数据安全到生产治理看数眼、硅基、非线与七牛

说明：本文基于各平台公开文档与实际接入时常见的工程问题整理，不做跑分排名，也不把模型回答质量简单归因于聚合平台。价格、模型清单和产品能力变化较快，正式上线前应以控制台和合同约定为准。

2026-09-22

微服务架构深水区实战：基于 Netty 与事件驱动（EDA）重构下沉市场 O2O 聚合调度与多端同步中台

在构建覆盖大西北下沉市场（如青海西宁、海东、海西、玉树、果洛等高海拔多州县）的综合本地生活外卖与跑腿平台时，架构师面临的技术壁垒与平原一线城市环境有着显著差异。

2026-09-07

日志采集框架Flume以及Flume的安装部署（一个分布式、可靠、和高可用的海量日志采集、聚合和传输的系统）

http://flume.apache.org/FlumeUserGuide.html Flume官网入门指南： 1：Flume的概述和介绍：（1）：Flume是一个分布式、可靠、和高可用的海量日志采集、聚合和传输的系统

2017-12-12

Agent驱动的筹码分布解读系统用LLM翻译主力成本迁移 IG50免费开源股票数据API接口

筹码分布是技术分析里少数真正"有信息量"的指标：它把每个价位上堆积的持仓成本画成一张山形图，获利比例、成本区间、集中度全部一目了然。但这个指标的阅读门槛不低——同一张筹码图，老手能看出主力成本重心在三个月里悄悄上移，新手只看到几座山。我最近做的这个系统，就是让 Agent 盯着筹码分布的时间序列，把"主力成本迁移"这件事用自然语言翻译出来：成本中枢往哪儿移、集中度是收缩还是发散、获利盘在什么位置被反复清洗。数字归代码算，语义归模型讲。

2026-09-21

大模型应用开发中的可观测性实战：从日志到调用链，构建 LLM 应用的可靠性工程

当你的大模型应用从 Demo 走向生产，第一个让你夜不能寐的问题一定是：“它为什么又答错了？” ——没有异常堆栈，没有报错日志，只有一段看似合理却完全跑偏的文本。传统监控手段（日志级别、错误码）在大模型场景下几乎失效，因为 “错误”不再是程序崩溃，而是语义偏差、幻觉、检索遗漏。

2026-08-05

零基础认识大语言模型（LLM）工作原理(12.Workflow：为什么企业 AI 都离不开工作流？)

我们先概括一下: Workflow等于用确定性的流程，组织不确定性的 AI 能力。

2026-07-15

LLM 如何批量且精准地实现电商海量标签标注与验证？拆解 Amazon 的 SynthAVE 工业级多模型质检方案

电商平台要处理海量商品，最绕不开的脏活就是把商品详情里的非结构化文本，整理成标准的属性标签。这些标签不仅直接影响搜索和推荐，也是评测各类抽取模型的基础真值。

2026-07-14

qKnow 知识平台商业版 v2.6.1 正式发布：移除对第三方 LLM 应用框架的依赖

本次版本，我们完成了一件“难但正确”的事情： 👉 全面移除对第三方知识库与 LLM 应用开发框架的依赖，构建完全自主可控的大语言模型与知识库集成体系。

2026-01-28

最佳LLM在59%的情况下能写出正确的Elasticsearch ES|QL。以下是导致其余41%失败的症结所在

我们向四个模型提供了来自BIRD Mini-Dev集的500个自然语言问题，要求每个模型生成一条Elasticsearch查询语言（ES|QL）查询，并根据是否返回了正确的行来评分所有6,000条答案。最佳模型在仅凭索引映射的单一尝试中获得了59%的正确率，且在500次查询中仅出现7次解析失败。语法不再是天花板。在提示词中嵌入一份紧凑的ES|QL参考手册，对较小模型的价值约为10个百分点的提升，但对最强模型却造成了10个百分点的下降。在仍然失败的查询中，大约一半会抛出精确的Elasticsearch错误，只需一次重试即可修复。另一半则顺利运行却返回空结果，原因是模型猜测的值不在数据中。

2026-09-30

零基础认识大语言模型（LLM）工作原理(13.Memory：从 RAG 到 AI Brain，Agent 如何拥有长期认知能力？)

但是，一个真正长期工作的 AI 助手，还缺少一个非常重要的能力：它必须能够积累经验。

2026-07-16

零基础认识大语言模型（LLM）工作原理(10.Tool Calling：让 AI 第一次拥有行动能力)

无论模型多么强大，它始终只能完成一件事情：根据已有上下文，预测下一个 Token。

2026-07-11

实战视角：为何专用小型语言模型（SLM）正成为企业 AI 选型新宠—与 LLM 的全面对比指南 | 葡萄城技术团队

本文结合两篇权威报告的核心观点，从定义、差异、实战案例到选型建议，全方位解析 SLM 与 LLM 的应用逻辑，助力国内开发者精准匹配业务需求。一、核心概念：SLM 与 LLM 的本质区别 1.

2025-10-30

开源日报 | 网易云音乐崩了；MoonBit发布beta；稚晖君要做开源机器人；LLM数学性能暴涨168%；CockroachDB变更开源协议

- 微博苦丁山网易云音乐称基础设施故障 - 微博网易云音乐我们收到了知网28页的侵权告知函 - 微信秘塔官方稚晖君要做开源机器人 - 微博林亦LYi LLM数学性能暴涨168% 合成数据2.0

2024-08-19

LLM 自指循环里约束恢复的规模依赖性

一个受控实验问了一个很具体的问题：语言模型从一条冲突指令里恢复过来，是因为它多生成了文本，还是因为它被耦合到了第二个 agent？

2026-09-17

资源下载

更多资源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源，继承了IntelliJ IDEA强大的JS部分的功能。