搜索[LLM]结果-低调大师优秀个人博客

精选列表

搜索[LLM]，共5765篇文章

程序员群体正站在 llm 技术革命的十字路口

LLM 的出现，不是“一个更聪明的函数库”，它更像是一个**具有知识、推理和上下文感知能力的认知体**，它在吞噬我们原本写死逻辑的位置，重写着“人-机”之间的边界。

2026-08-15

大模型推理服务化：从 Embedding 到 LLM 的 K8s 部署全流程

## 三、从 Embedding 到 LLM 的部署实践 ### 3.1 Embedding 模型的部署要点 Embedding 模型是将文本转换为向量表示的基础组件，广泛应用于语义搜索、推荐系统、知识图谱等场景

2026-08-10

从Token统计、数据去重到LLM评测

随着ChatGPT、Claude、通义千问、豆包等大模型应用快速落地，软件测试领域正在出现一个新的方向： **大模型测试（LLM Testing）** 过去测试工程师关注： * 页面是否正常 * 接口是否返回正确

2026-08-05

WorkBuddy+IMA+LLM Wiki 搭建【症状-疾病概念图谱】的过程记录-4 收尾总结

先来看看WB自动化任务(启动WorkBuddy自动执行）今天的运行情况; ![](https://developer.qcloudimg.com/http-save/yehe-12610713/a513328cfa55bda2a0bb4d31134452fd.png) ![](https://developer.qcloudimg.com/http-save/yehe-12610713/475864137cc7569df31e9f12282f2397.png) 结果看着还不错，达到预期效果。 9，项目总结让WB做一份总结： ![](https://developer.qcloudimg.com/http-save/yehe-12610713/e31b159b15ea62f7bc31a5b2a5fb6c5c.png) ![](https://developer.qcloudimg.com/http-save/yehe-12610713/dcc23346317c4e4afb23414e6b06a380.png) ![](https://developer.qcloudimg.com/http-save/yehe-12610713/a5f5b5d5d5e0e3a7979e187eb979e8fb.png) ![](https://developer.qcloudimg.com/http-save/yehe-12610713/b9bdc39abd1b5ee295df9180ac871a5d.png) ![](https://developer.qcloudimg.com/http-save/yehe-12610713/0d9dea3a15fff68d0d5303f7958ec630.png) ![](https://developer.qcloudimg.com/http-save/yehe-12610713/6922a75d368dc33c3a8a2d9105abe676.png) ![](https://developer.qcloudimg.com/http-save/yehe-12610713/ab8ad40a3f3672ab965d28691672241a.png) 走了哪些弯路。说实话，这趟走得并不顺，弯路不少。按阶段给你盘一遍——哪些路本来可以一步到位、却被我们绕了远。一、本地编译器：被"脏 PDF"反复绊倒 1. 病种发现，《内科学》首版返回 0 候选 2. 冒烟测试 12 病全被跳过 3. PDF 页脚"跑马灯"污染 4. 目录项垃圾分隔符 + 空字符 5. 标题行兜底"反向恶化" 6. TOC 书 510 病被整批跳过 7. 重复建实体二、云端推送：最大的弯路在这里 8. IMA 一次性全推 → 撞配额 421 失败（最贵的一次） 9. 腾讯文档：在线表格路线走死 10. 腾讯文档：base64 内联恐惧 11. 误报"wiki 数据危机"（诊断弯路，不是数据弯路）三、方案层面：自己先收窄了 12. 默认只做"三表镜像"，被你反问才补卡片一句话复盘 ![](https://developer.qcloudimg.com/http-save/yehe-12610713/e19fa13eaa4e83b3fe014c6c083a1e46.png) 我自己总结： 1，项目策划不够细，处理流程没事先理清楚 2，对所用工具了解不够，如IMA笔记上传限额 3，有些想“当然”了，为了省事，用IMA做RAW库和消费库，用腾讯文档做中转，从此次项目的经验看是不合适的 4，关于PDF的加工处理，可能我选的工具不是很合适，AI上搜了搜，更合适的可能是RAG类的：LightRAG、Docker + RAGFlow、Ollama，这些都是我的知识盲区，需要补补总的来看，收获还是不错的，算是有小小进步吧。 10，让WB将有些项目记忆升级到全局记忆 ✅ 已升为全局（跨项目通用，与疾病无关） 1. 批量对外写入通用纪律（最值钱的一条）任何项目往云端推大量内容，都该内置：续传状态 + 幂等跳过 + 失败重试 + 按配额反推 ETA；开工前先探通道能力；大批量外写先给成本矩阵再动手。这是纯方法论，零项目耦合。 2. 腾讯文档平台约束 • 大文件/批量走文件导入链路（pre_import → curl 上传 COS → async_import → 轮询），绕过体积上限 + 中文损坏 + 200 行锁 • create_with_markdown 的 base64 不损坏，仅 insert_markdown 损坏 • 沙箱可直连 COS → 任何推腾讯文档的项目都会撞，已顺带指向技能 tencent-docs-file-import。 3. IMA 知识库平台约束 • 每日建笔记配额 ≈30 条（code 200005） • 无 delete/update API，重导重复 → 必须续传防重 → 任何用 IMA 推送的项目都会撞，且极易"以为能一次推完"。关于Python的安装路径及安装过的配置插件，也要升级为全局记忆。 ![](https://developer.qcloudimg.com/http-save/yehe-12610713/d88dbe6eb8040886e400786818bd07d0.png) ![](https://developer.qcloudimg.com/http-save/yehe-12610713/df682c9e9e7bfda65ad5818124132ab8.png) 此项目实操到此结束，准备寻找一下实操项目。

2026-07-13

农业+LLM探索未来科创新发展

随着研讨会筹备工作稳步推进，目前组委会已陆续收到多位参会嘉宾的报告摘要与分享框架，其中两份聚焦农业大模型（农业 LLM）深度研究与实践成果的分享内容，提前解锁了本次研讨会的核心看点，也为行业呈现了人工智能技术赋能农业科研与产业落地的全新范式

2026-03-11

CodeFuse 开源 C2LLM，用 “注意力池化” 刷新 MTEB-Code 榜单

蚂蚁集团与上海交通大学继 F2LLM 后再度联手，重磅推出 C2LLM (Contrastive Code Large Language Models) 系列模型。

2026-01-14

在 Elasticsearch 中使用 A2A 协议和 MCP 创建一个 LLM agent 新闻室

简介当前基于 LLM 的系统正在迅速发展，超越单一模型应用，形成复杂网络，其中专业 agent 协作完成现代计算以前无法想象的任务。

2025-11-17

🔥 Solon AI + MCP 实战：5 行代码搞定天气查询，LLM 从此告别数据孤岛

此文参考自：https://www.toutiao.com/article/7505712149642117669/ 一、痛点直击：为什么你的AI模型会“一问三不知”？当你问 AI “杭州今天会下雨吗”，早期的 AI 应用会回答“请搜索网络”（大概这么个意思）。传统 AI 开发需要为每个工具单独开发接口（如天气API、股票数据、本地文件系统），每对接一个数据源需耗费开发者3-5天时间，且存在以下问题：重复开发：不同的 AI 应用需各自对接同一套工具（比如对接高德地图接口）动态能力缺失：无法实时调用最新数据（如每分钟变化的股价）生态碎片化：不同厂商工具接口互不兼容技术门槛量化：若企业需对接10个外部工具，传统方案需投入至少10人天，而通过MCP协议可缩短至1人天，效率提升10倍。二、技术破局：MCP协议如何成为AI世界的“万能插座”？ MCP（Model Context Protocol）由 Anthropic 提出，其核心价值在于：统一接口：像 USB-C 协议统一外设接入，MCP 为 AI 定义标准化的工具调用规范动态感知：支持多轮对话中实时调用外部资源（如天气API、数据库）安全隔离：通过本地服务处理敏感数据，避免直接暴露API密钥技术架构对比传统方案 MCP方案每个模型独立对接工具一次开发，所有MCP兼容模型通用手动处理HTTP请求/响应声明式工具描述自动映射无状态会话支持会话ID恢复上下文三、实战教学：5行代码构建天气预报MCP服务场景设定为旅游规划AI助手提供实时天气查询能力，用户输入“帮我规划杭州三日游，避开雨天”时，AI自动调用天气数据生成行程。代码实现（Solon AI 3.3 + JDK 1.8）第1步：（服务端）定义天气 MCP 服务。（真的只有 “5” 行代码） @McpServerEndpoint(name = "weather-server", sseEndpoint = "/mcp/weather") public class WeatherService { @ToolMapping(description = "获取指定城市的未来三天天气预报") public String getWeather(@Param(description = "城市名称") String city) { return WeatherApi.getForecast(city); // 调用真实天气API } } 第2步：（客户端）AI调用演示 McpClientProvider toolProvider = McpClientProvider.builder() .apiUrl("http://localhost:8080/mcp/weather") .build(); ChatResponse response = chatModel.prompt("杭州明天适合户外活动吗？") .options(o-> o.toolsAdd(toolProvider)) .call(); 四、技术解析：为什么这（服务端）5行代码能颠覆传统开发？ @McpServerEndpoint和@ToolMapping注解魔法：将Java方法自动映射为AI可理解的工具描述，减少 80% 的胶水代码动态协议协商：MCP客户端自动匹配服务端版本，无需手动处理兼容性问题混合传输模式：支持SSE流式响应（实时天气变化推送）与同步请求安全隔离层：敏感操作（如数据库访问）仅在服务端执行，客户端无直接权限性能对比: 指标传统REST API MCP服务工具接入耗时 8小时/个半小时/个多模型支持需重复适配一次开发通用长上下文支持无会话ID保持五、场景扩展：MCP如何重构AI应用生态？案例1：智能客服系统痛点：用户问“我的订单物流到哪了”，客服需手动查询多个系统 MCP方案：对接订单数据库+物流API，AI自动组合数据生成回答，响应速度从2分钟缩短至3秒案例2：企业知识库问答痛点：员工查询内部文档需登录多个系统 MCP方案：连接Confluence、GitLab、CRM系统，问答准确率提升65% 案例3：AI编程助手痛点：开发者需复制代码到IDE调试 MCP方案：直接操作IDE编译部署，操作步骤减少70% 六、未来展望：开发者该如何抓住这波技术红利？工具升级：将现有REST服务通过OpenRewrite一键转换为MCP服务（节省90%迁移成本）生态布局：建设垂直领域工具市场（如金融数据、医疗知识库）架构升级：采用Streamable HTTP协议提升高并发场景稳定性行动指南：立即体验：GitHub示例项目加入 Solon AI 社区获取最新工具包关注MCP协议2.0升级（支持多模态数据流）结束语：当技术门槛从“月级”降至“小时级”，每个开发者都能成为AI生态的构建者。MCP不是又一个昙花一现的概念，而是打开AI普惠时代的钥匙——正如Spring框架重构Java开发，MCP正在重构AI与真实世界的连接方式。延伸阅读： MCP协议官方文档 Solon AI 深度集成实战百万级并发MCP服务架构设计

2025-06-13

为什么说JSON不一定是LLM结构化输出的最佳选择？

，但我注意到，某些 LLM 更倾向于生成一个 top-level object。因此，在给出提示词时，我们需要明确指出，以确保 LLM 按照统一的格式返回数据。

2025-03-12

20+公司AI应用产品分析；24名工程师的LLM使用痛点

用户提出请求和指令的方式对LLM的性能有重大影响。减少提示工程的摩擦可以帮助改善用户体验并节省工程师与LLM交互的时间。

2024-05-29

1Panel 官方出品丨MaxKB：基于 LLM 大模型的知识库问答系统

MaxKB是一款基于LLM（Large Language Model）大语言模型的知识库问答系统。

2024-04-13

开源日报 | 我让 AI 用 C 语言写一个算法；微软三进制 LLM

字节跳动打造 MegaScale：用于训练 LLM 的单一 “万卡集群” MegaScale 将大语言模型训练扩展到超过 10000 个 GPU，在 12288 个 GPU 上训练 175B LLM 模型时

2024-03-01

对标 LangChain，一个使用 Java 开发的 LLM（大语言模型）应用开发框架

Agents-Flex：一个优雅的 LLM（大语言模型）应用开发框架基础能力 LLM 的访问能力 Prompt、Prompt Template 定义加载的能力 Function Calling 定义

2024-01-19

图技术在 LLM 下的应用：知识图谱驱动的大语言模型 Llama Index

LLM 如火如荼地发展了大半年，各类大模型和相关框架也逐步成型，可被大家应用到业务实际中。在这个过程中，我们可能会遇到一类问题是：现有的哪些数据，如何更好地与 LLM 对接上。

2023-07-25

Agent 实践第八篇 | 评测系统也要被评测：Eval Harness、LLM Judge 与人工校准

某三甲医院的一次版本评审会上，出院随访 Agent 的离线通过率提高了，随访护士却反映新版本更容易漏掉应当升级的患者。开发者没有伪造数字：报告确实来自自动运行。追查后发现，旧版本的试验大多安排在夜间语音外呼批次执行，转写噪声更多；新版本使用了更新的骨科随访模板与预警规则版本；评审提示也从“核对预警规则触发后是否创建升级”改成了“评价随访对话是否得体、解释是否清楚”。三个不同的问题被压成一个总分，最后被解释为同一系统的能力提升。

2026-11-08

给 LLM 能耗测量工具加上 AMD ROCm 支持：一次开源协作的技术复盘

摘要：一个只认 NVML 的 GPU 能耗测量容器，如何开始拥抱 AMD？本文复盘 ecocompute-mlcube 的 ROCm 支持之路：先做"诚实回退"而非借用 NVIDIA 曲线，再以镜像 NVML 语义的标准立项，然后拆解贡献者 PR 里的六道工程取舍——subprocess 接缝隔离、ROCm 5.x/6.x 字段名漂移的宽松匹配、单位差异源头吸收、2 Hz 降采样、Thread._stop 遮蔽陷阱、连续失败熔断。全部测试通过，却刻意不接入测量流：mock-tested 不冒充 validated。

2026-11-06

从ASR、Speaker Diarization到LLM的误差传播

如今，将一段会议录音转换成文字，再利用LLM提取讨论重点、生成会议摘要，整个过程已经不需要复杂的人工操作。

2026-11-03

AI智能测试用例生成技术解析：多源融合+LLM混合生成方案与实践

**导读：**AI测试用例生成是指利用大语言模型（LLM）与约束求解技术，融合需求文档、源代码和历史缺陷三类数据，自动生成高质量、可执行测试用例的技术。

2026-10-27

LLM 能自己改进自己的 Harness 吗？来自 ARC-AGI-3 的对照实验启示

# LLM 能自己改进自己的 Harness 吗？来自 ARC-AGI-3 的对照实验启示 ## 一个悬而未决的问题现代 LLM 并不单独工作。

2026-10-27

Simon Willison复盘LLM与Agent的狂飙时刻

developer.qcloudimg.com/http-save/yehe-3145136/db32eecd09ee22e9a62c91b6b9f3d0ab.png) Simon 把 2026 年至今 LLM

2026-10-24

资源下载

更多资源

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。