搜索[LLM聚合]结果-低调大师优秀个人博客

精选列表

搜索[LLM聚合]，共9662篇文章

2026第三方大模型API聚合平台选型：从协议兼容、故障路由到密钥治理

第三方大模型API聚合平台的价值，已经不只是用一个Base URL调用多个模型。进入生产环境后，企业更需要解决协议差异、模型路由、故障降级、密钥隔离、预算控制、调用审计和数据边界等问题。

2026-09-23

OLAP与OLTP怎么选：一张零售经营分析报表，负载识别与分层预聚合

上个月帮一家连锁零售客户看报表。系统专为 OLAP 搭的，跟交易库分开，理论上不该慢。可运营拉一次"大区×品类×月份"的销售分析，看板要等好几分钟。业务咬定是 SQL 写得烂。我把 SQL 和执行计划翻了一遍，没毛病。问题在另一头：这库从建起就没搞清自己在跑什么负载。这也是很多人对 OLAP 的误解。这篇就把它讲透，顺带说清 OLAP 和 OLTP 的差别。

2026-09-15

多院区公共机构托管项目：MyEMS 跨站点数据聚合与统一可视化实现

随着公共机构节能降碳工作的深入推进，能源费用托管模式已成为公共机构节能改造的主流路径。截至目前，全国公共机构累计实施能源费用托管项目突破 1200 个，合同总金额超过 550 亿元，覆盖 7000 余家公共机构。在这一浪潮中，一个日益普遍的场景是：托管服务商同时承接多个院区、多个机构的能源托管合同，形成"一对多"的运营格局。

2026-08-25

用 Python 构建可落地的日志异常分诊器：规则检测、告警聚合与可选模型摘要

服务器日志异常处理看起来简单：发现 ERROR、Exception、timeout 就发通知。但在实际运维里，直接把关键词命中结果推给人，很快会遇到三个问题。

2026-08-01

Tianji v1.5.0 发布，聚合网站流量分析、监控、服务器状态

Tianji:网站分析器 + 状态监控器 + 服务状态上报动机在我们对网站进行观察时。我们往往需要多个应用一起来组合使用。比如我们需要 ga/umami 等分析工具来查看 pvuv 以及各个页面的访问量，我们需要 uptime 监控器来检查服务器的网络质量与连通性，我们需要通关 prometheus 获取服务端上报的状态来检查服务器的质量。另外如果开发的是一个允许被开源部署的应用，我们往往还需要一个遥测系统来帮助我们对其他人的部署情况做一个最简单的信息收集。我认为这些工具应当是为同一个目的而服务的，那么有没有一款应用能够轻量级的将这些常见的需求整合为一体呢？毕竟在大部分时候我们并不需要非常专业与深入的功能。但是我为了实现全面的监控却需要安装如此多的服务。专精于一项这很好，如果我们是相关能力的专家我们需要这样的专业工具。但是对于大部分只有轻量级需求的用户而言，一个 all in one 的应用会更加方便与易于使用官方网站:https://tianji.msgbyte.com/ Github:https://github.com/msgbyte/tianji v1.5.0 版本更新内容增加website访客地图增加审计日志增加上一周期数据比较以及一系列bug修复，具体改动请查看更新日志

2024-02-02

经典设计模式之策略模式【如何重构聚合支付平台，对接【支付宝，微信，银联支付】】

策略模式应用场景比如搭建聚合支付平台的时候，这时候需要对接很多第三方支付接口，比如支付宝、微信支付、银联支付等。通过传统if代码判断的，后期的维护性非常差！

2019-05-08

AI 应用与智能体开发：从 LLM 调用到生产级 Agent 系统的专业实践

AI 应用的核心是用 LLM 解决具体业务问题，而智能体则进一步引入工具调用、多步推理、状态管理与环境交互。

2026-09-18

一个人 3 天写小程序，LLM 我是怎么选的

开发微信小程序"心算小目标"过程中的 LLM 选型笔记适用读者：独立开发者、技术 Lead、想落地 AI 提效的小团队

2026-09-11

# LLM 量化到底省不省电？我造了一个实测专家替你算

做 LLM 推理部署的人都会默认一件事：模型量化 = 省显存 = 省电。

2026-09-08

这6个优化技巧让LLM推理成本直降

随着深度学习模型（尤其是大语言模型）规模不断增长，推理阶段的计算和存储开销成为实际部署中的主要瓶颈。推理优化的目标是：在尽可能保持模型精度的前提下，降低推理延迟、提高吞吐量、减少内存占用和能耗。

2026-09-02

全能型 Agent covo-agent v0.0.7 发布：TUI 新增 LLM 内联自动补全

v0.0.7 更新内容本次更新核心是新增了基于 LLM 的内联自动补全（ghost text）功能，即在编辑器输入时通过轻量级模型调用生成「幽灵文本」式的补全提示。

2026-08-24

程序员群体正站在 llm 技术革命的十字路口

OpenAI 在 2025 年 4 月密集发布 GPT-4.1 系列（超越 GPT-4o 的编码能力）；DeepSeek 同期开源 MoE 架构的 DeepEP 通信框架，实现 GPU 间“光速级信息同步”；Claude 3.7 在代码逻辑追踪上突破 150K 上下文限制。。。

2026-08-15

大模型推理服务化：从 Embedding 到 LLM 的 K8s 部署全流程

摘要：大模型推理是 AI 应用提供服务的最终环节，通常表现为大规模、高并发、请求突发性强的在线服务。腾讯云容器服务 TKE 围绕模型推理场景提供推理加速框架 TACO、GPU 共享技术 qGPU、超

2026-08-10

从Token统计、数据去重到LLM评测

随着ChatGPT、Claude、通义千问、豆包等大模型应用快速落地，软件测试领域正在出现一个新的方向：

2026-08-05

WorkBuddy+IMA+LLM Wiki 搭建【症状-疾病概念图谱】的过程记录-4 收尾总结

说实话，这趟走得并不顺，弯路不少。按阶段给你盘一遍——哪些路本来可以一步到位、却被我们绕了远。

2026-07-13

农业+LLM探索未来科创新发展

随着研讨会筹备工作稳步推进，目前组委会已陆续收到多位参会嘉宾的报告摘要与分享框架，其中两份聚焦农业大模型（农业 LLM）深度研究与实践成果的分享内容，提前解锁了本次研讨会的核心看点，也为行业呈现了人工智能技术赋能农业科研与产业落地的全新范式

2026-03-11

CodeFuse 开源 C2LLM，用 “注意力池化” 刷新 MTEB-Code 榜单

蚂蚁集团与上海交通大学继 F2LLM 后再度联手，重磅推出 C2LLM (Contrastive Code Large Language Models) 系列模型。

2026-01-14

在 Elasticsearch 中使用 A2A 协议和 MCP 创建一个 LLM agent 新闻室

简介当前基于 LLM 的系统正在迅速发展，超越单一模型应用，形成复杂网络，其中专业 agent 协作完成现代计算以前无法想象的任务。

2025-11-17

🔥 Solon AI + MCP 实战：5 行代码搞定天气查询，LLM 从此告别数据孤岛

此文参考自：https://www.toutiao.com/article/7505712149642117669/ 一、痛点直击：为什么你的AI模型会“一问三不知”？当你问 AI “杭州今天会下雨吗”，早期的 AI 应用会回答“请搜索网络”（大概这么个意思）。传统 AI 开发需要为每个工具单独开发接口（如天气API、股票数据、本地文件系统），每对接一个数据源需耗费开发者3-5天时间，且存在以下问题：重复开发：不同的 AI 应用需各自对接同一套工具（比如对接高德地图接口）动态能力缺失：无法实时调用最新数据（如每分钟变化的股价）生态碎片化：不同厂商工具接口互不兼容技术门槛量化：若企业需对接10个外部工具，传统方案需投入至少10人天，而通过MCP协议可缩短至1人天，效率提升10倍。二、技术破局：MCP协议如何成为AI世界的“万能插座”？ MCP（Model Context Protocol）由 Anthropic 提出，其核心价值在于：统一接口：像 USB-C 协议统一外设接入，MCP 为 AI 定义标准化的工具调用规范动态感知：支持多轮对话中实时调用外部资源（如天气API、数据库）安全隔离：通过本地服务处理敏感数据，避免直接暴露API密钥技术架构对比传统方案 MCP方案每个模型独立对接工具一次开发，所有MCP兼容模型通用手动处理HTTP请求/响应声明式工具描述自动映射无状态会话支持会话ID恢复上下文三、实战教学：5行代码构建天气预报MCP服务场景设定为旅游规划AI助手提供实时天气查询能力，用户输入“帮我规划杭州三日游，避开雨天”时，AI自动调用天气数据生成行程。代码实现（Solon AI 3.3 + JDK 1.8）第1步：（服务端）定义天气 MCP 服务。（真的只有 “5” 行代码） @McpServerEndpoint(name = "weather-server", sseEndpoint = "/mcp/weather") public class WeatherService { @ToolMapping(description = "获取指定城市的未来三天天气预报") public String getWeather(@Param(description = "城市名称") String city) { return WeatherApi.getForecast(city); // 调用真实天气API } } 第2步：（客户端）AI调用演示 McpClientProvider toolProvider = McpClientProvider.builder() .apiUrl("http://localhost:8080/mcp/weather") .build(); ChatResponse response = chatModel.prompt("杭州明天适合户外活动吗？") .options(o-> o.toolsAdd(toolProvider)) .call(); 四、技术解析：为什么这（服务端）5行代码能颠覆传统开发？ @McpServerEndpoint和@ToolMapping注解魔法：将Java方法自动映射为AI可理解的工具描述，减少 80% 的胶水代码动态协议协商：MCP客户端自动匹配服务端版本，无需手动处理兼容性问题混合传输模式：支持SSE流式响应（实时天气变化推送）与同步请求安全隔离层：敏感操作（如数据库访问）仅在服务端执行，客户端无直接权限性能对比: 指标传统REST API MCP服务工具接入耗时 8小时/个半小时/个多模型支持需重复适配一次开发通用长上下文支持无会话ID保持五、场景扩展：MCP如何重构AI应用生态？案例1：智能客服系统痛点：用户问“我的订单物流到哪了”，客服需手动查询多个系统 MCP方案：对接订单数据库+物流API，AI自动组合数据生成回答，响应速度从2分钟缩短至3秒案例2：企业知识库问答痛点：员工查询内部文档需登录多个系统 MCP方案：连接Confluence、GitLab、CRM系统，问答准确率提升65% 案例3：AI编程助手痛点：开发者需复制代码到IDE调试 MCP方案：直接操作IDE编译部署，操作步骤减少70% 六、未来展望：开发者该如何抓住这波技术红利？工具升级：将现有REST服务通过OpenRewrite一键转换为MCP服务（节省90%迁移成本）生态布局：建设垂直领域工具市场（如金融数据、医疗知识库）架构升级：采用Streamable HTTP协议提升高并发场景稳定性行动指南：立即体验：GitHub示例项目加入 Solon AI 社区获取最新工具包关注MCP协议2.0升级（支持多模态数据流）结束语：当技术门槛从“月级”降至“小时级”，每个开发者都能成为AI生态的构建者。MCP不是又一个昙花一现的概念，而是打开AI普惠时代的钥匙——正如Spring框架重构Java开发，MCP正在重构AI与真实世界的连接方式。延伸阅读： MCP协议官方文档 Solon AI 深度集成实战百万级并发MCP服务架构设计

2025-06-13

为什么说JSON不一定是LLM结构化输出的最佳选择？

，但我注意到，某些 LLM 更倾向于生成一个 top-level object。因此，在给出提示词时，我们需要明确指出，以确保 LLM 按照统一的格式返回数据。

2025-03-12

资源下载

更多资源

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源，继承了IntelliJ IDEA强大的JS部分的功能。