搜索[LLM辅助]结果-低调大师优秀个人博客

精选列表

搜索[LLM辅助]，共10000篇文章

AI 应用与智能体开发：从 LLM 调用到生产级 Agent 系统的专业实践

AI 应用的核心是用 LLM 解决具体业务问题，而智能体则进一步引入工具调用、多步推理、状态管理与环境交互。

2026-09-18

一个人 3 天写小程序，LLM 我是怎么选的

开发微信小程序"心算小目标"过程中的 LLM 选型笔记适用读者：独立开发者、技术 Lead、想落地 AI 提效的小团队

2026-09-11

# LLM 量化到底省不省电？我造了一个实测专家替你算

做 LLM 推理部署的人都会默认一件事：模型量化 = 省显存 = 省电。

2026-09-08

这6个优化技巧让LLM推理成本直降

随着深度学习模型（尤其是大语言模型）规模不断增长，推理阶段的计算和存储开销成为实际部署中的主要瓶颈。推理优化的目标是：在尽可能保持模型精度的前提下，降低推理延迟、提高吞吐量、减少内存占用和能耗。

2026-09-02

全能型 Agent covo-agent v0.0.7 发布：TUI 新增 LLM 内联自动补全

v0.0.7 更新内容本次更新核心是新增了基于 LLM 的内联自动补全（ghost text）功能，即在编辑器输入时通过轻量级模型调用生成「幽灵文本」式的补全提示。

2026-08-24

程序员群体正站在 llm 技术革命的十字路口

OpenAI 在 2025 年 4 月密集发布 GPT-4.1 系列（超越 GPT-4o 的编码能力）；DeepSeek 同期开源 MoE 架构的 DeepEP 通信框架，实现 GPU 间“光速级信息同步”；Claude 3.7 在代码逻辑追踪上突破 150K 上下文限制。。。

2026-08-15

大模型推理服务化：从 Embedding 到 LLM 的 K8s 部署全流程

摘要：大模型推理是 AI 应用提供服务的最终环节，通常表现为大规模、高并发、请求突发性强的在线服务。腾讯云容器服务 TKE 围绕模型推理场景提供推理加速框架 TACO、GPU 共享技术 qGPU、超

2026-08-10

从Token统计、数据去重到LLM评测

随着ChatGPT、Claude、通义千问、豆包等大模型应用快速落地，软件测试领域正在出现一个新的方向：

2026-08-05

WorkBuddy+IMA+LLM Wiki 搭建【症状-疾病概念图谱】的过程记录-4 收尾总结

说实话，这趟走得并不顺，弯路不少。按阶段给你盘一遍——哪些路本来可以一步到位、却被我们绕了远。

2026-07-13

农业+LLM探索未来科创新发展

随着研讨会筹备工作稳步推进，目前组委会已陆续收到多位参会嘉宾的报告摘要与分享框架，其中两份聚焦农业大模型（农业 LLM）深度研究与实践成果的分享内容，提前解锁了本次研讨会的核心看点，也为行业呈现了人工智能技术赋能农业科研与产业落地的全新范式

2026-03-11

CodeFuse 开源 C2LLM，用 “注意力池化” 刷新 MTEB-Code 榜单

蚂蚁集团与上海交通大学继 F2LLM 后再度联手，重磅推出 C2LLM (Contrastive Code Large Language Models) 系列模型。

2026-01-14

在 Elasticsearch 中使用 A2A 协议和 MCP 创建一个 LLM agent 新闻室

简介当前基于 LLM 的系统正在迅速发展，超越单一模型应用，形成复杂网络，其中专业 agent 协作完成现代计算以前无法想象的任务。

2025-11-17

🔥 Solon AI + MCP 实战：5 行代码搞定天气查询，LLM 从此告别数据孤岛

此文参考自：https://www.toutiao.com/article/7505712149642117669/ 一、痛点直击：为什么你的AI模型会“一问三不知”？当你问 AI “杭州今天会下雨吗”，早期的 AI 应用会回答“请搜索网络”（大概这么个意思）。传统 AI 开发需要为每个工具单独开发接口（如天气API、股票数据、本地文件系统），每对接一个数据源需耗费开发者3-5天时间，且存在以下问题：重复开发：不同的 AI 应用需各自对接同一套工具（比如对接高德地图接口）动态能力缺失：无法实时调用最新数据（如每分钟变化的股价）生态碎片化：不同厂商工具接口互不兼容技术门槛量化：若企业需对接10个外部工具，传统方案需投入至少10人天，而通过MCP协议可缩短至1人天，效率提升10倍。二、技术破局：MCP协议如何成为AI世界的“万能插座”？ MCP（Model Context Protocol）由 Anthropic 提出，其核心价值在于：统一接口：像 USB-C 协议统一外设接入，MCP 为 AI 定义标准化的工具调用规范动态感知：支持多轮对话中实时调用外部资源（如天气API、数据库）安全隔离：通过本地服务处理敏感数据，避免直接暴露API密钥技术架构对比传统方案 MCP方案每个模型独立对接工具一次开发，所有MCP兼容模型通用手动处理HTTP请求/响应声明式工具描述自动映射无状态会话支持会话ID恢复上下文三、实战教学：5行代码构建天气预报MCP服务场景设定为旅游规划AI助手提供实时天气查询能力，用户输入“帮我规划杭州三日游，避开雨天”时，AI自动调用天气数据生成行程。代码实现（Solon AI 3.3 + JDK 1.8）第1步：（服务端）定义天气 MCP 服务。（真的只有 “5” 行代码） @McpServerEndpoint(name = "weather-server", sseEndpoint = "/mcp/weather") public class WeatherService { @ToolMapping(description = "获取指定城市的未来三天天气预报") public String getWeather(@Param(description = "城市名称") String city) { return WeatherApi.getForecast(city); // 调用真实天气API } } 第2步：（客户端）AI调用演示 McpClientProvider toolProvider = McpClientProvider.builder() .apiUrl("http://localhost:8080/mcp/weather") .build(); ChatResponse response = chatModel.prompt("杭州明天适合户外活动吗？") .options(o-> o.toolsAdd(toolProvider)) .call(); 四、技术解析：为什么这（服务端）5行代码能颠覆传统开发？ @McpServerEndpoint和@ToolMapping注解魔法：将Java方法自动映射为AI可理解的工具描述，减少 80% 的胶水代码动态协议协商：MCP客户端自动匹配服务端版本，无需手动处理兼容性问题混合传输模式：支持SSE流式响应（实时天气变化推送）与同步请求安全隔离层：敏感操作（如数据库访问）仅在服务端执行，客户端无直接权限性能对比: 指标传统REST API MCP服务工具接入耗时 8小时/个半小时/个多模型支持需重复适配一次开发通用长上下文支持无会话ID保持五、场景扩展：MCP如何重构AI应用生态？案例1：智能客服系统痛点：用户问“我的订单物流到哪了”，客服需手动查询多个系统 MCP方案：对接订单数据库+物流API，AI自动组合数据生成回答，响应速度从2分钟缩短至3秒案例2：企业知识库问答痛点：员工查询内部文档需登录多个系统 MCP方案：连接Confluence、GitLab、CRM系统，问答准确率提升65% 案例3：AI编程助手痛点：开发者需复制代码到IDE调试 MCP方案：直接操作IDE编译部署，操作步骤减少70% 六、未来展望：开发者该如何抓住这波技术红利？工具升级：将现有REST服务通过OpenRewrite一键转换为MCP服务（节省90%迁移成本）生态布局：建设垂直领域工具市场（如金融数据、医疗知识库）架构升级：采用Streamable HTTP协议提升高并发场景稳定性行动指南：立即体验：GitHub示例项目加入 Solon AI 社区获取最新工具包关注MCP协议2.0升级（支持多模态数据流）结束语：当技术门槛从“月级”降至“小时级”，每个开发者都能成为AI生态的构建者。MCP不是又一个昙花一现的概念，而是打开AI普惠时代的钥匙——正如Spring框架重构Java开发，MCP正在重构AI与真实世界的连接方式。延伸阅读： MCP协议官方文档 Solon AI 深度集成实战百万级并发MCP服务架构设计

2025-06-13

为什么说JSON不一定是LLM结构化输出的最佳选择？

，但我注意到，某些 LLM 更倾向于生成一个 top-level object。因此，在给出提示词时，我们需要明确指出，以确保 LLM 按照统一的格式返回数据。

2025-03-12

20+公司AI应用产品分析；24名工程师的LLM使用痛点

用户提出请求和指令的方式对LLM的性能有重大影响。减少提示工程的摩擦可以帮助改善用户体验并节省工程师与LLM交互的时间。

2024-05-29

1Panel 官方出品丨MaxKB：基于 LLM 大模型的知识库问答系统

MaxKB是一款基于LLM（Large Language Model）大语言模型的知识库问答系统。

2024-04-13

开源日报 | 我让 AI 用 C 语言写一个算法；微软三进制 LLM

字节跳动打造 MegaScale：用于训练 LLM 的单一 “万卡集群” MegaScale 将大语言模型训练扩展到超过 10000 个 GPU，在 12288 个 GPU 上训练 175B LLM 模型时

2024-03-01

对标 LangChain，一个使用 Java 开发的 LLM（大语言模型）应用开发框架

Agents-Flex：一个优雅的 LLM（大语言模型）应用开发框架基础能力 LLM 的访问能力 Prompt、Prompt Template 定义加载的能力 Function Calling 定义

2024-01-19

图技术在 LLM 下的应用：知识图谱驱动的大语言模型 Llama Index

LLM 如火如荼地发展了大半年，各类大模型和相关框架也逐步成型，可被大家应用到业务实际中。在这个过程中，我们可能会遇到一类问题是：现有的哪些数据，如何更好地与 LLM 对接上。

2023-07-25

用大模型辅助量化研究的正确姿势与Prompt框架

问题不在 AI，而在提问方式。大模型不是股神，也不会算命。把它当成「会读数据、会写摘要、会找逻辑漏洞的研究助理」，它才好用。

2026-09-09

资源下载

更多资源

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源，继承了IntelliJ IDEA强大的JS部分的功能。