首页 文章 精选 留言 我的

文章列表

共 211628 篇
《Spring AI 2.0实战》第11招 对话怎么记住上下文

《Spring AI 2.0实战》第11招 对话怎么记住上下文

上周一个同事拿着日志来找我,说知识问答服务上线后用户总投诉它像金鱼,只有七秒记忆。我翻了一下真实请求,第一条问“Spring AI 是什么”,返回了正常定义;第二条问“它支持哪些向量库”,服务居然开始介绍 Spring AI 支持哪些数据库连接,完全没理解“它”指代什么。我是老李。这个问题其实不是模型能力不行,而是我们把大模型接口当成了有状态服务在用。LLM...

《Spring AI 2.0实战》第13招 Tool让模型开始办事

《Spring AI 2.0实战》第13招 Tool让模型开始办事

很多团队把大模型接到客服系统后,发现它很会说话,但一碰到真实业务就露怯。用户问“我的订单到哪了”,模型只能回复“请您提供订单号,我帮您记录”。不是模型不想查,而是它没有查询能力。订单状态存在业务数据库里,模型训练时没见过,推理时也拿不到。更麻烦的是,如果为了让模型能回答,直接把数据库连接或全量接口开放,等于把业务系统暴露在一个无法预测输出的入口下。我们需要一...

《Spring AI 2.0实战》第14招 MCP把工具标准化

《Spring AI 2.0实战》第14招 MCP把工具标准化

最近业务方提了个需求:能不能让智能助手直接查订单、读内部文件,顺便查一下外部天气再综合回复?我是老李,第一反应是这不就是让大模型调几个函数吗。结果真做起来,发现单应用里的 Tool Calling 只能调用本进程内写死的函数。订单服务在 A 系统,文件能力在 B 机器,天气接口在公网,每接一个能力都要写一套适配逻辑,模型一换,适配层还要重写。更麻烦的是,不同...

《Spring AI 2.0实战》第15招 Agent别急着上框架

《Spring AI 2.0实战》第15招 Agent别急着上框架

我是老李。最近团队在做一次技术选型调研,题目是“Spring Boot 3 下虚拟线程对数据库连接池的影响”。有个同学上来就接了一个开放探索式的自主平台,目标设得很大:让模型自己搜索、自己总结、自己决定要不要继续查。结果跑了一下午,模型来回绕了十几轮,调用费用花掉几十美元,最后产出一份包含大量重复链接和过时结论的报告,还说不清每一步为什么这么做。这不是个例。...

《Spring AI 2.0实战》第16招 五种Agent模式

《Spring AI 2.0实战》第16招 五种Agent模式

最近团队在做技术选型,需要一份关于开源 API 网关的调研报告。我是老李,起初把任务丢给一个模型,让它一次生成。报告很快出来了,但问题也多:官网链接已经 404,GitHub 的 star 数与实际页面不一致,论文部分只摘了摘要没有结论。最要命的是,模型自己并不觉得有问题,也不会主动回去修改。我们需要的不是更长的输出,而是把任务拆成可检查、可回退、可组合的步...

《Spring AI 2.0实战》第17招 Reflection怎么做

《Spring AI 2.0实战》第17招 Reflection怎么做

我是老李。最近在给一个核心业务做架构方案评审时,遇到一件让人哭笑不得的事。团队一位同事用大模型直接生成了一份架构设计文档,拿过来一看,章节齐全、术语专业、图表也画得像模像样。但细读下去,问题就来了:没有限流策略,没有备份方案,多可用区只写了一句“建议部署在多个区域”,成本预估则拍脑袋写了一个数字。最要命的是,模型自己在文档末尾还加了一句“本方案已经过全面评估...

《Spring AI 2.0实战》第18招 AI也必须可观测

《Spring AI 2.0实战》第18招 AI也必须可观测

晚上十点,群消息炸了:客户说 RAG 助手把合同条款解释错了。我是老李,搞了几年后端和中间件,第一反应还是看监控。网关延迟正常,服务 P95 正常,模型接口返回也正常。但没人能回答一个要命的问题:这次回答到底用了哪几段检索上下文,工具调用返回了什么,最终拼给模型的提示词是什么样。现在 AI 应用已经从 demo 进入生产,再只盯接口 P95,排障基本靠猜。今...

《Spring AI 2.0实战》第20招 成本也要进架构

《Spring AI 2.0实战》第20招 成本也要进架构

我是老李。最近我们团队把问答服务从单模型升级成了能查资料、能调工具、能分步推理的智能体应用。上线跑了一周,看监控面板,延迟和错误率都挺好看,P95 也没破线。但月底账单一出来,模型费用涨了快六倍,财务和研发差点在群里吵起来。更尴尬的是,我们说不清到底哪个环节把成本抬高了:是嵌入阶段?是检索后的长上下文?还是工具调用反复把结果塞回模型?

《Spring AI 2.0实战》第21招 模型切换不是改个Key

《Spring AI 2.0实战》第21招 模型切换不是改个Key

我是老李。上周半夜,运维群里突然弹出一条告警:订单分类服务的重试次数在十分钟内翻了五倍。我爬起来一看,是白天同事把默认模型从 A 换成了 B,只改了一个配置项,代码一行没动。原因很简单:B 模型最近降价,老板说能省 40% 推理成本。结果呢?分类正确率从 96.3% 掉到 81.7%,工具调用里 JSON 参数缺字段的比例从 0.8% 涨到 7.4%,RAG...

《Spring AI 2.0实战》第22招 安全边界怎么守

《Spring AI 2.0实战》第22招 安全边界怎么守

上周凌晨,一个做企业客服系统的朋友打电话过来,声音有点急。他说客户问了一句“帮我查一下我这个账号最近十条工单”,系统居然把另一个租户的工单一起带出来了。不是模型幻觉,是真实数据越权。这个朋友以前总跟我聊模型生成内容不够准,那晚他终于明白,问题已经不是“话对不对”,而是“数据出没出去、操作敢不敢执行”。

《Spring AI 2.0实战》第23招 做到真正能上线

《Spring AI 2.0实战》第23招 做到真正能上线

凌晨两点,运维群突然炸了。AI客服在订单页里信誓旦旦地告诉用户:您的退货政策是30天内可退,运费由平台承担。问题是,这个政策半年前就改成7天了,而且用户所在地区有特殊规则。为什么AI能一本正经地胡说?因为向量库超时,RAG检索返回空,模型没有拿到知识,又不敢说自己不知道,于是用训练数据里的旧记忆编了一段。

《Spring AI 2.0实战》第24招 做个企业AI助手

《Spring AI 2.0实战》第24招 做个企业AI助手

我是老李。最近团队里几个 Java 同事学 Spring AI,场景非常一致:先跑通一个聊天接口,再写个向量检索,再试一下函数调用。每学一个功能就新建一个工程,最后目录里躺着十几个项目,每个都只有一两个接口,既没有统一的数据模型,也没有租户隔离,更谈不上评估和观测。我让他们把其中任何一个接到生产,都摇头说“这只是 Demo”。问题就来了:到底什么时候才能说自...

OwnCode安全优先的编程工具,进行了优化,更省token

OwnCode安全优先的编程工具,进行了优化,更省token

仔细核对了AI生成的提示词,对提示词进行了精减。对整个流进行了分析优化,比原来更省token。 对提示词结构进行了优化,AI更能精准的理解你的需求,比之前的表现更好。 在使用AI编程工具的时候,是否但心自己的数据库账号密码被发到云端?是但心自己的各种密钥被发到云端?OwnCode 会在发给大模型之前对这些信息进行脱敏,保护你的安全。 你的代码,始终属于你。 ...

资源下载

更多资源
Mario

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长,特征是大鼻子、头戴帽子、身穿背带裤,还留着胡子。与他的双胞胎兄弟路易基一起,长年担任任天堂的招牌角色。

腾讯云软件源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题,腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构,目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring

Spring框架(Spring Framework)是由Rod Johnson于2002年提出的开源Java企业级应用框架,旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念,提供核心容器、应用上下文、数据访问集成等模块,支持整合Hibernate、Struts等第三方框架,其适用范围不仅限于服务器端开发,绝大多数Java应用均可从中受益。

WebStorm

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源,继承了IntelliJ IDEA强大的JS部分的功能。

用户登录
用户注册