首页 文章 精选 留言 我的

文章列表

共 212234 篇
《Spring AI 2.0实战》第5招 模型也能看图听声音

《Spring AI 2.0实战》第5招 模型也能看图听声音

“故障截图已经发你了,怎么还没处理?”老李在客服群里经常看到这句话。图片很清楚,错误码、时间、机器序列号都在,但工单系统里依然只有用户手打的一行“系统登不上”。截图只是附件,系统没有把图片里的信息变成可检索、可分类、可路由的内容。另一边,语音报障、拍照上传、巡检照片越来越多,研发团队却还在把多模态当玩具:演示里让模型认一张猫,现场却不敢让真实接口接收图片。

《Spring AI 2.0实战》第7招 VectorStore别乱选

《Spring AI 2.0实战》第7招 VectorStore别乱选

我是老李,最近在给一家 SaaS 平台做企业知识库问答。上线第一个月,测试组报了个问题:客户 A 问“我们的续约价格是多少”,系统返回了客户 B 的折扣条款。检查一圈,模型没有编造,向量检索确实召回了客户 B 的合同片段。我们当时只做了一层防护:在给模型看的指令里写“不要引用其他企业的数据”。但每次向量相似度先把 B 的片段捞出来,再指望模型自己判断“这段不...

《Spring AI 2.0实战》第8招 文档怎么进向量库

《Spring AI 2.0实战》第8招 文档怎么进向量库

你有没有遇到过这样的场景:团队花了两周把几百份 PDF 灌进向量库,又花了一周调模型参数,结果问一个具体版本号,系统还是答得牛头不对马嘴?我是老李,今天不聊模型微调,也不聊推理加速,只聊 RAG 里最容易被忽略的前半段——数据工程。过去大家一提到 RAG,第一反应是 Chat,是生成,是模型。但真正做过落地的人都知道,RAG 的第一半并不是 Chat,而是 ...

《Spring AI 2.0实战》第9招 RAG先做最小闭环

《Spring AI 2.0实战》第9招 RAG先做最小闭环

我是老李。最近团队在做一个内部知识库问答,产品经理丢过来一份两百多页的 Spring AI 官方文档 PDF,说“我们把这个喂给模型,让它直接回答用户问题”。我一开始也觉得挺简单:PDF 解析成文本,拼接成一大段,塞进上下文,然后问模型。结果上线当天就被打脸。用户问“如何配置向量存储”,模型回答了一堆关于 Embedding 的内容,还把版本号搞错;用户问“...

《Spring AI 2.0实战》第11招 对话怎么记住上下文

《Spring AI 2.0实战》第11招 对话怎么记住上下文

上周一个同事拿着日志来找我,说知识问答服务上线后用户总投诉它像金鱼,只有七秒记忆。我翻了一下真实请求,第一条问“Spring AI 是什么”,返回了正常定义;第二条问“它支持哪些向量库”,服务居然开始介绍 Spring AI 支持哪些数据库连接,完全没理解“它”指代什么。我是老李。这个问题其实不是模型能力不行,而是我们把大模型接口当成了有状态服务在用。LLM...

《Spring AI 2.0实战》第13招 Tool让模型开始办事

《Spring AI 2.0实战》第13招 Tool让模型开始办事

很多团队把大模型接到客服系统后,发现它很会说话,但一碰到真实业务就露怯。用户问“我的订单到哪了”,模型只能回复“请您提供订单号,我帮您记录”。不是模型不想查,而是它没有查询能力。订单状态存在业务数据库里,模型训练时没见过,推理时也拿不到。更麻烦的是,如果为了让模型能回答,直接把数据库连接或全量接口开放,等于把业务系统暴露在一个无法预测输出的入口下。我们需要一...

《Spring AI 2.0实战》第14招 MCP把工具标准化

《Spring AI 2.0实战》第14招 MCP把工具标准化

最近业务方提了个需求:能不能让智能助手直接查订单、读内部文件,顺便查一下外部天气再综合回复?我是老李,第一反应是这不就是让大模型调几个函数吗。结果真做起来,发现单应用里的 Tool Calling 只能调用本进程内写死的函数。订单服务在 A 系统,文件能力在 B 机器,天气接口在公网,每接一个能力都要写一套适配逻辑,模型一换,适配层还要重写。更麻烦的是,不同...

《Spring AI 2.0实战》第15招 Agent别急着上框架

《Spring AI 2.0实战》第15招 Agent别急着上框架

我是老李。最近团队在做一次技术选型调研,题目是“Spring Boot 3 下虚拟线程对数据库连接池的影响”。有个同学上来就接了一个开放探索式的自主平台,目标设得很大:让模型自己搜索、自己总结、自己决定要不要继续查。结果跑了一下午,模型来回绕了十几轮,调用费用花掉几十美元,最后产出一份包含大量重复链接和过时结论的报告,还说不清每一步为什么这么做。这不是个例。...

《Spring AI 2.0实战》第16招 五种Agent模式

《Spring AI 2.0实战》第16招 五种Agent模式

最近团队在做技术选型,需要一份关于开源 API 网关的调研报告。我是老李,起初把任务丢给一个模型,让它一次生成。报告很快出来了,但问题也多:官网链接已经 404,GitHub 的 star 数与实际页面不一致,论文部分只摘了摘要没有结论。最要命的是,模型自己并不觉得有问题,也不会主动回去修改。我们需要的不是更长的输出,而是把任务拆成可检查、可回退、可组合的步...

《Spring AI 2.0实战》第17招 Reflection怎么做

《Spring AI 2.0实战》第17招 Reflection怎么做

我是老李。最近在给一个核心业务做架构方案评审时,遇到一件让人哭笑不得的事。团队一位同事用大模型直接生成了一份架构设计文档,拿过来一看,章节齐全、术语专业、图表也画得像模像样。但细读下去,问题就来了:没有限流策略,没有备份方案,多可用区只写了一句“建议部署在多个区域”,成本预估则拍脑袋写了一个数字。最要命的是,模型自己在文档末尾还加了一句“本方案已经过全面评估...

《Spring AI 2.0实战》第18招 AI也必须可观测

《Spring AI 2.0实战》第18招 AI也必须可观测

晚上十点,群消息炸了:客户说 RAG 助手把合同条款解释错了。我是老李,搞了几年后端和中间件,第一反应还是看监控。网关延迟正常,服务 P95 正常,模型接口返回也正常。但没人能回答一个要命的问题:这次回答到底用了哪几段检索上下文,工具调用返回了什么,最终拼给模型的提示词是什么样。现在 AI 应用已经从 demo 进入生产,再只盯接口 P95,排障基本靠猜。今...

《Spring AI 2.0实战》第20招 成本也要进架构

《Spring AI 2.0实战》第20招 成本也要进架构

我是老李。最近我们团队把问答服务从单模型升级成了能查资料、能调工具、能分步推理的智能体应用。上线跑了一周,看监控面板,延迟和错误率都挺好看,P95 也没破线。但月底账单一出来,模型费用涨了快六倍,财务和研发差点在群里吵起来。更尴尬的是,我们说不清到底哪个环节把成本抬高了:是嵌入阶段?是检索后的长上下文?还是工具调用反复把结果塞回模型?

《Spring AI 2.0实战》第21招 模型切换不是改个Key

《Spring AI 2.0实战》第21招 模型切换不是改个Key

我是老李。上周半夜,运维群里突然弹出一条告警:订单分类服务的重试次数在十分钟内翻了五倍。我爬起来一看,是白天同事把默认模型从 A 换成了 B,只改了一个配置项,代码一行没动。原因很简单:B 模型最近降价,老板说能省 40% 推理成本。结果呢?分类正确率从 96.3% 掉到 81.7%,工具调用里 JSON 参数缺字段的比例从 0.8% 涨到 7.4%,RAG...

《Spring AI 2.0实战》第22招 安全边界怎么守

《Spring AI 2.0实战》第22招 安全边界怎么守

上周凌晨,一个做企业客服系统的朋友打电话过来,声音有点急。他说客户问了一句“帮我查一下我这个账号最近十条工单”,系统居然把另一个租户的工单一起带出来了。不是模型幻觉,是真实数据越权。这个朋友以前总跟我聊模型生成内容不够准,那晚他终于明白,问题已经不是“话对不对”,而是“数据出没出去、操作敢不敢执行”。

《Spring AI 2.0实战》第23招 做到真正能上线

《Spring AI 2.0实战》第23招 做到真正能上线

凌晨两点,运维群突然炸了。AI客服在订单页里信誓旦旦地告诉用户:您的退货政策是30天内可退,运费由平台承担。问题是,这个政策半年前就改成7天了,而且用户所在地区有特殊规则。为什么AI能一本正经地胡说?因为向量库超时,RAG检索返回空,模型没有拿到知识,又不敢说自己不知道,于是用训练数据里的旧记忆编了一段。

《Spring AI 2.0实战》第24招 做个企业AI助手

《Spring AI 2.0实战》第24招 做个企业AI助手

我是老李。最近团队里几个 Java 同事学 Spring AI,场景非常一致:先跑通一个聊天接口,再写个向量检索,再试一下函数调用。每学一个功能就新建一个工程,最后目录里躺着十几个项目,每个都只有一两个接口,既没有统一的数据模型,也没有租户隔离,更谈不上评估和观测。我让他们把其中任何一个接到生产,都摇头说“这只是 Demo”。问题就来了:到底什么时候才能说自...

资源下载

更多资源
腾讯云软件源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题,腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构,目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称,一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集,帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Rocky Linux

Rocky Linux

Rocky Linux(中文名:洛基)是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版,作为CentOS稳定版停止维护后与RHEL(Red Hat Enterprise Linux)完全兼容的开源替代方案,由社区拥有并管理,支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性,采用模块化包装和SELinux安全架构,默认包含GNOME桌面环境及XFS文件系统,支持十年生命周期更新。

WebStorm

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源,继承了IntelliJ IDEA强大的JS部分的功能。

用户登录
用户注册