首页 文章 精选 留言 我的

精选列表

搜索[Agent 可观测服务],共10000篇文章
优秀的个人博客,低调大师

大模型可观测与评测闭环:Langfuse+LangSmith结合OTel,落地Prompt A/B评测24.8

现在我们做大模型应用,有个最基础、最直观的体会:写好Prompt、调通API只是项目的起点。本地测试效果看着很不错,一旦上线之后各种问题接踵而至。同样的输入,大模型时而回答精准,时而幻觉频发;不同Prompt版本效果好坏靠主观感觉判断,没有量化数据;线上用户真实问题无法回流,模型迭代全凭开发人员猜问题出在哪里;出现故障时,很难定位是Prompt问题、检索上下文问题、还是LLM本身输出不稳定。

优秀的个人博客,低调大师

AI 网关可观测体系:让大模型调用看得见、查得到、审得清

企业把大模型接入生产后, “能调通” 解决了可用性, “能兜住” 解决了连续性,但紧接着就是第三道难题—— 看不见 。Token 花在哪了、慢在哪了、出了问题怎么查,这三个问题在大模型场景下没有现成答案。AI 网关把监控、日志、追踪三大支柱沉到网关层统一采集,业务方不需要改一行代码,就能获得 Token 级的用量洞察、请求级的延迟拆解、以及全链路的调用追踪。

优秀的个人博客,低调大师

OpenAI承认没人准备好迎接AI变强:能力与可观测性正在负相关

模型层今天最重要的不是新跑分,而是一句罕见的坦白。9月6日,OpenAI首席科学家Jakub Pachocki在官网发表长文《An Alien Mind》:前沿模型是「被生长而非被设计」的异类智能,基于内部结果,进展会持续进入递归自我改进。他写道,没有人准备好迎接机器智能持续快速上升的后果,也没有任何实验室把对齐与监控解决到可以负责任地继续全速扩展的程度。

资源下载

更多资源
Mario

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长,特征是大鼻子、头戴帽子、身穿背带裤,还留着胡子。与他的双胞胎兄弟路易基一起,长年担任任天堂的招牌角色。

Nacos

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称,一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集,帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring

Spring框架(Spring Framework)是由Rod Johnson于2002年提出的开源Java企业级应用框架,旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念,提供核心容器、应用上下文、数据访问集成等模块,支持整合Hibernate、Struts等第三方框架,其适用范围不仅限于服务器端开发,绝大多数Java应用均可从中受益。

Sublime Text

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能,例如代码缩略图,Python的插件,代码段等。还可自定义键绑定,菜单和工具栏。Sublime Text 的主要功能包括:拼写检查,书签,完整的 Python API , Goto 功能,即时项目切换,多选择,多窗口等等。Sublime Text 是一个跨平台的编辑器,同时支持Windows、Linux、Mac OS X等操作系统。

用户登录
用户注册