首页 文章 精选 留言 我的

精选列表

搜索[langchain],共1092篇文章
优秀的个人博客,低调大师

Go 与 LangChain 对话记忆:如何让 AI 助手拥有“长期记忆”

大模型在默认情况下是无状态的,每一次 API 请求对于大模型而言都是一次独立的调用。在客服、助理等需要多轮对话的场景中,必须让大模型理解上下文。要让 AI 助手拥有记忆,开发者需要在每次请求时,将之前的聊天记录合并后一并发送给模型。本文介绍如何使用 Go 语言与 LangChainGo 框架的 Memory 组件管理上下文。 ## **对话记忆的底层原理** 大模型的“长期记忆”本质上是通过拼接历史对话实现的。由于模型无法主动记住之前的对话,应用层需要在本地或数据库中记录聊天历史。在发起下一次请求时,将历史记录作为 Prompt 的一部分传递给模型。LangChainGo 提供的 `memory` 模块将这一过程进行了标准化的封装,避免了手动处理 Message 数组拼接的繁琐逻辑。 ## **初始化最基础的对话记忆** 在 LangChainGo 中,最基础的记忆组件是 `ConversationBuffer` 类型,它在内存中以键值对的形式维护对话历史: ``` // 初始化内存对话历史记录 mem := memory.NewConversationBuffer() ctx := context.Background() // 模拟第一轮对话输入与输出的保存 _= mem.SaveContext(ctx, map[string]any{"input":"你好,我是研发部的开发人员。"}, map[string]any{"output":"您好!请问有什么我可以帮您的?"}) ``` 使用 `SaveContext` 保存完历史后,可以通过 `LoadMemoryVariables` 加载出来。如果每次请求都手动提取并拼接,代码会显得冗余,LangChainGo 提供了专用的 Conversation 链来自动化这一过程。 ## **在 Conversation 链中集成 Memory** LangChainGo 提供了 `NewConversation` 方法,可自动将对话记忆与 LLM 调用链路打通,实现全自动的上下文组装与保存: ``` // 创建全自动对话链并提问 chain := chains.NewConversation(llm, mem) res, err := chains.Call(ctx, chain,map[string]any{ "input":"我最喜欢的编程语言是 Go。", }) if err !=nil{ log.Fatalf("调用对话链失败: %v", err) } ``` 在执行 `chains.Call` 时,Chain 会自动将 `mem` 中已有的历史对话加载并拼装到 Prompt 中发送给大模型,且在大模型返回响应后,自动将本次的问答对再次存入 `mem` 中。 ## **使用滑动窗口解决 Token 膨胀** 随着对话轮数增加,历史上下文占用的 Token 会线性增长。这不仅增加了 API 的调用费用,也可能导致请求超出模型的最大上下文长度。常见的解决方法是采用滑动窗口,仅保留最近 N 轮对话: ``` // 限制内存中仅保留最近 5 轮的对话历史 memWindow := memory.NewConversationWindowBuffer(5) chainWindow := chains.NewConversation(llm, memWindow) // 再次发起提问,旧的对话将滚动失效 _,_= chains.Call(ctx, chainWindow,map[string]any{ "input":"接下来我们聊聊并发模型吧。", }) ``` `ConversationWindowBuffer` 会在底层自动裁剪过期的消息,保证发送给大模型的历史记录始终维持在预设的轮数内。 ## **基于 Token 长度动态裁剪上下文** 除了限制固定轮数,更精细化的做法是根据 Token 长度来进行动态裁剪。例如,要求历史记录占用的最大 Token 数不得超过 2000 个: ``` // 设定最大 Token 限制,超出时自动裁剪头部消息 memToken := memory.NewConversationTokenBuffer(llm,2000) chainToken := chains.NewConversation(llm, memToken) // 发起对话,底层将自动计算 Token 并裁剪 _,_= chains.Call(ctx, chainToken,map[string]any{ "input":"生成一段高性能的 TCP 粘包处理代码", }) ``` ## **基于 Redis 实现分布式历史存储** 在多实例部署的生产环境下,内存型 Memory 无法实现跨节点的状态共享,需要将历史记录持久化至外部存储。LangChainGo 提供了 `schema.ChatMessageHistory` 接口,方便开发者自定义 Redis 等存储介质的对接逻辑: ``` // RedisHistory 结构体,实现 schema.ChatMessageHistory 接口 type RedisHistory struct{ Client *redis.Client SessionID string } // 往 Redis 中追加新的消息 func(r *RedisHistory)AddMessage(ctx context.Context, msg llms.ChatMessage)error{ storeMsg :=map[string]string{ "type":string(msg.GetType()), "content": msg.GetContent(), } data,_:= json.Marshal(storeMsg) return r.Client.RPush(ctx, r.SessionID, data).Err() } ``` 这里省略了接口的其他几个方法。在实现自定义存储逻辑后,只需通过 Option 配置项将其注入到现有的 Memory 组件中: ``` // 将自定义的 Redis 历史存储注入到 ConversationBuffer redisHistory :=&RedisHistory{Client: client, SessionID:"user_session_123"} mem := memory.NewConversationBuffer(memory.WithChatHistory(redisHistory)) chain := chains.NewConversation(llm, mem) ``` 通过该设计,无需改动原有的 Chain 调用逻辑,即可将对话历史集中管理,满足服务的横向扩容需求。 ## **写在最后** 合理控制和持久化上下文,不仅是为了业务层面的连贯体验,也是控制大模型 API 开销和应对高可用部署的重要步骤。 LangChainGo 提供的 Memory 抽象和 Window、Token 缓冲区等预设组件,能够覆盖大部分多轮对话开发场景。在此基础上,通过实现 `schema.ChatMessageHistory` 接口,可以零侵入地接入 Redis、PostgreSQL 等外部数据库,这为 Go 语言 AI 应用从原型开发走向生产落地提供了坚实的工程支撑。

优秀的个人博客,低调大师

LangChain 开发实战 第9章 授权认证模块开发:保障应用安全

不做认证的AI平台,等于把钥匙挂在门上。JWT + 第三方登录,给你的平台加上安全锁。 我是怕浪猫,这章解决一个工程问题——安全。LLMOps平台如果谁都能免费调用API,Token消耗会像漏水一样止不住。这章做完整的认证授权体系。 --- ## 9.1 JWT 授权认证原理 **Session vs JWT** | 维度 | Session | JWT | |------|---------|-----| | 存储位置 | 服务端session + 客户端session_id | 客户端token | | 状态管理 | 有状态(服务端存储) | 无状态(自包含) | | 扩展性 | 多服务器需要Redis共享session |天然分布式 | | 适用场景 | 传统Web应用 | API / SPA / 移动端 | | 安全性 | CSRF风险 | 无CSRF,但有XSS风险 | **JWT结构** ``` eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9. eyJzdWIiOiIxMjM0NTY3ODkwIiwidXNlcl9pZCI6MSwidXNlcm5hmeSI6IumbmeKJmiIsImlhdCI6MTUxNjIzOTAyMiwiZXhwIjoxNzM4MTc1MDIyfQ. SflKxwRJSMeKKF2QT4fwpMeJf36POk6yJV_adQssw5c ↓ ↓ ↓ Header Payload Signature ``` **JWT Payload结构** ```python import jwt import datetime payload = { "sub": "1234567890", # 用户ID "user_id": 1, "username": "怕浪猫", "role": "admin", # 角色 "permissions": ["read", "write", "delete"], "iat": 1516239022, # 签发时间 "exp": 1738175022 # 过期时间(7天) } ``` **JWT生成与验证** ```python # services/auth_service.py import jwt from datetime import datetime, timedelta from config import Config class AuthService: def __init__(self): self.secret = Config.SECRET_KEY self.algorithm = 'HS256' self.expire_hours = 24 * 7 # 7天过期 def generate_token(self, user_id, username, role='user'): """生成JWT""" payload = { "user_id": user_id, "username": username, "role": role, "iat": datetime.utcnow(), "exp": datetime.utcnow() + timedelta(hours=self.expire_hours) } token = jwt.encode(payload, self.secret, algorithm=self.algorithm) return token def verify_token(self, token): """验证JWT""" try: payload = jwt.decode(token, self.secret, algorithms=[self.algorithm]) return payload except jwt.ExpiredSignatureError: return None # 过期 except jwt.InvalidTokenError: return None # 无效 ``` --- ## 9.2 GitHub 第三方授权认证原理 **OAuth2.0流程** ``` 用户 → 点击"GitHub登录" ↓ 跳转GitHub授权页 → 用户点击"授权" ↓ GitHub回调 → code ↓ 后端用code换access_token ↓ 用access_token获取用户信息 ↓ 创建/查找本地用户 → 生成JWT → 登录成功 ``` **GitHub OAuth配置** ``` 1. 访问 https://github.com/settings/applications/new 2. 填写: - Application name: LLMOps - Homepage URL: http://localhost:5173 - Authorization callback URL: http://localhost:5000/api/v1/auth/github/callback 3. 获取 Client ID 和 Client Secret ``` **GitHub OAuth实现** ```python # routes/auth.py import requests @auth_bp.route('/github') def github_login(): """跳转到GitHub授权页""" client_id = Config.GITHUB_CLIENT_ID redirect_uri = Config.GITHUB_CALLBACK_URL url = f"https://github.com/login/oauth/authorize?client_id={client_id}&redirect_uri={redirect_uri}&scope=read:user" return redirect(url) @auth_bp.route('/github/callback') def github_callback(): code = request.args.get('code') # 1. 用code换access_token token_url = "https://github.com/login/oauth/access_token" token_data = { "client_id": Config.GITHUB_CLIENT_ID, "client_secret": Config.GITHUB_CLIENT_SECRET, "code": code } headers = {"Accept": "application/json"} token_response = requests.post(token_url, json=token_data, headers=headers).json() access_token = token_response.get("access_token") # 2. 用access_token获取用户信息 user_url = "https://api.github.com/user" headers = {"Authorization": f"Bearer {access_token}"} user_response = requests.get(user_url, headers=headers).json() github_id = str(user_response["id"]) username = user_response.get("login", "github_user") email = user_response.get("email") avatar = user_response.get("avatar_url") # 3. 创建或查找本地用户 user = User.query.filter_by(github_id=github_id).first() if not user: user = User( github_id=github_id, username=username, email=email, avatar=avatar, role='user' ) db.session.add(user) db.session.commit() # 4. 生成JWT jwt_token = auth_service.generate_token(user.id, user.username, user.role) # 5. 跳转回前端并带上token frontend_url = f"{Config.FRONTEND_URL}/auth/callback?token={jwt_token}" return redirect(frontend_url) ``` --- ## 9.3 Flask-Login 实现后端授权认证 **Flask-Login配置** ```python # extensions.py from flask_login import LoginManager login_manager = LoginManager() def init_extensions(app): login_manager.init_app(app) login_manager.login_view = 'auth.login' # models/user.py from flask_login import UserMixin class User(UserMixin, db.Model): __tablename__ = 'users' id = db.Column(db.Integer, primary_key=True) username = db.Column(db.String(80), unique=True, nullable=False) email = db.Column(db.String(120), unique=True) password_hash = db.Column(db.String(255)) # 密码登录用 github_id = db.Column(db.String(100), unique=True) # GitHub登录用 avatar = db.Column(db.String(500)) role = db.Column(db.String(20), default='user') is_active = db.Column(db.Boolean, default=True) created_at = db.Column(db.DateTime, default=datetime.utcnow) def get_id(self): return str(self.id) @login_manager.user_loader def load_user(user_id): return User.query.get(int(user_id)) ``` **用户注册与登录** ```python from werkzeug.security import generate_password_hash, check_password_hash @auth_bp.route('/register', methods=['POST']) def register(): data = request.json # 检查用户名是否存在 if User.query.filter_by(username=data['username']).first(): return error("用户名已存在") # 创建用户 user = User( username=data['username'], email=data.get('email'), password_hash=generate_password_hash(data['password']), role='user' ) db.session.add(user) db.session.commit() # 生成token token = auth_service.generate_token(user.id, user.username, user.role) return success(data={'token': token, 'user': user.to_dict()}) @auth_bp.route('/login', methods=['POST']) def login(): data = request.json user = User.query.filter_by(username=data['username']).first() if not user or not check_password_hash(user.password_hash, data['password']): return error("用户名或密码错误") token = auth_service.generate_token(user.id, user.username, user.role) return success(data={'token': token, 'user': user.to_dict()}) ``` **Token中间件** ```python # middleware/auth_middleware.py from functools import wraps from flask import request, g def token_required(f): @wraps(f) def decorated(*args, **kwargs): token = None if 'Authorization' in request.headers: auth_header = request.headers['Authorization'] if auth_header.startswith('Bearer '): token = auth_header[7:] if not token: return error("缺少认证令牌", 401) payload = auth_service.verify_token(token) if not payload: return error("无效或已过期的令牌", 401) g.current_user_id = payload['user_id'] g.current_username = payload['username'] g.current_role = payload.get('role', 'user') return f(*args, **kwargs) return decorated def admin_required(f): @wraps(f) @token_required def decorated(*args, **kwargs): if g.current_role != 'admin': return error("需要管理员权限", 403) return f(*args, **kwargs) return decorated ``` --- ## 9.4 前端 fetch 封装:授权接口携带令牌 **Axios请求封装** ```javascript // api/request.js import axios from 'axios' import { ElMessage } from 'element-plus' import router from '@/router' const request = axios.create({ baseURL: import.meta.env.VITE_API_BASE_URL, timeout: 30000 }) // 请求拦截器:添加Token request.interceptors.request.use(config => { const token = localStorage.getItem('token') if (token) { config.headers.Authorization = `Bearer ${token}` } return config }) // 响应拦截器:处理401/403 request.interceptors.response.use( response => response.data, error => { if (error.response) { const { status, data } = error.response if (status === 401) { // Token过期,跳转登录 localStorage.removeItem('token') ElMessage.error('登录已过期,请重新登录') router.push('/login') } else if (status === 403) { ElMessage.error(data.message || '权限不足') } else if (status >= 500) { ElMessage.error('服务器错误') } } return Promise.reject(error) } ) export default request ``` **Token存储** ```javascript // stores/auth.js import { defineStore } from 'pinia' export const useAuthStore = defineStore('auth', { state: () => ({ token: localStorage.getItem('token') || '', user: JSON.parse(localStorage.getItem('user') || 'null') }), getters: { isLoggedIn: state => !!state.token, isAdmin: state => state.user?.role === 'admin' }, actions: { setToken(token, user) { this.token = token this.user = user localStorage.setItem('token', token) localStorage.setItem('user', JSON.stringify(user)) }, logout() { this.token = '' this.user = null localStorage.removeItem('token') localStorage.removeItem('user') }, async fetchUserInfo() { if (!this.token) return const res = await request.get('/auth/me') this.user = res.data localStorage.setItem('user', JSON.stringify(res.data)) } } }) ``` --- ## 9.5 前端路由守卫守护页面安全 **路由守卫实现** ```javascript // router/index.js import { createRouter, createWebHistory } from 'vue-router' import { useAuthStore } from '@/stores/auth' const routes = [ { path: '/login', component: LoginView, meta: { public: true } }, { path: '/register', component: RegisterView, meta: { public: true } }, { path: '/', redirect: '/chat' }, { path: '/chat', component: ChatView }, { path: '/knowledge', component: KnowledgeView }, { path: '/settings', component: SettingsView, meta: { admin: true } }, ] const router = createRouter({ history: createWebHistory(), routes }) // 全局前置守卫 router.beforeEach((to, from, next) => { const auth = useAuthStore() // 公开页面直接通过 if (to.meta.public) { next() return } // 需要登录 if (!auth.isLoggedIn) { next('/login') return } // 需要管理员权限 if (to.meta.admin && !auth.isAdmin) { next('/chat') ElMessage.error('需要管理员权限') return } next() }) export default router ``` **GitHub登录回调处理** ```javascript // views/AuthCallback.vue ``` --- ## 9.6 前后端接口对接与测试完善 **测试用例** ```python # tests/test_auth.py def test_register(client): response = client.post('/api/v1/auth/register', json={ 'username': 'testuser', 'password': 'testpass123', 'email': 'test@example.com' }) assert response.status_code == 200 data = response.get_json() assert 'token' in data['data'] assert data['data']['user']['username'] == 'testuser' def test_login(client): # 先注册 client.post('/api/v1/auth/register', json={ 'username': 'testuser', 'password': 'testpass123' }) # 再登录 response = client.post('/api/v1/auth/login', json={ 'username': 'testuser', 'password': 'testpass123' }) assert response.status_code == 200 data = response.get_json() assert 'token' in data['data'] def test_protected_route(client): # 无token访问受保护接口 response = client.get('/api/v1/user/me') assert response.status_code == 401 # 获取token reg = client.post('/api/v1/auth/register', json={ 'username': 'test', 'password': 'pass' }) token = reg.get_json()['data']['token'] # 带token访问 response = client.get('/api/v1/user/me', headers={'Authorization': f'Bearer {token}'}) assert response.status_code == 200 ``` **Postman测试集合** | 测试用例 | 预期结果 | |---------|---------| | POST /auth/register | 201,成功返回token | | POST /auth/login | 200,成功返回token | | GET /auth/me (无token) | 401 | | GET /auth/me (有token) | 200,返回用户信息 | | GET /chat/conversations (无token) | 401 | | GET /chat/conversations (有token) | 200,返回对话列表 | > 认证授权是平台的基础设施,做得好用户无感,做得差处处报错。把token刷新、权限校验这些细节做好,后面的功能开发才能安心。 --- **本章小结** | 主题 | 核心要点 | |------|---------| | JWT原理 | Header+Payload+Signature,无状态令牌 | | GitHub OAuth | code换token→token换用户信息→创建用户 | | Flask-Login | UserMixin+user_loader+login_manager | | 密码存储 | werkzeug密码hash,不存明文 | | Token中间件 | @token_required装饰器保护接口 | | 前端拦截器 | Axios请求拦截加token,响应拦截处理401 | | 路由守卫 | 前端路由层的权限控制 | --- 觉得有用?收藏起来,下次直接照抄。 你的平台认证是怎么做的?用过什么有趣的方案?评论区聊聊。 关注怕浪猫,下期我们做内容审核——让AI生成的内容安全合规,不踩红线。 系列进度 9/23 **下章预告:** 第10章审核模块——OpenAI Moderation API、关键词审核、流式输出下的审核、多级审核流程,让AI生成的内容安全合规。

资源下载

更多资源
Mario

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长,特征是大鼻子、头戴帽子、身穿背带裤,还留着胡子。与他的双胞胎兄弟路易基一起,长年担任任天堂的招牌角色。

Nacos

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称,一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集,帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Rocky Linux

Rocky Linux

Rocky Linux(中文名:洛基)是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版,作为CentOS稳定版停止维护后与RHEL(Red Hat Enterprise Linux)完全兼容的开源替代方案,由社区拥有并管理,支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性,采用模块化包装和SELinux安全架构,默认包含GNOME桌面环境及XFS文件系统,支持十年生命周期更新。

Sublime Text

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能,例如代码缩略图,Python的插件,代码段等。还可自定义键绑定,菜单和工具栏。Sublime Text 的主要功能包括:拼写检查,书签,完整的 Python API , Goto 功能,即时项目切换,多选择,多窗口等等。Sublime Text 是一个跨平台的编辑器,同时支持Windows、Linux、Mac OS X等操作系统。

用户登录
用户注册