字节跳动提出 Jeddak AgentArmor 智能体安全框架
为了从根源上解决 AI Agent 的安全困境,字节跳动安全研究团队提出了全新的智能体安全框架 Jeddak AgentArmor。它意味着,我们可以将对模糊、善变的“自然语言”的分析,转变为对精确、严谨的“程序语言”的分析。 “AgentArmor 的设计哲学 —— 将 AI Agent 运行时的行为轨迹,视为一段可分析、可验证的结构化程序。” AgentArmor 设计了三大核心组件: 图构建器 (Graph Constructor) 负责将 AI Agent 运行时线性的行为轨迹实时转换为一个结构化的程序依赖图(Program Dependency Graph),捕获控制流和数据流,让 AI Agent 的“思维链”与“行为链”一目了然。 属性注册表 (Property Registry) 一个丰富的安全元数据库,负责为图中的每一个节点(工具、数据)附加安全属性。对于未知的未知工具、MCP、三方服务等,自动挖掘其数据操作流程,生成对应安全等级。 类型系统 (Type System) 类型即“安全等级”,类型系统将在程序依赖图上自动推导新节点的安全等级,并执行基于安全等级的策略校验...

