16|安全:Policy Engine + HITL + Least Privilege
TL;DR:Agent 一旦拥有执行权限,LLM 的不可靠推理就会成为真实的攻击面。安全决策必须交给确定性的 Policy Engine,而非模型自身判断。本文提出的 Command Safety Engine 遵循“AI 提议 → 策略评估 → 风险分级 → 人工审批(必要时)→ 执行网关”的决策链路,通过 AST 解析、RBAC、四级风险模型和 error budget 检查,确保 CRITICAL 动作强制升级审批、低风险操作自动放行。生产落地时,还需配套紧急绕过、审批超时兜底、error budget 缺失降级和解析失败拒绝等边界处理,才能在不牺牲运维效率的前提下守住安全底线。