OpenAI 宣布收购 AI 安全创业公司 Promptfoo，以增强其在 AI 应用与智能代理（Agent）安全测试方面的能力。交易金额尚未披露。此次收购将把 Promptfoo 的安全测试与“红队攻击”（red teaming）技术整合进 OpenAI 的企业级 AI Agent 平台，用于提前发现潜在漏洞与滥用风险。

AI Agent 时代，安全成为关键基础设施

随着 AI 从单纯的聊天模型逐渐演进为能够执行复杂任务的 AI Agent，系统安全问题变得愈发关键。OpenAI 表示，未来企业是否愿意大规模部署 AI，很大程度上取决于其安全性、可靠性与可控性。因此，在模型能力之外，安全验证与风险评估正在成为核心竞争力。

Promptfoo 的技术正是围绕这一需求构建。该平台能够模拟真实用户或恶意攻击者，对 AI 应用进行自动化测试，例如：

• Prompt Injection 攻击检测

• 数据泄露风险识别

• 工具调用权限滥用检测

• LLM 与 Agent 的对抗测试（red teaming）

这些能力可以在 AI 系统上线前发现潜在漏洞，从而减少被攻击或滥用的风险。

从 Prompt 测试到 AI 安全栈

Promptfoo 成立于 2024 年，总部位于旧金山。其开源工具已被超过 10 万开发者使用，并在多家《财富》500 强企业的 AI 开发流程中部署。

最初，Promptfoo主要用于 Prompt 和模型评估测试。随着生成式 AI 应用复杂度提高，该平台逐渐扩展到完整的 AI 安全测试与红队攻击体系，可对 RAG 系统、AI Agent、多模型应用进行自动化压力测试。

OpenAI 加速布局企业级 AI 安全

业内认为，这笔收购反映出 OpenAI 在企业市场的战略变化。随着 AI Agent 开始被用于自动处理企业邮件、工作流、数据查询等任务，安全问题已经成为企业采用 AI 的关键门槛。

通过收购 Promptfoo，OpenAI 希望建立一套“AI 应用安全基础设施”：

• 在开发阶段进行自动化安全测试

• 在部署阶段监控 Agent 行为

• 在运行阶段及时发现异常操作

这一体系将帮助企业在大规模部署 AI Agent 时降低风险，同时提升对 AI 系统的信任度。