字节跳动开源 UI-TARS-1.5：基于视觉-语言模型构建的多模态智能体

字节豆包大模型团队宣布开源 UI-TARS-1.5。

据介绍，这是一款基于视觉-语言模型构建的开源多模态智能体，能够在虚拟世界中高效执行各类任务。目前，UI-TARS-1.5 已在 7 个典型的 GUI 图形用户界面评测基准中取得 SOTA 表现，并首次展现了其在游戏中的长时推理能力和在开放空间中的交互能力。

UI-TARS-1.5 基于该团队此前提出的原生智能体方案 UI-TARS，通过强化学习进一步增强了模型的高阶推理能力，使模型能够在“行动”前先进行“思考”。

该版本的模型中，团队还展示了一个新的愿景：以游戏为载体来增强基础模型的推理能力。与数学、编程等领域相比，游戏更多依赖直观的、常识性的推理，并较少依赖专业知识，因此，游戏通常是评估和提升未来模型通用能力的理想测试场景。

据介绍，UI-TARS 作为原生 GUI 智能体，具备真实操作电脑和手机系统的能力，同时，还可操控浏览器、完成复杂交互任务。

UI-TARS-1.5 能够实现精准 GUI 操作，基于团队在四个维度的技术探索：

• 视觉感知增强：依托大规模界面截图数据，模型可理解元素的语义与上下文，形成精准描述。

• System 2 推理机制：在动作前生成“思维（thought）”，支持复杂任务的多步规划与决策。

• 统一动作建模：构建跨平台标准动作空间，通过真实轨迹学习提升动作可控性与执行精度。

• 可自我演化的训练范式：通过自动化的交互轨迹采集与反思式训练，模型持续从错误中改进，适应复杂环境变化。

开源地址

• GitHub：https://github.com/bytedance/UI-TARS
• Website：https://seed-tars.com/
• Arxiv：https://arxiv.org/abs/2501.12326