DeepMind 推出 “帧链” 概念:视频模型或将实现全面视觉理解

DeepMind 在其最新论文中提出了一个颠覆性的概念 ——“帧链”(CoF,chain-of-frames)。这个概念与之前的 “链式思维”(CoT)类似,后者让语言模型能够进行符号推理,而 “帧链” 则使得视频模型能够在时间和空间上进行推理,仿佛赋予了视频生成模型一种独立的思维能力。

在论文中,DeepMind 的研究团队提出了一个大胆的想法:视频生成模型是否能像当前的大语言模型(LLM)一样,具备通用的视觉理解能力,能够处理各种视觉任务而不需专门训练?目前,机器视觉领域仍在传统阶段,各种任务需要不同的模型来处理,例如物体分割、物体检测等,每次换任务都要重新调教模型。

为了验证这个想法,研究团队使用了一种简单粗暴的方法:只给模型提供一个初始图像和一段文字指令,看看它能否生成一个720p 分辨率、时长8秒的视频。这种方法与大语言模型通过提示进行任务的方式类似,目的是测试模型的原生通用能力。

结果显示,DeepMind 的 Veo3模型在多个经典视觉任务上表现优异,显示出它具备感知能力、建模能力和操控能力。更令人惊讶的是,它在进行跨时空视觉推理时表现出色,成功规划了一系列路径,从而能够解决复杂的视觉难题。

总体来看,DeepMind 团队总结了以下三大核心结论:

  • 普遍适应性强:Veo3能够解决许多未接受专门训练的任务,展现出强大的通用能力。
  • 视觉推理初现雏形:通过分析生成的视频,Veo3显示出了类似于 “帧链” 的视觉推理能力,逐步建立起对视觉世界的理解。
  • 快速发展趋势明显:尽管特定任务模型表现更优,Veo3的能力正在迅速提升,预示着未来可能出现更强大的通用视觉模型。

未来,DeepMind 认为,通用的视频模型将可能取代专用模型,就像早期的 GPT-3最终成为强大的基础模型一样。

优秀的个人博客,低调大师

微信关注我们

原文链接:https://www.oschina.net/news/375463

转载内容版权归作者及来源网站所有!

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

相关文章

发表评论

资源下载

更多资源
优质分享Android(本站安卓app)

优质分享Android(本站安卓app)

近一个月的开发和优化,本站点的第一个app全新上线。该app采用极致压缩,本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario,低调大师唯一一个Java游戏作品

Mario,低调大师唯一一个Java游戏作品

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长,特征是大鼻子、头戴帽子、身穿背带裤,还留着胡子。与他的双胞胎兄弟路易基一起,长年担任任天堂的招牌角色。

Java Development Kit(Java开发工具)

Java Development Kit(Java开发工具)

JDK是 Java 语言的软件开发工具包,主要用于移动设备、嵌入式设备上的java应用程序。JDK是整个java开发的核心,它包含了JAVA的运行环境(JVM+Java系统类库)和JAVA工具。

Sublime Text 一个代码编辑器

Sublime Text 一个代码编辑器

Sublime Text具有漂亮的用户界面和强大的功能,例如代码缩略图,Python的插件,代码段等。还可自定义键绑定,菜单和工具栏。Sublime Text 的主要功能包括:拼写检查,书签,完整的 Python API , Goto 功能,即时项目切换,多选择,多窗口等等。Sublime Text 是一个跨平台的编辑器,同时支持Windows、Linux、Mac OS X等操作系统。