万象智维的会议室里，一字铺开了市面上主流的AI硬件。CEO王拓为告诉《智能涌现》，最近他们在讨论，一个AI硬件应该被设计成什么样的形态。

一个偏软件的团队，在这一年来不断转向，最终确定了路线：做端侧AI的软件基础设施，以及端侧智算硬件。

具体来看，面向B端，他们做了一个名为OmniInfer的推理引擎，填补市面上面向端侧SoC芯片的推理引擎空白。SoC芯片是一个高度集成的单芯片系统，广泛应用在手机、耳机、手表、智能眼镜、机器人等终端硬件产品中。为了让云侧和端侧模型能够进行高效协同，他们还推出了一个端侧任务执行框架OmniClaw。

最近，万象智维又做出了一个大胆的尝试，在C端市场上，推出一个消费级的端侧智算设备，这一硬件独立于手机之外，形态与磁吸在手机背部的AI录音卡类似。其好处在于，无需占用手机算力，也能在端侧部署模型，还能成为用户积累上下文、独立跑任务的移动端设备。

万象智维（Omnimind）创立于2025年5月，依托清华大学泛在智能实验室（THU OmniLab）孵化成立，团队来自清华、北大、上海交大以及腾讯、阿里、字节等高校和企业。加上实习生，万象智维的团队约30人，其中超过一半的成员负责研发。

创始人兼CEO王拓为目前为清华大学计算机系在读博士生，公司发起人任炬是清华大学计算机系副教授、教育部长江学者特聘教授。

《智能涌现》获悉，近日，万象智维已完成数千万元的天使+轮融资，韶音领投，瀚晖投资，知行资本，宝尔爱迪跟投，源合、浪潮担任财务顾问。去年年底，他们还获得一轮星连资本领投的千万元天使轮融资。

王拓为认为，云侧AI是AI上半场，核心是探索智能上限，端侧AI是AI下半场，核心是实现AI的全面落地。

在端侧部署模型的好处，首先表现在Token成本上。相比纯云侧调用模型，端云结合能在保证能力与纯云侧模型对齐的同时，Token成本还能实现比较大程度的下降。适合在端侧完成的任务，如本地信息的整理以及持续学习的过程，无需云侧参与，只有部分复杂任务端侧模型不能完成时，系统才会调用云端模型做更多复杂的任务。

不仅如此，端侧在隐私、实时性和存储成本也有天然优势。本地计算意味着数据不必出端，用户无需将自己的文件、对话、行为数据持续同步到云端，其他端侧设备，如球场摄像头、工业对讲机等在弱网或离线环境下也能实现一些实时处理的功能。

“做端侧AI，我们并不想过度追求模型智能的上限，而更关注如何让模型在设备上运行得更持久、更稳定、更高效。长期来看，端侧AI最大的价值并不只是保护隐私或节省Token成本，而是让AI真正具备持续学习和长期记忆的能力，最终成为一个真正长期陪伴用户的智能助手。”王拓为告诉我们。

从手机市场，转向整个SoC端侧市场

2025年底，字节跳动与中兴联合推出第一代豆包手机，成为端侧AI加速进入手机终端的重要行业信号。此后，各大手机厂商陆续加码AI能力建设，一面加强自研，一面又积极寻求与模型和技术厂商合作。

随着网信办公布7款手机端侧AI的监管落地，AI手机也步入合规框架内，第二代豆包手机、阶跃星辰STEPX Neo等打着全球首款智能体手机的终端产品也逐一亮相。

事实上，万象智维并不是这一赛道的旁观者，他们有做手机侧AI的技术基础，长期积累了端侧模型推理、系统Infra和Agent等底层技术能力。

2025年12月，万象智维推出首款产品“小万App”，这是一个完全免费、本地运行的Android Agent。用户仅需安装App，就可以完成点外卖、打车等跨应用操作，这也验证了他们的想要在消费级手机上实现的系统Agent的能力。

在推出小万之前，万象智维曾与几乎所有主流手机品牌进行交流，希望凭借自身在端侧Agent上的技术积累，为手机厂商提供从底层Infra到上层Agent的完整技术方案。

不过，对于手机厂商而言，AI Agent正在成为下一代操作系统级必须具备的核心能力，难以通过一套完整外部方案的形式整体采购。在几乎所有手机厂商品牌聊完后，他们的反馈一致是，对万象的技术能力很认可，可以在一些具体模块和技术方向上展开合作，但这并不是一套长期行得通的方案。

随后，小万App整套技术在Github上开源，项目名为OmniBot，累计获得超过2000 GitHub Stars，并多次登上GitHub Trending榜首，这也让万象率先获得了一批真实用户的正向反馈。

王拓为意识到，他们没有必要把自己的商业模式单纯绑定在手机厂商身上。于是，绕开手机市场，他们发现可以在更广阔的端侧品类中提供技术服务。

现有推理引擎要么为云侧CPU/GPU架构设计，要么为桌面大型一体机设计，真正针对端侧SoC的引擎还存在市场上的空白，因此万象智维推出了一个能覆盖各个端侧SoC品类的infra基座OmniInfer。“端侧的异构性非常复杂，不同品类的终端设备、甚至同一品类不同型号的终端设备，需要的Infra都有所不同。”王拓为说。

OmniInfer的核心目标是能让大模型在端侧SoC芯片上以最小的资源开销实现最快的推理速度，它解决了两个痛点：

一是计算资源短缺。大模型每次推理并不需要激活全部参数，OmniInfer会根据请求，动态挑选最重要的参数参与计算，再将精简后的工作负载灵活分配给CPU、GPU、NPU协同处理。

二是内存紧张。端侧SoC的存储分两层：内存快但容量小，外存慢但容量大。OmniInfer的做法是把部分数据先卸到外存，需要时再搬回来，同时通过计算和数据搬运的重叠和外存上数据排布优化来缩短等待时间。

从成绩上来看，搭载OmniInfer后，在客户的同一台设备上，原本只能部署10B以下模型，其上限可以提高到30B模型。不仅如此，模型Prefill（预填充）速度最高提升接近15倍，Decode（解码）性能最高提升2.49倍，同时内存节省近一半。在端侧设备上跑Qwen3.5 9B这类大模型，其推理内存占用可以被压缩到3GB以下。

端侧的潜力，不只表现在模型部署这一方面，在持续的运行后，它还能具备持续学习的能力。

王拓为介绍道，持续学习通常有两种路径：一种是把本地数据以提示词的形式输入模型，但由于端侧模型自身的上下文窗口比较小，这种方法不太理想；另一种是做周期性的微调，将端侧数据训到模型参数里，不过这种方法需要调用额外算力，在云端做周期性微调，端侧数据会出端，这也算不上真正意义上的持续学习。

为此，万象智维研究了一套新的端侧微调算法，在做周期性微调的基础上，将用户交互数据做大量前向推理，每次只针对性微调一个极小的参数模块，约1%-2%的LoRA参数量，最终的效果能趋近于传统微调，但每一步的成本只到了推理级别，在降低成本的同时，整个过程中模型和数据都不出端。

在OmniInfer之上，万象智维构建了第二层技术基座，叫OmniClaw，这是一套专门为端侧小模型设计的Harness。已有的主流Harness，如Claude Code等，完全围绕云侧大模型构建，如果选择调用端侧小模型，任务很难跑起来。

OmniClaw则从工具和接口调用、推理时的引导及重试机制等方面为小模型重新设计，并内置了一套端云协同的智能路由体系，端侧能独立完成的任务就在本地执行，复杂任务自动引入云侧模型参与，在保证任务上限与纯云侧方案对齐的同时，Token成本还能实现较大幅度的下降。

OmniInfer和OmniClaw是万象智维的技术底座，基于此，他们推出了OmniStudio一站式端侧模型部署平台，作为直接面向To B客户的产品。它适配Windows、Mac、Linux、iOS和安卓操作系统，与底层硬件深度合作，落地场景包括手机、电脑、智能家居、AI玩具、机器人等。

拼上自研终端的拼图，探索端侧智能上限

端侧智能在业内被很长时间提及，但无论是手机厂商、硬件终端厂商还是模型厂商，都并没有真正围绕端侧AI推进。王拓为告诉我们，他们并不想只在端侧简单部署小参数模型，或者调用云端模型的能力，而是真正用技术实现端侧AI，并让用户直接体验到端侧AI的好处。

为此，依托自身的端侧系统性的Infra能力，万象智维正着手计划推出自己的硬件产品，一个类似录音卡形态的端侧硬件设备——Taste。

手机并不是端侧AI落地的最佳场景，一方面，消费者经常换不同的手机，用户上下文难以迁移；另一方面，不同品牌手机的生态也会比较互斥。做一个独立硬件的好处是，它是一个消费级产品，可以直接触达消费者，也无需再受到各种权限操作系统的制约。

王拓为透露，Taste的定位是面向未来个人智能交互的新型终端，目前已完成首轮样机研发与生产验证，并围绕软硬件协同和AI应用场景持续迭代。形态上来看，这一硬件的尺寸大致与卡片相似，可以磁吸依附在手机背板上，拥有独立SoC芯片、麦克风、扬声器和一小块电子屏，带有独立电源和录音功能。

万象智维希望Taste最终能成为用户的个人上下文存储的Memory设备，依赖团队自研的端侧微调算法OmniTune，实现白天跟随用户正常使用，夜间利用空闲算力完成自学习，将白天的交互内容内化到模型参数里。为此，万象智维在每一台设备上部署一个用户独立的LoRA，随着用户积累的数据不断调整LoRA参数，达到持续学习的效果。久而久之，每个用户都会拥有一个权重与众不同的专属模型。

省Token是端侧智能的一个起点，但不会是终点。“端侧成本这件事，不会成为大家永久的痛点。”王拓为说，一个积累了长时间、个性化上下文的产品，天然会产生自己的壁垒——成为用户的一个能持续学习、真正个性化的助手。

“端侧真正不可替代的价值在于时间。我们希望我们能跑的模型不一定特别大，一个设备带有你独立的上下文，经过长时间的积累和持续学习，逐渐内化成一个真正懂你的专属模型，这个时间成本很难通过技术手段逾越。”

选择SoC芯片而非桌面级架构，是Taste设计里的一个关键的决策。这也是万象智维所看到的，未来，端侧会大量拥抱SoC芯片。对于市场而言，桌面级架构和移动端架构完全是两个设计。

许多端侧设备，如PC、AI Nas等，其芯片结构大多都是为了高算力、高功耗所设。尽管不少团队仍在纠结算力不足等问题，但显而易见的是，桌面级算力已经非常强了。

端侧SoC芯片设计逻辑的侧重点则有所不同。首先是功耗，移动电源导致端侧SoC芯片厂商会在芯片的功耗层面做大量优化；其次是如何保证功耗和散热平衡的前提下，还能叠加上更高的算力。因此SoC芯片背后的端侧市场，依然还有很多可以挖掘的地方。

今年5月，万象智维正式启动商业化。目前，公司已率先跑通B端商业模式，依托自身的技术研发能力与工程落地经验，为企业客户提供端侧AI技术与产品服务，并已签下多个百万级订单，预计全年累计订单额达到千万元级别。在B端商业化得到初步验证的同时，万象智维也正逐步拓展C端消费级市场，探索更具规模化潜力的产品形态与商业模式。

面向B端，万象智维希望能从定制化逐渐走向标准化产品。对于PC、智能终端等厂商，万象智维采用NRE+License的商业模式，通过NRE（非重复性工程费用）费用覆盖前期定制开发和适配成本，并基于产品规模化的应用持续收取License费用。同时，他们也与一些产业伙伴联合推出智能化产品和行业解决方案。C端的商业化则主要来自Taste这一硬件产品的一次性销售收入与其软件订阅服务，预计明年正式量产后开始实现。

AI硬件能实现什么样的功能，目前没有人能给出明确的答案。

端侧便携式计算的赛道可能未来会出现独立的产品，能直接接受用户的输入、完成用户的任务，或者也可能会和其他设备产生联动，协同完成任务。但不管未来的任务实现方式如何变，万象智维想要的是，先站住这一生态位，以及永远处于第一梯队，迅速拥抱行业最新进展。（王欣逸）