鱼羊 闻乐 发自 凹非寺

量子位 | 公众号 QbitAI

CEO私人助理的活儿，也被Agent盯上了。

每天能独立更新出全公司的日报版“今日头条”，还是完全本地部署、开箱即用的那种：

本体甚至能被CEO拎着走。

没错，整个机箱就A4大小，跟iPhone 15 Pro Max对比起来是这样的：

不卖关子，这么个新鲜角色，名叫智跃Agent一体机。很有意思的一点是，这是市面上首个专门面向CEO打造的软硬一体私有化Agent，目标用户非常明确。

不愧是“Agent应用元年”，连AI新硬件都开始彰显“个性”了。

到底怎么一回事，量子位编辑部的同事们也是率先过了一把CEO瘾，咱们一边实测，一边看看2025年的AI新硬件，都进化成什么样的形态了——

开箱即用的“信息管理助手”

传统的一体机大家已经比较熟悉了，大体上是算力+模型供给的模式，基本上买到手里还是得给它配个专门的开发团队。

与之相比，智跃Agent一体机实际上属于一个全新的概念，定位并不相同。

不强调提供模型和算力，而是把硬件+软件+算力+预置的Agent打包成一个整体，整合在一个超小型的精巧机箱里，搭配App实现插电即用。

在硬件层面，它采用小巧的12L机箱设计，搭载单卡4090，可以说是超小型化的Agent方案。

所有数据处理、存储环节均可以在本地完成，无需依赖外部云端算力资源，在保证数据处理高速响应的前提下，避免了数据传输过程中的延迟和安全风险。

软件系统则完全基于管理场景自研开发，不仅拥有专属的操作系统，还配套了定制化App。

这种高效联动的整体性特点，让智跃Agent一体机真正做到了开箱即用：

插电、配置，1小时内就能开用。

实测了一下，确实不需要专门的技术人员帮忙，以上简单操作过程均可自己完成：

首先，把我们需要生成报告的信息源上传到后台，支持本地文档上传，也可以直接接通飞书、钉钉等内部IM系统。

就以一周行程单为例。

将该信息源生成报告后，我们就可以在手机App的“今日头条”列表查看。报告有长文模式和事项模式两种，概括了项目的基本内容，能关联原始信息的同时分析数据。

其中，长文模式能够对工作进度进行详细分析，事项模式更倾向于直接列出整个项目中某一事项的优先级。

在周行程安排的例子中，AI直接帮忙挑出了周内最重要的几个活动，如管理层周会以及与投资人会议等，而周末的休整则被放到了中优先级。

更重要的是，报告中的每条信息均可溯源，确保后续的决策正确。

信息溯源甚至都可以定位到具体的群聊内容。以产品交付报告为例，通过定位群聊内容就能更新项目进度。

除了生成报告外，每个报告还能有自己专门的问答助手，注意，是每一个！专门的！

专注于一个项目报告，做到专问专答，快问快答，有据回答，减少了计算成本还提高了回答的准确度。

这么看下来，这个全球首个专为CEO和管理者设计的Agent一体机，就是一个能主动收集信息、智能处理信息、清晰展示信息的“管理助手”。

所有功能都围绕协助管理层解决管理难题、提升决策效率展开，并且自带完整的运行系统和简洁友好的UI交互界面，即使是不熟悉复杂技术的管理者，也能快速上手操作。

老实说，这种便捷性有点像AI版的成品NAS设备，通过内置成熟的操作系统，就能让普通的用户轻松管理数据。

而智跃Agent一体机则是插电后打开App，就能让CEO轻松实现全局信息把控。

总结一下，这位“私人助理”的核心关键词有两个：超小型化、垂直化。

其功能上的特点可以归纳为4个方面：

• 直击真相

不用担心公司内一层一层的向上汇报导致信息损失，通过打通飞书、钉钉之类的内部系统，可以生成真实的、不受团队层级过滤的工作报告。

• 透视研发

从技术管理的角度上来说，智跃Agent一体机可以做到自动监控代码提交、任务状态，以可视化的方式实时呈现项目真实进度，让非技术背景的管理者也能清晰掌握研发动态。

• 沉淀会话资产

无论是管理者与Agent的交互记录，还是各系统同步的会议纪要、项目文档，都会被自动梳理为可搜索、可问答的结构化知识库，避免信息随时间流失，为后续决策提供历史数据支撑，让散落的信息沉淀为公司核心资产。

• 安全保密

完全本地部署，确保所有企业核心数据都存储在本地设备中，不接入外部云端，从根源上杜绝数据泄露风险。

从CEO开始，开创Agent一体机赛道

体验下来，这么一个专为CEO设计的Agent一体机，确实有点门道。

至少老板听到我们的实测汇报，be like：

而我们也不由好奇，这样略显“小众”的产品设计，是如何诞生的。

智跃CEO Jomy向我们透露，实际上，之所以会设计这样一款产品，思路源于他自身创业10年以来面临的管理痛点：

人越多，越难了解员工们具体都在干什么。

Jomy本人是程序员出身，投身创业10年，同时也是国内知名企业级AI资源平台的CEO。公司规模从几个人发展到上百人，在这个问题上，基本上是会越开越多，但痛点却越来越大。

他曾试图向其他CEO们取经，却发现问题是普遍存在的。作为公司的一把手，公司规模越大，就越会担心层层信息过滤之后，听不到真话、管不到进度、找不到信息。

也就是说，核心难题其实围绕两个字：信息。

能不能用技术的手段来改善这个难题？

突破口还真就在今年出现了：在2025年，几十亿参数的小模型，效果已经大幅超越了当年1750亿参数的GPT-3，尤其是推理模型的进展，大大提升了模型的输出质量。

把收集信息、处理信息、展示信息的工作交给小模型+本地算力去做，已经成为了完全可以落地实现的一件事。

这里面的机会在于，一方面，针对管理大厂是有解决方案，但成本高昂，未必适用于中小型公司。另一方面，面向公司CEO、管理层增效，其实对提升整个企业运作的效率来说，效果非常明显：可以帮助企业做出正确的决策。

结合这样的背景，智跃Agent一体机的设计思路也就更加清晰了，瞄准的就是以信息为中心，实现更低的部署成本、更强的安全可控性。

无论是单卡4090的选择，还是软硬一体化的设计，目的都是在更优的成本下，为针对信息场景的垂直Agent提供更强的性能和安全保障。

目前，智跃已经为一家高速成长的互联网科技公司提供了Agent一体机服务。

这家公司的问题在于，尽管全员使用飞书进行高效写作，但随着信息流爆炸式增长，重要的一线反馈和项目细节很容易被淹没在碎片化的聊天记录中。

智跃Agent一体机实现的解决方案是：

• 自动收集所有一线客服信息，24小时持续分析所有客服聊天记录，用来提取关于产品的问题，并自动评价客服的回复质量。

• 自动收集飞书群聊，整理各个部门工作进度并生成多维度报告。

上线第一周，这套系统就挖掘出了超过30条未被客服手动上报的产品关键问题。

△AI生成

而在保密要求更高的某高新制造业场景中，智跃Agent一体机还在一定程度上替代了IM、OA的功能：

智跃在一体机内制作了独立的汇报系统，让员工可以在智跃App内进行汇报。智跃Agent一体机本身内置了端到端加密，App和一体机直连，不经过中转，保密程度更高。

并且“相比市面上其他私有化部署的产品，智跃Agent一体机更便宜，更安全，更AI”。

随着产品的推出，目前已有数家投资机构，正在与智跃进行A轮融资的接洽。

落地关键：工程化

从技术的角度出发，摊开来说，智跃Agent一体机核心要解决的问题其实就是RAG（检索增强生成）。

Jomy和他的团队遇到的问题正是，市面上其实并没有能满足一体机需求的RAG解决方案。

依赖通用模型能力，则将面临成本爆炸，很难满足小型化开箱即用和本地部署的需求。而开源的小模型方案，更多的是学术性探索，无法满足企业生产中真实面临的问题。

为了做到成本、效率和效果上的最佳实践，Jomy强调了一个关键词：工程化能力。

自研RAG系统

首先，是自研RAG系统。

智跃透露，在GraphRAG的思路之上，研发团队做了以下创新。

• 多维实体提取

  不只提取一个实体，而是从多维度提取实体，更接近人类的记忆和联想方式。

• 动态关系建立

  不依赖预先构建的知识图谱，而是在检索的时候，再动态地去建立实体之间的关系，避免重复建立实体关系。

• 抗幻觉能力

  一方面，利用Agent的“自我反思”来检测是否存在幻觉；另一方面，通过百分百溯源来消除幻觉产生的影响。

目前，智跃Agent一体机采用的基础模型是Qwen3-30B-A3B，也就是总参数量30B，激活参数量3B的版本。

通过对复杂任务的拆分和上下文工程，小模型可以替代大模型，动态适应企业的个性化信息需求，而不依赖于模型微调。

同时，采用小模型方案也使得在单卡4090机器上，塞进embedding模型、rerank模型、多模态模型成为可能。

连接器的工程化创新

智跃Agent一体机研发团队还在信息源连接器的设计上做了不少工程化实践。

原因在于，信息源的接入其实属于“脏活累活”，涉及到针对不同数据的不同处理方式。能否更简单快速地让用户完成配置，是影响使用体验的关键之一。

智跃Agent一体机目前针对企业常用工具，如飞书、钉钉等等，都提供了连接器支持快速接入。

比如，填一下飞书ID和API Key，就能快速把飞书信息接入到一体机当中。

智跃也向我们透露了产品下一步的进化方向：

纵向上，是持续增强Agent的能力，让这个“私人助理”不仅能收集和展示信息，还能做简单的管理和决策，比如完成审批等，实现从“CEO助理”到“CEO分身”的进化。

横向上，是研发面向不同岗位的Agent，同样集成到一体机中，例如程序员Agent、财务Agent、法务Agent等等，让AI可以普及到更多岗位当中，发挥辅助增效的作用。

垂直领域，Agent创新加速

当“Agent元年”过去2/3，可以观察到的是，在各个垂直领域，Agent正在激发越来越多的应用创新、展现越来越大的应用潜力。

技术本身的突破之外，发现场景、深入洞察应用场景的真正痛点，开始成为建立新的竞争先手优势的关键所在。

像智跃，就通过定义Agent一体机这个AI硬件新品种，针对低成本、小型化、开箱即用的真实需求，依靠工程化能力率先开辟出了“Agent一体机=智跃Zleap”的赛道。

智跃CEO也向我们分享了来自一线的最新感悟：

尤其传统企业而言，对大模型技术本身不了解，也没有相关的开发团队。想要快速在这些场景中落地Agent，针对实际场景进行打磨的垂直模型，比通用模型更具备实用性。