联想创新科技大会：PC端侧AI技术，让本地推理媲美云端大模型
联想创新科技大会在万众瞩目中拉开帷幕，其核心理念聚焦于“让AI成为创新生产力”，深度探索了混合式人工智能的无限可能。此次大会不仅展示了联想在个人及企业领域的创新技术，更提出了一个全新的概念——“超级智能体”。
“超级智能体”被联想赋予了三大核心功能：感知与交互、认知与决策、自主与演进。这一理念的提出，预示着联想在人工智能领域的又一重大突破。与此同时，联想正式推出了两款超级智能体产品——“联想天禧”个人超级智能体和“联想乐享”企业超级智能体，这两款产品分别针对个人用户和企业用户，旨在提供全方位、智能化的解决方案。
在大会现场，联想还展示了其在端侧算力领域的最新研发成果——“联想推理加速引擎”。这一引擎由联想携手清华大学及无问芯穹共同研发，是一个专为AI PC推理而设计的软硬件协同优化平台。其性能之强大，足以让普通PC的本地推理能力媲美OpenAI去年发布的o1-mini云端模型。
“联想推理加速引擎”采用了高性能并行解码、算子融合优化及异构计算技术，这些技术的应用使得在多种应用场景下，推理速度得到了大幅提升，同时功耗和内存占用也显著降低。当这一引擎与大模型推理芯片相结合时，硬件加速与软件优化的无缝协作，更是让性能提升达到了一个新的高度。
为了直观展示“联想推理加速引擎”的实力，大会现场还进行了一场别开生面的“竞速赛”。三台配置相同的AI PC同时解答2024年高考数学压轴题，结果令人惊叹。初代大模型耗时27秒却未能得分，二代大模型虽然耗时稍短（26秒），但成功获得了满分。而搭载“联想推理加速引擎”的二代大模型，则仅用时13秒便轻松拿下满分。这一结果充分证明了“联想推理加速引擎”在提升模型能力和算力优化方面的卓越表现。
通过这场“竞速赛”，我们可以清晰地看到，“联想推理加速引擎”不仅让设备的预填充更快、解码速度更高、推理时间更短，还显著降低了内存占用和能耗。这一引擎的推出，无疑将进一步提升联想在人工智能领域的竞争力，为用户带来更加高效、智能的使用体验。