秉承大小模型协同理念 京东云助力电商零售降本增效
以大模型为代表的人工智能时代，为千行百业带来新的想象空间。尤其在零售电商这一复杂场景中，凭借在内容生成和语义理解方面的优秀表现，大模型正走入下一站，在应用场景中释放产业价值。
京小智，这一为京东域内商家提供触达、服务、洞察的一体化智能服务平台，秉承京东云大小模型协同理念，持续深耕技术，不断推进在零售电商场景落地，旨在为品牌商家降本增效，提升咨询转化。
今年11.11关键节点，京小智交出亮眼成绩单：服务商家数量增长至超36万，其中中小商家同比增加102%，较今年618期间增加62%，有效带动品牌商家营销服一体化增长。
技术场景高度融合助力营销服一体化增长
大模型时代，以技术手段实现更有效的用户触达、更高效的交易转化，更智能的服务体验，是品牌商当下的迫切需求。
营销场景中，京小智为商家经营决策提供“专属顾问”，使产品操作摆脱传统“拖拉拽”，只需一句话指令，就能让大模型智能生成数据分析报告，为店铺生意经营提供专业指导，为营销运营降本增效，实现用户有效触达。
销售场景中，京小智实现分钟级文案自动生成，极大提升应答效率和准确率，助力商家提高咨询转化的效率。比如当用户进行商品比较时，商家过去要花费大量时间拆解用户意图，再生成解决方案手动配置在后台。借助京小智，商家仅需上传商品使用方法的文档，便可以“文档应答”自动拆解问答，支持文字、图表等多种形式。过去这一过程需数日，如今仅需几分钟，商品对比采纳率高达87%。
当用户进行商品属性问答时，京小智结合言犀大模型能力自动生成文案，以更加拟人化的方式来解答，应答准确率提升5%；求购推荐场景时，京小智根据用户和人工客服的沟通内容，基于用户表达的商品需求，自动推荐并展示推荐理由，推荐准确率提升27%。
这一高效的咨询转化，有赖于领先行业的“意图识别”技术。比如，当用户询问“能否推荐可刷公交卡的手机”时，经意图识别后，可精准推荐具备NFC功能的手机。还能像专业的导购员，进一步引导用户回复期待的价格、屏幕尺寸等其他商品属性，进一步推荐更适合需求的手机。
客服场景中，京小智通过打通京东站内活动、物流、服务单、发票、订单修改等各业务场景，综合输出“意图识别”技术能力，实现价保申请等功能的一键调用。比如，当消费者表露出寻求“便宜”“降价”的意图，京小智可自动识别并推送功能，为客户退差价，无需客户跳转和等待，提升消费者体验，减少客服操作时间。更在夜间店铺无人值守时，为商家提供用户咨询应答，提升夜间转化。
大小模型高效协同驱动零售电商应用落地
生于产业，服务产业。诞生于京东零售场景的京小智，具备优质专业数据这一天然优势：京东6亿用户、超10年零售积累的海量交互数据，被源源不断“喂”入大模型，使其拥有大量专业且真实的语料。
然而，大模型虽然拥有海量专业知识，能进行深入思考，但在落地应用场景时，面临时延、算力成本、隐私数据安全等问题。更合理的路径是，大模型负责输出通用能力，小模型负责推理执行，一方面提升系统的覆盖度和准确率，另一方面降低推理延时、保证隐私数据安全、节约算力。基于这一背景，大小模型协同变得更具现实意义。
因覆盖电商零售复杂的全流程环节，京小智以“小步快跑”推进大小模型高效协同：逐个场景引入大模型，实现底层通用能力和复杂推理；全流程关键节点接入小模型，实现场景的快速定位和识别。
比如在用户咨询，京小智往往需要通过多轮对话，才能让消费者将问题表述清楚。这一过程中，小模型负责“意图识别”，对用户意图做出快速和精准的判断，由此进入推荐导购、属性应答、商品对比等不同场景的应答模块；再把这一识别结果和此前多轮对话学习，交给大模型，输出具体应答。
同时，在保证能力效果的前提下，大模型本身也在加速。据介绍，言犀团队通过实现算法层和体系结构层等能力，以量化、稀疏化、减脂蒸馏、参数共享、内存优化、算子融合、动态批处理、流式解码等方式，优化大模型推理系统，从而使大模型适当变小、变快。
未来，京东云还将持续深耕技术，结合零售电商领域的营销运营等数智化经验，持续推动大模型走向行业深处，以京小智赋能更多品牌商家，实现电商零售营销服一体化高质量、可持续的增长。
来源：金融界资讯