大模型“眼睛雪亮”，谣言减少三分之二
科技日报讯 （记者杨雪）用AI治理谣言，立竿见影。抖音平台近期将AI大模型技术用于谣言治理，一个季度平台谣言曝光量下降67%。
近日，在抖音不实信息治理开放日活动上，抖音不实信息治理负责人李博介绍，以往发现谣言往往需要在媒体或机构发声后，人工入库、回查、下架和拦截，一个疑似谣言的处置经常要几天。现在，大模型主动审阅有一定热度的所有资讯，提取信息、分析主旨、联网搜索，判断真假并自动处置，将周期缩短到几小时。
据介绍，抖音培养“谣言鉴定专家”大模型，能判断搜索的信源来自权威媒体报道、政务公开平台，还是历史谣言库样本。此外，大模型拥有精准定义“内容误导性”“公共价值”“可证伪”等谣言特征的能力。
李博说，在大模型助力下，近一个季度以来，抖音谣言内容曝光量下降67%。大模型识别准确率达85%，目前仍在持续提升。
2025年4月，抖音曾推出“辟谣卡”功能，开放日活动现场，抖音宣布升级推出“AI抖音求真”功能。用户在浏览视频时，一些易产生误解、疑似不实信息的内容，将会被平台挂载“AI抖音求真”跳转链接。用户点击可达“求真卡”页面，获知事件的完整信息。
而且，用户在搜索谣言相关的事件关键词时，搜索结果将以“求真卡”形式展现。内容包括事件溯源、澄清信息、权威报道等。如事件是谣言或疑似谣言，将被显著标注为“谣言”或“存疑”。
据了解，“AI抖音求真”呈现的内容依托于平台训练的“谣言治理大模型”“资讯大模型”及辟谣运营团队。目前，“AI抖音求真”的单日曝光量估测可达近亿次。
抖音近年来也通过热点运营、辟谣账号运营、建立媒体辟谣团等方式来打造辟谣生态。辟谣运营团队在发现一些谣言风险信号时，也会主动向当事人或有关部门核实内容真伪。如刚过去的暑假，社交媒体接连出现各地涌现“人贩子”相关信息。抖音运营团队与各地方公安联动，对四川、山西、河北、海南、重庆、河南等9个地区的“人贩子”谣言进行核实。核实内容为虚假后，平台随即对谣言进行处置，并在站内通过“抖音辟谣”账号发布辟谣内容，运营相关热点。
但谣言治理仍任重道远。李博介绍，一方面，谣言的产生难以杜绝，主观编造、传播偏差等均会带来不实信息；另一方面，辟谣的查证和时效性仍面临挑战。例如，一些热点事件常处于动态发展中，谣言常反转。此外，传播方式的变化也使得信源本身受到污染。“这些都需要媒体、机构、平台和每一位用户携手共治。”李博说。
来源：科技日报