机器之心报道

编辑：杨文

假作真时真亦假，无为有处有还无。

200 多年前，曹雪芹在《红楼梦》中写下这样一句话：假作真时真亦假，无为有处有还无。翻译成大白话就是，当虚假被当作真实时，真实也会被视为虚假；当虚无被强行视为存在时，存在也会消解为虚无。万万没想到，放在今天的 AI 语境下，这句古话竟精准地映照了现实。

最近在 X 上冲浪，刷到了一段「人类在飞机上吵架看呆袋鼠」的视频。视频中，一只紧握登机牌、站得直挺挺的袋鼠，正满脸无辜地看着自己的主人和一名空乘人员在登机口 battle。

视频来自：https://www.instagram.com/infiniteunreality/

由于袋鼠的举止表情「比小朋友还乖」，引发不少网友点赞转发。其中 X 账号 @DramaAlert 就在短时间内获得了 7460 万次观看，Instagram 上这段视频光点赞量就有 110.4 万次。

不过很快有细心的网友发现了不对劲。袋鼠手中的「登机牌」上全是难以辨认的文字乱码，而这往往是 AI 生成视频的最大「罪证」。

视频中的人类说着并不存在的语言，空乘人员佩戴的胸牌上也没有名字。

此外，乘客的左手无名指一开始并没有任何首饰，但突然无中生有出现了一枚戒指。

以上种种端倪，都在告诉我们一个真相：这是 AI 生成的。

我们继续深扒，找到了这段视频的最初来源 —— 一个名为 InfiniteUnreality 的 Instagram 账号。

如果往下扒拉扒拉就会发现，该账号还有一堆超现实的 AI 动物视频，比如一只系在飞机座椅上的河马、一只登机的长颈鹿以及一只躺在婴儿车里的小猪。

那么问题来了：为什么千万网友都被这个 AI 视频骗了？

一方面，如今的视频生成技术已经进化到「离谱」的地步，比如谷歌 Veo3 不仅能做出高清、自然的影像，连眨眼、轻微头部动作都极其协调，还能生成逼真的声音，普通网友很难一眼辨真假。

另一方面，该博主虽然在简介和视频中打上了 AI 标签，就是那个代表无穷大的 Infinite Unreality 符号，但这种提示非常隐蔽，绝大多数网友根本意会不到。

同时在流量争夺的赛道上，越「真实」、「离谱」的素材越容易火，其他博主在转发时往往不会重复标注「AI 生成」，比如知名 X 账号 DramaAlert 转发时就未透露该视频出自 AI 之手，这就更导致了大规模误判。

这个 AI 生成说明还是后来读者添加的。

还有网友本身也是「帮凶」。很多人在评论区半开玩笑地说「这是袋鼠日常」、「袋鼠看着很有礼貌」，进一步造成「这是真的」的印象叠加。即使有少部分人指出「AI 生成」，也会被淹没在玩梗与调侃中。

AI 制造的混乱还远不止于此。

有人用 AI 生成的视频假装是真实的，还有人反其道而行之，直接用真实的视频冒充 AI 生成的。

这事还得从半个月前说起。

当时我们在一篇文章里介绍了网友用 Veo 3 生成演唱会视频，效果一个比一个逼真自然，其中就提到了一个妆容怪诞的钢琴家弹唱歌曲的视频。

该视频来自 X 博主 @bitfalls 发布的帖子，声称这个视频是使用 Veo3 生成的，甚至还给出了提示词：Early 2000s footage of an australian goth pianist making a whimsical song about God in front of an orchestra（2000 年代初，一位澳大利亚哥特风钢琴家在管弦乐队前创作了一首关于上帝的异想天开的歌曲。）

我们再一听歌词：「感恩你，感恩你，我的上帝，治好山姆妈妈的白内障多亏了你……」越听越像 AI 整活。😂

但在网友的提醒下，我们才后知后觉这是 12 年前 Tim Minchin 的真实镜头。

我们又去网上一搜，发现这并不是孤例，还有博主用 Vitas 的真实影像假冒 Veo3 生成的。或许该博主有开玩笑的成分，但确实误导了不少人。

面对这种真假混杂的局面，我们普通人到底该怎么分辨？

说实话，现在靠「肉眼」去识别真伪已经越来越不靠谱了。AI 视频不像以前的那种低劣 P 图，仅凭「这个好像哪里不太自然」、「光线感觉有点怪」等直觉去判断很容易掉坑里，有时候还得靠魔法打败魔法。

Google DeepMind 和 Google AI Labs 推出了一款多模态 AI 内容鉴伪工具 ——SynthID，用来识别谷歌旗下生成式 AI（如 Gemini、Imagen、Lyria、Veo 等）所「生成」或「编辑」的图片、视频、音频、文本中是否带有 SynthID 水印，帮助用户快速判断内容是否来自谷歌 AI 模型。

地址：https://deepmind.google/science/synthid/

SynthID 本质上是一种「数字水印」技术。当你在使用谷歌生成 AI 时，系统会在内容中隐性嵌入一组不易察觉、但特定工具能探测到的数字「指纹」，即便你给它加滤镜、裁剪、转格式，这种水印依然能被检测出来。

不过它的限制也比较明显：只识别内置 SynthID 的内容，也就是必须是谷歌系模型（或者有合作伙伴模型）的产物。如果你用 ChatGPT、Stable Diffusion、Midjourney 生成内容，或者第三方 AI 服务根本没嵌水印，它是检测不出来的。换句话说它不是通用 AI 鉴定器，只是帮你确认「是不是用了谷歌 AI」的工具。

此外，虽然这种水印足够隐蔽、兼容常规编辑，但如果有人恶意反复大幅改动、转码、翻译、彻底重写等，水印可能被破坏，从而导致检测失败。

目前它还在「早期测试」阶段，需要提交 waitlist。

参考链接：

https://www.instagram.com/infiniteunreality/

https://x.com/DramaAlert/status/1927385371647594745

https://x.com/bitfalls/status/1925072790593405065