诈骗者使用 AI 伪造健康背书

William Summers 2024 年 5 月 17 日

所称内容

根据一段视频，某些澳大利亚知名人士正在提倡替代健康疗法。

我们的判断

这是虚假信息。这些内容是使用人工智能技术伪造的。

多位澳大利亚知名人士似乎正通过社交媒体视频广告提倡替代健康疗法。

但这些视频均为伪造，其内容是使用人工智能 (AI) 技术生成的。

这些视频通常采用对应人士的真实发言片段，但同时用其他不相关话题的新台词替换原本对话内容。

AAP FactCheck 此前曾揭穿过类似视频，当时的视频使用的是澳大利亚商界领袖人物的剪辑片段，以错误地暗示他们正在推广可疑的投资计划。AAP FactCheck 看到的部分健康相关视频中声称，Sky News Australia 主持人播报了一条关于“突破性关节疗法”的新闻。

视频随后展示了已经被封禁的自然疗法推崇者 Barbara O’Neill，让其讲述一款“天然关节护养配方”，该配方据称由哈佛大学的专家协助开发。

随后部分澳大利亚知名人士，包括电影制片人 Bruce Beresford、前网球明星 Margaret Court 和作家 David Malouf，出场宣传了所谓“改变生活的疗法”。

但所有音频均为伪造。

其中最明显的线索是，所展示澳大利亚人士的口型变化和据称说出的话语不一致。

David Malouf 被篡改的剪辑片段源自 2014 年悉尼作家节上的采访。他在真实的采访中并未提及医学疗法。

Margaret Court 的剪辑片段取自 2019 年在珀斯的基督教布道。

Bruce Beresford 的剪辑片段取自 2019 年墨尔本国际电影节上的采访。 此外还有另一条线索可以说明这些人声为伪造，即视频中 Court 女士和 Malouf 先生的所谓发言带有英国口音。而现实中这二位均带有澳大利亚口音。

如何在 FACEBOOK 上识别 DEEPFAKE 深度伪造视频 – 危险信号

如果看似由知名人士和公众人物推广新产品的帖子包含超过一项以下特征，请谨慎对待：

* 发言者发言中的停顿不自然，言语模式生硬，口音不一致。

* 发言者的口型和发言不一致，或是面部表情和动作与发言语气不匹配。

* 视频分辨率低或有卡顿现象。 * 视频来源和/或背景尚不清楚。