只要有深度造假，就会有政治深度造假恐慌。至少早在2018年，人们就开始担心在政治中使用深度造假——即人为生成或操纵的材料来描绘从未发生过的事情——当时这项技术被用来模仿奥巴马称特朗普为“彻头彻尾的白痴”。多年来，无数媒体的文章都宣称，政治深度造假对我们所知的公共话语、真相和民主构成了迫在眉睫的威胁。

　　本周，澳大利亚自由党国家党(Liberal National party)在TikTok上发布了一段由人工智能生成的昆士兰州总理史蒂文·迈尔斯(Steven Miles)的视频后，人们的担忧再次浮出水面。这段视频描绘了迈尔斯跳舞的场景，并被标记为人工智能生成。即使没有标签，故事的情节也很明显:他的面部特征不可思议地模糊，他移动时裤子的流动令人不安，他拿着的纸神秘地消失了，又出现了。迈尔斯回应了过去7年流行的政治深度焦虑，称这代表着“我们民主的转折点”。

　　阅读更多

　　迄今为止，政治造假对民主构成的生存威胁在很大程度上尚未实现，尽管它们的使用似乎在增加。今年1月，人工智能生成的模仿乔·拜登的声音被用于机器人电话，试图劝阻人们投票。本周，卡玛拉·哈里斯的深度假视频在TikTok上疯传。

　　其他人则试图利用生成式人工智能为自己谋利。2020年标志着深度造假在印度竞选活动中的首次亮相，当时一位部长修改了自己的视频，用不同的语言说话。他的团队指出，深度造假使他们能够以其他方式扩大竞选活动的规模。今年，墨尔本的一名工党议员利用人工智能制作了不同音乐风格和语言的竞选歌曲，然后在Facebook上作为付费定向广告投放。

　　虽然几年前的担忧似乎还为时过早，但自从生成式人工智能工具的普及和可用性以来，媒体格局已经发生了重大转变。一些人预计，2024年——全球关键的选举年——可能是我们真正看到深度造假对选举影响的一年。

　　媒体研究教授马克·安德烈维奇(Mark Andrejevic)强调，令人担忧的不仅仅是技术，而是我们正在创造的更广泛的政治文化，以及曾经依赖于区分事实和虚构的制度的破坏。

　　“这不仅仅是深度造假是否被视为真相的问题，”他说，“而是它们如何与更广泛的趋势保持一致，即把政治当作娱乐，以及共同真相的瓦解。”因此，尽管迈尔斯跳舞的假视频简单得可笑，但仅仅关注可信度可能会有只见树木不见森林的风险。

　　因为所有这一切都发生在退化的信息生态系统、猖獗的网上错误、虚假信息和阴谋，以及由算法策划的在线信息流的背景下，这些信息流不是根据质量或真实性来决定我们看到的内容，而是根据什么能让我们参与的时间最长。深度造假技术为高度商业化的媒体环境催生的更广泛的信息战略做出了贡献，安德烈耶维奇指出，支撑这种战略的商业模式“将参与度指标置于向读者和观众提供信息的目标之上”。

　　展望反乌托邦的水晶球，不难想象，由于几十年的监控资本主义，未来越来越复杂的深度造假与精细的定向广告相结合。想象一下:你自己的个性化政治深度假竞选活动，专门设计用于按你的特定按钮，并根据你的个人数据和在线行为做出的预测为你的信息流进行策划。事实上，有针对性和个性化的深度伪造已经开始被用于诈骗，冒充亲人和同事。对于心怀不轨的人来说，这是一个操纵政治策略的梦想，对于我们其他人来说，这是一场噩梦。

　　就我个人而言，我对每次上网都扮演合成媒体的夏洛克·福尔摩斯并不是特别感兴趣。首相的嘴动得合乎人性吗?反对党领袖今天多了一根手指吗?让我们休息一下吧，我们都很累了!

　　然后是道德和法律方面的担忧:从版权、诽谤和隐私法的问题，到同意和身份盗窃的问题。政治深度造假不仅会通过误导性媒体本身侵蚀信任，还会创造一种环境，让政客们更容易将真实的视频嘲笑为伪造，从而破坏问责制。

　　就连“深度造假”(deepfakes)这个词也有问题:它来自一名reddit用户的用户名，该用户在2017年因在未经同意的情况下将女明星的脸贴在色情材料上而臭名昭著。事实上，多年来专家们一直警告说，深度假技术恶意使用的主要目标是女性，而不是政客。到目前为止，这是造成最明显伤害的地方，未经仔细考虑就试图打击或将其定为犯罪的法律可能会让情况变得更糟。

　　阅读更多

　　因此，虽然深度造假似乎不太可能立即推翻民主，但它们是脆弱的媒体环境和有毒的政治文化中公共话语受到更广泛侵蚀的一个症状和因素，最终导致安德烈耶维奇所说的“信息腐烂”。我怀疑我们中的任何一个人都不会很快挂起我们的猎猎者人工智能侦探帽子。

　　Samantha Floreani是一名数字权利活动家和作家，居住在墨尔本/纳阿姆