史无前例 AI上阵 扰乱美国总统大选

美国总统选举即将于11月登场，研究人员指出，美国影星、歌手及运动员遭捏造对共和党总统候选人川普及民主党竞争者贺锦丽做出许多虚假证词，正在社交媒体大举扩散，其中许多来自AI影像生成器。

法新社报道，流行音乐天后泰勒丝（Taylor Swift）、女神卡卡（Lady Gaga）及好莱坞男星摩根费里曼（Morgan Freeman），并未支持川普（Donald Trump）。

摇滚歌手布鲁斯史普林斯汀（Bruce Springsteen）也并未被拍到他穿着印有“美国保持无川普状态”（Keep America Trumpless）标语的上衣。 虚假名人支持或奚落特定候选人的社媒贴文，正在干扰美国总统大选。

包含亿万富豪马斯克（Elon Musk）旗下X在内的社媒平台移除许多防范假信息的护栏后，虚假名人支持和奚落特定候选人的贴文已经引发外界担忧，随着总统选举选情白热化，这些内容可能被用于操纵选民。

川普8月在社媒转贴几张泰勒丝支持他选总统的AI生成照，显然试图利用这位流行天后的巨星影响力吸引选民。

加州大学柏克莱分校数字鉴识专家法瑞德（Hany Farid）指出，川普在他创立的社媒“真实社群”（Truth Social）转贴泰勒丝的AI生成照“特别工于心计”，因为他将真实与虚拟的影像结合在一起。

非营利组织新闻素养计划（NLP）近来推出所谓的错误消息控制台，旨在提升人们对选举谎言的辨别度。 这项计划的数据库迄今已列出70篇在社媒散布虚假名人支持和奚落特定候选人的贴文。

新闻素养计划资深研究副总裁亚当斯（Peter Adams）告诉法新社：“在这个两极化的时代，虚假名人的支持可吸引选民注意、影响其看法、强化个人偏见，还会散播困惑和混乱。”

新闻素养计划的假信息清单包含已获取数百万观看次数的贴文，几乎每天都有新的社媒贴文加入清单。

法新社的事实查核人员指出，清单内有些贴文转载变造过的女神卡卡照片，照片配上“川普2024”（Trump 2024）的标记，表明她支持美国前总统川普。

研究人员表示，特别是在X平台缩减内容审核政策并且恢复明知是散布虚假内容的账号后，X平台已成为散布恶意造假政治信息的温床。

支持川普的马斯克，其在X平台的账号拥有近2亿名追随者，他已多次遭控散布有关选举的虚假内容。

X平台的AI聊天机器人Grok之前传出分享错误信息后，监督选举的美国官员敦促马斯克解决这个问题; Grok允许用户利用文本提示产生AI生成图像。

Blackbird.AI 情报分析师泰瑞（Jess Terry）指出，随着这类技术日新月异，“辨别冒牌货的难度将会愈来愈高”。

她告诉法新社：“老一辈或其他不熟悉AI技术开发的群体确实可能相信他们所见，这样的风险当然存在。”