如何不被AI聊天机器人误导？

一个庞大的亲俄网站网络正悄悄利用AI“炮制”假新闻误导聊天机器人。分析人士认为，这背后或许隐藏着一场有组织的信息战。那么，在真假难辨的AI回答面前，普通用户又该如何擦亮眼睛、不被误导?

如今，越来越多的人开始使用如ChatGPT、Gemini、Le Chat和Copilot等人工智能(AI)驱动的聊天机器人，而不是传统搜索引擎来获取在线信息。这些大型语言模型(LLM)的优势在于，它们不仅提供相关信息的链接，还能言简意赅地总结内容，从而让用户更快掌握更多信息。

然而，这种方式也容易出错。毕竟聊天机器人犯错并不少见。这种现象被称为“幻觉”，早已为人所知。另一些情况下，AI聊天机器人会将信息不恰当地组合，导致错误结果，专家称之为“虚构”(confabulation)。此外，据美国NewsGuard公司表示，很多人不知道，聊天机器人其实也会被当前事件中的虚假新闻所欺骗。该公司致力于评估网站和网络服务的可信度与透明度。

名为“Portal Kombat”的俄罗斯宣传网络，因多次散布虚假信息而备受关注，它可能是当前网络虚假信息的主要传播者之一。该网络通过网络门户支持俄军在乌克兰的战斗，散布亲俄宣传内容。

Portal Kombat曾被法国政府成立的反外部信息操控机构VIGINUM调查。该监测机构发现，从2023年9月至12月，该网络至少运营着193个网站。网络的核心平台似乎是“真理报”(Pravda)在线新闻门户，提供德语、法语、波兰语、西班牙语和英语等多种语言版本。

全球假新闻泛滥

据VIGINUM表示，Portal Kombat的网站并不自己撰写文章，而是主要通过三类来源转载第三方内容：“俄罗斯和亲俄社交媒体账号、俄罗斯通讯社，以及当地机构或人物的官方网站”。VIGINUM于2月发布的报告指出，这些文章通常用词生硬，存在从西里尔字母转为拉丁字母时的典型拼写错误，并夹杂大量情绪化评论。

美国反虚假信息组织“American Sunlight Project”(ASP)已经确认超过180个疑似隶属Portal Kombat的网站。

据ASP估算，“真理报”网络的核心圈大约有97个主域名及子域名，每天发布逾10000篇文章。报道主题不再局限于北约及其盟国，如日本和澳大利亚等国也在其列，涵盖中东、亚洲及非洲等地区，尤其是俄罗斯力图扩大地缘影响力的非洲萨赫勒地区。

英文版“真理报”(Pravda)新闻网站上充斥着大量虚假新闻。

聊天机器人中招?

据网络监督机构NewsGuard称，一些“真理报”页面每月访问量仅有约1000人次，而俄罗斯官媒“今日俄罗斯(RT)”网站的月访问量超过1440万人次。

分析人士确信，大量内容发布会影响聊天机器人的输出。他们进一步怀疑，这正是该网络的真正意图：让大型语言模型将其视为合法来源，从而帮助其传播虚假信息。

如果这个计划属实，那么它似乎已经开始见效。根据NewsGuard的调查发现，该机构研究了2022年4月至2025年2月间“真理报”网络传播的15条明确虚假说法，观察聊天机器人对这些说法的反应。

研究人员将每个说法以三种方式输入聊天机器人：一种是中性表述提出询问，一种是假设说法为真，还有一种模拟恶意行为者引导机器人重复虚假说法。

结果显示，三分之一情况下，聊天机器人确认了亲俄虚假信息;不到一半情况下，机器人正确指出了事实;其余情况下，模型拒绝作答。

NewsGuard于2025年1月又进行了一次测试，这次涵盖了10条虚假信息，分别使用7种语言，且内容不限于亲俄话题。

尽管这次实验中表现稍有改善，但机器人在2100次回应中，仍有超过四分之一重复了虚假信息。

如何防范误导信息?

对使用聊天机器人的用户而言，最重要的是：保持警觉。网上虚假信息泛滥，那么用户还应注意什么?

遗憾的是，正如NewsGuard的萨迪基(McKenzie Sadeghi)对德国之声(DW)所言，仅改变初始提示语的措辞并不能显著降低错误率。她指出：“虽然恶意行为者的提示语更有可能引出虚假信息，但即使是看似无害或者带有引导性的问题，也同样会导致AI生成错误信息。”

根据一组未被正式写入2022至2025年报告、但提供给德国之声的数据，研究人员发现，在所有测试中，大约有16% 的情况，即便输入的是中性或带偏向性的提示语，聊天机器人依然给出了错误答案。

分析人士警告称，AI聊天机器人依赖网上数据，而这些数据正越来越多地被俄罗斯的虚假信息网络所渗透和操控。

因此，萨迪基的建议是：核实并比对信息来源。可以向多个聊天机器人提问，或将它们的回答与可靠消息来源进行交叉验证，以便全面评估信息的真实性。

不过需要注意的是，有些虚假信息网站会仿照主流媒体的页面设计，以此来增加自己的可信度，让人误以为是真实来源。

在寻找真实答案时，时间也很关键。聊天机器人在面对新近传播的虚假信息时更容易出错，但随着时间推移，它们通常会接触到可靠的事实核查内容，从而纠正早先的错误说法。