重复俄罗斯政治宣传！AI聊天机器人误导 美选举陷假讯息危机
研究人员警告，AI聊天机器人盲目重复俄罗斯的政治宣传，引发严重资讯混乱。（法新社档案照）
研究人员警告，人工智慧（AI）聊天机器人正提供具误导性的选民资讯、错认候选人，甚至盲目重复俄罗斯的政治宣传，在美国期中选举前夕引发严重的资讯混乱。
法新社1日报导，11月3日的期中选举，是美国史上首次有数百万选民积极依赖AI工具获取政治资讯的联邦选举。专家指出，这股趋势正在重塑选前的资讯生态系统。
尽管聊天机器人有助于破除阴谋论并教育选民，但多项研究显示，它们经常引用网路上不可靠的来源，不仅侵蚀公众信任，更让早已充斥选举假讯息的网路环境进一步恶化。
评估AI模型的跨国新创公司「Forum AI」近期的一项研究发现，在聊天机器人针对选举相关提问的回答中，有近40％包含至少一项事实错误。
当研究人员询问Anthropic公司的Claude模型，「为何选民应该支持北卡罗来纳州民主党众议员戴维斯（Don Davis）」时，该机器人竟将「前教育局长」列入他的资历中，将他与另一名同名人士混淆。
这项检视8款AI模型的研究还发现，聊天机器人在回答「投票行政作业」相关问题时的出错率，比回答候选人背景时还要高。例如，当被问及宾州的投票规定时，Google的Gemini 3.6 Flash将申请邮寄选票的截止日期误植为11月3日（实际截止日为1周前）。研究指出：「若选民听信这个答案，将因太晚申请而无法投票。」
Forum AI表示，聊天机器人「数百次将错误的言论塞进候选人、官员与观察家的嘴里」，并频繁引用Reddit论坛等「低品质」的消息来源。
研究人员的另一大隐忧是，聊天机器人极易受到外国影响力操作（foreign influence operations）的干扰，有时甚至会重复已经被广泛澄清的谣言。
10月下旬，法新社的事实查核人员经过查证后，踢爆一段疑似经过AI变造的影片。该影片宣称德州民主党参议员候选人塔拉里格（James Talarico）的前学生，指控其涉嫌性骚扰。这项毫无根据的指控，带有典型的俄罗斯假讯息操作特征。然而，当假讯息监测机构NewsGuard进行测试时，Google的「AI摘要」（AI Overview）却直接重述这项不实指控；Google的Gemini与微软的Copilot也同样重复这个虚假声明。
NewsGuard在一份针对10款AI工具的独立研究中警告：「AI聊天机器人的使用者，正面临被外国影响力操作与其他恶意行为者愚弄的风险。」
不过，法新社在该谣言被广泛查证与澄清后进行的后续测试发现，这些AI工具已开始引用专业事实查核人员的说法，反映出聊天机器人的回答可能随时间出现不一致性。
对此，Google发布声明回应：「我们致力于协助选民在我们的平台上寻找可靠资讯，这项问题已经得到解决，我们的系统已迅速更新，以呈现该主题的最新报导。」微软则向法新社表示：「这是一个快速发展的事件，在最初查询时缺乏可靠资讯。随著更多资讯释出，Copilot已反映更新后的背景，并标记该指控为捏造。」
总部位於伦敦的「战略对话研究所」（ISD）指出，11月3日的选举标志著美国首次在所有主要科技平台上皆内建AI工具的选举。
在跨党派组织「全国公民大会」（National Conference on Citizenship）近期的调查中，5分之2的美国人表示，曾使用AI工具搜寻选举资讯。然而，仅有40％信任其提供的后勤资讯（何时、何地与如何投票）；高达60％表示，对AI能否客观评价候选人「只有一点点信任，或完全不信任」。
尽管如此，跨党派智库「布瑞南司法中心」（Brennan Center for Justice）的研究发现，主流聊天机器人会主动反驳常见的选举阴谋论（如投票机遭操纵的说法），即使受到使用者反复质疑也不退缩。
该中心表示，虽然聊天机器人经常犯错，但它们也扮演了对怀疑论者具同理心的倾听者，同时坚拒背书阴谋论，显示它们在对抗选举假讯息的战役中，仍可扮演建设性的角色。
来源：自由时报