AI深度造假技术升级扰乱欧洲多国选举

作者: 365bet登录   点击次数:    发布时间: 2025-11-02 09:10

图片：荷兰选民在10月29日的议会选举中投票。近期欧洲各国举行的选举中，都出现了利用人工智能开发的技术散布虚假消息、攻击特定候选人的例子。应对AI技术的影响，欧盟委员会制定的最新人工智能法将于2026年8月生效，其中有条款直接针对AI干扰选举活动。然而，分析人士认为，新规面临约束力不足和执行方面的挑战。 【大公报讯】政治选举中，能够“变声变脸”的深度宽恕技术常常被用来生成虚假信息，误导选民或攻击其他候选人。从去年罗马尼亚总统选举到最近的爱尔兰总统选举和荷兰议会选举，我们可以看到选举产生的图像和视频是如何产生的已经扰乱了它。例如，爱尔兰10月24日举行总统选举，10月21日晚，社交平台Facebook上流传的一段视频显示，独立候选人康诺利突然宣布退出竞选。该视频来自一个名为“RTE News AI”的 Facebook 账户，该账户指的是爱尔兰国家广播公司（RTE）。在视频中，AI的“康诺利”宣称：“我非常遗憾地宣布放弃竞选并结束我的竞选活动。” AI还让另外两位知名电视主持人“证实”了这一消息并展开讨论。该视频也在 YouTube 上疯传，随后被 Meta 和 Google 删除。幸运的是，康诺利获胜，当选为爱尔兰第十任总统。它不仅凸显了Deepfake技术的欺骗性，还揭示了在选举关键时刻可能造成和损害候选人声誉的巨大混乱。奥布莱恩，都柏林城市大学研究员versity 在谈到康诺利的深度造假视频时指出，“其质量远远高于本次选举中看到的任何深度造假内容。”他表示，该视频不仅涉及深度造假，还包含“浅层造假”技术，将真实的直播镜头与生成的图像交织在一起。此外，视频中所有名字的拼写都完全准确，这是AI深度造假技术过去经常表现出的缺陷。奥布莱恩警告说，视频质量表明人工智能 Deepfake 技术的威胁​​程度有所上升。聊天机器人吸引了 10 月 29 日举行议会选举的荷兰选民，但也未能幸免于人工智能技术的干扰。阿姆斯特丹大学和美因茨大学的研究发现，竞选期间社交媒体上约2万个与选举相关的帖子中，超过400个是由人工智能生成的，总共有120个帖子被追踪到与极右翼威尔德斯领导的自由党（PVV）相关的账户。两名自由派议员散发了一份Facebook 上创建的攻击绿党-工党联盟领导人蒂默曼斯的图片，其中蒂默曼斯被警察戴上手铐带走，而在另一张图片中，他的手放在一堆钱上。事件发生后，自由党领袖维尔德斯已公开道歉。阿姆斯特丹大学人工智能和社会学教授德弗里斯警告说，人工智能聊天机器人还可以通过询问选民的投票意见来影响选举结果。他表示，“聊天机器人充满了错误”，而且它们“宣传不同政党的立场，似乎对某个政治方向有拉动作用”。例如，对于左翼选民，聊天机器人倾向于向他们推荐绿党，而右翼选民则主要针对极右翼自由党。荷兰数据保护局在投票前警告选民，人工智能提供的答案将“深刻扰乱和极化政治格局”欧盟要求 pAI 平台对生成的内容进行标签。欧盟去年 3 月通过了《人工智能法案》，其中大部分内容包括《高风险 AI 系统分类指南》。该指南中有专门针对“旨在影响选举或公投结果的 AI 系统”的章节。这要求像 Chatgpt 和 Gemini 这样的 AI 模型遵守一系列义务。不过，人们普遍预计该提案不会包含任何具有约束力的法律条款。此外，《人工智能法案》还要求人工智能平台为人工智能生成的内容添加“注释”，但根据阿姆斯特丹大学的研究，大多数关于荷兰选举的人工智能生成的帖子都没有被标记，但其中大部分都是由平台自动添加的，而不是由政党主动披露的。2026年8月，有专家警告称，目前人工智能技术正在快速发展，时差可能导致该法案在生效之前就已经过时，可能无法有效应对最新的技术挑战。 （综合报告）