CQ9电子“深度造假”与监管竞赛！多国担忧AI扰乱“超级大选年”

　　CQ9电子【环球时报综合报道】“2024年的美国大选将会出现人工智能（AI）生成的虚假信息海啸。我们已看到这种情况，且情况将会变得更糟。”《今日美国报》当地时间19日在报道中引述布鲁金斯学会技术创新中心高级研究员达雷尔·韦斯特的话表达担忧。这样的担忧不仅出现在美国。包括美国、俄罗斯、印度、英国、墨西哥、欧盟等70多个国家和地区今年将举行重要选举，覆盖超过全球半数人口。在全球地缘政治冲突和经济放缓的影响下，这些选举竞争更加激烈，而AI生成的虚假信息（文本、声音、照片、视频等）被认为是这些选举面临的最主要威胁。日前，全球多家科技企业在慕尼黑安全会议上签署协议，承诺在今年多国举行的重要选举中监管和打击滥用AI的行为。但AI的快速发展，仍带来了相关立法和监管是否过慢的问题。有中国学者20日对《环球时报》记者表示，虽然各国政府和科技巨头都在努力应对AI对选举的潜在威胁，但由于技术、监管、利益以及全球地缘政治环境等多方面的因素，目前还难以完全解决AI对选举等政治和安全领域的负面影响，世界需要持续的努力和国际合作来应对这一挑战。

　　在不久前美国新罕布什尔州共和党初选的前两天，亨特利是接到拜登总统电话的数千名选民之一。这通电话建议选民不要给特朗普投票，而是把选票留到11月大选时投给。随后CQ9电子，美国政府澄清说，这是一则利用AI伪造拜登声音的电线日用这一事件开头报道了美国朝野对AI干扰选举的担忧。

　　报道称CQ9电子，在新罕布什尔州初选受到干扰后，美国联邦通信委员会把使用AI生成的声音进行呼叫定性为非法，但美国没有制定针对AI深度造假的联邦法律。报道引述布鲁金斯学会专家韦斯特的话称：“预计今年大选将是一场势均力敌的激烈竞争，只要能改变三四个州5万张选票就可能具有决定性作用。”非营利组织学者霍尔曼认为，AI就可能起到这样的作用，并可能“决定这场选举的结果”。

　　俄卫星通讯社称，在各国日益激烈的政治竞争中，AI已成为政党和政客寻求在沟通、战略和决策方面获得优势的强大工具。AI在选举中崭露头角，但它与政治的融合既带来希望，也带来陷阱。报道称，在巴基斯坦最近的选举中，支持已入狱的前总理伊姆兰·汗的候选人利用AI生成的视频和音频向支持者发表讲话，以吸引选票。巴政治观察家哈立德称：“利用AI进行深度造假在网络上的传播度迅速提升，可能引发错误信息的完美风暴。”

　　随着AI技术迅速进步，不少国家政党和政客在选举中利用AI为自己拉选票。美国有线电视新闻网（CNN）称，在日前结束的印尼大选期间，曾以铁腕统治印尼30多年的前总统苏哈托的一段讲话视频出现在网络上，吸引了许多选民的关注。不过，这段视频却是AI生成的假视频。发布该视频的印尼专业集团党副主席阿克萨称，此举是“为了让选民记住苏哈托为印尼作出的贡献”。该党在本次选举中支持当选总统普拉博沃，后者曾是苏哈托女婿。不过，此举引发了巨大争议。

　　报道称，网络在印尼政治中扮演着重要的角色，许多政客为了吸引粉丝都开始利用AI。许多候选人用AI聊天机器人来与选民互动。普拉博沃的竞选团队用AI制作了他的卡通形象，并取名“可爱”，吸引了众多青年的喜爱。据选后调查，普拉博沃在青年选民中以60%的得票率大幅领先。

　　“AI不应该成为选举武器。”德新社18日称，今年，世界有70多个国家或地区举行重要选举，覆盖40多亿人口，超过全球人口的一半。关于AI可能被用来误导选民和恶意歪曲选举的担忧在这个全球超级大选年急剧上升。包括微软、Meta、谷歌、亚马逊CQ9电子、X、OpenAI、TikTok在内的全球20家大型科技公司在慕尼黑安全会议上签署了一项协议，旨在降低AI干扰全球各地选举的风险。尽管这份协议展现出国际科技巨头在应对AI挑战时的合作，但总体上只是勾勒出一系列最基本的原则和承诺，包括开发出技术来为AI生成内容打上水印、侦测并贴上非现实内容标签，设法检测此类内容的在线传播情况，提高公众防范意识和媒体素养等，但协议并没有说明如何履行这些承诺。

　　对于科技巨头达成的新协议，慕尼黑安全会议主席霍伊斯根表示，该协议是促进选举公正性、增强社会复原力和创建值得信赖的技术实践的关键一步。谷歌全球事务总裁肯特·沃克称：“我们不能允许AI滥用威胁改善经济、创造新就业机会以及推动健康和科学进步的能力。”

　　一些国家则开始重拳出击。韩联社19日称，随着4月份国会选举临近，利用AI深度伪造的各种文本、图片和视频在网上日渐猖獗。对此，韩国国会去年12月通过了《公职人员选举法》修正案，禁止利用AI深度伪造方式针对选民进行非法竞选活动，违法者将被处以最高7年有期徒刑及最高5000万韩元的重罚。目前，韩国国家选举委员会针对此次国会选举成立了由72人组成的打击AI深度伪造专案组。

　　不过，美国政治新闻网称，AI技术已远远走在法律、监管和行业规范的前面。美国国会至今未通过任何联邦法律来规范AI在选举中的使用。美国两党政策中心选举项目高级副主任奥雷称，AI生成的内容一旦被创造出来CQ9电子，就会在网络上自由传播，非常难以监管。微软高级顾问巴丹尼斯称：“人们的期望值不要太高，现实是当我们发展辨别和限制AI信息的同时，AI深度伪造技术也在飞速发展，这永远是一场军备竞赛。”

　　“AI生成的错误和虚假信息是2024年全球最大风险。”美国CNBC称，不久前达沃斯世界经济论坛发表《2024年全球风险报告》，将AI生成的错误和虚假信息排在气候变化、战争和经济疲软之前，列为全球十大风险之首。该报告是对1400多名全球专家、政策制定者和行业领导者进行调查后撰写的。世界经济论坛执行董事扎希迪表示：“这些错误和虚假信息加速传播，将加剧以两极分化和不安全为特征的全球秩序和经济的不确定性，各国领导人必须齐心协力应对这些挑战。”

　　北京市社会科学院副研究员王鹏20日接受《环球时报》记者采访时表示，AI对多国选举的潜在影响包括信息真实性受损、选举公正性受威胁。在如今全球地缘政治危机频发、经济放缓的情况下，可能影响一国对外政策走向，对全球稳定也会产生影响。王鹏说，开发出能有效识别和过滤AI深度造假内容的算法并不容易，需要大量的研发和持续的技术更新。即使有了有效的技术，如何确保其在全球范围内得到广泛应用和有效执行也是一个挑战。这需要各国政府、科技公司、法律机构和其他利益相关方的紧密合作。国际合作在防范AI对人类安全产生负面影响方面至关重要。

　　AI发展虽然带来挑战，但未来对人类的帮助更大。2023年，以AI为基础的华为盘古气象大模型正式上线欧洲中期天气预报官网。世界银行估计CQ9电子，用AI改进天气预报和早期预警系统不仅每年可为世界带来超过1600亿美元的收益，还可挽救至少2.3万人的生命。此外，AI融入制造业和服务业，人类才能从繁重、重复性工作中解脱出来。

　　《韩国经济》称，虚假信息在任何时代都存在，关键在于如何应对。报道引述专家的话称，人类刚进入AI时代，虽然AI引发不少安全担忧，但无须患上“AI恐惧症”，毕竟人类发明AI的本质是为了帮助自己。如果人们无视AI能够自主学习的巨大前景，只关注其副作用，那么人类技术进步就变得不可能。“工业革命时期破坏机器运动这样的愚蠢行为不应该重演”。

　　【环球时报驻美国、加拿大、德国、韩国特约记者 萧达 陶短房 青木 林森 环球时报记者 丁雅栀 张蔚蓝 陈康 柳玉鹏】