当地时间1月21日傍晚，住在新罕布什尔州的73岁的盖尔·亨特利（Gail Huntley）接到了一个奇怪的电话。
“真是一堆胡言乱语（What a bunch of malarkey）。”一个声音在电话中说道。亨特利一下子听出这是美国总统拜登的声音，这句也是他频繁使用的口头语。
随着这个声音持续讲话，亨特利也发现这是一个骗局。电话企图阻止她参加将于当地时间1月23日举行的新罕布什尔州初选，其中说道，“重要的是，你要把你的选票留到11月份的大选。”
在初选中投票与参与大选投票并不矛盾，亨特利意识到这通电话漏洞百出，毫无道理，但接到这样一个电话，也吓了她一跳。“最初我没有想到这居然不是他（拜登）真实的声音，这声音多么令人信服。”亨特利补充道，她感到非常震惊，像这样的人工智能生成的假消息正在美国传播。
根据新罕布什尔州总检察长办公室的说法，虽然电话中的声音听起来像是拜登，但根据初步迹象，这通电话似乎是人为生成的，该办公室正在调查这起“非法企图”压制选民的事件。
新罕布什尔州总检察长已展开调查
从当地时间1月21日晚开始，新罕布什尔州民主党前主席凯西·沙利文接到了许多选民的电话。
他们自称接到了拜登打来的电话，敦促自己待在家里，不要参与将要举行的新罕布什尔州初选。
据新华社报道，当地时间1月23日，美国2024年总统选举共和党初选转战东北部新罕布什尔州。同一天，新罕布什尔州还举行不受民主党全国委员会认可的民主党初选。该委员会此前将民主党首场初选安排在南卡罗来纳州，新罕布什尔州反对并坚持更早举行初选。为了遵守民主党全国委员会规则，正在竞选连任的拜登没有报名参加新罕布什尔州民主党初选。
电话里还专门提到了美国前总统特朗普的名字，其中说道，“周二（当地时间1月23日）的投票只会让共和党人再次选举特朗普，你们的投票要在11月份起作用，而不是这个星期二。”
沙利文对此十分疑惑不解，询问其中一个选民，“你接到拜登电话之后，是他把我的号码给了你吗？”
随后，沙利文将此情况上报给了执法部门。经调查发现，这通电话似乎是利用人工智能（AI）“深度伪造”的机器人电话，而来电显示上的号码是沙利文的私人手机号。
“这个电话未经我的允许就连接到了我的私人手机号码。”沙利文在一份声明中写道，这完全是对选举的干预，显然是在骚扰她和其他选民。
反机器人电话应用程序“Nomorobo”的追踪数据显示，76%的电话针对新罕布什尔州，12%针对波士顿，剩下12%覆盖其他地区，估计诈骗电话的数量在5000到25000之间。
目前尚不清楚电话主要针对的是哪类选民。美国全国广播公司（NBC）指出，选民的电话号码很容易从数据经纪人处买到。
收到消息后，美国白宫也马上辟谣，称这份电话不是由拜登本人所录。“总统已经明确表示，深度造假存在风险，新兴技术可能会加剧虚假图像和错误信息的传播。”白宫新闻秘书卡琳·让-皮埃尔说道。
相关调查正在进行中。新罕布什尔州总检察长约翰·福迈拉表示，正在对这通电话展开调查，这些信息似乎企图以非法手段扰乱该州初选，选民应该完全无视这一信息的内容。
眼下尚不确定这通电话的幕后主使是谁。正在挑战拜登党内总统候选人提名的明尼苏达州民主党籍众议员迪恩·菲利普斯的竞选团队表示，他们对此一无所知，同样对这类行为表示担忧，称任何打击选民的行为都是可耻的。
特朗普竞选团队的发言人也否认与这通电话有任何联系，“不是我们，我们与此事毫无关系。”
专家警告称2024年或成虚假选举信息之年
沙利文对这通电话感到十分恼火，称希望幕后主使受到最大限度的起诉，“我不会放手的，我想知道谁来为此付钱，谁知道这件事，以及谁能得到好处。”
拜登的竞选团队正在讨论应采取的应对措施。其竞选经理朱莉·查维兹·罗德里格斯（Julie Chavez Rodriguez）在声明中写道，散布虚假信息来压制投票，故意破坏选举是站不住脚的，这次竞选的首要任务是反击任何破坏民主的企图。
事实上，在约两周前，世界经济论坛发布的“全球风险报告”已经发出警告，称多国选举在即，由人工智能生成的错误信息和虚假信息是最大的风险之一，政治可能被虚假信息的传播扰乱，进而导致骚乱、罢工等问题。
人工智能深度造假早已层出不穷。据美联社报道，过去一年，从斯洛伐克到印度尼西亚，该技术已经被滥用在全球多次选举中传播错误信息，人工智能深度造假也已经出现在2024年美国总统选举的竞选广告之中。
“我们一直担心生成式人工智能（可以根据开放式提示创建文本、照片和视频）会在即将到来的选举中被武器化，我们现在看到的是它即将发生的迹象。”加州大学伯克利分校数字取证专家哈尼·法里德（Hany Farid）说道。法里德也审查了这份模仿拜登声音的电话录音，证实这只是一个质量较低的人工智能伪造品。
专家警告称，利用快速发展的生成式人工智能技术试图压制选民，这或将使2024年成为全球前所未有的选举虚假信息之年。
鉴于人工智能技术进步带来的风险，已有声音要求对其进行专门监管。据英国《卫报》报道，学者及政界人士担心，美国选民容易受到错误信息影响，人工智能可能会在选举期间制造混乱。
目前，美国非营利性组织“公共公民”（Public Citizen）递交请愿书，呼吁美国联邦选举委员会正式规范在竞选广告中使用人工智能。美国联邦选举委员会主席回应《华盛顿邮报》称，该机构正在制定人工智能规则，在请愿书提交后审查公众意见，但直到“初夏”才会解决这个问题。
“公共公民”组织指责美国联邦选举委员会在这个问题上行动迟缓，呼吁国会采取立法行动。“政治深度造假时刻已经到来。”“公共公民”组织主席罗伯特·韦斯曼（Robert Weissman）在当地时间1月22日举行的新闻发布会上说道，政策制定者必须赶紧采取保护措施，否则未来将面临选举混乱，新罕布什尔州的深度造假提醒我们，他们可以通过多种方式制造混乱，使欺诈永久化。
新京报记者 栾若曦
编辑 张磊 校对 刘越
