人工智能威胁破坏选举稳定——少数族裔选民成为虚假图像的目标

by · Published · Updated

旧金山/洛杉矶（7月12日）  – 据专家、官员和观察人士称，人工智能正在加剧选举制度的威胁，因为使用人工智能和传播合成内容变得越来越容易，这些内容可能会煽动虚假信息并迷惑选民。据新闻报道，过去需要工作室预算和制作团队才能制作的内容，现在只需点击几下鼠标就可以制作出来。结果是，选民每天都在试图驾驭选举格局，很难判断图片、帖子和视频的真实性——比如最近广为流传的黑人选民支持特朗普总统的假人工智能图像。

2024年7月12日上午少数族裔媒体服务中心（Ethnic Media Services)邀请专家与少数族裔媒体代表举行简报会（“AI Threatens to Destabilize Elections – Ethnic Voters Targeted with Fake Images”），本次简报会听取专家对人工智能推动的种族歧视信息传播的兴起进行监测的意见，并报告在 2024 年大选前推动新的立法控制的努力。特别令人担忧的是，人工智能不仅会影响总统选举，还会影响地方选举。

Jonathan Mehta Stein, Executive Director of California Common Cause, a nonprofit watchdog agency

加州共同事业组织运行董事Jonathan Mehta Stein表示，AI有很多积极正面影响，比如预测犯罪发生地点、研究风能的利用和发展趋势、城市建设的发展趋势等。但与此同时，AI也可能带来许多问题，影响整个国家和社会，Jonathan Stein在演讲中展示了最近出现的一些使用人工智能的虚假图像和视频，其中一些来自俄罗斯的社交网络帐户。例如：

  • 五角大楼起火的假图片，被俄罗斯媒体用来传播“美国受到攻击”的假新闻！
  • 前总统特朗普与福奇博士合影。州长罗恩·德桑蒂斯 (Ron Desantis) 的支持者在代表共和党参加 2024 年总统选举的竞选中使用了虚假图像，以让共和党选民相信特朗普在新冠肺炎大流行 -19 期间“与福奇博士太接近”。 ！

他表示，像上述这样的虚假信息不仅针对的是总统选举，还包括市议员、州代表等地方选举……在国际上，最近印度的大选也被社交网络上的虚假信息所主导。

Jonathan Stein认为，随着总统大选接近，大量AI图片和视频会参杂在选举信息中，难辨真假，比如利用AI轻易移花接木制作各种图片和视频为候选人助选，或用选举人声音制作录音和广告，攻击对方阵营候选人等。地方选举也存在风险，比如一张AI合成、带着手铐的市议员假照片，就可能让候选人失去很多选民，很难发现这些深度造假的图片。

Jonathan Stein表示，并非所有社交网站都具备查处和删除假新闻的功能。 Facebook有足够的资源来做这件事，但主要仅依靠“关键词”检测方法来消除假新闻，因此准确率不高。有很多发布的信息是真实的，但仍然被取消资格。杜绝假新闻的责任属于所有热爱真相的网民。如果您看到可疑的图像或视频，应在将其转发给他人之前检查其真实性。对于记者来说，职业道德对于防止假新闻的制造和传播非常重要。

  • Jinxia Niu, program manager for Chinese Digital Engagement, Chinese for Affirmative Action

牛金霞 (Jinxia Niu Jinxia) 是华人平权行动组织 (CAA) 的项目经理，负责管理多个微信账户，并检查和确认中文网站皮药吧上的假新闻。微信是全球用户最多的中国手机应用程序。目前该社交网络上正在传播虚假信息，给美国华人社区带来虚假信息。由于人工智能，虚假图像和视频变得越来越复杂和更快。

牛金霞表示，在过去12个月中，他们从各种媒体和社群平台搜集到的AI虚假信息多达600条，有些是中文网红创造，有些则是在英文平台传播。AI虚假信息被揭穿后，很多英文媒体撤销了这些文本，但少数族裔媒体很少做后续的撤销处理。

极右政治团体经常在微信上传播假新闻。牛金霞展示了两张假的支持特朗普的团体图片：一张是特朗普和黑人支持者的照片；一张是特朗普和黑人支持者的照片；一张是特朗普和黑人支持者的照片；一张是特朗普和黑人支持者的照片。第二个是圣洁的特朗普选民的形象与丑陋、势利的拜登支持者的形象形成鲜明对比。传播假新闻的目的是为了获得华人社区的选票，而华人社区通常关注中文社交媒体网络。其他少数民族社区也是如此，包括越南社区。

她表示，抑制AI虚假信息的传播最大的挑战是，即便发现这些虚假信息图片和视频，也很难追踪其源头；其次是少数族裔社区对AI作假的认识很少，尤其是英语不好的年长者，对AI虚假信息的免疫力几乎为零，这也是AI诈骗在华人和亚裔年长者人群中屡屡得手的原因之一。

牛金霞表示，少数民族社区往往成为社交网络上散布假新闻的群体的目标。中国平权行动组织等组织的事实核查作用对于教育社区非常重要。

  • Brandon Silverman, former CEO and Co-Founder of CrowdTangle (now owned by Meta)

CrowdTangle的共同创办人和前首席执行官Brandon Silverman在演讲中表示，极右翼政治团体故意在社交网络上尽可能传播假新闻，以便网民没有足够的时间来核实这一切。

Brandon认为，AI的影响不分族裔。一些人认为有些信息误导民众，但是这些信息并未在法律和规则上构成错误，比如有些人说月亮是由奶酪做的，这种说法就很难让监控平台去对它采取什么惩罚，很多言论有灰色地带。他认为，一些人用AI生成的图片和视频也可能是觉得新鲜和好玩，并不代表他们有意传递虚假信息。

他还同意前两位发言人的观点，即每个美国人如果意识到谎言对民主的有害影响，就会成为有效打击假新闻的前线。如果您看到可疑的图像或新闻，请在传播之前进行验证。最好的验证方法就是去Google，从更可靠的来源查找类似的新闻。请注意，Youtube、Facebook、X、Instagram 等社交网络上的新闻并不像长期存在的媒体机构那样可靠。

他认为，全世界发展AI势不可挡，AI可能很快改变所有行业，也改变生活的方方面面，关键是要怎么去管理它，要避免民众对AI信息传播的误解，政府应该尽快立法，包括AI生成的文本、图片、视频等等，都应该立法要求制作者做出声明，告知民众。