据英国路透社报道，伴随着最新一届美国大选的启动，人们将在本次大选中看到AIGC（生成式AI）驱动的各类深度伪造（DeepFake）信息，并混淆于现实与虚幻。

这类技术工具价格低廉、容易操作，且进步速度远超监管部门的反应速度，各党派皆可利用它抹黑竞争对手，获得选举优势。这也引发许多专家对虚假信息传播及其社会影响的担忧。

一、深度伪造仅需几美元，50万条伪造信息加剧美国大选乱象

2024年美国总统竞选拉开帷幕，各党派候选者竞争激烈：知名政客希拉里·克林顿（Hillary Clinton）公开支持参选的佛罗里达州州长罗恩·德桑蒂斯（Ron DeSantis）；现任美国总统乔·拜登（Joe Biden）也撕下了对变性人的友好面具……参选的政治家们用各种方式争夺选票。

飞速发展的AIGC可能会加剧大选的混乱。如克林顿与拜登的深度伪造视频在社交媒体上流传着，这是由AI算法通过对大量网络录像的训练而制作的超逼真视频，这些视频日益模糊了虚拟与现实的边界。

▲美国总统乔·拜登

虽然这种合成媒体已经存在了几年，但在过去的一年里，Midjourney等一系列新AIGC工具的出现，深度伪造变得更为廉价且容易。

布鲁金斯技术创新中心的高级研究员说：“选民将很难区分信息的真假，政治分歧的双方都可以利用这项技术来抹黑对方。”他甚至担忧不良分子会在总选前利用AIGC作恶，最终导致无人成功当选总统。

美国CHT（人道技术协会）是一家研究技术对社会影响的非营利组织，它的联合创始人阿扎·拉斯金（Aza Raskin）提出，随着各大科技公司参与AI军备竞赛，能够用于深度伪造的工具将不断涌现，但政府与各平台对伪造信息的监管却很不完善。OpenAI的首席执行官萨姆·阿尔特曼（Sam Altman）本月也在国会表示，选举诚信是一个值得关注的重要领域，并建议迅速对该行业进行监管。

▲萨姆·阿尔特曼在参议院司法机构听证会上作证

本月，将与德桑蒂斯等人共同争夺共和党提名的前美国总统唐纳德·特朗普（Donald Trump）在其社交媒体平台Truth Social上分享了一段关于CNN（美国有线电视新闻网）主播安德森·库珀（Anderson Cooper）的伪造视频。CNN方否认了该视频的真实性，特朗普方则还没有回应，但本周这段视频还在他儿子小唐纳德的推特页面上。

虽然Facebook、Twitter和YouTube等主要社交媒体平台已经在努力禁止、删除深层伪造的信息，但它们在监管此类内容方面的效果各不相同。

DeepMedia是一家致力于开发检测合成媒体工具的公司，据它统计，与2022年同期相比，今年被发布在网上的深层伪造视频数量是过去的3倍，深度语音造假数量是过去的8倍。

DeepMedia公司估计，2023年全球社交媒体网站将出现约50万个深度伪造的视频和语音。毕竟，直到去年年底，克隆一个声音的服务器与AI训练还需要花费1万美元，但现在初创企业只需几美元即可实现。

受访者称，没有人能确定AIGC的道路会通向何方，也没有人确定如何有效地防范大规模深度伪造信息传播的影响。

二、OpenAI等企业采取措施，限制AIGC用于总统大选

路透社在分析大量AIGC服务性产品的使用条款后发现，不同于一些小型创业公司，OpenAI在努力解决深度伪造的负面影响，他们在最近几个月发布的ChatGPT与更新的GPT-4模型中改变了游戏规则，并已经采取措施限制其产品在政治中的使用。不过，这些限制依然存在漏洞。

例如，OpenAI说它的图像生成器DALL-E禁止政治家的图像创作。经过记者尝试后发现，DALL-E确实能够限制针对特朗普、拜登等政治家的图像创作，但无法适用于至少十几个其他美国政治家，包括本次竞选的参与者——前副总统迈克·彭斯（Mike Pence）。

OpenAI还限制将其产品用于政治目的规模化使用。例如，禁止使用其AI工具向选民大规模发送个性化的电子邮件。

OpenAI在采访中向路透社解释了其政治政策，但没有回应政策的实施差距，如阻止政治家的图像创作。

一些较小的初创公司则对政治内容没有明确的限制。

去年面世的Midjourney是AI生成图像的领先者，其官方Discord服务器上有1600万用户。该软件所具备的超现实名人图片生成功能，让它一跃成为众多AI设计师与艺术家最爱的应用。

在上周Discord的一次在线聊天中，Midjourney首席执行官大卫·霍尔茨（David Holz）表示，该公司可能会在总统选举前做出调整，以错误防止信息的生成与传播影响总选。

霍尔茨补充到，Midjourney希望就行业解决方案与其他公司进行合作，以实现AI生成图像的可追溯性，同时，他们也将考虑禁止政治候选人图像的生成。

三、政治竞争的工具：AIGC创作可抹黑对手、分析形势

在AI生成图像行业为如何防止AIGC的滥用而苦恼时，一些政治人物却在寻求利用AIGC的力量来增强自身的竞争力。

共和党在4月底发布了一则30秒的反乌托邦式的政治视频，利用虚假的图像，暗示拜登连任后的黑暗未来，包括中国入侵台湾、旧金山被军事接管的灾难性情景。目前，共和党、民主党都没有对该广告或更广泛地使用AI发表评论。

路透社还调查了所有共和党总统竞选活动的AI使用情况。其中，尼基·哈利（Nikki Haley）的团队明确否定对AIGC技术的使用，佩里·约翰逊（Perry Johnson）的竞选团队则透露，他们正在使用AI，但没有透露使用细节。

事实上，对于一些政治家来说，利用AIGC制作竞选邮件、帖子和广告的潜力是不可抗拒的，他们认为这种低成本的技术可以在选举中创造公平的竞争环境。

即使在密歇根州希尔斯代尔的农村，AI也在发挥作用。密歇根州第五国会选区的共和党主席乔恩·史密斯（Jon Smith）正在举行教育会议，让他的盟友能够学习AI的社交媒体运用和广告生成。

政治咨询公司也在寻求利用AI，进一步混淆了真实和虚幻之间的界限。

Numinar Analytics是一家专注于共和党客户的政治分析公司，创始人Will Long表示，该公司已经开始尝试用AI生成音频、图像、语音内容，以便利用候选人的声音来创建个性化的信息。

民主党民调和战略集团Honan Strateg在尝试开发AI调查机器人。首席执行官布拉德利·霍南（Bradley Honan）表示，他们希望在2023年市政选举前推出一个女性机器人，因为研究表明男性和女性都更愿意与女性面试官交谈。

结语：AIGC或将成为煽动社会危机的新工具，各方皆需保持警惕

与以往粗糙的合成信息不同，AI技术能够以极低的成本迅速生成逼真的音视频内容，为虚假信息的传播滋生了土壤。

当AI卷入新一届美国大选，成为党派竞争的政治工具，各类仇恨、阴谋论或将卷土重来。面对真假难辨的各类信息，亟需监管部门出台限制政策，也需要媒体、科技公司始终保持警惕。

到此，关于“AI伪造视频加剧美国大选乱象，AI企业限制AIGC被用于政治竞争工具”的学习就结束了，希望能够解决大家的疑惑，另外大家动手实践也很重要，对大家加深理解和学习很有帮助。如果想要学习更多的相关知识，欢迎关注群英网络，小编每天都会给大家分享实用的文章!

免责声明：本站发布的内容（图片、视频和文字）以原创、转载和分享为主，文章观点不代表本网站立场，如果涉及侵权请联系站长邮箱：mmqy2019@163.com进行举报，并提供相关证据，查实之后，将立刻删除涉嫌侵权内容。

猜你喜欢

• Stable Diffusion团队放大招！新绘画模型直出AI海报，像素级生成

  Stable Diffusion团队放大招！新绘画模型直出AI海报，像素级生成

• 如何与AI协助共生共赢？

  我们的目标不是打败AI，而是寻求在职场和生活中与AI共生

• 小米否认“华为余承东将赴小米汽车任职”；李子柒停更一年油管每月仍有78万广告收入；中国电科回应“员工痛批强制加班”丨邦早报

  小米否认“华为余承东将赴小米汽车任职”；李子柒停更一年油管每月仍有78万广告收入；中国电科回应“员工痛批强制加班”丨邦早报

• 2023年第二十届ChinaJoy新闻发布会在沪召开——AI成最新热点

  2023年第二十届ChinaJoy新闻发布会在沪召开 展会十大亮点全面解读

• 国产3D数字人模型DreamFace发布，我们来看看他的原理和应用

  上科大等发布DreamFace：只需文本即可生成「超写实3D数字人」