南方站长网 – 互联网爱好者创业的站长之家
您的位置:首页 >微商 >

Deepfake可能并没有推翻2020年美国大选 但他们的日子快到了

时间:2021-02-02 17:43:46 | 来源:

许多人预计,深层虚假视频将在2020年选举中发挥主导作用,在选举前夕,外国干预和虚假信息宣传活动的规模可能会越来越大。但是,如果在本轮周期的竞选策略中出乎意料,那就是这些AI生成的视频只扮演了一个非常次要的角色,只不过是一个客串(至少到目前为止)。

由于生成对抗网络领域的巨大飞跃,Deepfake视频如今更具说服力。这些是生成的视频,经过篡改可以改变现实,显示事件或描绘从未发生的讲话。由于人们倾向于对所见所闻给予实质性的信任,因此深造货构成了非常真实的危险。

自从几年前该技术首次浮出水面以来,人们一直担心有关伪造品影响选举的担忧,但是在2020年美国大选或全球选举中,伪造品的事例很少。一个例子是一个深深的假象,显示前副总统乔·拜登伸出舌头,总统转推了此消息。比利时总理在另一个在线视频中露面,称COVID-19大流行与“人类对我们自然环境的开发和破坏”有关。除非她没有说这句话,否则真是太深了。

这些都是例外。到目前为止,政治上的伪造品大多是讽刺性的,被理解为伪造的。有些甚至被用作公共服务运动的一部分,以表达拯救民主的重要性。

(以上视频是由一家使用Deepfake技术的广告代理商为代表非营利组织和无党派反腐败和善治组织的presentUS制作的。)

没有更多的出于政治动机的恶意假货旨在煽动压迫,分裂和暴力,这是一个推测的问题。原因之一可能是某些社交媒体平台禁止在经过操纵或伪造并以真实身份传播的媒体上发布禁令。话虽如此,很难发现一种制作精良的Deepfake,而且并非全部都能被检测到。许多公司正在开发AI工具来识别这些深层造假,但尚未建立万无一失的方法。最近讨论的一种检测工具通过分析由人的心跳引起的肤色的细微差别,声称具有90%的准确性。

同时,那些制作深造的人可以从已发布的检测工作中学习,并继续提高其能力以创建更逼真的视频。越来越多的高级工具可以创建伪造品。例如,旨在改善视频会议的最新发展可用于创建更逼真的深层伪造并避免检测。

我们可能还没有看到更多针对选举的假货,这是因为传统的伪造手段通过选择性编辑看来效果很好。找到一个真实的视频片段,例如,显示候选人表示将提高税收并不难。从原始剪辑的较大上下文中删除那些声音片段,然后将其重新用于推动议程是一种政治说服的普遍做法,即使这样做是不道德的。

这也可能是更大的能量是进入能产生更直接的商业利益,如创建项目的裸体图像基于来自社会化媒体拍摄的照片的女性。

有些人认为的上攻至deepfakes,取得了积极的用途最终减少与技术相关的耻辱。即使基本技术相同,有时也将这些积极用途称为“伪造品”,而不是“合成视频”。已经有综合性企业培训视频。有些人声称,合成视频可用于通过重现历史事件和人物,使历史人物重现生命,从而创建一个更具吸引力和互动性的教室来增强教育水平。还有一些有趣的用途,例如将Elon Musk的图像变成僵尸。

Deepfake仍然是一个问题吗?

截至今年6月,已在网上检测到近50,000次深度虚假,在一年中增长了330%以上。危险是真实的。伪造的视频可能虚假地描绘了一个无辜的人参加犯罪活动,虚假地展示了士兵实施暴行,或展示了世界领导人宣告对另一个国家开战,这可能会引发非常真实的军事反应。

前美国网络司令官Maj.-Gen在最近的Cyber​​tech虚拟会议上发表讲话。(ret。)Brett Williams说:“人工智能是真实的东西。攻击者已在使用它。当他们学习如何做深造时,我会认为这潜在地是一个生存威胁。”

这意味着那些将Deepfake用作在线攻击的一部分的人尚未掌握该技术,或者至少还没有掌握如何避免任何会导致犯罪者回头的面包屑。也许,这也是最令人信服的原因-缺乏成熟的技术以及担心会发现其来源-我们在当前的政治运动中没有看到更严重的假冒伪劣。

一个最近的一份报告,从该中心安全与新兴技术相呼应,这一观察。该报告的主要发现包括:“诸如避免归因的需求,训练机器学习模型所需的时间以及数据的可用性等因素,将限制复杂的参与者在实践中如何使用量身定制的深造品。”该报告得出结论,由技术精湛的参与者制作的量身定制的伪造品将在未来构成更大的威胁。

即使深造假在这次选举中没有发挥重要作用,但影响选举,颠覆民主并可能导致军事接触只是时间问题。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如有侵权行为,请第一时间联系我们修改或删除,多谢。