人工智能"深度伪造"内容泛滥 Ins上惊现扎克伯格假视频

6月12日消息,据CNET报道,刚刚出现在图片分享网站Instagram上的视频显示,Facebook首席执行官马克·扎克伯格(Mark Zuckerberg)似乎正就大数据的力发表简短的演讲。

视频中的扎克伯格称:“试想一下:一个人完全控制着数十亿人被盗的数据,掌握着他们所有的秘密、生活和未来。这都要归咎于Spectre漏洞。它让我明白,谁控制了数据,谁就控制了未来。”

事实上,扎克伯格从未说过这些话。这段视频是通过“深度伪造”(Deepfake)技术制作的,它利用人工智能(AI)创建视频,并伪造目标没有说过的话,这突显出社交网络在监管受操纵内容方面面临的挑战。

扎克伯格的这段虚假视频也可能是对Facebook的一次考验,此前该公司拒绝删除美国众议院议长南希·佩洛西(Nancy Pelosi)的虚假视频。Facebook宣称,该公司不会删除假新闻,但会减少其在网站上的影响力,并显示来自事实核查人员的信息。

Instagram发言人称:“我们将像对待Instagram上所有错误信息一样对待这些内容。如果第三方事实核查人员将其标记为虚假视频,我们将从Instagram的推荐页面(如Explore和hashtag页面)过滤它。”

事实核查机构Lead Stories称这段视频为“艺术”,并在一篇帖子中表示,将这段视频打上讽刺的标签,这不会损害视频的传播。用户将看到警告标签,说明它不是真实的。

艺术家比尔·博斯特斯(Bill Poster)、丹尼尔·豪维(Daniel Howe)与Canny广告公司合作制作了这段视频。他们在Instagram上的帖子中称,这段视频是使用CannyAI的视频对话替代(VDR)技术创建的。

创作者们称,这段视频使用了扎克伯格2017年关于俄罗斯干预美国大选的视频片段。视频的右侧有哥伦比亚广播公司(CBS)标志,标签上写着“扎克伯格:我们正在提高广告透明度。”CBS发言人已经表示,该公司要求Facebook“撤下这一未经授权的假冒CBSN商标”。

Canny公司还曾与博斯特斯合作,制作了唐纳德·特朗普(Donald Trump)总统和金·卡戴珊(Kim Kardashian)等人的假视频。扎克伯格的虚假视频是四天前发布的,博斯特斯没有立即回复置评请求。

这已经不是有关扎克伯格的第一个虚假视频了。早在2018年,电影制作人安德鲁·欧雷克(Andrew Oleck)就曾在Facebook上发布了一段视频,视频中似乎是扎克伯格在说他要删除社交网络,这让许多用户误以为是真的。

与此同时,美国议员们对在2020年美国总统大选中使用深度造假技术感到担忧。美国众议院情报委员会计划于周四就被操纵媒体和“深度造假”问题举行听证会。(小小)