据美国福克斯新闻网、《国会山报》26日等多家美媒消息,流行天后泰勒·斯威夫特 (Taylor Swift)遭人恶意利用人工智能(AI)伪造的不雅照最近在网络疯传,引起粉丝不满,甚至惊动白宫,立刻下令敦促美国国会立法打击此类行为。
图自:Google
身为美国娱乐界的话题女王泰勒,平日里一直是媒体争相报道的焦点,像是前阵子变态跟踪狂三不五时就想闯进她家、不管被逮多少遍都不放弃,或是她的脸被拿来变造、做成让外人看了想入非非的煽情火辣照片等等。
近期网上到处流传所谓的“泰勒煽情火辣照”,只见她身上衣服稀少、动作暧昧,还摆出挑逗的表情,完全不像大家印象中健康、亲切的模样,死忠粉丝看了不禁在网络上联合呼吁:“大家一起保护泰勒!”据传她也相当生气,考虑采取法律途径来反制这些恶徒。
图自:CBC
《纽约时报》报导,社交媒体平台X在25日出现泰勒假的不雅照片,短短两天点击率冲到4700万次,尽管X关闭数个分享假不雅照的帐号,不过仍来不及阻止照片散布至其他社交媒体平台。
X公布声明表示:“团队正积极删除所有照片,并针对散布假不雅照的帐号采取适当行动,我们密切关注后续发展,保证立即解决违规行为,并删除相关内容。”
资安公司Reality Defender合伙创办人柯曼(Ben Colman)表示,泰勒假不雅照有九成是通过扩散模型(diffusion model)技术合成,属于一种AI技术,可以轻易捏造任何图片、影像、文本和录音。
华盛顿大学(University of Washington)计算机科学教授Oren Etzioni坦言:“未经当事人同意的各种情色图文,向来就是网络世界的污点,如今更成为更具毒性的新病毒。”并强调:“我们看到这些AI露骨图档如海啸般出现,因为有心人士视其为战绩。”
拜登政府白宫发言人Karine Jean-Pierre表示,“这件事令人担忧,我们将近一切所能处理此一问题。”
针对假不雅照事件,泰勒丝公关人员至今尚未发表任何意见。但她横跨全球的庞大粉丝自觉组成“网军”,在X平台和其他社交媒体网站齐力打击广被各方浏览的造假不雅照。她们打出“保护泰勒”等标签短语,成功淹没露骨造假内容。
由于AI工具兴起又廉价且易于使用,网络深度伪造的色情图片和影片空前兴盛。它们可以“一键脱掉”人们的衣服或将真实面孔替换为色情影片。不仅是泰勒,Scarlett Johansson、Emma Watson等名人也都深受其害。
图自:CBC
这样接连不断的事情完全暴露了美国法律处理报复性色情方面的明显漏洞,也让许多人再次呼吁联邦立法处理深度伪造(deepfakes)问题。
总部位于阿姆斯特丹的网络安全公司 DeepTrace Labs 2019 年的一项研究发现,96%的深度伪造在线视频内容都是未经同意的色情材料。它还发现,专门从事深度伪造色情内容的四大网站针对全球数百名女性名人的视频观看次数超过1.34 亿次。
在邻国加拿大,曾有温尼伯一所7至12年级法语浸入式学校女学生的假艳照在网上流传,警方于去年12月展开调查。今年早些时候,一名魁北克男子因使用人工智能制作七段深度伪造的儿童色情视频而被判入狱,据信这是加拿大法院首次做出此类判决。