近几周,韩国人震惊地发现,大量年轻女性和女孩儿,包括未成年幼女的不雅照片在社群媒体上曝光,而这些照片被用来做成性剥削图片或电影片段。难道“N号房”再现?不。其实,这次女性不雅照片传播的始俑者是“深伪技术”与其操纵者。尽管如此,这次事件带来的恶劣影响不亚于“N号房”丑闻。
1. “感谢各位,为我结束了这无法自拔的恶魔人生。”——这句话出自于N号房运营者赵主杉。
赵主杉于2020年被捕。移送检方时,他说出这句令他感到解脱的话。他当场感谢结束其恶魔人生的民众。
恶魔受到了惩戒,但留下罪恶的种子。当这个勒索团伙成员被尽数缉拿时,警察在社群媒体的黑暗角落里,发现了别的东西,即一些经过粗略加工的色情图片,上面贴着别人的面孔。这些就是深度伪造色情内容的最早尝试。当时的国会不知道如何处理它们,最后只颁布一项措辞模糊的法令,禁止其制作、传播。就这样,一个利用人工智能犯罪的浪潮未被阻止,“潘多拉的魔盒”躲藏起来,等待肆虐人间的时机。
深度伪造(Deepfake)是什么?简单,利用AⅠ技术造出逼真的虚假内容,通常伪造人的脸、声音。
深伪技术伪造的不雅照,就是硬把你的脸贴到别人脸上,而那人的身体照片是露点的。近年来,有些AⅠ研发者醉心于追求真实度,无意中“帮助”了某些别有用心的人。后者将先进的科技成果用来换人脸、脱衣服。 人工智能本可以轻松、快速且廉价地生产深度伪造的视听材料,用于更有益的方面。不幸的是,深度伪造技术最常见的应用却是色情内容。
同此前的“N号房”事件一样,此次深度伪造图像的传播平台依然是“电报”(Telegram),该平台可以提供端到端加密消息传递,极为私密,难以察觉。其次,“电报”还提供了“阅后即焚”、“群主设置不能复制转发截图”等功能,使得“电报”上的一个个群组成为了封闭式空间。且涉及的相关交易通过虚拟货币进行,这样一来,非法交易不会受到监管。
2.韩国大量普通女性受害 。
实际上,受深度伪造困扰的女性并不只在韩国。斯嘉丽·约翰逊、艾玛·沃特森,以及小天后泰勒·斯威夫特等欧美女明星都被AI换过脸。但是,为什么韩国女性更受深度伪造的伤害?究其原因,是该国的“厌女文化”。
对韩国女性来说,这些深度伪造是韩国根深蒂固的厌女文化在网上的最新表现。这种文化让年轻男性道德素质低下,让他们觉得网传色情图片很有趣。韩国人对新技术过于热情了,竟然置道德上限于不顾。
“韩国社会不把女性当同胞。”女大学生李宥真称:“我在读的大学是数百所学生成为受害者的中学、高中和大学之一。”她还质问:“政府为什么没有在窃用朋友照片,用其来进行性羞辱成为一种数字文化之前,采取更多行动?”
厌女文化不是天生就有,而是在韩国整个社会的“熏陶”下产生的。 在韩国,长期存在性别歧视。在经合组织(OECD)国家中,韩国女性受教育程度最高,但劳动参与率却最低。韩国的性别工资差距在35个经合组织成员国中位列第一,差距为31.2%。国家机构的立法者中只有不到五分之一是女性。女性在上市公司董事会成员中仅占5.2%,相比之下,美国的这一比例为28%。
韩国女性在学习开车期间常会遭遇歧视问题。例如,当女性想要拿到一类驾照时,她们会被劝说改换二类驾照。即便顺利拿到驾照,女性也不容易获得处理交通事故、汽车保险、汽车修理等方面的信息。
韩国社会中存在的“厌女症”一直没有得到有效解决。“如今,有大量十几岁和二十几岁的年轻男性在物化和疏远女性,而非建立平等自然的两性关系。正是这样的环境让“N号房”和深度伪造性犯罪事件得以出现。”