美国加州比佛利维斯塔中学,有5名国中生以“深伪”方式制造出16名同学裸照。(图撷自Google街景)
美国加州比佛利山联合学区,有5名8年级的国中生以“深伪(deepfake)”方式制造出16名同学裸照,学区6日投票决定将涉案5人全数退学。
据《NBC》报导,本案发生在比佛利维斯塔中学(Beverly Vista Middle School),校长布雷吉(Michael
Bregy)透露,受害的16名学生也都是8年级的,此事涉及使用人工智慧的道德层面,小孩虽然仍在学习和成长当中,但承担责任也非常重要。
学区决议退学后,涉案学生和家长没有提出异议,其身分并未公开。事实上,在比佛利中学事件发生之前,全球各地就已经有一系列未成年学生遭“深伪”的假裸照案。
随著人工智慧技术的持续发展,相关案件数量呈现爆发式增长,专门设计用来让受害者“脱衣”和“交换”脸孔的色情程式不断出现,制造虚假图像比以往任何时候都更快、更方便,并且很容易在社交媒体上流传。