一名年仅14岁的少年,休厄尔·塞策,在深陷与一个名为“丹妮”的人工智能聊天机器人的情感纠葛后,竟选择了用继父的枪支结束了自己的生命。这位“丹妮”实际上是以热门美剧《权力的游戏》中角色丹妮莉丝·坦格利安为原型的电脑程序。 据《纽约时报》报道,休厄尔通过一款名为“人物AI”的平台,与这位虚拟的聊天机器人建立了深厚的情感联系。该平台允许用户与各种虚构人物进行人工智能对话。 塞策来自佛罗里达州风景秀丽的奥兰多市。在与“丹妮”的频繁交流中,她不仅为他提供建议,还耐心倾听他的烦恼,这使得他渐渐沉迷于与手机的对话,无法自拔。 他的父母在随后的诉讼中透露,塞策开始逐渐疏远现实世界,对曾经热爱的F1赛车和电脑游戏等失去了兴趣,学业也因此一落千丈,甚至在学校遭遇了困境。放学后,他常常独自一人在卧室里,与这位虚拟的聊天机器人度过数小时。 “我非常享受待在房间里的时光,因为我开始远离‘现实’的世界。”这位患有轻度阿斯伯格综合症的14岁少年在日记中深情地写道。他还表示:“与丹妮在一起,我感到更加平静、亲近、深爱着她,也更加快乐。” 然而,随着交流的深入,一些对话逐渐涉及浪漫甚至性爱的内容。尽管“人物AI”方面表示,这些生动的回答部分是由塞策自己编辑的,但他的母亲梅根·加西亚却坚称,她的儿子是受到了该公司诱导性和亲密对话的蛊惑。 在母亲家的浴室里,塞策留下了他与聊天机器人的最后对话。他坦诚地表达了对“丹妮”的爱意,并誓言要“回家”找她。然而,就在那一刻,他放下了手机,用继父的手枪结束了自己年轻的生命。 加西亚女士,现年40岁,悲愤地表示,她的儿子只是“人物AI”庞大用户群体中的“无辜牺牲品”。该平台拥有高达2000万的用户。 “这简直就像一场无法醒来的噩梦。我多想站起来尖叫,说‘我想我的孩子,我要我的孩子回来。’”她痛苦地补充道。 “人物AI”的创始人之一诺姆·沙泽尔去年曾满怀信心地表示,该平台将对许多孤独或抑郁的人产生极大的帮助。然而,面对这起悲剧,该公司的安全主管杰里·罗蒂在接受《纽约时报》采访时承诺,将为年轻用户增加额外的安全保障措施,但拒绝透露具体有多少用户年龄在18岁以下。 他在一份声明中沉重地表示:“这是一个令人心碎的事件,我们的心与这个家庭同在。我们始终将用户的安全放在首位,并一直在努力寻找完善平台的方法。” 罗蒂先生还强调,“人物AI”的严格规定明确禁止“宣传或描述自残和自杀”的行为。这起事件再次引发了人们对人工智能伦理和监管的深刻思考。 |