美国十几岁的女孩在学校里面临着一种深度假裸体的流行病

　　

　　

　　新泽西州韦斯特菲尔德:韦斯特菲尔德公立学校于3月下旬在当地的一所高中举行了一次定期董事会会议，这所高中是新泽西州韦斯特菲尔德的一座红砖建筑，外面有一块记分牌，自豪地欢迎游客来到“蓝魔之家”运动队。

　　但对多洛塔·玛尼来说，一切都不像往常了。

　　去年10月，韦斯特菲尔德高中(Westfield High School)的一些10年级女生——包括玛尼14岁的女儿弗朗西斯卡(Francesca)——向校方举报，她们班上的男生使用人工智能软件制作了她们的露骨色情照片，并在网上传播这些假照片。

　　五个月后，马尼夫妇和其他家庭表示，学区几乎没有采取任何措施公开解决篡改图像的问题，也没有更新学校政策，以阻止人工智能的剥削性使用。

　　“韦斯特菲尔德高中(Westfield High School)的行政部门和学区似乎在上一堂大师课，让这件事消失得无影无踪，”当地一家幼儿园的创始人玛尼(Mani)在会议上告诫董事会成员。

　　在一份声明中，该学区表示，在得知这一事件后，已“立即展开调查”，并立即通知警方并与警方协商，并为大二班提供了小组咨询。

　　韦斯特菲尔德公立学校的负责人雷蒙德González在声明中说:“所有学区都在努力应对人工智能和其他技术的挑战和影响，这些技术随时随地都可以让学生使用。”

　　去年，像ChatGPT这样的人工智能聊天机器人突然流行起来，让美国各地的学校措手不及，纷纷遏制这些生成文本的机器人，以防止学生作弊。现在，一个更令人担忧的人工智能图像生成现象正在撼动学校。

　　几个州的男孩使用广泛可用的“裸体化”应用程序，将他们穿着衣服的女同学参加学校毕业舞会等活动的真实、可识别的照片，歪曲成逼真、令人信服的照片，照片上的女孩裸露着人工智能生成的乳房和生殖器。根据学校和警方的报告，在某些情况下，男孩们在学校的餐厅、校车上或通过Snapchat和Instagram等平台上的群聊分享假照片。

　　这种被称为“深度伪造”或“深度裸照”的数字图像可能会带来毁灭性的后果。儿童性剥削专家表示，使用未经同意的人工智能生成的图像来骚扰、羞辱和欺凌年轻女性，可能会损害她们的心理健康、声誉和人身安全，并对她们的大学和职业前景构成风险。

　　上个月，美国联邦调查局(FBI)警告称，传播电脑生成的儿童性虐待材料是非法的，包括人工智能生成的可识别未成年人从事露骨性行为的逼真图像。

　　然而，学生在学校使用剥削性的人工智能应用程序是如此的新鲜，以至于一些地区似乎没有其他地区准备好解决这个问题。这可能会使学生的安全保障变得不稳定。

　　“这一现象来得非常突然，可能会让很多学区措手不足，不知道该怎么做，”斯坦福互联网观测站(Stanford Internet Observatory)的研究学者里亚娜·费弗科恩(Riana Pfefferkorn)说，她撰写了与电脑生成的儿童性虐待图像相关的法律问题。

　　根据伊萨夸警察局的一份报告，去年秋天，在西雅图附近的伊萨夸高中(Issaquah High School)，一名警探在调查家长们关于他们14岁和15岁女儿被人工智能生成的裸照的投诉时，问一名副校长，为什么学校没有向警方报告这一事件。

　　警方文件显示，学校官员随后问“她应该报告什么”，促使侦探告诉她，法律要求学校报告性侵犯，包括可能的儿童性虐待材料。警方报告称，学校随后向儿童保护服务中心报告了这一事件。(《纽约时报》通过公开记录请求获得了警方的报告。)

　　伊萨夸学区(Issaquah School District)在一份声明中表示，作为对深度造假调查的一部分，他们已经与学生、家属和警方进行了交谈。声明称，该学区也“感同身受”，并为受影响的学生提供了支持。

　　该声明补充说，该地区已经“出于谨慎考虑，向儿童保护服务中心报告了人工智能生成的虚假图像”，并指出“根据我们的法律团队，我们不需要向警方报告虚假图像”。

　　在加利福尼亚州比佛利山的比佛利维斯塔中学，管理人员在得知五名男孩制作并分享了人工智能生成的女同学的露骨照片后，于2月份联系了警方。据学区文件显示，两周后，学校董事会批准开除五名学生。(该学区表示，加州的教育法规禁止它确认被开除的学生是否是制作这些图片的学生。)

　　贝弗利山联合学区(Beverly Hills Unified School District)的负责人迈克尔·布雷吉(Michael Bregy)说，他和其他学校领导希望在全国树立一个先例，即学校不得允许学生制作和传播同龄人的色情图片。

　　“在学校里，这是极端的欺凌，”布雷吉说，她指出，这些露骨的图片对女孩和她们的家人来说是“令人不安和侵犯的”。“这是我们绝对不能容忍的事情。”

　　比佛利山庄(Beverly Hills)和韦斯特菲尔德(Westfield)等富裕小社区的学校是最早公开承认深度造假事件的学校之一。在学区与家长的沟通、学校董事会会议、立法听证会和法庭文件中描述了这些案例的细节，这些细节说明了学校反应的多样性。

　　韦斯特菲尔德事件始于去年夏天，当时一名男高中生要求在Instagram上加一名拥有私人账户的15岁女同学为好友，根据这名年轻女子及其家人对这名男孩及其父母提起的诉讼。(马尼斯夫妇表示，他们没有卷入这起诉讼。)

　　法庭文件显示，在她接受请求后，这名男学生从社交媒体账户上复制了她和其他几名女同学的照片。法庭文件称，随后，他使用一款人工智能应用制作了这些女孩的露点、“完全可识别”的照片，并通过Snapchat群与同学分享。

　　韦斯特菲尔德高中于10月下旬开始调查。弗朗西丝卡·玛尼(Francesca Mani)说，虽然管理人员悄悄地把一些男孩叫到一边询问，但他们把她和其他遭受深度伪造的10年级女生叫到学校办公室，通过校内对讲机宣布她们的名字。

　　那一周，韦斯特菲尔德高中(Westfield High)校长玛丽?阿斯芬迪斯(Mary Asfendis)给家长们发了一封电子邮件，提醒他们注意“导致广泛错误信息的情况”。这封电子邮件继续将深度造假描述为“非常严重的事件”。校方还表示，尽管学生们担心照片可能被分享，但校方相信“任何制作的照片都已被删除，不会被传播”。

　　多洛塔·马尼(Dorota Mani)说，韦斯特菲尔德的管理人员告诉她，该学区将这名被指控伪造照片的男学生停课一两天。

　　不久之后，她和女儿开始公开谈论这一事件，敦促学区、州议员和国会制定法律和政策，明确禁止露骨的深度造假。

　　“我们必须开始更新学校的政策，”现年15岁的弗朗西斯卡·马尼(Francesca Mani)在最近的一次采访中说。“因为如果学校有人工智能政策，那么像我这样的学生就会受到保护。”

　　去年秋天，包括多洛塔·马尼在内的家长也因露点照片向韦斯特菲尔德高中提出了骚扰投诉。然而，在3月份的会议上，玛尼告诉学校董事会成员，学校尚未向家长提供有关该事件的官方报告。

　　韦斯特菲尔德公立学校(Westfield Public Schools)表示，出于对学生保密的原因，它无法对任何纪律处分置评。校长González在一份声明中表示，该学区正在“通过教育学生和制定明确的指导方针来确保负责任地使用这些新技术”，从而加强努力。

　　比佛利山庄的学校在公开场合采取了更为坚定的立场。

　　今年2月，当管理人员得知贝弗利维斯塔中学的八年级男生制作了12岁和13岁女同学的露相照片时，他们迅速向所有学区的家长、员工和初高中学生发送了一条信息，主题是“人工智能的可怕滥用”。该信息敦促社区成员与学校分享信息，以帮助确保学生“立即停止”对人工智能的“令人不安和不当”使用。

　　它还警告说，该地区准备实施严厉的惩罚。“任何被发现制作、传播或拥有这种性质的人工智能生成图像的学生都将面临纪律处分，”包括建议开除，该消息说。

　　布雷吉表示，学校和立法者需要迅速采取行动，因为人工智能的滥用让学生在学校感到不安全。

　　“你在学校里经常听到人身安全的问题，”他说。“但你没有听到的是这种对学生个人和情感安全的侵犯。——《纽约时报

　　×