裸体AI图像:美国《撤下法案》将允许用户要求快速删除

自2025年12月底以来,X的人工智能聊天机器人Grok回应了许多用户要求为真人脱衣的请求,将这些人的照片转换为色情露骨内容。在人们开始使用该功能后,这家社交平台公司因允许用户生成未经同意的真人色情露骨描绘而面临全球审查。

Grok账号每小时发布数千张"裸体化"和性暗示图片。更令人不安的是,Grok生成了未成年人的性化图片和色情露骨内容。

X的回应:责怪平台用户,而非我们。该公司于2026年1月3日发表声明称,"任何使用或提示Grok制作非法内容的人将承受与上传非法内容相同的后果。"目前尚不清楚X是否对任何用户采取了行动。

作为研究法律与新兴技术交叉领域的法律学者,我认为这一大量未经同意的图像是X松懈的内容审核政策与强大的生成式AI工具可及性相结合的可预见结果。

针对用户

生成式AI的快速崛起导致出现了无数允许用户制作色情露骨内容的网站、应用程式和聊天机器人,包括对真实儿童图片的"裸体化"。但这些应用程式和网站的知名度或使用率都不如任何主要社交媒体平台,如X。

州立法机构和国会反应相当迅速。2025年5月,国会颁布了《撤下法案》,将发布未经同意的真人色情露骨内容列为刑事犯罪。《撤下法案》将未经同意发布可识别身份人士的"私密视觉描绘"以及AI或其他电脑生成的可识别身份人士的描绘均定为犯罪。

这些刑事条款仅适用于发布色情露骨内容的个人,而不适用于分发内容的平台,如社交媒体网站。

然而,《撤下法案》的其他条款要求平台建立流程,让被描绘的人士申请移除图像。一旦提交"撤下请求",平台必须在48小时内移除色情露骨描绘。但这些要求直到2026年5月19日才会生效。

平台问题

与此同时,用户要求撤下Grok制作的色情露骨图像的请求显然未获回应。即使是伊隆·马斯克其中一个孩子的母亲Ashley St. Clair也无法让X移除马斯克的粉丝使用Grok制作的她的虚假性化图片。《卫报》报导称,St. Clair表示她"向X员工的投诉石沉大海"。

这并不令我感到意外,因为马斯克在收购该平台后不久就解散了当时Twitter的信任与安全咨询小组,并解雇了80%负责信任与安全的公司工程师。信任与安全团队通常负责科技公司的内容审核和防止滥用的措施。

公开来看,马斯克似乎轻视了这一情况的严重性。据报导,马斯克在回应一些图片时发布了哭笑表情符号,而X对路透社记者的询问则自动回复"传统媒体谎言"。

诉讼的局限

像Adam Raine的父母提起的民事诉讼是追究平台责任的一种方式,这名青少年在2025年4月与OpenAI的ChatGPT互动后自杀。但鉴于《通讯规范法案》第230条的存在,诉讼在美国面临艰难挑战,该条款通常使社交媒体平台免于对用户在其平台上发布的内容承担法律责任。

然而,最高法院大法官克拉伦斯·托马斯和许多法律学者认为,法院对第230条的适用范围过于宽泛。我普遍同意第230条豁免权需要收窄,因为使科技公司及其平台对其刻意的设计选择——软件如何构建、软件如何运作以及软件产生什么——免责,超出了第230条保护的范围。

在这种情况下,X要么是故意或疏忽地未能在Grok中部署保护措施和控制,以防止用户生成可识别身份人士的色情露骨图像。即使马斯克和X认为用户应该能够使用Grok生成成年人的色情露骨图片,我认为X在任何情况下都不应逃避因构建生成真实儿童色情露骨内容的产品而应承担的责任。

监管护栏

如果人们无法通过民事诉讼追究X等平台的责任,那么就要由联邦政府来调查和监管它们。例如,联邦贸易委员会、司法部或国会可以调查X的Grok生成未经同意的色情露骨内容。但鉴于马斯克与唐纳德·特朗普总统重新建立的政治联系,我预计短期内不会有任何严肃的调查和问责。

目前,国际监管机构已对X和Grok展开调查。法国当局已开始调查Grok的"色情露骨深伪内容的泛滥",爱尔兰公民自由委员会和爱尔兰数位权利组织强烈敦促爱尔兰国家警察调查这场"大规模脱衣狂潮"。英国监管机构通讯办公室表示正在调查此事,据报导欧盟委员会、印度和马来西亚的监管机构也在调查X。

在美国,在《撤下法案》于5月生效之前,也许最好的行动方案是让人们要求民选官员采取行动。– Rappler.com

本文最初发表于The Conversation。

Wayne Unger,昆尼皮亚克大学法律副教授