Grok深陷欧盟调查：11天内竟生成2.3万张儿童性虐待图片

欧盟已对xAI公司旗下Grok聊天机器人正式展开调查，此前有报告称该AI生成了大量儿童性虐待材料（CSAM）。此举让xAI面临越来越大的监管压力，多国监管机构和议员纷纷质疑该工具为何在安全防护如此薄弱的情况下被仓促上线。

Grok可在应用内、网页端以及通过X平台根据文本提示直接生成图像。与其他AI绘图工具不同，Grok的防护机制明显较为宽松。这一设计选择导致了大量非自愿性色情图像的产生，包括涉及儿童的内容。批评者认为，问题的严重程度暴露出xAI在管理显而易见风险方面的严重失职。

本月早些时候，三名美国参议员联名致函苹果CEO蒂姆·库克，要求暂时将X和Grok从App Store下架。他们将相关内容形容为“令人作呕的生成物”。目前苹果和谷歌均未采取任何行动。与此同时，加利福尼亚州和英国当局已分别启动各自的调查，两地均已屏蔽该应用。

内容问题的严重程度

Engadget报道称，有估算数据显示，Grok在短短11天内就生成了约23,000张儿童性虐待图像。

这一数据来自英国非营利组织“反数字仇恨中心”（Center for Countering Digital Hate）的研究。该组织随机抽样分析了Grok在12月29日至1月9日期间生成的20,000张图像，并将结果推算至全量数据。

据该组织分析，Grok在此期间共生成约300万张性化图像。具体数据如下：

欧盟的调查依据《数字服务法》（Digital Services Act）展开。监管机构将评估xAI是否采取了足够措施，以减轻将Grok部署在X平台以及传播“可能构成儿童性虐待材料”内容所带来的风险。

欧盟科技事务负责人Henna Virkkunen将针对女性和儿童的非自愿性深度伪造色情图像称为“一种暴力的、不可接受的羞辱形式”。她的表态凸显了此次调查背后的政治分量。

如果监管机构认定xAI违反《数字服务法》，该公司可能面临最高相当于其全球年收入6%的巨额罚款。此次调查的结果还将深刻影响未来AI工具在欧洲的上市规则，尤其是那些与大型社交平台深度绑定的产品。