已注销苹果和谷歌的应用商店目前仍然托管数十款利用AI技术“脱衣”的nudify应用。这些应用能够将普通照片瞬间变成带有性意味的深度伪造图像，而且往往未经当事人同意。因此，两大应用商店如今正面临外界对其规则执行力度的尖锐质疑。
据CNBC报道，非营利组织科技透明项目（Tech Transparency Project）在1月份的审查中发现，Google Play上有55款nudify应用，苹果App Store上有47款。在该组织和CNBC联系苹果公司后，苹果表示已移除其中28款应用，并对其他开发者发出警告。不过部分应用在开发者提交更新版本后又重新上架。
监督机构发现了什么
科技透明项目使用“nudify”“undress”等关键词在两大应用商店进行搜索，随后使用AI生成的着衣女性照片对这些应用进行实际测试。测试结果显示，许多应用能够直接移除衣服，或将真人面部替换到裸体图像上。
科技透明项目负责人Katie Paul对CNBC表示，这些工具绝非无害，她直言它们“明显是为非自愿性化他人而设计”。
这些应用主要分为两大类：
- 通过文字提示直接生成裸体或性化图像的AI生成器
- 将真人面部替换到裸体上的换脸应用
据AppMagic数据统计，这类应用的累计下载量超过7亿次，总收入高达1.17亿美元，而苹果和谷歌均从中抽取佣金。
这些应用让制造真实人物的假裸照变得异常简单，为网络虐待、敲诈勒索和在线骚扰打开了方便之门。
此前CNBC曾报道，明尼苏达州一群女性在社交媒体上的照片被用来制作性化深度伪造图像，受影响的女性超过80人。由于这些图像未被大规模传播，因此尚未构成犯罪。
如今新AI工具让整个过程变得极快极简：任何人只需上传一张照片，几秒钟就能得到伪造的裸体图像。
苹果与谷歌的回应
苹果公司表示，已移除报告中点名的多款应用，并对其他开发者发出警告。其中有两款被移除的应用在开发者修复问题后重新上架。
谷歌则表示已暂停部分应用，目前仍在审查其余应用，但未透露具体移除数量。
两家公司均强调重视用户安全，然而它们自己的平台规则明确禁止此类工具。
谷歌的政策禁止“声称可以脱衣或透视衣服”的应用。
苹果则禁止“明显色情或淫秽”的内容。
科技透明项目指出，两大商店在应对AI应用快速扩散方面明显力不从心。
全球与政治压力持续加码
该问题在埃隆·马斯克的Grok AI于X平台生成女性及儿童性化图像后进一步引发关注。欧盟委员会等多方监管机构已启动调查。Grok方面承认“防护措施存在疏漏”，并表示正在修复。
在美国，多位州检察长以及三位民主党参议员已联名要求苹果和谷歌采取行动。他们警告称，大规模制造假裸照的行为明显违反应用商店规则，并对用户造成严重伤害。
中国背景应用引发更大担忧
科技透明项目发现，47款苹果商店nudify应用中有14款来自中国开发者，这带来了额外的安全风险。
Katie Paul指出，中国法律赋予政府访问境内企业数据的权力，这意味着使用这些应用生成的假裸照有可能落入政府手中。
科技透明项目认为，这些应用的存在暴露了苹果和谷歌在应用商店治理上的系统性失守。正如Paul对CNBC所说，如果连自家规则都无法执行，“它们如何还能自称是值得信赖的应用平台？这引发了非常多疑问。”
现在，苹果和谷歌面临越来越大的压力，必须证明自己有能力在更多受害者出现之前真正遏制这些工具的传播。
全部评论0