AI 裸体应用程序引发对苹果和谷歌利润的法律审查

旧金山市检察官不再争论应用程序商店的托管内容,而是关注他们如何从人工智能裸体应用程序中赚钱。

来源:Malwarebytes Labs 博客

您期望 Apple 的 App Store 和 Google 的 Play Store 上有各种应用程序,从天气监视器到家庭自动化应用程序和游戏。您可能没想到的是,应用程序可以从普通照片创建未经同意的裸体图像。但它们确实存在,旧金山市已经受够了。

2026 年 7 月 17 日,旧金山市检察官 David Chiu 向苹果和谷歌发出了停止令,点名了 13 个换脸和“裸体”应用程序(8 个在 App Store 上,5 个在 Google Play 上),并给这些公司 28 天的时间删除它们并切断与开发者的关系。

这些字母并不是凭空出现的。

这是关于支付系统,而不是内容审核

Chiu 并不认为托管应用程序会自动让平台对其所做的事情负责。平台运营商已经凭借《通信规范法案》第 230 条赢得了这场战斗。这项已有 30 年历史的法律规定,网站通常不对用户发布的内容负责,允许平台托管用户生成的内容,而不会在每次有人在评论中诽谤某人时被起诉。

法院经常将这些保护范围也扩展到应用程序商店。苹果和谷歌被视为第三方开发者上传的内容的分发者,而不是发布者。

Chiu 试图通过关注公司的支付系统来回避这一争论,并指出苹果和谷歌会从每次应用内购买中收取一定的分成。根据技术透明度项目 (TTP) 的说法,这意味着他们可以从通过创建未经同意的亲密图像来创收的应用程序中获利。

他不缺证据。 1 月份,TTP 统计 App Store 上有 55 个裸体应用程序,Google Play 上有 47 个。在四月份的后续行动中,研究人员故意使用“nudify”和“deepnude”等搜索词。他们在 Apple App Store 上发现了 46 个应用程序,在 Google Play 上发现了 49 个应用程序。大约 40% 的商店搜索结果允许用户“脱掉”女性的衣服,几乎三分之一的商店被评为适合未成年人。