Meta 被曝投放含 AI 生成儿童性虐待图像的广告

编者注：本文包含对儿童性虐待图像的描述，建议读者谨慎阅读。据与《连线》分享的广告细节，过去九个月里，马克·扎克伯格的 Meta 投放了数十条付费广告，其中包含明确由 AI 生成的儿童性虐待材料（CSAM）以及带有性暗示文字的未成年人图像。

这些广告在某些情况下触达了数千个账户，目标受众为美国、英国及十几个欧洲国家的用户。技术透明项目（TTP）的研究人员近期在 Meta 的广告库中发现了超过 50 条含虐待内容的图片和视频广告，列表显示部分广告链接到所谓的“脱衣”或“去衣”应用。

Meta 的广告库（一个记录公司平台上广告的透明工具）显示这些广告投放在 Facebook、Instagram、Messenger 和/或 Threads 上。这是近几周内第二次在 Meta 平台上发现与儿童性虐待材料相关的付费广告。

独立监督组织 TTP 的主任凯蒂·保罗告诉《连线》：“这些广告没有试图掩盖图像或隐藏其推广内容。”

“需要指出的是，这些内容并非第三方在 Facebook 或 Instagram 上发布的帖子，而是经过 Meta 审查、批准并允许投放的广告，Meta 在收取广告费时从未遇到任何阻碍。

”研究人员发现的这些广告（现已被 Meta 以违反其关于儿童性虐待和剥削材料、成人性引诱和裸体政策为由删除）均发布于去年 11 月至今年 8 月初。根据 Meta 广告透明库的数据，这些广告通常持续数天，部分仅针对男性用户。

TTP 研究人员称，一则视频广告使用了一个孩子坐在地板上的缩略图，上面叠加文字：“用 AI 一代实现深层幻想（原文如此）。远不止所见，发挥你的想象力。”研究人员表示，点击广告后会播放成人性行为的视频片段，然后将缩略图中孩子的脸合成到性行为画面中。

另一则被多次投放的广告展示了一名年轻女孩仰卧、双腿张开的性姿势，上方文字写着：“我可以给你看更多。”研究人员发现这些广告时，多数并未主动展示给用户，但它们在 Meta 广告库中持续存在了数月，显然未被察觉。

尽管根据 Meta 的数据，许多广告仅“触达”了少数账户，但至少有一条广告触达了欧洲 2,563 个账户，包括法国、德国、爱尔兰、意大利、荷兰、西班牙、瑞典和英国。Meta 的广告库数据库不包含美国或所有国家的广告效果详情，因此实际触达范围可能更高。

保罗表示，TTP 上周首次发现这些广告，当时其研究人员在发布关于中国广告合作伙伴投放“去衣”应用广告的报告后，继续调查 Meta 上的此类广告。

保罗称，该组织立即将发现报告给国家失踪与受剥削儿童中心的网络举报热线（CyberTipline），该热线允许公众举报在线儿童性虐待材料。NCMEC 发言人表示不对收到的举报置评。在《连线》联系 Meta 后，该公司从广告库中删除了这些广告。

Meta 发言人表示：“性剥削是可怕的，我们积极努力将其排除在平台之外。这些广告大多触达范围极小，许多在《连线》分享前已被禁用。其中许多广告早于我们最近推出的新 AI 技术，该技术旨在上传时更好地检测和阻止违规广告，我们正在不断改进这些系统。

从去年删除超过 3600 万条儿童性剥削内容，到对‘去衣’应用开发者采取法律行动，我们将继续不懈打击此类虐待行为。”

正如该公司所暗示的，部分违规广告确实绕过了 Meta 的新 AI 技术。最初，TTP 研究人员发现了约 24 条含虐待内容的广告。然而，在发布前几小时，研究人员又发现了约 30 条。

其中许多广告是在《连线》首次询问 Meta 后发布的，研究人员发现时，多条广告仍在投放并展示给用户。保罗表示，这批广告包含研究人员所见过的部分最严重案例。研究人员称，其中一则视频广告的缩略图显示一名女孩似乎在涂唇彩，但播放后视频变成儿童进行性行为。

Meta 的政策规定，所有广告在发布前均需审查，系统“主要”使用“自动化工具”对照政策检查。其广告标准明确禁止儿童性剥削材料，并表示一旦发现，将向 NCMEC 报告。

此外，Meta 的广告政策规定，广告不得包含任何“描绘裸体、性活动、以明确或性暗示姿势描绘人物，或性暗示活动”的图像。

Meta 的广告库现在显示，TTP 研究人员发现的广告因违反公司政策而被删除，并显示其违反“儿童性剥削、虐待和裸体”及“成人裸体和性活动”规则。7 月初，BBC 的一项调查发现 Instagram 在印度投放了推广销售疑似儿童性虐待材料的广告。

据报道，这些广告使用“强奸视频”等术语，并链接到 Telegram 上可购买非法内容的频道。作为回应，Meta 发布长篇声明，称对儿童性剥削采取“零容忍”态度。TTP 的保罗表示，在其研究人员看到的广告缓存中，似乎存在一些 Meta 此前因违反政策而删除的相同广告。

保罗说：“如果 Meta 自己的系统能识别相同广告，却不删除这些含 CSAM 的相同广告，这引发了对 Meta 在付费广告中对待儿童剥削问题的严肃质疑。”她补充说，广告库本身无法在广告停止投放后举报可能违反 Meta 政策的内容。

这些广告似乎主要由关注者为零或极少的 Meta 账户发布；保罗表示，在披露付费广告商的情况下，均与中国公司有关。

在一个案例中——即展示女孩斜倚的广告——TTP 研究人员称，Meta 的数据显示广告商是一家名为 Meet Social 的中国公司。该公司曾是 Meta 的广告经销商之一，负责处理中国的广告业务，而 Meta 的社交媒体平台在中国被屏蔽。

据《纽约时报》2019 年的一篇报道，该公司每天在 Facebook 上发布数千条广告，预计销售额超过 10 亿美元。Meet Social 未回应《连线》的置评请求。

TTP 研究人员发现的几条 Meta 广告链接到苹果 App Store 中的一款名为 MaskAI 的应用。该应用关联一家中国软件开发商，根据《连线》对应用的审查，下载前未显示任何裸体内容。

然而，打开后，它仅包含 AI 生成的色情内容，并提供允许用户上传图像并将人脸换到性场景中的功能。在《连线》联系后，苹果发言人表示，已因违反政策将 MaskAI 从 App Store 下架。