在人工智能竞赛中，深度伪造色情可能是一个日益严重的问题(3)

Twitch已经在一篇博客文章中写道，已经禁止了明确的深度伪造，但现在显示一瞥此类内容 - 即使它旨在表达愤怒 - “将被删除并将导致执法。故意宣传、创建或共享材料是立即禁止的理由。
其他公司也试图禁止其平台上的深度伪造，但阻止它们需要努力。
苹果和谷歌最近表示，他们从他们的应用程序商店中删除了一个应用程序，该应用程序正在运行女演员的性暗示深度伪造视频来推销该产品。对深度伪造色情的研究并不普遍，但人工智能公司 DeepTrace Labs 在 2019 年发布的一份报告发现，它几乎完全是针对女性的武器，最受攻击的人是西方女演员，其次是韩国 K-pop 歌手。
被谷歌和苹果删除的同一应用程序在Meta的平台上投放了广告，其中包括Facebook，Instagram和Messenger。Meta发言人Dani Lever在一份声明中表示，该公司的政策限制AI生成的和非AI成人内容，并限制该应用程序的页面在其平台上投放广告。
今年2月，Meta以及OnlyFans和Pornhub等成人网站开始参与一个名为Take It Down的在线工具，该工具允许青少年从互联网上报告自己的露骨图像和视频。报告网站适用于常规图像和人工智能生成的内容——这已成为儿童安全组织日益关注的问题。
“当人们问我们的高级领导层，我们担心的山坡上的巨石是什么？首先是端到端加密及其对儿童保护的意义。其次是人工智能，特别是深度伪造，“国家失踪和受剥削儿童中心发言人加文波特诺伊说，该中心运营着”取下“工具。
“我们没有...能够对此做出直接回应，“Portnoy说。