在人工智能竞赛中，深度伪造色情可能是一个日益严重的问题(2)

她说，她说得越多，问题就越升级。有些人甚至告诉她，她的穿着和在社交媒体上发布图片的方式导致了骚扰——基本上是将图片归咎于她而不是创作者。
最终，马丁将注意力转向立法，倡导澳大利亚制定一项国家法律，如果公司不遵守在线安全监管机构对此类内容的删除通知，将对他们处以555，000澳元（370，706美元）的罚款。
但是，当各国对有时在半个地球之外制作的内容有自己的法律时，治理互联网几乎是不可能的。马丁目前是西澳大利亚大学的律师和法律研究员，她说她认为这个问题必须通过某种全球解决方案来控制。
与此同时，一些人工智能模型表示，他们已经在限制对露骨图像的访问。
OpenAI表示，它从用于训练图像生成工具DALL-E的数据中删除了露骨内容，这限制了用户创建这些类型图像的能力。该公司还过滤请求，并表示阻止用户创建名人和著名政治家的AI图像。另一种模式Midjourney阻止使用某些关键字，并鼓励用户将有问题的图像标记给版主。
与此同时，初创公司Stability AI在11月推出了一项更新，删除了使用其图像生成器Stable Diffusion创建显式图像的功能。这些变化是在有报道称一些用户正在使用该技术创建受名人启发的裸体图片之后发生的。
Stability AI发言人Motez Bishara表示，该过滤器使用关键字和图像识别等其他技术的组合来检测裸体并返回模糊的图像。但是用户有可能操纵软件并生成他们想要的东西，因为该公司向公众发布了其代码。Bishara表示，Stability AI的许可证“扩展到基于稳定扩散的第三方应用程序”，并严格禁止“任何用于非法或不道德目的的滥用”。
一些社交媒体公司也一直在收紧规则，以更好地保护他们的平台免受有害材料的侵害。
TikTok上个月表示，所有显示逼真场景的深度伪造或操纵内容都必须被标记，以表明它们是假的或以某种方式被篡改的，并且不再允许私人人物和年轻人的深度伪造。此前，该公司禁止色情内容和深度伪造，误导观众了解现实世界的事件并造成伤害。
游戏平台 Twitch 最近还更新了其关于露骨深度伪造图像的政策，此前一位名叫 Atrioc 的流行主播被发现在 1 月下旬的一次直播中在他的浏览器上打开了一个 deepfake 色情网站。该网站以其他Twitch主播的虚假图像为特色。