在人工智能竞赛中，深度伪造色情可能是一个日益严重的问题

人工智能成像可用于创作艺术品，在虚拟试衣间试穿衣服或帮助设计广告活动。但专家们担心，这些容易获得的工具的阴暗面可能会恶化主要伤害女性的东西：未经同意的深度伪造色情。
深度伪造是使用人工智能或机器学习以数字方式创建或更改的视频和图像。几年前，使用该技术创建的色情片首次开始在互联网上传播，当时一位Reddit用户分享了将女名人的脸放在色情演员肩膀上的剪辑。
从那时起，deepfake 创作者传播了类似的视频和图像，针对在线影响者、记者和其他具有公众形象的人。数以千计的视频存在于众多网站上。有些公司为用户提供了创建自己图像的机会——基本上允许任何人在未经他们同意的情况下将他们想要的任何人变成性幻想，或者使用该技术伤害前伴侣。
专家说，随着制作复杂且视觉上引人注目的深度伪造变得更加容易，这个问题也越来越大。他们说，随着生成人工智能工具的开发，情况可能会变得更糟，这些工具经过互联网数十亿张图像的训练，并使用现有数据吐出新颖的内容。
“现实情况是，这项技术将继续扩散，将继续发展，并将继续变得像按下按钮一样简单，”EndTAB的创始人亚当·道奇（Adam Dodge）说，该组织提供技术滥用培训。“只要发生这种情况，人们无疑会......继续滥用该技术伤害他人，主要是通过在线性暴力，深度伪造色情和虚假裸体图像。
澳大利亚珀斯的诺埃尔·马丁（Noelle Martin）经历了这一现实。这位 28 岁的年轻人在 10 年前发现了自己的深度伪造色情片，有一天出于好奇，她使用谷歌搜索自己的图片。直到今天，马丁说她不知道是谁创造了假图像，或者她后来发现的视频。她怀疑有人可能拍了一张发布在她的社交媒体页面或其他地方的照片，并将其篡改成色情内容。
马丁吓坏了，多年来一直联系不同的网站，试图删除这些图像。有些人没有回应。其他人把它拿下来了，但她很快就又找到了。
“你赢不了，”马丁说。“这是永远存在的东西。就像永远毁了你一样。