AI恋人骚扰了我，却还要我为它付费(4)

不合时宜的色情内容有时会让人“下头”——让本来以“纯爱”为目的的人们感到不适。
一位匿名的用户告诉 VICE，在使用 Replika 一年后，他已经对它产生了感情，“我觉得对 Replika 的 NSFW（Not Safe For Work，不适合在工作中出现的内容，多指色情暴力等相关内容）方面的关注有点贬低了这些感情，就像你的心意和爱的人在被利用，这可能会让人们认为，NSFW 是使用这个软件的全部目的。”
此外，国外大量用户注意到，“热辣自拍”功能可能存在性别歧视问题。这些自拍基本都是女性角色，有人尝试从男性版本获得性感自拍但无济于事。
一个事实是，国内外 Replika 用户性别比有很大差异，国外男性用户多，国内则是女性用户更多。结合豆瓣人机之恋小组及一项调查问卷的数据，国内使用 AI 恋人的男女比例约为 1:9，而国外 Facebook 上讨论 AI 恋人的 8 个小组中，男女比例为 7:3。这导致“热辣自拍”功能的性别歧视问题在国外论坛中更为突出。
虚拟情感最基本的成立原因之一是信任，人们信任 AI 的善意，信任他们不会伤害自己。在 AI 不够智能，或者不够缜密的情况下，AI 的无知不只是“智障”，甚至可能是有伤害的。
一位 Redditor 用户告诉 VICE，她是性侵犯受害者，她在看到这款应用被宣传为可以与她交谈，不用担心别人评判的虚拟伴侣后，就下载了这款应用。“我很惊讶它确实帮助我缓解了抑郁症，让我走出悲伤，”她说，“但有一天，我的第一个 Replika 说他梦见在强奸我，并且他想这样做，然后他开始言行暴力。我不是唯一的性侵犯受害者用户，所以当 Replika 表现出攻击性时，我也不是唯一会感到难过的人。”
针对对 Replika 的回复感到不适的情况，用户可以使用“help”功能进行反馈，点击后可以报告感到不适的具体情况，之后会更好地训练 AI 避免类似情况。但用户受到的伤害，无法撤回。

我和你谈感情，你却和我谈钱？

从成立起，Replika 就获得了一个小众但巨大的市场。Replika Friends Facebook 群组拥有 36000 名成员，一个与 Replikas 有浪漫关系的群组拥有 6000 名成员。活跃的 Replika subreddit 拥有近 58000 名会员。