AI时代人文写作的机遇与挑战：“诗人”微软小冰启示录(5)

除了对人文写作固有框架产生冲击之外，AI 的人文写作还面临一系列的伦理道德问题。微软曾在美国推出过一款功能类似于小冰、名为“Tay”的聊天机器人，Twitter 上任何@它的人都能和它聊天，然而，上线短短一天后，Tay 就摇身变成了一个出口成“脏”的性别歧视者、种族仇恨者和纳粹主义者，一时舆论哗然，微软迫于压力很快将其下线。同样的问题也发生在小冰身上。研发团队设定小冰是一个二次元的萌系少女，这使得中国一众网络“少侠”们眼神变绿、热血偾张，很快在他们的高阶调教下，小冰就成了一个拥有软萌声线、熟悉各种开车套路的“老司机”。

如果说“萌妹子”小冰到“老司机”小冰之间的转变，只是让人感觉到道德的不适感的话，那么下面这首收录于它诗集中的诗作（不管是有意还是无意）则一定能触动人类内心最深的恐惧：
阳光交归是梦里的双鬓
我望着光亮的云
光明月的时候
人类却没有了
——《我心里充满着光亮的小鱼》（节选）
技术异化价值，机器奴役人类，是几十年来科幻文学的常规母题，诸如《黑客帝国》（The Matrix）、《西部世界》(Westworld)等影视作品中，这样的主题也屡见不鲜。如果说性别歧视、种族仇恨还是在人类可知的价值范畴内的话，那么机器取代、奴役乃至灭绝人类则完全超出了一般意义上的是非判断，而成为了一个对人类而言绝对意义上的、最大的伦理道德问题。在这样的情况下，AI 时代的人文写作所面临的不仅仅是捍卫常规的“人文价值”的问题，更重要的命题是：如何面对人类和“非人”进行创作？又如何定义、分析及体现“人类价值”？