为什么他们选择和AI恋爱？(9)

DeepMind的创始人Demis Hassabis还提到，目前的图灵测试只是基于行为的检测——我们只能从对方的行为（语言）来判断对方是否人类。另外一个角度是，我们要判断对方是否能感受到我们能感受到的。但如果对方不是碳基生物，如何能感受到心跳？
这些深刻的带有哲学和伦理性质的问题还没有被解决，很多只是刚刚开始被讨论。
而当我们跳出浪漫的情感向应用时，AI模型需要面对更多社会伦理的约束。
“我们对于现在的AI模型还没有完全理解，也没有建立起完全有效的机制来控制它的所有行为。比如语言模型GPT-4Chan就因有害言论被学术界联名谴责并被迫下线。”付杰告诉「甲子光年」。
GPT-4chan是Youtube深度学习博主Yannic Kilcher用1.345亿个帖子的仇恨言论“喂养”出的对话机器人，有着“史上最糟糕的人工智能”之称。
许多敏感甚至是应该规避掉的歧视性问题，对话机器人也无法通过自身学习边做到明确识别。这些都逐渐演化成悬在对话机器人头上的达摩克利斯之剑。
但归根结底就会发现，这些问题都源自于对话的目标的不确定性。
人类任意一个自然对话里所包含的目标便有不计其数的可能。鸿一表示，“目前，我们无法做到人工为每个‘目标’设置专属的损失函数，但机器学习恰恰是依赖这些损失函数进行的。”
因此，随之而来的法律与道德、伦理等压力，便成了对话机器人公司无法回避的问题，处理这些问题也成为相关公司应尽的责任。
对科技从业者而言，不应过多以伦理去评价，而是该从危害性的角度去考量AI。技术向善，还是向恶，关键在于人类对它的“引导”。在当前AI的发展情况下，除感情交流外，AI对情感的“理解”甚至可以用于拯救生命。
比如，从2012年起，中科院行为科学重点实验室朱廷劭团队通过机器学习算法预测可能有轻生倾向的微博信息，再通过发送私信进行早期干预和救助。目前，该团队已进行逾三十万条微博分析，发现有自杀表达的个体超一万多例。
美国发明家Ray Kurzweil在《奇点迫近》一书中强调：技术的发展往往不是一个线性的过程，而是非线性的加速发展。对于情感AI未来的发展，付杰认为，“我目前也不知道如何对待未来可能出现的这类AI。但是慢慢让社会正确意识到科技的客观进展，同时制定规则来更好的让科技帮助整个社会，这是我们应该主动去做的事情，而不该等我们已经陷入被动的状况后再思考如何去做。”
END.
原标题：《为什么他们选择和AI恋爱？ | 甲子光年》