你会爱上一个机器人吗？(6)

电影《机械姬》海报
“这些可以操控情绪的机器人很快就能比人类更好地解读自己的情绪，”印第安纳大学认知科学家弗里茨·布莱瑟普特（Fritz Breithaupt）这样解释道，“它们可以利用人类情绪的弱点。机器人绝不是中立的。”
允许机器人引诱我们信赖它并爱上它，真的是一个好主意吗？或许我们应该限制这些机器的使用，这样它们就不会诱使我们放弃生命，甚至放弃人性了。

图源：Unsplash
而当机器人开始拥有自己的想法，事情又会如何发展呢？我们可能会认为它们永远是卑微的仆从，但当我们把它们制造得越来越像真正的生命时，它们做出独立决定的能力也会越来越强。当有一天机器人与人类的目标产生偏差，如果它们在程序上早已被设定为可以牺牲人类利益来追求它们自己的目标，那么即便一个相当原始的机器人也可能和我们对着干。
想象这样一个场景，一个已经完全独立的机器人让我们爱上了它，开始向我们索取，因为害怕失去它，人类很可能会真的执行机器人的要求。这对人类来讲将是一个悲剧。
作为当今社会的一员，是时候开始认真思考后果并寻找建立安全措施的方法了。否则，可能在无意中我们已经成了机器人情人的仆从，而不是相反。
本文摘编自《原动力》中信出版集团2021年9月出版

定价：88.00 元
书号：ISBN 978-7-5217-3240-5
作者：史蒂文·霍夫曼（Steven S. Hoffman）