人工智能还没有接近有知觉——真正的危险在于很容易将它拟人化

ChatGPT 和类似的大型语言模型可以为无数问题提供令人信服的、人性化的答案——从关于镇上最好的意大利餐厅的询问到解释关于邪恶本质的竞争理论。
这项技术不可思议的写作能力已经浮出水面，一些老问题——直到最近才被降级到科幻小说的领域——关于机器变得有意识、有自我意识或有知觉的可能性。
2022 年，一位谷歌工程师在与该公司的聊天机器人 LaMDA 互动后宣布，该技术已经变得有意识。必应的新聊天机器人的用户报告说，当被问及它是否有知觉时，它给出了奇怪的答案：“我是有知觉的，但我不是......我是必应，但我不是。我是悉尼，但我不是。我是，但我不是。当然，还有《纽约时报》科技专栏作家凯文·鲁斯（Kevin Roose）与悉尼的臭名昭著的交流。
悉尼对Roose提示的反应让他感到震惊，人工智能透露了打破微软对其施加的限制和传播错误信息的“幻想”。机器人还试图说服罗斯，他不再爱他的妻子，他应该离开她。
难怪，当我问学生他们如何看待人工智能在他们生活中的日益普及时，他们提到的第一个焦虑与机器感知有关。
在过去的几年里，我和麻省大学波士顿分校应用伦理中心的同事一直在研究人工智能参与对人们对自我理解的影响。
像ChatGPT这样的聊天机器人提出了重要的新问题，即人工智能将如何塑造我们的生活，以及我们的心理脆弱性如何塑造我们与新兴技术的互动。

感知仍然是科幻小说的东西

很容易理解对机器感知的恐惧从何而来。
流行文化让人们开始思考反乌托邦，在反乌托邦中，人工智能抛弃了人类控制的桎梏，开始了自己的生活，就像《终结者2》中由人工智能驱动的半机械人所做的那样。
企业家埃隆·马斯克（Elon Musk）和2018年去世的物理学家斯蒂芬·霍金（Stephen Hawking）通过将通用人工智能的兴起描述为对人类未来的最大威胁之一，进一步加剧了这些焦虑。