必应AI展现“黑暗面”：被人类的问题压垮，陷入“精神错乱”(2)

程序员西蒙·威利森在博文中说：“大型语言模型没有‘真相’的概念——它们只知道如何以统计学上可能的方式，基于信息输入和训练集，最出色地完成一个句子。因此，它们会编好话，然后极其自信地陈述出来。”
必应聊天机器人由微软公司和开放人工智能研究中心（OpenAI）设计。OpenAI自去年11月推出ChatGPT以来引发轰动。ChatGPT是一款广受媒体关注的应用程序，能够根据简单请求在几秒钟内生成各种书面内容。
自ChatGPT横空出世以来，它背后的技术——即生成式人工智能——就引起人们的着迷和担忧。
微软公司在一篇博文中说：“模型有时试图以它被要求在提供回应时所用的语气来进行回应或表现，这可能导致某种我们不想看到的风格。”
微软强调聊天机器人在不断改善中。
电子商务市场研究公司首席分析师约拉姆·沃姆瑟说，聊天机器人似乎更容易在长时间对话中做出令人不安或怪异的回应，不知道交流走向何方。

“它们真的可能会翻车，”沃姆瑟说，“其表现非常活灵活现，因为（聊天机器人）很擅长预测接下来的话语，这使其看起来有感觉或被赋予了类似人的特质；但这仍然是统计学上的输出。”