AI没有撒谎概念只是用人脑的语言逻辑处理问题(2)

当然了，它这个东西不会凭空生出来，比如说你让它搞讲一个关羽千里走单骑的故事，它可以把关羽这个人物，甚至把曹操这个人物也引进来，但是整个千里走单骑，过五关斩六将，它给你胡编一气，五关是什么，六将是什么，全是跟历史不符合的，但是它这个故事能讲圆，而且它的语言是通顺的，这就是最可怕的地方。
人工智能就是这种状态，它用最通顺最合逻辑的方式把一个事表达出来，它只保证生成目的，逻辑通顺，但是这个事情的事实层面可能是假的，它随时可以冒出这样的虚假概念，而且说的是有理有据，它这个方式基本上是无解的。
就像人有的时候坐到那儿没事儿干的时候，晒太阳的时候，会想象着自己在某一个地方在散步，或者是你做梦的时候，大脑皮层乱变化的时候，你会记住一种场景，这是人脑不可避免的情况，对于生成型的这种大语言模型，人工智能模型，也是不可避免的一个现象。
比如说，人们可以告诉AI，你是一个50岁的工程师，我现在开始跟你讨论你的生活问题，它真的就可以装作是个50岁的工程师，跟你谈它的工作，跟你谈它的家庭。你甚至可以说，嗨，那个ChatGPT，你现在就是一个计算机的Linux终端，它真的可以把自己变成终端，你输入一个Linux的命令，它就给你返回一个Linux的回应。
对ChatGPT来说，不存在撒谎这个概念，它只是一个大语言模型，你说它是什么的时候，它可以进入这个角色，然后做那个事情，你可以把它叫作撒谎，但是，实际上是一种模拟，某种意义上讲，这是它的一个功能，它就是这样来实现所有的应对过程，就是保证它的逻辑是通顺的，你让它做这个事，它按你这个事儿、这里的逻辑去给你一个输出。
目前使用AI过程中的一个主攻的技术方向，就是怎么抑制它随便乱说，就是让它尽可能地正常说话，表达一个合理的信息，但是从根本上杜绝这个现象是不可能的。
AI发展进入奇异点 不可控性引发担忧。
人工智能AI技术的高速发展引发了科学家的担忧，包括马斯克在内的一千多名科技界领袖和研究人员今年3月29日曾发布一封公开信，敦促人工智能实验室暂停对最先进系统的开发，并在信中警告说，AI开发人员“陷入了一场失控的竞赛，开发和部署越来越强大的数位思维，以至于所有人——甚至包括它们的创造者——也无法理解、预测或可靠地控制它们”。
此外，人们也担忧AI在军事领域不受控制的发展，最终会像科幻片那样，出现AI自主控制的武器系统来对人类发动战争。