从ChatGPT看人工智能会是人类的终结者吗？(2)

此杀人事件发生于2020年3月份的利比亚，机型为Kargu-2型四旋翼无人机。此无人机为土耳其STM公司生产的AI加持的智慧机型。该机配有火工品（炸药），可自主判断目标并展开自杀式攻击，而被攻击的目标为利比亚“国民军”的一名士兵。
控制这架无人机的还只是基于人脸识别的基本型人工智能，如果安装更高级的AI，会怎样？最近大火的ChatGPT，就是一款基于GPT-3模型的人工智能生成内容技术，通过与它的聊天，我毫不怀疑人工智能会在不远的将来通过图灵测试。这个ChatGPT，可以代替学生的思考，替写作业等，以至于美国60%的学校将其封杀。

弱化人类的思维能力，从娃娃抓起，这是一条抄底人类未来的精神阉割毒计。当我们的大脑不在高强度的思维和运算后，会不会变的弱化甚至退化？而随着GPT模型的升级，在AI环境下成长起来的新一代人类，会不会丧失系统性的知识体系？作为人类文明进步的主要力量，拥有人类更高学历的那群人会不会由于系统性知识的缺失而丧失创造性？毕竟，在“奶头乐”下成长起来的高学历人才，真正属于他自己的知识体系是残缺不全的。

虽然目前基于GPT-3模型的ChatGPT还只是对人类现有知识体系的整合，还无法跳出已有的或已完成的事件的桎梏。因为它的底层逻辑是基于深度强化学习现有人类知识体系完成的，但是我们不能保证它在学习到足够多的知识后，由于某个逻辑错乱产生不可预估的后果，甚至产生颠覆性的变革——人工智能自我意识的觉醒。
这并非危言耸听，以至于推出ChatGPT的OpenAI日前公开警示，需要有安全监管机构介入，以防止ChatGPT生成的AI系统对社会产生潜在负面影响。截止到在2022年12月底，全球已有多款由ChatGPT编写的恶意软件运行在互联网中，包括多款由ChatGPT产生的含有网络钓鱼即服务 （PhaaS） 和勒索软件即服务（RaaS）的软件。