猴子,人类,GPT(8)

2023-05-01 来源:飞速影视
有一个思想实验,叫做“无限猴子定理”(infinite monkey theorem) ,说的是让一只猴子坐在打字机前,它什么也不懂,手在键盘上乱敲,问题是它需要花多久时间才能从打字机上敲出一本莎士比亚的《哈姆雷特》出来呢?从概率讲没问题,假设猴子每秒钟敲一下键,那么它可以敲出一本哈姆雷特需要的时间大约比宇宙诞生到现在的时间还要多上万个数量级,即10的1万次方。意思是通过字母的随机组合,组合出有意义的话,是极小概率事件。
Yi:2017年Transformer那篇论文的发表,以及GPT从1到3的迭代,没有让业界看到一个缩短猴子敲键盘时间的方法吗?
刘嘉:Transformer出来之后,也有很多人在用了,但大家只认为它是解决这个问题的百花齐放中的一朵花,不是唯一的一条道路,还有其他很多各种各样的模型。而且,Transformer出来之后,大家并没有想清楚到底要用它做什么样的东西,有的是预测天气,有的作画,比如Alphafold去测蛋白质。从科技史上来讲,一个东西发明出来后,很少有人能意识到它的真正价值。
Yi:知道“Transformer很厉害”和知道“解决了语言问题就能解决思维问题”的是不是两个圈子的人,交集很小?
刘嘉:还挺多的,比如我和我的很多同事,但是大家野心不够大。比如AlphaFold出来,一下把结构生物学整个领域给消灭了,大家觉得这个已经超出我们的想象了,太革命了。没想到有人想法比这还要疯狂,直接就想把整个人类的思维给浮现出来。所以很多时候,知道一种技术的人很多,但拥有想象力和抱负的人少。
Yi:怎么解释这种现象,比如是否因为没有金钱上的安全感?中国技术界似乎很不擅长这种范式变迁级的创新?
刘嘉:ChatGPT出来之后,大家公认它是马尔库塞所说的范式转移。很多人,包含我在内,都很局限于微创新,不敢有比较“疯狂”的想法。中国的学术界、产业界里,“疯狂”的人比较少。
Yi:是科研体系压力吗?需要考虑职称、晋升、短期需要出成果?
刘嘉:美国其实也是这套体系,他们发表文章的压力也挺大。所以可能有影响,但不是根本原因。包括我在内,我们缺少一种理想主义。高中生的理想就是考上北大和清华,如果你的理想是改变整个人类的命运,大家就会嘲笑你。你不敢有野心,换句话说,环境让你觉得不配有。
没有宏大理想与现在是不是要担心明天有没有饭吃、会不会被解雇,两者之间没有直接关系。中国已经有很多人一定程度上不用担心自己的衣食住行,比如说我现在肯定不用担心我被清华Fire掉,也不担心吃了上顿没下顿。但是为什么这些人也没有远大理想?
相关影视
合作伙伴
本站仅为学习交流之用,所有视频和图片均来自互联网收集而来,版权归原创者所有,本网站只提供web页面服务,并不提供资源存储,也不参与录制、上传
若本站收录的节目无意侵犯了贵司版权,请发邮件(我们会在3个工作日内删除侵权内容,谢谢。)

www.fs94.org-飞速影视 粤ICP备74369512号