谷歌两AI部门合并……人工智能大战愈演愈烈(5)
2023-04-28 来源:飞速影视
在芯片短缺且成本高昂的情况下,微软选择自研芯片的确不失为一条出路。而实际上,谷歌早在2016年就发布了第一代TPU芯片,相比GPU方案,功耗和成本都大幅降低。
前述工程师告诉记者,谷歌的模型都是用TPU训练的,相对于英伟达的GPU来讲,优势在于芯片级别的互联性特别高。“一个TPU的Porte,相当于是内部互联程度互通程度非常高的一个集群,里面是有几千个芯片的,并能提供非常快的计算能力。英伟达的GPU目前还不可以,但是他们其实也在往这个方向发展。”他说道。
此外,鉴于当前用电连接芯片的损耗过高,一个潜在的方案是光互联。“也就是用光纤连接,损耗基本上可以接受,而且延时也非常低。”前述工程师说道,对于国内芯片公司来说,这也是可以考虑发展的一个方向。
“重要的是,在做技术选型的时候,你去瞄准当下还是瞄准未来。国内芯片公司可以借鉴谷歌对未来5~10年的计算能力需求的想法,参考谷歌的TPU设计,并且考虑光互联的路子。”他告诉记者。
随着AI战事愈演愈烈,国内科技厂商都正使出浑身解数,以期在这场竞赛中不落下风。但在最近麻省理工大学的一场活动上,OpenAI首席执行官Sam Altman却表示,巨型AI模型时代即将终结。他表示,AI技术进一步的进展将不会来自于将模型做大。“我认为我们正处于巨型模型时代的尽头,最终我们将以其他方式使它们变得更好。”
这一席话却令业界哗然。毕竟,自ChatGPT诞生以来,不论是海外还是国内都引发了生成式AI和大型语言模型的狂潮。国外,微软、谷歌鏖战正酣,An-thropic、AI21、Cohere和Character.AI在内的众多资金雄厚的初创公司也正在投入巨大的资源努力追赶上OpenAI。
在国内,从百度3月份发布“文心一 言”以来,多家互联网大厂、AI企业和初创团队竞相宣布了自家的大模型或计算平台。不少人感慨,中国互联网产业已经有十年没有如此“卷”过了。
但实际上,训练模型的高成本早已注定了这只是一场少数人的游戏。前述硅谷工程师也告诉记者,业内不应当只看当下的商业利益,他也在尝试劝说国内几个大佬放弃当下训练解决具体场景的大模型的思路,而是直奔GPT-5的方向,即通用人工智能的方向而努力。
“不是说我希望国内公司全都能训练出通用人工智能出来,我希望的是这个行业少一点竞争,大家直奔通用人工智能而去。如果说这是市场共识,可能就只是具有长远愿景的几家公司往这个方向努力,而不是几百个公司都在做大模型。”他解释道,“这样出来的模型,其实泛化能力会比原先的要好。”
本站仅为学习交流之用,所有视频和图片均来自互联网收集而来,版权归原创者所有,本网站只提供web页面服务,并不提供资源存储,也不参与录制、上传
若本站收录的节目无意侵犯了贵司版权,请发邮件(我们会在3个工作日内删除侵权内容,谢谢。)
www.fs94.org-飞速影视 粤ICP备74369512号