每经记者 李孟林 每经编辑 兰素英
OpenAI的创始人兼CEO萨姆·阿尔特曼认为,马斯克等人联名签署的暂停大型AI模型训练的公开信有一定道理,但暂停训练并非解决问题的方法,并称OpenAI目前还没有开发GPT-5。
在阿尔特曼积极为OpenAI辩护的同时,带头签署公开信的马斯克却自己搞起了大模型。据《华尔街日报》报道,马斯克在美国内华达州成立了一家名为X.AI的人工智能(AI)公司,旨在与聊天机器人ChatGPT的开发公司Open AI展开竞争。
图片来源:视觉中国-VCG31463611930
当地时间4月13日,在麻省理工学院举行的一个讨论商业和人工智能的会议上,阿尔特曼发表了视频演讲。他表示,部分同意公开信中关于AI风险的内容,但指出信件“缺少何时需要暂停研究的大部分技术细节”。
“我认为谨慎行事和对安全问题越来越严格非常重要,但我不认为这封信是解决这个问题的最佳方式,”阿尔特曼表示。
3 月,马斯克、苹果联合创始人沃兹尼亚克、图灵奖得主本吉奥等多名业内大佬呼吁暂停训练与“比 GPT-4 更强大”的大型语言模型相关研究,以便更好地研究快速发展的AI给人类带来的安全风险。当前,这封公开信已经有超过2.5万人签名。
“我也同意,随着AI能力变得越来越强大,安全标准必须提高,”阿尔特曼表示,“我们正在GPT-4之上做其他事情,我认为这些事情存在各种需要解决的重要安全问题,但这封信却只字不提。”
阿尔特曼强调,OpenAI花了六个月研究GPT-4的安全性,接受了外部审核,也进行了内部的安全测试,之后才正式公开。
公开信呼吁暂停比GPT-4更强大的AI系统的研究,剑指OpenAI的GPT-5,而此前有传言称更新的GPT系统即将面世。对此,阿尔特曼直接表示,目前还未开发GPT-5。
“这封信的早期版本称我们正在训练GPT-5。我们没有训练,而且未来一段时间也不会训练,所以从这一点来讲,(这封信)有点傻,”阿尔特曼表示。
此外,阿尔特曼还认为,AI界追逐大语言模型规模的竞赛可能正在接近极限,规模更大并不代表性能更强。
“我想我们已经在追逐大模型时代的末尾,我们将从其他方面来提升模型,”阿尔特曼表示,“我想对参数量的关注太多了,也许参数量还会继续攀升。这让我想起了1990年代和2000年代的芯片千兆赫兹竞赛,所有人都在追求更大的数字。”
“我认为重要的是我们把焦点放在快速提升性能上。如果未来有理由让参数量下降,或者用多个更小的模型组合起来工作,我们会这么做的。我们想带给世界的是性能更强、更有用和更安全的模型,而不是对参数量沾沾自喜,”阿尔特曼表示。
在阿尔特曼积极为OpenAI辩护的同时,带头签署公开信的马斯克却自己搞起了大模型。
据《华尔街日报》报道,马斯克在美国内华达州成立了一家名为X.AI的人工智能(AI)公司,旨在与聊天机器人ChatGPT的开发公司Open AI展开竞争。内华达州备案文件显示,马斯克是为X.AI的唯一董事,而马斯克家族办公室主任贾里德·伯查尔则是该公司的秘书。
此前就有媒体报道称,马斯克近日大手笔购置1万张英伟达A100 GPU,这是训练大模型必备的高性能芯片。
知情人士透露,马斯克正在组建一个由AI研究人员和工程师组成的团队,他还与特斯拉和SpaceX的一些投资者讨论了投资这家新公司的问题,投资者对此感到非常兴奋。
人员方面,马斯克从谷歌的AI部门DeepMind等公司挖来大语言模型专家,包括DeepMind的高级科研工程师Igor Babuschkin,他在DeepMind前后一共工作了约5年,中间还跳去OpenAI工作了一年半;以及Manuel Kroiss,他在DeepMind工作了六年。
熟悉马斯克想法的人士透露,新AI公司与他的其他公司是区分开来的,但这家公司可以使用推特的内容来训练其语言模型,也可以利用特斯拉的计算资源。
实际上,马斯克正是2015年OpenAI成立时的联合创始人之一。2018年,马斯克被OpenAI踢出了董事会,媒体报道称是因为特斯拉深入研究自动驾驶的AI技术,与OpenAI出现了利益冲突,同时马斯克在安全方面的想法与OpenAI产生了分歧。
封面图片来源:视觉中国-VCG111419382557
1)文章会挂上你的二维码提高爆光率
2)分享出去的文章你就是作者
3)将会获得网站金币
4)首页推荐快速加粉丝
5)像公众号一样传播你的文章