DeepMind联合创始人Suleyman近日在采访中表示,GPT-5仍在秘密训练中,未来将会比现在的GPT-4大100倍。
近来,DeepMind联合创始人MustafaSuleyman,现InflectionAI的CEO,在采访时投出了重磅炸弹:
OpenAI正在秘密训练GPT-5。
我认为我们都直截了当地说会更好。这就是为什么我们披露了拥有的计算总量。
在未来18个月内,InflectionAI训练的模型比当前的前沿模型大100倍。未来3年内,Inflection的模型比现在大1000倍。
从Suleyman的观点来看,他认为未来AI训练的规模不可能达到训练某个模型需要100亿美元的成本。这是因为算力成本随着芯片算力的迭代在不断下降,所以未来可能会出现训练某个模型的成本相当于在2022年花费了100亿美元来训练。但是因为芯片算力会以2-3倍的效率增长,所以到时候训练一个这样规模的成本会远远小于现在看起来的成本。
此外,他还提到了InflectionAI正在建造世界上最大的超级计算机之一,并计划在接下来的18个月内进行一次比制造GPT-4的语言模型训练运行大10倍或100倍的训练运行。这表明,随着计算能力的提升,AI训练成本可能会降低,但同时也可能带来更大的风险。
总的来说,未来AI训练成本的变化将受到多种因素的影响,包括算力成本、芯片技术进步、模型规模等。虽然目前无法准确预测未来的成本变化,但可以肯定的是,随着技术的发展,AI训练成本将逐渐降低,同时也会伴随着一定的风险。
© 版权声明
文章版权归作者所有,未经允许请勿转载。
相关文章
暂无评论...