GPT-5正秘密训练?模型比GPT-4大100倍

    DeepMind联合创始人Suleyman近日在采访中表示,GPT-5仍在秘密训练中,未来将会比现在的GPT-4大100倍。

    近来,DeepMind联合创始人MustafaSuleyman,现InflectionAI的CEO,在采访时投出了重磅炸弹:

    OpenAI正在秘密训练GPT-5。

    我认为我们都直截了当地说会更好。这就是为什么我们披露了拥有的计算总量。

    在未来18个月内,InflectionAI训练的模型比当前的前沿模型大100倍。未来3年内,Inflection的模型比现在大1000倍。

GPT-5正秘密训练?模型比GPT-4大100倍

    从Suleyman的观点来看,他认为未来AI训练的规模不可能达到训练某个模型需要100亿美元的成本。这是因为算力成本随着芯片算力的迭代在不断下降,所以未来可能会出现训练某个模型的成本相当于在2022年花费了100亿美元来训练。但是因为芯片算力会以2-3倍的效率增长,所以到时候训练一个这样规模的成本会远远小于现在看起来的成本。

    此外,他还提到了InflectionAI正在建造世界上最大的超级计算机之一,并计划在接下来的18个月内进行一次比制造GPT-4的语言模型训练运行大10倍或100倍的训练运行。这表明,随着计算能力的提升,AI训练成本可能会降低,但同时也可能带来更大的风险。

    总的来说,未来AI训练成本的变化将受到多种因素的影响,包括算力成本、芯片技术进步、模型规模等。虽然目前无法准确预测未来的成本变化,但可以肯定的是,随着技术的发展,AI训练成本将逐渐降低,同时也会伴随着一定的风险。

© 版权声明

相关文章

暂无评论

暂无评论...