DeepMind联合创始人苏莱曼表示,GPT-5仍在秘密训练中,未来将比现在的GPT-4大100倍。
事实上,OpenAI首席执行官山姆
阿尔特曼此前否认了训练GPT-5的想法。一些消息人士说,OpenAI可能给它起了一个新名字,这就是为什么他们说他们没有训练GPT-5。
苏莱曼现任首席执行官,拐点AI
人工智能正在建造世界上最大的超级计算机之一,他认为在未来18个月里,他们可能会进行比制作GPT-4的语言模型训练大10倍或100倍的训练。
当GPT-4于今年3月正式发布时,与ChatGPT最初使用的GPT-3.5型相比,GPT-4在几个方面实现了数次飞跃:强大的图片阅读能力;文字输入上限提高到25000字;答案的准确性显著提高;能够生成歌词、创意文本和风格变化。
GPT-3.5有1750亿个参数规模,OpenAI没有公布GPT-4的具体规格,但后来的分析显示,它有16个专家模型,每个MLP专家大约有1110亿个参数,总共1.8万亿个参数,是GPT-4的10倍。
如果按照这个比例推广GPT-5,它将突破10万亿参数,很有可能成为最大的AI机型,远远超过所有其他竞争对手。