OpenAI联合创始人预测:大模型扩张时代或将终结
领先的AI公司正在改变策略。与其开发越来越大的语言模型(LLMs),他们正转向测试时计算(test-time compute),即在模型执行期间使用更多的处理能力,而非初始训练阶段。
据路透社报道,主要的AI实验室正在遇到发展瓶颈。训练这些庞大的LLMs成本高达数千万美元,复杂的系统经常出现故障。有时需要数月时间才能知道一个模型是否按预期工作。
这种放缓似乎影响了所有人。信息报最近报道称,OpenAI的下一个大型模型Orion在性能上几乎没有超过GPT-4o。谷歌在Gemini 2.0上也在面临类似问题,而Anthropic方面,其首席执行官Dario Amodei表示正在重新规划Opus3.5的开发路线。
OpenAI联合创始人Ilya Sutskever表示:“2010年代是规模扩张的时代,现在我们再次回到了奇迹和发现的时代。每个人都在寻找下一个机会,”,这一表态格外引人注目,因为Sutskever曾是"越大越好"理念的倡导者。
AI实验室现在正在研究测试时计算,给予模型更多的时间来解决问题。目标是创建不仅仅计算概率,而是逐步思考问题的AI系统。与快速回答不同,这些模型生成多个解决方案,系统地评估它们,并选择最佳方案。
这种转变可能会动摇英伟达在AI硬件领域的控制地位。虽然英伟达在训练大型语言模型的显卡市场占据主导地位,但转向测试时计算为其他芯片制造商创造了空间。
免责声明:除原创作品外,本平台所使用的文章、图片、视频及音乐属于原权利人所有,因客观原因或会存在不当使用的情况,如,部分文章或文章部分引用内容未能及时与原作者取得联系,或作者名称及原始出处标注错误等情况,非恶意侵犯原权利人相关权益,敬请相关权利人谅解并与我们联系。