洞察不止OpenAI“猎户座”！谷歌和 Anthropic AI模型开发也被爆遇瓶颈

供应信息

不止是OAI备受关注的下一代模型“猎户座”（O），谷歌和OAI的劲敌、另一明星人工智能ai（AI）初创A也传出了先进AI模型开发遭遇瓶颈的消息。

美东时间11月13日周，彭博社报道援引两知情者的消息称，OAI今年9月完成了猎户座的首轮训练，希望它能大大超越此前的一些版本，更接近AI超越人类这一目标，但猎户座未能达到期望的性能，比如截至夏末，该模型在尝试回答未经训练的编码问题时还表现不佳。

知情者评价，总体而言，到目前为止，相比GPT-4超越GPT-35的表现，猎户座和OAI现有模型相比进步没那么大。

报道还援引其他知情者消息的称，谷歌即将推出的新版G并未达到内部预期，A也推迟了被称为的35 O的C模型计划发布时间。

报道认为上述家开发AI模型面临多重挑战，他们越来越难以找到尚未开发的高质量人造训练数据。例如猎户座的编码性能未能令人满意就部分源于缺乏足够的编码数据进行训练。即使是适度的模型性能提升也可能不足以证明，打造和运行新模型的巨大成本合理，或者法满足重大升级的期望。

AI模型开发瓶颈的问题挑战了被很多初创甚至科技巨头都奉为圭臬的定律S ，也让AI大举投资即现通用人工智能ai（）的可行性遭到质疑。

华尔街见闻曾提到，OAI早在2022年就提出的该定律是指，大模型的比较终性能主要与计算量、模型参数量和训练数据量者的大小相关，而与模型的具体结构（层数深度宽度）基本关。今年7月微软的首席技术官（CTO）K S还为这个定律辩护，称S 仍适用于当前业态――在扩张大模型的同时，边际效益并没有递减。巧的是，上周就有媒体爆料，OAI发现猎户座“没有那么大飞跃”，进步幅度远不如前两代旗舰模型。这一发现直接挑战了AI领域一直奉行的S 。由于高质量训练数据减少以及计算成本增加，OAI的研究人员不得不开始探讨是否有其他改进模型性能的方法。例如，OAI正在将更多代码编写功能嵌入其模型，并试图开发一种软件，可以接管个人电脑，通过执行点击、 光标移动等其他操作， 完成络浏览器活动或应用程序的任务。

OAI还成立了一个专门团队，由之前负责预训练的N R领导，负责探索如何化有限的训练数据和调整扩展法的应用，保持模型改进的稳定性。

对于本周的彭博报道，谷歌DM 发言人表示，“对 G 的进展感到满意，我们会在准备就位时分享更多信息。”OAI 拒绝置评。A 也未置评，但提到了周一发布的一段博客内容，在那段长达五小时的播客中，有 A CEO D A的发言。

A称，人们所说的 并不是一种定律，这是用词不当，它不是通用的定律，而是经验规律。A预计 会继续存在，不过并不确定。他说未来几年有“很多事”可能会“破坏”现更强大 AI 的进程，包括“我们可能会耗尽数据。”但他乐观地认为 AI 会找到克服一切阻碍的方法。

对于彭博的报道，提供企业定制AI解决方案的NAI的创始人N W评论称，报道并未让他困惑，因为首先，他没有看到在AI领域做出过重大贡献的真正的专家表达过同样看法，其次，我们经常看到模型方面取得重大进展，比较后，他认为新闻媒体喜欢制造戏剧效果，这篇报道看来只是起了一个漂亮的戏剧性标题。

正是以这样一种标准严格要求，新野才有了今日的发展规模，才有了能够力压竞争对手的傲然之势。https://create.xingyeai.com/