News 生活资讯社区专栏原创图片新闻 Recent News 评论搜索教育读书

OpenAI塌房!Scaling law原作曝bug 万亿算力白烧

DeepMind研究员深夜爆料：OpenAI的Scaling Law原始论文竟有致命bug！全球AI白白烧掉万亿算力，GPT-3其实严重「虚胖」。

OpenAI误导了整个AI圈好几年！

过去五年，整个AI行业都被Scaling Law推着往前冲。

奥特曼坚信AGI的底气就来自这条曲线。

现在，有人站出来说：这条曲线，一开始就错了。

不是事后诸葛。说这话的，是当年就在OpenAI做大模型优化的研究员Diogo Almeida。

刚刚，他发出一篇博客，标题冷得发指——《Scaling Laws, Honestly》。

开头一句直接把话说死：最初那版scaling law是错的，因为存在一个bug。

传送门：https://www.completeskeptic.com/p/scaling-laws-honestly

中国AI模型与Anthropic、OpenAI性能差距缩小

应美国政府要求OpenAI推迟GPT-5.6全面公开发布

AI的真正赢家不是OpenAI,而是卖芯片的

DeepMind那位以扩散模型封神的Sander Dieleman，转头就在推特上把它顶了上去，说这是一段有意思的LLM往事：

原始scaling law因为一个bug而错了，大概率害得业界在一堆「体量过大、训练不足」的模型上，白白烧掉了海量算力。

一个bug，烧掉两年。

当bug被撕开，我们看到的，不仅是算力的黑洞，更是一条被语言本身重塑的、远比想象中更深刻的智能边界。

Scaling Law竟是LLM版「地心说」

2020年，OpenAI给出结论：在固定的算力预算下，你应该优先把模型做大，而不是拿更多数据去喂它。

用公式说，最优参数量正比于算力的0.73次方——参数，是那个更该猛冲的变量。

已经有 1 人参与评论了, 我也来说几句吧

分享:

Prev Page12 3 4 5 6 Next Page

Note:

新闻来源于其它媒体，内容不代表本站立场！

_VIEW_NEWS_FULL

_RELATED_NEWS:

SpaceX IPO后股价动荡 OpenAI倾向于推迟至明年上市

近400家美国报纸联合起诉OpenAI和微软白嫖内容

中国AI模型与Anthropic、OpenAI性能差距缩小

应美国政府要求OpenAI推迟GPT-5.6全面公开发布

刘国梁双胞胎女儿: 老大被藤校争抢老二活成普娃

最熟悉的噩梦回来了华尔街或重演2024惊魂一幕

日元狂跌!巨额汇市干预失败,日本政府酝酿搞突袭

70岁知名港星米雪疑遭男性骚扰,双手拒仍被贴脸

大温著名发廊美发师都来自于日本

出啥事?大温数亿升污水直接灌海中

周深郑州演唱会谢幕,令人反胃的一幕出现了,那英说的没错

列治文夜市发生火灾 14个摊位被毁

_RELATED_NEWS_MORE:

要重审原住民土地权案的努力遇挫

他将代表普京出席伊朗前最高领袖哈梅内伊葬礼

马未都:如果佛像确为五公祠所丢愿高高兴兴送回

"她是汉克斯精髓",这剧怎么没播完就续订了?

为喂饱哈兰德挪威队带3主厨来美秘密武器曝光

客机发出7500劫机码!三国战机紧急升空结果…

马西隧道工期成谜大温这个市急了

东南亚,挤满了中国一线城市的养老退休人士

"走个面儿"风波持续发酵!韩红诚恳道歉,罗永浩的评价一针见血

首次乘坐卡塔尔赠送"空军一号" 川普这样评价

温哥华资深地产经纪工作诚信认真

振龙电器各类热销家电种类齐全

新疆开启"烘烤模式",火焰山地表温度突破80℃

委内瑞拉强震救援惊现"奇迹"一幕

一场电影宣传,为何演变成全民讨伐?

芬兰解除核禁令,俄将其列为核打击目标

共有 1 人参与评论 (其它新闻评论)

评论1	游客 [辛.香.氏.说]	2026-07-05 11:09
They are using the worst efficient and laziest ways to build AI ecosystems by pouring huge investments on computing capacities. That was not creative but was making it bigger by piling up high performance chips. Of course, that worked for a while but could not last long. At the end of the day, investments must be paid by revenues with profits. Lots of investments have rushed into AI infrastructures by far but now warning calls become louder than ever for AI sustainability. 赞踩回复 0

Prev Page1Next Page

_POSTMYCOMMENT: