很有意思的研究~
https://arxiv.org/pdf/2604.24827
原贴内容
闭源实验室都对模型规模讳莫如深，但他们其实藏不住模型"知道什么"。而模型知道什么，恰恰就是参数量的指标。
核心逻辑：推理能力可以靠蒸馏压缩到小模型里，事实知识不行。一个模型记得多少冷门事实，直接跟它的参数量挂钩。
知乎博主李博杰为这个写了一篇小论文，构建了一套叫 IKP（不可压缩知识探针）的数据集：1400 个问题、7 层稀有度，扔到 27 家厂商的 188 个模型上跑了一遍，只看事实准确率。
结果在 89 个公开参数的开源模型上，准确率 vs log(参数量) 的拟合 R²=0.917，基本是一条直线。把闭源模型投影上去，规模就估出来了：
GPT-5.5 ≈ 9T
Claude Opus 4.7 ≈ 4T
GPT-5.4 ≈ 2.2T
Claude Sonnet 4.6 ≈ 1.7T
Gemini 2.5 Pro ≈ 1.2T
（90% 置信区间：0.3-3 倍规模）
touma99 (冬马99) 2
为什么不优化算法呢？果然最后都是力大专飞路线呀。
buste 3
感觉Image-2也是拉满参数 力大砖飞出来的,OAI应该是有什么新秘密武器可以节省算力提高参数表现了, 不然很难想象 free 入口的提供这些模型需要多少算力 
ps. 图里 5.5 的PI上限被拉到 28.7T 堪称恐怖
pieable (pie z) 4
5.5肯定推测错了吧，5.4 1T，5.5直接9.7T，oai一两个月练出超级大模来了？
ethics (Monika) 5
5.5 9T有点离谱, 如果是真的激活参数量肯定很少
感觉测算有点粗糙啊，不考虑 moe 和 dense 的差异嘛，还有知识幻觉
buste 7
奥特曼说过, 5.5是全新基模, 从O3到5.4为止, 这是首次全新的基模
合着国外模型不会就靠力大砖飞吧。。。那国模其实已经超过他们了呀。能用低于1T的参数达到差不多的效果
sxjeru (sxjeru) 9
GPT 5.4 和 5.5 的知识截止时间不同，很可能是同步训练产物。
这样的话，现在我还是更站国产模型了，算法上已经比国外强了。不过算力还是缺太多。
Guandengle (点点点…点娘！) 11
OpenAI在采访的时候也说过它们的算力比claude多很多 
其实从它们可以从视频 图片 代码 这几个方面都取得较大进展就可以知道规模有多大了
而claude只是单线发展
zhongruan (钟阮) 12
不会是微软前期投入的算力太强大多了吧……
中间误差是 1.59× ，90% 的预测区间大概对应 3× 么，那也只能用来推断一下数量级了吧 
rongsheng (鼠鼠我呀) 14
为什么不同时对比下开源的模型呢，这样感觉才有可比性吧？
Dxzzmh (Dxz) 15
置信区间太大了，也就看个大致趋势吧，实际参数跟这个预估的差别可能不小
感觉国外模型怎么都是力大砖飞啊
，那国内的模型做到相同的数量级会不会反超
F-droid (𝓕-𝓓𝓻𝓸𝓲𝓭) 17
你考虑的是国内做到同等参数会不会反超。但是现实却不能让你假设，人家算力优势目前还比不了，数量级级别的领先
zhdovelie (dovelie_z) 18
现在国内大部分言论上看不上"力大砖飞", 不过但是想想5年前nlp领域别说1b了,300m都已经是很大规模. 直到gpt3横空出世证明了规模催生智能的法则, 后面其实本质上都一直在吃scalinglow的红利,从数据的scaling到参数的scaling到r1的thinking(test-time-scaling)到AgenticRL(post-train-inference-scaling).
不管是哪个阶段的scaling,都是算力的的scaling.
xujinhui (Cory) 19
再等等，GPT已经包揽全部了。但是数据量到了一定规模后，不再会有更高的提升了。
origin1 (origin) 20
规模无限增长下去也不是办法，不然openai和A/也不可能一直是亏损状态了，力大砖飞我个人觉得行不通