惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

D
Docker
爱范儿
爱范儿
人人都是产品经理
人人都是产品经理
博客园 - 司徒正美
cs.AI updates on arXiv.org
cs.AI updates on arXiv.org
量子位
罗磊的独立博客
cs.CL updates on arXiv.org
cs.CL updates on arXiv.org
小众软件
小众软件
C
Cybersecurity and Infrastructure Security Agency CISA
Cyberwarzone
Cyberwarzone
大猫的无限游戏
大猫的无限游戏
Threat Intelligence Blog | Flashpoint
Threat Intelligence Blog | Flashpoint
雷峰网
雷峰网
Simon Willison's Weblog
Simon Willison's Weblog
The Cloudflare Blog
博客园 - 三生石上(FineUI控件)
D
Darknet – Hacking Tools, Hacker News & Cyber Security
C
Cyber Attacks, Cyber Crime and Cyber Security
博客园_首页
博客园 - 叶小钗
V
Vulnerabilities – Threatpost
T
The Exploit Database - CXSecurity.com
T
Tailwind CSS Blog
IT之家
IT之家
博客园 - 聂微东
Spread Privacy
Spread Privacy
V2EX - 技术
V2EX - 技术
S
Security Affairs
宝玉的分享
宝玉的分享
V
V2EX
C
Cisco Blogs
博客园 - Franky
美团技术团队
酷 壳 – CoolShell
酷 壳 – CoolShell
月光博客
月光博客
S
Securelist
J
Java Code Geeks
Webroot Blog
Webroot Blog
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
P
Proofpoint News Feed
Last Week in AI
Last Week in AI
L
LINUX DO - 热门话题
NISL@THU
NISL@THU
WordPress大学
WordPress大学
W
WeLiveSecurity
T
Threatpost
freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More
腾讯CDC
阮一峰的网络日志
阮一峰的网络日志

博客园 - stardsd

DRAM(High Bandwidth Memory)与HBM(Dynamic Random Access Memory) Daytona——为Agent提供可长期存在、可持续开发、可恢复状态的 Workspace Browserbase:AI Agent 的“云浏览器” Composio:AI Agent 的工具连接层 E2B介绍与示例 人工智能前沿研究报告 智能体攻防 计算语言学(computational linguistics) 状态空间模型(State Space Model, SSM) 神经符号集成(Neuro-Symbolic Integration) 动态计算分配(Dynamic Compute Allocation)技术:MoD 从LLM到SLM:小型语言模型 Claud Code 源码设计哲学总结 Claud Code源代码主提示词(prompts)中文版 REPL的实现以及Agent的REPL-Plan模式 LLM 大语言模型研究进展与趋势报告 DeepSeek DualPath 论文解读 Test Time Scaling (TTS) Web 4.0:Agentic Web CL-bench:上下文学习的评测 梅宏院士:符号主义与连接主义的结合应该成为下一代AI的发展方向 训推误差(training-inference mismatch)与重要性采样(Importance Sampling,IS) 如何设计GRPO系算法的reasoning reward + pair采样策略 GRPO(Group Relative Policy Optimization) 算法的演进脉络以及DAPO、VAPO、SRPO、GFPO的区别与联系 VLM评估体系指标对比:CIDEr vs CLIPScore vs GPT-based Eval CIDEr公式:多模态评价指标 TDM(Tree-based Deep Model,树模型) VLM的视觉词汇表扩充(Vary:扩展大型视觉语言模型的视觉词汇量) CLIP视觉词汇表与Q-Former Agent Skill 解析 AI合成数据、模型坍缩与数据焦虑问题:合成数据的扩展定律(Scaling Law)
斯科特·佩奇(Scott E. Page)多样性预测定理(Diversity Prediction Theorem)
stardsd · 2026-01-14 · via 博客园 - stardsd

这是一个在集体智慧、群体决策、AI ensemble、专家系统中都非常重要的理论。

一、一句话版结论(先给直觉)

“群体预测的准确性 = 个体平均准确性 + 群体多样性”

也就是说:

即使个体并不特别聪明,只要他们的错误是“不一样的”,群体预测就可以非常准。

这直接反驳了“必须找最聪明的人”的直觉,强调了多样性本身是信息价值

二、数学形式:定理本体

1️⃣ 问题设定

  • 要预测一个真实值(ground truth)
    \( y \in \mathbb{R} \)

  • 有 (N) 个预测者(人 / 模型 / 专家)
    第 (i) 个预测者给出预测:
    \( f_i \)

  • 群体预测(通常取平均):
    \( \bar f = \frac{1}{N} \sum_{i=1}^N f_i \)

2️⃣ 核心公式(多样性预测定理)

\( \[ (\bar f - y)^2=\frac{1}{N} \sum_{i=1}^N (f_i - y)^2-\frac{1}{N} \sum_{i=1}^N (f_i - \bar f)^2 \] \)

3️⃣ 三项分别是什么意思?

我们逐项解释:

▶ 左边:群体预测误差

\( (\bar f - y)^2 \)

这是我们最终关心的:集体预测有多准

▶ 第一项:个体平均误差

\( \frac{1}{N} \sum_{i=1}^N (f_i - y)^2 \)

表示:

平均来看,每个人(或模型)离真值有多远

▶ 第二项(关键):多样性项

\( \frac{1}{N} \sum_{i=1}^N (f_i - \bar f)^2 \)

这是预测之间的方差,也就是:

大家彼此之间“分歧有多大”

🔑 定理的精髓

\( \text{群体误差} = \text{平均个体误差} - \text{多样性} \)

👉 多样性越大,群体误差越小

三、用一个极其直观的数值例子

🎯 真实值

\( y = 100 \)

情况 A:个体很准,但“想法一致”(低多样性)

三个人都预测:

\( f_1 = f_2 = f_3 = 102 \)

计算:

  • 平均预测:(\bar f = 102)

  • 群体误差:
    \( (102 - 100)^2 = 4 \)

  • 个体平均误差:
    \( \frac{1}{3}[(2)^2 + (2)^2 + (2)^2] = 4 \)

  • 多样性项:
    \( \frac{1}{3}[(0)^2 + (0)^2 + (0)^2] = 0 \)

✔ 定理成立:
\( 4 = 4 - 0 \)

情况 B:个体一般,但“分歧很大”(高多样性)

\( f_1 = 90,\quad f_2 = 100,\quad f_3 = 110 \)

计算:

  • 平均预测:
    \( \bar f = 100 \)

  • 群体误差:
    \( (100 - 100)^2 = 0 \)

  • 个体平均误差:
    \( \frac{1}{3}[(-10)^2 + 0^2 + 10^2] = \frac{200}{3} \approx 66.7 \)

  • 多样性项:
    \( \frac{1}{3}[(90-100)^2 + 0^2 + (110-100)^2] = \frac{200}{3} \)

✔ 定理再次成立:
\( 0 = 66.7 - 66.7 \)

👉 结论:虽然个体都不准,但群体完美

四、为什么多样性“真的有用”(直觉解释)

把误差拆成两部分:

\( f_i - y = \underbrace{(f_i - \bar f)}*{\text{分歧}} + \underbrace{(\bar f - y)}*{\text{系统性偏差}} \)

  • 如果所有人犯同样的错 → 错误叠加
  • 如果每个人错的方向不同 → 错误相互抵消

👉 多样性 = “错误不相关”

五、这一定理在 AI / 工程中的直接对应

1️⃣ 集成学习(Ensemble Learning)

Random Forest 强制模型多样性 Bagging 数据子采样制造差异 Boosting 偏差方向互补 Mixture of Experts 专家视角多样
方法 本质

不是越强越好,而是“强 + 不一样”

2️⃣ 人类决策 / 专家委员会

  • 全部来自同一背景 → 多样性项 ≈ 0
  • 不同专业、不同方法 → 多样性 ↑

📌 诺贝尔经济学奖、陪审团制度、本杰明·富兰克林委员会都暗含这个逻辑。

六、容易被误解的 3 个关键点

❌ 误解 1:多样性越大越好

✔ 正解:

前提是个体必须“有信息含量”
完全随机噪声 ≠ 有效多样性

❌ 误解 2:多样性可以代替能力

✔ 正解:

定理是“减法”,不是“魔法”
个体平均误差太大,仍然会输

❌ 误解 3:这是统计假设

✔ 正解:

这是一个恒等式(identity)
不依赖分布、独立性或正态假设

七、一句话总结

斯科特·佩奇的多样性预测定理表明:
群体预测的准确性并非只取决于个体的聪明程度,更取决于个体之间错误的差异性。
在保持基本能力的前提下,多样性本身就是一种可量化、可计算的预测资源。