惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
云风的 BLOG
云风的 BLOG
Microsoft Security Blog
Microsoft Security Blog
WordPress大学
WordPress大学
GbyAI
GbyAI
C
Check Point Blog
M
MIT News - Artificial intelligence
T
The Blog of Author Tim Ferriss
Jina AI
Jina AI
博客园 - 【当耐特】
U
Unit 42
月光博客
月光博客
腾讯CDC
Y
Y Combinator Blog
小众软件
小众软件
博客园_首页
Last Week in AI
Last Week in AI
酷 壳 – CoolShell
酷 壳 – CoolShell
The GitHub Blog
The GitHub Blog
博客园 - 聂微东
freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More
MongoDB | Blog
MongoDB | Blog
博客园 - Franky
T
Tailwind CSS Blog

又见苍岚

COLMAP PatchMatch Stereo 算法详解 事件驱动的状态机框架:从理论到工程实践 Git 在国内网络环境下无法 Push 的排查与修复 —— 配置 Clash 代理 分段五次多项式插值原理详解 路径插值方法深度对比研究 Claude Code 使用指南 OpenClaw 记忆管理与技能创建指南 CBS(Conflict-Based Search)算法详解 A* 算法及其变种详解 OpenClaw 配置多 Agents Windows Powershell 无法加载文件,因为在此系统上禁止运行脚本问题的解决方案 MaxClaw 安装流程 大模型 AI 名词介绍 AList 网盘聚合工具简介 Protobuf 简介与测试 Claude Code 简介以及 GLM 4.7 模型接入 Github 歌词下载工具 163MusicLyrics Python __getattr__ 懒加载 Python TypedDict 机器人仿真平台 Gazebo 安装记录 机器人仿真平台 Gazebo 简介 多机器人路径规划问题(Multi-Agent Path Finding, MAPF)简介 Python exifread 读取修改过的 jpeg 信息错误问题修复 3D 坐标系变换的理解 3D 旋转矩阵基本概念 MongoDB Compass 介绍 Python 环境管理工具 uv Flutter 开发指南 Snipaste 安装下载与黑屏问题解决方案 全局路径规划算法记录
概率论基础 - 21 - 分布之间的关系
Yiwei Zhang · 2023-11-07 · via 又见苍岚

不同概率分布的函数族之间边界是相交的,也就是不同分布在特定条件下可以相互转化,本文介绍相关内容。

伯努利分布和二项分布

  1. 二项分布是伯努利分布的单次试验的特例,即单次伯努利试验;

  2. 二项分布和伯努利分布的每次试验都只有两个可能的结果;

  3. 二项分布每次试验都是互相独立的,每一次试验都可以看作一个伯努利分布。

泊松分布和二项分布

二项分布
$$
P(x)=\frac{n !}{(n-x) ! x !} p^{x} q^{n-x}
$$
泊松分布
$$
\boldsymbol{P}(\boldsymbol{X}=\boldsymbol{x})=\boldsymbol{e}^{-λ} \frac{λ^{x}}{x !} \quad for\quad x=0,1,2, \ldots \ldots
$$

  1. 试验次数非常大或者趋近无穷,即 $n → ∞$;

  2. 每次试验的成功概率相同且趋近零,即 $p →0$;

  3. $np =λ$ 是有限值。

证明

泊松分布可看成由二项分布的极限得到,记常数 $λ=np$ 则有如下:

$$ \begin{aligned} & \lim _{n \rightarrow \infty, p \rightarrow 0} c_{n}^{k} p^{k}(1-p)^{n-k} \\ = & \lim _{n \rightarrow \infty, p \rightarrow 0} \frac{n(n-1) \cdots(\mathrm{n}+1-\mathrm{k})}{k !} p^{k}(1-p)^{n-k} \\ = & \lim _{n \rightarrow \infty, p \rightarrow 0} \frac{n^{k}}{k !} p^{k}(1-p)^{\frac{\lambda}{p}-k} \\ = & \lim _{n \rightarrow \infty, p \rightarrow 0} \frac{\lambda^{k}}{k !}\left[(1-p)^{\frac{1}{-p}}\right]^{-\lambda} \frac{1}{(1-p)^{k}} \\ = & \lim _{n \rightarrow \infty, p \rightarrow 0} \frac{\lambda^{k}}{k !} e^{-\lambda}\end{aligned} $$

其中用到了一个常用极限:

使用了洛必达法则

$$ \begin{array}{l}\lim _{x \rightarrow 0}(1-x)^{-\frac{1}{x}} \\ =\lim _{x \rightarrow 0} e^{\log (1-x)^{\frac{1}{x}}} \\ =\lim _{x \rightarrow 0} e^{-\frac{1}{x} \log (1-x)} \\ =e^{\lim _{x \rightarrow 0}-\frac{\log (1-x)}{x}} \\ =e^{\lim _{x \rightarrow 0} \frac{1}{1-x}}=e\end{array} $$

也就是说,当二项分布中的试验次数 $n$ 比较大,事件A在一次试验中发生的概率 $p$ 比较小时,二项分布的一个事件发生次数的概率可以用泊松分布的概率来模拟。

正态分布和二项分布

二项分布:
$$
P(x)=\frac{n !}{(n-x) ! x !} p^{x} q^{n-x}
$$
正态分布:

$$ \boldsymbol{f}(\boldsymbol{x})=\frac{1}{\sqrt{2 \pi} \sigma} e^{\left\{-\frac{1}{2}\left(\frac{x-\mu}{\sigma}\right)^{2}\right\}} \quad for: -\infty

以下条件下,正态分布是二项分布的一种极限形式:
  1. 试验次数非常大或者趋近无穷,即 $n → ∞$;

  2. p 和 q 都不是无穷小。

这是 棣莫弗-拉普拉斯中心极限定理 的内容,该定理是 林德贝格-勒维中心极限定理 的特例,证明方法可以参照 林德贝格-勒维中心极限定理证明过程。

泊松分布和正态分布

泊松分布 $ p(k)=\frac{\lambda^{k}}{k !} e^{-\lambda} $ , 均值和方差都是 $ \lambda $ , 根据 斯特林公式 ,$ k \rightarrow \infty $ 时

$$
k !=\sqrt{2 \pi k}\left(\frac{k}{e}\right)^{k}
$$
令 $ x=\frac{k-\lambda}{\sqrt{\lambda}} $, 和斯特林公式一起带入泊松分布, 则

$$ \begin{aligned} p(x) & =\sqrt{\lambda} \frac{\lambda^{\sqrt{\lambda} x+\lambda}}{\sqrt{2 \pi(\sqrt{\lambda} x+\lambda)\left(\frac{\sqrt{\lambda} x+\lambda}{e}\right)^{\sqrt{\lambda} x+\lambda}}} e^{-\lambda} \\ & =\frac{1}{\sqrt{2 \pi}} \cdot \frac{e^{\sqrt{\lambda} x}}{\left(\frac{\sqrt{\lambda} x+\lambda}{\lambda}\right)^{\sqrt{\lambda} x+\lambda+0.5}} \\ & =\frac{1}{\sqrt{2 \pi}} \cdot \frac{e^{\sqrt{\lambda} x}}{e^{(\sqrt{\lambda} x+\lambda+0.5) \ln \left(1+\frac{x}{\sqrt{\lambda}}\right)}} \\ & =\frac{1}{\sqrt{2 \pi}} \exp \left(\sqrt{\lambda} x-(\sqrt{\lambda} x+\lambda+0.5) \ln \left(1+\frac{x}{\sqrt{\lambda}}\right)\right)\end{aligned} $$

多项式级数展开 $ \ln \left(1+\frac{x}{\sqrt{\lambda}}\right) $ ,得 $ \ln \left(1+\frac{x}{\sqrt{\lambda}}\right)=\frac{x}{\sqrt{\lambda}}-\frac{x^{2}}{2 \lambda}+o\left(\frac{x}{\sqrt{\lambda}}\right) $ 。

代入原式

$$ \begin{aligned} p(x) & =\frac{1}{\sqrt{2 \pi}} \exp \left(\sqrt{\lambda} x-(\sqrt{\lambda} x+\lambda+0.5)\left(\frac{x}{\sqrt{\lambda}}-\frac{x^{2}}{2 \lambda}+o\left(\frac{x}{\sqrt{\lambda}}\right)\right)\right) \\ & =\frac{1}{\sqrt{2 \pi}} \exp \left(-\frac{x^{2}}{2}+o\left(\frac{x}{\sqrt{\lambda}}\right)\right)=\frac{1}{\sqrt{2 \pi}} \exp \left(-\frac{x^{2}}{2}\right)\end{aligned} $$

参考资料

文章链接:
https://www.zywvvd.com/notes/study/probability/distributions/bpg-dis/