惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

GbyAI
GbyAI
Microsoft Azure Blog
Microsoft Azure Blog
Jina AI
Jina AI
Hugging Face - Blog
Hugging Face - Blog
A
About on SuperTechFans
Y
Y Combinator Blog
D
DataBreaches.Net
I
InfoQ
Recent Announcements
Recent Announcements
Last Week in AI
Last Week in AI
G
Google Developers Blog
博客园_首页
博客园 - 司徒正美
V
V2EX
Stack Overflow Blog
Stack Overflow Blog
博客园 - 叶小钗
Engineering at Meta
Engineering at Meta
Apple Machine Learning Research
Apple Machine Learning Research
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
B
Blog
MongoDB | Blog
MongoDB | Blog
博客园 - 【当耐特】
D
Docker
量子位

博客园 - 西瓜K菠萝

【转载】主成分分析法(PCA) 最优化问题的简洁介绍 svm常用核函数 [转]核函数K(kernel function) 【转载】极大值与等高线 [转载]用等高线图(Contour maps)可视化多变量函数 【转载】反向传播算法解释 【转载】正则化避免过拟合 【转载】多项式分布 【转载】广义线性模型 [转载]牛顿方法 Octave 里的 fminunc 【转载】第3周笔记-逻辑回归 先验概率、后验概率、贝叶斯公式、 似然函数 从几率到logisitic函数 如何理解logistic函数? 【转载】logistic回归 【转载】逻辑回归 【转载】用OCTAVE实现一元线性回归的梯度下降算法
【转载】指数分布族
西瓜K菠萝 · 2018-03-18 · via 博客园 - 西瓜K菠萝

【转载】指数分布族

Posted on 2018-03-18 22:37  西瓜K菠萝  阅读(978)  评论()    收藏  举报

http://blog.csdn.net/v1_vivian/article/details/52038037

指数分布族是指可以表示为指数形式的概率分布。指数分布族的形式如下:(其中,η称为分布的自然参数(nature parameter);T(y)是充分统计量(sufficient statistic),通常T(y)=y。当参数a、b、T都固定时,就定义了一个以η为参数的函数族):

以将高斯分布和伯努利分布为例,我们将它们表示称为指数分布族的形式。

1.将伯努利分布写成指数分布族的形式

伯努利分布是对0,1问题进行建模的分布,它可以用如下形式表示:

将其转换形式:

此时,我们就将伯努利分布表示成了指数分布族的形式;其中:

2.将高斯分布写成指数分布族的形式

由高斯分布可以推导出线性模型,由线性模型的假设函数可知,高斯分布的方差σ²与假设函数无关,所以简便起见,我们可以将σ²的值设为1,推导过程如下:

此时,我们就将高斯分布表示成了指数分布族的形式;其中:

                                

实际上,大多数概率分布都可以表示成指数分布族的形式。比如:

(1)伯努利分布:对0、1问题进行建模;

(2)多项式分布:多有K个离散结果的事件的建模;

(3)泊松分布:对计数过程进行建模,比如网站访问量的计数问题,放射性衰变的数目,商店 顾客数量等问题;

(4)伽马分布与指数分布:对有间隔的正数进行建模,比如公交车的到站时间问题;

(5)β分布:对小数建模;

(6)Dirichlet分布:对概率分布建模;

(7)Wishart分布:协方差矩阵的分布;

(8)高斯分布;

实际上,大多数概率分布都可以表示成上式的形式。比如:

1)伯努利分布:对0、1问题进行建模;

2)多项式分布:多有K个离散结果的事件的建模;

3)泊松分布:对计数过程进行建模,比如网站访问量的计数问题,放射性衰变的数目,商店 顾客数量等问题;

4)伽马分布与指数分布:对有间隔的正数进行建模,比如公交车的到站时间问题;

5)β分布:对小数建模;

6)Dirichlet分布:对概率分布建模;

7)Wishart分布:协方差矩阵的分布;

8)高斯分布;