惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

爱范儿
爱范儿
博客园 - 【当耐特】
量子位
Engineering at Meta
Engineering at Meta
博客园_首页
大猫的无限游戏
大猫的无限游戏
IT之家
IT之家
V
Visual Studio Blog
小众软件
小众软件
阮一峰的网络日志
阮一峰的网络日志
美团技术团队
Jina AI
Jina AI
The Cloudflare Blog
T
Tailwind CSS Blog
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
雷峰网
雷峰网
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
宝玉的分享
宝玉的分享
WordPress大学
WordPress大学
有赞技术团队
有赞技术团队
酷 壳 – CoolShell
酷 壳 – CoolShell
Last Week in AI
Last Week in AI
人人都是产品经理
人人都是产品经理
博客园 - 聂微东

博客园 - 西瓜K菠萝

【转载】主成分分析法(PCA) 最优化问题的简洁介绍 svm常用核函数 [转]核函数K(kernel function) 【转载】极大值与等高线 [转载]用等高线图(Contour maps)可视化多变量函数 【转载】反向传播算法解释 【转载】正则化避免过拟合 【转载】多项式分布 【转载】广义线性模型 [转载]牛顿方法 Octave 里的 fminunc 【转载】第3周笔记-逻辑回归 先验概率、后验概率、贝叶斯公式、 似然函数 从几率到logisitic函数 如何理解logistic函数? 【转载】logistic回归 【转载】逻辑回归 【转载】用OCTAVE实现一元线性回归的梯度下降算法
【转载】指数分布族
西瓜K菠萝 · 2018-03-18 · via 博客园 - 西瓜K菠萝

【转载】指数分布族

Posted on 2018-03-18 22:37  西瓜K菠萝  阅读(978)  评论()    收藏  举报

http://blog.csdn.net/v1_vivian/article/details/52038037

指数分布族是指可以表示为指数形式的概率分布。指数分布族的形式如下:(其中,η称为分布的自然参数(nature parameter);T(y)是充分统计量(sufficient statistic),通常T(y)=y。当参数a、b、T都固定时,就定义了一个以η为参数的函数族):

以将高斯分布和伯努利分布为例,我们将它们表示称为指数分布族的形式。

1.将伯努利分布写成指数分布族的形式

伯努利分布是对0,1问题进行建模的分布,它可以用如下形式表示:

将其转换形式:

此时,我们就将伯努利分布表示成了指数分布族的形式;其中:

2.将高斯分布写成指数分布族的形式

由高斯分布可以推导出线性模型,由线性模型的假设函数可知,高斯分布的方差σ²与假设函数无关,所以简便起见,我们可以将σ²的值设为1,推导过程如下:

此时,我们就将高斯分布表示成了指数分布族的形式;其中:

                                

实际上,大多数概率分布都可以表示成指数分布族的形式。比如:

(1)伯努利分布:对0、1问题进行建模;

(2)多项式分布:多有K个离散结果的事件的建模;

(3)泊松分布:对计数过程进行建模,比如网站访问量的计数问题,放射性衰变的数目,商店 顾客数量等问题;

(4)伽马分布与指数分布:对有间隔的正数进行建模,比如公交车的到站时间问题;

(5)β分布:对小数建模;

(6)Dirichlet分布:对概率分布建模;

(7)Wishart分布:协方差矩阵的分布;

(8)高斯分布;

实际上,大多数概率分布都可以表示成上式的形式。比如:

1)伯努利分布:对0、1问题进行建模;

2)多项式分布:多有K个离散结果的事件的建模;

3)泊松分布:对计数过程进行建模,比如网站访问量的计数问题,放射性衰变的数目,商店 顾客数量等问题;

4)伽马分布与指数分布:对有间隔的正数进行建模,比如公交车的到站时间问题;

5)β分布:对小数建模;

6)Dirichlet分布:对概率分布建模;

7)Wishart分布:协方差矩阵的分布;

8)高斯分布;