徽标
联盟百科
通讯
下载应用,请到 Google Play
新! 在您的Android™设备上下载联盟百科!
自由
比浏览器更快的访问!
 

最大后验概率

指数 最大后验概率

在贝叶斯统计学中,「最大后验概率估计」是后验概率分布的众数。利用最大后验概率估计可以获得对实验数据中无法直接观察到的量的点估计。它与最大似然估计中的经典方法有密切关系,但是它使用了一个增广的优化目标,进一步考虑了被估计量的先验概率分布。所以最大后验概率估计可以看作是规则化(regularization)的最大似然估计。 假设我们需要根据观察数据 x 估计没有观察到的总体参数 \theta,让 f 作为 x 的采样分布,这样 f(x|\theta) 就是总体参数为 \theta 时 x 的概率。函数 即为似然函数,其估计 就是 \theta 的最大似然估计。 假设 \theta 存在一个先验分布 g,这就允许我们将 \theta 作为 贝叶斯统计(:en:Bayesian statistics)中的随机变量,这样 \theta 的后验分布就是: 其中 \Theta 是 g 的domain,这是贝叶斯定理的直接应用。 最大后验估计方法于是估计 \theta 为这个随机变量的后验分布的众数:.

17 关系: 后验概率均值导数中位數常數函數似然函数众数共轭先验先验概率统计学随机变量解析解贝叶斯定理最大似然估计最大期望算法最优化數字

后验概率

在贝叶斯统计中,一个随机事件或者一个不确定事件的后验概率是在考虑和给出相关证据或数据后所得到的条件概率。同样,后验概率分布是一个未知量(视为随机变量)基于试验和调查后得到的概率分布。“后验”在本文中代表考虑了被测试事件的相关证据。.

新!!: 最大后验概率和后验概率 · 查看更多 »

均值

#重定向 平均数.

新!!: 最大后验概率和均值 · 查看更多 »

导数

导数(Derivative)是微积分学中重要的基礎概念。一个函数在某一点的导数描述了这个函数在这一点附近的变化率。导数的本质是通过极限的概念对函数进行局部的线性逼近。当函数f的自变量在一点x_0上产生一个增量h时,函數输出值的增量與自變量增量h的比值在h趋于0时的極限如果存在,即為f在x_0处的导数,记作f'(x_0)、\frac(x_0)或\left.\frac\right|_。例如在运动学中,物体的位移对于时间的导数就是物体的瞬时速度。 导数是函数的局部性质。不是所有的函数都有导数,一个函数也不一定在所有的点上都有导数。若某函数在某一点导数存在,则称其在这一点可导,否则称为不可导。如果函数的自变量和取值都是实数的话,那么函数在某一点的导数就是该函数所代表的曲线在這一点上的切线斜率。 对于可导的函数f,x \mapsto f'(x)也是一个函数,称作f的导函数。寻找已知的函数在某点的导数或其导函数的过程称为求导。反之,已知导函数也可以倒过来求原来的函数,即不定积分。微积分基本定理说明了求原函数与积分是等价的。求导和积分是一对互逆的操作,它们都是微积分学中最为基础的概念。.

新!!: 最大后验概率和导数 · 查看更多 »

中位數

中位數(又稱中值,Median),統計學中的專有名詞,代表一個樣本、種群或概率分佈中的一個數值,其可將數值集合劃分爲相等的上下兩部分。對於有限的數集,可以通過把所有觀察值高低排序後找出正中間的一個作爲中位數。如果觀察值有偶數個,則中位數不唯一,通常取最中間的兩個數值的平均數作爲中位數。 一個數集中最多有一半的數值小於中位數,也最多有一半的數值大於中位數。如果大於和小於中位數的數值個數均少於一半,那麽數集中必有若干值等同於中位數。 设连续随机变量X的分布函数为F(X),那么满足条件P(X≤m).

新!!: 最大后验概率和中位數 · 查看更多 »

常數函數

在数学中,常数函数(也称常值函数)是指值不发生改变(即是常数)的函数。例如,我们有函数f(x).

新!!: 最大后验概率和常數函數 · 查看更多 »

似然函数

在数理统计学中,似然函数是一种关于统计模型中的参数的函数,表示模型参数中的似然性。似然函数在统计推断中有重大作用,如在最大似然估计和费雪信息之中的应用等等。“似然性”与“或然性”或“概率”意思相近,都是指某种事件发生的可能性,但是在统计学中,“似然性”和“或然性”或“概率”又有明确的区分。概率用于在已知一些参数的情况下,预测接下来的观测所得到的结果,而似然性则是用于在已知某些观测所得到的结果时,对有关事物的性质的参数进行估计。 在这种意义上,似然函数可以理解为条件概率的逆反。在已知某个参数B时,事件A会发生的概率写作: 利用-zh-hk:貝葉斯定理;zh-hans:贝叶斯定理;zh-tw:貝氏定理;-, 因此,我们可以反过来构造表示似然性的方法:已知有事件A发生,运用似然函数\mathbb(B \mid A),我们估计参数B的可能性。形式上,似然函数也是一种条件概率函数,但我们关注的变量改变了: 注意到这里并不要求似然函数满足归一性:\sum_P(A \mid B.

新!!: 最大后验概率和似然函数 · 查看更多 »

众数

众数可以指:.

新!!: 最大后验概率和众数 · 查看更多 »

共轭先验

在贝叶斯统计中,如果后验分布与先验分布属于同类,则先验分布与后验分布被称为共轭分布,而先验分布被称为似然函数的共轭先验。比如,高斯分布家族在高斯似然函数下与其自身共轭 (自共轭)。这个概念,以及"共轭先验"这个说法,由  和 在他们关于贝叶斯决策理论的工作中提出。Howard Raiffa and Robert Schlaifer.

新!!: 最大后验概率和共轭先验 · 查看更多 »

先验概率

在贝叶斯统计中,某一不确定量p的先验概率分布是在考虑"观测数据"前,能表达p不确定性的概率分布。它旨在描述这个不确定量的不确定程度,而不是这个不确定量的随机性。这个不确定量可以是一个参数,或者是一个隐含变量(latent variable)。 在使用贝叶斯定理时,我们通过将先验概率与似然函数相乘,随后标准化,来得到后验概率分布,也就是给出某数据,该不确定量的条件分布。 先验概率通常是主观的猜测,为了使计算后验概率方便,有时候会选择共轭先验。如果后验概率和先验概率是同一族的,则认为它们是共轭分布,这个先验概率就是对应于似然函数的共轭先验。 Category:概率论.

新!!: 最大后验概率和先验概率 · 查看更多 »

统计学

统计学是在資料分析的基础上,研究测定、收集、整理、归纳和分析反映數據資料,以便给出正确訊息的科學。這一门学科自17世纪中叶产生并逐步发展起来,它廣泛地應用在各門學科,從自然科学、社會科學到人文學科,甚至被用於工商業及政府的情報決策。隨著大数据(Big Data)時代來臨,統計的面貌也逐漸改變,與資訊、計算等領域密切結合,是資料科學(Data Science)中的重要主軸之一。 譬如自一組數據中,可以摘要並且描述這份數據的集中和離散情形,這個用法稱作為描述統計學。另外,觀察者以數據的形態,建立出一個用以解釋其隨機性和不確定性的數學模型,以之來推論研究中的步驟及母體,這種用法被稱做推論統計學。這兩種用法都可以被稱作為應用統計學。數理統計學则是討論背後的理論基礎的學科。.

新!!: 最大后验概率和统计学 · 查看更多 »

随机变量

給定樣本空间(S, \mathbb),如果其上的實值函數 X:S \to \mathbb是\mathbb (實值)可測函數,则稱X為(實值)随机变量。初等概率論中通常不涉及到可測性的概念,而直接把任何X:S \to \mathbb的函數稱為随机变量。 如果X指定给概率空间S中每一个事件e有一个实数X(e),同时针对每一个实数r都有一个事件集合A_r与其相对应,其中A_r.

新!!: 最大后验概率和随机变量 · 查看更多 »

解析解

解析解,又稱為閉式解,是可以用解析表達式來表達的解。 在数学上,如果一个方程或者方程组存在的某些解,是由有限次常见运算的組合给出的形式,则称该方程存在解析解。二次方程的根就是一个解析解的典型例子。在低年级数学的教学当中,解析解也被称为公式解。 当解析解不存在时,比如五次以及更高次的代数方程,则该方程只能用数值分析的方法求解近似值。大多數偏微分方程,尤其是非线性偏微分方程,都只有數值解。 解析表達式的准确含义依赖于何种运算称为常见运算或常见函数。传统上,只有初等函数被看作常见函数(由於初等函數的運算總是獲得初等函數,因此初等函數的運算集合具有閉包性質,所以又稱此種解為閉式解),无穷级数、序列的极限、连分数等都不被看作常见函数。按这种定义,许多累积分布函数无法写成解析表達式。但如果把特殊函数,比如误差函数或gamma函数也看作常见函数,则累积分布函数可以写成解析表達式。 在计算机应用中,这些特殊函数因为大多有现成的数值法实现,它们通常被看作常见运算或常见函数。实际上,在计算机的计算过程中,多数基本函数都是用数值法计算的,所以所谓的基本函数和特殊函数对计算机而言并无区别。 J J J en:Analytical expression ja:解析解.

新!!: 最大后验概率和解析解 · 查看更多 »

贝叶斯定理

贝叶斯定理(Bayes' theorem)是概率论中的一个定理,它跟随机变量的条件概率以及边缘概率分布有关。在有些关于概率的解释中,贝叶斯定理(贝叶斯公式)能够告知我们如何利用新证据修改已有的看法。這個名稱來自於托马斯·贝叶斯。 通常,事件A在事件B(发生)的条件下的概率,与事件B在事件A(发生)的条件下的概率是不一样的。然而,这两者是有确定的关系的,贝叶斯定理就是这种关系的陈述。贝叶斯公式的一个用途在于通过已知的三个概率函数推出第四个。 作为一个普遍的原理,贝叶斯定理对于所有概率的解释是有效的。然而,频率主义者和贝叶斯主义者对于“在应用中,某个随机事件的概率该如何被赋值?”这个问题有着不同的看法:频率主义者根据随机事件发生的频率,或者总体样本裡面的发生的个数来赋值概率;贝叶斯主义者则根据未知的命题来赋值概率。这样的理念导致贝叶斯主义者有更多的机会使用贝叶斯定理。.

新!!: 最大后验概率和贝叶斯定理 · 查看更多 »

最大似然估计

在统计学中,最大似然估计(maximum likelihood estimation,缩写为MLE),也称最大概似估计,是用来估计一个概率模型的参数的一种方法。.

新!!: 最大后验概率和最大似然估计 · 查看更多 »

最大期望算法

最大期望演算法(Expectation-maximization algorithm,又譯期望最大化算法)在统计中被用于寻找,依赖于不可观察的隐性变量的概率模型中,参数的最大似然估计。 在统计计算中,最大期望(EM)算法是在概率模型中寻找参数最大似然估计或者最大后验估计的算法,其中概率模型依赖于无法观测的。最大期望算法经常用在机器学习和计算机视觉的数据聚类(Data Clustering)领域。最大期望算法经过两个步骤交替进行计算,第一步是计算期望(E),利用对隐藏变量的现有估计值,计算其最大似然估计值;第二步是最大化(M),最大化在E步上求得的最大似然值来计算参数的值。M步上找到的参数估计值被用于下一个E步计算中,这个过程不断交替进行。.

新!!: 最大后验概率和最大期望算法 · 查看更多 »

最优化

最优化,是应用数学的一个分支,主要研究以下形式的问题:.

新!!: 最大后验概率和最优化 · 查看更多 »

數字

數字是一種用來表示數的書寫符号。.

新!!: 最大后验概率和數字 · 查看更多 »

传出传入
嘿!我们在Facebook上吧! »