目录
11 关系: 吉布斯采样,佩尔西·戴康尼斯,归纳推理,算法,隨機漫步,马尔可夫链,计算物理学,计算语言学,蒙地卡羅方法,Metropolis–Hastings算法,条件概率分布。
- 蒙地卡羅方法
- 計算統計學
- 马尔可夫模型
吉布斯采样
吉布斯采样(Gibbs sampling)是统计学中用于马尔科夫蒙特卡洛(MCMC)的一种算法,用于在难以直接采样时从某一多变量概率分布中近似抽取样本序列。该序列可用于近似联合分布、部分变量的边缘分布或计算积分(如某一变量的期望值)。某些变量可能为已知变量,故对这些变量并不需要采样。 吉布斯采样常用于统计推断(尤其是贝叶斯推断)之中。这是一种随机化算法,与最大期望算法等统计推断中的确定性算法相区别。与其他MCMC算法一样,吉布斯采样从马尔科夫链中抽取样本,可以看作是Metropolis–Hastings算法的特例。 该算法的名称源于约西亚·威拉德·吉布斯,由与兄弟于1984年提出。.
佩尔西·戴康尼斯
戴康尼斯(Persi Diaconis,),美國數學家、统计学家,曾為職業魔術師。他是史丹福大學的數學與統計學教授。 他解決了一些隨機性的問題,包括擲幣和洗牌。1992年,他和David Bayer證明完美的洗牌至少要洗七次。他又和說明從高處跌下的貓為何總能以腳著地的Richard Montgomery合作,證明了擲幣哪面向上,物理因素比運氣重要得多。.
归纳推理
归纳法或归纳推理(Inductive reasoning),有时叫做归纳逻辑,是论证的前提支持结论但不确保结论的推理过程。它基于对特殊的代表(token)的有限观察,把性质或关系归结到类型;或基于对反复再现的现象的模式(pattern)的有限观察,公式表达规律。例如,使用归纳法在如下特殊的命题中:.
算法
-- 算法(algorithm),在數學(算學)和電腦科學之中,為任何良定义的具體計算步驟的一个序列,常用於計算、和自動推理。精確而言,算法是一個表示爲有限長列表的。算法應包含清晰定義的指令用於計算函數。 算法中的指令描述的是一個計算,當其時能從一個初始狀態和初始輸入(可能爲空)開始,經過一系列有限而清晰定義的狀態最終產生輸出並停止於一個終態。一個狀態到另一個狀態的轉移不一定是確定的。隨機化算法在内的一些算法,包含了一些隨機輸入。 形式化算法的概念部分源自尝试解决希尔伯特提出的判定问题,並在其后尝试定义或者中成形。这些尝试包括库尔特·哥德尔、雅克·埃尔布朗和斯蒂芬·科尔·克莱尼分别于1930年、1934年和1935年提出的遞歸函數,阿隆佐·邱奇於1936年提出的λ演算,1936年的Formulation 1和艾倫·圖靈1937年提出的圖靈機。即使在當前,依然常有直覺想法難以定義爲形式化算法的情況。.
查看 马尔科夫蒙特卡洛和算法
隨機漫步
随机游走(Random Walk,縮寫為 RW),是一种數學統計模型,它是一連串的軌跡所組成,其中每一次都是随机的。它能用來表示不规则的变动形式,如同一个人酒后乱步,所形成的随机过程記錄。1905年,由卡尔·皮尔逊首次提出。 通常,我們可以假設隨機漫步是以马尔可夫链或馬可夫過程的形式出現,但是比較複雜的隨機漫步則不一定以這種形式出現。在某些限制條件下,會出現一些比較特殊的模式,如醉漢走路(drunkard's walk)或萊維飛行(Lévy flight)。 Category:时间序列 Category:随机过程.
马尔可夫链
尔可夫链(Markov chain),又稱離散時間馬可夫鏈(discrete-time Markov chain,縮寫為DTMC),因俄國數學家安德烈·马尔可夫(Андрей Андреевич Марков)得名,为狀態空間中经过从一个状态到另一个状态的转换的随机过程。该过程要求具备“无记忆”的性质:下一状态的概率分布只能由当前状态决定,在时间序列中它前面的事件均与之无关。这种特定类型的“无记忆性”称作馬可夫性質。马尔科夫链作为实际过程的统计模型具有许多应用。 在马尔可夫链的每一步,系统根据概率分布,可以从一个状态变到另一个状态,也可以保持当前状态。状态的改变叫做转移,与不同的状态改变相关的概率叫做转移概率。随机漫步就是马尔可夫链的例子。随机漫步中每一步的状态是在图形中的点,每一步可以移动到任何一个相邻的点,在这里移动到每一个点的概率都是相同的(无论之前漫步路径是如何的)。.
计算物理学
計算物理學()是研究如何使用數值方法分析可以量化的物理学問題的学科。 历史上,计算物理学是计算机的第一项应用;目前计算物理学被视为计算科学的分支。 计算物理有时也被视为理论物理的分支学科或子问题,但也有人认为计算物理与理论物理与实验物理联系紧密,又相对独立,是物理学第三大分支《计算物理学》 刘金远等 科学出版社 ISBN 978-7-03-034793-0。.
计算语言学
計算語言學,亦稱電腦語言學(computational linguistics)是一門跨學科的研究領域,試圖找出自然語言的規律,建立運算模型,最終讓電腦能夠像人類般分析,理解和處理自然語言。 過去,計算語言學的研究一般由專門負責利用電腦處理自然語言的電腦學家進行。由於近年的研究顯示人類語言是超乎想像的複雜,現在的計算語言學研究多由來自不同學科的專家共同進行。一般來說,研究隊伍的成員有電腦學家、語言學家、語言專家(熟悉有關研究項目所要處理的語言的人),以至研究人工智能、認知心理學、數學、邏輯學等的專家。 計算語言學具有理論和應用的成分。理論計算語言學聚焦於理論語言學與認知科學;應用計算語言學聚焦於模擬人類使用語言的實用成果。 對於計算語言學的定義是:……從計算的觀點,以科學方法研究語言的學問。計算語言學家關注於提供各種語言學現象的計算模型。.
蒙地卡羅方法
蒙特卡罗方法(Monte Carlo method),也称统计模拟方法,是1940年代中期由于科学技术的发展和电子计算机的发明,而提出的一种以概率统计理论为指导的数值计算方法。是指使用随机数(或更常见的伪随机数)来解决很多计算问题的方法。 20世纪40年代,在冯·诺伊曼,斯塔尼斯拉夫·烏拉姆和尼古拉斯·梅特罗波利斯在洛斯阿拉莫斯国家实验室为核武器计划工作时,发明了蒙特卡罗方法。因为烏拉姆的叔叔经常在摩納哥的蒙特卡洛赌场输钱得名,而蒙特卡罗方法正是以概率为基础的方法。 与它对应的是确定性算法。 蒙特卡罗方法在金融工程学、宏观经济学、生物医学、计算物理学(如粒子输运计算、量子热力学计算、空气动力学计算)机器学习等领域应用广泛。.
Metropolis–Hastings算法
#重定向 梅特罗波利斯-黑斯廷斯算法.
查看 马尔科夫蒙特卡洛和Metropolis–Hastings算法
条件概率分布
条件概率分布(Conditional Probability Distribution,或者 条件分布,Conditional Distribution )是现代概率论中的概念。已知两个相关的随机变量X 和Y,随机变量Y 在条件下的条件概率分布是指当已知X 的取值为某个特定值x之时,Y 的概率分布。 如果Y 在条件下的条件概率分布是连续分布,那么其密度函数称作Y 在条件下的条件概率密度函数(条件分布密度、条件密度函数)。与条件分布有关的概念,常常以“条件”作为前缀,如条件期望、条件方差等等。.
另见
蒙地卡羅方法
計算統計學
马尔可夫模型
- PageRank
- 動態馬可夫壓縮
- 卡尔曼滤波
- 基因预测
- 多重序列比對
- 强化学习
- 熵率
- 等候理論
- 算法作曲
- 维特比算法
- 蛇梯棋
- 語言模型
- 路径依赖
- 轉移矩陣
- 量子马尔可夫链
- 隐马尔可夫模型
- 马尔可夫性质
- 马尔可夫链
亦称为 馬可夫蒙地卡羅。