檢視馬可夫鏈蒙地卡羅的原始碼

'''馬可夫鏈蒙地卡羅'''（英語：'''M'''arkov'''c'''hain'''M'''onte'''C'''arlo，'''MCMC'''）方法（含'''隨機漫步蒙地卡羅'''方法）是一組用馬氏鏈自隨機分布取樣的演算法，進前遐爾仔順序的作為底本。步數愈濟，結果愈好。

建立一个具有向望屬性的馬氏鏈並毋是歹事，困難的是按怎決定通過偌濟步會當達到佇咧許可誤差內的穩定分佈。一个好的馬氏鏈具有 _ 快速混合 _—— 對開始階段快速得著的一个穩定狀態—— 請參考馬氏鏈上大時間。

因為初初開始的時陣，上捷看著的 MCMC 欲提名干焦會當近得著分布。複雜的 MCMC 改進演算法如過往分開，但是會消磨閣較濟計算資源佮時間。

典型用法是類比一个隨機行踏的人來進行路草最佳化等。每一步攏算做是一个狀態。啊若統計經過次數上濟的所在會佇後一步內底閣較有可能為目的的所在。馬氏蒙地卡羅方法是一款結合了蒙特卡羅法的解決方案。毋過佮往過的蒙地卡羅 integration 是統計獨立的，MCMC 中的是 _ 統計相關的 _。

本方法的相關應用包括：貝氏統計、計算物理、計算生物佮計算語言學，此外閣有 Gill 先生的一寡著作。

Jeff Gill . Bayesian methods : a social and behavioral sciences approach Second Edition . London : Chapman and Hall / CRC . 兩千空八 [二千空一十二孵二孵七] . ISBN 一石頭五八千四百八十八分五百六十二孵九 .（原始內容存檔佇兩千空九九抹五鋪二十三）.   引文格式的一維護：趁的文字 ( link )
< / ref > and Robert & Casella .

==隨機漫步演算法==

馬氏鏈性質決定後一个方位決定佇當前狀態參隨機變數。按呢的性質決定矣最終所有的空間將被崁但是咧煞需要開較長時間。下跤遐予出 MCMC 方法：

* Metropolis–Hastings 演算法：予出預見密度佮回絕照予出方向行的方法。
* 吉布斯採樣：取目標區域所有的條件分布樣本。
* 平滑取樣
* 偌重實驗咧 Metropolis：Metropolis–Hastings 演算法的改良版本。

==基本步數==

MCMC 方法是使用馬爾科夫鏈的蒙地卡羅積分，其基本就想講是：構造一條 Markov 鏈使其平穩分佈為待估參數的代誌了後分佈 $ \ pi ( x ) $，通過這條馬爾科夫鏈產生事後分布的樣本，而且因為馬爾科夫鏈達到平棒分布的時陣的樣本（有效樣本）進行蒙特卡羅積分。設 $ n $ 為產生的總樣本數，$ m $ 為 Markov 鏈達到平穩時的樣本數則 MCMC 方法的基本思路可概有為著：

* 構造 Markov 鏈。構造一條 Markov 鏈，予定馬爾科夫鏈狀態轉移矩陣 $ Q $，予伊收縮甲平穩分布 $ \ pi ( x ) $；
* 產生樣本：自初開始狀態 $ x _ { 零 } \ sim p _ { 零 } $ 出發，利用對條件機率分布 $ Q ( x | x _ { t } ) $ 生做樣本，閣通過轉移條件判斷是毋是轉移，通過 $ m $ 次更新達到平穩，此後生成的即為 $ \ pi ( x ) $ 彼看本的，阮記為講 $ x ^ { ( 一 ) } , \ cdots , x ^ { ( n ) } $；
* 蒙特卡羅積分。任一函數 $ f ( x ) $ 的向望估計為：$ { \ frac { 一 } { n } } \ sum _ { i=一 } ^ { n } f ( x ^ { ( i ) } ) $

咧採用喔 MCMC 方法時馬爾科夫鏈轉移核的構造到關要，無仝的轉移核構造方法將產生無仝的 MCMC 方法，目前定定用的 MCMC 方法主要有兩種 Gibbs 抽樣和 Metropolis-Hastings 演算法。

==抽樣演算法==

l'''Gibbs''''_ 抽樣'_

Gibbs 抽樣是現實中上簡單應用上廣泛的 MCMC 方法，由 Geman 頭仔號名提出其基礎思路如下：

予定任意的初始向量；

對中抽取樣本對中抽取樣本

…

對中抽取樣本

…

對中抽取樣到這陣，完成的轉移。經過 n 迵天代，會當有後驗平本。根據後驗平本會當算事後分布的各階矩，做相應的統計推論。

*'''Metropolis-Hastings''''_ 演算法'_

Metropolis-Hastings 演算法是較早出現而且較一般化的 MCMC 方法，上原初由 Metropolis 等人佇一九五三年提出了由 Hastings 嘿其加以推廣形成的，Metropolis-Hastings 方法。該辦法的基本思路是：選擇一轉移函數佮初始值，若迵天代開始的時陣的參數值為

， 是第一擺迵天代過程為：

* 對中抽取一个備選值
* 算接受機率
* 以機率，置，以機率，置；
* 重複'''i–iii'''次，則會當後驗平本。根據後驗平本會當算事後分布的各階矩，做相應的統計推論。

==參見==

* 貝葉斯推理
* 圖模式
* 馬可夫鏈
* 馬可夫邏輯網路

==注釋==

==參考文獻==

==外部連結==

* MCMC sampling and other methods in a basic overview , by Alexander Mantzaris
* Visual demonstration of MCMC sampling methods ( Java applet ) , by Laird Breyer
* A Toy Example of MCMC sampling , by Zhiyuan Weng
* MCL-a cluster algorithm for graphs , by Stijn van Dongen

[[分類: 待校正]]