Adım Adım Bayesci Çıkarım 2 - Sonsal Dağılımın Hesaplanması
Bir çok modelde birden fazla parametre olacaktır. Dolayısıyla parametreler, 
şeklinde bir vektör olacaktır. Bu durumda sonsal dağılım, 
çok değişkenli bir olasılık dağılımı olacaktır. Bu durumda, örneğin, 
parametresini tahmin etmek istediğimizde
integralini hesaplamalıyız. Çoğu durumda bu integralin analitik olarak bir çözümü bulunamadığından nümerik yöntemlere başvurmalıyız.
Monte Carlo İntegrasyonu
integralini hesaplamak istediğimizi düşünelim. Eğer 
, polinom fonksiyon ya da trigonometrik fonksiyon gibi kolay bir fonksiyon ise, integralin kapalı form çözümünü bulmak kolaydır. Ancak daha komplike bir fonksiyon ise integralin kapalı form çözümü olmayabilir. Bu durumda integrali nümerik olarak hesaplayabilmek için çeşitli yöntemler bulunmaktadır. Monte Carlo integrasyonu bunlardan biridir.
İlk olarak
yazalım. Burada 
ve 
‘dır. Burada 
, 
aralığında düzgün dağılan bir olasılık yoğunluk fonksiyonudur. Bundan dolayı 
olmak üzere
olur. Eğer 
sayılarını üretirsek, Büyük Sayılar Kanunu nedeniyle
olur. Ayrıca 
ve 
olmak üzere standart hatayı
ile hesaplayabiliriz. Integralin 
güven aralığı ise 
ile hesaplanabilir.
Böylece en basit Monte Carlo integrasyonunu gördük. Importance sampling, Gibbs sampling, Hamiltonian Monte Carlo (HMC) gibi daha komplike ve modern yöntemler de mevcuttur.
Markov Chain Monte Carlo (MCMC)
MCMC algoritmaları hakkında kısaca bilgi verelim. MCMC algoritmasının temel amacı, durağan dağılımı (stationary distribution) hedef dağılım olan bir Markov zinciri tasarlamaya dayanır.
Bir Markov zinciri, stokastik süreçlerin özel bir tipidir. Bir stokastik süreç, 
çoğunlukla zamanı göstermek üzere,
şeklinde tanımlanan, rassal değişkenlerin sıralı bir koleksiyonudur. 
değerini, 
durumunun anındaki değeri olarak düşünürsek ve her bir durum için
koşulunu koyarsak, stokastik süreç Markov zinciri olarak adlandırılır. Yani, gelecekteki durum, sadece şu anki durumdan etkilenir, geçmiş durumlardan etkilenmez.