İstatistik – Sosyal Bilimlerde İstatistik (25) – Bayesliler Ne İstiyor ve Neden İstiyor? – İstatistik Nedir? – İstatistik Fiyatları – Ücretli İstatistik Yaptırma

On yılı aşkın süredir ödev yapma desteği veren Ödevcim Akademik, size İstatistiğin her alanında yardımcı olacaktır. Sosyal Bilimlerde İstatistik, İstatistik Nedir, İstatistik Fiyatları, Ücretli İstatistik Yaptırma, Analiz Yaptırma, Veri Analizi Yaptırma aramalarında sizde Ödevcim Akademik destek olsun istiyorsanız yapmanız gerekenler çok basit. Öncelikle İstatistik ile ilgili belgelerinizi akademikodevcim@gmail.com sayfamızdan gönderebilir ödevleriniz, tezleriniz, makaleleriniz ve projeleriniz ile ilgili destek alabilirsiniz.

MCMC Örneklemeye Giriş

Tersine çevirme ve reddetme örneklemesinin sınırlamaları, bu basit yöntemlerin yüksek boyutlu dağılımları içeren karmaşık istatistiksel analizlerde kullanılması ihtimalini göz korkutucu hale getirmektedir. Reddetme örnekleme yaklaşımları daha verimli olacak şekilde iyileştirilebilse de, gerçek dünya istatistiksel modellemede kendi başlarına çok yararlı değillerdir. Neyse ki, son birkaç on yılda, karmaşık dağıtımlardan örneklemeyi kolaylaştıran MCMC yöntemleri geliştirilmiştir. Ayrıca, karmaşık dağıtımlardan örneklemeye izin vermenin yanı sıra, bu yöntemler, geri kalan bölümlerde tartışacağımız gibi, birkaç ek fayda sağlar.

MCMC örnekleme, genellikle bu yoğunlukları daha yönetilebilir tek değişkenli veya çok değişkenli yoğunluklara bölerek, örneklemesi kolay olmayan çok değişkenli yoğunluklardan numune almak için bir yöntem sağlar. Temel MCMC yaklaşımı,

(1) bir posterior dağıtımın bir veya daha fazla boyutundan örnekleme ve

(2) bir posterior dağıtımın tüm desteği boyunca hareket ettirme için bir reçete sağlar.

Aslında “Markov zinciri Monte Carlo” adı bu süreci ifade ediyor. “Monte Carlo” kısmı, rastgele simülasyon sürecini ifade eder. “Markov zinciri” bölümü, önceki değer verildiğinde, arka dağıtımdan yeni bir değeri örnekleme sürecini ifade eder: Bu yinelemeli süreç, arkadan çizimlerin bir örneğini oluşturan bir Markov değerler zinciri üretir.

Genel Gibbs Örneklemesi

Gibbs örnekleyici, Bayes istatistiğinde kullanılan en temel MCMC yöntemidir. Gibbs örneklemesi, 1990’dan önce fizikte geliştirilmiş ve kullanılmış olmasına rağmen, Bayes istatistiklerinde yaygın kullanımı, 1990’da Gelfand ve Smith (1990) tarafından tanıtılmasıyla ortaya çıkmıştır. Bir sonraki bölümde daha fazla tartışılacağı gibi, Gibbs örnekleyici, (1) çok değişkenli bir postordan örneklemenin uygun olmadığı, ancak (2) Her parametre (veya bunların blokları) için koşullu dağılımlar mümkündür. Genel bir Gibbs örnekleyici, aşağıdaki yinelemeli süreci izler (j yineleme sayısını dizine ekler):

0. Parametre vektörüne bir başlangıç değerleri vektörü (S) atayın: Θj = 0 = S.
1. Setj = j + 1.
2. Örnek (θj | θj − 1, θj − 1.. Θj − 1).
3. Örnek (θj | θj, θj − 1 … θj − 1).
213 k
. .
k. Örnek (θj | θj, θj, …, θj).
k12 k − 1 k + 1. 1. adıma dönün.

Diğer bir deyişle, Gibbs örneklemesi, diğer tüm parametrelerin o anki değeri verilen her bir parametre için koşullu dağılımdan parametrelerin sıralanmasını ve örneklenmesini ve bu güncelleme sürecinde tekrar tekrar döngü yapılmasını içerir. Bu adımlar boyunca her “döngü”, Gibbs örnekleyicisinin “yinelemesi” olarak adlandırılır ve bir parametrenin yeni bir örneklenmiş değeri elde edildiğinde, buna “güncellenmiş” değer denir.

Gibbs örneklemesi için, bir parametrenin tam koşullu yoğunluğunun yalnızca normalleştirme sabitine kadar bilinmesi gerekir. Bölüm 2 ve 3’te tartıştığımız gibi, bu, eklem yoğunluğunu mevcut değerlerinde ayarlanan diğer parametrelerle birlikte kullanabileceğimiz anlamına gelir. Bu gerçek, Gibbs örneklemesini, diğer tüm parametreler sabit olarak ele alındığında, eklem yoğunluğunun her parametre için bilinen formlara düştüğü çoğu problem için nispeten basit hale getirir.

Ters çevirme Yöntemi Kullanılarak Gibbs Örnekleme Örneği

Burada, Bölüm 2 f (x, y) = (1/28) (2x + 3y + 2) ‘de geliştirilen iki değişkenli düzlem dağılımına dayanan Gibbs örneklemesinin basit bir örneğini sunuyorum. X için koşullu dağılım şöyleydi:

f (x | y) = (x, y) = 2x + 3y + 2, / f (y) 6y + 8

ve y için koşullu dağılım şöyleydi:

f (y | x) = f (x, y) = 2x + 3y + 2. / f (x) 4x + 10

Bu nedenle, bu problemde x ve y örneklemek için bir Gibbs örnekleyici şu adımları izleyecektir:

1. j = 0’ı ayarlayın ve başlangıç değerlerini belirleyin. Burada xj = 0 = −5 ve yj = 0 = −5 olarak ayarlayalım.
2. f (x | y = yj) ‘den xj + 1 örneği.
3. f (y | x = xj + 1) ‘den yj + 1 örnekleyin.
4. Arttırma j = j + 1vereturntostep2untilj = 2000.

Bu koşullu dağılımlardan nasıl örnek alırız? Ne olduklarını biliyoruz, ancak kesinlikle standart dağıtımlar değiller. Standart dağılım olmadıklarından, ancak bu koşullu ifadeler tek değişkenli olduğundan ve her biri için F − 1 () hesaplanabildiğinden, her koşullu yoğunluktan örneklemek için bir ters çevirme alt yordamı kullanabiliriz. Bu iki değişkenli yoğunluktaki tersleri nasıl buluruz? Ters çevirme örneklemesinin önce bir u ∼ U (0,1) rasgele değişken çizmeyi ve ardından F − 1 kullanarak bu çekmeyi tersine çevirmeyi gerektirdiğini hatırlayın. Bu nedenle, y | x için koşullu yoğunluğun tersini bulmak için şunu çözmemiz gerekir:

u = 2x + 3y + 2 / 4x + 10

z için. Bunun y için koşullu yoğunluk olduğu göz önüne alındığında, x sabittir ve bir sabit olarak kabul edilebilir ve şunu elde ederiz:

u (4x + 10) = (2x + 2) y + (3/2) y2􏰍􏰍z0.

Böylece

u (4x + 10) = (2x + 2) z + (3/2) z2.

(2/3) ile çarpıp terimleri yeniden düzenledikten sonra şunu elde ederiz:

(2/3) u (4x + 10) = z2 + (2/3) (2x + 2) z.

Daha sonra kareyi z’de tamamlayabilir ve z’yi bulup şunu elde edebiliriz:

z = (2/3) u (4x + 10) + ((1/3) (2x + 2)) 2 – (1/3) (2x + 2).

X için bir akım değeri ve rastgele bir u çekme verildiğinde, z, y | x için koşullu yoğunluktan rastgele bir çizimdir. X | y’nin tersini bulmak için benzer bir işlem gerçekleştirilebilir (bkz. Alıştırmalar).

Aşağıda Gibbs örneklemesini uygulayan bir R programı da bulunmaktadır:

Ters çevirme yöntemi kullanılarak Gibbs örneklemesi için #R programı x = matris (-5,2000); y = matris (-5,2000)
için (2: 2000’de i)

{# x’ | y u = runif (1, min = 0, maks = 1) x [i] = sqrt (u *
(6 * y [i-1] +8) + (1.5 * y [i-1] +1) * ( 1.5 * y [i-1] +1))
– (1.5 * y [i-1] +1) # y’den örnek | x u = runif (1, min = 0, maks = 1)
y [i] = sqrt ((2 * u * (4 * x [i] +10)) / 3 + ((2 * x [i] +2) / 3) * ((2 * x [i] + 2) / 3))
– ((2 * x [i] +2) / 3)

Bu program önce x ve y için başlangıç değerlerini -5’e eşit olarak ayarlar. Daha sonra, y’nin mevcut değeri kullanılarak x yeniden güncellenir. Daha sonra, x’in yeni örneklenmiş değeri kullanılarak y güncellenir. (X [i] ‘nin y [i-1] kullanılarak nasıl hesaplandığına dikkat edin, oysa y [i], x [i] kullanılarak örneklenir. Her ikisi de yukarıda tartışılan örneklemenin ters çevirme yöntemi kullanılarak da güncellenir ve uygulanabilir.

Bayes istatistiğinde kullanılan en temel MCMC yöntemi Genel Gibbs Örneklemesi Gibbs örneklemesi Gibbs örneklemesi için İstatistik – Sosyal Bilimlerde İstatistik (25) – Bayesliler Ne İstiyor ve Neden İstiyor? – İstatistik Nedir? – İstatistik Fiyatları – Ücretli İstatistik Yaptırma Ters çevirme Yöntemi Ters çevirme Yöntemi Kullanılarak Gibbs Örnekleme Örneği Tersine çevirme ve reddetme örneklemesi

İstatistik – Sosyal Bilimlerde İstatistik (25) – Bayesliler Ne İstiyor ve Neden İstiyor? – İstatistik Nedir? – İstatistik Fiyatları – Ücretli İstatistik Yaptırma