Vecchia yaklaşımı - Vecchia approximation

Vecchia yaklaşımı bir Gauss süreçleri yaklaşım başlangıçta tarafından geliştirilen teknik Aldo Vecchia, bir istatistikçi Amerika Birleşik Devletleri Jeolojik Araştırması. Gauss süreçlerini yüksek boyutlu ortamlarda kullanmaya yönelik ilk girişimlerden biridir. O zamandan beri, birçok çağdaş yaklaşıma yol açacak şekilde kapsamlı bir şekilde genelleştirildi.

Sezgi

Olaylar için ortak bir olasılık dağılımı ${ displaystyle A, B}$ , ve ${ displaystyle C}$ , belirtilen ${ displaystyle P (A, B, C)}$ , olarak ifade edilebilir

{ Displaystyle P (A, B, C) = P (A) P (B | A) P (C | A, B)}

Vecchia'nın yaklaşımı şu biçimi alır, örneğin,

{ Displaystyle P (A, B, C) yaklaşık P (A) P (B | A) P (C | A)}

ve olaylar ne zaman doğrudur ${ displaystyle B}$ ve ${ displaystyle C}$ şartlı bağımsız bilgisine yakın ${ displaystyle A}$ . Elbette alternatif olarak yaklaşım seçilebilirdi

{ Displaystyle P (A, B, C) yaklaşık P (A) P (B | A) P (C | B)}

ve bu nedenle yaklaşımın kullanılması, diğerlerine göre hangi olayların koşullu olarak bağımsız olduğuna dair biraz bilgi gerektirir. Dahası, örneğin farklı bir sıralama seçebilirdik.

{ Displaystyle P (A, B, C) yaklaşık P (C) P (C | A) P (B | A).}

Neyse ki, çoğu durumda, yaklaşımın nasıl oluşturulacağına ilişkin kararlar veren iyi bir buluşsal yöntem vardır.

Daha teknik olarak, yaklaşımın genel versiyonları seyrek Cholesky faktörü hassas matrisin. Standart Cholesky çarpanlarına ayırmanın kullanılması yorumlanabilen girdiler üretir.^[1] bağımsızlığı belirtmeyen sıfırlarla koşullu korelasyonlar olarak (model Gauss'lu olduğundan). Bu bağımsızlık ilişkileri, alternatif olarak grafik modeller kullanılarak ifade edilebilir ve Cholesky faktöründe grafik yapısını ve köşe sıralamasını sıfırlarla bağlayan teoremler mevcuttur. Özellikle biliniyor^[2] ahlaki bir grafikte kodlanan bağımsızlıkların, kesinlik matrisinin Cholesky faktörlerine yol açtığını doldurun.

Resmi açıklama

Sorun

İzin Vermek ${ displaystyle x}$ olmak Gauss süreci tarafından dizine eklendi ${ displaystyle { mathcal {S}}}$ ortalama işlevi ile ${ displaystyle mu}$ ve kovaryans işlevi ${ displaystyle K}$ . Varsayalım ki ${ displaystyle S = {s_ {1}, noktalar, s_ {n} } alt küme { mathcal {S}}}$ sonlu bir alt kümesidir ${ displaystyle { mathcal {S}}}$ ve ${ displaystyle mathbf {x} = (x_ {1}, noktalar, x_ {n}))}$ değerlerinin bir vektörü ${ displaystyle x}$ değerlendirildi ${ displaystyle S}$ yani ${ displaystyle x_ {i} = x (s_ {i})}$ için ${ displaystyle i = 1, noktalar, n}$ . Birinin gözlemlediğini varsayalım ${ displaystyle mathbf {y} = (y_ {1}, noktalar, y_ {n})}$ nerede ${ displaystyle y_ {i} = x_ {i} + varepsilon _ {i}}$ ile ${ displaystyle varepsilon _ {i} { taşan { text {i.i.d.}} { sim}} { mathcal {N}} (0, sigma ^ {2})}$ . Bu bağlamda, en yaygın iki çıkarım görevi, olasılığın değerlendirilmesini içerir.

{ displaystyle { mathcal {L}} ( mathbf {y}) = int f ( mathbf {y}, mathbf {x}) , d mathbf {x},}

veya değerlerine ilişkin tahminlerde bulunmak ${ displaystyle x}$ için ${ mathcal {S}}} içinde { displaystyle s ^ {*}$ ve ${ displaystyle not S'de}$ yani hesaplama

{ displaystyle f (x (s ^ {*}) ortada y_ {1}, noktalar, y_ {n}).}

Orijinal formülasyon

Orijinal Vecchia yöntemi, gözlemlerin ortak yoğunluğunun ${ displaystyle f ( mathbf {y}) = sol (y_ {1}, noktalar, y_ {n} sağ)}$ koşullu dağılımların bir ürünü olarak yazılabilir

{ displaystyle f ( mathbf {y}) = f (y_ {1}) prod _ {i = 2} ^ {n} f (y_ {i} orta y_ {i-1}, noktalar, y_ {1}).}

Vecchia yaklaşımı, bunun yerine bazıları için ${ displaystyle k ll n}$

{ displaystyle { hat {f}} ( mathbf {y}) = f (y_ {1}) prod _ {i = 2} ^ {n} f (y_ {i} orta y_ {i-1 }, noktalar, y _ { max (ik, 1)}).}

Vecchia ayrıca yukarıdaki yaklaşımın, uzaysal koordinatları kullanılarak sözlükbilimsel olarak yeniden sıralanan gözlemlere uygulanmasını önerdi. Basit yönteminin birçok zayıf yönü olsa da, hesaplama karmaşıklığını ${ displaystyle { mathcal {O}} (nk ^ {3})}$ . Eksiklerinin çoğu, sonraki genellemelerle giderildi.

Genel formülasyon

Kavramsal olarak basit olsa da, Vecchia yaklaşımı varsayımı genellikle oldukça kısıtlayıcı ve yanlıştır.^[3] Bu, yıllar içinde temel versiyonda tanıtılan önemli genellemelere ve iyileştirmelere ilham verdi: gizli değişkenlerin dahil edilmesi, daha sofistike şartlandırma ve daha iyi sıralama. Genel Vecchia yaklaşımının farklı özel durumları, bu üç öğenin nasıl seçildiği açısından tanımlanabilir.^[4]

Gizli değişkenler

Vecchia yönteminin uzantılarını en genel haliyle tanımlamak için, ${ displaystyle z_ {i} = (x_ {i}, y_ {i})}$ ve bunun için dikkat edin ${ displaystyle mathbf {z} = (z_ {1}, noktalar, z_ {n})}$ önceki bölümdeki gibi tutuyor

{ displaystyle f ( mathbf {z}) = f (x_ {1}, y_ {1}) sol ( prod _ {i = 1} ^ {n} f (x_ {i} orta z_ {1 : i-1}) sağ) left ( prod _ {i = 1} ^ {n} f (y_ {i} mid x_ {i}) sağ)}

çünkü verildi ${ displaystyle x_ {i}}$ diğer tüm değişkenler bağımsızdır ${ displaystyle y_ {i}}$ .

Sipariş verme

Orijinal sözlüksel sıralamanın koordinatlara dayalı olduğu yaygın olarak belirtilmiştir. ${ displaystyle { mathcal {S}}}$ iki boyutlu olması kötü sonuçlar verir.^[5] Daha yakın zamanlarda başka bir sıralama önerildi, bunlardan bazıları noktaların yarı rastgele bir şekilde sıralanmasını sağlıyor. Son derece ölçeklenebilir oldukları için, doğruluğu önemli ölçüde artırdıkları da gösterilmiştir.^[3]

Koşullandırma

Yukarıda açıklanan temel versiyona benzer şekilde, belirli bir sıralama için genel bir Vecchia yaklaşımı şu şekilde tanımlanabilir:

{ displaystyle { hat {f}} ( mathbf {z}) = f (x_ {1}, y_ {1}) sol ( prod _ {i = 1} ^ {n} f (x_ {i } mid z_ {q (i)}) sağ) left ( prod _ {i = 1} ^ {n} f (y_ {i} mid x_ {i}) sağ),}

nerede ${ Displaystyle q (i) alt küme sol {1, noktalar, i-1 sağ }}$ . Dan beri ${ displaystyle y_ {i} perp x _ {- i}, y _ {- i} mid x_ {i}}$ onu takip eder ${ displaystyle f (x_ {i} orta z_ {q (i)}) = f (x_ {i} orta x_ {q} (i), y_ {q} (i)) = f (x_ {i } mid x_ {q} (i))}$ çünkü şartların ${ displaystyle f (x_ {i} orta z_ {q (i)})}$ ile değiştirilmek ${ displaystyle f (x_ {i} orta x_ {q (i)})}$ . Bununla birlikte, bazen bazı gözlemlere göre şartlandırıldığı ortaya çıktı. ${ displaystyle z_ {i}}$ kesinlik matrisinin Cholesky faktörünün seyrekliğini artırır ${ displaystyle ( mathbf {x}, mathbf {y})}$ . Bu nedenle, bunun yerine kümeler düşünülebilir ${ displaystyle q_ {y} (i)}$ ve ${ displaystyle q_ {x} (i)}$ öyle ki ${ displaystyle q (i) = q_ {y} (i) fincan q_ {x} (i)}$ ve ifade ${ displaystyle { şapka {f}}}$ gibi

{ displaystyle { hat {f}} ( mathbf {z}) = f (x_ {1}, y_ {1}) sol ( prod _ {i = 1} ^ {n} f (x_ {i } mid x_ {q_ {x} (i)}, y_ {q_ {y} (i)}) sağ) left ( prod _ {i = 1} ^ {n} f (y_ {i} orta x_ {i}) sağ).}

Birden çok seçim yöntemi ${ displaystyle q_ {y} (i)}$ ve ${ displaystyle q_ {x} (i)}$ En önemlisi en yakın komşu Gauss süreci (NNGP) ve çoklu çözünürlük yaklaşımı (MRA) yaklaşımları kullanılarak önerilmiştir. ${ displaystyle q (i) = q_ {x} (i)}$ , standart Vecchia kullanıyor ${ displaystyle q (i) = q_ {y} (i)}$ ve Seyrek General Vecchia her ikisinin de ${ displaystyle q_ {y} (i)}$ ve ${ displaystyle q_ {x} (i)}$ boş değildir.^[4]

Yazılım

Vecchia yaklaşımının bazı varyantlarını uygulayan birkaç paket geliştirilmiştir.

GPvecchia aracılığıyla edinilebilen bir R paketidir CRAN (R programlama dili) Vecchia yaklaşımının çoğu versiyonunu uygulayan
GpGp bir R paketidir. CRAN (R programlama dili) Uzamsal sorunlar için, doğruluğu büyük ölçüde artıran ölçeklenebilir bir sıralama yöntemi uygular.
spNNGP aracılığıyla edinilebilen bir R paketidir CRAN (R programlama dili) gizli Vecchia yaklaşımını uygulayan
pyMRA aracılığıyla kullanılabilen bir Python paketidir pyPI Dinamik durum uzayı modellerinde kullanılan genel Vecchia yönteminin özel bir durumu olan Çoklu çözünürlük yaklaşımı uygulamak

Notlar

^ Pourahmadi, M. (2007). "Cholesky Ayrıştırmaları ve Kovaryans Matrisinin Tahmini: Varyans Korelasyon Parametrelerinin Ortogonalliği". Biometrika. 94 (4): 1006–1013. doi:10.1093 / biomet / asm073. ISSN 0006-3444.
^ Khare, Kshitij; Rajaratnam, Bala (2011). "Ayrıştırılabilir kovaryans grafik modelleri için Wishart dağılımları". İstatistik Yıllıkları. 39 (1): 514–555. doi:10.1214 / 10-AOS841. ISSN 0090-5364.
^ ^a ^b Guinness Joseph (2018). "Gauss Süreç Yaklaşımlarını Keskinleştirmek İçin Permütasyon ve Gruplama Yöntemleri". Teknometri. 60 (4): 415–429. doi:10.1080/00401706.2018.1437476. ISSN 0040-1706. PMC 6707751.
^ ^a ^b Katzfuss, Matthias; Guinness, Joseph. "Gauss süreçlerinin Vecchia yaklaşımları için genel bir çerçeve". arXiv:1708.06302 [stat.CO ].
^ Sudipto Banerjee; Bradley P. Carlin; Alan E. Gelfand (12 Eylül 2014). Konumsal Veriler için Hiyerarşik Modelleme ve Analiz, İkinci Baskı. CRC Basın. ISBN 978-1-4398-1917-3.

[Pourahmadi2007-1] Pourahmadi, M. (2007). "Cholesky Ayrıştırmaları ve Kovaryans Matrisinin Tahmini: Varyans Korelasyon Parametrelerinin Ortogonalliği". Biometrika. 94 (4): 1006–1013. doi:10.1093 / biomet / asm073. ISSN 0006-3444.

[KhareRajaratnam2011-2] Khare, Kshitij; Rajaratnam, Bala (2011). "Ayrıştırılabilir kovaryans grafik modelleri için Wishart dağılımları". İstatistik Yıllıkları. 39 (1): 514–555. doi:10.1214 / 10-AOS841. ISSN 0090-5364.

[Guinness2018-3] Guinness Joseph (2018). "Gauss Süreç Yaklaşımlarını Keskinleştirmek İçin Permütasyon ve Gruplama Yöntemleri". Teknometri. 60 (4): 415–429. doi:10.1080/00401706.2018.1437476. ISSN 0040-1706. PMC 6707751.

[Katzfuss2017-4] Katzfuss, Matthias; Guinness, Joseph. "Gauss süreçlerinin Vecchia yaklaşımları için genel bir çerçeve". arXiv:1708.06302 [stat.CO ].

[BanerjeeCarlin2014-5] Sudipto Banerjee; Bradley P. Carlin; Alan E. Gelfand (12 Eylül 2014). Konumsal Veriler için Hiyerarşik Modelleme ve Analiz, İkinci Baskı. CRC Basın. ISBN 978-1-4398-1917-3.

[1]

[2]

[3]

[4]

[5]