Vektör genelleştirilmiş doğrusal model - Vector generalized linear model

İçinde İstatistik, sınıfı vektör genelleştirilmiş doğrusal modeller (VGLM'ler) tarafından karşılanan modellerin kapsamını genişletmek için önerildi genelleştirilmiş doğrusal modeller (GLM'lerÖzellikle, VGLM'ler klasik olmayan yanıt değişkenlerine izin verir. üstel aile ve birden fazla parametre için. Her bir parametre (bir ortalama olmak zorunda değildir) bir bağlantı işleviVGLM çerçevesi, birden çok yanıtı doğal olarak barındıracak kadar büyüktür; bunlar, her biri muhtemelen farklı parametre değerlerine sahip belirli bir istatistiksel dağılımdan gelen birkaç bağımsız yanıttır.

Vektörel genelleştirilmiş doğrusal modeller Yee (2015) 'de ayrıntılı olarak anlatılmıştır.^[1]Kabul edilen merkezi algoritma, yinelemeli olarak yeniden ağırlıklandırılmış en küçük kareler yöntem,için maksimum olasılık genellikle tüm model parametrelerinin tahmini. Özellikle, Fisher skorlaması, çoğu model için log-olabilirlik fonksiyonunun birinci ve beklenen ikinci türevlerini kullanan böyle uygulanır.

Motivasyon

GLM'ler esasen klasik modelden tek parametreli modelleri kapsar. üstel aile ve en önemli istatistiksel regresyon modellerinden 3'ünü dahil edin: doğrusal model, sayımlar için Poisson regresyonu ve ikili yanıtlar için lojistik regresyon.Ancak üstel aile, düzenli veri analizi için çok fazla sınırlayıcıdır.Örneğin, sayımlar için, sıfır enflasyon , sıfır kesme ve aşırı dağılım düzenli olarak karşılaşılır ve yarı-iki terimli ve yarı-Poisson şeklinde iki terimli ve Poisson modellerine yapılan geçici uyarlamaların geçici ve tatmin edici olmadığı tartışılabilir. ancak VGLM çerçevesi, aşağıdaki gibi modelleri kolayca ele alır.sıfır şişirilmiş Poisson regresyon, sıfır-değiştirilmiş Poisson (engel) regresyon, pozitif-Poisson regresyon venegatif iki terimli Başka bir örnek olarak, doğrusal model için, normal dağılımın varyansı bir ölçek parametresi olarak düşürülür ve genellikle bir rahatsızlık parametresi olarak kabul edilir (eğer bir parametre olarak kabul edilirse). Ancak VGLM çerçevesi varyansa izin verir. ortak değişkenler kullanılarak modellenecek.

Bir bütün olarak, VGLM'leri, klasik üstel aile dışındaki birçok modeli ele alan ve tek bir ortalama tahmin etmekle sınırlı olmayan GLM'ler olarak düşünebiliriz. ağırlıklı en küçük kareler IRLS sırasında genelleştirilmiş en küçük kareler arasındaki korelasyonu işlemek için M doğrusal yordayıcılar.

Veriler ve gösterim

Yanıtın veya sonucun veya bağımlı değişken (s), ${ displaystyle { boldsymbol {y}} = (y_ {1}, ldots, y_ {Q_ {1}}) ^ {T}}$ , belirli bir dağıtım. Çoğu dağıtım tek değişkenlidir, dolayısıyla ${ displaystyle Q_ {1} = 1}$ ve bir örnek ${ displaystyle Q_ {1} = 2}$ iki değişkenli normal dağılımdır.

Bazen verilerimizi şu şekilde yazıyoruz ${ displaystyle ({ boldsymbol {x}} _ {i}, w_ {i}, { boldsymbol {y}} _ {i})}$ için ${ displaystyle i = 1, ldots, n}$ . Her biri n gözlemlerin bağımsız olduğu kabul edilir. ${ displaystyle { boldsymbol {y}} _ {i} = (y_ {i1}, ldots, y_ {iQ_ {1}}) ^ {T}}$ .The ${ displaystyle w_ {i}}$ olumlu önceki ağırlıklarla bilinir ve sıklıkla ${ displaystyle w_ {i} = 1}$ .

Açıklayıcı veya bağımsız değişkenler yazılır ${ displaystyle { boldsymbol {x}} = (x_ {1}, ldots, x_ {p}) ^ {T}}$ , ya da ne zaman ben olarak gerekli ${ displaystyle { boldsymbol {x}} _ {i} = (x_ {i1}, ldots, x_ {ip}) ^ {T}}$ Genellikle bir tutmak, bu durumda ${ displaystyle x_ {1} = 1}$ veya ${ displaystyle x_ {i1} = 1}$ .

Aslında, VGLM çerçevesi şunları sağlar: S yanıtlar, her boyut ${ displaystyle Q_ {1}}$ .Yukarıda S = 1. Dolayısıyla boyutu ${ displaystyle { boldsymbol {y}} _ {i}}$ daha geneldir ${ displaystyle Q = S times Q_ {1}}$ . Tek kolları S koda göre yanıtlar vglm (cbind (y1, y2, y3) ~ x2 + x3, ..., veri = verilerim) için S = 3. İşleri basitleştirmek için bu makalenin çoğunda S = 1.

Model bileşenleri

VGLM genellikle dört unsurdan oluşur:

1. Bir log-olabilirliği olan bazı istatistiksel dağılımlardan bir olasılık yoğunluk fonksiyonu veya olasılık kütle fonksiyonu

{ displaystyle ell}

ilk türevler

{ displaystyle kısmi ell / kısmi theta _ {j}}

ve beklenen bilgi matrisi bu hesaplanabilir. Modelin olağan olanı tatmin etmesi gerekir MLE düzenlilik koşulları.

2. Doğrusal yordayıcılar

{ displaystyle eta _ {j}}

her bir parametreyi modellemek için aşağıda açıklanmıştır

{ displaystyle theta _ {j}}

,

{ displaystyle j = 1, ldots, M.}

3. Bağlantı işlevleri

{ displaystyle g_ {j}}

öyle ki

{ displaystyle theta _ {j} = g_ {j} ^ {- 1} ( eta _ {j}).}

4. Kısıt matrisleri

{ displaystyle { boldsymbol {H}} _ {k}}

için

{ displaystyle k = 1, ldots, p,}

her biri tam sütun sıralı ve biliniyor.

Doğrusal yordayıcılar

Her biri doğrusal tahmin bağımsız değişkenler hakkındaki bilgileri modele dahil eden bir niceliktir. Sembol ${ displaystyle eta _ {j}}$ (Yunan "eta ") doğrusal bir öngörücü ve bir alt simgeyi belirtir j belirtmek için kullanılır jinci. İlişkilendirir jaçıklayıcı değişkenlere ait. parametre ve ${ displaystyle eta _ {j}}$ bilinmeyen parametrelerin doğrusal kombinasyonları (dolayısıyla "doğrusal") olarak ifade edilir ${ displaystyle { boldsymbol { beta}} _ {j},}$ yani regresyon katsayılarının ${ displaystyle beta _ {(j) k}}$ .

jinci parametre, ${ displaystyle theta _ {j}}$ dağılımın bağımsız değişkenlere bağlıdır, ${ displaystyle { boldsymbol {x}},}$ vasıtasıyla

{ displaystyle g_ {j} ( theta _ {j}) = eta _ {j} = { boldsymbol { beta}} _ {j} ^ {T} { boldsymbol {x}}.}

İzin Vermek ${ displaystyle { boldsymbol { eta}} = ( eta _ {1}, ldots, eta _ {M}) ^ {T}}$ tüm doğrusal yordayıcıların vektörü. (Kolaylık sağlamak için her zaman izin veririz ${ displaystyle { boldsymbol { eta}}}$ boyutta olmak M).Böylece herşey kovaryatlar içeren ${ displaystyle { boldsymbol {x}}}$ potansiyel olarak etkilemek herşey doğrusal yordayıcılar aracılığıyla parametreler ${ displaystyle eta _ {j}}$ . Daha sonra, doğrusal yordayıcıların, her birinin düzgün işlevlerinin toplamı olan toplamsal yordayıcılara genelleştirilmesine izin vereceğiz. ${ displaystyle x_ {k}}$ ve her fonksiyon verilerden tahmin edilir.

Bağlantı işlevleri

Her bağlantı işlevi, doğrusal bir tahminci ile dağılımın bir parametresi arasındaki ilişkiyi sağlar. Yaygın olarak kullanılan birçok bağlantı işlevi vardır ve bunların seçimi biraz keyfi olabilir. Eşleştirmeye çalışmak mantıklı alan adı bağlantı işlevinin Aralık Dağılımın parametre değerinin üst kısmına dikkat edin. ${ displaystyle g_ {j}}$ her parametre için farklı bir bağlantı işlevine izin verir. genelleştirilmiş doğrusal modeller, örneğin, yaygın bağlantı işlevleri şunları içerir: logit içindeki parametreler için bağlantı ${ displaystyle (0,1)}$ ,ve günlük pozitif parametreler için bağlantı. VGAM paketin işlevi var kimlik bağlantısı () hem pozitif hem de negatif değerleri alabilen parametreler için.

Kısıt matrisleri

Daha genel olarak, VGLM çerçevesi, regresyon katsayıları arasında herhangi bir doğrusal kısıtlamaya izin verir. ${ displaystyle beta _ {(j) k}}$ her doğrusal yordayıcı. Örneğin, bazılarını 0'a eşitlemek veya bazılarını eşit olacak şekilde sınırlamak isteyebiliriz. Sahibiz

{ displaystyle { boldsymbol { eta}} = sum _ {k = 1} ^ {p} , { boldsymbol { beta}} _ {(k)} ^ {} , x_ {k} = sum _ {k = 1} ^ {p} , { boldsymbol {H}} _ {k} ; { boldsymbol { beta}} _ {(k)} ^ {*} , x_ {k }}

nerede ${ displaystyle { boldsymbol {H}} _ {k}}$ bunlar kısıt matrisleriHer kısıtlama matrisi bilinmekte ve önceden tanımlanmıştır ve M satırlar ve 1 ile arasında M sütunlar. Kısıtlama matrislerinin elemanları sonlu değerlidir ve genellikle sadece 0 veya 1'dirler. Örneğin, 0 değeri bu elemanı etkin bir şekilde atlarken, 1 onu içerir. Bazı modellerde bir paralellik varsayım, bunun anlamı ${ displaystyle { boldsymbol {H}} _ {k} = { boldsymbol {1}} _ {M}}$ için ${ displaystyle k = 2, ldots, p}$ ve bazı modeller için ${ displaystyle k = 1}$ çok. özel durum ne zaman ${ displaystyle { boldsymbol {H}} _ {k} = { boldsymbol {I}} _ {M}}$ hepsi için ${ displaystyle k = 1, ldots, p}$ olarak bilinir önemsiz kısıtlamalar; tüm regresyon katsayıları tahmin edilir ve ilgisizdir. ve ${ displaystyle theta _ {j}}$ olarak bilinir sadece kesişme parameterif jtümünün üçüncü satırı ${ displaystyle { boldsymbol {H}} _ {k} =}$ eşittir ${ displaystyle { boldsymbol {0}} ^ {T}}$ için ${ displaystyle k = 2, ldots, p}$ yani ${ displaystyle eta _ {j} = beta _ {(j) 1} ^ {*}}$ yalnızca bir kesmeye eşittir. Yalnızca kesişen parametreler böylece mümkün olduğu kadar basit bir skaler olarak modellenir.

Bilinmeyen parametreler, ${ displaystyle { boldsymbol { beta}} ^ {*} = ({ boldsymbol { beta}} _ {(1)} ^ {* T}, ldots, { boldsymbol { beta}} _ { (p)} ^ {* T}) ^ {T}}$ , tipik olarak yöntemi ile tahmin edilir maksimum olasılık Tüm regresyon katsayıları aşağıdaki gibi bir matrise konulabilir:

{ displaystyle { boldsymbol { eta}} _ {i} = { boldsymbol {B}} ^ {T} { boldsymbol {x}} _ {i} = { begin {pmatrix} { boldsymbol { beta}} _ {1} ^ {T} , { boldsymbol {x}} _ {i} vdots { boldsymbol { beta}} _ {M} ^ {T} , { kalın sembol {x}} _ {i} uç {pmatrix}} = left ({ boldsymbol { beta}} _ {(1)} ^ {}, ldots, { boldsymbol { beta}} _ {(p)} ^ {} sağ) ; { boldsymbol {x}} _ {i}.}

Xij tesisi

Daha genel olarak, bir değişkenin değerine izin verilebilir ${ displaystyle x_ {k}}$ her biri için farklı bir değere sahip olmak ${ displaystyle eta _ {j}}$ Örneğin, her doğrusal tahminci farklı bir zaman noktası için ise, o zaman birinin zamanla değişen bir ortak değişkeni olabilir. ayrık seçim modelleri, birinde var şartlı logit modelleri,yuvalanmış logit modelleri,genelleştirilmiş Logit modelleri ve benzerleri, belirli varyantları ayırt etmek ve çok terimli bir logit modelini, örneğin taşıma seçeneklerine uydurmak için. Maliyet gibi bir değişken, seçime bağlı olarak değişir, örneğin, taksi, otobüsten daha pahalıdır, yürüme. xij tesisi VGAM genelleştirmeye izin verir ${ displaystyle eta _ {j} ({ boldsymbol {x}} _ {i})}$ -e ${ displaystyle eta _ {j} ({ boldsymbol {x}} _ {ij})}$ .

En genel formül

{ displaystyle { boldsymbol { eta}} _ {i} = { boldsymbol {o}} _ {i} + sum _ {k = 1} ^ {p} , diag (x_ {ik1}, ldots, x_ {ikM}) , mathbf {H} _ {k} , { boldsymbol { beta}} _ {(k)} ^ {*}.}

İşte ${ displaystyle { boldsymbol {o}} _ {i}}$ isteğe bağlı ofset; hangisi bir ${ displaystyle n times M}$ uygulamada matris. VGAM pakette bir xij köşegen matrisin ardışık elemanlarının girilmesine izin veren argüman.

Yazılım

Yee (2015)^[1] bir R adı verilen VGAM'da paket uygulaması.^[2]Şu anda bu yazılım yaklaşık 150 model / dağıtıma uyar. Merkezi modelleme işlevleri vglm () ve vgam ().The aile argüman atanır VGAM ailesi işlevi,Örneğin., aile = negbinom için negatif iki terimli regresyonfamily = poissonff için Poisson regresyonfamily = propodds için orantılı garip model veyakümülatif logit modeli sıralı kategorik regresyon için.

Montaj

Maksimum olasılık

Log-olasılığını en üst düzeye çıkarıyoruz

{ displaystyle ell = toplam _ {i = 1} ^ {n} , w_ {i} , ell _ {i},}

nerede ${ displaystyle w_ {i}}$ olumlu ve biliniyor önceki ağırlıklar.The maksimum olasılık tahminler bir kullanılarak bulunabilir yinelemeli olarak yeniden ağırlıklandırılmış en küçük kareler algoritma kullanıyor Fisher's skor yöntem, form güncellemeleriyle:

{ displaystyle { boldsymbol { beta}} ^ {(a + 1)} = { boldsymbol { beta}} ^ {(a)} + { boldsymbol { mathcal {I}}} ^ {- 1 } ({ boldsymbol { beta}} ^ {(a)}) , , mathbf {u} ({ boldsymbol { beta}} ^ {(a)}),}

nerede ${ displaystyle { boldsymbol { mathcal {I}}} ({ boldsymbol { beta}} ^ {(a)})}$ isthe Fisher bilgisi yinelemedeki matris aAynı zamanda beklenen bilgi matrisiveya EIM.

VLM

Hesaplama için, (küçük) model matrisi formülün RHS'sinden oluşturulmuştur. vglm ()ve kısıt matrisleri birleştirilerek bir büyük model matrisi. IRLS bu büyük X. Bu matris, VLM matrisi olarak bilinir, çünkü vektör doğrusal model en küçük kareler sorununun çözülmesidir. Bir VLM, yanıt matrisinin her satırı için değişkenlik-kovaryans matrisinin gereksiz yere aynı olmadığı ve bilindiği, ağırlıklı çok değişkenli bir regresyondur. (Klasik çok değişkenli regresyonda, tüm hataların varyans-kovaryans matrisi aynıdır ve bilinmemektedir). Özellikle, VLM ağırlıklı kareler toplamını en aza indirir

{ displaystyle mathrm {ResSS} = sum _ {i = 1} ^ {n} ; w_ {i} left { mathbf {z} _ {i} ^ {(a-1)} - { boldsymbol { eta}} _ {i} ^ {(a-1)} right } ^ {T} mathbf {W} _ {i} ^ {(a-1)} left { mathbf {z} _ {i} ^ {(a-1)} - { boldsymbol { eta}} _ {i} ^ {(a-1)} sağ }}

Bu miktar, her IRLS yinelemesinde en aza indirilir. çalışma yanıtları (Ayrıca şöyle bilinir sözde yanıt ve ayarlanmışbağımlı vektörler)

{ displaystyle mathbf {z} _ {i} = { boldsymbol { eta}} _ {i} + mathbf {W} _ {i} ^ {- 1} mathbf {u} _ {i}, }

nerede ${ displaystyle mathbf {W} _ {i}}$ olarak bilinir çalışma ağırlıkları veya çalışma ağırlığı matrisleri. Simetrik ve pozitif tanımlıdırlar. EIM kullanmak, parametre uzayının çoğunda hepsinin pozitif-tanımlı olmasını (ve sadece toplamı değil) sağlamaya yardımcı olur. Bunun aksine, Newton-Raphson kullanılması, gözlemlenen bilgi matrislerinin kullanılacağı anlamına gelir ve bunlar, parametre uzayının daha küçük bir alt kümesinde pozitif-tanımlı olma eğilimindedir.

Hesaplamalı olarak, Cholesky ayrışma çalışma ağırlığı matrislerini ters çevirmek ve genel genelleştirilmiş en küçük kareler sorun haline Sıradan en küçük kareler sorun.

Örnekler

Genelleştirilmiş doğrusal modeller

Tabii ki hepsi genelleştirilmiş doğrusal modeller VGLM'lerin özel durumlarıdır, ancak genellikle tüm parametreleri tam olarak tahmin ederiz maksimum olasılık ölçek parametresi için momentler yöntemini kullanmak yerine tahmin.

Sıralı kategorik yanıt

Yanıt değişkeni bir sıra ölçümü ile M + 1 seviyeleri, o zaman biri formun model işlevine uyabilir:

{ displaystyle g ( theta _ {j}) = eta _ {j}}

nerede

{ displaystyle theta _ {j} = mathrm {Pr} (Y leq j),}

için ${ displaystyle j = 1, ldots, M.}$ Farklı bağlantılar g yol açmak orantılı oran modelleri veya sıralı probit modeller, ör. VGAM aile fonksiyonu kümülatif (bağlantı = probit) kümülatif olasılıklara bir probit bağlantısı atar, bu nedenle bu model aynı zamanda kümülatif probit modeliGenel olarak denir kümülatif bağlantı modelleri.

Kategorik ve çok terimli dağılımlar için, uyan değerler bir (M + 1) - Olasılık vektörü, tüm olasılıkların toplamı 1'e eşittir. Her olasılık, aşağıdakilerden birinin gerçekleşme olasılığını gösterir. M + 1 olası değer.

Sırasız kategorik yanıt

Yanıt değişkeni bir nominal ölçüm veya veriler sıralı bir modelin varsayımlarını karşılamıyorsa, aşağıdaki formdaki bir modele uyulabilir:

{ displaystyle log sol [{ frac {Pr (Y = j)} { mathrm {Pr} (Y = M + 1)}} sağ] = eta _ {j},}

için ${ displaystyle j = 1, ldots, M.}$ Yukarıdaki bağlantıya bazen çoklu oturum bağlantı ve modelin adı çok terimli logit Model olarak yanıtın ilk veya son düzeyini seçmek yaygındır.referans veya temel grup; yukarıdaki son seviyeyi kullanır. VGAM aile fonksiyonu çok terimli () yukarıdaki modele uyar ve adı verilen bir argümana sahiptir refLevel referans grubu olarak kullanılan seviyeye atanabilir.

Verileri say

Klasik GLM teorisi gerçekleştirir Poisson regresyonu için verileri say. Bağlantı tipik olarak logaritmadır ve kanonik bağlantıVaryans işlevi, ortalama ile orantılıdır:

{ displaystyle operatöradı {Var} (Y_ {i}) = tau mu _ {i}, ,}

dağılım parametresi nerede ${ displaystyle tau}$ genellikle tam olarak bire sabitlenir. Değilse, ortaya çıkan yarı olasılık model genellikle Poisson olarak tanımlanır aşırı dağılma veya Quasi-Poisson; sonra ${ displaystyle tau}$ genellikle anlar yöntemiyle tahmin edilir ve bu nedenle için güven aralıkları ${ displaystyle tau}$ elde etmek zordur.

Buna karşılık, VGLM'ler, Poisson'a göre aşırı dağılımın üstesinden gelmek için çok daha zengin bir model seti sunar, ör. negatif iki terimli dağıtım ve çeşitli varyantları. Başka bir sayım regresyon modeli, genelleştirilmiş Poisson dağılımı. Diğer olası modeller şunlardır: zeta dağılımı ve Zipf dağıtımı.

Uzantılar

İndirgenmiş sıralı vektör genelleştirilmiş doğrusal modeller

RR-VGLM'ler, VGLM'lerdir. B matris bir alt sıra.Genelliği kaybetmeden, farz edin ki ${ displaystyle { boldsymbol {x}} = ({ boldsymbol {x}} _ {1} ^ {T}, { boldsymbol {x}} _ {2} ^ {T}) ^ {T}}$ ortak değişken vektörün bir bölümüdür. Sonra parçası B karşılık gelen matris ${ displaystyle { boldsymbol {x}} _ {2}}$ formda ${ displaystyle { boldsymbol {A}} { boldsymbol {C}} ^ {T}}$ nerede ${ displaystyle { boldsymbol {A}}}$ ve ${ displaystyle { boldsymbol {C}}}$ ince matrislerdir (yani, R sütunlar), örneğin, sıralama R = 1. RR-VGLM'ler, belirli modellere ve veri setlerine uygulandıklarında potansiyel olarak birçok avantaj sunar. İlk olarak, eğer M ve p VGLM'ler tarafından tahmin edilen regresyon katsayılarının sayısı büyükse ( ${ displaystyle M kere p}$ ). Daha sonra RR-VGLM'ler, tahmini regresyon katsayılarının sayısını büyük ölçüde azaltabilir, eğer R düşük, ör. R = 1 veya R = 2. Bunun özellikle yararlı olduğu bir model örneği RR-çok terimli logit modeli olarak da bilinir stereotip modeliİkincisi, ${ displaystyle { boldsymbol { nu}} = { boldsymbol {C}} ^ {T} { boldsymbol {x}} _ {2} = ( nu _ {1}, ldots, nu _ { R}) ^ {T}}$ bir R-vektör gizli değişkenler ve genellikle bunlar faydalı bir şekilde yorumlanabilir. R = 1 sonra yazabiliriz ${ displaystyle nu = { boldsymbol {c}} ^ {T} { boldsymbol {x}} _ {2}}$ böylece gizli değişken, açıklayıcı değişkenler üzerindeki yükleri içerir. RR-VGLM'lerin optimal doğrusal kombinasyonlarını aldığı görülebilir. ${ displaystyle { boldsymbol {x}} _ {2}}$ ve sonra açıklayıcı değişkenlere bir VGLM takılır ${ displaystyle ({ boldsymbol {x}} _ {1}, { boldsymbol { nu}})}$ . Üçüncüsü, bir biplot eğer üretilebilir R '= 2 ve bu modelin görselleştirilmesine izin verir.

RR-VGLM'lerin basitçe VGLM'ler olduğu gösterilebilir, burada değişkenler için kısıtlama matrisleri ${ displaystyle { boldsymbol {x}} _ {2}}$ bilinmemektedir ve tahmin edilmelidir. ${ displaystyle { boldsymbol {H}} _ {k} = { boldsymbol {A}}}$ forsuch değişkenleri için.RR-VGLM'ler bir değişen düzelten algoritma ${ displaystyle { boldsymbol {A}}}$ ve tahminler ${ displaystyle { boldsymbol {C}},}$ ve sonra düzeltir ${ displaystyle { boldsymbol {C}}}$ ve tahminler ${ displaystyle { boldsymbol {A}}}$ , vb.

Uygulamada, bazı benzersiz kısıtlamalara ihtiyaç vardır. ${ displaystyle { boldsymbol {A}}}$ ve / veya ${ displaystyle { boldsymbol {C}}}$ . İçinde VGAM, rrvglm () işlev kullanır köşe kısıtlamaları varsayılan olarak bu, en üstteki R sıraları ${ displaystyle { boldsymbol {A}}}$ ayarlandı ${ displaystyle { boldsymbol {I}} _ {R}}$ . RR-VGLM'ler 2003 yılında önerildi.^[3]

İkiye bir

RR-VGLM'lerin özel bir durumu, R = 1 ve M = 2. Bu boyut küçültme 2 parametreden 1 parametreye. O zaman gösterilebilir ki

{ displaystyle theta _ {2} = g_ {2} ^ {- 1} sol (t_ {1} + a_ {21} cdot g_ {1} ( theta _ {1}) sağ),}

elementler nerede ${ displaystyle t_ {1}}$ ve ${ displaystyle a_ {21}}$ tahmin edilmektedir. Eşdeğer olarak,

{ displaystyle eta _ {2} = t_ {1} + a_ {21} cdot eta _ {1}.}

Bu formül, ${ displaystyle eta _ {1}}$ ve ${ displaystyle eta _ {2}}$ . Bir modelin iki parametresi arasında yararlı olabilecek, örneğin bir ortalama varyans ilişkisini modellemek için bir ilişki başlatır. Bazen bazı bağlantı işlevleri seçenekleri vardır, bu nedenle iki parametreyi birleştirirken biraz esneklik sunar, örneğin birim aralıktaki parametreler için bir logit, probit, cauchit veya cloglog bağlantısı. Yukarıdaki formül özellikle aşağıdakiler için yararlıdır: negatif binom dağılımı, RR-NB'nin varyans fonksiyonuna sahip olması için

{ displaystyle operatorname {Var} (Y orta { kalın sembol {x}}) = mu ({ boldsymbol {x}}) + delta _ {1} , mu ({ kalın sembol {x} }) ^ { delta _ {2}}.}

Bu, NB-P bazı yazarlar tarafından varyant. ${ displaystyle delta _ {1}}$ ve ${ displaystyle delta _ {2}}$ tahmin edilmektedir ve bunlar için de yaklaşık güven aralıkları elde etmek mümkündür.

Bu arada, kısıtlama matrislerinin doğru kombinasyonunun seçilmesinin yardımı ile birkaç başka faydalı NB varyantı da yerleştirilebilir. Örneğin, NB − 1, NB − 2 (negbinom () varsayılan), NB − H; bkz Yee (2014)^[4] ve Yee (2015) Tablo 11.3.^[1]

RCIM'ler

Alt sınıfı satır-sütun etkileşim modelleri(RCIM'ler) de önerilmiştir; bunlar özel bir RR-VGLM türüdür. RCIM'ler yalnızca bir matrise uygulanır Y yanıt ve açıklayıcı değişken yok ${ displaystyle { boldsymbol {x}}}$ Bunun yerine, her satır ve sütun için gösterge değişkenleri açıkça belirlenir ve bir sıraRformun etkileşimi ${ displaystyle { boldsymbol {A}} { boldsymbol {C}} ^ {T}}$ Bu tip modelin özel durumları şunları içerir: Goodman RC ilişkilendirme modelive yarı-varyanslar metodolojisi tarafından uygulandığı şekliyle qvcalc R paketi.

RCIM'ler, uygulanan bir RR-VGLM olarak tanımlanabilir Y ile

{ displaystyle g_ {1} ( theta _ {1}) equiv eta _ {1ij} = beta _ {0} + alpha _ {i} + gamma _ {j} + sum _ {r = 1} ^ {R} c_ {ir} , a_ {jr}.}

Goodman RC ilişkilendirme modeli için, ${ displaystyle eta _ {1ij} = log mu _ {ij},}$ öyleyse R = 0 ise, satır efektleri ve sütun efektleri ile bir sayım matrisine uydurulmuş bir Poisson regresyonudur; bu, etkileşimsiz iki yönlü ANOVA modeline benzer bir fikre sahiptir.

RCIM'e başka bir örnek, ${ displaystyle g_ {1}}$ kimlik bağıdır ve parametre medyandır ve model asimetrik bir Laplace dağılımına karşılık gelir; etkileşimsiz bir RCIM, adı verilen bir tekniğe benzer medyan lehçesi.

İçinde VGAM, rcim () ve grc () fonksiyonlar yukarıdaki modellere uygundur ve ayrıca Yee ve Hadi (2014)^[5]RCIM'lerin sınırlandırılmamış ikinci dereceden koordinasyon modellerini tür verilerine uydurmak için kullanılabileceğini gösterin; bu dolaylı bir örnektir gradyan analizi içindeemretmek (istatistiksel ekolojide bir konu).

Vektör genelleştirilmiş katkı modelleri

Vektör genelleştirilmiş katkı modelleri (VGAM'ler), doğrusal öngörücünün bulunduğu VGLM'lerin önemli bir uzantısıdır. ${ displaystyle eta _ {j}}$ ortak değişkenlerde doğrusal olmakla sınırlı değildir ${ displaystyle x_ {k}}$ ama toplamı yumuşatma fonksiyonları uygulandı ${ displaystyle x_ {k}}$ :

{ displaystyle { boldsymbol { eta}} ({ boldsymbol {x}}) = { boldsymbol {H}} _ {1} , { boldsymbol { beta}} _ {(1)} ^ { *} + { kalın sembol {H}} _ {2} , { boldsymbol {f}} _ {(2)} ^ {*} (x_ {2}) + { kalın sembol {H}} _ {3 } , { boldsymbol {f}} _ {(3)} ^ {*} (x_ {3}) + cdots , !}

nerede ${ displaystyle { boldsymbol {f}} _ {(k)} ^ {*} (x_ {k}) = (f _ {(1) k} ^ {*} (x_ {k}), f _ {(2 ) k} ^ {*} (x_ {k}), ldots) ^ {T}.}$ Bunlar M katkı belirleyicileriHer pürüzsüz işlev ${ displaystyle f _ {(j) k} ^ {*}}$ verilerden tahmin edilmektedir.Bu nedenle VGLM'ler model odaklı VGAM'lar veri tabanlıŞu anda, yalnızca düzleştirme spline'ları VGAM package.For M > 1 aslında vektör eğrileri, bileşen fonksiyonlarını tahmin eden ${ displaystyle f _ {(j) k} ^ {*} (x_ {k})}$ Elbette, VGLM ile regresyon eğrileri kullanılabilir. VGAM'lerin arkasındaki motivasyon, Hastie ve Tibshirani (1990) ile benzerdir.^[6]andWood (2017).^[7]VGAM'lar 1996'da önerildi.^[8]

Şu anda, VGAM'leri tahmin etmek için çalışmalar yapılıyor. P-spline'lar of Eilers ve Marx (1996).^[9]Bu, kullanmaya göre birkaç avantaj sağlar spline'ı yumuşatmak ve vektör geri uyum otomatik yumuşatma parametre seçimini gerçekleştirme yeteneği gibi daha kolay.

İkinci dereceden azaltılmış sıralı vektör genelleştirilmiş doğrusal modeller

Bunlar, RR-VGLM sınıfına gizli değişkende ikinci dereceden bir ek ekler. Sonuç, gizli değişkenin bir fonksiyonu olarak her yanıta çan şeklinde bir eğri uydurulabilir. R = 2, 2latent değişkenin bir fonksiyonu olarak çan şeklinde yüzeylere sahiptir - bir şekilde a iki değişkenli normal dağılım QRR-VGLM'lerin özel uygulamaları şurada bulunabilir: ekoloji bir tarlada çok değişkenli analiz aranan emretmek.

QRR-VGLM'nin belirli bir sıra 1 örneği olarak, Poisson verilerini şu şekilde düşünün: S türler için model s Poisson gerilemesi

{ displaystyle log , mu _ {s} ( nu) = eta _ {s} ( nu) = beta _ {(s) 1} + beta _ {(s) 2} , nu + beta _ {(s) 3} , nu ^ {2} = alpha _ {s} - { frac {1} {2}} left ({ frac { nu -u_ { s}} {t_ {s}}} sağ) ^ {2},}

için ${ displaystyle s = 1, ldots, S}$ . Sembolleri kullanan en sağdaki parametrelendirme ${ displaystyle alpha _ {s},}$ ${ displaystyle u_ {s},}$ ${ displaystyle t_ {s},}$ türlerle ilgili oldukları için özel ekolojik anlamı vardır bolluk, Optimum ve hata payı sırasıyla. Örneğin, tolerans niş genişliğinin bir ölçüsüdür ve büyük bir değer, türlerin çok çeşitli ortamlarda yaşayabileceği anlamına gelir. Yukarıdaki denklemde, birinin ihtiyacı olacaktır ${ displaystyle beta _ {(s) 3} <0}$ çan şeklinde bir eğri elde etmek için.

QRR-VGLM'ler, Gauss koordinasyon modellerine maksimum olasılık tahminine göre uyarlar ve doğrudan gradyan analizi.The cqo () işlevi VGAM paket şu anda çağrılar optim () optimal olanı aramak için ${ displaystyle { boldsymbol {C}}}$ ve buna göre site puanlarını hesaplamak ve uygun bir genelleştirilmiş doğrusal model İşlev, kısaltması olan CQO'dan sonra adlandırılmıştır.kısıtlı ikinci dereceden koordinasyon: kısıtlı doğrudan gradyan analizi içindir (çevresel değişkenler vardır ve bunların doğrusal bir kombinasyonu gizli değişken olarak alınır) ve ikinci dereceden gizli değişkenlerdeki dörtlü form içindir ${ displaystyle { boldsymbol { nu}}}$ üzerinde ${ displaystyle { boldsymbol { eta}}}$ Ne yazık ki QRR-VGLM'ler hem yanıt hem de açıklayıcı değişkenlerde aykırı değerlere duyarlıdır ve hesaplama açısından pahalıdır ve küresel bir çözümden ziyade yerel bir çözüm sunabilir. 2004 yılında QRR-VGLM'ler önerilmiştir.^[10]

Ayrıca bakınız

Referanslar

^ ^a ^b ^c Yee, T.W. (2015). Vektör Genelleştirilmiş Doğrusal ve Katkılı Modeller: R'de Bir Uygulama ile. New York, ABD: Springer. ISBN 978-1-4939-2817-0.
^ "Vektör Genelleştirilmiş Doğrusal Modeller". 2016-01-18.
^ Yee, T. W .; Hastie, T. J. (2003). "İndirgenmiş sıralı vektör genelleştirilmiş doğrusal modeller". İstatistiksel Modelleme. 3 (1): 15–41. CiteSeerX 10.1.1.36.3700. doi:10.1191 / 1471082x03st045oa.
^ Yee, T.W. (1996). "İndirgenmiş sıralı vektör, iki doğrusal öngörücüye sahip genelleştirilmiş doğrusal modeller". Hesaplamalı İstatistikler ve Veri Analizi. 71: 889–902. doi:10.1016 / j.csda.2013.01.012.
^ Yee, T. W .; Hadi, A.F. (2014). "R uygulaması ile satır-sütun etkileşim modelleri". Hesaplamalı İstatistik. 29 (6): 1427–1445. doi:10.1007 / s00180-014-0499-9.
^ Hastie, T. J .; Tibshirani, R.J. (1990). Genelleştirilmiş Katkı Modelleri. Londra: Chapman ve Hall.
^ Wood, S.N. (2017). Genelleştirilmiş Katkı Modelleri: R ile Giriş (ikinci baskı). Londra: Chapman ve Hall. ISBN 9781498728331.
^ Yee, T. W .; Wild, C.J. (1996). "Vektör genelleştirilmiş toplamsal modeller". Kraliyet İstatistik Derneği Dergisi, Seri B. 58 (3): 481–493.
^ Eilers, P.H.C .; Marx, B.D. (1996). "B-spline'lar ve cezalar ile esnek yumuşatma". İstatistik Bilimi. 11 (2): 89–121. CiteSeerX 10.1.1.47.4521. doi:10.1214 / ss / 1038425655.
^ Yee, T.W. (2004). "Maksimum olasılık kanonik Gauss koordinasyonu için yeni bir teknik". Ekolojik Monograflar. 74 (4): 685–701. doi:10.1890/03-0078.

daha fazla okuma

Hilbe, Joseph (2011). Negatif Binom Regresyon (2. baskı). Cambridge: Cambridge University Press. ISBN 978-0-521-19815-8.

[Yee2015-1] Yee, T.W. (2015). Vektör Genelleştirilmiş Doğrusal ve Katkılı Modeller: R'de Bir Uygulama ile. New York, ABD: Springer. ISBN 978-1-4939-2817-0.

[VGAM-2] "Vektör Genelleştirilmiş Doğrusal Modeller". 2016-01-18.

[yeehast2003-3] Yee, T. W .; Hastie, T. J. (2003). "İndirgenmiş sıralı vektör genelleştirilmiş doğrusal modeller". İstatistiksel Modelleme. 3 (1): 15–41. CiteSeerX 10.1.1.36.3700. doi:10.1191 / 1471082x03st045oa.

[rrvglm2-4] Yee, T.W. (1996). "İndirgenmiş sıralı vektör, iki doğrusal öngörücüye sahip genelleştirilmiş doğrusal modeller". Hesaplamalı İstatistikler ve Veri Analizi. 71: 889–902. doi:10.1016 / j.csda.2013.01.012.

[5] Yee, T. W .; Hadi, A.F. (2014). "R uygulaması ile satır-sütun etkileşim modelleri". Hesaplamalı İstatistik. 29 (6): 1427–1445. doi:10.1007 / s00180-014-0499-9.

[HastTibs1990-6] Hastie, T. J .; Tibshirani, R.J. (1990). Genelleştirilmiş Katkı Modelleri. Londra: Chapman ve Hall.

[Wood2017-7] Wood, S.N. (2017). Genelleştirilmiş Katkı Modelleri: R ile Giriş (ikinci baskı). Londra: Chapman ve Hall. ISBN 9781498728331.

[8] Yee, T. W .; Wild, C.J. (1996). "Vektör genelleştirilmiş toplamsal modeller". Kraliyet İstatistik Derneği Dergisi, Seri B. 58 (3): 481–493.

[9] Eilers, P.H.C .; Marx, B.D. (1996). "B-spline'lar ve cezalar ile esnek yumuşatma". İstatistik Bilimi. 11 (2): 89–121. CiteSeerX 10.1.1.47.4521. doi:10.1214 / ss / 1038425655.

[10] Yee, T.W. (2004). "Maksimum olasılık kanonik Gauss koordinasyonu için yeni bir teknik". Ekolojik Monograflar. 74 (4): 685–701. doi:10.1890/03-0078.

[1]

[2]

[3]

[4]

[5]

[6]

[7]

[8]

[9]

[10]