İçinde İstatistik , matris normal dağılımı veya matris Gauss dağılımı bir olasılık dağılımı bu bir genellemedir çok değişkenli normal dağılım matris değerli rastgele değişkenlere.
Tanım olasılık yoğunluk fonksiyonu rastgele matris için X (n × p ) matris normal dağılımını izleyen M N n , p ( M , U , V ) { displaystyle { mathcal {MN}} _ {n, p} ( mathbf {M}, mathbf {U}, mathbf {V})}
p ( X ∣ M , U , V ) = tecrübe ( − 1 2 t r [ V − 1 ( X − M ) T U − 1 ( X − M ) ] ) ( 2 π ) n p / 2 | V | n / 2 | U | p / 2 { displaystyle p ( mathbf {X} mid mathbf {M}, mathbf {U}, mathbf {V}) = { frac { exp sol (- { frac {1} {2} } , mathrm {tr} left [ mathbf {V} ^ {- 1} ( mathbf {X} - mathbf {M}) ^ {T} mathbf {U} ^ {- 1} ( mathbf {X} - mathbf {M}) right] right)} {(2 pi) ^ {np / 2} | mathbf {V} | ^ {n / 2} | mathbf {U} | ^ {p / 2}}}} nerede t r { displaystyle mathrm {tr}} iz ve M dır-dir n × p , U dır-dir n × n ve V dır-dir p × p .
Normal matris, çok değişkenli normal dağılım Aşağıdaki şekilde:
X ∼ M N n × p ( M , U , V ) , { displaystyle mathbf {X} sim { mathcal {MN}} _ {n times p} ( mathbf {M}, mathbf {U}, mathbf {V}),} ancak ve ancak
v e c ( X ) ∼ N n p ( v e c ( M ) , V ⊗ U ) { displaystyle mathrm {vec} ( mathbf {X}) sim { mathcal {N}} _ {np} ( mathrm {vec} ( mathbf {M}), mathbf {V} otimes mathbf {U})} nerede ⊗ { displaystyle otimes} Kronecker ürünü ve v e c ( M ) { displaystyle mathrm {vec} ( mathbf {M})} vektörleştirme nın-nin M { displaystyle mathbf {M}}
Kanıt Yukarıdakiler arasındaki eşdeğerlik matris normal ve çok değişkenli normal yoğunluk fonksiyonları, çeşitli özellikleri kullanılarak gösterilebilir. iz ve Kronecker ürünü , aşağıdaki gibi. Normal PDF matrisinin üssünün argümanıyla başlıyoruz:
− 1 2 tr [ V − 1 ( X − M ) T U − 1 ( X − M ) ] = − 1 2 vec ( X − M ) T vec ( U − 1 ( X − M ) V − 1 ) = − 1 2 vec ( X − M ) T ( V − 1 ⊗ U − 1 ) vec ( X − M ) = − 1 2 [ vec ( X ) − vec ( M ) ] T ( V ⊗ U ) − 1 [ vec ( X ) − vec ( M ) ] { displaystyle { başlangıç {hizalı} & ; ; ; ; - { frac {1} {2}} { text {tr}} sol [ mathbf {V} ^ {- 1} ( mathbf {X} - mathbf {M}) ^ {T} mathbf {U} ^ {- 1} ( mathbf {X} - mathbf {M}) right] & = - { frac {1} {2}} { text {vec}} left ( mathbf {X} - mathbf {M} right) ^ {T} { text {vec}} left ( mathbf {U} ^ {- 1} ( mathbf {X} - mathbf {M}) mathbf {V} ^ {- 1} right) & = - { frac {1} {2}} { text { vec}} left ( mathbf {X} - mathbf {M} sağ) ^ {T} left ( mathbf {V} ^ {- 1} otimes mathbf {U} ^ {- 1} sağ) { text {vec}} left ( mathbf {X} - mathbf {M} right) & = - { frac {1} {2}} left [{ text {vec} } ( mathbf {X}) - { text {vec}} ( mathbf {M}) sağ] ^ {T} left ( mathbf {V} otimes mathbf {U} sağ) ^ { -1} left [{ text {vec}} ( mathbf {X}) - { text {vec}} ( mathbf {M}) sağ] end {hizalı}}} bu çok değişkenli normal PDF'nin üssünün argümanıdır. İspat determinant özelliği kullanılarak tamamlanır: | V ⊗ U | = | V | n | U | p . { displaystyle | mathbf {V} otimes mathbf {U} | = | mathbf {V} | ^ {n} | mathbf {U} | ^ {p}.}
Özellikleri Eğer X ∼ M N n × p ( M , U , V ) { displaystyle mathbf {X} sim { mathcal {MN}} _ {n times p} ( mathbf {M}, mathbf {U}, mathbf {V})} [1] [2]
Beklenen değerler Ortalama veya beklenen değer dır-dir:
E [ X ] = M { displaystyle E [ mathbf {X}] = mathbf {M}} ve aşağıdaki ikinci dereceden beklentilerimiz var:
E [ ( X − M ) ( X − M ) T ] = U tr ( V ) { displaystyle E [( mathbf {X} - mathbf {M}) ( mathbf {X} - mathbf {M}) ^ {T}] = mathbf {U} operatorname {tr} ( mathbf {V})} E [ ( X − M ) T ( X − M ) ] = V tr ( U ) { displaystyle E [( mathbf {X} - mathbf {M}) ^ {T} ( mathbf {X} - mathbf {M})] = mathbf {V} operatorname {tr} ( mathbf {U})} nerede tr { displaystyle operatöradı {tr}} iz .
Daha genel olarak, uygun şekilde boyutlandırılmış matrisler için Bir ,B ,C :
E [ X Bir X T ] = U tr ( Bir T V ) + M Bir M T E [ X T B X ] = V tr ( U B T ) + M T B M E [ X C X ] = V C T U + M C M { displaystyle { begin {align} E [ mathbf {X} mathbf {A} mathbf {X} ^ {T}] & = mathbf {U} operatorname {tr} ( mathbf {A} ^ {T} mathbf {V}) + mathbf {MAM} ^ {T} E [ mathbf {X} ^ {T} mathbf {B} mathbf {X}] & = mathbf {V} operatöradı {tr} ( mathbf {U} mathbf {B} ^ {T}) + mathbf {M} ^ {T} mathbf {BM} E [ mathbf {X} mathbf {C} mathbf {X}] & = mathbf {V} mathbf {C} ^ {T} mathbf {U} + mathbf {MCM} end {hizalı}}} dönüşüm Transpoze dönüşümü:
X T ∼ M N p × n ( M T , V , U ) { displaystyle mathbf {X} ^ {T} sim { mathcal {MN}} _ {p times n} ( mathbf {M} ^ {T}, mathbf {V}, mathbf {U} )} Doğrusal dönüşüm: let D (r -tarafından-n ) dolu olmak sıra r ≤ n ve C (p -tarafından-s ), tam rütbeli olmak s ≤ p , sonra:
D X C ∼ M N r × s ( D M C , D U D T , C T V C ) { displaystyle mathbf {DXC} sim { mathcal {MN}} _ {r times s} ( mathbf {DMC}, mathbf {DUD} ^ {T}, mathbf {C} ^ {T} mathbf {VC})} Misal Bir örnek hayal edelim n bağımsız p boyutsal rastgele değişkenler, bir çok değişkenli normal dağılım :
Y ben ∼ N p ( μ , Σ ) ile ben ∈ { 1 , … , n } { displaystyle mathbf {Y} _ {i} sim { mathcal {N}} _ {p} ({ boldsymbol { mu}}, { boldsymbol { Sigma}}) { text {with} } i in {1, ldots, n }} Tanımlarken n × p matris X { displaystyle mathbf {X}} ben inci sıra Y ben { displaystyle mathbf {Y} _ {i}}
X ∼ M N n × p ( M , U , V ) { displaystyle mathbf {X} sim { mathcal {MN}} _ {n times p} ( mathbf {M}, mathbf {U}, mathbf {V})} her sıra M { displaystyle mathbf {M}} μ { displaystyle { boldsymbol { mu}}} M = 1 n × μ T { displaystyle mathbf {M} = mathbf {1} _ {n} times { boldsymbol { mu}} ^ {T}} U { displaystyle mathbf {U}} n × n kimlik matrisi, yani satırlar bağımsızdır ve V = Σ { displaystyle mathbf {V} = { kalın sembolü { Sigma}}}
Maksimum olabilirlik parametresi tahmini Verilen k matrisler, her bir boyut n × p , belirtilen X 1 , X 2 , … , X k { displaystyle mathbf {X} _ {1}, mathbf {X} _ {2}, ldots, mathbf {X} _ {k}} i.i.d. bir matris normal dağılımından, maksimum olasılık tahmini aşağıdaki parametrelerin maksimize edilmesiyle elde edilebilir:
∏ ben = 1 k M N n × p ( X ben ∣ M , U , V ) . { displaystyle prod _ {i = 1} ^ {k} { mathcal {MN}} _ {n times p} ( mathbf {X} _ {i} mid mathbf {M}, mathbf { U}, mathbf {V}).} Ortalamanın çözümü kapalı bir forma sahiptir, yani
M = 1 k ∑ ben = 1 k X ben { displaystyle mathbf {M} = { frac {1} {k}} toplam _ {i = 1} ^ {k} mathbf {X} _ {i}} ancak kovaryans parametreleri yoktur. Bununla birlikte, bu parametreler, gradyanlarını aşağıdaki gibi sıfırlayarak yinelemeli olarak maksimize edilebilir:
U = 1 k p ∑ ben = 1 k ( X ben − M ) V − 1 ( X ben − M ) T { displaystyle mathbf {U} = { frac {1} {kp}} toplamı _ {i = 1} ^ {k} ( mathbf {X} _ {i} - mathbf {M}) mathbf {V} ^ {- 1} ( mathbf {X} _ {i} - mathbf {M}) ^ {T}} ve
V = 1 k n ∑ ben = 1 k ( X ben − M ) T U − 1 ( X ben − M ) , { displaystyle mathbf {V} = { frac {1} {kn}} sum _ {i = 1} ^ {k} ( mathbf {X} _ {i} - mathbf {M}) ^ { T} mathbf {U} ^ {- 1} ( mathbf {X} _ {i} - mathbf {M}),} Örneğin bakınız [3] s> 0 , sahibiz:
M N n × p ( X ∣ M , U , V ) = M N n × p ( X ∣ M , s U , 1 / s V ) . { displaystyle { mathcal {MN}} _ {n times p} ( mathbf {X} mid mathbf {M}, mathbf {U}, mathbf {V}) = { mathcal {MN} } _ {n times p} ( mathbf {X} mid mathbf {M}, s mathbf {U}, 1 / s mathbf {V}).} Dağılımdan değer çizme Matris normal dağılımından örnekleme, örnekleme prosedürünün özel bir durumudur. çok değişkenli normal dağılım . İzin Vermek X { displaystyle mathbf {X}} n tarafından p matrisi np standart normal dağılımdan bağımsız örnekler, böylece
X ∼ M N n × p ( 0 , ben , ben ) . { displaystyle mathbf {X} sim { mathcal {MN}} _ {n times p} ( mathbf {0}, mathbf {I}, mathbf {I}).} O zaman izin ver
Y = M + Bir X B , { displaystyle mathbf {Y} = mathbf {M} + mathbf {A} mathbf {X} mathbf {B},} Böylece
Y ∼ M N n × p ( M , Bir Bir T , B T B ) , { displaystyle mathbf {Y} sim { mathcal {MN}} _ {n times p} ( mathbf {M}, mathbf {AA} ^ {T}, mathbf {B} ^ {T} mathbf {B}),} nerede Bir ve B tarafından seçilebilir Cholesky ayrışma veya benzer bir matris karekök işlemi.
Diğer dağıtımlarla ilişki Dawid (1981), matris değerli normal dağılımın diğer dağılımlarla ilişkisi hakkında bir tartışma sağlar. Wishart dağıtımı , Ters Wishart dağılımı ve matris t dağılımı , ancak burada kullanılandan farklı bir gösterim kullanır.
Ayrıca bakınız Referanslar ^ A K Gupta; D K Nagar (22 Ekim 1999). "Bölüm 2: MATRIX VARIATE NORMAL DAĞILIMI". Matris Değişken Dağılımları ISBN 978-1-58488-046-2 . Alındı 23 Mayıs 2014 . ^ Ding, Shanshan; R. Dennis Cook (2014). "MATRİKS DEĞERLİ TAHMİN EDİCİLER İÇİN BOYUT KATLAMA PCA VE PFC". Statistica Sinica . 24 (1): 463–492. ^ Glanz, Hunter; Carvalho, Luis. "Matris Normal Dağılımı İçin Bir Beklenti-Maksimizasyon Algoritması". arXiv :1309.6609 Ayrık tek değişkenli Ayrık tek değişkenli Sürekli tek değişkenli Sürekli tek değişkenli Sürekli tek değişkenli Sürekli tek değişkenli Sürekli ayrık tek değişkenli karışık Çok değişkenli (ortak) Yönlü Dejenere ve tekil Aileler
![frac { exp left (- frac {1} {2} , mathrm {tr} left [ mathbf {V} ^ {- 1} ( mathbf {X} - mathbf {M}) ^ {T} mathbf {U} ^ {- 1} ( mathbf {X} - mathbf {M}) right] right)} {(2 pi) ^ {np / 2} | mathbf { V} | ^ {n / 2} | mathbf {U} | ^ {p / 2}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/3cba11da3d60391317998cc9fffae94f856b0100)
![p ( mathbf {X} mid mathbf {M}, mathbf {U}, mathbf {V}) = frac { exp left (- frac {1} {2} , mathrm { tr} left [ mathbf {V} ^ {- 1} ( mathbf {X} - mathbf {M}) ^ {T} mathbf {U} ^ {- 1} ( mathbf {X} - mathbf {M}) right] right)} {(2 pi) ^ {np / 2} | mathbf {V} | ^ {n / 2} | mathbf {U} | ^ {p / 2} }](https://wikimedia.org/api/rest_v1/media/math/render/svg/76d5c7f6937a95760eb27f758edba1cd72f9c1ab)
![başla {hizala}
& ; ; ; ; - frac12 text {tr} left [ mathbf {V} ^ {- 1} ( mathbf {X} - mathbf {M}) ^ {T} mathbf { U} ^ {- 1} ( mathbf {X} - mathbf {M}) sağ]
& = - frac12 text {vec} left ( mathbf {X} - mathbf {M} sağ) ^ T
text {vec} left ( mathbf {U} ^ {- 1} ( mathbf {X} - mathbf {M}) mathbf {V} ^ {- 1} sağ)
& = - frac12 text {vec} left ( mathbf {X} - mathbf {M} sağ) ^ T
left ( mathbf {V} ^ {- 1} otimes mathbf {U} ^ {- 1} right) text {vec} left ( mathbf {X} - mathbf {M} sağ)
& = - frac12 sol [ text {vec} ( mathbf {X}) - text {vec} ( mathbf {M}) sağ] ^ T
left ( mathbf {V} otimes mathbf {U} sağ) ^ {- 1} left [ text {vec} ( mathbf {X}) - text {vec} ( mathbf {M} )sağ]
end {hizala}](https://wikimedia.org/api/rest_v1/media/math/render/svg/9c03d34c69c9069715df737fb445839abe55882f)
![E [ mathbf {X}] = mathbf {M}](https://wikimedia.org/api/rest_v1/media/math/render/svg/b42fa592683295b227432c1af033cbfcf14e62ce)
![E [( mathbf {X} - mathbf {M}) ( mathbf {X} - mathbf {M}) ^ {T}]
= mathbf {U} operatöradı {tr} ( mathbf {V})](https://wikimedia.org/api/rest_v1/media/math/render/svg/50d9630821d20351f9c786ce66e68b24c2279206)
![E [( mathbf {X} - mathbf {M}) ^ {T} ( mathbf {X} - mathbf {M})]
= mathbf {V} operatöradı {tr} ( mathbf {U})](https://wikimedia.org/api/rest_v1/media/math/render/svg/6fe9f1960ae8db69da7b98f55925f2d8097d684f)
![{ displaystyle { begin {align} E [ mathbf {X} mathbf {A} mathbf {X} ^ {T}] & = mathbf {U} operatorname {tr} ( mathbf {A} ^ {T} mathbf {V}) + mathbf {MAM} ^ {T} E [ mathbf {X} ^ {T} mathbf {B} mathbf {X}] & = mathbf {V} operatöradı {tr} ( mathbf {U} mathbf {B} ^ {T}) + mathbf {M} ^ {T} mathbf {BM} E [ mathbf {X} mathbf {C} mathbf {X}] & = mathbf {V} mathbf {C} ^ {T} mathbf {U} + mathbf {MCM} end {hizalı}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/193a326b30fb5d2459384083c12353d697d742be)
