Ters varyans ağırlıklandırma - Inverse-variance weighting

İçinde İstatistik, ters varyans ağırlıklandırma iki veya daha fazlasını bir araya getirme yöntemidir rastgele değişkenler küçültmek için varyans ağırlıklı ortalamanın. Her rastgele değişken ağırlıklandırılır ters oran varyansı, yani orantılı hassas.

Bir dizi bağımsız gözlem verildiğinde y_ben varyanslı σ_ben²ters varyans ağırlıklı ortalama şu şekilde verilir:^[1]

${ displaystyle { hat {y}} = { frac { sum _ {i} y_ {i} / sigma _ {i} ^ {2}} { sum _ {i} 1 / sigma _ { i} ^ {2}}}.}$

Ters varyans ağırlıklı ortalama, tüm ağırlıklı ortalamalar arasında en düşük varyansa sahiptir ve şu şekilde hesaplanabilir:

${ displaystyle D ^ {2} ({ hat {y}}) = { frac {1} { sum _ {i} 1 / sigma _ {i} ^ {2}}}.}$

Ölçümlerin tüm varyansları eşitse, ters varyans ağırlıklı ortalama basit ortalama olur.

Ters varyans ağırlıklandırma tipik olarak istatistiksel olarak kullanılır meta-analiz bağımsız ölçümlerden elde edilen sonuçları birleştirmek için.

Bağlam

Bir deneycinin bir miktarın değerini ölçmek istediğini varsayalım, diyelim ki ivme yerçekimi, gerçek değeri olan ${ displaystyle mu}$. Dikkatli bir deneyci, birden çok ölçüm yapar. ${ displaystyle n}$ rastgele değişkenler ${ displaystyle X_ {1}, X_ {2}, ..., X_ {n}}$. Hepsi gürültülü ancak tarafsız ise, yani ölçüm cihazı gerçek değeri sistematik olarak fazla veya küçümsemezse ve hatalar simetrik olarak dağılırsa, beklenti değeri ${ displaystyle E [X_ {i}] = mu}$ ${ displaystyle forall i}$. Ölçümdeki dağılım daha sonra şu şekilde karakterize edilir: varyans rastgele değişkenlerin ${ displaystyle Var (X_ {i}): = sigma _ {i} ^ {2}}$ve ölçümler aynı senaryolar altında gerçekleştiriliyorsa, tüm ${ displaystyle sigma _ {i}}$ aynıdır, buna atıfta bulunacağız ${ displaystyle sigma}$. Verilen ${ displaystyle n}$ ölçümler, tipik tahminci için ${ displaystyle mu}$olarak belirtildi ${ displaystyle { hat { mu}}}$basit tarafından verilir ortalama ${ displaystyle { overline {X}} = { frac {1} {n}} toplamı _ {i} X_ {i}}$. Bu ampirik ortalamanın aynı zamanda beklenti değeri olan rastgele bir değişken olduğuna dikkat edin. ${ displaystyle E [{ overline {X}}]}$ dır-dir ${ displaystyle mu}$ ama aynı zamanda bir dağılım vardır. Bireysel ölçümler ilintisiz ise, tahmindeki hatanın karesi şu şekilde verilir: ${ displaystyle Var ({ overline {X}}) = { frac {1} {n ^ {2}}} sum _ {i} sigma _ {i} ^ {2} = sol ({ frac { sigma} { sqrt {n}}} sağ) ^ {2}}$. Dolayısıyla, eğer hepsi ${ displaystyle sigma _ {i}}$ eşittir, daha sonra tahmindeki hata artarak azalır ${ displaystyle n}$ gibi ${ displaystyle 1 / { sqrt {n}}}$, böylece daha fazla sayıda gözlem tercih edilir.

Onun yerine ${ displaystyle n}$ Deneyci yaparsa, bir cihazla tekrarlanan ölçümler ${ displaystyle n}$ ile aynı miktarda ${ displaystyle n}$ Farklı ölçüm kalitesine sahip farklı enstrümanlar, o zaman farklı olmasını beklemek için hiçbir neden yoktur ${ displaystyle sigma _ {i}}$ aynı olmak. Bazı enstrümanlar diğerlerinden daha gürültülü olabilir. Yerçekimine bağlı ivmenin ölçülmesi örneğinde, farklı "aletler" ölçülebilir ${ displaystyle g}$ bir basit sarkaç, analiz etmekten mermi hareketi vb. basit ortalama artık optimal bir tahminci değildir, çünkü ${ displaystyle { overline {X}}}$ farklı ölçümler çok farklı hatalara sahipse, en az gürültülü ölçümde hatayı gerçekten aşabilir. Deneyci, son hatayı artıran gürültülü ölçümleri atmak yerine, en az gürültülü ölçümlere daha fazla önem vermek için tüm ölçümleri uygun ağırlıklarla birleştirebilir ve bunun tersi de geçerlidir. Bilgisi göz önüne alındığında ${ displaystyle sigma _ {1} ^ {2}, sigma _ {2} ^ {2}, ..., sigma _ {n} ^ {2}}$, ölçmek için optimal bir tahminci ${ displaystyle mu}$ öyle olabilir mi ağırlıklı ortalama ölçümlerin ${ displaystyle { hat { mu}} = { frac { sum _ {i} w_ {i} X_ {i}} { toplamı _ {i} w_ {i}}}}$, ağırlıkların özel seçimi için ${ displaystyle w_ {i} = 1 / sigma _ {i} ^ {2}}$. Tahmincinin varyansı ${ displaystyle Var ({ hat { mu}}) = { frac { toplamı _ {i} w_ {i} ^ {2} sigma _ {i} ^ {2}} { sol ( toplamı _ {i} w_ {i} sağ) ^ {2}}}}$, ağırlıkların optimum seçimi için ${ displaystyle Var ({ hat { mu}} _ { text {opt}}) = sol ( toplamı _ {i} sigma _ {i} ^ {- 2} sağ) ^ {- 1 }.}$

O zamandan beri unutmayın ${ displaystyle Var ({ hat { mu}} _ { text {opt}}) < min _ {j} sigma _ {j} ^ {2}}$, tahmin edicinin herhangi bir bireysel ölçümdeki dağılımdan daha küçük bir dağılımı vardır. Ayrıca, dağılım ${ displaystyle { hat { mu}} _ { text {opt}}}$ daha fazla ölçüm ekledikçe azalır, ancak bu ölçümler daha gürültülü olabilir.

Türetme

Genel ağırlıklı bir toplam düşünün ${ displaystyle Y = toplam _ {i} w_ {i} X_ {i}}$, ağırlıklar nerede ${ displaystyle w_ {i}}$ öyle normalleştirildi ki ${ displaystyle toplamı _ {i} w_ {i} = 1}$. Eğer ${ displaystyle X_ {i}}$ hepsi bağımsızdır, varyansı ${ displaystyle Y}$ tarafından verilir

${ displaystyle Var (Y) = toplam _ {i} w_ {i} ^ {2} sigma _ {i} ^ {2}.}$

Optimallik için en aza indirmek istiyoruz ${ displaystyle Var (Y)}$ eşitlenerek yapılabilir gradyan ağırlıklarına göre ${ displaystyle Var (Y)}$ sıfıra, kısıtlamayı korurken ${ displaystyle toplamı _ {i} w_ {i} = 1}$. Bir Lagrange çarpanı ${ displaystyle w_ {0}}$ kısıtlamayı uygulamak için varyansı ifade ediyoruz

${ displaystyle Var (Y) = toplam _ {i} w_ {i} ^ {2} sigma _ {i} ^ {2} -w_ {0} ( toplamı _ {i} w_ {i} -1 ).}$

İçin ${ displaystyle k> 0}$,

${ displaystyle 0 = { frac { kısmi} { kısmi w_ {k}}} Var (Y) = 2w_ {k} sigma _ {k} ^ {2} -w_ {0},}$

ki bunun anlamı

${ displaystyle w_ {k} = { frac {w_ {0} / 2} { sigma _ {k} ^ {2}}}.}$

Buradaki ana paket servis, ${ displaystyle w_ {k} propto 1 / sigma _ {k} ^ {2}}$. Dan beri ${ displaystyle toplamı _ {i} w_ {i} = 1}$,

${ displaystyle { frac {2} {w_ {0}}} = sum _ {i} { frac {1} { sigma _ {i} ^ {2}}}: = { frac {1} { sigma _ {0} ^ {2}}}.}$

Bireysel normalleştirilmiş ağırlıklar

${ displaystyle w_ {k} = { frac {1} { sigma _ {k} ^ {2}}} left ( sum _ {i} { frac {1} { sigma _ {i} ^ {2}}} sağ) ^ {- 1}.}$

Bu ekstremum çözümünün en düşük seviyeye karşılık geldiğini görmek kolaydır. ikinci kısmi türev testi varyansın ağırlıkların ikinci dereceden bir fonksiyonu olduğuna dikkat çekerek, tahmin edicinin minimum varyansı şöyle verilir:

${ displaystyle Var (Y) = sum _ {i} { frac { sigma _ {0} ^ {4}} { sigma _ {i} ^ {4}}} sigma _ {i} ^ { 2} = sigma _ {0} ^ {4} sum _ {i} { frac {1} { sigma _ {i} ^ {2}}} = sigma _ {0} ^ {4} { frac {1} { sigma _ {0} ^ {2}}} = sigma _ {0} ^ {2} = { frac {1} { sum _ {i} 1 / sigma _ {i } ^ {2}}}.}$

Normal Dağılımlar

İçin normal dağılım Rastgele değişkenler ters varyans ağırlıklı ortalamalar, gerçek değer için maksimum olasılık tahmini olarak da türetilebilir. Ayrıca, bir Bayes Normal dağılım gösteren gözlemler verilen gerçek değer için posterior dağılımı perspektif edin ${ displaystyle y_ {i}}$ ve düz bir önceki, ortalama ve varyans olarak ters varyans ağırlıklı ortalamanın olduğu normal bir dağılımdır ${ displaystyle Var (Y)}$

Çok Değişkenli Durum

Çok değişkenli dağılımlar için eşdeğer bir argüman, kovaryans matrislerine dayalı olarak optimal bir ağırlıklandırmaya götürür ${ displaystyle Sigma _ {i}}$ bireysel tahminlerin ${ displaystyle x_ {i}}$:

${ displaystyle { hat {x}} = sol ( toplamı _ {i} Sigma _ {i} ^ {- 1} sağ) ^ {- 1} toplamı _ {i} Sigma _ {i } ^ {- 1} x_ {i}}$

Çok değişkenli dağılımlar için "hassas ağırlıklı" ortalama terimi daha yaygın olarak kullanılmaktadır.

Ayrıca bakınız

• Ağırlıklı en küçük kareler

Referanslar

Bu makale için ek alıntılara ihtiyaç var doğrulama. Lütfen yardım et bu makaleyi geliştir tarafından güvenilir kaynaklara alıntılar eklemek. Kaynaksız materyale itiraz edilebilir ve kaldırılabilir. Kaynakları bulun: "Ters varyans ağırlıklandırma"  – Haberler  · gazeteler  · kitabın  · akademisyen  · JSTOR (Eylül 2012) (Bu şablon mesajını nasıl ve ne zaman kaldıracağınızı öğrenin)