Jensens eşitsizliği - Jensens inequality - Wikipedia

Jensen'in eşitsizliği Dışbükey bir fonksiyonun sekant çizgisinin grafiğin üzerinde olduğu ifadesini genelleştirir.
Dışbükeyliği ve Jensen'in Eşitsizliğini Görselleştirme

İçinde matematik, Jensen'in eşitsizliğiDanimarkalı matematikçinin adını almıştır Johan Jensen, a'nın değerini ilişkilendirir dışbükey işlev bir integral dışbükey fonksiyonun integraline. 1906'da Jensen tarafından kanıtlandı.[1] Genelliği göz önüne alındığında, eşitsizlik, bazıları aşağıda sunulan bağlama bağlı olarak birçok biçimde ortaya çıkmaktadır. En basit haliyle eşitsizlik, bir ortalamanın dışbükey dönüşümünün, dışbükey dönüşümden sonra uygulanan ortalamaya eşit veya daha az olduğunu belirtir; tersinin içbükey dönüşümler için geçerli olduğu basit bir sonuçtur.

Jensen'in eşitsizliği, şu ifadeyi genelleştirir: ayırma çizgisi dışbükey bir fonksiyonun yalanları yukarıda Jensen'in iki nokta için eşitsizliği olan fonksiyonun grafiği: sekant doğrusu, dışbükey fonksiyonun ağırlıklı ortalamalarından oluşur (için t ∈ [0,1]),

fonksiyonun grafiği ağırlıklı ortalamanın dışbükey fonksiyonuyken,

Böylece, Jensen'in eşitsizliği

Bağlamında olasılık teorisi, genellikle aşağıdaki biçimde belirtilir: eğer X bir rastgele değişken ve φ dışbükey bir fonksiyondur, o zaman

Eşitsizliğin iki tarafı arasındaki fark, , denir Jensen boşluğu.[2]

İfadeler

Jensen'in eşitsizliğinin klasik biçimi birkaç sayı ve ağırlık içerir. Eşitsizlik, genel olarak şu dillerden biri kullanılarak ifade edilebilir: teori ölçmek veya (eşdeğer olarak) olasılık. Olasılıksal ortamda, eşitsizlik daha da genelleştirilebilir. tam güç.

Sonlu form

Gerçek için dışbükey işlev , sayılar kendi alanında ve pozitif ağırlıklar Jensen'in eşitsizliği şu şekilde ifade edilebilir:

ve eşitsizlik tersine çevrilir dır-dir içbükey, hangisi

Eşitlik ancak ve ancak veya içeren bir alanda doğrusaldır .

Belirli bir durum olarak, eğer ağırlıklar hepsi eşitse, (1) ve (2) olur

Örneğin, işlev günlük (x) dır-dir içbükey yani ikame önceki formülde (4), tanıdık (logaritması) aritmetik ortalama / geometrik ortalama eşitsizlik:

Ortak bir uygulamada başka bir değişkenin (veya değişkenler kümesinin) bir işlevi olarak , yani, . Tüm bunlar doğrudan genel sürekli duruma geçer: ağırlıklar aben negatif olmayan bir integrallenebilir fonksiyon ile değiştirilir f (x), örneğin bir olasılık dağılımı ve toplamların yerini integraller alır.

Ölçü-teorik ve olasılıklı form

İzin Vermek olmak olasılık uzayı, öyle ki . Eğer bir gerçek değerli fonksiyon -entegre edilebilir, ve eğer bir dışbükey işlev gerçek hatta, sonra:

Gerçek analizde, bir tahmin isteyebiliriz

nerede , ve negatif olmayan bir Lebesgue-entegre edilebilir işlevi. Bu durumda, Lebesgue ölçümü birlik olmaya gerek yok. Bununla birlikte, ikame yoluyla entegrasyon yoluyla, aralık, ölçü birliğine sahip olacak şekilde yeniden ölçeklendirilebilir. Daha sonra Jensen'in eşitsizliği elde etmek için uygulanabilir.[3]

Aynı sonuç eşit olarak bir olasılık teorisi ayar, basit bir gösterim değişikliği ile. İzin Vermek olmak olasılık uzayı, X bir entegre edilebilir gerçek değerli rastgele değişken ve φ a dışbükey işlev. Sonra:

Bu olasılık ayarında ölçü μ bir olasılık olarak düşünülmüştür ile ilgili olarak integral μ olarak beklenen değer ve işlev olarak rastgele değişken X.

Eşitliğin geçerli olduğunu unutmayın, ancak ve ancak φ bazı setlerde doğrusal bir fonksiyondur öyle ki (aşağıdaki ölçü-teorik kanıtı inceleyerek devam eder).

Olasılıklı bir ortamda genel eşitsizlik

Daha genel olarak T gerçek ol topolojik vektör uzayı, ve X a Tdeğerli entegre edilebilir rastgele değişken. Bu genel ortamda, entegre edilebilir bir eleman olduğu anlamına gelir içinde T, öyle ki herhangi bir öğe için z içinde ikili boşluk nın-nin T: , ve . Ardından, ölçülebilir herhangi bir dışbükey işlev için φ ve herhangi bir altσ-cebir nın-nin :

Buraya duruyor beklenti şartlı σ-cebire . Bu genel ifade, topolojik vektör uzayı T ... gerçek eksen, ve önemsiz mi σ-cebir {∅, Ω} (nerede ... boş küme, ve Ω ... örnek alan ).[4]

Keskin ve genelleştirilmiş bir form

İzin Vermek X ortalama ile tek boyutlu rastgele bir değişken olmak ve varyans . İzin Vermek iki kez türevlenebilir bir işlev olabilir ve işlevi

Sonra[5]

Özellikle ne zaman dışbükey ise ve Jensen'in eşitsizliğinin standart biçimi, ayrıca iki kez türevlenebilir olduğu varsayılır.

Kanıtlar

Olasılıklı durum için Jensen'in eşitsizliğinin grafiksel bir "kanıtı". Boyunca kesikli eğri X eksen varsayımsal dağılımıdır Xkesikli eğri boyunca Y eksen karşılık gelen dağılımıdır Y değerler. Dışbükey haritalamanın Y(X) artan değerler için dağılımı giderek daha fazla "uzatır" X.
Bu, Jensen'in eşitsizliğinin sözsüz bir kanıtıdır. n değişkenler. Genellik kaybı olmadan, pozitif ağırlıkların toplamı 1. Buradan, ağırlıklı noktanın, dışbükeylik tanımına göre fonksiyonun kendisinin üzerinde yer alan orijinal noktaların dışbükey gövdesinde yattığı anlaşılmaktadır. Sonuç aşağıdadır.[6]

Jensen'in eşitsizliği birkaç yolla kanıtlanabilir ve yukarıdaki farklı ifadelere karşılık gelen üç farklı kanıt sunulacaktır. Bununla birlikte, bu matematiksel türetmelere başlamadan önce, olasılıklı duruma dayanan sezgisel bir grafiksel argümanı analiz etmeye değer X gerçek bir sayıdır (şekle bakın). Varsayımsal bir dağılım varsayarsak X değerleri, biri hemen konumunu belirleyebilir ve görüntüsü grafikte. Dışbükey haritalamalar için bunu fark etmek Y = φ(X) karşılık gelen dağılımı Y değerler, artan değerler için giderek "uzar" Xdağıtımını görmek kolaydır. Y karşılık gelen aralıkta daha geniştir X > X0 ve daha dar X < X0 herhangi X0; özellikle, bu aynı zamanda . Sonuç olarak, bu resimde beklenti Y pozisyonuna göre daima yukarı kayacaktır . Benzer bir muhakeme geçerlidir. X dışbükey fonksiyonun azalan bir kısmını veya bunun hem azalan hem de artan bir kısmını kapsar. Bu eşitsizliği "kanıtlar", yani

eşitlikle ne zaman φ(X) kesinlikle dışbükey değildir, ör. düz bir çizgi olduğunda veya ne zaman X takip eder dejenere dağılım (yani sabittir).

Aşağıdaki ispatlar bu sezgisel fikri resmileştiriyor.

İspat 1 (sonlu form)

Eğer λ1 ve λ2 iki rastgele negatif olmayan gerçek sayıdır ki λ1 + λ2 = 1 sonra dışbükeylik φ ima eder

Bu kolaylıkla genelleştirilebilir: eğer λ1, ..., λn negatif olmayan gerçek sayılardır öyle ki λ1 + ... + λn = 1, sonra

herhangi x1, ..., xn. Bu sonlu biçim Jensen'in eşitsizliğinin% 50'si ile kanıtlanabilir indüksiyon: dışbükeylik hipotezlerine göre ifade, n = 2. Varsayalım ki bazıları için de doğru nbunun için kanıtlanmalı n + 1. En az biri λben diyelim ki kesinlikle olumlu λ1; bu nedenle dışbükeylik eşitsizliği ile:

Dan beri

Sonuç elde etmek için önceki formüldeki son terime tümevarım hipotezleri uygulanabilir, yani Jensen eşitsizliğinin sonlu formu.

Bu sonlu formdan genel eşitsizliği elde etmek için bir yoğunluk argümanı kullanmak gerekir. Sonlu form şu şekilde yeniden yazılabilir:

nerede μn keyfi olarak verilen bir ölçüdür dışbükey kombinasyon nın-nin Dirac deltaları:

Dışbükey fonksiyonlar olduğundan sürekli ve Dirac deltalarının dışbükey kombinasyonları zayıf yoğun Olasılık ölçüleri setinde (kolaylıkla doğrulanabileceği gibi), genel ifade basit bir şekilde sınırlayıcı bir prosedürle elde edilir.

İspat 2 (ölçü-teorik form)

İzin Vermek g Ω olasılık uzayında gerçek değerli bir μ-integrallenebilir fonksiyon olmak ve φ gerçek sayılar üzerinde dışbükey bir fonksiyon olabilir. Dan beri φ dışbükeydir, her gerçek sayıda x boş olmayan bir setimiz var alt türevler grafiğine dokunan çizgiler olarak düşünülebilir φ -de x, ancak grafikte veya altında olan φ tüm noktalarda (grafiğin destek çizgileri).

Şimdi, eğer tanımlarsak

dışbükey işlevler için alt türevlerin varlığı nedeniyle, a ve b öyle ki

her şey için x ve

Ama sonra buna sahibiz

hepsi için x. Bir olasılık ölçümüz olduğundan, integral monotondur. μ(Ω) = 1 Böylece

istediğiniz gibi.

İspat 3 (olasılıklı bir ortamda genel eşitsizlik)

İzin Vermek X gerçek bir topolojik vektör uzayında değerler alan integrallenebilir bir rastgele değişken olabilir T. Dan beri herhangi biri için dışbükey , miktar

azalıyor θ yaklaşımlar 0+. Özellikle, alt farklı nın-nin değerlendirildi x yöne y tarafından iyi tanımlanmıştır

Alt farklılığın doğrusal olduğu kolayca görülebilir. y[kaynak belirtilmeli ] (bu yanlıştır ve iddia, Hahn-Banach teoreminin kanıtlanmasını gerektirir) ve önceki formülün sağ tarafında alınan sonsuz, aynı terimin değerinden daha küçük olduğu için θ = 1, biri alır

Özellikle, keyfi bir altσ-cebir son eşitsizliği ne zaman değerlendirebiliriz elde etmek üzere

Şimdi, beklentiyi şartlı alırsak önceki ifadenin her iki tarafında da sonucu şu şekilde alıyoruz:

alt farklılığın doğrusallığı ile y değişken ve aşağıdaki iyi bilinen özelliği koşullu beklenti:

Uygulamalar ve özel durumlar

Olasılık yoğunluk işlevini içeren form

Varsayalım Ω gerçek çizginin ölçülebilir bir alt kümesidir ve f(x) negatif olmayan bir fonksiyondur, öyle ki

Olasılıklı dilde, f bir olasılık yoğunluk fonksiyonu.

O zaman Jensen'in eşitsizliği, dışbükey integrallerle ilgili şu ifadeye dönüşür:

Eğer g herhangi bir gerçek değerli ölçülebilir fonksiyon ve aralığı üzerinde dışbükey g, sonra

Eğer g(x) = x, o zaman bu eşitsizlik biçimi, yaygın olarak kullanılan özel bir duruma indirgenir:

Bu, Varyasyonel Bayesci yöntemler.

Örnek: çift anlar rastgele bir değişkenin

Eğer g(x) = x2n, ve X rastgele bir değişkendir, o zaman g dışbükey

ve bu yüzden

Özellikle, bir an bile olsa 2n nın-nin X sonlu X sınırlı bir ortalamaya sahiptir. Bu argümanın bir uzantısı şunu gösterir: X her siparişin sonlu anlarına sahiptir bölme n.

Alternatif sonlu form

İzin Vermek Ω = {x1, ... xn}, ve Al μ olmak sayma ölçüsü açık Ω, daha sonra genel biçim, toplamlarla ilgili bir ifadeye indirgenir:

şartıyla λben ≥ 0 ve

Ayrıca sonsuz bir ayrık form vardır.

İstatistiksel fizik

Jensen'in eşitsizliği, dışbükey fonksiyon üstel olduğunda istatistiksel fizikte özellikle önemlidir ve şunları verir:

nerede beklenen değerler bazılarına göre olasılık dağılımı içinde rastgele değişken X.

Bu durumda kanıt çok basittir (çapraz başvuru Chandler, Bölüm 5.5). İstenilen eşitsizlik doğrudan yazarak takip eder

ve sonra eşitsizliği uygulamak eX ≥ 1 + X son üsse.

Bilgi teorisi

Eğer p(x) gerçek olasılık yoğunluğu X, ve q(x) başka bir yoğunluktur, sonra Jensen'in eşitsizliğini rastgele değişken için uygular Y(X) = q(X)/p(X) ve dışbükey işlevi φ(y) = −log (y) verir

Bu nedenle:

bir sonuç çağrıldı Gibbs eşitsizliği.

Gerçek olasılıklar temelinde kodlar atandığında ortalama mesaj uzunluğunun en aza indirildiğini gösterir. p herhangi başka bir dağıtım yerine q. Negatif olmayan miktara Kullback-Leibler sapması nın-nin q itibaren p.

Dan beri −log (x) kesinlikle dışbükey bir işlevdir x > 0, eşitlik ne zaman geçerli olur p(x) eşittir q(x) neredeyse heryerde.

Rao-Blackwell teoremi

Eğer L dışbükey bir fonksiyondur ve bir alt sigma-cebir, sonra, Jensen'in eşitsizliğinin koşullu versiyonundan,

Yani δ (X) biraz tahminci gözlemlenebilir bir vektör verildiğinde gözlenmeyen bir parametrenin θ X; ve eğer T(X) bir yeterli istatistik θ için; daha sonra daha küçük bir beklenen kayba sahip olma anlamında geliştirilmiş bir tahminci Lhesaplanarak elde edilebilir

tüm olası gözlem vektörleri üzerinden alınan θ ile ilgili beklenen expected değeri X aynı değerle uyumlu T(X) görüldüğü gibi. Ayrıca, T yeterli bir istatistik olduğu için, θ'ye bağlı değildir, dolayısıyla bir istatistik haline gelir.

Bu sonuç, Rao-Blackwell teoremi.

Ayrıca bakınız

Notlar

  1. ^ Jensen, J.L.W.V. (1906). "Sur les fonctions convexes and les inégalités entre les valeurs moyennes". Acta Mathematica. 30 (1): 175–193. doi:10.1007 / BF02418571.
  2. ^ Gao, Xiang; Sitharam, Meera; Roitberg, Adrian (2019). "Jensen Uçurumu Üzerindeki Sınırlar ve Ortalama Konsantre Dağılımlar için Çıkarımlar" (PDF). Avustralya Matematiksel Analiz ve Uygulamalar Dergisi. 16 (2). arXiv:1712.05267.
  3. ^ Niculescu, Constantin P. "İntegral eşitsizlikler", S. 12.
  4. ^ Dikkat: Bu genellikte, dışbükey fonksiyon ve / veya topolojik vektör uzayı hakkında ek varsayımlar gereklidir, bkz. Örnek (1.3), s. 53 inç Perlman, Michael D. (1974). "Sonsuz Boyutlu Uzayda Konveks Vektör Değerli Fonksiyon için Jensen'in Eşitsizliği". Çok Değişkenli Analiz Dergisi. 4 (1): 52–65. doi:10.1016 / 0047-259X (74) 90005-0.
  5. ^ Liao, J .; Berg, A (2018). "Jensen'in Eşitsizliğini Keskinleştirmek". Amerikan İstatistikçi. arXiv:1707.08644. doi:10.1080/00031305.2017.1419145.
  6. ^ Bradley CJ (2006). Eşitsizliklere Giriş. Leeds, Birleşik Krallık: Birleşik Krallık Matematik Vakfı. s. 97. ISBN  978-1-906001-11-7.

Referanslar

Dış bağlantılar