Proksimal gradyan yöntemi - Proximal gradient method

Proksimal gradyan yöntemleri türevlenemeyenleri çözmek için kullanılan genelleştirilmiş bir projeksiyon şeklidir dışbükey optimizasyon sorunlar.

Birçok ilginç problem, formun dışbükey optimizasyon problemleri olarak formüle edilebilir:

nerede vardır dışbükey fonksiyonlar tanımlanmış bazı işlevlerin ayırt edilemez olduğu durumlarda, bu, geleneksel sorunsuz optimizasyon tekniklerimizi ortadan kaldırır.En dik iniş yöntemi, eşlenik gradyan yöntemi vb. Bunun yerine proksimal gradyan yöntemleri kullanılabilir. Bu yöntemler, işlevlerin bölünmesi ile ilerler. kolayca elde etmek için ayrı ayrı kullanılır uygulanabilir algoritma denir. yakın çünkü her biri pürüzsüz işlev arasında yakınlık operatörü aracılığıyla dahil edilir. Yinelemeli Büzülme eşikleme algoritması,[1] öngörülen Landweber öngörülen gradyan alternatif projeksiyonlar, alternatif yönlü çarpan yöntemi, alternatingsplit Bregman proksimal algoritmaların özel örnekleridir.[2] Proksimal gradyan yöntemleri teorisi için ve uygulamalarla birlikte istatistiksel öğrenme teorisi, görmek öğrenme için proksimal gradyan yöntemleri.

Gösterimler ve terminoloji

İzin Vermek , -boyutlu Öklid uzayı, işlevin etki alanı olun. Varsayalım boş olmayan bir konveks alt kümesidir . Ardından, gösterge işlevi olarak tanımlanır

-norm şu şekilde tanımlanır ( )

Uzaklık -e olarak tanımlanır

Eğer kapalı ve dışbükeydir, projeksiyonu üstüne eşsiz nokta öyle ki .

alt farklı nın-nin -de tarafından verilir

Dışbükey setlere (POCS) projeksiyon

Yaygın olarak kullanılan dışbükey optimizasyon algoritmalarından biri dışbükey kümeler üzerine projeksiyonlar (POCS). Bu algoritma, aynı anda birkaç dışbükey kısıtlamayı karşılayan bir sinyali kurtarmak / sentezlemek için kullanılır. İzin Vermek boş olmayan kapalı dışbükey kümenin gösterge işlevi bir kısıtın modellenmesi. Bu, tüm dışbükey kümelerin kesişme noktasında yer alan bir çözüm bulmamızı gerektiren dışbükey fizibilite sorununa indirgenir . POCS yönteminde her set tarafından dahil edilmiştir projeksiyon operatörü . Yani her birinde yineleme olarak güncellendi

Ancak bu tür sorunların ötesinde projeksiyon operatörleri uygun değildir ve bunların üstesinden gelmek için daha genel operatörlere ihtiyaç vardır. Var olan bir dışbükey projeksiyon operatörü kavramının çeşitli genellemeleri arasında, yakınlık operatörleri diğer amaçlar için en uygun olanıdır.

Tanım

yakınlık operatörü dışbükey bir fonksiyonun -de benzersiz çözüm olarak tanımlanır

ve gösterilir .

Belirli bir durumda gösterge işlevi bazı dışbükey kümelerin

yakınlık operatörünün aslında projeksiyon operatörünün bir genellemesi olduğunu gösterir.

Yakınlık operatörü dahil etme ile karakterizedir

Eğer Türevlenebilir, sonra yukarıdaki denklem indirgenir

Örnekler

Proksimal Gradyan Yöntemlerinin özel örnekleri

Ayrıca bakınız

Notlar

  1. ^ Daubechies, I; Defrise, M; De Mol, C (2004). "Seyreklik kısıtı olan doğrusal ters problemler için yinelemeli bir eşikleme algoritması". Saf ve Uygulamalı Matematik üzerine İletişim. 57 (11): 1413–1457. arXiv:matematik / 0307152. Bibcode:2003math ...... 7152D. doi:10.1002 / cpa.20042.
  2. ^ Proksimal yöntemlerin ayrıntıları aşağıda tartışılmıştır. Combettes, Patrick L .; Pesquet, Jean-Christophe (2009). "Sinyal İşlemede Proksimal Bölme Yöntemleri". arXiv:0912.3522 [math.OC ].

Referanslar

  • Rockafellar, R. T. (1970). Dışbükey analiz. Princeton: Princeton Üniversitesi Yayınları.
  • Combettes, Patrick L .; Pesquet, Jean-Christophe (2011). Springer'in Bilim ve Mühendislikte Ters Problemler için Sabit Nokta Algoritmaları. 49. s. 185–212.

Dış bağlantılar