Infomax - Infomax

Infomax için bir optimizasyon ilkesidir yapay sinir ağları ve diğer bilgi işleme sistemleri. Bir dizi girdi değerini eşleyen bir işlevin ben bir dizi çıktı değerine Ö ortalamayı maksimize edecek şekilde seçilmeli veya öğrenilmelidir Shannon karşılıklı bilgi arasında ben ve Ö, belirli kısıtlamalara ve / veya gürültü işlemlerine tabidir. Infomax algoritmaları öğreniyor algoritmalar bu optimizasyon sürecini gerçekleştiren. İlke 1988'de Linsker tarafından açıklandı.[1]

Infomax, sıfır gürültü sınırında, biyolojik duyusal işleme için önerilen artıklık azaltma ilkesiyle ilgilidir. Horace Barlow 1961'de[2] ve nicel olarak Atick ve Redlich tarafından retina işlemeye uygulandı.[3]

İnfomax uygulamalarından biri, bir bağımsız bileşen analizi algoritma maksimize ederek bağımsız sinyalleri bulan entropi. Infomax tabanlı ICA, Bell ve Sejnowski ve 1995'te Nadal ve Parga.[4] [5]

Ayrıca bakınız

Referanslar

  1. ^ Linsker R (1988). "Algısal bir ağda kendi kendine organizasyon". IEEE Bilgisayar. 21 (3): 105–17. doi:10.1109/2.36.
  2. ^ Barlow, H. (1961). "Duyusal mesajların dönüşümlerinin altında yatan olası ilkeler". Rosenblith, W. (ed.). Duyusal İletişim. Cambridge MA: MIT Press. s. 217–234.
  3. ^ Atick JJ, Redlich AN (1992). "Retina doğal sahneler hakkında ne biliyor?" Sinirsel Hesaplama. 4 (2): 196–210. doi:10.1162 / neco.1992.4.2.196.
  4. ^ Bell AJ, Sejnowski TJ (Kasım 1995). "Kör ayrılık ve kör evrişime karşı bilgi maksimizasyonu yaklaşımı". Sinirsel Bilgisayar. 7 (6): 1129–59. CiteSeerX  10.1.1.36.6605. doi:10.1162 / neco.1995.7.6.1129. PMID  7584893.
  5. ^ Nadal J.P., Parga N. (1999). "Duyusal kodlama: bilgi maksimizasyonu ve artıklık azaltma". Burdet, G .; Combe, P .; Parodi, O. (editörler). Sinirsel Bilgi İşleme. Matematiksel Biyoloji ve Tıpta Dünya Bilimsel Serisi. 7. Singapur: World Scientific. s. 164–171.