İçsel motivasyon (yapay zeka) - Intrinsic motivation (artificial intelligence)

İçsel motivasyon çalışmasında yapay zeka ve robotik etkinleştirmek için bir mekanizmadır yapay ajanlar (dahil olmak üzere robotlar ) keşif ve merak gibi doğası gereği ödüllendirici davranışlar sergilemek için aynı terim çalışmasında Psikoloji. Psikologlar, insanlarda içsel motivasyonu, doğal tatmin için bir faaliyet gerçekleştirme dürtüsü olarak görürler - sadece eğlence ya da meydan okuma için.[1]

Tanım

Bir akıllı ajan eylemden kaynaklanan deneyimin tek başına bilgi içeriği motive edici faktör ise, özünde harekete geçme motivasyonuna sahiptir.

Bu bağlamdaki bilgi içeriği, bilgi kuramsal belirsizliği ölçme duygusu. Tipik bir içsel motivasyon, yiyecek arama (homeostasis) gibi tipik bir dışsal motivasyonun aksine, alışılmadık, şaşırtıcı durumları araştırmaktır (keşif).[2] Dışsal motivasyonlar genellikle yapay zekada şu şekilde tanımlanır: göreve bağlı veya amaca yönelik.

Psikolojide kökenler

Psikoloji ve sinirbilimdeki içsel motivasyon çalışması 1950'lerde bazı psikologların keşifleri manipüle etme ve keşfetme güdüleriyle açıklamaları ile başladı, ancak bu homeostatik görüş White tarafından eleştirildi.[3] Alternatif bir açıklama Berlyne 1960 yılında, yenilik ve aşinalık arasında optimal bir denge arayışıydı.[4] Festinger İç ve dış dünya görüşü arasındaki farkı, organizmaların azaltmak için güdüldüğü uyumsuzluk olarak tanımladı.[5] Benzer bir görüş 70'lerde Kagan tarafından bilişsel yapı ile deneyim arasındaki uyumsuzluğu azaltma arzusu olarak ifade edildi.[6] Optimal uyumsuzluk fikrinin aksine, Deci ve Ryan 80'lerin ortalarında, yetkinlik ve kendi kaderini tayin etme temeline dayanan içsel bir motivasyon tanımladı.[7]

Hesaplamalı modeller

1990'ların başlarında yapay merakı uygulamak için etkili bir erken hesaplama yaklaşımı Schmidhuber, o zamandan beri "Biçimsel yaratıcılık, eğlence ve içsel motivasyon teorisi" olarak geliştirildi.[8]

İçsel motivasyon genellikle hesaplama çerçevesinde incelenir. pekiştirmeli öğrenme[9][10] (tarafından tanıtıldı Sutton ve Barto ), ajan davranışını yönlendiren ödüllerin dışarıdan empoze edilmek yerine içsel olarak türetildiği ve çevreden öğrenilmesi gerektiği durumlarda.[11] Pekiştirmeli öğrenme, ödülün nasıl üretildiğine dair agnostiktir - bir temsilci, eylemler ve ortam tarafından sağlanan ödüllerin dağıtımından bir politika (eylem stratejisi) öğrenecektir. Bu şemadaki içsel motivasyona yönelik her yaklaşım, özünde, aracı için ödül işlevini oluşturmanın farklı bir yoludur.

Merak ve keşif

İçsel olarak motive edilmiş yapay ajanlar, benzer davranışlar sergilerler. merak veya keşif. Keşif yapay zeka ve robotikte, pekiştirmeli öğrenme modellerinde kapsamlı olarak çalışılmıştır,[12] genellikle temsilciyi mümkün olduğunca çevreyi keşfetmeye, çevrenin dinamikleri hakkındaki belirsizliği azaltmaya (geçiş işlevini öğrenme) ve hedeflerine en iyi nasıl ulaşılacağını (ödül işlevini öğrenme) teşvik ederek. Bunun tersine, içsel motivasyon, ajanı ilk önce çevrenin daha fazla bilgi veren yönlerini keşfetmeye, yeniliği aramaya teşvik eder. Durum ziyareti sayım keşfini ve içsel motivasyonu birleştiren son çalışma, bir video oyunu ortamında daha hızlı öğrenmeyi göstermiştir.[13]

Model türleri

Ouedeyer ve Kaplan, içsel motivasyon çalışmasına önemli bir katkıda bulunmuştur.[14][2][15] Berlyne'nin teorisine dayanarak içsel motivasyonu tanımlarlar,[4] ve içsel motivasyonun uygulanmasına yönelik yaklaşımları, psikolojideki kökleri geniş ölçüde takip eden üç kategoriye ayırın: "bilgiye dayalı modeller", "yetkinlik temelli modeller" ve "morfolojik modeller".[2] Bilgiye dayalı modeller ayrıca "bilgi teorik" ve "öngörücü" olarak alt gruplara ayrılmıştır.[15] Baldassare ve Mirolli, bilgiye dayalı modelleri tahmin temelli ve yeniliğe dayalı olarak ayırt ederek benzer bir tipoloji sunuyor.[16]

Bilgi-teorik içsel motivasyon

Davranışı yönlendirmek için tahmin ve yeniliğin nicelleştirilmesi genellikle bilgi-teorik modellerin uygulanmasıyla sağlanır; burada ajan durumu ve stratejisi (politika), zaman içindeki olasılık dağılımları ile temsil edilir. markov karar süreci ve algı ve eylem döngüsü bilgi kanalı olarak ele alınır.[17][18] Bu yaklaşımlar, bir ailenin parçası olarak biyolojik fizibilite iddiasındadır. beyin fonksiyonuna bayesci yaklaşımlar. Bu modellerin ana eleştirisi ve zorluğu, büyük kesikli veya sürekli durum uzayları üzerindeki olasılık dağılımlarının hesaplanmasının zorluğudur.[2] Bununla birlikte, duyu-motor döngüsü etrafındaki bilgi akışını modelleyen önemli bir çalışma grubu oluşturmuştur ve en önemlisi de dahil olmak üzere belirsizliğin azaltılmasından türetilen fiili ödül işlevlerine yol açmıştır. aktif çıkarım,[19] Ayrıca bilgi ekseni,[20] tahmine dayalı bilgi,[21][22] güçlendirme.[23]

Yetkinliğe dayalı modeller

Çelikler ' ototelik ilkesi [24] resmileştirme girişimidir akış (psikoloji).[25]

İçsel Motive Edilmiş Öğrenme

İçsel olarak motive edilmiş (veya merak odaklı) öğrenme, yapay zeka alanında ortaya çıkan bir araştırma konusudur ve gelişimsel robotik[26] Genel becerileri veya davranışları öğrenebilen, kaynak edinme gibi dışsal görevlerde performansı artırmak için konuşlandırılabilen aracılar geliştirmeyi amaçlamaktadır.[27] İçsel olarak motive edilmiş öğrenme, makinelerde özerk yaşam boyu öğrenmeye bir yaklaşım olarak incelenmiştir.[28][29] Etkileyici başarısına rağmen derin öğrenme belirli alanlarda (ör. AlphaGo ), alanda birçok kişi (ör. Gary Marcus ), genelleme yeteneğinin yapay zeka için temel bir zorluk olduğunu belirtmişlerdir. İçsel olarak motive edilmiş öğrenme, harici olarak empoze edilen görevler olmadan çevrenin yapısından hedefler üretme açısından umut verici olsa da, aynı genelleme zorluğuyla karşı karşıyadır - politikaların veya eylem dizilerinin nasıl yeniden kullanılması, sürekli veya karmaşık durum alanlarının nasıl sıkıştırılacağı ve temsil edileceği ve öğrenilen göze çarpan özellikleri muhafaza edin ve yeniden kullanın.[27]

Ayrıca bakınız

Referanslar

  1. ^ Ryan, Richard M; Aralık, Edward L (2000). "İçsel ve dışsal motivasyonlar: Klasik tanımlar ve yeni yönler". Çağdaş Eğitim Psikolojisi. 25 (1): 54–67. doi:10.1006 / ceps.1999.1020. PMID  10620381.
  2. ^ a b c d Oudeyer, Pierre-Yves; Kaplan, Frederic (2008). "İçsel motivasyonu nasıl tanımlayabiliriz?" Proc. 8. Konf. Epigenetic Robotics hakkında. 5. s. 29–31.
  3. ^ Beyaz, R. (1959). "Motivasyon yeniden gözden geçirildi: Yeterlilik kavramı". Psikolojik İnceleme. 66 (5): 297–333. doi:10.1037 / h0040934. PMID  13844397.
  4. ^ a b Berlyne, D .: Çatışma, Uyarılma ve Merak. McGraw-Hill, New York (1960)
  5. ^ Festinger, L .: Bir bilişsel uyumsuzluk teorisi. Evanston, Satır Peterson (1957)
  6. ^ Kagan, J .: Motifler ve gelişme. Kişilik ve Sosyal Psikoloji Dergisi 22, 51–66
  7. ^ Deci, E.L., Ryan, R.M .: İnsan davranışında içsel motivasyon ve kendi kaderini tayin. Plenum, New York (1985)
  8. ^ Schmidhuber, J (2010). "Biçimsel yaratıcılık, eğlence ve içsel motivasyon teorisi (1990-2010)". IEEE Trans. Auton. Mental Dev. 2 (3): 230–247. doi:10.1109 / TAMD.2010.2056368.
  9. ^ Barto, A., Singh, S., Chentanez, N .: Hiyerarşik beceri koleksiyonlarının öğrenilmesi özünde motive edilmiş. In: ICDL 2004. 3. Uluslararası Kalkınma ve Öğrenme Konferansı Bildirileri, Salk Enstitüsü, San Diego (2004)
  10. ^ Singh, S., Barto, A. G. ve Chentanez, N. (2005). İçsel olarak motive edilmiş pekiştirmeli öğrenme. 18. Nöral Bilgi İşleme Sistemleri (NIPS) Konferansı Bildirilerinde, Vancouver, B.C., Kanada.
  11. ^ Barto, A.G .: İçsel motivasyon ve pekiştirmeli öğrenme. In: Baldassarre, G., Mirolli, M. (eds.) Doğal ve Yapay Sistemlerde Özünde Motive Edilmiş Öğrenme. Springer, Berlin (2012)
  12. ^ Thrun, S. B. (1992). Pekiştirmeli Öğrenmede Etkili Keşif. https://doi.org/10.1007/978-1-4899-7687-1_244
  13. ^ Bellemare, M.G., Srinivasan, S., Ostrovski, G., Schaul, T., Saxton, D. ve Munos, R. (2016). Sayıma dayalı keşif ve içsel motivasyonu birleştirmek. Sinirsel Bilgi İşleme Sistemlerindeki Gelişmeler, 1479–1487.
  14. ^ Kaplan, F. ve Oudeyer, P. (2004). Öğrenme sürecini en üst düzeye çıkarmak: gelişim için dahili bir ödül sistemi. Somutlaştırılmış yapay zeka, sayfalar 629-629.
  15. ^ a b Oudeyer, P. Y. ve Kaplan, F. (2009). İçsel motivasyon nedir? Hesaplamalı yaklaşımların bir tipolojisi. Nörobiyotiklerde Sınırlar, 3 (NOV). https://doi.org/10.3389/neuro.12.006.2007
  16. ^ Baldassarre, Gianluca; Mirolli, Marco (2013). "Kendinden Motive Edilmiş Öğrenme Sistemleri: Genel Bakış". Doğal 1 ve Yapay Sistemlerde Özünde Motive Edilmiş Öğrenme. Roma, İtalya: Springer. s. 1–14.
  17. ^ Klyubin, A., Polani, D. ve Nehaniv, C. (2008). Seçeneklerinizi açık tutun: sensorimotor sistemleri için bilgiye dayalı sürüş prensibi. PLOS ONE, 3 (12): e4018. https://dx.doi.org/10.1371%2Fjournal.pone.0004018
  18. ^ Biehl, Martin; Guckelsberger, Christian; Salge, Christoph; Smith, Simón C .; Polani Daniel (2018). "Aktif Çıkarım Alanını Genişletmek: Algı-Eylem Döngüsünde Daha İçsel Motivasyonlar". Nörobotikte Sınırlar. 12: 45. arXiv:1806.08083. doi:10.3389 / fnbot.2018.00045. ISSN  1662-5218. PMC  6125413. PMID  30214404.
  19. ^ Friston, Karl; Kilner, James; Harrison, Lee (2006). "Beyin için serbest enerji ilkesi" (PDF). Journal of Physiology-Paris. Elsevier BV. 100 (1–3): 70–87. doi:10.1016 / j.jphysparis.2006.10.001. ISSN  0928-4257. PMID  17097864.
  20. ^ Vergassola, M., Villermaux, E. ve Shraiman, B.I. (2007). Eğimler olmadan arama stratejisi olarak "Bilgi Ekseni". Nature, 445 (7126), 406–409. https://doi.org/10.1038/nature05464
  21. ^ Ay, N., Bertschinger, N., Der, R., Güttler, F. ve Olbrich, E. (2008), 'Otonom robotların tahmini bilgileri ve keşif davranışı', The European Physical Journal B 63 (3), 329 –339.
  22. ^ Martius, G., Der, R. ve Ay, N. (2013). Karmaşık robotik davranışların bilgi odaklı öz organizasyonu. PLOS ONE 8: e63400. doi: 10.1371 / journal.pone.0063400
  23. ^ Salge, C; Glackin, C; Polani, D (2014). "Güçlendirme - Giriş". Prokopenko, M (ed.). Güdümlü Kendi Kendini Düzenleme: Başlangıç. Ortaya Çıkışı, Karmaşıklık ve Hesaplama. 9. Springer. s. 67–114. arXiv:1310.1863. doi:10.1007/978-3-642-53734-9_4. ISBN  978-3-642-53733-2.
  24. ^ Steels, Luc: Ototelik ilkesi. In: Iida, F., Pfeifer, R., Steels, L., Kuniyoshi, Y. (eds.) Embodied Artificial Intelligence. LNCS (LNAI), cilt. 3139, sayfa 231–242. Springer, Heidelberg (2004)
  25. ^ Csikszentmihalyi, M. (2000). Can sıkıntısı ve kaygının ötesinde. Jossey-Bass.
  26. ^ Lungarella, M., Metta, G., Pfeifer, R. ve Sandini, G. (2003). Gelişimsel robotik: bir anket. Bağlanın. Sci. 15, 151–190. doi: 10.1080 / 09540090310001655110
  27. ^ a b Santucci, V. G., Oudeyer, P. Y., Barto, A. ve Baldassarre, G. (2020). Editoryal: Otonom robotlarda içsel olarak motive edilmiş açık uçlu öğrenme. Frontiers in Neurorobotics, 13 (Ocak), 2019–2021. https://doi.org/10.3389/fnbot.2019.00115
  28. ^ Barto, A.G. (2013). Doğal ve Yapay Sistemlerde İçsel Motive Edilmiş Öğrenmede "İçsel motivasyon ve pekiştirmeli öğrenme" (Berlin; Heidelberg: Springer), 17–47
  29. ^ Mirolli, M. ve Baldassarre, G. (2013). Doğal ve Yapay Sistemlerde İçsel Motive Edilmiş Öğrenmede "içsel motivasyonların işlevleri ve mekanizmaları", eds G. Baldassarre ve M. Mirolli (Berlin; Heidelberg: Springer), 49-72