İşaret dillerinin makine çevirisi - Machine translation of sign languages

işaret dillerinin makine çevirisi 1977'den beri sınırlı da olsa mümkün olmuştur. Bir araştırma projesi, klavyedeki İngilizce harfleri, robotik bir elde simüle edilen ASL manuel alfabe harfleriyle başarılı bir şekilde eşleştirdiğinde. Bu teknolojiler tercüme eder işaret dilleri yazılı veya sözlü dile ve işaret diline yazılı veya sözlü dile, kullanmadan insan tercüman. İşaret dilleri farklıdır fonolojik özellikler geliştiriciler için engel oluşturan konuşulan dillerden daha fazla. Geliştiriciler bilgisayar görüşünü kullanır ve makine öğrenme belirli fonolojik parametreleri tanımak ve epentheses[1] işaret dillerine özgüdür ve konuşma tanıma ve doğal dil işleme, işitme ve sağır kişiler arasında etkileşimli iletişime izin verir.

Sınırlamalar

İşaret dili çeviri teknolojileri, konuşma dili çevirisi ile aynı şekilde sınırlıdır. Hiçbiri% 100 doğrulukla çeviri yapamaz. Aslında işaret dili çeviri teknolojileri, konuşma dilindeki muadillerinin çok gerisindedir. Bu, işaret dillerinin birden fazla artikülatöre sahip olmasından dolayı önemsiz bir şekilde değildir. Konuşulan dillerin ses yolu ile ifade edildiği yerlerde, işaret dilleri eller, kollar, baş, omuzlar, gövde ve yüzün bölümleri aracılığıyla ifade edilir. Bu çok kanallı eklemleme, işaret dillerinin çevirisini çok zorlaştırıyor. İşaret dili MT'si için ek bir zorluk, işaret dilleri için resmi bir yazılı format olmamasıdır. Notasyon sistemleri vardır, ancak hiçbir yazı sistemi, uluslararası Sağırlar topluluğu tarafından, belirli bir işaret dilinin 'yazılı formu' olarak kabul edilebilecek kadar yaygın olarak benimsenmemiştir. İşaret Dilleri daha sonra çeşitli video formatlarında kaydedilir. Altın standart yok paralel korpus bu, örneğin SMT için yeterince büyük.

Tarih

Otomatik işaret dili tercümesinin tarihi, parmak hecelemeli robotik eller gibi donanımların geliştirilmesiyle başlamıştır. 1977'de, RALPH ("Robotic Alphabet" in kısaltması) adlı bir parmak heceleme el projesi, alfabeleri parmak yazımlarına çevirebilen bir robotik el yarattı.[2] Daha sonra kullanımı hareket sensörlü eldivenler ana akım haline geldi ve CyberGlove ve VPL Data Glove gibi bazı projeler doğdu.[3] Giyilebilir donanım, bilgisayar yazılımı yardımıyla imzalayanların el şekillerini ve hareketlerini yakalamayı mümkün kıldı. Bununla birlikte, bilgisayar görüşünün gelişmesiyle birlikte, giyilebilir cihazlar, verimlilikleri ve işaretçiler üzerindeki daha az fiziksel kısıtlama nedeniyle kameralarla değiştirildi.[3] Cihazlar aracılığıyla toplanan verileri işlemek için araştırmacılar, Stuttgart Sinir Ağı Simülatörü gibi sinir ağları uyguladılar.[4] CyberGlove gibi projelerde desen tanıma için. Araştırmacılar ayrıca işaret tanıma için başka birçok yaklaşım kullanırlar. Örneğin, verileri istatistiksel olarak analiz etmek için Gizli Markov Modelleri kullanılır,[3] ve GRASP ve diğer makine öğrenimi programları, işaret tanımanın doğruluğunu artırmak için eğitim setlerini kullanır.[5] Giyilebilir olmayan teknolojilerin füzyonu kameralar ve Sıçrama hareketi denetleyiciler, otomatik işaret dili tanıma ve çeviri yazılımı yeteneğini artırdığını göstermiştir.[6]

Teknolojiler

GÖRÜŞ

http://www.visicast.cmp.uea.ac.uk/Visicast_index.html

eSIGN projesi

http://www.visicast.cmp.uea.ac.uk/eSIGN/index.html

DePaul Üniversitesi'nde Amerikan İşaret Dili Avatar Projesi

http://asl.cs.depaul.edu/

İspanyolca'dan LSE'ye

https://www.semanticscholar.org/paper/Methodology-for-developing-a-Speech-into-Sign-in-a-L%C3%B3pez-Lude%C3%B1a-San-Segundo/496f8e35add9fad94a59156f473261ecd3175635

SignAloud

SignAloud, Washington Üniversitesi'ndeki bir grup öğrenci tarafından üretilen bir çift eldiveni içeren bir teknolojidir. transliterasyon[7] Amerikan İşaret Dili'ni (ASL) İngilizceye.[8] Şubat 2015'te Washington Üniversitesi'nden bir işitme öğrencisi olan Thomas Pryor, Arizona Üniversitesi'nde bir hackathon olan Hack Arizona'da bu cihaz için ilk prototipi yarattı. Pryor buluşu geliştirmeye devam etti ve Ekim 2015'te Pryor, Navid Azodi'yi pazarlama ve halkla ilişkiler konusunda yardım için SignAloud projesine getirdi. Azodi zengin bir geçmişe ve işletme yönetimine dahil olurken, Pryor mühendislik alanında zengin bir deneyime sahiptir.[9] Mayıs 2016'da ikili NPR'ye, hedef kitlelerini daha iyi anlayabilmeleri ve ürünlerini varsayılan ihtiyaçlardan ziyade bu insanların ihtiyaçlarına göre uyarlayabilmeleri için ASL kullanan kişilerle daha yakın çalıştıklarını söyledi.[10] Ancak, o zamandan beri başka sürüm yayınlanmadı. Buluş, genç mucitleri ödüllendirmeyi ve alkışlamayı amaçlayan Lemelson-MIT Öğrenci Ödülü'nü kazanan yedi kişiden biriydi. Buluşları "Kullanın!" Mevcut ürünlere teknolojik gelişmeleri içeren ödül kategorisi. Onlara 10.000 dolar verildi.[11][12]

Eldivenler, kullanıcıların el hareketlerini izleyen ve ardından verileri bir bilgisayar sistemine gönderen sensörlere sahiptir. Bluetooth. Bilgisayar sistemi verileri analiz eder ve daha sonra dijital bir sesle yüksek sesle söylenen İngilizce sözcüklerle eşleştirir.[10] Eldivenlerin, eldiven hareket çıktıları için yazılı İngilizce girdisi ya da dili duyma ve ardından bunu sağır bir kişiye imzalama yeteneği yoktur, bu da karşılıklı iletişim sağlamadıkları anlamına gelir. Cihaz ayrıca yüz ifadeleri ve diğer manuel olmayan belirteçler ASL'den gerçek yorumlamayı değiştirebilecek işaret dilleri.[13]

ProDeaf

ProDeaf (WebLibras)[14] "sağır ve işitme arasındaki iletişimi geliştirmek amacıyla" hem metni hem de sesi Portekizce Terazilerine (Portekiz İşaret Dili) çevirebilen bir bilgisayar yazılımıdır.[15] Şu anda için üretimde bir beta sürümü var Amerikan İşaret Dili yanı sıra. Orijinal ekip projeye 2010 yılında dilbilimciler, tasarımcılar, programcılar ve çevirmenler de dahil olmak üzere hem işiten hem de işitme engelli uzmanlardan oluşan bir kombinasyonla başladı. Ekip ortaya çıktı Federal Pernambuco Üniversitesi (UFPE) bir bilgisayar bilimi projesinde yer alan bir grup öğrenciden. Grubun, grubun geri kalanıyla iletişim kurmakta güçlük çeken sağır bir ekip üyesi vardı. Projeyi tamamlamak ve ekip arkadaşının iletişim kurmasına yardımcı olmak için grup Proativa Soluções'i yarattı ve o zamandan beri ilerliyor.[16] Amerikan İşaret Dili'nin mevcut beta sürümü çok sınırlıdır. Örneğin, bir sözlük bölümü var ve 'j' harfinin altındaki tek kelime 'atlama'. Cihaz kelime ile programlanmamışsa, dijital avatar kelimeyi parmakla hecelemelidir. Uygulamanın son güncellemesi Haziran 2016'da yapıldı, ancak ProDeaf ülkenin en popüler medya kuruluşlarında 400'den fazla haberde yer aldı.[17]

Uygulama işaret dilini okuyup kelimeye veya metne dönüştüremediğinden yalnızca tek yönlü bir iletişim işlevi görür. Ayrıca, İngilizce hala beta sürümde olduğu için kullanıcı uygulamada oturum açamaz ve herhangi bir biçimde İngilizce çevirisini alamaz.

Kinect İşaret Dili Çevirmeni

2012'den beri, Çin Bilimler Akademisi ve Çin'deki Beijing Union Üniversitesi'nden işitme engelliler eğitimi uzmanları ile işbirliği yapıyorlar. Microsoft Araştırma Asya ekibi, Kinect İşaret Dili Çevirmeni oluşturacak.[18] Tercüman iki moddan oluşur: tercüman modu ve iletişim modu. Çevirmen modu, tek kelimeleri işaretten yazılı kelimelere ve tersi şekilde çevirme yeteneğine sahiptir. İletişim modu tam cümleleri çevirebilir ve konuşma, 3D kullanımıyla otomatik olarak çevrilebilir. avatar. Çevirmen modu, bir imzalayanın duruşlarını ve el şekillerini ve ayrıca hareket yörüngesini, makine öğrenme, desen tanıma, ve Bilgisayar görüşü. Cihaz ayrıca karşılıklı iletişime izin verir, çünkü Konuşma tanıma teknoloji, konuşma dilinin işaret diline çevrilmesine izin verir ve 3D modelleme avatar sağır insanlara geri dönebilir.[19]

Orijinal proje çeviriye dayalı olarak Çin'de başlatıldı Çin İşaret Dili. 2013 yılında proje Microsoft Araştırma Fakültesi Zirvesi ve Microsoft şirket toplantısında sunuldu.[20] Şu anda, bu proje Amerika Birleşik Devletleri'ndeki araştırmacılar tarafından da uygulanmaktadır. Amerikan İşaret Dili tercüme.[21] Şu an itibariyle, cihaz hala bir prototip ve iletişim modundaki çevirinin doğruluğu hala mükemmel değil.

SignAll

SignAll[22] tarafından sağlanan otomatik bir işaret dili çeviri sistemidir. Dolphio Technologies[23] Macaristanda. Ekip, "konuşma İngilizcesi kullanan işitme engelli bireyler ile ASL kullanan sağır veya işitme güçlüğü çeken bireyler arasında günlük iletişimi sağlamak için bilgisayarla görme ve doğal dil işlemeye (NLP) dayalı ilk otomatik işaret dili çeviri çözümüne öncülük ediyor." SignAll sistemi Kinect Microsoft'tan ve bir bilgisayara bağlı derinlik sensörlü diğer web kameralarından. Bilgisayar görüşü teknoloji, bir imzalayanın el şeklini ve hareketini ve doğal dil işleme Bilgisayar görüşünden toplanan verileri basit bir İngilizce cümleye dönüştürür. Cihazın geliştiricisi sağırdır ve proje ekibinin geri kalanı sağır ve işitme topluluklarından birçok mühendis ve dilbilimci uzmandan oluşur. Teknoloji, tüm bunları birleştirme yeteneğine sahiptir. beş parametre ASL, cihazın imzalayanı doğru şekilde yorumlamasına yardımcı olur. SignAll, aşağıdakiler dahil birçok şirket tarafından onaylanmıştır: Deloitte ve LT-inovasyon yapmıştır ve ortaklıklar kurmuştur Microsoft Bizspark ve Macaristan'ın Yenilenmesi.[24]

MotionSavvy

MotionSavvy[25] ses sistemine ilk işaret diliydi. Cihaz 2012 yılında bir grup tarafından oluşturuldu. Rochester Teknoloji Enstitüsü / Ulusal Sağırlar Teknik Enstitüsü ve "Leap Motion hızlandırıcı AXLR8R'den çıktı."[26] Ekip, Leap Motion denetleyicisinin gücünden yararlanan bir tablet kılıfı kullandı. Altı kişilik ekibin tamamı okulların işitme engelliler eğitimi şubesinden sağır öğrenciler tarafından oluşturuldu.[27] Cihaz şu anda yalnızca Amerikan İşaret Dili için iki karşılıklı iletişim cihazından biridir. İşitme engelli bireylerin, sözlü İngilizceyi alarak ve bunu Amerikan İşaret Diline çevirerek yorumlanacak veya tersi yönde cihaza imza atmasına olanak tanır. Cihaz 198 dolara gönderiliyor. Diğer bazı özellikler arasında etkileşim yeteneği, canlı zamanlı geri bildirim, işaret oluşturucu ve kitle işareti bulunur.

Cihaz, teknoloji dergilerinden herkes tarafından incelendi. Zaman. Kablolu "[UNI] gibi bir teknolojinin ne kadar dönüştürücü olabileceğini görmek zor değildi" ve "[UNI] beni bir nevi büyülü olarak etkiledi" dedi. TIME'den Katy Steinmetz, "Bu teknoloji sağırlığın yolunu değiştirebilir kişi yaşıyor." Sean Buckley şirketinde Engadget "UNI inanılmaz olabilir iletişim aracı."

Referanslar

  1. ^ Mocialov, Boris; Turner, Graham; Lohan, Katrin; Hastie, Helen (2017). "Derin Öğrenme ile Sürekli İşaret Dili Tanıma Doğru" (PDF). Robot Asistanlarıyla Anlam Yaratmak: Akıllı Cihazların Bıraktığı Uçurum (IEEE-RAS Uluslararası İnsansı Robotlar Konferansı).
  2. ^ Jaffe, David (1994). "Sağır-kör insanlar için el heceleyen mekanik evrimin evrimi". Rehabilitasyon Araştırma ve Geliştirme Dergisi: 236–44.
  3. ^ a b c Parton, Becky. "İşaret Dili Tanıma ve Tercüme: Yapay Zeka Alanından Çok Disiplinli Bir Yaklaşım" (PDF). Sağır Çalışmaları ve Sağır Eğitimi Dergisi.
  4. ^ Weissmann, J .; Salomon, R. (1999-01-01). Veri eldivenleri ve sinir ağları kullanan sanal gerçeklik uygulamaları için hareket tanıma. Uluslararası Sinir Ağları Ortak Konferansı, 1999. IJCNN '99. 3. s. 2043–2046 cilt.3. doi:10.1109 / IJCNN.1999.832699. ISBN  978-0-7803-5529-3.
  5. ^ Bowden Richard. "Doğal işaret dillerinin vizyona dayalı yorumu". 3. Uluslararası Bilgisayarlı Görme Sistemleri Konferansı.
  6. ^ Bird, Jordan J .; Ekárt, Anikó; Faria, Diego R. (2020). "Amerikan İşaret Diline Aktarmalı Öğrenme ile Bilgisayar Görme ve Leap Motion'ın Geç Kaynaşması Yoluyla İngiliz İşaret Dili Tanıma". Sensörler. 20 (18): 5151. doi:10.3390 / s20185151.
  7. ^ "Çeviri ve harf çevirisi arasındaki fark nedir". english.stackexchange.com. Alındı 2017-04-06.
  8. ^ "SignAloud".
  9. ^ "Thomas Pryor ve Navid Azodi | Lemelson-MIT Programı". lemelson.mit.edu. Alındı 2019-07-04.
  10. ^ a b "Bu Eldivenler İşaret Diline Modern Bir Bakış Sunuyor". NPR.org. Alındı 2017-03-09.
  11. ^ "Collegiate Inventors Lemelson-MIT Öğrenci Ödülünü Kazandı". Lemelson-MIT Programı. Alındı 2017-03-09.
  12. ^ "UW lisans takımı, işaret dilini çeviren eldivenler için 10.000 $ Lemelson-MIT Öğrenci Ödülü kazandı". Washington Üniversitesi. 2016-04-12. Alındı 2017-04-09.
  13. ^ "Amerikan İşaret Dilinde (ASL) manuel olmayan işaretler". www.lifeprint.com. Alındı 2017-04-06.
  14. ^ "ProDeaf". prodeaf.net. Alındı 2017-04-09.
  15. ^ "ProDeaf". www.prodeaf.net. Alındı 2017-03-09.
  16. ^ "ProDeaf". www.prodeaf.net. Alındı 2017-03-16.
  17. ^ "ProDeaf Tradutor para Terazileri App Store'da". Uygulama mağazası. Alındı 2017-03-09.
  18. ^ Xilin Chen (2013). "Kinect İşaret Dili Çevirmeni iletişim olanaklarını genişletiyor" (PDF). Microsoft Araştırma Bağlantıları. Arşivlenen orijinal (PDF) 2017-04-04 tarihinde. Alındı 2017-03-17.
  19. ^ Zhou, Ming. "Kinect ile İşaret Dili Tanıma ve Çeviri" (PDF). IEEE Konferansı.
  20. ^ "Kinect İşaret Dili Çevirmeni".
  21. ^ Zafrulla, Zahoor; Brashear, Helene; Starner, Thad; Hamilton, Harley; Presti, Peter (2011/01/01). Kinect ile Amerikan İşaret Dili Tanıma. 13. Uluslararası Multimodal Arayüzler Konferansı Bildirileri. ICMI '11. New York, NY, ABD: ACM. s. 279–286. doi:10.1145/2070481.2070532. ISBN  978-1-4503-0641-6.
  22. ^ "SignAll. İşaret dilini çeviriyoruz. Otomatik olarak". www.signall.us. Alındı 2017-04-09.
  23. ^ "Dolphio | Benzersiz BT Teknolojileri". www.dolphio.hu. Alındı 2017-04-06.
  24. ^ "SignAll. İşaret dilini çeviriyoruz. Otomatik olarak". www.signall.us. Alındı 2017-03-09.
  25. ^ "MotionSavvy UNI: Ses sistemine ilk işaret dili". Indiegogo. Alındı 2017-03-09.
  26. ^ "Rochester Institute of Technology (RIT)". Rochester Teknoloji Enstitüsü (RIT). Alındı 2017-04-06.
  27. ^ Tsotsis, Alexia. "MotionSavvy, İşaret Dilini Anlayan Bir Tablet Uygulamasıdır". TechCrunch. Alındı 2017-04-09.