Timnit Gebru - Timnit Gebru

Timnit Gebru
2018 yılında Gebru
2018 yılında Gebru
Doğum
Addis Ababa, Etiyopya
gidilen okulStanford Üniversitesi
BilinenAlgoritmik önyargı
Bilimsel kariyer
KurumlarMicrosoft Araştırma
Google

Timnit Gebru bir Eritre-Amerikan üzerinde çalışan bilgisayar bilimcisi algoritmik önyargı ve veri madenciliği. Teknolojide çeşitliliğin savunucusu ve yapay zeka alanında siyah araştırmacılardan oluşan bir topluluk olan Siyah'ın kurucu ortağıdır. yapay zeka. İle çalışması Google Etik Yapay Zeka Ekibi'nin teknik eşbaşkanı, iddiaya göre akademik bir makaleyi geri çekmek zorunda kalmasının ardından Aralık 2020'de aniden sona erdi.[1][2][3][4][5][6][7]

Hayatın erken dönemi ve eğitim

Gebru, Etiyopya'nın Addis Ababa şehrinde doğdu ve büyüdü.[8] Babası ve en büyük iki kız kardeşi elektrik mühendisidir.[9] Babası beş yaşındayken öldü ve annesi tarafından büyütüldü.[10] Annesi ve babası kökenlidir Eritre. 1990'ların sonunda Etiyopya hükümeti tarafından Eritre'ye olası zorunlu sınır dışı edilmesinden kurtuldu ve İrlanda'ya gitti. Daha sonra taşındı Amerika Birleşik Devletleri Annesi (birkaç ay önce Etiyopya'dan kaçtı) ve ABD'de yaşayan iki ablası Gebru'nun en küçüğü.[kaynak belirtilmeli ]

Massachusetts'te liseyi bitirdikten sonra, üniversitede okumaya kabul edildi. Stanford Üniversitesi.[8] Orada Lisans ve Yüksek Lisans derecelerini aldı. elektrik Mühendisliği.[11] Gebru, Apple Inc., ilki için sinyal işleme algoritmaları geliştirmek iPad.[12] Gebru, doktorasını gözetiminde aldı. Fei-Fei Li -de Stanford Üniversitesi 2017 yılında. veri madenciliği herkese açık görüntülerden.[13] Topluluklar hakkında bilgi toplamaya çalışan hükümet ve sivil toplum kuruluşları tarafından harcanan paranın miktarıyla ilgileniyordu.[14] Alternatifleri araştırmak için Gebru, derin öğrenme ile Google Sokak Görünümü demografisini tahmin etmek Amerika Birleşik Devletleri oy verme alışkanlıkları, gelir, ırk ve eğitim gibi sosyoekonomik özelliklerin araba gözlemlerinden çıkarılabileceğini gösteren mahalleler.[11] Sayısı kamyonetler sayısından daha fazla sedanlar, topluluğun oy verme olasılığı daha yüksektir Cumhuriyetçi Parti.[15] ABD'nin en kalabalık 200 şehrinden 15 milyondan fazla görüntüyü analiz ettiler.[16] Çalışma, medyada kapsamlı bir şekilde yer aldı ve BBC haberleri, Newsweek, Ekonomist, ve New York Times.[17][18][19]

Gebru araştırmasını, bilgisayar görüşü bilim adamlarının çalışmalarını endüstri üyelerine ve risk sermayedarlarına sunduğu 2017 LDV Capital Vision Zirvesi yarışmasında sundu.[20] Gebru, diğer girişimciler ve yatırımcılarla bir dizi işbirliğine başlayarak yarışmayı kazandı.[20] Gebru hem 2016'daki doktorası sırasında hem de 2018'de Etiyopya ile Jelani Nelson AddisCoder'ın programlama kampanyası.[21][22] Doktora sonrası Gebru katıldı Microsoft AI'da Adillik, Hesap Verebilirlik, Şeffaflık ve Etik (FATE) laboratuvarında doktora sonrası araştırmacı olarak.[16][23]

Kariyer ve araştırma

Gebru, bir Amerikalının kullandıkları araç türüne göre nasıl oy vereceğini biraz güvenilirlikle tahmin edebileceği bulgularını tartışıyor.

Gebru, Google ahlakı üzerine yapay zeka. Teknolojinin sosyal fayda sağlama yeteneğini geliştirmek için yapay zekanın etkilerini inceledi.[24] İle işbirliği yaptı MIT araştırma grubu Cinsiyet Gölgeleri.[25] Gebru ile çalıştı Joy Buolamwini araştırmak yüz tanıma yazılımı; siyah kadınların beyaz erkeklere göre% 35 daha az tanınması olasılığını bulmuştur.[26] Gebru, 2016 yılında bir yapay zeka konferansına katıldığında, 8.500 delege arasında tek siyahi kadın olduğunu fark etti.[27] Meslektaşı ile birlikte Abebe'yi tekrar ara Gebru kuruldu AI'da Siyah, yapay zeka alanında çalışan siyahi araştırmacılardan oluşan bir topluluk. Yapay Zekada Siyah, Sinirsel Bilgi İşleme Sistemleri Konferansı 2017'den beri her yıl.[kaynak belirtilmeli ] Podcastlerde ve röportajlarda yapay zeka konusundaki önyargıyı tartıştı.[28][29]

Gebru ayrıca AI ekibinde Microsoft'un Adalet, Hesap Verebilirlik, Şeffaflık ve Etik konularında çalıştı. Gebru, 2017'de Adillik ve Şeffaflık konferansında konuştu. MIT Technology Review AI sistemlerinde var olan önyargılar ve AI ekiplerine çeşitlilik eklemenin bu sorunu nasıl çözebileceği hakkında onunla röportaj yaptı. Jackie Snow ile röportajında ​​Snow, Gebru'ya "Çeşitlilik eksikliği yapay zekayı ve özellikle bilgisayar vizyonunu nasıl bozuyor?" Diye sordu. ve Gebru, yazılım geliştiricilerde var olan önyargılar olduğuna dikkat çekti.[30] Gebru ve diğer yapay zeka araştırmacıları, Amazon'un yüz tanıma yazılımında bulunan sistemik sorunları yansıtan bir mektup imzaladı. MIT araştırmacıları tarafından yürütülen bir araştırma, Amazon'un yüz tanıma sisteminin, diğer herhangi bir teknoloji şirketinin yüz tanıma yazılımından daha koyu tenli kadınları tanımlamada daha fazla sorun yaşadığını gösteriyor.[31] İçinde New York Times Görüşmede Gebru, yüz tanımanın şu anda kolluk kuvvetleri ve güvenlik amaçları için kullanılamayacak kadar tehlikeli olduğuna inandığını da ifade etti.[32]

Google'dan çıkın

Aralık 2020'de Gebru, bir araştırma makalesi üzerine iddia edilen bir anlaşmazlığın ardından Google tarafından kovulduğunu duyurdu. Google çalışanları #ISupportTimnit Gebru ile dayanışma içinde olma kampanyası. Jeff Dean Google'ın AI araştırma başkanı, mevcut ve eski Google çalışanları tarafından itiraz edilmesine rağmen, gönüllü olarak istifa ettiğini iddia ediyor.[33][34][35]

Ödüller

Gebru, Joy Buolamwini ve Inioluwa Raji kazandı VentureBeat'Kategoride 2019 AI İnovasyon Ödülü İyilik için AI Yüz tanımadaki önemli algoritmik önyargı sorununu vurgulayan araştırmaları için.[36][37]

Seçilmiş Yayınlar

  • Gebru, Timnit; Krause, Jonathan; Wang, Yilun; Chen, Duyun; Deng, Jia; Aiden, Erez Lieberman; Fei-Fei, Li (12 Aralık 2017). "ABD'deki mahallelerin demografik yapısını tahmin etmek için derin öğrenmeyi ve Google Street View'u kullanma". Ulusal Bilimler Akademisi Bildiriler Kitabı. 114 (50): 13108–13113. doi:10.1073 / pnas.1700035114. ISSN  0027-8424. PMC  5740675. PMID  29183967.
  • Buolamwini, Joy; Gebru, Timnit (2018). "Cinsiyet Tonları: Ticari Cinsiyet Sınıflamasında Kesişimsel Doğruluk Eşitsizlikleri". Makine Öğrenimi Araştırmasının Bildirileri. 81: 1–15. ISSN  1938-7288.
  • Gebru, Timnit (9 Temmuz 2020). "Irk ve Cinsiyet". Dubber, Markus D .; Pasquale, Frank; Das, Sunit (editörler). Oxford Handbook of Ethics of AI. Oxford University Press. s. 251–269. doi:10.1093 / oxfordhb / 9780190067397.013.16. ISBN  978-0-19-006739-7.

Referanslar

  1. ^ "En iyi AI etiği araştırmacısı Google'ın onu kovduğunu söylüyor; şirket bunu reddediyor". Reuters. Arşivlendi 5 Aralık 2020'deki orjinalinden. Alındı 4 Aralık 2020.
  2. ^ "Timnit Gebru: Google personeli, kovulan yapay zeka araştırmacısının arkasında bir araya geldi". BBC. Arşivlendi 4 Aralık 2020'deki orjinalinden. Alındı 4 Aralık 2020.
  3. ^ "Google, tanınmış AI etikçisi Timnit Gebru'yu kovdu". Sınır. Arşivlendi 3 Aralık 2020'deki orjinalinden. Alındı 4 Aralık 2020.
  4. ^ "Google'ın Etik AI ekibinin eş başkanı, e-posta gönderdiği için kovulduğunu söylüyor". TechCrunch. Arşivlendi 4 Aralık 2020'deki orjinalinden. Alındı 4 Aralık 2020.
  5. ^ "Ünlü yapay zeka araştırmacısı, Google'ın kendisini aniden kovduğunu söyleyerek şirkete yönelik sektör genelinde eleştirilere yol açtı". CNBC. Arşivlendi 4 Aralık 2020'deki orjinalinden. Alındı 4 Aralık 2020.
  6. ^ Langley, Hugh (3 Aralık 2020). "Google'ın önde gelen AI araştırmacılarından biri, diğer çalışanlara e-posta gönderdiği için misilleme olarak kovulduğunu söylüyor". Business Insider. Arşivlendi 5 Aralık 2020'deki orjinalinden. Alındı 3 Aralık 2020.
  7. ^ "Timnit Gebru: Google personeli, kovulan yapay zeka araştırmacısının arkasında bir araya geldi". MIT Technology Review. Alındı 5 Aralık 2020.
  8. ^ a b Lahde, Lisa. "Yapay Zeka Yenilikçileri: Bir Kadın Tutkusunu Nasıl İzledi ve Yapay Zekaya Çeşitlilik Getirdi". Forbes. Arşivlendi 10 Ocak 2019 tarihinde orjinalinden. Alındı 9 Ocak 2019.
  9. ^ "Final | Timnit Gebru". Kampanya | STEM'de 1 milyon kadın. Arşivlendi 10 Ocak 2019 tarihinde orjinalinden. Alındı 9 Ocak 2019.
  10. ^ Chisling, Ava (24 Temmuz 2017). "Afedersiniz efendim ama bütün kadınlar nerede?". ROSS Intelligence. Arşivlendi 10 Ocak 2019 tarihinde orjinalinden. Alındı 9 Ocak 2019.
  11. ^ a b AI, People In (16 Eylül 2017). "Timnit Gebru, Yapay Zekalı İnsanlar Tarafından Yapay Zekanın Örtüsü Olarak Onurlandırıldı". Girişimci. Arşivlendi 5 Aralık 2020'deki orjinalinden. Alındı 9 Ocak 2019.
  12. ^ "Timnit Gebru". Databricks. Arşivlendi 10 Ocak 2019 tarihinde orjinalinden. Alındı 9 Ocak 2019.
  13. ^ "Yapay Zekanın Sınırlarını Anlamak: Algoritmalar Başarısız Olduğunda". MIT Tech İncelemesi. Arşivlendi 5 Aralık 2020'deki orjinalinden. Alındı 9 Ocak 2019.
  14. ^ Capital, L.D.V (1 Ağustos 2017), Timnit Gebru - 2017 Entrepreneurial Computer Vision Challenge Finalist Sunumları, arşivlendi 5 Aralık 2020'deki orjinalinden, alındı 9 Ocak 2019
  15. ^ Fei-Fei, Li; Aiden, Erez Lieberman; Deng, Jia; Chen, Duyun; Wang, Yilun; Krause, Jonathan; Gebru, Timnit (12 Aralık 2017). "ABD'deki mahallelerin demografik yapısını tahmin etmek için derin öğrenmeyi ve Google Street View'u kullanma". Ulusal Bilimler Akademisi Bildiriler Kitabı. 114 (50): 13108–13113. doi:10.1073 / pnas.1700035114. ISSN  1091-6490. PMC  5740675. PMID  29183967.
  16. ^ a b "Timnit Gebru". Daha İyi Tasarlayın. Arşivlendi 10 Ocak 2019 tarihinde orjinalinden. Alındı 9 Ocak 2019.
  17. ^ Lufkin, Bryan (6 Ocak 2018). "Google Street View bize gelir hakkında ne söylüyor?". İş hayatı. BBC. Arşivlendi 10 Ocak 2019 tarihinde orjinalinden. Alındı 9 Ocak 2019.
  18. ^ "Amerika şehirlerinin makine öğrenimi sayımı". Ekonomist. 2 Mart 2017. ISSN  0013-0613. Arşivlendi 10 Ocak 2019 tarihinde orjinalinden. Alındı 9 Ocak 2019.
  19. ^ Lohr, Steve (31 Aralık 2017). "Nasıl Oy Veriyorsunuz? 50 Milyon Google Görsel Bir İpucu Veriyor". New York Times. ISSN  0362-4331. Arşivlendi 10 Ocak 2019 tarihinde orjinalinden. Alındı 9 Ocak 2019.
  20. ^ a b "Timnit Gebru, 2017 ECVC'yi Kazandı: Google Sokak Görünümü Resimleri aracılığıyla Irkı, Eğitimi ve Geliri Tahmin Etmek İçin Bilgisayar Vizyonundan Yararlanma". LDV Sermaye. Arşivlendi 10 Ocak 2019 tarihinde orjinalinden. Alındı 9 Ocak 2019.
  21. ^ Dergi, Tadias. "Timnit Gebru: Yapay Zeka Araştırmalarını İlerleyen İnanılmaz Kadınlar Arasında Tadias Dergisi". Arşivlendi 10 Ocak 2019 tarihinde orjinalinden. Alındı 9 Ocak 2019.
  22. ^ "Tarih | AddisCoder". www.addiscoder.com. Arşivlendi 21 Mart 2018'deki orjinalinden. Alındı 10 Ocak 2019.
  23. ^ "Timnit Gebru". Dünya Bilim Festivali. Arşivlendi 10 Ocak 2019 tarihinde orjinalinden. Alındı 9 Ocak 2019.
  24. ^ Üniversite, Web İletişim Ofisi, Cornell. "Dijital Yaşam Semineri | Timnit Gebru". Cornell. Arşivlendi 10 Ocak 2019 tarihinde orjinalinden. Alındı 9 Ocak 2019.
  25. ^ "Takım". MIT Media Lab. Arşivlendi 25 Temmuz 2019 tarihinde orjinalinden. Alındı 9 Ocak 2019.
  26. ^ Lohr, Steve (9 Şubat 2018). "Yüz Tanıma Doğru, Beyaz Erkeksen". New York Times. ISSN  0362-4331. Arşivlendi 9 Ocak 2019 tarihinde orjinalinden. Alındı 9 Ocak 2019.
  27. ^ Birhaner, De (26 Mayıs 2017). "Etiyopyalı Bayan Timnit Gebru, A.I.'de Algoritmik Önyargı ve Homojen Düşünceyle Mücadele Ediyor." De Birhan. Arşivlenen orijinal 23 Ekim 2018. Alındı 9 Ocak 2019.
  28. ^ "Timnit Gebru ile Yüz Tanıma, Demografik Analiz ve Daha Fazlası". Gürcü Ortaklar. 20 Aralık 2018. Arşivlendi 10 Ocak 2019 tarihinde orjinalinden. Alındı 9 Ocak 2019.
  29. ^ "Yapay Zeka'da Bilinçsiz Önyargıya Karşı Mücadele Etmenin 3 Yolu". Salesforce Blogu. Arşivlendi 10 Ocak 2019 tarihinde orjinalinden. Alındı 9 Ocak 2019.
  30. ^ Mitchell, Margaret; Wu, Simone; Zaldivar, Andrew; Barnes, Parker; Vasserman, Lucy; Hutchinson, Ben; Spitzer, Elena; Raji, Inioluwa Deborah; Gebru, Timnit (2019). "Model Raporlama için Model Kartları". Adillik, Hesap Verebilirlik ve Şeffaflık Konferansı Bildirileri - FAT * '19. New York, New York, ABD: ACM Press: 220–229. arXiv:1810.03993. doi:10.1145/3287560.3287596. ISBN  978-1-4503-6125-5. S2CID  52946140.
  31. ^ Mitchell, Andrea (Nisan 2019). "Yapay Zeka Uzmanları Amazonlara Yüz Tanıma Teknolojisini Sorguluyor". Dünya Çapında ICT Monitörü; Amman. Arşivlendi 26 Kasım 2019 tarihinde orjinalinden.
  32. ^ Ovide, Shira (9 Haziran 2020). "Yüz Tanıma Yasaklaması İçin Bir Vaka". New York Times. ISSN  0362-4331. Arşivlendi 17 Temmuz 2020'deki orjinalinden. Alındı 12 Temmuz 2020.
  33. ^ "Google çalışanları, en iyi Siyah kadın yöneticinin işten çıkarılmasına karşı harekete geçiyor". NBC Haberleri. Arşivlendi 5 Aralık 2020'deki orjinalinden. Alındı 5 Aralık 2020.
  34. ^ "Timnit Gebru: Google personeli, kovulan yapay zeka araştırmacısının arkasında bir araya geldi". MIT Technology Review. Alındı 5 Aralık 2020.
  35. ^ Ghaffary, Shirin (4 Aralık 2020). "Yıldız bir Google AI araştırmacısının ayrılmasının arkasındaki tartışma". Vox. Alındı 6 Aralık 2020.
  36. ^ "AI inovasyon kazananları San Francisco'da duyuruldu". İnovasyon Matrisi. 12 Temmuz 2019. Arşivlendi 12 Temmuz 2020'deki orjinalinden. Alındı 12 Temmuz 2020.
  37. ^ 18 Temmuz; Burt, 2019 | Chris (18 Temmuz 2019). "Buolamwini, Gebru ve Raji, biyometrik önyargı araştırmaları için Yapay Zeka İnovasyon Ödülü kazandı". Biyometrik Güncelleme. Arşivlendi 12 Temmuz 2020'deki orjinalinden. Alındı 12 Temmuz 2020.

Dış bağlantılar