Günümüzün yükselen değeri yapay zekâ teknolojisi işleri daha kolay bir hale sokmak için biçilmiş kaftan olsa da, sistem açıkları ve veri yanlışlıkları bu makineler tarafından çok kolayca geliştirilip daha da kötü hale sokulabiliyor aslında. Bunun gerçek bir örneği geçtiğimiz haftalarda medyada yoğun ilgi gören Amazon’un başına gelen işe alım fiyaskosu oldu. Gelin detaylara bir göz atalım.
Yeni yayınlanan Reuters raporuna göre, online alışveriş devi Amazon en iyi çalışanlara iş imkanı verebilmek için yıllardır bir ‘machine learning’ teknolojisi üzerinde çalışıyordu. Yapay zekâ kullanmaktaki amaç bu sistemin öz geçmiş koleksiyonuna bakılabilmesi ve en iyi adaylarda karar kılınabilmesiydi. Bunun için Amazon yapay zekayı, başvuru yapan insanların öz geçmişlerinden oluşan 10 yıllık bir veri havuzuyla ile besledi.
Ama ne var ki teknoloji endüstrisindeki erkek egemen tablo yapay zekânın bile manipülasyonuna sebep oldu. Çünkü tanıtılan özgeçmişlerin hemen hepsi erkeklerden gelmişti. Böylece işe alım sistemi de kadınların varlığından bir haber erkekleri kadınlara tercih etmeye başladı.
Reuters’ın kaynaklarına baktığımızda, Amazon’un yapay zekası “women’s” kelimesini reddetti ve Amerika’da bulunan ve ‘Women’s College’ adı verilen sadece kadınların mezun olduğu okullardan gelen adayları bir bir eledi. (Bu okullar Condolezza Rice gibi siyasetçilerin ve ünlü kadın avukatların mezun olduğu okullardır.) Fakat ne var ki erkek mühendislerin özgeçmişlerinde daha fazla yer alan “executed” ve “captured” gibi kelimelerin olduğu verilere daha yüksek puanlama yaptığı ortaya çıktı.
Amazon, sistemin bu şekilde ilerlemesinin önüne geçmeye çalışmış çalışmasına ama günün sonunda kadınları sistem dışı etmesini durdurmanın imkânsız olduğu belirtilmiş çünkü hasarın yazılımda olduğu ortaya çıkmış. Algoritmayı topyekûn değiştirip cinsiyet ayrımı yapan tüm kıstasları yok edecek şekilde kodlamışlar ama bu sefer de işe alınamayacak, kalifiye olmayan adayları yüksek puanlamaya başlamış.Ve Amazon 2017 yılının başında yılan hikâyesine dönen ve korkunç tepkiler alan yapay zekânın fişini çektiklerini bildirdi.
Kaynak: http://fortune.com/2018/10/10/amazon-ai-recruitment-bias-women-sexist/