Birleşmiş Milletler’deki (BM) uzmanlar, ırkçılık ile mücadele konusunda küresel çabaları güçlendirmenin gerekliliğini vurguladı.
Ayrıca, yüzleri ve potansiyel tehlike kaynaklarını belirlemek için polis tarafından kullanılan yapay zeka tekniklerine eğilimin artması riskine karşı uyarıda bulunuldu.
İnsan haklarında uzman Verene Shepherd, AFP’ye verdiği demeçte, “Yapay zekanın sonucu olarak, mevcutta bulunan önyargılar yeniden pekiştirilebilir ve daha ayrımcı uygulamalara neden olabilir” dedi.
18 uzmandan oluşan Birleşmiş Milletler Irk Ayrımcılığının Ortadan Kaldırılması Komitesi (CERD) üyesi olan Jamaikalı Shepherd, güvenlik güçleri tarafından yapılan ırkçılığı ele aldığı bir rapor yayınladı.
Bu raporda komite, özellikle emniyet güçleri tarafından kullanılan bu teknolojilerin tehlikelerine vurgu yapıyor. Yayınlanan raporda arama motorlarında veya sosyal medyada reklamları yönlendirme konusunda olduğu gibi, emniyet güçlerinin bu önyargılı verilerden yararlanabileceği riskine dikkat çekildi.
Bu teknoloji, güvenliğin korunması ve 21. yüzyılda ABD’de yayılan suç oranlarının azaltılmasına katkıda bulunması gerekirken, bazı kesimler hakkındaki önyargıları daha da şiddetlendirdiği için oldukça eleştiriliyor.
Shepherd, “ Bir mahalledeki tutuklamalarla ilgili tarihsel veriler, polisin önyargılı uygulamalarını yansıtabilir” dedi. Bu da yapay zeka sistemlerinin riskli bir döngüye sahip olabileceğini gösteriyor.
Shepherd sözlerini şöyle sürdürdü;
“Bu veriler polisin bir noktada aşırı bir şekilde yoğunlaşmasına ve sonucunda daha fazla kişiyi tutuklamasına yol açabilir. Ve böylece kısır bir döngüye sebep olabilir.”
Komite açıklamalarında, yüz tanıma teknolojisi ve güvenlik güçleri tarafından benimsenen diğer teknolojilerin artan kullanımı konusundaki endişeleri dile getirildi.
Yapay zeka analizleri, sistemi beslemek için kullanılan verilerle bağlantılı bir şekilde çalışmakta.
Çalışmalar bu sistemlerin, koyu tenli kişileri özelliklede kadın yüzlerini tanımada zorlandığını ortaya koydu.
Bu çerçevede sunulan örnekler arasında, Afrika asıllı Amerikan Robert Williams’ın, bu yıl yanlış bir algoritma analizine dayandırılarak hırsızlık şüphesiyle Detroit’te tutuklanması olayı bulunuyor.
Buna benzer birçok şikayet aldıklarını belirten Shepherd, bu durumun gerçekten endişe verici olmaya başladığını vurguladı.
Komite, özellikle bu alanda faaliyet gösteren şirketlere, uluslararası insan hakları yasalarıyla uyumlu olmalarını sağlama noktasında düzenlemelerde bulunmayı tavsiye etti. Ayrıca özellikle kamuoyu açısından kullanılan algoritmaların tasarımı ve uygulamasında şeffaflığın önemini vurguladı.
Shepheard, ırkçılığın bu teknolojiyle başlamadığını hatırlatarak, bu durumun, “Black Lives Matter” (Siyahilerin Hayatı Önemlidir) hareketinin genişlemesine yardımcı olacağına olan umudunu ifade etti. Ayrıca bu tavsiyelerin, dışlanan bazı savunmasız gruplar için de önemli olduğunu vurguladı.
