Pentagon: “Çin ve Rus Drone’ları İnsan Onayı Olmadan Saldırabilir”
Ortak Yapay Zeka Merkezi Direktörü Vekili Nand Mulchandani, “Çin ve Rusya’nın, teknik veya etik koruma politikalarına dair herhangi bir sınır tanımadan yapay zeka destekli gözetim teknolojileri ve otonom savaş sistemleri geliştirdiğini ve ihraç ettiğini biliyoruz.” açıklamasında bulundu.
Mulchandani açıklamasına şöyle devam ediyor.
“Yüz tanıma sistemleri gibi ulusal güvenlik açısından alarmı yükselten birçok askeri uygulama var. Çeşitli türlerdeki savaş robotlarından hızla yararlanabilen Rus ve Çinli silah geliştiricileri için etik kısıtlamalar neredeyse mevcut değil. Örneğin silahlı dronlar, insan teleoperasyonuna ihtiyaç duymadan düşman kuvvetlerinin üzerine ilerleyebilir ve insan kotrolünden bağımsız olarak yerleşik sensörleri aracılığı ile saldırı için kullanabilir.”
Pentagon, insansız sistemlerin hedefleri insan müdahalesi olmadan tespit etmesini, izlemesini ve yok etmesini mümkün kılan özerklik ve yapay zeka alanındaki hızlı ilerlemelere rağmen mevcut “adam-in-the-loop” doktrinini sürdürdüğünü belirtiyor.
Bu doktrine göre, ölümcül güç kullanımına ilişkin tüm kararlar bir insan tarafından alınmalıdır. Fakat; Rus ve Çin İHA’ları, sivilleri savaşçılardan ayırma yeteneğini tehlikeye atarak tam bir özerklikle çalışabilir.
Etik değerlendirmelerin yanı sıra, yapay zeka ve bilgisayar otomasyonunun her türlü işlem için mükemmel şekilde uygun olmamasının teknik nedenleri vardır. Hızlı bir şekilde ilerlerken, bir yapay zeka sistemi yalnızca veritabanı kadar etkilidir. Bu nedenle belirli algoritmalar, tespit edilen her şeyi doğru bir şekilde tanımlamak için gerekli güvenilirliğe henüz sahip olmayabilir.
Buna göre, ölümcül güç kullanımı söz konusu olduğunda, doğruluk veya güvenilirlikle ilgili küçük sorular bile büyük önem kazanmaktadır. Ek olarak, AI geliştiricileri düşmanların belirli algılama algoritmalarını “aldatmak” veya “karıştırmak” için nasıl çalışabileceğini öğreniyor. Bu nedenle, teknoloji geliştiricileri bütünsel yapay zeka destekli algılama mühendisliği üzerinde özenle çalışıyorlar.
Kaynak: M5
