Önde gelen bir uzman afp’ye verdiği demeçte, yapay zeka (AI) sistemlerinin, özellikle silahlara entegrasyon olasılıkları arttıkça, insanlara verilen kitlesel zararlara karşı “dökme demir garantileri” ile gelmesi gerektiğini söyledi.
Berkeley bilgisayar bilimleri profesörü ve Uluslararası Güvenli ve Etik Yapay Zeka Derneği (IASEAI) eş direktörü Stuart Russell, 10-11 Şubat’ta yapay zeka teknolojisi üzerine küresel bir zirve öncesinde bilimsel görüşmeler için Paris’te.
ABD’li teknoloji devi Google, yapay zeka destekli silahlar ve gözetleme sistemleri üzerinde çalışmaktan kaçınma taahhüdünü geri almış görünüyor. Tepkiniz neydi?
Stuart Russell: Bence bu talihsiz bir durum. Silahlarda yapay zeka kullanımına karşı daha önceki politikalarını ortaya koymalarının nedeni, tam da kendi çalışanlarının isyan etmesiydi… Google çalışanları, çalışmalarının sadece keşif için değil, insanları öldürmek için de silahlarda kullanılacağından endişeliydi.
Şimdi (Google), silahlarda yapay zeka kullanımına da karşı olan çalışanlarının görüşlerini, ayrıca halkın büyük çoğunluğunun görüşlerini geçersiz kılmaya istekli olduklarını söylüyor.
Google bu değişikliği neden yapmış olabilir?
Stuart Russell: Yapay zeka için askeri pazar, tüketici pazarına ve iş piyasasına kıyasla küçüktür, bu yüzden bu gerçekten para kazanma fırsatıyla ilgili değildir. Bu gerçekten ABD hükümeti ile pazarlık konumlarını iyileştirmekle ilgili.
Politikadaki bu değişikliğin, Biden yönetimi tarafından yerleştirilen yapay zeka ile ilgili tüm düzenlemeleri kaldıran ve şu anda askeri cesaret için yapay zekanın kullanımına büyük önem veren yeni bir yönetimle gelmesi tesadüf değil.
Silahlarda yapay zeka kullanmanın başlıca tehlikeleri nelerdir?
Stuart Russell: Küçük otonom silah sistemleri… küçük ve ucuz oldukları için, devlet dışı grupların, örneğin teröristlerin onları milyonlarca satın alabilecekleri ve muazzam katliamlar yapmak için kullanabilecekleri anlamında en tehlikelileridir.
(Bu tür silahlar) çok daha tehlikeli ve zararlı şekillerde kullanılabilir. Örneğin, “aşağıdaki açıklamaya uyan herkesi öldürün”. Ve bu tanımlama yaşa, cinsiyete, etnik gruba, dini bağlılığa ve hatta belirli bir bireye göre olabilir.
Yapay zeka gelecekteki silah sistemlerine giderek daha fazla entegre olacak mı?
Stuart Russell: Son sayımda, uzaktan kumandalı silahlar geliştiren veya kullanan yaklaşık 75 ülke vardı. Ve bence bunların çoğu, onları tamamen özerk silahlara nasıl dönüştüreceklerini düşünme sürecinde.
Ukrayna bir hızlandırıcı oldu… bu çatışma, bu silah sistemlerini çok hızlı bir şekilde gelişmeye zorladı. Ve diğer herkes buna bakıyor.
Ukrayna’dan sonraki bir sonraki büyük çatışmanın, şu anda düzenlenmemiş bir şekilde büyük ölçüde özerk silahlarla savaşılması oldukça olası. Dolayısıyla, bunun sonucunda ortaya çıkabilecek siviller üzerindeki yıkım ve korkunç etkileri yalnızca hayal edebiliyoruz.
Ancak öte yandan, özerk silahlara karşı olduklarını zaten belirtmiş olan 100’den fazla ülke var. Birleşmiş Milletler Genel Kurulu’nda yasaklama çağrısı yapan bir karara varmak için gerekli çoğunluğu elde etme şansımızın yüksek olduğunu düşünüyorum.
Genel olarak yapay zeka daha sıkı bir şekilde düzenlenmeli mi?
Stuart Russell: İnsan neslinin tükenmesi, insanlardan çok daha zeki ve dolayısıyla dünyayı bizden çok daha fazla etkileyebilecek yapay zeka sistemlerinden kaynaklanabilir.
Hükümetler, denetlenebilecek, dikkatlice kontrol edilebilecek istatistiksel kanıt veya matematiksel kanıt şeklinde dökme demir garantileri talep etmelidir. Ve bunun dışında herhangi bir şey sadece felaket istemektir.
