[Editörün Notu: En son bölgesel gelişmeler için İsrail ve ABD’nin İran’a saldırılarının ortasında Khaleej Times’ın canlı blogunu takip edin.]
Önde gelen bir uzman Çarşamba günü yaptığı açıklamada, hedefleri seçmek ve İran’a saldırı başlatmak için yapay zekanın yaygın olarak kullanıldığından şüphelenilmesi birçok soruyu gündeme getirdiğini ve savaş makinelerinin insan kontrolünün kayabileceğinden korktuğunu söyledi.
ABD ve İsrail, saldırılarını başlattığından bu yana İran’da, savaşın ilk gününde Cumartesi günü İran’ın yüce lideri Ayetullah Ali Hamaney’i öldüren saldırı da dahil olmak üzere binlerce grev gerçekleştirdi.
Yapay zeka ve robotik uzmanı Peter Asaro, AFP’YE verdiği demeçte, iki ülkenin İran’daki hedefleri belirlemek için yapay zekayı kullanmış gibi göründüğünü ve çok kısa bir planlama aşaması ve çok sayıda hedef olduğuna işaret ettiğini söyledi.
Ancak AI işleri hızlandırabilirken, aynı zamanda bir dizi ahlaki ve yasal soruyu da gündeme getirdiğini söyledi.
Katil Robotları Durdur kampanyasının başkan yardımcısı olarak da görev yapan New York’taki New School’daki medya çalışmaları doçenti, “Bu süreci otomatikleştirerek, insanların yapabileceğinden çok daha hızlı bir şekilde uzun hedef listeleri oluşturabilirsiniz” dedi.
Ama sonra “etik ve yasal soru şudur: Bu insanlar, yetkilendirmeden önce yasallıklarını ve değerlerini askeri olarak doğrulayarak, listelenen belirli hedefleri gerçekte ne ölçüde gözden geçiriyorlar?”.
Kontrol kaybı?
“Tüm bu sistemlerle arzu, karar verebilmek ve düşmanınızdan daha hızlı hareket edebilmektir” dedi ve sorunun ortaya çıktığını ekledi: “Aslında hala neler olup bittiğini kontrol ediyor musunuz?”
Otomatik silah kullanımını düzenleyen gelecekteki olası bir anlaşma etrafında on yıldır tartışmalar sürüyor. Ülkeler bu yılın ilerleyen saatlerinde tam anlaşma müzakerelerinin başlatılıp başlatılmayacağına karar verecekler.
Ancak yapay zeka ve özerk silahlarla ilgili şu anda belirli bir anlaşma olmamasına rağmen, bu, bu sistemlerin yasal bir boşlukta çalıştığı anlamına gelmez: mevcut uluslararası hukuk geçerlidir.
Cenevre’deki Birleşmiş Milletler’deki görüşmelerin aralarında konuşan Asaro, tartışmanın önemli bir bölümünün hedeflerin seçimi etrafında döndüğünü ve anlamlı insan kontrolünün kaybedilebileceğinden korktuğunu söyledi.
Savaşta yapay zekayı kullanmanın “satış adımı” tipik olarak “bu şeylerin son derece doğru olması ve insanlardan daha az hata yapması” olsa da, “bu sistemlerin nasıl çalıştığını gerçekten bilmediğimizi” vurguladı.
Yapay zekanın opak sınıflandırılmış sistemlerde nasıl çalıştığına, nasıl işlediklerine ve sonuçlarına nasıl ulaştıklarına dair çok az fikir verdiğine dikkat çekti.
Asaro, “Bu sistemlerin çıktısını değerlendirmenin veya hatalar yapıldığında neyin yanlış gittiğini belirlemenin kolay bir yolu” olmadığını söyledi.
‘Ahlaki çizgiler nerede?
“Bir şeyler ters giderse, o zaman kim sorumludur” diye sordu.
“Bunu yasal olarak nasıl tanımlıyorsunuz, ahlaki çizgiler nerede?”
İran’a göre, Cumartesi günü vurulan Minab kentindeki okulun 150’den fazla kişinin ölümüne neden olduğuna işaret etti.
Tahran, ABD ve İsrail’i suçladı, ancak hiçbiri saldırıyı onaylamadı ve AFP, geçiş ücretini bağımsız olarak doğrulayamadı veya siteyi ziyaret edemedi.
AFP, binanın güçlü İslam Devrim Muhafızları tarafından kontrol edilen iki bölgeye yakın bir yerde bulunduğunu doğruladı.
Asaro, okulun en az on yıldır bitişikteki askeri bölgeden açıkça ayrı olduğunu gösteren grevle ilgili raporların altını çizdi.
Eğer bir hata yapılırsa, buna neyin sebep olduğu açık olmaktan uzak olduğunu söyledi.
“Olması gerektiği gibi askeri üsden ayırt etmediler, (ama) onlar kim?” diye sordu – insan mı makine mi?
Saldırı için AI kullanıldıysa, sorunun şu olduğunu söyledi: “Veriler kaç yaşında?”ve bu bir “veritabanı hatası” mıydı?
Yoksa hedefleme doğru muydu, “ama (az önce) yetersiz kalmıştı”? diye sordu
“İşlerin başarısız olması için her türlü yol var.”
Belki de daha korkutucu bir başka olasılık da, “sistemin aslında buna dair bir sonuca varması” olacağını söyledi… okul bir tehditti”dedi.
Bu da, bu sonucun arkasındaki akıl yürütme sisteminin ne olduğu konusunda daha büyük bir soruyu gündeme getirecektir.
Asaro, “Bu kararları nasıl verdiği konusunda gerçekten endişelenmeniz gerekiyor” dedi.
