Filipin Senatosu’nun ülkenin başkan yardımcısının görevden alma davasını başlatmayı reddetmesinden günler sonra, Filipinlilerle hareketi savunan ve ona karşı çıkan iki röportaj viral oldu.
İkisi de gerçek değildi.
Davalarını yapan okul çocukları ve yaşlı kadınlar yapay zeka yaratımlarıydı, temel çevrimiçi araçlarla bile mümkün olan giderek daha karmaşık sahte örneklerdi.
“Neden Başkan Yardımcısını seçtin?”, beyaz okul üniformalı dijital olarak yaratılmış bir çocuk, davanın politik olarak motive olduğunu savunarak soruyor.
Temsilciler Meclisi, Şubat ayı başlarında Sara Duterte’yi rüşvet, yolsuzluk ve eski müttefik ve aday arkadaşı Başkan Ferdinand Marcos’a yönelik suikast planı iddiasıyla görevden aldı.
Senato’daki suçlu bir karar, onun görevden alınmasına ve Filipin siyasetinden ömür boyu yasaklanmasına neden olacaktı.
Ancak 10 Haziran’da görevden alma mahkemesi olarak toplanan üst düzey organ, davayı anayasaya uygunluğunu sorgulayarak derhal Meclise geri gönderdi.
Duterte müttefiki Senatör Ronald dela Rosa, okul çocuklarının videosunu paylaştı – milyonlarca kez izlendiğinden beri – gençleri yetişkin meslektaşlarından “neler olduğunu daha iyi anladıkları” için övdü.
Başkan yardımcısının küçük kardeşi Sebastian, aile kalesi Davao belediye başkanı, klibin “liberallerin” genç neslin desteğine sahip olmadığını kanıtladığını söyledi.
Okul çocukları dijital kreasyonlar olarak ortaya çıktığında, başkan yardımcısı ve destekçileri şaşkına dönmüştü.
“Beni destekleyen bir AI videosunu paylaşmakta sorun yok. Bir işe dönüşmediği sürece, “dedi Duterte gazetecilere verdiği demeçte.
“Yapay zeka olsa bile… Konuya katılıyorum, “dedi Eski cumhurbaşkanı Rodrigo Duterte’nin uyuşturucu savaşının bir kerelik uygulayıcısı Dela Rosa.
– Beş dakikalık çalışma –
Görevden alınma davası açan video – aynı zamanda milyonlarca görüşe sahip – yaşlı bir kadının balık sattığını ve Senato’yu duruşma yapmadığı için çağırdığını gösteriyor.
“Siz 18 senatör, çalan fakirler olduğunda, hemen kilitlenmelerini istiyorsunuz, soru sorulmuyor. Ama milyonları çalan başkan yardımcısıysa, onu şiddetle koruyorsunuz “diyor Tagalogca.
Her iki klip de Google video oluşturma platformu Veo için zar zor fark edilebilen bir filigran taşıyordu.
AFP bilgi denetleyicileri ayrıca aşırı pürüzsüz saç ve dişler ve bozuk tabelalı vitrinler gibi görsel tutarsızlıkları da belirledi.
Balık satıcısı videosunu yaratan adam, 34 yaşındaki Bernard Senocip, afp’ye sekiz saniyelik klibin yapımının yaklaşık beş dakika sürdüğünü söyledi.
Facebook sayfası aracılığıyla ulaşılan Senocip, çalışmalarını bir görüntülü görüşmede savundu ve AI karakterlerinin insanların fikirlerini ifade etmelerine izin verirken sosyal medyada sıkça görülen “sert eleştirilerden” kaçındığını söyledi.
Facebook sürümünden farklı olarak videonun TikTok yüklemesine “yapay zeka tarafından oluşturuldu” etiketi koyduğunu belirterek, “Sınırlamalarınızı bildiğiniz ve izleyicilerinizi yanıltmadığınız sürece bence sorun değil” dedi.
AFP daha önce nakit üretmek için sıcak düğmeli Filipin sorunlarını kullanan web sitelerinde rapor verirken, Senocip çalışmalarının yalnızca siyasi görüşlerini ifade etmenin bir yolu olduğunu söyledi.
Popüler Facebook sayfası Ay Grabe’nin anonim yöneticisi olan schoolboy videosunun yaratıcısı röportaj yapmayı reddetti, ancak AI kreasyonlarının görüşlerinin gerçek hayattaki öğrencilerden alındığını söyledi.
AFP, diğer medya kuruluşlarıyla birlikte, dezenformasyonla mücadele çalışmaları için Meta, Google ve TikTok gibi bazı platformlar tarafından ödeniyor.
‘Gri alan’
Dezenformasyonu inceleyen kar amacı gütmeyen bir kuruluş olan Sıgla Araştırma Merkezi’nden Jose Mari Lanuza, görünüşte sıradan insanlar aracılığıyla bakış açılarını zorlamak için yapay zekayı kullanmanın inançları “gerçekte olduklarından daha popüler” gösterebileceğini söyledi.
“Görevden alma durumunda, bu içerik yalnızca belirli milletvekillerine değil, görevden alma sürecine de güvensizliği teşvik ediyor.”
Bazı yapay zeka firmaları halka açık rakamları korumak için önlemler geliştirirken, Nanyang Teknoloji Üniversitesi’nde yardımcı araştırma görevlisi olan Jose Miguelito Enriquez, son Filipin videolarının farklı bir hayvan olduğunu söyledi.
“OpenAI gibi bazı AI şirketleri daha önce kullanıcıların siyasi adaylar da dahil olmak üzere “gerçek insanların” derin sahtekarlıklarını oluşturmasını engellemeyi taahhüt etmişti” dedi.
“Ama… bu sokaktaki adam röportajları gri bir alanı temsil ediyor çünkü teknik olarak gerçek bir yaşayan insanın benzerliğini kullanmıyorlar.”
Data ve AI Ethics ph’ın kurucusu Dominic Ligot, gerçekçi “insanlar” üretmenin de kolaylaştığını söyledi.
“Veo, AI medya üretimi için hızla gelişen bir dizi araçta yalnızca en yenisidir” dedi ve “önceki AI video modellerine kıyasla daha yumuşak, daha gerçekçi hareket ve derinlik” üreten en yeni sürümü ekledi.
AFP, Veo’nun yanlış bilgileri iletmek için kullanılmasını önlemek için önlemler geliştirip geliştirmediklerini sorduğunda Google yanıt vermedi.
Ligot için, hızla gelişen teknolojinin etrafındaki korkuluklar bir zorunluluktur ve yapay zekanın “gerçek insanların nasıl hissettiğini etkilemek, karar vericilere baskı yapmak ve demokratik söylemi çarpıtmak” için giderek daha fazla kullanıldığı konusunda uyarıda bulunur.
