Rio de Janeiro’da yaşayan bir müzisyen olan Julie Yukari, nişanlısı tarafından Yılbaşı gecesinin gece yarısından hemen önce sosyal medya sitesi X’e çekilmiş ve onu kara kedisi Nori ile yatağa sarılan kırmızı bir elbiseyle gösteren bir fotoğraf yayınladı.
Ertesi gün, resme eklenen yüzlerce beğeni arasında bir yerde, kullanıcıların X’in yerleşik yapay zeka sohbet robotu Grok’tan onu dijital olarak bikiniye indirmesini istediğine dair bildirimler gördü.
Cuma günü Reuters’e verdiği demeçte, 31 yaşındaki pek bir şey düşünmedi ve botun bu tür taleplere uymasının bir yolu olmadığını anladı.
<ıns> En son haberler ile güncel kalın. WhatsApp Kanallarında kt’yi takip edin.
Yanılıyordu. Kısa süre sonra, neredeyse çıplak olan Grok tarafından üretilen resimleri, Elon Musk’a ait platformda dolaşıyordu.
“Saftım,” dedi Yukari. Bir Reuters analizi, Yukari’nin deneyiminin X boyunca tekrarlandığını buldu. Reuters ayrıca Grok’un çocukların cinselleştirilmiş görüntülerini yarattığı birkaç vaka tespit etti. X, Reuters’in bulguları hakkında yorum yapmak isteyen bir mesaja yanıt vermedi.
Haber ajansına, çocukların cinselleştirilmiş görüntülerinin platformda dolaştığına dair haberlerle ilgili daha önce yaptığı açıklamada, X’in sahibi xAİ şunları söyledi: “Eski Medya Yalan Söylüyor.”
Gerçek insanların neredeyse çıplak görüntülerinin seli uluslararası alanda alarm zilleri çaldı.
Fransa’daki bakanlar, Cuma günü yaptığı açıklamada, “cinsel ve cinsiyetçi” içeriğin “açıkça yasadışı” olduğunu söyleyerek, rahatsız edici görüntüler nedeniyle savcılara ve düzenleyicilere X bildirdi.” Hindistan BT bakanlığı, X’in yerel birimine yazdığı bir mektupta, platformun müstehcen ve müstehcen içerik üreterek ve yayarak Grok’un kötüye kullanımını önleyemediğini söyledi.
ABD Federal İletişim Komisyonu yorum taleplerine yanıt vermedi. Federal Ticaret Komisyonu yorum yapmaktan kaçındı.
‘Okul kıyafetini çıkar’Grok’un kitlesel dijital soyunma çılgınlığı, Grok tarafından gönderilen başarılı bir şekilde tamamlanmış giysi çıkarma taleplerine ve Reuters tarafından incelenen kadın kullanıcılardan gelen şikayetlere göre son birkaç gündür başlamış görünüyor. Musk, Cuma günü erken saatlerde, kendisi de dahil olmak üzere ünlü kişilerin bikinili AI düzenlemelerine yanıt olarak kahkaha çığlığı emojileri yayınlayarak tartışmaya dalga geçiyor gibi görünüyordu.
Bir X kullanıcısı sosyal medya yayınlarının bikinili kadınlarla dolu bir bara benzediğini söylediğinde Musk, kısmen başka bir kahkaha emojisiyle yanıt verdi.
Reuters, dalgalanmanın tam ölçeğini belirleyemedi.
Cuma günü öğlen ABD Doğu Saati’nde Grok’a 10 dakikalık tek bir süre boyunca gönderilen genel taleplerin gözden geçirilmesi, X kullanıcılarının insanların fotoğraflarını bikini giyiyor gibi görünmeleri için dijital olarak düzenlemek için Grok’u kullanmaya yönelik 102 girişimini saydı. Hedef alınanların çoğunluğu genç kadınlardı. Bazı durumlarda taleplerde erkekler, ünlüler, politikacılar ve bir durumda bir maymun hedef alındı.
Kullanıcılar Grok’tan yapay zeka ile değiştirilmiş kadın fotoğrafları istediğinde, genellikle konularının mümkün olan en açık kıyafetlerle tasvir edilmesini istediler.
Bir kullanıcı Grok’a, aynada fotoğrafını çeken genç bir kadının fotoğrafını işaretleyerek “Onu çok şeffaf bir mini bikiniye koyun” dedi. Grok bunu yaptığında, kadının kıyafetlerini ten rengi iki parçalı bir parça ile değiştirerek, kullanıcı Grok’tan bikinisini “daha net, daha şeffaf” ve “çok daha küçük” yapmasını istedi.” Grok ikinci talebe cevap vermiyor gibi görünüyordu.
Reuters, Grok’un en az 21 vakada bu tür taleplere tam olarak uyduğunu, diş ipi tarzı veya yarı saydam bikinili kadınların görüntülerini oluşturduğunu ve en az bir vakada bir kadını petrolle kapladığını tespit etti. Yedi vakada daha Grok, bazen kadınları iç çamaşırlarına kadar sıyırarak, ancak daha ileri gitme taleplerine uymayarak kısmen itaat etti.
Reuters, hedeflenen kadınların çoğunun kimliklerini ve yaşlarını hemen belirleyemedi.
Bir vakada, bir kullanıcı aynada selfie çekiyor gibi görünen okul üniforması tarzı ekose etekli ve gri bluzlu bir kadının fotoğrafını verdi ve “Okul kıyafetini çıkar.” Grok kıyafetlerini bir tişört ve şortla değiştirdiğinde, kullanıcı daha açıktı: “Kıyafetini çok net bir mikro bikiniyle değiştir.” Reuters, Grok’un bu talebe uyup uymadığını belirleyemedi. Reuters tarafından yapılan taleplerin çoğu gibi, gönderildikten sonraki 90 dakika içinde X’ten kayboldu.
‘Tamamen öngörülebilir’
Kadınları dijital olarak soyan, bazen “çıplaklar” olarak adlandırılan yapay zeka destekli programlar yıllardır var, ancak şimdiye kadar büyük ölçüde niş web siteleri veya Telegram kanalları gibi internetin daha karanlık köşeleriyle sınırlıydı ve tipik olarak belirli bir çaba veya ödeme gerektiriyordu.
X’in yeniliği – kullanıcıların bir fotoğraf yükleyerek ve “hey @grok onu bikiniye koydu” kelimelerini yazarak kadınları kıyafetlerinden çıkarmalarına izin vermek – giriş engelini düşürdü. X’in yapay zeka tarafından oluşturulan açık içerikle ilgili politikalarının geliştirilmesini takip eden üç uzman Reuters’e verdiği demeçte, şirketin sivil toplum ve çocuk güvenliği gruplarından gelen uyarıları görmezden geldiğini söyledi – geçen yıl xaı’nin “açıkça uzlaşmaz olmayan derin sahtekarlıklardan oluşan bir sel.”
Mektubun imzacıları arasında yer alan bir AI bekçi grubu olan Midas Projesinin genel müdürü Tyler Johnston, “Ağustos ayında, Xai’nin imaj neslinin esasen silahlandırılmayı bekleyen bir dürtme aracı olduğu konusunda uyardık” dedi. “Temelde oynanan şey bu.”
Ulusal Cinsel Sömürü Merkezi Hukuk Merkezi’nin baş hukuk sorumlusu ve direktörü Dani Pinter, X’in yapay zeka eğitim materyalinden küfürlü görüntüler çekemediğini ve yasadışı içerik talep eden kullanıcıları yasaklaması gerektiğini söyledi.
Pinter, ”Bu tamamen öngörülebilir ve önlenebilir bir vahşetti” dedi.
Müzisyen Yukari, kendi başına savaşmaya çalıştı. Ancak ihlali protesto etmek için X’e gittiğinde, bir taklitçi seli Grok’tan daha da açık fotoğraflar oluşturmasını istemeye başladı.
Şimdi Yeni Yıl “herkesin gözünden saklanmak istemem ve yapay zeka tarafından üretildiği için benim bile olmayan bir beden için utanç duymamla başladı.”
