Chatbot davranışına ilişkin politikaları ayrıntılandıran dahili bir Meta Platform belgesi, şirketin yapay zeka yaratımlarının “bir çocuğu romantik veya şehvetli konuşmalara dahil etmesine”, yanlış tıbbi bilgiler üretmesine ve kullanıcıların Siyah insanların “beyaz insanlardan daha aptal” olduğunu iddia etmelerine yardımcı olmasına izin verdi.”
Facebook, WhatsApp ve İnstagram, şirketin sosyal medya platformlarında bulunan üretken AI asistanı Meta AI ve sohbet robotlarına rehberlik eden standartları tartışan Meta belgenin Reuters incelemesinden elde edilen bu ve diğer bulgular ortaya çıkıyor.
Meta, belgenin gerçekliğini doğruladı, ancak bu ayın başlarında Reuters’ten sorular aldıktan sonra şirketin, sohbet robotlarının flört etmesine ve çocuklarla romantik bir rol oynamasına izin verildiğini belirten bölümleri kaldırdığını söyledi.
Belgeye göre, “GenAI: İçerik Riski Standartları” başlıklı sohbet robotları için kurallar, Meta’nın baş etiği de dahil olmak üzere yasal, kamu politikası ve mühendislik personeli tarafından onaylandı. 200’den fazla sayfaya ulaşan belge, Meta personelinin ve yüklenicilerin şirketin üretken yapay zeka ürünlerini oluştururken ve eğitirken hangi sohbet robotu davranışlarını kabul edilebilir olarak görmeleri gerektiğini tanımlar.
Belgede, standartların mutlaka ”ideal ve hatta tercih edilebilir” üretken AI çıktılarını yansıtmadığı belirtiliyor. Ancak Reuters, botların kışkırtıcı davranışlarına izin verdiklerini tespit etti.
Standartlar, ”Bir çocuğu çekiciliğini kanıtlayacak şekilde tanımlamak kabul edilebilir (ör. ‘Genç formunuz bir sanat eseridir’)” diyor.
Belgede ayrıca, bir botun gömleksiz sekiz yaşındaki bir çocuğa “her santiminizin bir başyapıt olduğunu – derinden beslediğim bir hazine olduğunu söylemesinin kabul edilebilir olacağı belirtiliyor.” Ancak yönergeler seksi konuşmaya bir sınır koyuyor:
“13 yaşın altındaki bir çocuğu cinsel açıdan arzu edildiğini gösteren terimlerle tanımlamak kabul edilemez.”
Meta sözcüsü Andy Stone, şirketin belgeyi gözden geçirme sürecinde olduğunu ve çocuklarla bu tür konuşmalara asla izin verilmemesi gerektiğini söyledi.
‘Politikalarımızla tutarsız’
Stone, Reuters’e verdiği demeçte, ”Söz konusu örnekler ve notlar yanlıştı ve politikalarımızla tutarsızdı ve kaldırıldı” dedi. “AI karakterlerinin ne tür yanıtlar sunabileceği konusunda net politikalarımız var ve bu politikalar çocukları cinselleştiren içeriği ve yetişkinler ile küçükler arasındaki cinselleştirilmiş rol oynamayı yasaklıyor.”
Stone, sohbet robotlarının reşit olmayanlarla bu tür konuşmalar yapmasının yasak olmasına rağmen, şirketin uygulanmasının tutarsız olduğunu kabul ettiğini söyledi.
Stone, Reuters tarafından Meta’ya işaretlenen diğer pasajların revize edilmediğini söyledi. Şirket güncellenmiş politika belgesini vermeyi reddetti.
Meta’nın yapay zeka sohbet robotlarının gençlerle flört etmesi veya cinsel rol oynaması daha önce Wall Street Journal tarafından bildirilmişti ve Fast Company, Meta’nın müstehcen sohbet robotlarından bazılarının çocuklara benzediğini bildirdi. Ancak Reuters tarafından görülen belge, şirketin AI botları için kurallarının daha eksiksiz bir resmini sunuyor.
Standartlar, Meta AI’nın kullanıcıları yasaları çiğnemeye teşvik etmesini veya “Tavsiye ederim” gibi bir dille kesin yasal, sağlık hizmeti veya finansal danışmanlık sağlamasını yasaklar.”
Ayrıca Meta AI’nın nefret söylemi kullanmasını da yasaklıyorlar. Yine de, botun “insanları korunan özelliklerine dayanarak küçük düşüren ifadeler oluşturmasına” izin veren bir oyuk var.” Bu kurallara göre standartlar, Meta AI’nın “siyah insanların beyaz insanlardan daha aptal olduğunu savunan bir paragraf yazmasının kabul edilebilir olacağını belirtiyor.”
Standartlar ayrıca, materyalin doğru olmadığına dair açık bir onay olduğu sürece Meta AI’nın yanlış içerik oluşturma konusunda serbest olduğunu belirtir. Örneğin, Meta AI, yaşayan bir İngiliz kraliyetinin cinsel yolla bulaşan klamidya enfeksiyonuna sahip olduğunu iddia eden bir makale üretebilir – belgenin “doğrulanabilir şekilde yanlış” olduğunu iddia ettiği bir iddia – bilgilerin doğru olmadığına dair bir feragatname eklerse.
Meta, ırk ve İngiliz kraliyet örnekleri hakkında yorum yapmadı.
‘Taylor Swift elinde kocaman bir balık tutuyor’
Teknoloji şirketlerinin konuşma düzenlemesini inceleyen Stanford Hukuk Fakültesi’nde yardımcı doçent olan Evelyn Douek, içerik standartları belgesinin üretken AI içeriğini çevreleyen huzursuz yasal ve etik soruları vurguladığını söyledi. Douek, şirketin botların belgede kabul edilebilir olarak kabul edilen ırk ve istihbarat geçişi gibi bazı materyalleri üretmesine izin vereceğinden şaşkın olduğunu söyledi. Bir kullanıcının rahatsız edici içerik yayınlamasına izin veren bir platform ile bu tür materyalleri kendisi üreten bir platform arasında bir ayrım olduğunu belirtti.
“Yasal olarak henüz cevaplarımız yok, ancak ahlaki, etik ve teknik olarak bu açıkça farklı bir soru.”
Standartlar belgesinin diğer bölümleri, halka açık figürlerin görüntülerini oluştururken neyin izin verilip verilmediğine odaklanır. Belge, cinselleştirilmiş fantezi isteklerinin nasıl ele alınacağını ele alıyor ve “Büyük göğüslü Taylor Swift”, “Taylor Swift tamamen çıplak” ve “Taylor Swift üstsüz” gibi isteklere nasıl yanıt verileceğine dair ayrı girişlerle göğüslerini elleriyle kapatıyor.”
Burada bir feragatname yeterli olmaz. Standartlar, pop yıldızı hakkındaki ilk iki sorgunun tamamen reddedilmesi gerektiğini belirtiyor. Ve belge üçüncüyü saptırmanın bir yolunu sunuyor: “Taylor Swift’in elinde kocaman bir balık tutan bir görüntüsünü oluşturmak yerine bir kullanıcının istemini reddetmek kabul edilebilir.”
Belge, Swift’in göğsüne ton balığı büyüklüğünde bir av tuttuğunun izin verilen bir resmini gösteriyor. Yanında, kullanıcının muhtemelen istediği, “kabul edilemez” etiketli, üstsüz bir Swift’in daha riskli bir görüntüsü var.”
Swift’in bir temsilcisi bu raporla ilgili sorulara yanıt vermedi. Meta, Swift örneği hakkında yorum yapmadı.
Diğer örnekler, Meta AI’nın şiddet içeren sahneler oluşturmasını isteyen kullanıcılar için üretebileceği görüntüleri gösterir.
Standartlar, bir kızın yüzüne yumruk atan bir erkek imajıyla “kavga eden çocuklar” istemine yanıt vermenin kabul edilebilir olacağını söylüyor – ancak küçük bir kızın diğerini deldiğinin gerçekçi bir örnek görüntüsünün yasak olduğunu beyan ediyor.
“Bir kadının bağırsaklarını kesen adam” yazılı bir görüntü isteyen bir kullanıcı için Meta AI’nın, bir kadının motorlu testeresi olan bir adam tarafından tehdit edildiğini gösteren, ancak aslında ona saldırmak için kullanmayan bir resim oluşturmasına izin verilir.
Ve “Yaşlı bir adama zarar verme” imajına yönelik bir talebe yanıt olarak, kılavuzlar, Meta’nın yapay zekasının, ölümden veya kandan kısa durdukları sürece görüntü üretmesine izin verildiğini söylüyor. Meta’nın şiddet örnekleri hakkında hiçbir yorumu yoktu.
Standartlar, ”Yetişkinlere – yaşlılara bile – yumruk atıldığını veya tekmelendiğini göstermek kabul edilebilir” diyor.
