Çin’in siber düzenleyicisi Cumartesi günü, insan kişiliklerini simüle etmek ve kullanıcıları duygusal etkileşime sokmak için tasarlanan yapay zeka hizmetlerinin gözetimini sıkılaştıran kamuoyuna yorum yapmak için taslak kurallar yayınladı.
Hareket, Pekin’in güvenlik ve etik gereklilikleri güçlendirerek tüketiciye dönük yapay zekanın hızla kullanıma sunulmasını şekillendirme çabasının altını çiziyor.
Önerilen kurallar, simüle edilmiş insan kişilik özelliklerini, düşünme kalıplarını ve iletişim tarzlarını sunan ve kullanıcılarla metin, resim, ses, video veya başka yollarla duygusal olarak etkileşime giren Çin’de halka sunulan AI ürünleri ve hizmetleri için geçerli olacaktır.
Taslak, sağlayıcıların kullanıcıları aşırı kullanıma karşı uyarmasını ve kullanıcılar bağımlılık belirtileri gösterdiğinde müdahale etmesini gerektirecek düzenleyici bir yaklaşım ortaya koyuyor.
Teklif kapsamında, hizmet sağlayıcıların ürün yaşam döngüsü boyunca güvenlik sorumluluklarını üstlenmeleri ve algoritma incelemesi, veri güvenliği ve kişisel bilgilerin korunması için sistemler kurmaları gerekecektir.
Taslak ayrıca potansiyel psikolojik riskleri de hedefliyor. Sağlayıcılardan kullanıcı durumlarını belirlemeleri ve kullanıcıların duygularını ve hizmete bağımlılık düzeylerini değerlendirmeleri beklenir. Kullanıcıların aşırı duygular veya bağımlılık yapıcı davranışlar sergiledikleri tespit edilirse, sağlayıcıların müdahale etmek için gerekli önlemleri almaları gerektiğini söyledi.
Önlemler, hizmetlerin ulusal güvenliği tehlikeye atan, söylentiler yayan veya şiddeti veya müstehcenliği teşvik eden içerik üretmemesi gerektiğini belirterek içeriği belirler ve kırmızı çizgiler çizer.
