ChatGPT yapımcısı Openaı’nin verileri, üretken AI sohbet robotunu kullanan bir milyondan fazla insanın intihara ilgi gösterdiğini gösteriyor.
Pazartesi günü yayınlanan bir blog yazısında, yapay zeka şirketi, kullanıcıların yaklaşık yüzde 0,15’inin “potansiyel intihar planlaması veya niyetinin açık göstergelerini içeren konuşmalar yaptığını” tahmin ediyor.”
Openaı’nin her hafta 800 milyondan fazla kişinin ChatGPT kullandığını bildirmesiyle bu, yaklaşık 1,2 milyon kişiye ulaşıyor.
Şirket ayrıca, haftalık aktif kullanıcıların yaklaşık yüzde 0,07’sinin psikoz veya mani ile ilgili olası zihinsel sağlık acil durumları belirtileri gösterdiğini tahmin ediyor — yani 600.000’den biraz daha az kişi.
Kaliforniyalı genç Adam Raine bu yılın başlarında intihar ederek öldükten sonra konu ön plana çıktı. Ailesi, chatgpt’nin kendisini nasıl öldüreceği konusunda kendisine özel tavsiyeler verdiğini iddia eden bir dava açtı.
OpenAI o zamandan beri ChatGPT için ebeveyn denetimlerini artırdı ve kriz yardım hatlarına genişletilmiş erişim, hassas konuşmaların daha güvenli modellere otomatik olarak yeniden yönlendirilmesi ve kullanıcıların uzun oturumlar sırasında ara vermeleri için nazik hatırlatıcılar dahil olmak üzere diğer korkulukları tanıttı.
OpenAI, akıl sağlığı acil durumları yaşayan kullanıcıları daha iyi tanımak ve bunlara yanıt vermek için ChatGPT chatbot’unu da güncellediğini ve sorunlu yanıtları önemli ölçüde azaltmak için 170’den fazla akıl sağlığı uzmanıyla birlikte çalıştığını söyledi.
