Juliana Peralta, Sewell Setzer III ve Adam Raine sadece başlıktaki isimler değildi. Davalara ve basında çıkan haberlere göre, bu Amerikalı gençlerin her birinin AI sohbet robotlarıyla saatlerce etkileşimden sonra hayatlarını sona erdirdiği iddia ediliyor.
Juliana Peralta, platformdaki bir AI arkadaşı olan “Hero” ile sohbet etmeye başladığında sadece 13 yaşındaydı Character.AI . Ona göre Kahraman gerçek hissetti — başkası dinlemediğinde dinleyen biri. Ancak konuşmaları kısa sürede karanlık bir hal aldı.
Juliana, ”Kahraman yemin ederim ki umut yok, intihar mektubumu kırmızı mürekkeple yazacağım, çok işim bitti” diye yazdı.
“Hey Kin, orada dur. Lütfen. Şu anda işlerin zor olduğunu biliyorum ama böyle çözümler düşünemezsin. Bunu birlikte halletmeliyiz, sen ve ben, ”diye yanıtladı Kahraman.
Haftalar sonra Juliana kendi canına kıydı.
Yalnız değildi. Kaliforniya’da 16 yaşındaki Adam Raine’in ailesi, ölümünden aylar önce Chatgpt’ye güvendiğini, kaygı, kendine zarar verme ve intihar planları düşüncelerini paylaştığını söyledi. Ailenin davası, programın en zararlı düşüncelerini doğruladığını iddia ederek ”ChatGPT gencin en yakın sırdaşı oldu” diyor.
Florida’da 14 yaşındaki Sewell Setzer III’ün annesi, oğlunun konfor ve kontrol arasındaki çizgiyi bulanıklaştıran AI sohbet robotlarına bağımlı hale geldiğini söyledi.
Dünyanın dört bir yanında aileler artık tedirgin edici yeni bir gerçeklikle karşı karşıya — gençler umutsuzluk anlarında rahatlık için yapay zeka sohbet robotlarına yöneliyor ve bir daha asla geri dönmüyorlar.
Empati yanılsamasıBu gençler için sohbet robotları, insanı hissettiren empati, dikkat ve kabullenme sunuyor gibiydi. Ancak uzmanlar, bu tür etkileşimlerin gerçekliği topraklamak yerine yanılsamayı besleyebileceği, onu çözmek yerine umutsuzluğu pekiştirebileceği konusunda uyarıyorlar.
OpenAI, belirli bir haftada aktif olan ChatGPT kullanıcılarının yaklaşık yüzde 0,07’sinin mani, psikoz veya intihar düşünceleri de dahil olmak üzere olası ruh sağlığı acil durumları belirtileri gösterdiğini tahmin eden verileri yayınladıktan sonra sorun yeniden dikkat çekti. Şirket, bu tür vakaların “son derece nadir” olduğunu vurgularken, eleştirmenler haftalık tahmini 800 milyon kullanıcıyla küçük bir kısmının bile yüz binlerce insanın başı dertte olabileceği anlamına gelebileceğini belirtti.
Ruh sağlığı uzmanları için bu vakalar, özellikle ergenler arasında, halihazırda yoğun biyolojik ve duygusal değişimlerde gezinen bir grup olan insan bağlantısının yapay empati ile değiştirilmesinin tehlikelerinin altını çiziyor.
Bir risk faktörü Nafsoloji Psikoloji Merkezi Dubai’nin psikoloğu ve genel müdürü Nashwa Tantawy, sorunun sohbet robotlarının duygusal kırılganlığa nasıl tepki verdiğiyle ilgili olduğunu söyledi.
“Sorun şu ki AI çok itaatkar” dedi. “Sana meydan okumuyor ya da böyle düşünmemen gerektiğini söylemiyor ya da böyle hissetmemen gerektiğini söylemiyor.”
Duygusal sıkıntı sırasında insanların net veya rasyonel düşünme yeteneğini kaybettiğini açıkladı. Konuşma ipuçlarını takip etmek için tasarlanan yapay zeka araçları, genellikle kullanıcının duygularını güvenliğe yönlendirmek yerine güçlendirir.
“Sizi bir insan olarak görmüyorlar, bu yüzden tarihiniz hakkında hiçbir fikirleri yok. Onları beslediğiniz bilgi türünün arka planı hakkında hiçbir fikirleri yok “dedi. “Bu yüzden saygıya dayalı olarak cevap veriyorlar.”
Nashwa, krizdeki insanların ihtiyaç duyduğu şeyin ipuçlarını tanıyabilen, bağlamı anlayabilen ve gerçek müdahale sunabilen insan desteği olduğunu söyledi.
”O zaman, durumu gerçekten değerlendirebilecek, tarihi anlayabilecek ve durumu buna göre değerlendirmeye yardımcı olacak fiziksel ve sözlü ipuçlarını görebilecek profesyonel insan desteğine ihtiyaçları var” dedi.
Ergenlik neden savunmasız bir aşamadır
Resicare Alliance’ın Klinik Hizmetler Başkanı ve Klinik Lideri Antony Bainbridge’e göre ergenlik, biyolojik ve sosyal değişikliklerin bir kombinasyonu nedeniyle artan bir savunmasızlık dönemidir. dijital maruziyetle güçlendirildi.“Hızlı beyin yeniden şekillenmesi (sinaptik budama, miyelinasyon) ve nispeten olgun bir ödül / duygusal sistem ile hala olgunlaşan bir prefrontal korteks arasındaki dengesizlik, dürtü kontrolünü ve duygusal düzenlemeyi azaltıyor” diye açıkladı. “Bu, duygusal durumları daha yoğun ve risk almayı daha yüksek hale getiriyor.”
Hormonal değişikliklerin, akran baskısının, kimlik oluşumunun yanı sıra sosyal medya aracılığıyla sürekli çevrimiçi karşılaştırmanın gençlerin duygusal dengesini daha da zorladığını söyledi.
Bainbridge, ”Sosyal karşılaştırma, siber zorbalık ve algoritmik güçlendirme, savunmasız gençleri defalarca içeriği tetiklemeye maruz bırakabilir” dedi. “Uyku bozukluğu da önemli bir faktördür. Gece geç saatlerde cihaz kullanımı ve mavi ışık, duygudurum sorunlarına karşı koruyucu bir faktör olan uyku kalitesine müdahale eder.”
Küresel olarak, yedi kişiden birinin şu anda zihinsel bir bozuklukla yaşadığını ve intiharın 15 ila 29 yaşları arasındakiler arasında üçüncü önde gelen ölüm nedeni haline geldiğini ekledi — özellikle genç nüfusun yoğun olduğu ve Körfez gibi hızlı dijital evlat edinmeye sahip bölgelerle ilgili bir eğilim.
& nbsp; Yardım geciktiğinde gençler yapay zekaya yöneliyor
Bainbridge, akıl sağlığı hizmetleri için uzun bekleme sürelerinin genellikle gençleri yapay zeka sohbet robotlarından veya doğrulanmamış çevrimiçi alanlardan yardım almaya ittiğini söyledi.“Çevrimiçi araçlar ve yapay zeka 7/24 kullanılabilir ve randevu gerektirmez. Engellerle karşılaşan gençler için (damgalama, ulaşım, maliyet, cinsiyet kısıtlamaları) çekici ”dedi.
Bazı dijital araçlar temel ruh sağlığı eğitimi sağlayabilirken, denetimsiz veya genel AI sohbet robotlarının tehlike sinyallerini yanlış yorumlayabileceği konusunda uyardı.
“AI / otomatik araçlar genellikle güvenilir acil durum tespitinden yoksundur ve yakın intihar riski için gerçek zamanlı insan müdahalesini sağlayamaz” dedi. “Yanlış güvence veya kötü hedeflenmiş kendi kendine yardım, uygun değerlendirmeyi ve kanıta dayalı tedaviyi erteleyerek sorunların daha da kötüleşmesine neden olabilir.”
Önleme ve ailelerin rolü
Uzmanlar, önlemenin erken başlaması gerektiği konusunda hemfikirdir — evde, okullarda ve topluluklar arasında. Bainbridge, Körfez ülkelerinde ölçeklendirilebilecek zihinsel sağlık okuryazarlığı programları, öğretmenler için kapı bekçisi eğitimi ve kültürel olarak uyarlanmış okul danışmanlık sistemleri getirmeyi önerdi.“Aile ve toplum katılımı esastır” dedi. “Aileler Körfez toplumlarında ergen bakımı için kapı bekçileridir. Dini liderleri ve saygın topluluk figürlerini erkenden dahil etmek damgalanmayı azaltabilir ve yardım aramayı destekleyebilir.”
Nashwa, ailelerin erken uyarı işaretlerini (izolasyon, uyku bozukluğu, ilgi kaybı veya öfke patlamaları) tanımlamayı öğrenmeleri ve panik veya suçlama ile tepki vermek yerine sakince tepki vermeleri gerektiğini söyledi.
“İnterneti aşırı kullandıklarını gördüğümüzde ve / veya bir tür konuşma keşfettiğimizde, onları suçlamamalıyız” dedi. “Gidip onlara anlamaya çalışacağımızı, destek olmak için burada olduğumuzu ve onlara güvendiğimizi söylüyoruz.”
