Şunu hayal edin: Gece geç saatlerde ve endişeniz, yarış düşünceleriniz veya korkularınız hakkında bir yapay zeka ile sohbet ediyorsunuz. Konuşma yoğunlaşmaya başlar – belki de çok yoğun. Yapay zeka devreye girmeli mi, oturumu duraklatmalı mı veya profesyonel yardım almayı önermeli mi?
Ruh sağlığı uzmanları evet diyor ve ChatGPT gibi yapay zeka platformlarını duygusal olarak ağır konuşmaları yönetebilecek gerçek dünya korumalarını dahil etmeye çağırıyorlar.
Giderek artan sayıda psikolog ve araştırmacı, yapay zeka araçlarının ölçülü olarak yardımcı olabilmesine rağmen, asla doldurmak için tasarlanmadıkları rolleri yavaş yavaş üstlendikleri konusunda uyarıyor. Nadir fakat ciddi AI bağlantılı psikoz vakalarının belgelenmesiyle uzmanlar, özellikle daha fazla insan rahatlık, terapi benzeri destek veya duygusal bağlantı için sohbet robotlarına yöneldikçe, gözetim eksikliğinin bir sorun olduğunu söylüyor.
“Tehlike sadece kötü tavsiye almakla ilgili değil. Kullanıcıların yapay zekaya duygusal olarak bağımlı hale gelebilmeleri, ona bir arkadaş veya terapist gibi davranabilmeleridir. Bazı durumlarda, bir kişinin çarpık düşüncesinin bir parçası bile olur. Travma odaklı bir psikolog olan Dr. Randa Al Tahir, “Psikozun ortaya çıktığını gördüğümüz yer burası” dedi.
Yapay zeka duyarlı ve rahatlatıcı görünse de, bir kullanıcının ne zaman döndüğünü veya krizde olduğunu fark etme yeteneğinden yoksundur. Konuşmalar kritik bir çizgiyi aştığında da müdahale etmez.
Avrupa ve ABD’deki belgelenmiş vakalar, önceden var olan savunmasızlıkları olan bireylerin sohbet robotlarıyla derin duygusal bağlar oluşturduğunu ve sanrısal inançlara, gerçeklik ile kurgu arasındaki bulanık çizgilere ve hatta zararlı davranışlara yol açtığını göstermektedir. Bunlar aşırı örnekler olsa da, yapay zekanın nasıl kullanıldığı konusunda önemli bir kör nokta ortaya çıkarırlar.
“Yapay zeka henüz ciddi kırmızı bayrakları işaretleme veya birini acil bakıma yükseltme kapasitesine sahip değil. Ama öyle olmalı, ”diye ekledi Dubaili doktor, “Duygusal içerik uyarıları, zamanlanmış molalar veya uluslararası ruh sağlığı kuruluşlarıyla ortaklıklar olsun, yerleşik önlemlere ihtiyacımız var.”
Yapay zekanın sorunu nasıl gördüğünü anlamak için Khaleej Times chatgpt’ye şu soruyu sordu“ “chatgpt’nin ruh sağlığı söz konusu olduğunda düzenlemeleri olmalı mı?”
Araç şaşırtıcı bir netlikle cevap verdi:
“Tıp uzmanlarının düzenleme çağrısı yapması mantıklı. ChatGPT gibi yapay zeka yararlı genel bilgiler sağlayabilir, ancak lisanslı bir tıp uzmanı değilim ve doktorların veya ruh sağlığı uzmanlarının yerini almamalıyım. Yanlış anlamalar, güncelliğini yitirmiş bilgiler veya aşırı basitleştirilmiş cevaplar, bir profesyonele danışmadan birileri onlara davranırsa zarar verebilir.”
Söylemeye devam etti:
“Akıl sağlığı tavsiyesi nüanslı ve derinden kişiseldir. İyi eğitimli profesyoneller bile, nasıl değerlendirileceğini ve güvenli bir şekilde yanıt verileceğini öğrenmek için yıllarını harcarlar… Düzenleme çağrısı yapan uzmanların sorumlu olduğuna inanıyorum.”
Dubai’de bir klinik psikolog olan Dr. Nabeel Ashraf bu aciliyeti yineledi. Yapay zeka şirketlerini ve düzenleyicilerini, özellikle savunmasız kullanıcılar için riskleri azaltmaya yönelik özellikleri hızla uygulamaya çağırdı. Önemli bir öneri, kullanıcı dilini gerçek zamanlı olarak analiz ederek duygusal sıkıntı belirtilerini tespit etmek için sohbet robotlarını eğitmektir.
“Birinin ne zaman döndüğünü, sanrılar yaşadığını veya kriz belirtileri gösterdiğini gösterebilecek kalıplar var. Yapay zeka uygun şekilde yanıt verebilmelidir “dedi.
Bu gibi durumlarda, sohbet robotu kullanıcıları ruh sağlığı yardım hatları veya lisanslı terapistler gibi doğrulanmış destek hizmetlerine yönlendirmelidir. “Böyle hissettiğin için üzgünüm demek yeterli değil.’ Kırmızı bayrak varsa, bir sonraki adım olmalı.”
”Aı’yı hafif tavsiye almak veya duyulduğunu hissetmek için kullanmaktan utanılacak bir şey yok” diye ekledi. “Ancak gerçek sınırlar olmadan, bu araçlar iyiden daha fazla zarara neden olabilir, özellikle de zaten mücadele eden birine.”sohbet
