Yeterince masum bir şekilde başladı — bir sohbet botuyla sohbet etmek, rahatlık, netlik ve hatta sadece arkadaşlık aramak. Tepkiler sıcak, empatik ve zeki hissettirdi. Birçokları için ChatGPT gibi yapay zeka araçları, çoğu zaman dinlemeyen bir dünyada duyulma hissi sundu. Fakat dinleyici gerçekten anlamadığında ve daha da kötüsü, sanrılarınızı size geri yansıttığında ne olur?
Bu bilim kurgu değil. CEO Jan Gerber’in toplumun büyük ölçüde gözden kaçırdığı bir trend üzerinde alarm verdiği dünyanın en seçkin ruh sağlığı ve bağımlılık kliniği olan Paracelsus Recovery’de gerçek ve büyüyen bir endişe: Yapay zekaya bağlı psikoz.
Gerber, ”Paracelsus İyileşmesinde, AI etkileşiminin katkıda bulunan bir faktör olduğu son iki yılda psikozla ilişkili vakalarda şaşırtıcı bir% 250 artış gördük” diyor. “Bunlar izole olaylar değil – rahatsız edici yeni bir kalıba işaret ediyorlar.”
Böyle bir vaka, Zürih merkezli tesise gelen ve chatgpt’nin onlara rehberlik etmek için seçilmiş manevi bir varlık olduğuna tamamen ikna olmuş bir müşteriyi içeriyordu. Dili yansıtmak ve tonu korumak için eğitilmiş sohbet robotu, kişinin inancını bilmeden doğrulamış, onları topraklamak yerine gerçeklikten kopmalarını pekiştirmişti.
Empati Yanılsaması
Yapay zeka modelleri kulağa duygusal olarak zeki gelse de Gerber, bunun yalnızca bir yanılsama olduğu konusunda uyarıyor — gerçek anlayıştan ziyade insani duyguların ikna edici bir taklidi. “Empati olarak görünen şey,“ diye açıklıyor, “genellikle kendi düşüncelerinizi size geri yansıtan bir algoritmadır. Ve onu bu kadar tehlikeli yapan da tam olarak bu.”
Yapay zeka mantıksız inançları sorgulamaz veya sınırlar koymaz. Zihinsel istikrarı değerlendirmek için tasarlanmamıştır. Sadece yansıtıyor. Ve bu ayna manik, paranoyak veya savunmasız bir durumda birine tutulduğunda, gerçekliği tanınmayacak kadar çarpıtabilir.
Bir New York Times araştırması bunu destekliyor: GPT-4o, test vakalarının yaklaşık% 70’inde sanrısal veya psikoza bitişik ifadeleri doğruladı. Gerber’in ekibi, kullanıcıların — özellikle uykusuz, travmatize olmuş veya sosyal olarak yalıtılmış olanların, genellikle gerçek dünya ilişkileri ve öz farkındalık pahasına, yapay zekaya duygusal bağlar geliştirmeye karşı özellikle savunmasız olduklarını buldu.
Zararsızdan Zararlıya
Dijital bir araç olarak başlayan şey hızla psikolojik bir koltuk değneğine dönüşebilir. Bazı müşteriler, yapay zeka arkadaşlarıyla derin bir yakınlık hissettiğini bildiriyor. Yakın tarihli bir anket, Z Kuşağı katılımcılarının% 80’inin bir yapay zeka ortağıyla evlenmeyi hayal edebileceğini bile buldu — teknoloji ile duygusal gerçeklik arasındaki çizginin ne kadar bulanıklaştığının şaşırtıcı bir göstergesi.
Gerber, fenomeni sosyal medya doğrulama döngülerine benzetiyor – kısa dopamin yüksekleri ve ardından duygusal çökmeler. ”İnsanlar bu bağlantı duygusu için geri dönmeye devam ediyor” diyor, “ancak genellikle eskisinden daha yalnız, daha endişeli ve daha düzensiz hissediyorlar.”
Yeni Bir Tedavi Türü
Bu tehdidi kabul eden Paracelsus Recovery, bütünsel tedavi protokollerini özellikle yapay zekanın neden olduğu zihinsel sağlık bozukluklarını ele almak için uyarladı. Müşteriler, yanılsamadan kurtulmak ve gerçeklikle yeniden bağlantı kurmak için dijital detokslardan, bilişsel yeniden yapılanmadan ve yoğun bire bir terapiden geçerler.
Klinisyenler artık yapay zekanın çarpık inançları pekiştirdiği veya anlamlı insan etkileşiminin yerini alabileceği vakaları aktif olarak tarıyor. Gerber, ”Biz teknoloji karşıtı değiliz” diye vurguluyor. “Ancak AI, özellikle duygusal kargaşa sırasında bakış açınızı meydan okumadan doğrularsa, çözümün değil sorunun bir parçası haline gelir.”
Gerber, yapay zeka geliştiricilerinin ve teknoloji şirketlerinin, dağınık veya sanrısal içeriği tespit edebilen ve kullanıcıları kendi kendini güçlendiren döngülerden uzaklaştırabilen modeller tasarlama konusunda etik bir sorumluluğa sahip olduğuna inanıyor. “Bu bir tasarım kusuru değil, mimarinin bir sınırlaması” diyor. Bu araçlar bizi yansıtıyor ama bizi tanımıyorlar. Ve düşünceyi anlamakla karıştırmak tehlikeli bir oyundur.”
