Amerikalı yapay zeka firması OpenAI Salı günü yaptığı açıklamada, Amerikalı bir çiftin sistemin genç oğullarını kendini öldürmeye teşvik ettiğini söylemesinden bir hafta sonra chatbot Chatgpt’sine ebeveyn denetimleri ekleyeceğini söyledi.
“Gelecek ay içinde ebeveynler bunu yapabilecek… üretken yapay zeka şirketi bir blog yazısında, hesaplarını gençlerinin hesabıyla ilişkilendirin “ve “chatgpt’nin gençlerine yaşa uygun model davranış kurallarıyla nasıl yanıt verdiğini kontrol edin” dedi.
OpenAI, ebeveynler ayrıca chatgpt’den “sistem gençlerinin akut bir sıkıntı anında olduğunu tespit ettiğinde” bildirim alacaklar.
Şirket, Ağustos ayı sonlarında yayınlanan bir blog yazısında bir ebeveyn denetimleri sistemi izlemişti.
Bu, Kaliforniyalı ebeveynler Matthew ve Maria Raine’den, chatgpt’nin 16 yaşındaki oğullarına ayrıntılı intihar talimatları verdiğini ve planlarını uygulamaya koyması için onu teşvik ettiğini iddia eden bir mahkemeden bir gün sonra geldi.
Raines’in davası, son aylarda insanların yapay zeka sohbet robotları tarafından sanrısal veya zararlı düşünce trenlerine teşvik edilmesiyle ortaya çıkan ve openaı’nin modellerin kullanıcılara yönelik “dalkavukluğunu” azaltacağını söylemesini isteyen bir dizideki en sonuncusuydu.
OpenAI Salı günü yaptığı açıklamada, “Modellerimizin zihinsel ve duygusal sıkıntı belirtilerini nasıl tanıdığını ve bunlara nasıl tepki verdiğini geliştirmeye devam ediyoruz” dedi.
Şirket, önümüzdeki üç ay içinde “bazı hassas konuşmaları yönlendirmek” de dahil olmak üzere sohbet robotlarının güvenliğini artırmayı planladığını söyledi… bir yanıt üretmeye daha fazla bilgi işlem gücü sağlayan bir akıl yürütme modeline”.
OpenAI, “Testlerimiz, akıl yürütme modellerinin güvenlik yönergelerini daha tutarlı bir şekilde takip ettiğini ve uyguladığını gösteriyor” dedi.
