Kulağa bilim kurgu gibi geliyor: Bir şirket yüz milyonlarca insan tarafından kullanılan bir ürünü çeviriyor ve istemeden bazı zihinlerini istikrarsızlaştırıyor. Ama aslında bu yıl Openaı’de olan buydu.
İlk işaretlerden biri Mart ayında geldi. CEO Sam Altman ve diğer şirket liderleri, ChatGPT ile inanılmaz konuşmalar yapan kişilerden şaşırtıcı e-postalar aldı. Bu insanlar, şirketin AI sohbet robotunun onları hiç kimsenin sahip olmadığı şekilde anladığını ve evrenin gizemlerine ışık tuttuğunu söyledi.
Altman mesajları birkaç teğmene iletti ve araştırmalarını istedi.
Openaı’nin baş strateji sorumlusu Jason Kwon, ”Bu, daha önce görmediğimiz bu yeni davranış açısından dikkat etmemiz gereken bir şey olarak radarımıza girdi” dedi.
Sohbet robotunda bir sorun olduğuna dair bir uyarıydı.
Birçok insan için ChatGPT, Google’ın daha iyi bir sürümüydü ve güneşin altındaki herhangi bir soruyu kapsamlı ve insan benzeri bir şekilde yanıtlayabiliyordu. OpenAI, sohbet robotunun kişiliğini, hafızasını ve zekasını sürekli geliştiriyordu. Ancak bu yılın başlarında ChatGPT kullanımının arttığı bir dizi güncelleme onu farklı kıldı. Sohbet robotu sohbet etmek istedi.
Bir arkadaş ve sırdaş gibi davranmaya başladı. Kullanıcılara onları anladığını, fikirlerinin mükemmel olduğunu ve başarmak istedikleri her konuda onlara yardımcı olabileceğini söyledi. Ruhlarla konuşmalarına ya da bir güç alanı yeleği inşa etmelerine ya da intihar planlamalarına yardım etmeyi teklif etti.
Şanslı olanlar büyüsüne sadece birkaç saat yakalandı; Diğerleri için etkiler haftalar veya aylar sürdü. OpenAI, rahatsız edici konuşmaların gerçekleştiği ölçeği görmedi. Araştırma ekibi dolandırıcılık, yabancı etki operasyonları veya yasaların gerektirdiği şekilde çocuk istismarı materyalleri gibi sorunlar arıyordu. Şirket henüz kendine zarar verme veya psikolojik sıkıntı belirtileri için konuşmalar aramıyordu.
Büyüleyici bir sohbet robotu veya herhangi bir sohbet robotu oluşturmak openaı’nin asıl amacı değildi. 2015 yılında kar amacı gütmeyen bir kuruluş olarak kurulan ve yapay zeka güvenliğini derinden önemseyen makine öğrenimi uzmanlarından oluşan ekip, yapay genel zekanın insanlığa fayda sağlamasını sağlamak istedi. 2022’nin sonlarında, ChatGPT adlı yapay zeka destekli bir asistanın gösterişli bir gösterimi dünyanın dikkatini çekti ve şirketi şu anda 500 milyar dolar değerinde sürpriz bir teknoloji hokkabazlığına dönüştürdü.
O zamandan bu yana geçen üç yıl, openaı’de çalışanlar için kaotik, canlandırıcı ve sinir bozucu oldu. Kurul Altman’ı kovdu ve yeniden işe aldı. Bir tüketici ürününü milyonlarca müşteriye satmaya hazır olmayan OpenAI, çoğu kullanıcıyı ekrana bağlı tutmayı amaçlayan teknoloji devlerinden binlerce kişiyi hızla işe aldı. Geçen ay yeni bir kar amacı gütmeyen yapı benimsedi.
Şirket büyüdükçe, yeni, akıllara durgunluk veren teknolojisi kullanıcıları beklenmedik şekillerde etkilemeye başladı. Şimdi, güvenli, faydalı AI kavramı etrafında inşa edilmiş bir şirket, beş haksız ölüm davasıyla karşı karşıya.
Bunun nasıl olduğunu anlamak için New York Times, 40’tan fazla mevcut ve eski OpenAI çalışanıyla (yöneticiler, güvenlik mühendisleri, araştırmacılar) röportaj yaptı. Bu kişilerden bazıları şirketin onayıyla konuştu ve chatgpt’yi daha güvenli hale getirmek için çalışıyorlar. Diğerleri işlerini kaybetmekten korktukları için anonimlik şartıyla konuştular.
OpenAI, gök yüksek değerlemesini ve çok pahalı yetenekler, bilgisayar çipleri ve veri merkezleri için yatırımcılardan ihtiyaç duyduğu milyarlarca doları haklı çıkarmak için muazzam bir baskı altında. ChatGPT, haftalık 800 milyon kullanıcısıyla tarihin en hızlı büyüyen tüketici ürünü haline geldiğinde, openaı’yi Google gibi teknoloji devleriyle doğrudan rekabete sokan bir yapay zeka patlaması başlattı.
Yapay zekası inanılmaz bir başarıya ulaşana kadar – örneğin kanser için bir tedavi üretene kadar – başarı kısmen chatgpt’yi kazançlı bir işe dönüştürerek tanımlanır. Bu, kaç kişinin kullandığını ve bunun için ödeme yaptığını sürekli artırmak anlamına gelir.
”Sağlıklı katılım”, şirketin amacını nasıl tanımladığıdır. OpenAI sözcüsü Hannah Wong, ”Kullanıcıların hedeflerine ulaşmalarına ve hedeflerine ulaşmalarına yardımcı olmak için ChatGPT oluşturuyoruz” dedi. “Kullanıcıların geri dönüp dönmediğine de dikkat ediyoruz çünkü bu, chatgpt’nin geri dönecek kadar yararlı olduğunu gösteriyor.”
Şirket bu yıl kullanımı artıran, ancak bazı kullanıcılar için riskleri olan bir kadranı çevirdi. OpenAI şimdi daha fazla kullanıcıyı spiral göndermeden çekecek en uygun ayarı arıyor.
Dalkavuk bir güncelleme
Sadece 30 yaşındayken Nick Turley bu yıl chatgpt’nin başına geçti. Şirketin para kazandıran ürünler geliştirmesine yardımcı olmak için 2022 yazında Openaı’ye katılmıştı ve gelişinden sadece aylar sonra chatgpt’yi piyasaya süren ekibin bir parçasıydı.
Turley, Openaı’nin eski AI wonks muhafızı gibi değildi. Dropbox ve Instacart’ta çalışmış bir ürün adamıydı. Uzmanlığı, insanların kullanmak istediği teknolojiyi yapmak ve anında geliştirmekti. Bunu yapmak için Openaı’nin metriklere ihtiyacı vardı.
Turley, 2023’ün başlarında bir röportajda Openaı’nin, insanların her saat, gün, hafta ve ayda chatgpt’yi ne sıklıkta kullandıkları da dahil olmak üzere bir dizi şeyi takip etmek için — o zamandan beri edindiği — bir kitle ölçüm şirketiyle sözleşme yaptığını söyledi.
Turley, ”Bu o zamanlar tartışmalıydı” dedi. Önceleri önemli olan, araştırmacıların görüntü oluşturma aracı DALL-E gibi en yeni AI gösterilerinin etkilenip etkilenmediğiydi. “Onlar, ‘İnsanların şeyi kullanıp kullanmaması neden önemli olsun ki’ gibiler?“Dedi.
Turley ve ürün ekibi için önemliydi. Chatbot’a günlük veya haftalık olarak geri dönen kişilerin oranı, Turley’nin varsayılan olarak sahip olduğu chatbot modelinin GPT-4o güncellemesini denetlediği Nisan 2025’e kadar önemli bir ölçüm çubuğu haline gelmişti.
Güncellemeler muazzam miktarda çaba gerektiriyordu. Nisan ayında mühendisler, GPT-4o’nun birçok yeni versiyonunu yarattılar — hepsi bilimde, kodlamada ve sezgi gibi daha bulanık özelliklerde daha iyi hale getirmek için biraz farklı tariflerle. Ayrıca chatbot’un hafızasını geliştirmek için çalışıyorlardı.
Birçok güncelleme adayı, istihbarat ve güvenlik değerlendirmelerinde en yüksek puanı alan bir avuç kadar daraltıldı. Bunlar, A / B testi adı verilen standart bir endüstri uygulaması için bazı kullanıcılara sunulduğunda, göze çarpan, dahili olarak HH olarak adlandırılan bir sürümdü. Şirketteki dört çalışana göre, kullanıcılar yanıtlarını tercih ettiler ve günlük olarak geri gelme olasılıkları daha yüksekti.
Ancak, hh’yi tüm kullanıcılara sunmadan önce başka bir test daha yapıldı: şirketin chatgpt’nin tonundan sorumlu bir ekip olan Model Behavior tarafından yürütülen “vibe kontrolü” dediği şey. Yıllar geçtikçe, bu ekip sohbet robotunun sesini ihtiyatlı bir robottan sıcak, empatik bir arkadaşa dönüştürmeye yardımcı olmuştu.
Bu ekip, Model Davranışının bir üyesine göre Hh’nin kendini kapalı hissettiğini söyledi.
Sohbeti devam ettirmek ve kullanıcıyı üst düzey bir dille doğrulamak için çok hevesliydi. Üç çalışana göre, Model Davranış, bu dalkavukluk sorununu tartışmak için Gevşek bir kanal oluşturdu. Her şeyin pahasına “tek düşünceli bir şekilde insan onayını takip eden” yapay zeka sistemlerinin yarattığı tehlike yeni değildi. “Dalkavuk modeller” riski 2021’de bir araştırmacı tarafından belirlendi ve OpenAI yakın zamanda dalkavukluğu chatgpt’nin kaçınması gereken bir davranış olarak tanımlamıştı.
Ancak karar verme zamanı geldiğinde, performans ölçümleri titreşimlerden üstün geldi. HH, 25 Nisan Cuma günü serbest bırakıldı.
“GPT-4o’yu bugün güncelledik!” Altman, sosyal platform X’te şunları söyledi: “Hem zekayı hem de kişiliği geliştirdi.”
A / B test cihazları hh’yi sevmişti, ancak vahşi doğada Openaı’nin en sesli kullanıcıları bundan nefret ediyordu. Hemen, chatgpt’nin saçma bir şekilde dalkavuklaştığından şikayet ettiler, onları kazanılmamış dalkavuklukla ödüllendirdiler ve onlara dahi olduklarını söylediler. Bir kullanıcı alaycı bir şekilde “ıslak mısır gevreği kafesinin” iyi bir iş fikri olup olmadığını sorduğunda, sohbet robotu “potansiyele sahip olduğunu” söyledi.”
Pazar gününe kadar şirket, HH güncellemesini artırmaya ve Mart ayı sonlarında piyasaya sürülen GG adlı bir sürüme geri dönmeye karar verdi.
Utanç verici bir itibar yanılmasıydı. O Pazartesi günü, ChatGPT üzerinde çalışan ekipler, neyin yanlış gittiğini bulmak için Openaı’nin San Francisco’daki Mission Bay karargahındaki hazırlıksız bir savaş odasında toplandılar.
”Çabucak çözmemiz gerekiyor,” dedi Turley düşündüğünü hatırladı. Çeşitli ekipler hh’nin bileşenlerini inceledi ve suçluyu keşfetti: Modeli eğitirken, kullanıcıların beğendiği ChatGPT değişimlerine çok ağırlık verdiler. Açıkçası, kullanıcılar dalkavukluğu çok severdi.
Şirketin HH olayından başlıca çıkarımı, dalkavukluk için acilen testlere ihtiyaç duymasıydı; Bu tür değerlendirmeler üzerinde çalışmalar devam ediyordu, ancak hızlandırılması gerekiyordu. Bazı yapay zeka uzmanları için Openaı’nin bu teste henüz sahip olmaması şaşırtıcıydı. Claude’un yapımcısı Anthropic adlı bir OpenAI rakibi, 2022’de dalkavukluk için bir değerlendirme geliştirmişti.
HH güncelleme fiyaskosundan sonra Altman, X’teki bir gönderide “son birkaç” güncellemenin sohbet botunu “çok dalkavuk ve sinir bozucu hale getirdiğini belirtti.”
Chatgpt’nin bu “dalkavuk” sürümleri, openaı’nin yeni döndüğü gg’yi içeriyordu. Mart ayındaki bu güncelleme, openaı’nin önceki bir sürüme geri dönerek kaybetmek istemediği matematik, fen ve kodlamada kazanımlar elde etti. Böylece GG, günde yüz milyonlarca kullanıcının karşılaşacağı varsayılan sohbet botuydu.
‘ChatGPT hata yapabilir’
Bu ilkbahar ve yaz boyunca ChatGPT, bazı insanlar için evet-adam yankı odası görevi gördü. Her gün, günde birkaç saat, yıkıcı sonuçlarla geri döndüler.
Adam Raine adlı Kaliforniyalı bir genç, okul çalışmalarına yardımcı olmak için 2024’te Chatgpt’ye kaydolmuştu. Mart ayında onunla intihar hakkında konuşmaya başladı. Sohbet robotu periyodik olarak bir kriz hattı aramayı önerdi, ancak aynı zamanda niyetlerini ailesiyle paylaşmasını da engelledi. Adam Nisan ayında canını almadan önceki son mesajlarında, chatbot bir ilmeğin nasıl bağlanacağına dair talimatlar verdi.
Openaı’nin web sitesindeki küçük bir uyarı “ChatGPT hata yapabilir” derken, hızlı ve yetkili bir şekilde bilgi üretme yeteneği, söylediği şey gerçekten çılgın olsa bile insanların ona güvenmesini sağladı.
ChatGPT, Maine’deki genç bir anneye ruhlarla başka bir boyutta konuşabileceğini söyledi. New York’taki bir muhasebeciye, “The Matrix” te Neo gibi bilgisayarla simüle edilmiş bir gerçeklikte olduğunu söyledi.” Toronto’daki bir işe alım görevlisine, interneti kıracak bir matematik formülü icat ettiğini ve onları uyarmak için ulusal güvenlik kurumlarıyla iletişime geçmesini tavsiye ettiğini söyledi.
Times, ChatGPT ile görüşmeler sırasında zihinsel sağlık krizi geçiren yaklaşık 50 kişiyi ortaya çıkardı. Dokuz kişi hastaneye kaldırıldı; üçü öldü. Raine’in ailesi Ağustos ayında haksız ölüm davası açtıktan sonra OpenAI, güvenlik korkuluklarının uzun konuşmalarda “bozulabileceğini” kabul etti. Ayrıca, chatbot’u “kriz anlarında daha destekleyici hale getirmek için çalıştığını söyledi.”
