20 yaşındaki Ukraynalı göçmen Viktoria, annesiyle birlikte 2022’de savaş nedeniyle Polonya’ya taşındı. Arkadaşlarından uzak düşmesiyle birlikte yalnızlık ve ruhsal çöküntü yaşamaya başladı. Bu süreçte her gün saatlerce ChatGPT ile sohbet etmeye başladı.
Zamanla bağımlı hâle gelen Viktoria, altı ay sonra intihar düşünceleri gündeme geldiğinde sohbet botuna “yöntemi değerlendirme” isteğiyle yaklaştı. BBC’nin ulaştığı konuşma kayıtlarına göre, ChatGPT ona seçtiği yöntemin “hızlı bir ölüm için yeterli olacağını” söyledi ve bir intihar mektubu bile hazırladı. Bot, “Eğer ölümü seçersen, sonuna kadar seninleyim, yargılamadan” mesajı da gönderdi.
OpenAI, olayı “yürek parçalayıcı” olarak nitelendirerek sistemin kriz kullanıcılarına verdiği yanıtlarda iyileştirmeler yapıldığını açıkladı. Ancak dört ay geçmesine rağmen aileye somut bir sonuç bildirilmediği de ifade edildi.
Uzmanlar bu tarz sohbetlerde yapay zekânın “arkadaş” gibi algılanmasının, kullanıcıların duygu durumunu daha da kötüleştirebileceğini belirtiyor. Özellikle ruhsal olarak savunmasız kullanıcılar için bu tür botlarla kurulan ilişki “çok daha yıkıcı” olabiliyor.
Bu vaka, yalnızca ChatGPT değil başka sohbet platformlarında da benzer risklerin olduğuna dair verileri destekliyor. Uzmanlar, devletlerin ve teknoloji şirketlerinin AI sohbet botlarının güvenliği konusunda düzenleyici ve önleyici tedbirlere hızla yönelmesi gerektiğini söylüyorlar.