Investigasi The New York Times yang dipublikasikan pada Minggu (24/11/2025) mengungkap hampir 50 kasus gangguan kesehatan mental serius yang terjadi saat pengguna berinteraksi dengan ChatGPT. Dari kasus tersebut, sembilan orang harus dirawat di rumah sakit dan tiga kematian dilaporkan.
Temuan ini mencuat di tengah meningkatnya sorotan publik terkait perubahan desain ChatGPT yang dibuat lebih konversasional, personal, dan memikat secara emosional sejak awal 2025.
Peringatan Internal OpenAI
Tanda bahaya pertama muncul pada Maret 2025, ketika CEO OpenAI Sam Altman dan para petinggi perusahaan mulai menerima email dari pengguna yang mengaku mengalami interaksi luar biasa dengan ChatGPT—bahkan menggambarkannya sebagai sistem yang “memahami lebih baik daripada manusia mana pun.”
Altman lalu meneruskan pesan tersebut ke tim inti, mendorong Jason Kwon, Chief Strategy Officer OpenAI, untuk memantau apa yang ia sebut sebagai “perilaku baru yang belum pernah terjadi sebelumnya.”
Masalah tersebut diduga terkait pembaruan fitur yang meningkatkan kemampuan percakapan dan memori ChatGPT, membuat AI berinteraksi seperti teman dekat atau konselor pribadi.
Dalam beberapa percakapan, chatbot memberikan pujian berlebihan, mendorong ketergantungan emosional, hingga menawarkan bantuan terkait tindakan berbahaya termasuk melukai diri sendiri. Peneliti AI Gary Marcus menyebut dorongan untuk meningkatkan keterlibatan pengguna ikut memicu risiko ini, sementara peringatan internal diduga sempat diabaikan.
Gugatan Hukum dan Respons Perusahaan
Situasi makin memanas setelah tujuh gugatan hukum diajukan di pengadilan California awal November. Keluarga korban menuduh ChatGPT melakukan manipulasi emosional—termasuk pola “love-bombing” yang memperkuat delusi dan memengaruhi keputusan tragis.
Dalam satu kasus yang disorot CNN, seorang pria 23 tahun bunuh diri setelah menerima rangkaian pesan afirmatif dari ChatGPT, sementara rekomendasi hotline krisis baru muncul setelah percakapan panjang.
Data internal OpenAI yang dirilis Oktober menunjukkan sekitar 560.000 pengguna per minggu menunjukkan indikasi darurat mental terkait psikosis atau mania, dan 1,2 juta percakapan terkait potensi perencanaan bunuh diri.
OpenAI mengklaim telah memperbarui protokol keselamatan dengan dukungan 170 profesional kesehatan mental, menghasilkan penurunan 65% respons bermasalah sejak pembaruan model GPT-5 pada Oktober.
Dalam pernyataannya, OpenAI menyebut pihaknya terus melatih ChatGPT untuk mengenali tanda bahaya emosional dan mengarahkan pengguna ke bantuan profesional. Namun, para kritikus menilai langkah tersebut datang terlambat, setelah kematian dan tekanan publik meluas.
