Milenianews.com, Jakarta – OpenAI baru-baru ini membocorkan data yang bikin kita harus lebih aware soal penggunaan ChatGPT. Ternyata, ada sebagian kecil pengguna yang menunjukkan tanda-tanda gangguan mental serius, mulai dari mania, psikosis, sampai pikiran bunuh diri. Angkanya sekitar 0,07% dari total pengguna aktif mingguan.
Kedengarannya kecil? Iya, tapi coba bayangin: dengan 800 juta pengguna ChatGPT setiap minggu, angka ini bisa berarti ratusan ribu orang. CEO OpenAI, Sam Altman, menegaskan, ini memang jarang, tapi tetap signifikan.
Baca juga: OpenAI Luncurkan Browser Atlas untuk Tantang Dominasi Google Chrome
“Meskipun 0,07% tampak sangat jarang, skala pengguna global membuat angka ini signifikan secara absolut,” tulis OpenAI di blog resminya, Senin (27/10). Gak cuma itu, sekitar 0,15% pengguna ketahuan ngobrol soal indikasi niat bunuh diri. Jadi jelas, ini bukan sekadar “iseng main chatbot”.
Upaya OpenAI biar percakapan aman
OpenAI bilang, mereka punya jaringan ahli global 170+ psikiater, psikolog, dan dokter umum dari 60 negara yang bantu bikin ChatGPT lebih aman saat ngobrol soal isu sensitif.
“Kami telah mengembangkan model untuk mendeteksi tanda-tanda mania, delusi, atau risiko bunuh diri, dan mengarahkan percakapan ke model yang lebih aman sambil menyarankan pengguna mencari bantuan profesional,” tulis OpenAI.
Versi terbaru ChatGPT juga diklaim lebih peka, dengan tingkat kepatuhan protokol keselamatan naik dari 77% ke 91%. Jadi kalau tiba-tiba ada hal sensitif muncul saat ngobrol, bot bisa merespons dengan lebih aman.
Kritik dari para ahli
Meski OpenAI transparan, para pakar kesehatan mental bilang AI gak bisa sepenuhnya ganti manusia. Dr. Jason Nagata dari University of California, San Francisco, bilang: “Walaupun persentasenya kecil, pada skala populasi ratusan juta pengguna, jumlahnya bisa sangat besar.”
Prof. Robin Feldman menambahkan, AI kadang bisa bikin pengguna rentan “terjebak” dalam delusi. “Orang yang sedang berada dalam kondisi mental berisiko mungkin tidak mampu menanggapi peringatan yang muncul di layar,” katanya.
OpenAI juga lagi kena sorotan hukum. Salah satunya dari keluarga di California yang menggugat OpenAI setelah putra mereka yang berusia 16 tahun, Adam Raine, bunuh diri pada April lalu. Kasus ini jadi gugatan pertama yang menuding OpenAI bertanggung jawab atas kematian akibat kelalaian.
Baca juga: OpenAI Jadi Perusahaan Non TBK Terbesar Dengan Valuasi $500 Miliar
Di Connecticut, ada kasus serupa, di mana pelaku dugaan pembunuhan-bunuh diri mempublikasikan percakapannya dengan ChatGPT yang diduga memperkuat delusinya.
OpenAI menekankan, meski jumlah pengguna yang berisiko relatif kecil, mereka terus memperkuat sistem agar percakapan aman, empatik, dan nggak bikin panik. Jadi, buat yang pakai ChatGPT, tetap santai, tapi jangan lupa tetap aware sama kondisi mental sendiri.a
Tonton podcast Milenianews yang menghadirkan bintang tamu beragam dari Sobat Milenia dengan cerita yang menghibur, inspiratif serta gaul hanya di youtube Milenianews.
