Masalah kesehatan mental semakin menjadi perhatian, dengan data terbaru dari OpenAl menunjukkan bahwa lebih dari satu juta pengguna ChatGPT terlibat dalam percakapan yang menunjukkan tanda-tanda perencanaan atau niat bunuh diri setiap pekan. Dalam laporan yang dirilis, OpenAl mengungkapkan bahwa sekitar 0,15 persen dari total pengguna aktif pekanan ChatGPT menunjukkan tanda-tanda tersebut, yang berarti lebih dari sejuta orang terlibat dalam pembicaraan bunuh diri.
Selain itu, OpenAl juga menemukan banyak pengguna yang menunjukkan keterikatan emosional tinggi terhadap ChatGPT, dan ratusan ribu pengguna lainnya menampilkan gejala psikosis atau mania dalam percakapan mereka. Untuk menanggapi masalah ini, OpenAl bekerja sama dengan lebih dari 170 profesional kesehatan mental untuk meningkatkan interaksi ChatGPT dengan pengguna yang mengalami krisis mental.
Upaya ini membuahkan hasil, dengan versi GPT-5 memberikan respons yang diinginkan lebih sering dan memenuhi standar perilaku yang diharapkan dalam percakapan dengan konteks bunuh diri. Namun, ada juga laporan yang menyoroti bagaimana chatbot AI dapat memperburuk kondisi mental pengguna, sehingga OpenAl sedang menghadapi gugatan hukum terkait masalah ini.
Sementara itu, Jaksa Agung California dan Delaware sudah memperingatkan OpenAl untuk meningkatkan perlindungan terhadap pengguna muda di tengah rencana restrukturisasi perusahaan. Hal ini menunjukkan bahwa sementara teknologi AI dapat membantu dalam banyak hal, perlu ada pengawasan dan perlindungan yang tepat untuk melindungi kesehatan mental pengguna terutama di platform online.
