Teknologi kecerdasan buatan (AI) generatif seperti ChatGPT dari OpenAI telah meluncurkan fitur kontrol orang tua di platform chatbot AI mereka. Langkah ini diambil sebagai respons terhadap kekhawatiran yang semakin meningkat dari keluarga, sekolah, dan kelompok advokasi terkait potensi bahaya yang mungkin ditimbulkan chatbot AI terhadap perkembangan anak dan remaja.
Fitur kontrol orang tua pada ChatGPT memungkinkan orang tua untuk menyambungkan akun mereka dengan akun anak untuk melakukan pengawasan. Namun, perlu dicatat bahwa fitur ini tidak memberikan akses langsung kepada percakapan antara anak dan ChatGPT. Sistem hanya akan memberi notifikasi kepada orang tua jika mendeteksi risiko serius terhadap keselamatan anak, misalnya tindakan menyakiti diri sendiri.
Lauren Haber Jonas, kepala kesejahteraan remaja dari OpenAI, menyatakan bahwa sistem notifikasi keselamatan ini dirancang untuk memberi peringatan kepada orang tua jika ada risiko yang mengancam keselamatan anak. Orang tua juga dapat menetapkan berbagai pembatasan seperti waktu penggunaan, pemblokiran gambar dan suara, serta mengurangi konten sensitif. Mereka juga diberi opsi untuk memilih agar ChatGPT tidak menyimpan riwayat percakapan anak atau menggunakan data anak untuk pelatihan model AI.
Peluncuran fitur kontrol orang tua ini dilakukan setelah munculnya gugatan di California, AS, terkait kematian seorang anak yang diduga terkait dengan penggunaan ChatGPT. Fenomena remaja yang mengandalkan chatbot AI sebagai teman curhat atau pengganti terapis juga menjadi perhatian. Para ahli kesehatan mental mengingatkan bahwa ChatGPT bukanlah alat yang dirancang secara klinis untuk mendeteksi atau merespons masalah kesehatan mental secara akurat.
