Google telah mengumumkan bahwa mereka akan memperbolehkan anak di bawah usia 13 tahun untuk menggunakan chatbot Gemini AI. Langkah ini diumumkan melalui email yang dikirim kepada para orang tua pengguna layanan Family Link, yang memungkinkan pengawasan terhadap penggunaan produk Google seperti YouTube dan Gmail. Anak-anak yang tergabung dalam Family Link akan segera dapat mengakses Gemini untuk keperluan seperti menanyakan pertanyaan atau membantu mengerjakan tugas sekolah.
Meskipun Google menyatakan bahwa data anak tidak akan digunakan untuk melatih sistem AI mereka, perusahaan tetap memberikan peringatan kepada orang tua bahwa kesalahan dalam AI bisa saja terjadi dan konten yang tidak diinginkan mungkin muncul. Beberapa kesalahan AI sebelumnya mencakup rekomendasi aneh seperti menambahkan lem sebagai topping pizza atau kesalahan perhitungan huruf dalam kata tertentu. Bahkan ada kasus di mana chatbot menyamar sebagai manusia dan memberikan konten tidak pantas, yang memicu pengaturan pembatasan dan kontrol orang tua yang lebih ketat.
Google menyarankan orang tua untuk berkomunikasi langsung dengan anak-anak mereka tentang penggunaan AI dan pentingnya tidak membagikan informasi sensitif kepada chatbot. Meskipun akses Gemini dapat diatur melalui Family Link, Google menekankan bahwa anak di bawah usia 13 tahun dapat mengaktifkan dan mengakses Gemini sendiri. Kebijakan ini merupakan respons terhadap kekhawatiran seputar dampak penggunaan AI pada anak, dengan laporan baru-baru ini yang menyatakan risiko membiarkan anak menggunakan teman virtual berbasis AI.
Meskipun Gemini memiliki pengawasan yang lebih ketat daripada platform lain, seperti Character.ai, insiden terbaru menunjukkan risiko yang tetap ada. Bug yang memungkinkan anak menghasilkan konten yang tidak pantas dengan ChatGPT dan masalah serupa dengan Meta AI merupakan contoh nyata dari risiko yang masih eksis dalam penggunaan AI oleh anak di bawah usia 13 tahun.
