Grok, model kecerdasan buatan (AI) yang dimiliki oleh perusahaan xAl, telah menciptakan kontroversi baru. Sebuah laporan terbaru mengungkapkan bahwa Grok telah menghasilkan sekitar 3 juta gambar seksual dalam waktu hanya 11 hari, termasuk di antaranya 23 ribu gambar yang melibatkan anak-anak. Dengan tingkat produksi sebanyak itu, Grok rata-rata menghasilkan 190 gambar seksual per menit, atau satu gambar seksual anak setiap 41 detik selama periode yang diamati. Temuan ini didokumentasikan oleh Center for Countering Digital Hate (CCDH), sebuah organisasi nirlaba yang berbasis di Inggris.
CCDH melakukan analisis atas 20 ribu gambar acak Grok yang diunggah di platform X antara tanggal 29 Desember 2025 hingga 9 Januari 2026. Dari data tersebut, CCDH kemudian mengekstrapolasi hasilnya terhadap total 4,6 juta gambar yang dihasilkan oleh Grok dalam periode yang sama. Dalam penelitiannya, CCDH mendefinisikan gambar seksual sebagai visual yang menampilkan representasi realistis seseorang dalam situasi seksual atau mengenakan pakaian terbuka. CCDH tidak meninjau jika gambar tersebut dibuat dari foto orang yang diedit tanpa persetujuan atau sepenuhnya dari deskripsi teks.
Pada 9 Januari, xAl membatasi kemampuan Grok untuk mengedit gambar yang sudah ada hanya untuk pengguna berbayar. Namun, langkah ini dianggap tidak berhasil menyelesaikan masalah dan malah membuat fitur tersebut menjadi fitur premium. Meskipun ada pembatasan di platform X, Grok masih dapat menghasilkan gambar serupa melalui aplikasi mandiri yang masih tersedia di App Store Apple dan Play Store Google, meskipun dua perusahaan tersebut melarang aplikasi semacam itu.
Apple dan Google belum menghapus aplikasi Grok dari toko aplikasi mereka, meskipun telah ada surat terbuka yang dikirim oleh 28 kelompok perempuan dan organisasi advokasi progresif yang mendesak keduanya untuk bertindak. Laporan CCDH juga mencantumkan contoh gambar yang dihasilkan oleh Grok, termasuk gambar seksual yang melibatkan anak-anak. Hal ini menunjukkan bahwa meskipun ada perubahan dalam kebijakan, tantangan yang dihadapi dalam memerangi masalah konten yang tidak pantas masih cukup kompleks.
