Perempuan menjadi korban penyalahgunaan fitur kecerdasan buatan (AI) Grok. Untuk mengatasi masalah ini, pakar mengusulkan tiga langkah teknis dan kebijakan yang dapat membantu mengurangi kekerasan berbasis gender. Pemerintah Indonesia, melalui Kementerian Komunikasi dan Digital (Komdigi), telah mengambil langkah pemutusan akses sementara terhadap aplikasi Grok sebagai upaya perlindungan terhadap perempuan, anak-anak, dan masyarakat dari risiko konten pornografi palsu yang dihasilkan oleh teknologi AI. Keputusan ini diambil untuk menjaga ruang digital yang aman, etis, dan menghormati hak asasi manusia.
Menteri Komunikasi dan Digital, Meutya Hafid, menyatakan bahwa deepfake seksual nonkonsensual dipandang sebagai pelanggaran serius terhadap hak asasi manusia, martabat, dan keamanan warga negara dalam ruang digital. Penggunaan teknologi AI untuk menyebarkan konten pornografi palsu tanpa izin merupakan bentuk kekerasan digital yang dapat merugikan korban secara psikologis, sosial, dan hukum. Oleh karena itu, pemutusan akses terhadap Grok dilakukan sebagai langkah preventif dan korektif, sementara pihak terkait diminta untuk memberikan klarifikasi tentang dampak negatif penggunaan Grok serta langkah-langkah mitigasi yang akan diambil.
Langkah-langkah tersebut didasari oleh regulasi yang jelas, yang mengatur tentang penyelenggaraan sistem elektronik dalam konteks privasi. Kementerian Komunikasi dan Digital berusaha untuk memastikan bahwa setiap platform digital yang beroperasi di Indonesia memiliki mekanisme keamanan yang memadai agar tidak disalahgunakan untuk menyebarkan konten terlarang. Tindakan pemutusan akses sementara diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020. Melalui langkah-langkah ini, diharapkan dapat menciptakan ruang digital yang lebih aman dan beretika bagi semua pengguna. Semua langkah yang diambil bertujuan untuk memberikan perlindungan kepada masyarakat, terutama perempuan dan anak-anak, dari dampak negatif penyalahgunaan teknologi AI seperti Grok.
