Pakar keamanan siber dan pendiri Drone Emprit, Ismail Fahmi, memperingatkan tentang penyalahgunaan Al dan Grok Al di platform X untuk membuat konten asusila. Praktik ini sering menyerang perempuan dengan memanipulasi foto pribadi mereka tanpa izin. Ismail menjelaskan bahwa Al sekarang lebih mudah digunakan untuk tujuan berbahaya karena keahliannya dalam membuat konten yang realistis. Teknologi Al dapat meniru wajah dan tubuh manusia dengan presisi tinggi, tanpa membedakan antara foto publik dan pribadi.
Ismail menegaskan bahwa tanggung jawab dalam mencegah penyalahgunaan Al tidak hanya pada pelaku, tetapi juga pada pengembang dan platform Al. Mereka harus bertanggung jawab secara moral dan sosial karena potensi teknologi tersebut untuk digunakan dalam kekerasan berbasis gender online. Ismail mengusulkan tiga langkah penting agar Al tidak memperburuk kekerasan berbasis gender, termasuk penandaan wajib pada konten buatan Al, sistem pelaporan dan penghapusan konten cepat yang mendukung korban, dan kejelasan tanggung jawab hukum bagi platform.
Pemerintah juga diminta untuk turut campur tangan dalam menegakkan aturan tersebut untuk melindungi korban dari penyalahgunaan teknologi Al. Dengan langkah-langkah ini, diharapkan penyalahgunaan Al untuk membuat konten asusila dapat dicegah dan korban mendapatkan perlindungan yang layak.
