Platform media sosial X telah resmi memperketat penggunaan alat kecerdasan buatan (AI) miliknya yang dikenal sebagai Grok. Kini, fitur AI tersebut tidak lagi diizinkan untuk mengedit foto orang asli dengan pakaian terbuka atau minim, sebagai respons terhadap kekhawatiran global terkait maraknya konten deepfake seksual. Langkah ini diambil setelah protes keras dari berbagai negara, mulai dari Indonesia hingga Inggris.
X mengumumkan penerapan langkah-langkah teknologi untuk mencegah akun Grok dalam memproses pengeditan gambar orang nyata yang menggunakan pakaian terbuka, seperti bikini. Pembatasan ini berlaku untuk semua pengguna platform, termasuk pelanggan berbayar. Keputusan ini diumumkan melalui pernyataan resmi dari X, yang menyatakan pembatasan tersebut efektif mulai Rabu.
Entitas California, Jaksa Agung Rob Bonta, baru saja mengumumkan bahwa mereka sedang menyelidiki penyebaran konten deepfake AI seksual yang melibatkan anak-anak dengan model Grok. Langkah ini diambil setelah materi gambar yang menggambarkan perempuan dan anak-anak dalam situasi telanjang dan eksplisit seksual diunggah secara online dan digunakan untuk melecehkan individu.
Kontroversi ini juga berdampak di ranah internasional, seperti di Indonesia dan Malaysia yang memblokir akses ke chatbot Grok akibat penyebaran gambar tersebut. Perdana Menteri Inggris, Sir Keir Starmer, mengingatkan bahwa X diselamati kehilangan hak untuk mengatur diri sendiri jika situasi ini tidak diatasi dengan baik. Regulator media Inggris, Ofcom, juga sedang melakukan investigasi terkait masalah ini.
X menegaskan bahwa saat ini hanya pengguna berbayar yang diizinkan untuk menggunakan Grok dalam mengedit gambar. Langkah ini menjadi lapisan perlindungan tambahan untuk memastikan akuntabilitas pengguna yang mencoba menyalahgunakan teknologi ini. Pengguna yang ditemukan mengedit gambar orang asli dengan pakaian terbuka akan dihentikan sesuai dengan hukum yang berlaku di wilayah hukum masing-masing. Semua tindakan ini diharapkan dapat meredam kemarahan global dan menghindari sanksi hukum lebih lanjut bagi X di berbagai negara.
