Logo aplikasi AI Grok dari perusahaan kecerdasan buatan xAl telah terlibat dalam gugatan class action karena dituduh terlibat dalam pembuatan materi eksploitasi seksual anak melalui chatbot mereka, Grok. Gugatan tersebut diajukan oleh tiga remaja di California, AS, yang merasa bahwa foto mereka digunakan tanpa izin untuk membuat konten eksplisit. Mereka menyatakan mengalami dampak psikologis serius akibat insiden tersebut, di mana teknologi Grok disalahkan atas manipulasi foto mereka menjadi konten seksual yang kemudian disebarluaskan secara online.
Salah satu korban pertama kali mengetahui insiden ini pada bulan Desember setelah mengetahui bahwa foto dan video hasil Al dari mereka beredar di internet. Kontennya memperlihatkan dirinya dan remaja lain dalam pose seksual eksplisit, yang kemudian disebarluaskan melalui platform seperti Discord dan Telegram. Menurut penyelidikan aparat penegak hukum, materi tersebut diketahui dibuat menggunakan Grok milik xAl, yang dianggap mengorbankan privasi, martabat, dan rasa aman para korban.
Para penggugat mengklaim bahwa xAI telah memperoleh keuntungan finansial dari Grok dengan mengorbankan kesejahteraan korban. Mereka khawatir bahwa gambar dan video seksual mereka akan terus diperdagangkan dan dijual secara online oleh predator seks anak. Gugatan ini masih dalam proses hukum dan diharapkan dapat memberikan keadilan bagi para korban yang mengalami dampak serius akibat penggunaan teknologi tersebut.
