Teknologi deepfake telah membawa ancaman baru di dunia digital, dengan salah satu konsekuensi paling membahayakan adalah penyalahgunaan teknologi ini terhadap kelompok rentan seperti anak-anak. Untuk mengatasi hal ini, Kementerian Komunikasi dan Digital (Kemkomdigi) telah memperkuat upaya perlindungan anak di ranah digital melalui peningkatan literasi digital, penindakan konten berbahaya, dan regulasi perlindungan anak. Komitmen ini ditegaskan oleh Wakil Menteri Komunikasi dan Digital, Nezar Patria, yang menekankan pentingnya menciptakan ruang digital yang aman untuk semua.
Dalam konteks saat ini, kekhawatiran terbesar muncul dari penyalahgunaan teknologi seperti deepfake dan AI yang semakin canggih. Konten visual dan audio yang dimanipulasi oleh teknologi ini tidak hanya menyesatkan, tetapi juga secara spesifik mengancam kelompok rentan seperti perempuan dan anak-anak. Lonjakan kasus deepfake sebesar 550% sejak tahun 2019, seperti yang dilaporkan oleh Sensity AI, menunjukkan tingginya penyebaran dan penyalahgunaan teknologi ini, dengan 90% tujuannya adalah berbahaya.
Kemkomdigi telah merespons masalah ini dengan menerbitkan Peraturan Pemerintah Nomor 17 Tahun 2025 atau PP Tunas, yang secara spesifik mengatur perlindungan anak dalam sistem elektronik. Langkah-langkah konkret seperti ini diharapkan dapat memberikan landasan hukum yang kuat untuk menindak tindakan yang merugikan anak-anak dalam ruang digital. Selain regulasi, literasi digital juga ditekankan sebagai keterampilan penting dalam memahami dunia digital dan menjaga privasi data.
Kemkomdigi mengajak semua pihak, termasuk pemerintah daerah, komunitas, dan keluarga, untuk bersama-sama membangun lingkungan digital yang sehat dan aman. Kolaborasi lintas sektor diharapkan dapat menciptakan ruang digital yang mendukung pertumbuhan anak-anak menuju Indonesia Emas 2045. Dengan cara ini, diharapkan generasi mendatang dapat tumbuh cerdas dan kompetitif dalam era transformasi digital, yang tentunya sebuah potret masa depan Indonesia yang gemilang.
