Penggunaan Kecerdasan Buatan di Perusahaan Picu Masalah Keamanan Siber
Perkembangan teknologi kecerdasan buatan (AI) otonom dalam lingkungan perusahaan di Indonesia dinilai membawa risiko baru terkait keamanan siber. Menurut laporan terbaru Zentara Labs, meskipun adopsi teknologi AI semakin pesat, tata kelola dan perlindungan terhadap risiko belum sepenuhnya terantisipasi.
Kesenjangan Antara Adopsi AI dan Kesiapan Kelola Risiko
Zentara Labs melalui laporannya yang berjudul “SAFE-AGENT: An Agentic AI Security Framework for the Enterprise and Public Sector” menyoroti bahwa banyak perusahaan mulai mengimplementasikan sistem AI yang dapat beroperasi secara mandiri dalam lingkungan digital. Namun, hal ini menciptakan tantangan baru terkait pengawasan, kontrol, dan keamanan operasional.
Co-Founder dan CEO Zentara, Regal Rauniyar Star, menekankan bahwa teknologi AI sekarang beroperasi dengan tingkat independensi yang belum pernah diperhitungkan sebelumnya. Hal ini membuat kesenjangan antara cara sistem AI berfungsi dengan kemampuan pengelolaan risiko yang dimiliki oleh perusahaan.
Perlunya Penguatan Tata Kelola Penggunaan AI
Presiden Zentara, Darian Kuswanto, menggarisbawahi pentingnya bagi perusahaan untuk beralih dari fokus semata pada kemampuan teknologi menuju upaya penguatan tata kelola penggunaan AI. Adopsi teknologi AI, terutama di sektor keuangan, layanan pelanggan, dan layanan publik, sedang berkembang pesat, namun ancaman keamanan siber juga semakin meningkat.
Laporan tersebut juga menyoroti risiko penyalahgunaan AI dalam produksi konten berbahaya atau menyesatkan. Hal ini memunculkan kebutuhan pengawasan yang lebih jelas dari regulator dan publik seiring dengan percepatan adopsi teknologi AI.
Secara global, insiden siber berbasis AI semakin mengemuka, namun implementasi praktik keamanan dan tata kelola di tingkat perusahaan masih mengalami ketimpangan. Di Indonesia dan Asia Tenggara, kecepatan adopsi teknologi AI dinilai melampaui perkembangan praktik tata kelola, sehingga diperlukan langkah-langkah kongkrit untuk memitigasi risiko yang mungkin timbul.
