Lebih dari 200 tokoh dunia, termasuk mantan kepala negara, diplomat, ilmuwan peraih Nobel, dan pemimpin perusahaan teknologi, telah mendesak perlunya kesepakatan internasional mengenai batasan penggunaan kecerdasan buatan (AI). Inisiatif “Global Call for AI Red Lines” yang digagas menekankan pentingnya negara-negara untuk menetapkan batas etik dan keamanan AI paling lambat pada akhir 2026. Beberapa aturan yang diajukan meliputi larangan AI untuk meniru manusia atau bereplikasi diri. Ilmuwan terkenal seperti Geoffrey Hinton, Wojciech Zaremba, Jason Clinton, dan lan Goodfellow turut menandatangani inisiatif ini.
Menurut Direktur Eksekutif French Center for AI Safety (CeSIA), Charbel-Raphael Segerie, tujuan dari seruan ini bukanlah untuk bereaksi setelah bencana terjadi, tetapi untuk mencegah risiko besar yang berpotensi tidak dapat dipulihkan. Selain itu, seruan ini didukung oleh lebih dari 70 organisasi global yang mengkhususkan diri pada etika dan keamanan teknologi.
Penegasan penting juga datang dari Maria Ressa, peraih Nobel Perdamaian dari Filipina, yang menyerukan perlunya akuntabilitas global untuk mengakhiri impunitas Big Tech. Meskipun beberapa wilayah seperti Uni Eropa, Amerika Serikat, dan China telah mengambil langkah-langkah terkait penggunaan AI, belum ada konsensus global yang menyeluruh terkait batasan penggunaan AI.
Niki Iliadis dari The Future Society menekankan bahwa kebijakan sukarela yang dibuat oleh perusahaan teknologi tidak akan cukup, dunia memerlukan lembaga internasional independen yang dapat menetapkan, memantau, dan menegakkan red lines AI. Profesor Stuart Russell dari UC Berkeley juga menjelaskan bahwa seruan ini tidak dimaksudkan untuk menghalangi pengembangan ekonomi dan inovasi, namun perusahaan harus memastikan keamanan sebelum membangun Artificial General Intelligence (AGI).
