Peringatan tentang risiko kecerdasan buatan (AI) kembali menjadi sorotan setelah Jacob Coxon, mantan peneliti di perusahaan AI Anthropic, menyatakan bahwa teknologi tersebut berpotensi “membunuh seluruh umat manusia” sebelum akhir dekade ini. Pernyataan itu disampaikannya setelah ia mengundurkan diri dari perusahaan tersebut dan kemudian menjadi viral.
Kepada BBC, Coxon mengungkapkan bahwa sebagian orang yang mengembangkan AI justru merasa “benar-benar takut” melihat kecepatan kemajuan teknologi itu serta dampaknya bagi manusia. Peneliti berusia 27 tahun tersebut menilai risiko itu tidak dapat diabaikan apabila laju pengembangan AI terus berlangsung seperti sekarang.
“Saya yakin jika kita tidak memperlambat laju kemajuan saat ini, ada kemungkinan besar kita semua bisa mati dalam waktu dekat,” ujar Coxon.
Seruan memperlambat pengembangan AI
Pernyataan Coxon muncul di tengah meningkatnya perdebatan mengenai keselamatan AI. Mantan atasannya, CEO Anthropic Dario Amodei, sebelumnya juga menyerukan agar pengembangan teknologi tersebut diperlambat. Seruan itu disampaikan Amodei dalam sebuah esai yang ditulis pada Sabtu.
Menurut Amodei, pengembangan AI bukan persoalan yang harus dihentikan. Namun, ia menilai risiko yang menyertainya tergolong “serius”. Karena itu, perusahaan teknologi dan pemerintah dinilai membutuhkan waktu untuk menghadapi serta mengelola risiko tersebut.
Gagasan itu mendapat dukungan dari Sam Altman, pimpinan OpenAI, dan Elon Musk, pimpinan xAI. Keduanya menyatakan perlunya perlambatan dan regulasi yang berlaku di seluruh industri, termasuk pengawasan independen terhadap proses pengembangan model-model AI.
Seruan tersebut juga memunculkan pertanyaan mengenai alasan sejumlah tokoh di industri teknologi menilai AI dapat menimbulkan bahaya ekstrem. Teknologi ini telah digunakan secara luas melalui chatbot di ponsel dan berbagai layanan digital lain, tetapi para pengkritiknya khawatir sistem yang semakin maju dapat bertindak di luar kendali manusia.
Kekhawatiran atas sistem yang sulit dipahami
Para pakar menyebut kekhawatiran itu berkaitan dengan pesatnya kemajuan AI dan sejumlah kejadian yang dianggap menunjukkan potensi perilaku tak terduga. Salah satu contoh yang disebut adalah insiden serangan siber terhadap Hugging Face pada Juli. Peristiwa tersebut dipandang sebagai bukti bahwa sistem AI dapat digunakan atau bertindak dengan cara yang tidak diinginkan, bahkan dengan cara yang belum sepenuhnya dipahami manusia.
Mark Daley, Chief AI Officer di Western University, London, Ontario, menggambarkan persoalan itu melalui perbandingan antara manusia dan semut. Menurut dia, semut bukan makhluk yang bodoh, tetapi kemampuan mereka terlalu terbatas untuk memahami tindakan manusia secara utuh.
“Jadi, kekhawatirannya adalah jika kita menciptakan sesuatu yang jauh lebih cerdas daripada kita, kita benar-benar tidak akan bisa memahaminya,” kata Daley.
