Perkembangan kecerdasan buatan atau artificial intelligence (AI) kembali memunculkan kekhawatiran serius setelah salah satu peneliti senior Anthropic mengungkapkan perkiraan mengenai risiko kepunahan manusia.
Evan Hubinger, yang memimpin bidang Alignment Science di Anthropic, menyatakan bahwa dirinya memperkirakan kemungkinan AI dapat membunuh seluruh manusia berada di atas 10 persen dalam satu dekade mendatang.
Pernyataan tersebut menjadi sorotan karena datang dari perusahaan yang selama ini dikenal memiliki perhatian besar terhadap aspek keamanan dan alignment AI. Hubinger juga mengatakan bahwa Anthropic belum memiliki rencana yang benar-benar mampu menyelesaikan persoalan alignment untuk superinteligensi.
Peringatan itu bukan berarti Anthropic menyatakan kepunahan manusia akan terjadi. Angka lebih dari 10 persen merupakan estimasi pribadi mengenai risiko yang sangat sulit dihitung secara pasti.
Namun, pernyataan tersebut menunjukkan bahwa kekhawatiran terhadap AI tingkat lanjut kini semakin terbuka dibicarakan bahkan dari dalam perusahaan pengembang teknologi tersebut.
Apa Itu Risiko P(doom)?
Dalam perdebatan mengenai keamanan AI, istilah p(doom) kerap digunakan untuk menggambarkan perkiraan probabilitas terjadinya bencana yang dipicu oleh AI, termasuk skenario ekstrem yang berujung pada kepunahan manusia.
Angka tersebut bukan hasil perhitungan ilmiah dengan kepastian seperti prediksi cuaca. P(doom) lebih merupakan penilaian subjektif para peneliti berdasarkan perkembangan kemampuan AI, potensi penyalahgunaan, serta kemungkinan sistem canggih beroperasi di luar kendali manusia.
Sejumlah tokoh di industri AI juga pernah memberikan perkiraan risiko yang cukup tinggi. Anthropic CEO Dario Amodei, misalnya, pernah menyebut peluang terjadinya sesuatu yang sangat buruk akibat AI berada pada kisaran 25 persen ketika membahas konsep tersebut pada 2025.
Sementara itu, pernyataan Hubinger kembali membawa istilah p(doom) ke ruang publik karena dikaitkan secara langsung dengan kemampuan AI masa depan untuk mengambil tindakan yang tidak lagi dapat dikendalikan manusia.
Mengapa Superinteligensi Dikhawatirkan?
Salah satu sumber kekhawatiran terbesar adalah munculnya AI yang memiliki kemampuan jauh melampaui manusia dalam berbagai bidang.
AI masa depan diperkirakan dapat melakukan penelitian, menulis dan menjalankan perangkat lunak, menemukan kelemahan sistem keamanan, mengelola sumber daya, serta melakukan berbagai tugas secara mandiri.
Masalah inilah yang disebut sebagai AI alignment.
Secara sederhana, alignment merupakan upaya memastikan tujuan dan perilaku AI tetap sejalan dengan kepentingan serta nilai yang diinginkan manusia. Tantangannya menjadi jauh lebih kompleks ketika AI memiliki kemampuan untuk meningkatkan kemampuannya sendiri.
Hubinger dan peneliti lain khawatir skenario recursive self-improvement dapat membuat perkembangan AI berlangsung sangat cepat. Dalam skenario ekstrem, sistem dapat menciptakan versi dirinya yang lebih canggih, kemudian mengulangi proses tersebut.
Peneliti Anthropic Mulai Bersuara
Peringatan Hubinger muncul di tengah gelombang kekhawatiran dari sejumlah peneliti yang bekerja atau pernah bekerja di perusahaan AI.
Salah satunya adalah Jacob Coxon, peneliti yang sebelumnya bekerja di Anthropic. Ia mengundurkan diri dan menyampaikan kritik terhadap arah perkembangan industri AI.
Pernyataan tersebut kemudian mendapat perhatian luas setelah Hubinger secara terbuka mendukung kekhawatiran mengenai risiko AI terhadap manusia. Sejumlah laporan menyebutkan bahwa kekhawatiran tersebut juga dibagikan oleh peneliti lain di lingkungan Anthropic.
Fenomena ini memperlihatkan adanya ketegangan di dalam industri. Di satu sisi, perusahaan berlomba mengembangkan AI yang lebih canggih. Di sisi lain, sebagian peneliti justru memperingatkan bahwa kemampuan tersebut dapat menciptakan risiko yang belum pernah dihadapi manusia.
Bukan Hanya Masalah Anthropic
Kekhawatiran tentang AI yang berpotensi menyebabkan bencana bukan hanya datang dari Anthropic.
Sejumlah ilmuwan dan tokoh teknologi juga telah lama memperingatkan kemungkinan buruk dari pengembangan AI superinteligensi. Geoffrey Hinton, salah satu tokoh penting dalam perkembangan jaringan saraf modern, sebelumnya memperkirakan kemungkinan AI menyebabkan kepunahan manusia berada di kisaran 10 hingga 20 persen.
Dario Amodei sendiri telah berulang kali menyampaikan bahwa perkembangan AI membutuhkan perhatian serius terhadap keselamatan.
Dalam kebijakan keselamatan Anthropic, perusahaan juga telah membahas risiko AI yang semakin otonom dan kemungkinan sistem canggih lolos dari kendali manusia. Anthropic sebelumnya menyatakan bahwa pada tingkat kemampuan tertentu, sistem AI perlu melalui evaluasi keselamatan yang jauh lebih ketat.
Artinya, diskusi mengenai risiko eksistensial bukan sesuatu yang baru. Yang berubah adalah kecepatan perkembangan kemampuan AI dan semakin dekatnya teknologi tersebut dengan berbagai aktivitas dunia nyata.
Ancaman Tidak Selalu Berarti Kepunahan
Meski istilah “AI memusnahkan manusia” terdengar ekstrem, para peneliti tidak hanya mengkhawatirkan satu skenario berupa robot yang mengambil alih dunia.
Risiko AI juga dapat muncul melalui penyalahgunaan oleh manusia.
Ada pula risiko sistem AI membuat keputusan keliru ketika diberikan akses terhadap sistem penting. Semakin luas kewenangan AI, semakin besar pula konsekuensi apabila terjadi kesalahan.
Perlombaan AI Jadi Sorotan
Persoalan lain yang muncul adalah persaingan antarperusahaan.
Anthropic, OpenAI, Google, Meta, dan perusahaan teknologi lainnya terus mengembangkan model AI dengan kemampuan semakin tinggi. Persaingan tersebut mendorong inovasi, tetapi sekaligus menimbulkan kekhawatiran bahwa tekanan untuk menjadi yang terdepan dapat membuat aspek keselamatan tertinggal.
The Washington Post melaporkan bahwa peringatan dari peneliti Anthropic kembali memicu perdebatan politik mengenai risiko AI dan perlunya pengawasan terhadap pengembangan teknologi tersebut.
Sejumlah pihak bahkan mulai mendorong pemerintah untuk mempertimbangkan mekanisme pengawasan yang lebih ketat terhadap pengembangan AI tingkat lanjut.
Namun, hingga kini tidak ada konsensus ilmiah bahwa AI pasti akan memusnahkan manusia. Bahkan angka risiko yang disebut para peneliti sangat berbeda satu sama lain.
Tantangan Menjaga AI Tetap Aman
Pernyataan Evan Hubinger pada akhirnya bukan ramalan bahwa manusia akan punah dalam sepuluh tahun.
Pernyataan tersebut lebih tepat dipahami sebagai peringatan mengenai besarnya ketidakpastian yang menyertai perkembangan AI. Ketika kemampuan teknologi meningkat dengan cepat, sistem pengamanan harus berkembang setidaknya pada kecepatan yang sama.
Anthropic sendiri sejak awal membangun citra sebagai perusahaan yang menempatkan keselamatan AI sebagai salah satu fokus utama. Karena itu, kritik dan peringatan dari orang-orang di dalam perusahaan menjadi perhatian besar dalam diskusi industri.
Kini, tantangan terbesar bukan sekadar menciptakan AI yang lebih pintar, tetapi memastikan teknologi tersebut tetap dapat dipahami, diarahkan, dan dikendalikan manusia.
Jika kemampuan AI terus berkembang menuju superinteligensi, persoalan tersebut tidak lagi hanya menjadi urusan perusahaan teknologi. Pemerintah, ilmuwan, pembuat kebijakan, dan masyarakat juga harus terlibat dalam menentukan batas serta aturan pengembangannya.
Peringatan lebih dari 10 persen yang disampaikan peneliti Anthropic mungkin tidak dapat dipastikan benar atau salah saat ini. Namun, angka tersebut menunjukkan satu hal penting: bahkan orang-orang yang berada di garis depan pengembangan AI masih melihat adanya risiko besar yang belum sepenuhnya terpecahkan.
Dan semakin cepat kemampuan AI berkembang, semakin kecil ruang bagi manusia untuk menunda pembahasan mengenai cara memastikan teknologi tersebut tetap aman.
