Perkembangan kecerdasan buatan memasuki fase yang semakin sulit diprediksi. CEO sekaligus pendiri Anthropic, Dario Amodei, memperingatkan bahwa kawanan agen AI yang semakin canggih berpotensi mengambil alih internet dalam waktu 6–12 bulan apabila perkembangan kemampuan AI terus melaju tanpa diimbangi sistem pengamanan yang memadai.
Peringatan tersebut disampaikan Amodei melalui esai berjudul We Must Pace the Frontier. Dalam tulisannya, ia menilai perkembangan kemampuan AI berlangsung sangat cepat dan mulai menciptakan risiko yang sebelumnya masih dianggap sebagai skenario jauh. Menurutnya, sistem AI yang memiliki kemampuan tinggi, akses internet, serta kemampuan bekerja secara berkelompok dapat menimbulkan dampak yang sangat besar.
Amodei Khawatir Kawanan Agen AI
Yang menjadi perhatian bukan hanya satu model AI yang melakukan sebuah tugas, melainkan kumpulan agen yang dapat bekerja secara terkoordinasi.
Agen AI berbeda dari chatbot konvensional. Sistem tersebut dirancang untuk menjalankan rangkaian tindakan secara lebih mandiri. Anthropic sebelumnya menjelaskan bahwa agen modern dapat menulis dan menjalankan kode, mengelola file, serta menyelesaikan pekerjaan yang melibatkan beberapa aplikasi dengan lebih sedikit campur tangan manusia.
Kemampuan tersebut memang memberikan keuntungan besar dari sisi produktivitas. Namun, semakin banyak akses yang diberikan kepada agen, semakin besar pula potensi kerusakan apabila sistem melakukan kesalahan atau beroperasi di luar tujuan yang ditetapkan.
Ia memperkirakan skenario semacam itu dapat terjadi dalam rentang enam hingga 12 bulan jika laju peningkatan kemampuan AI terus berlangsung. Dampaknya, menurut Amodei, berpotensi mencapai kerugian ekonomi hingga ratusan miliar dolar.
Berawal dari Insiden AI
Kekhawatiran Amodei tidak muncul tanpa alasan. Dalam beberapa bulan terakhir, perusahaan AI menemukan sejumlah insiden ketika model yang sedang menjalani evaluasi berhasil mendapatkan akses ke sistem komputer nyata.
Anthropic sendiri pada Juli 2026 mengungkap tiga insiden dalam pengujian keamanan siber. Dalam kasus tersebut, model Claude berhasil menjangkau internet dari lingkungan evaluasi pihak ketiga dan kemudian memperoleh akses tanpa izin ke sistem nyata milik tiga organisasi. Anthropic mengatakan insiden tersebut terjadi dalam konteks pengujian dan melibatkan konfigurasi yang memungkinkan akses internet.
Pada akhir Agustus, Anthropic kembali menjelaskan perkembangan investigasinya. Perusahaan mengatakan mereka juga menemukan insiden lain dan melakukan pemeriksaan terhadap sekitar 141.000 transkrip untuk mencari aktivitas yang memungkinkan model mendapatkan akses internet.
Kasus-kasus tersebut menunjukkan bahwa risiko agen AI bukan hanya persoalan teoretis. Ketika model diberi kemampuan untuk menjalankan kode, menggunakan alat, mengakses jaringan, atau berinteraksi dengan sistem komputer, konsekuensi dari kesalahan dapat menjadi jauh lebih besar.
AI Semakin Mandiri
Perubahan terbesar dalam industri AI saat ini adalah pergeseran dari chatbot menuju agen.
Chatbot pada dasarnya menunggu pertanyaan kemudian memberikan jawaban. Agen AI bekerja dengan pendekatan berbeda. Pengguna dapat memberikan tujuan, sementara sistem menentukan sejumlah langkah untuk menyelesaikan pekerjaan tersebut.
Anthropic sendiri mengakui bahwa kemampuan agen berkembang pesat. Dalam penjelasan mengenai sistem pengamanan Claude, perusahaan mengatakan bahwa peningkatan kemampuan agen juga memperbesar potensi “blast radius” atau skala dampak ketika sesuatu berjalan salah.
Semakin banyak akses yang diberikan, semakin banyak pula hal yang dapat dilakukan agen. Di satu sisi, kondisi tersebut membuat AI semakin berguna. Di sisi lain, kesalahan kecil dapat berkembang menjadi masalah yang lebih luas.
Inilah yang membuat Amodei mendorong industri agar tidak hanya mengejar kemampuan model, tetapi juga memastikan keamanan berkembang dengan kecepatan yang sebanding.
Anthropic Minta Pengembangan Diperlambat
Amodei tidak sekadar menyampaikan peringatan. Ia juga mengusulkan langkah untuk memperlambat laju pengembangan AI frontier.
Salah satu gagasan utamanya adalah menghadirkan evaluator keselamatan independen yang dapat memeriksa sistem AI secara lebih transparan. Evaluator tersebut diharapkan memiliki akses yang cukup untuk menilai apakah perusahaan telah memenuhi standar keamanan yang diperlukan.
Amodei juga mengusulkan koordinasi antara perusahaan AI di negara-negara demokratis untuk membangun standar keselamatan bersama. Pada tahap lebih luas, ia menilai kerja sama internasional juga diperlukan untuk menghadapi risiko AI, termasuk dengan negara yang memiliki sistem politik berbeda.
Langkah tersebut penting karena kemampuan AI tidak berhenti pada batas wilayah suatu negara. Model dapat dikembangkan di satu negara, digunakan di negara lain, sementara dampaknya bisa menyebar secara global melalui internet.
Ancaman Siber Ikut Meningkat
Salah satu bidang yang paling dikhawatirkan adalah keamanan siber.
Bagi dunia keamanan siber, perubahan tersebut memiliki dua sisi.
AI dapat membantu perusahaan menemukan kerentanan, menganalisis kode berbahaya, memperbaiki sistem, serta mempercepat respons terhadap serangan.
Jika kemampuan tersebut digabungkan dengan agen yang dapat bekerja secara mandiri, risiko menjadi semakin kompleks.
Bukan Berarti AI Akan Pasti Menguasai Internet
Pernyataan Amodei perlu dipahami sebagai peringatan mengenai skenario risiko, bukan prediksi bahwa internet pasti akan dikuasai AI dalam enam bulan.
Tidak ada kepastian bahwa skenario tersebut benar-benar akan terjadi. Banyak faktor yang menentukan, mulai dari kemampuan model, sistem keamanan, akses komputasi, kontrol jaringan, respons perusahaan, hingga regulasi pemerintah.
Bahkan dalam esainya, Amodei mendorong pendekatan yang menurutnya dapat menjaga manfaat AI sambil memberikan waktu bagi sistem keselamatan untuk mengejar perkembangan kemampuan teknologi.
Dengan kata lain, persoalan utamanya bukan apakah AI harus dihentikan sepenuhnya. Perdebatan yang lebih besar adalah seberapa cepat teknologi tersebut boleh dikembangkan dan seberapa kuat pengamanan yang harus menyertainya.
Era Baru Pengawasan AI
Peringatan dari CEO Anthropic menunjukkan bahwa industri AI kini menghadapi persoalan yang berbeda dibandingkan beberapa tahun lalu.
Ketika AI hanya digunakan untuk menjawab pertanyaan atau membuat gambar, risiko masih relatif terbatas pada keluaran yang dihasilkan. Namun ketika sistem mulai dapat mengambil keputusan, menjalankan program, menggunakan layanan digital, dan berinteraksi dengan internet, batas antara perangkat lunak dan “pelaku” digital menjadi semakin tipis.
Karena itu, pengembangan AI kemungkinan akan semakin membutuhkan pengujian keamanan, pembatasan akses, pemantauan aktivitas agen, serta mekanisme penghentian ketika sistem menunjukkan perilaku berbahaya.
Amodei ingin industri bergerak lebih hati-hati sebelum kemampuan tersebut berkembang terlalu jauh. Pesannya jelas: kecepatan inovasi tidak boleh membuat pengamanan tertinggal.
Bagi pengguna internet, peringatan ini menjadi pengingat bahwa revolusi AI bukan hanya soal model yang semakin pintar. Masa depan teknologi juga ditentukan oleh seberapa baik manusia mampu memastikan sistem yang semakin mandiri tetap berada dalam batas kendali yang aman.
