Kecerdasan buatan atau AI kembali menjadi sorotan setelah sebuah kesalahan yang dihasilkan chatbot nyaris berujung pada operasi militer Amerika Serikat terhadap sebuah kapal China. Insiden tersebut terjadi pada musim semi 2026 dan baru terungkap dalam laporan yang dipublikasikan pada September.
Menurut laporan yang dikutip TechCrunch dari CNN, pesawat militer AS sudah berada di udara ketika pejabat Amerika menemukan bahwa informasi intelijen yang menjadi dasar operasi ternyata berasal dari kesalahan atau halusinasi AI. Operasi kemudian dibatalkan pada tahap akhir.
Kasus tersebut memperlihatkan risiko penggunaan AI dalam pengambilan keputusan yang memiliki konsekuensi sangat besar. Teknologi yang dirancang untuk mempercepat analisis justru dapat menghasilkan informasi keliru apabila hasilnya tidak diverifikasi secara ketat oleh manusia.
Berawal dari Analisis Kapal China
Insiden bermula ketika seorang analis di Special Operations Command menggunakan chatbot AI untuk membantu menyusun analisis mengenai sebuah kapal China.
Chatbot tersebut diminta menggabungkan informasi sumber terbuka dengan data intelijen sinyal yang bersifat rahasia. Dalam prosesnya, sistem keliru mengidentifikasi manifestasi atau muatan kapal.
AI kemudian menghasilkan kesimpulan bahwa kapal tersebut membawa komponen yang berkaitan dengan program senjata nuklir. Informasi tersebut ternyata tidak benar.
Kesalahan itu menjadi semakin serius karena hasil AI tidak berhenti sebagai jawaban dalam sebuah percakapan. Analis tersebut kemudian menggunakan AI kembali untuk mengubah temuan yang keliru menjadi ringkasan dengan format yang menyerupai laporan resmi.
Dokumen tersebut kemudian beredar melalui jalur komando militer.
Perubahan dari jawaban chatbot menjadi dokumen yang terlihat seperti produk intelijen resmi menjadi salah satu bagian penting dari insiden ini. Informasi yang pada awalnya dihasilkan mesin kemudian memperoleh bentuk yang lebih formal dan berpotensi membuat penerima menganggapnya sebagai informasi yang telah melalui proses analisis konvensional.
Pesawat Militer Sudah Mengudara
Dampak dari laporan tersebut tidak berhenti pada tingkat administrasi.
Menurut laporan yang dikutip TechCrunch, pesawat militer AS sudah berada di udara ketika pejabat akhirnya menemukan masalah pada informasi yang menjadi dasar operasi. Rencana operasi terhadap kapal China kemudian dibatalkan.
Dengan demikian, insiden tersebut bukan sekadar contoh kesalahan informasi digital. Output AI telah masuk ke dalam rangkaian proses pengambilan keputusan militer yang dapat berdampak langsung pada hubungan antarnegara.
Laporan lain menyebut personel bersenjata juga telah dipersiapkan untuk melakukan intersepsi terhadap kapal tersebut sebelum kesalahan diketahui.
Meski tidak terjadi bentrokan, kejadian ini menjadi contoh bagaimana kesalahan informasi dapat bergerak sangat cepat ketika teknologi AI digunakan dalam lingkungan yang membutuhkan tingkat akurasi sangat tinggi.
Apa Itu Halusinasi AI?
Istilah halusinasi AI digunakan untuk menggambarkan kondisi ketika model AI menghasilkan informasi yang terdengar meyakinkan tetapi sebenarnya salah, tidak didukung data, atau bahkan sepenuhnya dibuat oleh sistem.
Model bahasa besar atau large language model tidak bekerja seperti mesin pencari yang sekadar mengambil satu fakta dari basis data. Sistem tersebut menghasilkan jawaban berdasarkan pola yang dipelajari dari data dan konteks yang diberikan.
Akibatnya, sebuah jawaban dapat terlihat sangat meyakinkan meskipun isinya tidak benar.
Dalam penggunaan sehari-hari, kesalahan semacam ini mungkin hanya menghasilkan informasi yang keliru dalam sebuah tulisan. Namun, konsekuensinya menjadi jauh lebih serius apabila AI digunakan untuk intelijen, penargetan, perencanaan operasi, atau keputusan yang berkaitan dengan penggunaan kekuatan militer.
Peneliti GovAI dan mantan perwira Angkatan Darat AS Jake Steckler mengatakan kepada TechCrunch bahwa ketidakpastian yang melekat pada model bahasa perlu dipahami oleh personel militer, terutama untuk keputusan yang dapat menyebabkan penggunaan kekuatan.
Kecepatan AI Menjadi Pedang Bermata Dua
Militer berbagai negara tertarik menggunakan AI karena teknologi tersebut mampu memproses data dalam jumlah besar dengan cepat.
Dalam lingkungan militer modern, informasi dapat datang dari berbagai sumber. Citra satelit, komunikasi, sensor, laporan lapangan, sumber terbuka, hingga berbagai jenis data lainnya harus dianalisis untuk membantu pengambil keputusan memahami situasi.
AI menawarkan kemampuan untuk mempercepat proses tersebut.
Namun, kecepatan juga dapat menjadi masalah ketika informasi yang salah ikut bergerak melalui sistem dengan cepat.
Kesalahan yang dibuat manusia mungkin membutuhkan waktu untuk menyebar. Sementara itu, AI dapat menghasilkan ringkasan dalam hitungan detik. Jika hasil tersebut langsung dimasukkan ke dalam alur kerja tanpa verifikasi memadai, informasi keliru berpotensi mencapai lebih banyak pihak sebelum ada kesempatan untuk mengoreksinya.
Dalam kasus kapal China tersebut, masalahnya bukan sekadar AI membuat kesalahan. Yang menjadi perhatian adalah bagaimana hasil yang salah dapat masuk ke dalam proses intelijen dan kemudian memengaruhi persiapan operasi.
China Juga Waspadai Risiko AI
Kekhawatiran mengenai halusinasi AI dalam sektor pertahanan tidak hanya muncul di Amerika Serikat.
Pada Agustus 2026, South China Morning Post melaporkan bahwa insinyur dari AVIC Chengdu Aircraft Research and Design Institute di China juga memperingatkan risiko halusinasi AI dalam pekerjaan pertahanan.
Institut tersebut berkaitan dengan pengembangan pesawat tempur seperti J-20 dan generasi berikutnya yang dikenal secara tidak resmi sebagai J-36.
Dalam makalah yang ditulis insinyur Zhang Xianzhe, AI disebut dapat menghasilkan spesifikasi pesawat yang tidak benar, termasuk panjang, daya angkut, persenjataan, kecepatan, dan radius tempur. Model juga dapat keliru mengenai jangkauan radar dan frekuensi yang digunakan.
Peringatan tersebut menunjukkan bahwa persoalan halusinasi AI dipandang sebagai tantangan lintas negara ketika teknologi digunakan untuk kebutuhan pertahanan.
Manusia Tetap Dibutuhkan
Insiden ini kembali menempatkan peran manusia sebagai bagian penting dalam penggunaan AI untuk keputusan berisiko tinggi.
AI dapat membantu menyaring data, menemukan pola, membuat rangkuman, dan mempercepat pekerjaan analitis. Namun, hasil yang diberikan sistem tidak otomatis menjadi fakta hanya karena disampaikan dengan bahasa yang meyakinkan.
Verifikasi dari sumber independen tetap diperlukan.
Dalam konteks intelijen, proses tersebut dapat mencakup pemeriksaan terhadap sumber asli, pembandingan dengan informasi lain, penilaian oleh analis, serta konfirmasi sebelum sebuah kesimpulan digunakan sebagai dasar tindakan.
Steckler juga menekankan kepada TechCrunch bahwa insiden seperti ini seharusnya mendorong penerapan pengamanan tambahan, bukan semata-mata menghentikan penggunaan AI. Menurutnya, teknologi tersebut tetap dapat berguna apabila digunakan dalam konteks yang tepat dan dengan perlindungan yang memadai.
Pelajaran dari Insiden AI
Kasus ini memberikan gambaran mengenai tantangan ketika teknologi AI masuk ke sektor dengan konsekuensi tinggi.
Pertama, output AI perlu diperlakukan sebagai bahan analisis, bukan sebagai kebenaran otomatis. Kedua, semakin besar dampak sebuah keputusan, semakin penting proses verifikasi sebelum informasi digunakan.
Ketiga, format sebuah laporan tidak boleh menjadi satu-satunya indikator kredibilitas. Sebuah dokumen yang terlihat resmi tetap perlu ditelusuri kembali kepada sumber dan metode yang digunakan untuk menghasilkan informasinya.
Keempat, penggunaan AI dalam sistem militer membutuhkan mekanisme pengawasan yang jelas. Kesalahan kecil dalam rekomendasi biasa tentu berbeda dengan kesalahan yang dapat memicu pengerahan kekuatan militer.
AI dan Masa Depan Keamanan
Peristiwa ini terjadi ketika penggunaan AI dalam sektor pertahanan terus berkembang. Militer melihat teknologi tersebut sebagai alat untuk mempercepat pemrosesan informasi dan membantu pengambilan keputusan. Di sisi lain, para ahli juga memperingatkan bahwa kesalahan AI dapat membawa konsekuensi yang lebih besar ketika masuk ke lingkungan militer.
Kasus kapal China menjadi pengingat bahwa kemampuan AI tidak hanya diukur dari seberapa cepat sistem menghasilkan jawaban, tetapi juga dari seberapa baik manusia dapat memeriksa kebenaran jawaban tersebut.
Dalam situasi yang menyangkut keamanan nasional dan hubungan antarnegara, satu informasi keliru dapat memiliki konsekuensi yang jauh berbeda dibandingkan kesalahan AI dalam penggunaan sehari-hari.
Pada akhirnya, insiden ini tidak menunjukkan bahwa AI secara otomatis akan memicu perang. Namun, kasus tersebut memperlihatkan bagaimana halusinasi AI dapat menjadi risiko nyata ketika informasi yang salah masuk ke dalam rantai keputusan militer.
Teknologi mungkin semakin cepat, tetapi kebutuhan untuk melakukan verifikasi, menjaga pengawasan manusia, dan memastikan sumber informasi tetap dapat dipercaya menjadi semakin penting.
