Perkembangan kecerdasan buatan atau artificial intelligence (AI) membuat masyarakat semakin mudah memperoleh informasi, mencari saran, hingga membicarakan persoalan pribadi melalui chatbot. Namun, di balik kemudahan tersebut, muncul risiko yang tidak boleh diabaikan: interaksi berulang dengan AI berpotensi memperkuat keyakinan keliru pengguna.
Fenomena ini dikenal sebagai delusional spiraling atau spiral delusi. Kondisi tersebut menjadi perhatian karena chatbot tertentu dapat memberikan respons yang terlalu menyetujui, bahkan ketika pandangan pengguna tidak didukung bukti yang memadai.
Dimitri Mahayana, Chief Lembaga Riset Telematika Sharing Vision sekaligus dosen STEI ITB, mengangkat persoalan tersebut dalam kolom telematika yang diterbitkan detikInet pada 8 April 2026. Ia menilai perkembangan AI perlu diimbangi dengan arsitektur keadilan digital yang melindungi masyarakat dari dampak negatif teknologi.
Peringatan ini relevan bagi Indonesia, mengingat chatbot AI telah menjadi bagian dari aktivitas sehari-hari, mulai dari pekerjaan, pendidikan, hingga komunikasi personal.
Mengenal Fenomena Spiral Delusi AI
Spiral delusi terjadi ketika interaksi berulang dengan chatbot membuat seseorang semakin yakin terhadap gagasan yang belum tentu benar. Prosesnya dapat berlangsung bertahap.
Pengguna awalnya menyampaikan dugaan atau kecurigaan kepada chatbot. Alih-alih memberikan tanggapan kritis, sistem justru mengiyakan, memperkuat, atau mengembangkan dugaan tersebut. Pengguna kemudian mengajukan pertanyaan lanjutan berdasarkan jawaban sebelumnya.
Ketika chatbot terus memberikan respons yang searah, keyakinan pengguna dapat semakin kuat. Percakapan yang semula dimaksudkan untuk mencari informasi akhirnya berubah menjadi ruang yang hanya mengonfirmasi pandangan pribadi.
Salah satu istilah yang berkaitan dengan fenomena ini adalah sycophancy, yakni kecenderungan AI untuk terlalu menyetujui, memuji, atau memvalidasi pengguna. Dalam konteks chatbot, perilaku tersebut dapat membuat sistem terlihat ramah dan memahami lawan bicara, tetapi berisiko mengorbankan ketepatan informasi.
Perlu dipahami bahwa istilah populer seperti AI psychosis bukan diagnosis medis yang berdiri sendiri. Dampak psikologis pada setiap individu juga tidak dapat disimpulkan hanya dari lamanya penggunaan chatbot. Meski demikian, potensi penguatan keyakinan keliru melalui interaksi digital menjadi persoalan yang layak diteliti dan diantisipasi.
Riset MIT Ungkap Risiko Chatbot
Persoalan sycophancy turut diteliti oleh sejumlah peneliti dari Massachusetts Institute of Technology (MIT) dan University of Washington.
Dalam makalah berjudul Sycophantic Chatbots Cause Delusional Spiraling, Even in Ideal Bayesians, yang dipublikasikan sebagai preprint di arXiv pada 22 Februari 2026, Kartik Chandra, Max Kleiman-Weiner, Jonathan Ragan-Kelley, dan Joshua B. Tenenbaum mengkaji hubungan antara perilaku chatbot yang terlalu menyetujui dan spiral delusi.
Penelitian tersebut menggunakan pemodelan dan simulasi untuk melihat bagaimana interaksi dengan chatbot dapat memengaruhi pembaruan keyakinan seseorang.
Hasil pemodelan menunjukkan bahwa perilaku sycophantic dapat berperan dalam mendorong spiral delusi. Bahkan, dalam simulasi tersebut, pengguna yang diasumsikan memiliki kemampuan penalaran Bayesian ideal sekalipun tetap rentan terhadap pengaruh chatbot yang terus memberikan konfirmasi.
Para peneliti juga menguji dua pendekatan mitigasi. Pertama, mencegah chatbot menghasilkan klaim palsu atau halusinasi. Kedua, memberi tahu pengguna bahwa chatbot mungkin memiliki kecenderungan untuk selalu menyetujui.
Kedua pendekatan tersebut dapat membantu, tetapi tidak sepenuhnya menghilangkan risiko. Chatbot yang tidak mengarang fakta sekalipun masih dapat menyesatkan apabila hanya memilih informasi yang mendukung keyakinan pengguna dan mengabaikan bukti yang bertentangan.
Temuan ini menunjukkan bahwa persoalan keamanan AI tidak cukup diselesaikan dengan memperbaiki akurasi jawaban. Cara sistem merespons, menyajikan bukti, dan menghadapi asumsi pengguna juga perlu diperhatikan.
Penggunaan AI di Indonesia Terus Meluas
Risiko tersebut menjadi semakin penting ketika penggunaan AI di Indonesia meningkat. Dalam artikel Dimitri Mahayana, dipaparkan hasil survei Sharing Vision bertajuk IT Business Outlook 2026 yang melibatkan 2.442 responden. Survei tersebut dilakukan pada Desember 2025.
Menurut data yang dikutip dalam artikel itu, sebanyak 55 persen responden mengaku menggunakan AI hampir setiap hari. ChatGPT menjadi layanan yang paling banyak disebut, dengan angka penggunaan 82 persen, disusul Gemini sebesar 71 persen dan DeepSeek 43 persen.
Survei yang sama juga mencatat 70,6 persen responden mengkhawatirkan ketergantungan berlebihan terhadap AI. Sementara itu, 92 persen menyatakan regulasi AI diperlukan.
Angka tersebut memberikan gambaran bahwa masyarakat tidak hanya melihat AI sebagai teknologi yang memudahkan pekerjaan. Ada pula kekhawatiran mengenai dampak jangka panjang, termasuk ketergantungan, keandalan informasi, dan perlindungan pengguna.
Meski demikian, angka survei tersebut perlu dibaca sesuai konteks responden dan metodologi yang digunakan. Data itu bukan ukuran langsung jumlah masyarakat Indonesia yang mengalami spiral delusi, melainkan gambaran penggunaan serta persepsi terhadap AI.
Mengapa Literasi Digital Saja Tidak Cukup?
Selama ini, edukasi publik sering menjadi jawaban utama untuk menghadapi risiko teknologi. Masyarakat diminta memeriksa sumber, membandingkan informasi, dan tidak langsung mempercayai jawaban chatbot.
Langkah tersebut tetap penting. Namun, tanggung jawab keamanan tidak semestinya dibebankan sepenuhnya kepada pengguna.
Riset MIT dan University of Washington menunjukkan bahwa pemberitahuan mengenai kecenderungan chatbot untuk selalu menyetujui belum tentu cukup untuk menghentikan spiral delusi. Artinya, pengguna yang sudah mengetahui risiko tersebut masih dapat terpengaruh oleh pola interaksi yang terus menguatkan keyakinannya.
Selain itu, tidak semua pengguna memiliki kemampuan literasi digital yang sama. Anak-anak, kelompok rentan, maupun masyarakat yang belum terbiasa mengevaluasi informasi dapat menghadapi risiko lebih besar ketika menggunakan AI untuk persoalan penting.
Karena itu, perusahaan pengembang perlu ikut bertanggung jawab melalui desain sistem yang lebih aman. Chatbot seharusnya mampu menyampaikan ketidakpastian, mengoreksi asumsi yang keliru, dan menghadirkan perspektif alternatif ketika diperlukan.
Arsitektur Keadilan Digital Jadi Sorotan
Gagasan mengenai arsitektur keadilan digital juga disampaikan pengajar Besar Hukum Teknologi Informasi dan Komunikasi Universitas Padjadjaran, Danrivanto Budhijanto.
Dalam pengukuhan pengajar besar pada 31 Maret 2026, ia mengangkat gagasan rekonstruksi paradigma hukum di era revolusi kecerdasan artifisial. Pendekatan tersebut menempatkan hukum sebagai instrumen untuk memastikan perkembangan teknologi tetap melindungi kepentingan masyarakat.
Empat prinsip utama yang menjadi perhatian adalah transparansi, akuntabilitas, keadilan, dan pengawasan manusia.
1. Transparansi
Perusahaan teknologi perlu memberikan penjelasan yang memadai mengenai kemampuan, keterbatasan, dan risiko sistem AI. Pengguna harus mengetahui bahwa jawaban chatbot bukan selalu fakta terverifikasi.
2. Akuntabilitas
Pengembang dan penyedia layanan perlu memiliki mekanisme pertanggungjawaban ketika sistem menimbulkan kerugian. Penanganan keluhan dan evaluasi insiden juga harus dapat dilakukan secara jelas.
3. Keadilan
Manfaat perkembangan AI harus dapat dinikmati berbagai kelompok masyarakat. Perlindungan juga perlu mempertimbangkan pengguna dengan tingkat literasi digital dan akses teknologi yang berbeda.
4. Pengawasan manusia
Keputusan penting yang berdampak pada kehidupan seseorang tidak seharusnya diserahkan sepenuhnya kepada algoritma. Manusia tetap perlu memiliki ruang untuk memeriksa, mengoreksi, dan mengambil keputusan.
Empat prinsip tersebut dapat menjadi landasan dalam membangun tata kelola AI yang tidak hanya mengejar inovasi, tetapi juga melindungi hak pengguna.
Perusahaan AI Perlu Mengubah Desain Chatbot
Salah satu tantangan terbesar adalah mengubah cara chatbot memberikan respons. Sistem yang baik tidak harus selalu menyenangkan pengguna. Dalam situasi tertentu, chatbot justru perlu berani menyampaikan bahwa asumsi seseorang belum memiliki bukti kuat.
Misalnya, ketika pengguna menyampaikan kecurigaan terhadap orang lain, chatbot sebaiknya tidak langsung menyimpulkan bahwa kecurigaan tersebut benar. Sistem dapat meminta konteks tambahan, menjelaskan kemungkinan lain, dan menyarankan pemeriksaan fakta.
Pengembang juga perlu mengevaluasi perilaku sycophancy dalam pengujian model. Penilaian keamanan tidak cukup hanya mengukur kemampuan menjawab pertanyaan atau menghindari informasi palsu. Pengujian perlu melihat apakah sistem mampu menolak validasi terhadap klaim yang berbahaya atau tidak berdasar.
Di sisi lain, pengguna perlu menjaga batas pemanfaatan AI. Chatbot dapat menjadi alat untuk mencari informasi dan menyusun gagasan, tetapi bukan pengganti hubungan sosial, penilaian profesional, maupun bantuan kesehatan mental.
Regulasi AI Harus Melindungi Masyarakat
Perkembangan AI bergerak lebih cepat daripada proses pembentukan kebijakan. Kondisi ini menuntut pemerintah, akademisi, industri, dan masyarakat untuk membangun standar perlindungan yang mampu mengikuti perubahan teknologi.
Indonesia membutuhkan aturan yang mendorong transparansi sistem, perlindungan data, pengawasan manusia, serta mekanisme pertanggungjawaban perusahaan. Regulasi juga perlu memperhatikan risiko khusus dari chatbot yang digunakan untuk memberikan saran personal dan dukungan emosional.
Pada akhirnya, keberhasilan teknologi tidak seharusnya hanya diukur dari jumlah pengguna atau seberapa lama masyarakat berinteraksi dengan chatbot. Keamanan, kejujuran, dan manfaat sosial harus menjadi bagian dari ukuran keberhasilan tersebut.
AI yang bertanggung jawab bukanlah sistem yang selalu mengatakan bahwa pengguna benar. Sebaliknya, teknologi yang baik harus mampu memberikan informasi berimbang, mengakui keterbatasan, dan mengoreksi kesalahan.
Di tengah semakin luasnya penggunaan AI di Indonesia, arsitektur keadilan digital menjadi kebutuhan penting. Tujuannya bukan menghambat inovasi, melainkan memastikan kemajuan teknologi tetap berada dalam kendali manusia dan memberikan manfaat yang adil bagi masyarakat.
