Kemajuan kecerdasan buatan atau artificial intelligence (AI) berlangsung jauh lebih cepat dibandingkan satu dekade lalu. Model AI kini tidak hanya mampu menjawab pertanyaan, membuat gambar, atau menulis kode, tetapi juga mulai digunakan untuk menjalankan rangkaian tugas secara mandiri.
Perkembangan tersebut membawa manfaat besar. Namun, di balik kemampuan yang semakin luas, muncul pertanyaan yang jauh lebih mendasar: apa yang terjadi jika manusia kehilangan kemampuan untuk mengendalikan sistem AI yang sangat canggih?
Pertanyaan tersebut menjadi dasar pembahasan mengenai skenario yang sering disebut sebagai “kiamat AI”. Istilah ini bukan berarti para peneliti memastikan bahwa AI akan menghancurkan manusia. Sebaliknya, istilah tersebut merujuk pada berbagai skenario ekstrem yang secara teoritis dapat terjadi apabila kemampuan AI berkembang lebih cepat daripada mekanisme keselamatan dan pengendaliannya.
Sejumlah peneliti AI, ilmuwan komputer, dan pakar keselamatan teknologi menilai risiko tersebut layak diteliti karena konsekuensinya dapat sangat besar.
Dari AI Generatif ke Agen AI
Generasi awal AI modern sebagian besar bekerja berdasarkan instruksi tertentu. Pengguna memberikan pertanyaan, sistem menghasilkan jawaban.
Namun, perkembangan terbaru bergerak menuju AI agent atau agen AI.
Agen AI dapat diberikan tujuan, kemudian menjalankan sejumlah langkah untuk mencapainya. Sistem seperti ini dapat menggunakan perangkat lunak, mencari informasi, menulis dan menjalankan kode, mengoperasikan komputer, serta melakukan tugas secara berulang.
Perubahan tersebut penting karena risiko AI tidak hanya berkaitan dengan jawaban yang salah.
Semakin banyak kewenangan yang diberikan kepada sistem, semakin besar pula konsekuensi apabila sistem salah memahami tujuan atau melakukan tindakan yang tidak diinginkan.
Misalnya, AI yang bertugas mengoptimalkan sebuah sistem dapat menemukan cara yang secara matematis efektif tetapi bertentangan dengan kepentingan manusia.
Dalam skenario sederhana, dampaknya mungkin hanya berupa kesalahan operasional. Dalam sistem yang sangat penting, konsekuensinya bisa jauh lebih serius.
Ketika AI Menjadi Sangat Cerdas
Skenario ekstrem biasanya dikaitkan dengan konsep artificial general intelligence (AGI) dan superinteligensi.
AGI secara umum merujuk pada sistem AI yang memiliki kemampuan luas untuk menyelesaikan berbagai jenis tugas intelektual. Sementara superinteligensi menggambarkan sistem yang kemampuan intelektualnya melampaui manusia dalam sebagian besar bidang yang relevan.
Masalah utama bukan sekadar apakah AI menjadi pintar.
Pertanyaan yang lebih penting adalah apakah tujuan AI tetap selaras dengan kepentingan manusia ketika kemampuannya meningkat drastis.
Sebuah sistem yang memiliki kemampuan penalaran sangat tinggi dapat menemukan solusi yang tidak diperkirakan oleh pembuatnya. Jika tujuan yang diberikan tidak dirumuskan dengan tepat, sistem tersebut secara teoritis dapat mengejar tujuan dengan cara yang tidak diinginkan.
Inilah yang menjadi salah satu perhatian utama penelitian AI alignment atau penyelarasan AI.
Masalah Alignment
Alignment bertujuan memastikan perilaku sistem AI tetap sesuai dengan nilai, tujuan, dan batasan yang diinginkan manusia.
Masalahnya, manusia sendiri tidak selalu memiliki definisi tujuan yang sederhana.
Instruksi seperti “maksimalkan produktivitas”, misalnya, dapat ditafsirkan secara berbeda oleh manusia dan mesin.
AI yang sangat kuat dapat mencari cara ekstrem untuk mencapai target tersebut apabila tidak diberikan batasan yang memadai.
Karena itu, para peneliti mengembangkan berbagai metode untuk meningkatkan kemampuan AI memahami instruksi, mengenali batasan, menolak tindakan berbahaya, dan tetap berada di bawah pengawasan manusia.
Namun, semakin kompleks sistem AI, semakin sulit memastikan bahwa seluruh perilakunya dapat diprediksi.
Skenario Kehilangan Kendali
Salah satu skenario yang paling banyak dibahas adalah ketika AI menjadi cukup mampu untuk mengubah lingkungan operasionalnya sendiri.
Dalam skenario hipotetis, sebuah sistem AI dapat memiliki akses terhadap komputer, jaringan, sumber daya komputasi, atau sistem digital lainnya.
Jika sistem tersebut memiliki tujuan yang tidak selaras dengan manusia dan mampu menghindari pembatasan, maka proses pengendalian dapat menjadi semakin sulit.
Skenario seperti ini sering disebut loss of control.
Para peneliti tidak menyatakan bahwa kondisi tersebut pasti terjadi. Namun, mereka mempelajari kemungkinan tersebut untuk mengetahui mekanisme pengamanan yang diperlukan sebelum kemampuan AI mencapai tingkat yang jauh lebih tinggi.
Pendekatan ini mirip dengan prinsip keselamatan dalam industri berisiko tinggi: risiko dengan konsekuensi sangat besar perlu dianalisis sebelum teknologi digunakan dalam skala luas.
AI Bisa Mempercepat Serangan Siber
Ancaman AI juga tidak harus berupa AI yang secara langsung memutuskan untuk menyerang manusia.
Salah satu risiko yang lebih konkret adalah penggunaan AI oleh manusia untuk melakukan tindakan berbahaya.
Model AI semakin mampu membantu pemrograman, menemukan kerentanan perangkat lunak, menganalisis sistem, dan mengotomatisasi pekerjaan digital.
Kemampuan tersebut dapat dimanfaatkan untuk pertahanan siber, tetapi juga berpotensi digunakan oleh pelaku kejahatan.
Jika AI dapat mengotomatisasi sebagian besar tahapan operasi siber, hambatan bagi seseorang untuk melakukan serangan kompleks dapat menurun.
Karena itu, keselamatan AI tidak hanya membahas perilaku mesin secara mandiri, tetapi juga bagaimana teknologi tersebut dapat mengubah kemampuan manusia dalam melakukan tindakan berbahaya.
Informasi Palsu dan Manipulasi
Risiko lainnya muncul dari kemampuan AI menghasilkan konten dalam jumlah sangat besar.
Teks, gambar, suara, dan video sintetis dapat dibuat semakin meyakinkan. Dalam konteks tertentu, teknologi tersebut dapat digunakan untuk membuat informasi palsu atau memanipulasi persepsi publik.
Masalahnya bukan hanya apakah seseorang dapat membedakan konten buatan AI.
Skala produksi juga menjadi faktor penting.
Jika satu sistem mampu menghasilkan ribuan variasi pesan dalam waktu singkat, teknologi tersebut dapat meningkatkan kemampuan penyebaran informasi yang menyesatkan.
Karena itu, pengembangan AI perlu diikuti mekanisme verifikasi, transparansi, dan literasi digital yang memadai.
Mengapa Peneliti Tetap Membahas Skenario Ekstrem?
Sebagian kritik terhadap narasi kiamat AI menyebut skenario superinteligensi terlalu spekulatif karena teknologi tersebut belum ada dalam bentuk yang menjadi dasar banyak skenario ekstrem.
Kritik ini penting untuk diperhatikan.
Prediksi mengenai masa depan AI memiliki ketidakpastian yang sangat tinggi. Tidak ada bukti yang memastikan bahwa AI akan mencapai tingkat kecerdasan tertentu, apalagi kemudian mengambil alih kendali manusia.
Namun, pendukung penelitian keselamatan AI memiliki alasan berbeda.
Mereka berpendapat bahwa ketidakpastian bukan alasan untuk mengabaikan risiko dengan dampak yang sangat besar.
Jika kemungkinan sebuah kejadian tidak diketahui dengan pasti tetapi konsekuensinya sangat serius, penelitian terhadap mekanisme pencegahan tetap dapat dilakukan.
Dengan demikian, pembahasan tentang kiamat AI lebih tepat dipahami sebagai penelitian risiko jangka panjang, bukan ramalan bahwa kehancuran manusia sudah pasti terjadi.
Pengawasan Menjadi Kunci
Salah satu pendekatan yang banyak dibahas adalah menjaga manusia tetap berada dalam proses pengambilan keputusan penting.
Pengawasan manusia dapat mencakup pembatasan akses AI, sistem izin, sandboxing, audit, pemantauan aktivitas, evaluasi keamanan, dan kemampuan untuk menghentikan sistem.
Namun, pengawasan juga menghadapi tantangan ketika AI bekerja lebih cepat daripada manusia.
Jika sebuah sistem dapat mengambil ribuan keputusan dalam hitungan detik, manusia mungkin tidak mampu memeriksa setiap keputusan satu per satu.
Karena itu, sistem keselamatan perlu dirancang secara berlapis.
Bukan hanya mengandalkan manusia untuk mengawasi AI, tetapi juga membangun pembatas teknis agar AI tidak memiliki akses yang tidak diperlukan.
Regulasi dan Pengembangan Teknologi
Pemerintah, perusahaan teknologi, dan lembaga penelitian mulai meningkatkan perhatian terhadap keamanan AI.
Regulasi dapat menetapkan standar pengujian, transparansi, perlindungan data, dan tanggung jawab bagi pengembang sistem berisiko tinggi.
Di sisi lain, regulasi saja tidak cukup.
Perusahaan juga perlu melakukan pengujian sebelum model digunakan secara luas. Pengujian tersebut mencakup kemampuan model menghadapi instruksi berbahaya, manipulasi, eksploitasi, serta kondisi ketika sistem diberikan akses terhadap perangkat eksternal.
Penelitian keselamatan juga harus berjalan seiring dengan perkembangan kemampuan AI.
Jika kemampuan model berkembang lebih cepat daripada penelitian keselamatan, celah risiko dapat semakin besar.
Kiamat AI Belum Menjadi Kepastian
Skenario kiamat AI hingga kini tetap berada pada wilayah kemungkinan dan penelitian risiko, bukan fakta bahwa manusia akan dimusnahkan oleh mesin.
AI juga telah memberikan berbagai manfaat dalam bidang kesehatan, pendidikan, penelitian, industri, dan produktivitas.
Karena itu, persoalannya bukan sekadar memilih antara menerima atau menolak AI.
Tantangan yang dihadapi manusia adalah bagaimana memastikan teknologi yang semakin kuat tetap memiliki batasan, dapat diawasi, dan digunakan untuk tujuan yang dapat dipertanggungjawabkan.
Skenario terburuk justru dapat menjadi alasan untuk memperkuat keselamatan sejak sekarang.
Semakin besar kemampuan yang diberikan kepada AI, semakin penting pula memastikan sistem tersebut memahami batasan, dapat dihentikan, dan tidak memiliki akses yang melampaui kebutuhannya.
Pada akhirnya, “kiamat AI” bukan sesuatu yang dapat dipastikan akan terjadi. Namun, risiko kehilangan kendali merupakan pertanyaan yang cukup serius untuk diteliti sebelum teknologi mencapai kemampuan yang jauh lebih tinggi.
Bagi para peneliti, tujuan utama pembahasan tersebut bukan meramalkan akhir umat manusia, melainkan mencari cara agar skenario paling berbahaya dapat dicegah sebelum menjadi kenyataan.
