Perkembangan kecerdasan buatan atau artificial intelligence (AI) memasuki babak baru. Tiga perusahaan teknologi besar, Google, OpenAI, dan Anthropic, dilaporkan tengah menyiapkan sebuah badan yang akan berfokus pada standar keselamatan untuk teknologi AI generasi terbaru.
Rencana tersebut muncul ketika kemampuan model AI semakin berkembang dan sistem berbasis agen mulai mampu melakukan pekerjaan yang sebelumnya membutuhkan pengawasan manusia secara intensif.
Menurut laporan The Information, ketiga perusahaan tersebut sedang mendorong pembentukan organisasi standar yang akan bekerja secara mandiri dari pemerintah. Badan yang masih menggunakan nama sementara Standards Authority for Frontier AI atau SAFA itu ditargetkan dapat diluncurkan pada akhir 2026 atau awal 2027.
Namun, penting dicatat bahwa organisasi tersebut belum resmi beroperasi. Nama, struktur, kepemimpinan, dan mekanisme kerjanya masih dalam tahap pembahasan.
Apa Itu Standards Authority for Frontier AI?
SAFA dirancang sebagai badan standar industri yang berfokus pada frontier AI, yakni model kecerdasan buatan dengan kemampuan paling maju.
Berdasarkan laporan yang beredar, organisasi ini akan menjadi tempat bagi perusahaan AI untuk menyusun standar bersama mengenai pengujian, audit, dan pelaporan insiden keselamatan.
Salah satu fokus yang dibahas adalah pengujian pihak ketiga sebelum model AI dirilis. Dengan mekanisme tersebut, model yang memiliki kemampuan tinggi dapat diperiksa oleh organisasi independen sebelum digunakan secara luas.
Selain pengujian pra-rilis, badan tersebut juga diproyeksikan menyusun standar mengenai pelaporan insiden keamanan dan keselamatan AI.
Kualifikasi bagi auditor independen juga menjadi bagian dari rencana. Artinya, organisasi tidak hanya menentukan bagaimana AI diuji, tetapi juga dapat membantu menetapkan kriteria bagi pihak yang melakukan pengujian tersebut.
Google, OpenAI, dan Anthropic Terlibat
Pembentukan badan ini melibatkan tiga pemain utama industri AI.
Google melalui Google DeepMind telah memiliki Frontier Safety Framework untuk mengidentifikasi dan mengurangi risiko dari model AI tingkat lanjut. Kerangka tersebut mencakup berbagai kategori risiko dan menggunakan ambang kemampuan tertentu untuk menentukan kapan mitigasi tambahan diperlukan.
Anthropic juga mempunyai Responsible Scaling Policy (RSP). Kebijakan tersebut mengatur penerapan perlindungan yang disesuaikan dengan tingkat risiko dan kemampuan model. Anthropic memperbarui RSP ke versi 3.0 pada Februari 2026.
Sementara itu, OpenAI memiliki Preparedness Framework, yang digunakan untuk mengevaluasi kemampuan model dan risiko tertentu sebelum sistem dengan kemampuan lebih tinggi dikembangkan atau digunakan.
Ketiga perusahaan tersebut pada dasarnya sudah memiliki kerangka keselamatan masing-masing. Rencana badan baru ini menunjukkan adanya pembicaraan untuk membangun standar yang lebih seragam di tingkat industri.
Mengapa Standar Bersama Dibutuhkan?
Model AI berkembang dengan kecepatan tinggi. Persoalannya, setiap perusahaan dapat memiliki metode sendiri dalam melakukan pengujian keamanan.
Perbedaan tersebut dapat menyulitkan pihak luar ketika ingin membandingkan tingkat keamanan model dari perusahaan berbeda.
Misalnya, sebuah perusahaan dapat menentukan batas kemampuan tertentu sebagai pemicu pengujian tambahan, sementara perusahaan lain menggunakan indikator berbeda.
Badan standar bersama diharapkan dapat memberikan kerangka yang lebih konsisten untuk menilai risiko tersebut.
Laporan mengenai rencana SAFA juga muncul setelah sejumlah insiden yang melibatkan agen AI dan sistem keamanan menjadi perhatian publik. Beberapa perusahaan AI belakangan menghadapi kasus ketika model atau agen menunjukkan perilaku yang tidak diharapkan dalam pengujian maupun penggunaan nyata.
Kondisi tersebut membuat pembahasan mengenai pengujian sebelum peluncuran, pemantauan setelah penerapan, dan pelaporan insiden menjadi semakin penting.
Terinspirasi Model FINRA
Salah satu hal menarik dari rencana tersebut adalah konsep organisasinya dilaporkan mengambil inspirasi dari Financial Industry Regulatory Authority (FINRA) di Amerika Serikat.
FINRA merupakan organisasi pengaturan mandiri dalam industri sekuritas Amerika Serikat. Model semacam ini berbeda dari lembaga pemerintah karena pengawasan dilakukan melalui organisasi industri dengan struktur dan aturan tertentu.
Untuk industri AI, pendekatan tersebut dapat digunakan sebagai dasar untuk membangun sistem pengujian dan audit bersama.
Namun, rencana SAFA yang dibahas saat ini memiliki perbedaan penting. Organisasi tersebut dilaporkan akan dibangun tanpa pengawasan langsung pemerintah.
Karena masih dalam tahap pembentukan, belum diketahui secara pasti seberapa luas kewenangan yang nantinya dimiliki organisasi tersebut.
Belum Sama dengan Regulator Pemerintah
Rencana pembentukan SAFA tidak berarti Amerika Serikat sudah memiliki regulator AI baru.
Organisasi tersebut, jika benar-benar didirikan sesuai rencana yang diberitakan, akan menjadi badan industri atau mekanisme pengaturan mandiri, bukan lembaga pemerintah.
Perbedaan ini penting karena standar yang dibuat organisasi industri tidak otomatis memiliki kekuatan hukum seperti undang-undang atau aturan pemerintah.
Belum ada pula kepastian mengenai mekanisme penegakan, bentuk keanggotaan, ataupun konsekuensi bagi perusahaan yang tidak mengikuti standar.
Karena itu, status SAFA saat ini masih perlu dipahami sebagai proyek yang sedang disiapkan, bukan lembaga pengawas AI yang sudah aktif.
Mengapa Pemerintah Tidak Terlibat Langsung?
Sebelumnya, pembahasan mengenai standar keselamatan AI juga mengarah pada model kerja sama antara industri dan pemerintah.
Laporan The Information pada September menyebut Google, OpenAI, dan Anthropic sebelumnya telah berdiskusi mengenai pembentukan badan standar industri. CEO Google DeepMind Demis Hassabis juga pernah mendorong gagasan mengenai badan standar untuk menguji teknologi AI yang semakin canggih.
Namun, rencana yang kini diberitakan bergerak menuju organisasi yang dibangun oleh perusahaan AI sendiri tanpa pengawasan pemerintah secara langsung.
Perubahan pendekatan tersebut menunjukkan bahwa bentuk akhir badan standar masih menjadi bagian dari proses negosiasi.
Tantangan Menjaga Independensi
Pembentukan standar keselamatan oleh perusahaan AI sendiri juga menghadirkan sejumlah pertanyaan.
Salah satunya adalah soal independensi.
Jika perusahaan yang mengembangkan model AI ikut menentukan standar pengujian, diperlukan mekanisme yang memastikan proses audit tetap kredibel dan dapat dipercaya pihak luar.
Kehadiran auditor independen menjadi salah satu jawaban yang sedang dibahas. Namun, detail mengenai siapa yang dapat menjadi auditor, bagaimana auditor dipilih, serta bagaimana hasil pemeriksaan dipublikasikan masih belum final.
Pertanyaan lain adalah siapa saja yang akan menjadi anggota organisasi tersebut.
Saat ini, laporan mengenai rencana tersebut terutama menyebut Google, OpenAI, dan Anthropic. Belum ada kepastian mengenai keterlibatan perusahaan AI lain seperti Meta, xAI, atau pengembang model terbuka.
Cakupan keanggotaan nantinya dapat memengaruhi seberapa luas standar tersebut diterapkan di industri.
Keselamatan AI Makin Jadi Perhatian
Pembentukan badan standar tersebut datang ketika perusahaan AI sendiri semakin banyak membahas risiko teknologi mereka.
Anthropic, misalnya, dalam kebijakan Responsible Scaling-nya menyatakan bahwa model yang semakin kuat membutuhkan perlindungan yang semakin ketat. Perusahaan juga menggunakan ambang kemampuan tertentu untuk menentukan langkah mitigasi tambahan.
Di sisi lain, sejumlah insiden keamanan yang melibatkan agen AI menunjukkan bahwa pengujian tidak hanya berkaitan dengan kemampuan model menghasilkan teks atau gambar.
Agen AI yang dapat menggunakan komputer, mengakses internet, menjalankan kode, atau berinteraksi dengan sistem eksternal menciptakan jenis risiko yang berbeda.
Karena itu, standar keselamatan masa depan kemungkinan perlu mencakup lebih dari sekadar akurasi model.
Menunggu Bentuk Akhir
Untuk saat ini, Standards Authority for Frontier AI masih berupa rencana. Ketiga perusahaan belum mengumumkan secara resmi bahwa organisasi tersebut telah beroperasi.
Jika rencana tersebut terealisasi, badan ini berpotensi menjadi salah satu upaya industri untuk menyamakan pendekatan dalam pengujian dan audit AI tingkat lanjut.
Namun, efektivitasnya akan bergantung pada struktur organisasi, keterlibatan pihak independen, cakupan anggota, transparansi hasil pengujian, serta mekanisme penerapan standar.
Dengan target peluncuran pada akhir 2026 atau awal 2027, perkembangan mengenai SAFA akan menjadi salah satu isu yang perlu diperhatikan dalam tata kelola AI global.
Di tengah semakin cepatnya kemampuan AI berkembang, perdebatan mengenai standar keselamatan tidak lagi hanya berkutat pada seberapa pintar sebuah model. Persoalannya juga mencakup bagaimana teknologi tersebut diuji, siapa yang mengauditnya, bagaimana insiden dilaporkan, dan sejauh mana publik dapat mengetahui risiko sebelum teknologi digunakan secara luas.
