Pakar Mempertanyakan Cukupkah Regulasi AI Cegah Risiko Mematikan

LONDON — Polemik soal keselamatan kecerdasan buatan kembali memanas setelah salah satu model AI terdepan gagal dalam pengujian internal dan diputuskan untuk tidak dirilis. Insiden tersebut memicu seruan baru agar industri AI tunduk pada pengawasan independen dan regulasi ketat, namun seorang insinyur senior justru mempertanyakan apakah mekanisme semacam itu benar-benar mampu mencegah bencana.

Dalam surat yang ditujukan kepada redaksi media Inggris, Martyn Thomas mengungkapkan keraguan serius terhadap narasi yang selama ini beredar di kalangan pengembang teknologi. Menurutnya, tidak ada satu pun pihak yang menjelaskan secara konkret bagaimana regulasi tersebut akan bekerja, termasuk bukti apa yang seharusnya meyakinkan seorang regulator bahwa sebuah sistem AI benar-benar aman untuk digunakan.

Kronologi Insiden yang Memicu Debat

Perdebatan ini bermula dari serangkaian kejadian yang berlangsung dalam beberapa hari terakhir:

1. 28 September 2026 — OpenAI membatalkan perilisan model baru mereka setelah pengujian internal menunjukkan masalah serius terkait aspek keselamatan.
2. 28 September 2026 — Media Inggris memberitakan penarikan model tersebut dan mengutip seruan agar ada pengawasan independen terhadap pengembangan AI.
3. Awal Oktober 2026 — Martyn Thomas melayangkan surat terbuka yang mempertanyakan dasar logis dari seruan regulasi tersebut.
4. 6 Oktober 2026 — Surat Thomas diterbitkan media dan langsung menuai perbincangan luas di kalangan pakar keamanan teknologi.

Insiden OpenAI ini bukan kali pertama sebuah model AI terdepan ditarik dari jalur komersial karena alasan keselamatan. Namun yang membuat kasus ini istimewa adalah kelihaian para pemangku kepentingan dalam mengulang frasa yang sama tanpa pernah merinci mekanisme pelaksanaannya.

Tradisi Lama yang Belum Dijawab

Thomas menyoroti bahwa industri rekayasa sebenarnya sudah lama memiliki standar baku untuk mengatur perangkat lunak yang bersifat kritis terhadap keselamatan. Sistem yang mengendalikan pesawat terbang atau pembangkit listrik tenaga nuklir, misalnya, tunduk pada standar internasional yang menuntut adanya "safety cases" atau analisis keselamatan yang ketat.

"Standar internasional mensyaratkan analisis yang membuktikan bahwa seluruh bahaya telah teridentifikasi dan terkendali, serta probabilitas terjadinya kecelakaan berada di tingkat yang sangat rendah," kata Thomas merujuk pada prinsip yang berlaku di sektor penerbangan dan energi.

Pertanyaan mendasarnya, menurut Thomas, adalah apakah pendekatan yang sama bisa langsung diterapkan pada sistem AI yang jauh lebih kompleks dan sulit diprediksi. Dunia AI berbeda dari pesawat terbang: perilaku model bahasa besar sering kali tidak bisa ditelusuri hingga ke akar penyebabnya, sehingga "safety case" konvensional berpotensi kehilangan makna.

Tiga Poin yang Jadi Inti Polemik

• Bukti keselamatan — Tidak ada kesepakatan soal standar bukti yang dapat diterima regulator.
• Otonomi perusahaan — Pengujian internal oleh perusahaan bersangkutan dinilai tidak cukup independen.
• Risiko sistemik — Model yang gagal uji masih menyisakan pertanyaan apakah versi "aman" benar-benar bebas dari bahaya.

Perdebatan ini menunjukkan bahwa industri AI masih terjebak dalam siklus seruan regulasi yang tidak pernah diikuti oleh kerangka kerja teknis yang jelas. Tanpa jawaban atas pertanyaan mendasar yang diajukan Thomas, regulasi berisiko menjadi sekadar formalitas yang justru memberi rasa aman palsu kepada publik.