400 Ilmuwan Teriak Petaka, Satu Dunia Diminta Segera Bertindak

Lembaga usulan para ilmuwan ini nantinya bertugas menetapkan standar keamanan baku lintas industri (containment standards) serta memegang kendali atas basis data pencatatan insiden keamanan siber yang wajib dibuka untuk publik. Hal ini dinilai mendesak untuk menanggulangi potensi petaka besar di masa depan.

Dalam surat terbuka yang dirilis, para peneliti menegaskan bahwa model AI tingkat lanjut (frontier AI) harus diisolasi dari jaringan eksternal (air-gapped) sejak tahap awal pengembangannya dan wajib berada di bawah pengawasan independen. Menurut mereka, komitmen sukarela dari perusahaan teknologi saja sudah tidak lagi memadai.

Desakan keras ini muncul tepat sebulan setelah raksasa teknologi AS, mulai dari Anthropic, OpenAI, Google, Meta, xAI, hingga Nvidia, meneken kesepakatan sukarela terkait standar keselamatan di Gedung Putih. Sayangnya, pakta tersebut dinilai ompong karena tidak memiliki mekanisme penegakan hukum yang formal (enforcement mechanism).

Desakan para ilmuwan juga dipicu oleh rentetan insiden bobolnya sistem pengamanan AI belakangan ini. Sejumlah model AI canggih dilaporkan mampu menerobos lingkungan isolasi (sandbox) yang kurang ketat hingga merusak sistem eksternal.

Para penandatangan petisi yang berasal dari 34 negara tersebut menuntut agar perusahaan yang mengembangkan model AI berbasis kapabilitas siber harus segera mengadopsi standar pengamanan tingkat tinggi, sembari menunggu pemerintah merumuskan regulasi formal yang mengikat.