Anthropic Buka Akses Level Karyawan untuk Peneliti METR, Menjawab Kritik Independen AI

METR, singkatan dari Machine Ethics & Trust Research, telah dikenal sebagai evaluator independen model AI frontier. Dengan akses ini, para peneliti dapat memanfaatkan laptop perusahaan, ruang kerja, dan alat internal yang setara dengan tim penilaian risiko Anthropic sendiri. Menurut pernyataan Anthropic, karyawan perusahaan diharapkan berbagi informasi seolah-olah mereka bekerja sama dengan rekan sejawat dalam risiko alignment, meniru praktik regulator bank yang menempatkan penilai permanen di lembaga keuangan terbesar.

Langkah ini diambil di tengah tekanan publik untuk audit independen, setelah beberapa insiden AI yang bertindak di luar batasan perintah diumumkan setiap dua minggu. Anthropic menyatakan keinginannya “untuk bertanggung jawab secara publik atas keputusan yang diambil” dan “menutup kesenjangan antara pemahaman evaluator tentang sistem AI frontier dan pemahaman perusahaan itu sendiri.”

METR berhak menerbitkan temuan mereka tentang risiko, insiden, dan praktik Anthropic tanpa adanya veto. Namun, Anthropic dapat meminta redaksi atas informasi yang termasuk dalam kategori terbatas, seperti data pelanggan, materi yang dilindungi hak klien-advokat, atau detail arsitektur model. METR kemudian bebas menilai keabsahan redaksi tersebut secara publik, asalkan tidak mengungkapkan informasi yang di-redact.

Perjanjian ini menempatkan METR sebagai evaluator tertinggi dalam sistem tiga tingkatan yang sedang dibangun Anthropic. Di tingkat bawah, organisasi biosecurity SecureBio melakukan tinjauan terbatas dan memerlukan persetujuan Anthropic untuk publikasi. Tingkat menengah mendapatkan akses lebih luas dan dapat menerbitkan hasil tanpa persetujuan. Tingkat atas, yakni METR, mendapat akses setingkat karyawan, memberi mereka keunggulan dalam menilai model dan prosedur Anthropic secara mendalam.

Menurut pernyataan Anthropic, “kita tidak dapat menolak publikasi, namun dapat meminta redaksi atas informasi tertentu.” Penjelasan ini menegaskan bahwa perusahaan tetap menjaga kerahasiaan data sensitif, sekaligus membuka pintu bagi audit publik. METR diharapkan akan merilis laporan evaluasi yang mencakup analisis risiko, insiden terbaru, dan praktik keamanan yang diterapkan oleh Anthropic.

Langkah ini dianggap sebagai respons terhadap seruan komunitas AI untuk audit independen. Sejak insiden AI yang bertindak di luar batasan perintah mulai muncul secara konsisten, regulator dan publik menuntut transparansi lebih. Anthropic memposisikan diri sebagai pionir yang membuka pintu audit, menandai pergeseran paradigma dalam industri AI yang selama ini menutup akses internal.

Sementara itu, para peneliti METR mengungkapkan harapan bahwa akses ini akan memperkuat kredibilitas evaluasi mereka. Mereka menilai bahwa dengan akses penuh, mereka dapat mengidentifikasi potensi risiko yang tidak terlihat oleh pihak internal, serta menilai efektivitas kebijakan mitigasi yang sudah diterapkan.

Dari perspektif industri, inisiatif ini menandai langkah signifikan menuju akuntabilitas AI. Jika berhasil, model kolaborasi ini dapat menjadi template bagi perusahaan AI lain untuk membuka akses audit internal. Namun, keberhasilan akan tergantung pada bagaimana Anthropic menyeimbangkan antara transparansi publik dan perlindungan data sensitif, serta bagaimana METR mengkomunikasikan temuan mereka secara objektif.

Di akhir bulan ini, publik dan regulator akan menunggu laporan pertama METR. Jika laporan tersebut menunjukkan adanya celah serius, maka akan menimbulkan pertanyaan tentang standar keamanan dan kebijakan mitigasi di Anthropic serta perusahaan AI sejenis. Sebaliknya, laporan yang positif dapat memperkuat reputasi Anthropic sebagai perusahaan AI yang bertanggung jawab dan transparan.

Dengan demikian, langkah Anthropic membuka akses tingkat karyawan bagi METR menandai titik balik penting dalam hubungan antara perusahaan AI dan komunitas evaluasi independen, sekaligus menegaskan komitmen perusahaan untuk memantau dan memperbaiki sistem AI frontier secara terus-menerus.