Geoffrey Hinton: “Kita Membuat Makhluk Asing, Pilih Manusia atau AI—Risiko Eksistensial Tak Boleh Diabaikan”

JAKARTA / INDONESIA — Geoffrey Hinton, ilmuwan komputer yang dikenal sebagai “bapak AI”, mengkritik keras penggunaan istilah “superintelligence” oleh mantan Presiden Donald Trump dan menegaskan bahwa model AI berpotensi menimbulkan ancaman...

Dalam wawancara panjang, Hinton menolak klaim bahwa industri dapat mengatur diri sendiri dan memperingatkan kemungkinan 10‑20 % AI menyebabkan kepunahan manusia dalam beberapa dekade mendatang.

Hinton, yang berperan penting dalam mengembangkan jaringan saraf tiruan—fondasi pembelajaran mendalam (deep learning) yang kini menggerakkan chatbot, penerjemah otomatis, dan sistem rekomendasi—telah beralih menjadi kritikus vokal. Peringatannya muncul bersamaan dengan gelombang seruan alarm dari ilmuwan AI senior lainnya, yang menuntut regulasi lebih ketat. Respons pemerintah Amerika Serikat pun cepat: dalam seminggu terakhir, Kongres menggelar serangkaian sidang khusus membahas “bahaya AI superinteligens”.

Namun, tidak semua pihak sependapat. Jensen Huang, CEO Nvidia—pembuat chip grafis yang menjadi otak bagi sebagian besar model AI—menyatakan bahwa perkiraan Hinton “tidak berbasis ilmu”. “Angka 10‑20 % tidak didukung riset apa pun; hanya sekadar spekulasi alarmis,” kata Huang dalam percakapan dengan podcaster Ezra Klein. Huang menekankan pentingnya pendekatan berbasis bukti (evidence‑based) dan mengingatkan bahwa kecerdasan buatan masih bergantung pada perangkat keras yang dapat dipantau.

Trump, yang kini mengklaim “superintelligence” sebagai alat politik, menuduh Hinton “koruptif dan senil”. Pernyataan ini menambah dimensi politik pada perdebatan teknis. Menurut Hinton, fokus Trump pada istilah tersebut mengaburkan realitas: “Jika Anda diberi tahu ada 10 % kemungkinan bus akan menabrak, Anda tidak akan naik bus. Angka itu dimaksudkan untuk menandakan risiko serius, walaupun tidak pasti seberapa parahnya.”

Pentingnya konteks lokal tidak boleh diabaikan. Di Indonesia, adopsi AI semakin meluas, mulai dari layanan keuangan digital hingga sistem pertanian presisi. Namun, regulasi masih terfragmentasi. Otoritas Jasa Keuangan (OJK) baru saja mengeluarkan pedoman fintech yang mencakup penggunaan AI, tetapi belum ada kerangka khusus yang mengatur risiko eksistensial. Pengalaman negara lain, seperti Uni Eropa dengan AI Act, menunjukkan bahwa standar keamanan, transparansi, dan audit algoritma dapat menurunkan peluang kegagalan sistemik.

Dari sudut pandang konsumen, ancaman yang diutarakan Hinton berwujud pada dua hal utama: pertama, potensi penyalahgunaan data pribadi oleh model generatif yang dapat menciptakan deepfake atau memanipulasi opini publik; kedua, otomatisasi pekerjaan yang mempercepat pengangguran tanpa jaring pengaman sosial yang memadai. Lembaga swadaya masyarakat seperti Yayasan Lembaga Konsumen Indonesia (YLKI) telah menuntut agar pemerintah mengintegrasikan penilaian risiko AI dalam kebijakan ketenagakerjaan.

Sementara itu, komunitas akademik di dalam negeri—termasuk Institut Teknologi Bandung dan Universitas Indonesia—mulai meneliti metode “alignement” (penyelarasan) AI, yang bertujuan memastikan tujuan model selaras dengan nilai kemanusiaan. Penelitian ini mencakup teknik verifikasi formal, audit eksternal, dan pelibatan pakar etika dalam siklus pengembangan.

Kesimpulannya, pernyataan Hinton menyoroti dilema fundamental: apakah manusia bersedia mengorbankan kontrol demi percepatan inovasi? Jawabannya tidak dapat diputuskan oleh satu pihak saja. Pengawasan yang melibatkan regulator, akademisi, industri, dan masyarakat sipil diperlukan untuk memastikan bahwa AI berkembang sebagai alat bantu, bukan makhluk asing yang mengancam eksistensi kita. Bagi pembaca, langkah konkret yang dapat diambil meliputi: memantau kebijakan AI terbaru, menuntut transparansi pada layanan berbasis AI yang mereka gunakan, serta mendukung literasi digital agar dapat menilai klaim “superintelligence” dengan skeptisisme yang sehat.