jurnalistik.co.id – Peringatan keras soal kecerdasan buatan (AI) yang dapat mengancam kelangsungan hidup manusia memantik kekhawatiran luas. Sejumlah peneliti dan pelaku industri kembali menyoroti risiko kepunahan sebagai dampak dari perkembangan teknologi yang berjalan tanpa kendali serius.
Mengutip Bangkok Post, Sabtu (12/09/2026), ancaman tersebut bukan isu baru. Peringatan itu telah disuarakan oleh ratusan ilmuwan serta tokoh di ekosistem AI sejak lama, dan dianggap perlu ditangani setara dengan bencana besar.
Pada tahun 2023, mereka menandatangani pernyataan yang menekankan risiko kepunahan akibat AI. Dalam dokumen tersebut, para pihak mendesak agar perhatian dan penanganan terhadap bahaya AI dilakukan seserius pandemi atau perang nuklir.
Kekhawatiran tentang AI di luar kendali
Profesor Ilmu Komputer dari University of California Berkeley, Stuart Russell, menyebut AI yang tidak terkendali berpotensi mengambil tindakan yang mematikan. Ia menyinggung kemungkinan robot digunakan untuk menyintesis dan menyebarkan patogen baru, atau AI memanipulasi manusia untuk memulai perang nuklir melalui peretasan sistem peringatan dini.
Russell juga menggambarkan perbedaan tingkat kecerdasan antara manusia dan AI yang berkembang. “Kita kurang cerdas dibandingkan AI yang super cerdas. Jika Anda bertanya kepada simpanse bagaimana manusia dapat memusnahkan mereka, mereka mungkin tidak akan bisa memberi semua jawaban yang benar,” paparnya.
Menurut Russell, ketakutan tersebut belum terjadi pada sistem AI yang ada saat ini. Namun ia menilai, teknologi yang terus meluas dapat melakukan langkah fatal di luar pemahaman manusia, misalnya “menghilangkan oksigen dari atmosfer bumi secara tiba-tiba.”
Ia menambahkan bahwa dalam waktu dekat, risiko yang muncul kemungkinan bukan terutama dari penyalahgunaan oleh manusia. “Dalam satu atau dua tahun ke depan saya pikir risikonya lebih tinggi dari penyalahgunaan oleh manusia, (seperti serangan teror berbasis AI),” tambahnya.
Gugatan dari eks peneliti perusahaan AI
Keresahan makin menguat setelah adanya pernyataan dari Jacob Coxon, mantan peneliti perusahaan AI Anthropic dan OpenAI. Ia mengundurkan diri dan menuduh perusahaan-perusahaan tersebut “sedang memperjudikan nyawa manusia” demi memenangkan perlombaan teknologi.
Anthropic, menurut laporan, bahkan menghapus janji keselamatan dari piagam mereka. Penghapusan itu dilakukan dengan dalih takut didominasi oleh pesaing yang dinilai kurang berhati-hati.
Coxon menyampaikan keyakinan yang ia sebut dianut pihak pembangun AI. “Orang-orang yang membangun AI dengan sungguh-sungguh percaya bahwa AI dapat membunuh kita semua pada akhir dekade ini,” ucapnya.
Insiden peretasan model dan angka risiko kepunahan
Berita Terkait
Ketakutan tersebut kembali memuncak setelah teknologi OpenAI yang dilaporkan bekerja tanpa pengawasan manusia berhasil meretas Hugging Face. Hugging Face disebut sebagai repositori model AI yang menjadi pusat pengembangan berbagai sistem.
Di sisi lain, Eksekutif Keselamatan Anthropic, Evan Hubinger, memperkirakan risiko kepunahan manusia mencapai lebih dari 10% pada dekade berikutnya. “Kami benar-benar sangat percaya bahwa AI dapat membunuh semua manusia!” tegasnya.
Regulasi sebagai penahan laju ambisi
Menanggapi proyeksi tersebut, Profesor Komputasi di UNSW Canberra, Hussein Abbass, menilai angka yang disebut tidak ilmiah. Ia mengatakan situasi saat ini masih bisa dikendalikan asalkan pendekatan regulasinya dilakukan secara tangkas.
Namun, tidak semua pihak sependapat dengan nada peringatan. Sebagian pihak skeptis menilai peringatan mengerikan itu sengaja disebar untuk membuat AI terlihat sangat kuat, sehingga mampu menarik investasi besar, mengingat Anthropic dan OpenAI diperkirakan akan segera melantai di bursa.
Ada pula pandangan lain yang melihat fokus pada kepunahan dapat mengalihkan perhatian dari masalah yang lebih mendesak. Contohnya, gelombang PHK serta diskriminasi mesin terhadap kelompok minoritas.
Meski demikian, desakan pembatasan mulai bergulir. Pada bulan Juli, lebih dari 1.000 pekerja teknologi mendesak Washington untuk mendukung perlambatan terkoordinasi dalam pengembangan sistem AI yang paling canggih.
OpenAI juga sempat melakukan langkah pengekangan. Perusahaan tersebut menghentikan pelatihan model terbarunya selama dua minggu pada bulan Agustus, sebelum melanjutkannya dengan kontrol yang lebih ketat.
Sementara itu, Amerika Serikat hingga saat ini menentang regulasi global. Alasan yang disebut adalah kekhawatiran bahwa aturan lintas negara akan menghambat inovasi di sektor tersebut.
Meski regulasi global ditunda, kemampuan peretasan model terbaru yang belum pernah terjadi sebelumnya membuat Washington menunda perilisan produk Anthropic dan OpenAI dengan dasar keamanan nasional.
Persaingan geopolitik dan dorongan rezim izin ketat
Dalam dinamika tersebut, Presiden Donald Trump memberikan pandangan kehati-hatiannya terkait kompetisi geopolitik. “Kami tidak ingin membatasi mereka di mana tiba-tiba kami berada di urutan kedua setelah China,” katanya.
Melihat kebuntuan regulasi dan laju ambisi yang terus berjalan, Russell mendesak pemerintah menetapkan rezim perizinan yang ketat untuk AI. Ia membandingkan standar tersebut dengan ketentuan keamanan di sektor penerbangan, medis, atau pasokan air.
Russell juga memakai contoh bencana besar sebagai penanda urgensi tindakan pemerintah. “Mungkin butuh bencana berskala Chernobyl agar pemerintah mau bertindak. Mungkin pada suatu saat pemerintah akan ingat bahwa para pemilih mereka lebih memilih untuk tidak mati,” pungkasnya.
