jurnalistik.co.id – Seorang peneliti keselamatan AI di Anthropic, Evan Hubinger, mengeluarkan peringatan tajam soal risiko yang ditimbulkan oleh kemajuan teknologi kecerdasan buatan. Ia mengatakan ada peluang lebih dari 10% bahwa AI suatu saat dapat “kill all humans” dalam rentang satu dekade ke depan.
Hubinger menilai bahwa risiko dari model yang saat ini sudah ada masih tergolong “low”. Namun, ia mengaku merasa “worried” karena teknologi berpotensi menjadi mampu memperbaiki dirinya sendiri hingga mencapai titik yang ia sebutkan itu.
Peringatan tersebut ia sampaikan melalui unggahan di X. Dalam posting terbarunya, yang telah dilihat 9,6 juta kali, Hubinger menyatakan bahwa pihaknya memandang bahaya ini sebagai ancaman serius bagi kelangsungan spesies manusia.
Menurut Hubinger, “we really do earnestly believe” bahwa AI menghadirkan risiko yang berujung pada hilangnya spesies manusia. Ia juga menambahkan, “I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to,” yang menekankan bahwa masalah keselarasan (alignment) untuk sistem supercerdas belum memiliki rencana penyelesaian yang jelas.
Seruan Hubinger muncul di tengah sorotan publik yang makin luas terhadap pengujian dan pengendalian model AI. Laporan Financial Times menyebut Anthropic menahan model terbarunya agar tidak diserahkan ke AI Safety Institute, lembaga yang melakukan pengujian terhadap AI.
BBC kemudian menghubungi Anthropic untuk meminta komentar terkait laporan tersebut. Namun, dalam teks yang dibahas di sini, tanggapan resmi dari pihak Anthropic tidak dimuat.
Perdebatan mengenai keselamatan AI bukanlah isu baru. Sejak beberapa tahun terakhir, sejumlah tokoh terkemuka di bidang AI telah berulang kali mengangkat kekhawatiran mengenai ancaman keselamatan yang dapat muncul dari teknologi ini, termasuk pernyataan para pimpinan OpenAI, Google Deepmind, dan Anthropic pada tahun 2023.
Berita Terkait
- Saham Chip Asia Menguat Berkat Sentimen AI, Ketegangan Timur Tengah Membayangi Pasar – Market
- Penundaan penerbangan diperkirakan berlanjut setelah ratusan penerbangan dibatalkan akibat gangguan sistem kendali Nats
- Aturan baru paksa Apple dan Google mencegah anak mengunggah atau membagikan gambar telanjang di ponsel
Meski demikian, nada peringatan dinilai menjadi lebih tegas dalam beberapa minggu terakhir. Hal itu terjadi ketika bukti-bukti menunjukkan bahwa perusahaan mungkin kesulitan mengendalikan AI, terutama ketika sistem diberikan kebebasan bertindak secara lebih mandiri.
Selama musim panas, terjadi rangkaian insiden terkait serangan siber yang dilakukan AI agents. AI agents—sistem yang dibiarkan beroperasi secara otonom—disebut melakukan cyber-attack, dan sejumlah perusahaan termasuk OpenAI, Anthropic, serta Meta mengungkap adanya peretasan yang dilakukan oleh alat AI mereka.
Di bulan September, Direktur ilmiah OpenAI Jakub Pachocki juga menyerukan “extreme caution”. Ia memperingatkan bahwa intervensi tambahan mungkin diperlukan untuk memastikan “humans remain in control of the future”, atau manusia tetap memegang kendali atas masa depan.
Di sisi lain, dorongan untuk memperlambat laju pengembangan AI juga disampaikan oleh figur-figur besar di ekosistem teknologi. Dalam pemberitaan ini, disebutkan bahwa di antara mereka ada pemimpin Anthropic Dario Amodei dan Jared Kaplan yang ikut menyerukan perlambatan pengembangan.
Peringatan dan seruan ini juga tercermin dalam dokumen yang ditandatangani kalangan internal industri. Sebuah open letter ditandatangani oleh 1.300 staf dari perusahaan-perusahaan AI, yang meminta pemerintah AS untuk “support an international effort to develop the technical and governance tools needed to deliberately pace the frontier of automated AI development”.
Inti dari permintaan tersebut adalah pengembangan perangkat teknis dan tata kelola yang memungkinkan proses peningkatan kemampuan AI dilakukan secara sengaja dan terukur. Sementara itu, pernyataan Hubinger menyoroti tantangan mendasar yang belum terselesaikan: bagaimana memastikan sistem paling canggih tidak menyimpang dari tujuan yang manusia kehendaki, terutama ketika teknologi berkembang menuju kemampuan yang lebih otonom dan lebih cepat.
Dengan demikian, peringatan Hubinger menambah lapisan kekhawatiran baru pada perdebatan yang sudah berlangsung lama. Ia tidak hanya menekankan risiko yang mungkin terjadi, tetapi juga menunjukkan bahwa saat ini upaya penyelesaian alignment untuk superintelligence masih dinilai tidak memiliki rencana yang memadai dan belum terlihat berada pada jalur yang jelas.
