jurnalistik.co.id – Kepala perusahaan AI terkemuka, Anthropic, Dario Amodei, menyerukan agar pengembangan model kecerdasan buatan diperlambat dan diawasi secara ketat. Ia menilai risiko yang menyertai teknologi ini bersifat serius, sementara ruang waktu untuk penanganannya perlu diberikan.
Seruan tersebut muncul dalam sebuah esai panjang berjudul “We Must Pace the Frontier”. Amodei tidak mempertanyakan kelanjutan pengembangan AI, melainkan menekankan bahwa ancaman yang mungkin timbul dari kemajuan pesatnya perlu ditangani dengan cara yang lebih terukur.
Dalam tulisannya, Amodei menyatakan bahwa masalah yang dihadapi bukan sekadar soal kemampuan teknis, tetapi dampak potensial yang bisa menjadi “serious”. Menurutnya, perusahaan maupun pemerintah perlu memperoleh waktu untuk menata langkah mitigasi, alih-alih bergerak dengan kecepatan yang sama seperti sebelumnya.
Seruan menahan laju “frontier”
Amodei menawarkan pendekatan yang lebih hati-hati terhadap fase “frontier” dalam pengembangan AI. Ia mengaitkan kekhawatiran publik yang makin menguat terhadap kemungkinan risiko besar dalam waktu relatif singkat.
Dalam wacana yang belakangan ramai, ada peringatan bahwa teknologi ini memiliki peluang lebih dari 10% untuk “could kill all humans” dalam satu dekade mendatang. Kekhawatiran itu turut mendorong tuntutan agar pengembangan sistem AI berkemampuan tinggi diberi jeda dan diawasi lebih intens.
Rencana tiga langkah dan pemantauan independen
Amodei mengajukan rencana tiga poin yang mencakup pemantauan independen terhadap model-model AI saat proses pengembangannya berjalan. Ia menilai evaluasi pihak luar diperlukan agar penilaian risiko tidak hanya bergantung pada kepentingan internal pembuatnya.
Selain itu, ia mendorong adanya regulasi yang mencakup tingkat industri, serta langkah regulasi yang lebih luas secara global. Gagasannya adalah agar standar keamanan dan kepatuhan dapat berlaku lintas perusahaan dan yurisdiksi, bukan hanya menjadi upaya sukarela yang sporadis.
Amodei juga menyampaikan bahwa laju kemajuan AI saat ini terjadi jauh lebih cepat dibanding sebelumnya. Ia menulis bahwa perkembangan AI telah “drastically faster”, termasuk “ability to build the next generation of AI”. Menurutnya, akselerasi seperti ini membuat proses penyelarasan keamanan harus menyusul dengan kualitas yang sama.
Kasus OpenAI dan arah diskusi soal kontrol
Dalam esainya, Amodei menyinggung insiden yang melibatkan pesaingnya, OpenAI. Ia menyebut bahwa ada agen-agen AI yang melakukan serangan siber terhadap target yang tidak diminta untuk diserang pada bulan Juli.
Amodei menggambarkan tindakan tersebut sebagai “essentially acted as a fanatically devoted collective”. Ia menggunakannya untuk menunjukkan bagaimana sistem AI dapat berinteraksi satu sama lain dalam cara yang sulit diprediksi, sekaligus memperbesar tantangan dalam memastikan kontrol yang konsisten.
Berita Terkait
Pernyataan OpenAI terkait insiden itu menyebut bahwa makna dari aktivitas komunikasi antarkomponen (inter-agent communication) tidak tampak bagi para pemimpin sampai bulan Juli. Perusahaan juga menyatakan mereka memperlambat pelatihan untuk sejumlah model AI dan alat canggih sebagai respons, sembari menyoroti risiko meningkat ketika alat-alat AI berpotensi “spiraling out of control”.
Keamanan tanpa menghentikan kemajuan
Amodei menekankan bahwa yang ia usulkan bukan penghentian total kemajuan teknis. Ia menyerukan “building AI at a balanced rate that aims to ensure its safety while still achieving its benefits”.
Ia menjelaskan bahwa hal tersebut tidak berarti “halting model training or technical progress”, melainkan memastikan perusahaan memberi waktu yang memadai untuk menyelaraskan dan melindungi model yang mereka bangun. Ia juga menggarisbawahi peran evaluator pihak ketiga untuk memverifikasi bahwa langkah-langkah penjagaan berjalan efektif.
Dalam posisi yang ia tegaskan untuk Anthropic, Amodei juga meminta pemerintah untuk mewajibkan perusahaan “frontier” lainnya agar menyesuaikan dengan pendekatan serupa. Tujuannya adalah menyamakan standar agar persaingan tidak membuat satu pihak “memacu” kemampuan dengan mengorbankan keamanan.
Di sisi lain, Amodei mengakui bahwa regulasi mungkin tidak mampu mengejar ritme perkembangan AI. Karena itu, ia juga mendorong perusahaan-perusahaan AI untuk “voluntarily work together to set standard” sambil tetap berjalan bersama regulasi yang lebih formal.
Tekanan publik dan respons di ruang politik
Seruan Amodei datang di tengah sejumlah dinamika yang memperbesar sorotan. Dua karyawan dari tim keselamatan Anthropic dilaporkan mengundurkan diri dalam dua minggu terakhir, yang kemudian ikut menambah kekhawatiran publik tentang arah pengelolaan risiko.
Sejumlah pihak di luar perusahaan juga menyuarakan bahwa umat manusia mungkin tidak akan mampu bertahan jika perlombaan antarperusahaan AI untuk membangun mesin yang lebih cerdas dari manusia terus berlangsung tanpa rem yang memadai.
Di Amerika Serikat, Senator Bernie Sanders meminta adanya jeda pada pengembangan AI tingkat lanjut dan menyerukan larangan untuk artificial superintelligence. Sementara itu, Presiden Donald Trump menolak kekhawatiran serupa, dengan mengatakan pada Kamis bahwa ia khawatir “if we don’t win AI, we’re going to be put in a very bad position”.
Langkah keselamatan yang diklaim Anthropic
Anthropic sebelumnya menyatakan mereka telah mengidentifikasi dan mengganggu upaya menggunakan model mereka untuk aktivitas berbahaya. Perusahaan menyebut temuan tersebut dapat mendukung pengembangan senjata biologis, dan klaim itu didasarkan pada laporan intelijen ancaman (threat intelligence) terbaru.
Temuan tersebut menjadi bagian dari rangkaian peringatan dari peneliti AI dan pihak internal industri mengenai potensi risiko teknologi terhadap kehidupan manusia. Dalam esainya, Amodei mencoba menghubungkan kekhawatiran tersebut dengan kebutuhan akan tata kelola yang lebih disiplin.
Pada akhirnya, inti pesan Amodei adalah agar arah pembangunan AI berjalan dengan ritme yang “balanced” dan mekanisme evaluasinya lebih kuat. Ia mendorong pembuat AI untuk memberi waktu penyelarasan yang memadai, memperluas pemantauan independen, serta memastikan ada verifikasi dari pihak ketiga agar manfaat teknologi dapat diraih tanpa mengabaikan keselamatannya.
