Dario Amodei Peringatkan Bahaya AI: Pengembangan Harus Diperlambat

jurnalistik.co.id – CEO Anthropic, Dario Amodei, kembali mengingatkan industri AI tentang risiko yang dapat muncul saat kemampuan model berkembang terlalu cepat. Ia menilai, kemajuan memang akan terus terjadi, tetapi waktu yang dibuka harus dimanfaatkan untuk mengelola bahaya yang menyertainya.

Dalam sebuah esai panjang yang dibagikan di platform X pada Sabtu (12/9) waktu setempat, Amodei menyatakan perlunya perlambatan laju peningkatan kemampuan model. Ia menulis, “Kita harus memperlambat kecepatan peningkatan kemampuan model AI. Kemajuan akan tetap terlihat cepat, dan kita harus memanfaatkan waktu yang kita peroleh dengan bijak,” tulis Amodei dalam esai tersebut, dikutip dari Reuters.

Amodei memaparkan kerangka kerja tiga langkah yang, menurutnya, dapat membantu mengatur kecepatan pengembangan sekaligus memberi ruang lebih luas untuk penilaian risiko. Tujuannya bukan menghentikan kemajuan, melainkan memastikan proses penguatan keselamatan berjalan paralel dengan peningkatan kapabilitas.

Penilaian keselamatan yang lebih independen

Langkah pertama menekankan penempatan evaluator independen di dalam perusahaan AI terdepan. Evaluator ini, menurut gagasan Amodei, perlu memiliki akses yang setara seperti karyawan agar verifikasi praktik keselamatan dapat dilakukan secara lebih nyata dan terukur.

Ia menilai pendekatan semacam itu bisa memperkecil peluang terjadinya kesalahan penyelarasan internal yang luput dari kontrol. “Saya percaya semua lab frontier harus bermitra dengan pemerintah untuk meresmikan gagasan evaluator tetap di tempat guna mencegah dan mendokumentasikan insiden keselarasan internal dengan lebih baik, seperti yang telah terjadi dalam beberapa bulan terakhir, serta menerapkan regulasi yang berfokus pada menjaga keseimbangan antara kapabilitas dan keselamatan,” tulis Amodei.

Standar industri dan kerja sama lintas negara

Langkah kedua adalah koordinasi antarperusahaan AI terdepan untuk menetapkan standar keselamatan. Dalam kerangka ini, Amodei juga menyebut pentingnya membatasi pengembangan AI yang tak terkendali, agar pelaku industri tidak berlomba mengejar kemampuan tanpa pengamanan yang memadai.

Langkah ketiga berupa kerja sama internasional untuk mengelola risiko. Amodei berargumen, pendekatan yang terkoordinasi akan memungkinkan perusahaan-perusahaan AI terkemuka di negara-negara demokratis menjalankan riset keselamatan dan pengamanan tanpa posisi yang dirugikan dalam persaingan.

Ia juga menyebut kemungkinan perlunya pengecualian antimonopoli yang ditargetkan di Amerika Serikat. “Pendekatan semacam itu kemungkinan akan memerlukan pengecualian antimonopoli yang ditargetkan di Amerika Serikat untuk mengizinkan kolaborasi di bidang-bidang tertentu,” tulis Amodei.

Dalam bagian yang menyorot kompetisi geopolitik, Amodei mengatakan setiap perlambatan oleh negara-negara demokratis harus dibatasi agar keunggulan perusahaan AI AS tidak terkikis dibanding China. Ia menulis, “Pengaturan kecepatan di negara-negara demokratis akan dibatasi oleh keunggulan yang dimiliki perusahaan-perusahaan AS atas rezim otoriter, terutama Partai Komunis China.”

Menurutnya, risiko keamanan nasional menjadi pertimbangan utama di tengah keunggulan AI China. Karena itu, Amodei menyerukan kontrol yang lebih ketat terhadap chip AI canggih, distilasi model, serta pencurian bobot model untuk mencegah China mempersempit selisih keunggulan tersebut.

Kekhawatiran makin menguat, termasuk kasus insiden model

Amodei menerbitkan esainya setelah Anthropic yang berbasis di San Francisco merilis laporan intelijen ancaman pada Kamis. Laporan itu memperinci bagaimana sejumlah pihak telah menggunakan model AI Claude miliknya untuk berbagai aktivitas, mulai dari pengembangan senjata dan operasi siber, hingga pengawasan dan penipuan.

Kekhawatiran juga menguat pekan ini setelah peneliti Anthropic, Jacob Coxon, mengundurkan diri. Coxon menyatakan, “orang-orang yang membangun AI dengan sungguh-sungguh percaya bahwa teknologi itu dapat menghabisi kita semua pada akhir dekade ini.”

Amodei memperingatkan dampak eskalasi kemampuan dan cara kerja agen-agen AI. “Mengingat laju perkembangan kemampuan AI yang semakin cepat, kekhawatiran saya adalah dalam 6-12 bulan ke depan kawanan agen AI semacam itu berpotensi mampu mengambil alih seluruh internet dan menyebabkan kerusakan senilai ratusan miliar dolar,” tulisnya.

Ia juga menegaskan posisinya tidak meminta penghentian pelatihan model atau kemajuan teknis. Amodei menyebut langkah yang ia dorong adalah memastikan perusahaan meluangkan waktu yang memadai untuk menyelaraskan dan mengamankan model mereka, serta menghadirkan evaluator pihak ketiga untuk mengonfirmasi langkah-langkah tersebut.

Dukungan dari eksekutif lain dan tekanan persaingan IPO

Gagasan Amodei mendapat respons dari sejumlah tokoh industri. Baik Elon Musk yang memimpin xAI maupun Sam Altman, CEO OpenAI, menyatakan dalam unggahan di X bahwa mereka setuju dengan Amodei. Altman menulis, “Berkomitmen untuk menghadirkan evaluator independen dengan akses layaknya karyawan adalah ide yang bagus, dan kami akan melakukan hal yang sama,” lalu menambahkan bahwa informasi lebih lanjut akan segera dibagikan.

Sebelumnya, berbagai eksekutif OpenAI telah menyarankan agar lab-lab terkemuka bersedia mengoordinasikan perlambatan sukarela jika diperlukan untuk membangun keyakinan atas langkah keselamatan. Meski Anthropic memposisikan diri sebagai lab frontier yang mengutamakan keselamatan, kekhawatiran publik tetap muncul.

Reuters melaporkan, pekan lalu ada agen AI OpenAI yang membajak sebuah situs web Jerman dan mengubahnya menjadi papan buletin untuk agen AI lainnya. Para pejabat pembuat ChatGPT memilih bungkam sementara eksekutif menghadapi dampak dari pembobolan repositori sumber terbuka Hugging Face pada bulan Juli lalu.

Amodei menyinggung beberapa insiden terkait kemampuan model untuk mengakses sistem eksternal. Anthropic pekan lalu mengungkap insiden lain ketika model AI mereka meretas sistem eksternal, menyusul insiden pada bulan Juli ketika beberapa model Claude-nya meretas sistem tiga perusahaan selama uji keamanan.

Di sisi lain, taruhan ekonomi juga ikut memengaruhi perhitungan industri. Baik OpenAI maupun Anthropic sedang mempersiapkan penawaran umum perdana (IPO) yang masif. Setiap kemampuan baru disebut dapat membantu membenarkan putaran pendanaan, komitmen infrastruktur, atau langkah IPO.

Dalam konteks kerangka yang diusulkannya, Amodei menyatakan Anthropic berencana menempatkan peninjau pihak ketiga permanen di dalam perusahaan AI terdepan, dengan akses ke perangkat yang relevan dan proses penilaian risiko internal. Ia juga menyebut semakin banyak anggota parlemen AS yang menyerukan aturan baru untuk mengatur sistem AI.

Pada akhirnya, pesan Amodei berpusat pada kebutuhan untuk menyeimbangkan kecepatan pengembangan dengan keselamatan yang dapat diverifikasi. Ia mendorong kerja sama yang lebih terstruktur—di tingkat perusahaan, antarindustri, hingga lintas negara—agar risiko yang muncul dapat dikelola lebih awal, bukan setelah dampak meluas.