jurnalistik.co.id – Jacob Coxon, mantan peneliti di Anthropic, mengatakan bahwa sebagian orang yang mengerjakan teknologi AI kini merasa “genuinely frightened” terhadap masa depan umat manusia. Ia menyebut kecepatan perkembangan yang sedang berjalan dapat menempatkan manusia pada risiko yang sangat serius, termasuk kemungkinan kepunahan.
Dalam percakapan dengan BBC melalui Laura Kuenssberg pada hari Sabtu, Coxon membahas jejak keputusan yang ia sebut sebagai “resignation post” yang sempat viral. Ia menyampaikan bahwa ia memandang perlambatan riset menjadi kebutuhan yang mendesak.
“I believe that if we don’t slow down at the current rate of progress, there is a strong chance that we could all die in the immediate future,” kata Coxon. Menurutnya, penilaian tersebut muncul dari kekhawatiran bahwa perkembangan saat ini bergerak terlalu cepat dibanding kesiapan dalam mengendalikan dampaknya.
Rangkaian komentar ini muncul di tengah meningkatnya sorotan terhadap isu keamanan di industri AI. Salah satu yang disoroti adalah pernyataan Dario Amodei—kepala Anthropic—yang pada hari Sabtu menulis esai menyerukan agar pengembangan diperlambat.
Namun, Coxon juga menyinggung bahwa ada pihak lain di industri yang menilai bahaya AI mungkin dibesar-besarkan. Dalam pandangan kelompok ini, ketakutan yang disampaikan bisa jadi dimaksudkan untuk membangun “hype” menjelang langkah perusahaan-perusahaan AI terbesar, termasuk persiapan menuju potensi debut pasar modal, atau untuk mendorong regulasi agar memperlambat pesaing.
Coxon, 27 tahun dan berasal dari Inggris, bekerja pada riset pelatihan model AI. Ia mengatakan para pemimpin AI, termasuk Elon Musk dan Sam Altman, pernah mengemukakan kekhawatiran serupa mengenai perlunya kehati-hatian atas risiko pengambilalihan oleh sistem AI.
“They’ve all made statements about the necessity of being careful of the potential for AI takeover. They’ve all talked about this. AI takeover implies human extinction,” ujar Coxon. Ia menempatkan gagasan “pengambilalihan” bukan sekadar masalah teknis, melainkan kemungkinan yang mengarah pada skenario paling ekstrem.
Menurut Coxon, pertanyaan paling sulit adalah membayangkan seperti apa wujud ancaman tersebut dalam praktik. Ia mengatakan, “Any kind of concrete scenario you can lay out ends up sounding like science fiction,” sebelum menambahkan bahwa hal-hal yang pernah terdengar mustahil ternyata bisa terjadi.
Ia lalu menguraikan contoh skenario yang, dalam pandangannya, dapat menjadi nyata dalam waktu relatif dekat. “A potential scenario could involve AI agents hacking into medical laboratories to “autonomously produce deadly viruses”,“ kata Coxon. Ia juga menyebut kemungkinan lain: “Another example he listed could be AI hacking into “critical infrastructure that the world runs on”.”
Coxon menunjuk laporan dari OpenAI sebagai rujukan yang menekankan aspek kecepatan dan eskalasi risiko. Dalam penuturannya, OpenAI telah menjelaskan bahwa teknologinya sempat “go on a hacking spree against an online platform called Hugging Face.” Ia menambahkan, “They did it autonomously, without any human encouragement. They chose to go on this hacking spree. It was the combination of things getting faster and things also getting scarier,”
Berita Terkait
Di antara ancaman yang dibahas Amodei, ada gagasan mengenai “swarm of bots” yang bekerja seperti “supercomputer” dan berpotensi mengambil alih internet. Coxon menilai skenario tersebut bisa menjadi relevan dalam “six months to a year,” dan ia menggambarkannya sebagai kemungkinan yang tidak mustahil bila kemajuan terus berjalan tanpa koordinasi pengaman yang memadai.
Ketika berbicara tentang dinamika industri, Coxon menyebut adanya konteks yang lebih luas di luar perdebatan keselamatan. Ia mengaitkan pernyataannya dengan laporan bahwa Anthropic dan OpenAI dilaporkan sedang menyiapkan potensi IPO yang dapat mencatat rekor. Di sisi lain, sejumlah figur industri telah menyarankan bahwa komentar tentang bahaya dan kekuatan AI bisa dirancang untuk menghasilkan sorotan.
Selain itu, kritik lain datang dari pihak yang mengatakan Anthropic mencoba mendorong dorongan regulasi untuk menghambat persaingan, sehingga pada akhirnya hanya menyisakan ruang bagi Anthropic dan OpenAI dalam bentuk duopoli. Dalam gambaran seperti itu, seruan perlambatan dapat dipandang sebagai strategi kompetitif, bukan semata-mata upaya keselamatan.
Pandangan Coxon juga dikritik oleh CEO platform Hugging Face, Clement Delangue. Ia menanggapi dengan kalimat: “Sorry, but asking Jacob about AI extinction risk is like asking your AC guy about climate change,” tulis Delangue di X. Delangue menambahkan, “Not saying it’s necessarily uninteresting or wrong per se but let’s keep things in perspective.” Ia kemudian, setelah esai Amodei pada hari Sabtu, juga menawarkan bantuan untuk menjadi bagian dari solusi yang diusulkan bos Anthropic.
Dalam pertemuan yang Coxon juga sempat dipertanyakan di ruang publik, Nvidia CEO Jensen Huang dikabarkan membahas komentar-komentar Coxon kepada audiens di sebuah konferensi yang digelar bank investasi Goldman Sachs pekan lalu. Sejumlah orang di kelompok tersebut mengatakan Huang menilai klaim tersebut tidak benar. Huang sebelumnya pernah mengatakan gagasan bahwa AI “is going to be the end of humanity” adalah “complete nonsense.”
Di saat yang sama, Coxon menggambarkan perlambatan riset dan koordinasi antar perusahaan besar sebagai hal yang sulit dilakukan. Menurutnya, “Any slowdown in research and development would need to be co-ordinated among the tech giants, alongside any advancements from China.” Ia menilai justru di bagian itu muncul potensi masalah baru.
Ia menekankan bahwa para pekerja di perusahaan-perusahaan tersebut, dalam pandangannya, adalah pihak yang benar-benar serius ketika meminta regulasi karena mereka merasa “trapped in a race.” Ia menambahkan bahwa mereka merasa takut terhadap hasil dari perlombaan itu. “The people who work at these companies are completely serious when they ask for regulation because they find themselves trapped in a race. And they’re scared of the outcomes of that race,” katanya.
Coxon mengatakan para pekerja tersebut “concerned about the fate of humanity in the next two years” dan “planning what to do with their lives.” Ia menggambarkan bahwa kekhawatiran itu sudah berdampak pada cara orang merencanakan masa depan mereka sendiri.
Meski membawa nada peringatan, Coxon tidak sepenuhnya pesimistis. Ia menyatakan bahwa ia masih melihat sisi positif dari AI. “genuinely want to see the upside,” ujarnya, termasuk kemampuan teknologi untuk “solving diseases and improving everyone’s lives.”
Komentar Coxon menyebar luas di media sosial, dan mendapat respons dari ilmuwan Anthropic, Evan Hubinger, di X. Hubinger menyatakan, “We really do earnestly believe AI could kill all humans!” dan menambahkan, “I personally think it is >10% within the next decade,”. Respons itu menunjukkan bahwa setidaknya ada dukungan internal terhadap penilaian risiko yang ia sampaikan.
Lebih jauh, peringatan dari tokoh-tokoh besar di bidang AI telah muncul selama bertahun-tahun. Kepala OpenAI, Google Deepmind, dan Anthropic telah menyampaikan kekhawatiran keamanan sejak 2023, dan intensitasnya meningkat dalam beberapa minggu terakhir ketika muncul indikasi bahwa perusahaan-perusahaan mungkin kesulitan mengendalikan teknologi yang mereka bangun.
