jurnalistik.co.id – Anthropic menyatakan telah mengidentifikasi dan menggagalkan upaya penggunaan model AI-nya untuk “malicious activity” yang dapat mendukung pengembangan senjata biologis. Pernyataan itu muncul dari laporan intelijen ancaman terbaru perusahaan, yang menandai kelanjutan dari serangkaian peringatan serupa dari peneliti keamanan AI dan pelaku industri.
Laporan tersebut menyebut adanya upaya yang diarahkan untuk memanfaatkan model Anthropic dalam konteks yang berbahaya. Perusahaan mengatakan tindakan penggagalan dilakukan terhadap aktivitas yang berkaitan dengan pengembangan senjata biologis, termasuk pada bagian di mana penggunaan AI dinilai bisa mengarah pada kemampuan yang sama sekali tidak boleh dilewati tanpa pengaman yang ketat.
Pernyataan Anthropic mendorong respons dari sejumlah tokoh publik. Di Amerika Serikat, Senator Bernie Sanders menyerukan penghentian sementara pengembangan AI tingkat lanjut dan sekaligus mengajukan dorongan untuk larangan artificial superintelligence.
Di sisi lain, Presiden Donald Trump sejauh ini menolak kekhawatiran tersebut. Trump mengatakan pada Kamis bahwa ia khawatir, “if we don’t win AI, we’re going to be put in a very bad position”.
Menurut laporan perusahaan, klaim tersebut merupakan bagian dari pendekatan intelijen ancaman yang lebih luas. Anthropic menyebut laporan terbaru ini dipublikasikan pada hari Kamis, dan perusahaan lain seperti Google juga telah merilis peringatan serupa.
Google, misalnya, menyatakan bahwa seseorang pernah mencoba memakai alat AI Gemini untuk “complete, step-by-step technical guide for synthesizing weaponised biological agents”. Kasus seperti ini, dalam narasi intelijen ancaman, dipandang sebagai pola penyalahgunaan yang perlu dicegah sebelum berkembang menjadi tindakan nyata di lapangan.
Anthropic juga menyinggung penggunaan model Claude dalam sejumlah konteks lain. Perusahaan menyebut Claude dipakai dalam kampanye spionase siber yang dikaitkan dengan Rusia, serta digunakan oleh sebuah lembaga propaganda yang berkaitan dengan Iran.
Laporan itu memuat berbagai temuan dari rentang sekitar delapan bulan terakhir. Sejumlah contoh yang dicatat mencakup aplikasi kencan palsu, penipuan jaringan Wi-Fi hotel, hingga aktivitas pengawasan yang dirancang untuk mengidentifikasi pembangkang atau dissidents.
Selain itu, Anthropic mengklaim perusahaan AI dari Tiongkok mencoba meniru kapabilitas Claude. Dalam daftar kasus yang panjang, laporan menyebut dugaan keterlibatan kelompok yang didukung negara, pelaku kriminal, vendor spyware, institusi propaganda negara, serta individu yang memiliki motif politis.
Perusahaan menyatakan bahwa “Malicious use” terhadap Claude Haiku, Sonnet, dan Opus sempat digagalkan antara Desember 2025 hingga Agustus 2026. Anthropic juga menegaskan bahwa tidak ada kasus penyalahgunaan yang melibatkan Claude Fable atau model Mythos-class yang lebih kuat, kecuali satu kejadian berupa distillation.
Distillation di sini merujuk pada proses melatih model AI yang lebih kecil dengan menggunakan model yang lebih besar dan lebih mahal. Dengan demikian, perusahaan memandang bentuk penyalahgunaan itu tetap berada dalam spektrum risiko yang perlu dipantau.
Anthropic menyatakan bahwa selain mendeteksi penggunaan model untuk operasi siber dan pengaruh (influence), laporan juga mencakup aktivitas terkait penyusupan, penipuan, dan penipuan finansial, termasuk upaya yang mengarah pada pengembangan senjata. Dalam konteks senjata biologis, perusahaan menegaskan bahwa mereka juga telah membatalkan langkah para ilmuwan yang menggunakan AI dengan cara yang bisa mendukung pengembangan senjata biologis.
Laporan itu menonjolkan “five case studies of actors using our models in ways that could support biological weapons development”. Anthropic menyebut penyalahgunaan biologis sebagai “one of the most serious risks of frontier AI model”.
Berita Terkait
Perusahaan menambahkan bahwa tanpa pengaman yang tepat, kemampuan semacam itu “could have catastrophic consequences”. Anthropic juga menekankan, “The same information that can be used to develop a biological weapon could also be used to develop, for example, a vaccine or a cure for a disease,” yang menunjukkan bahwa potensi manfaat dan bahaya bisa berbagi materi informasi yang sama.
Dalam penjelasan lain, Jacob Klein selaku kepala intelijen ancaman Anthropic menyampaikan pandangan kepada New York Times. Klein mengatakan situasinya, “an incredibly nuanced situation,” serta menambahkan, “You are not seeing someone in a comic book kind of way say, ‘Hey, I want to build a biological weapon to kill everybody,’”
Selain kasus yang dikaitkan dengan senjata biologis, laporan juga menyebut enam kasus di mana Claude dipakai untuk “to develop software for conventional weapons”. Daftar yang disebut mencakup firearms, missiles, armed drones, bombs, serta amunisi lainnya, termasuk sistem penargetan dan kendali yang mengoperasikannya.
Tekanan kebijakan menyusul kekhawatiran pada laju kemajuan AI
Laporan Anthropic—yang disebut sebagai laporan pertama perusahaan pada tahun ini—turut muncul setelah peringatan dari peneliti keselamatan tingkat tinggi di perusahaan yang menyatakan AI berkembang begitu cepat hingga ia meyakini peluang lebih dari 10% bahwa teknologi itu “could kill all humans” dalam dekade berikutnya. Peringatan tersebut memperbesar diskusi global tentang kapan dan bagaimana standar keselamatan diberlakukan.
Dalam artikel yang dipublikasikan pada 6 September, Jakub Pachocki selaku chief scientist OpenAI menyerukan agar industri menerapkan “voluntary slowdowns” sampai pengaman tersedia. Pachocki menyatakan, “I am concerned no one is prepared for the consequences of a continued rapid rise in machine intelligence,” sekaligus menegaskan bahwa OpenAI akan terus membangun perlindungan, namun intervensi yang lebih luas tetap diperlukan.
Peringatan itu juga memicu surat terbuka kepada Perdana Menteri Inggris Andy Burnham. Surat tersebut meminta adanya perjanjian multinasional untuk pengembangan AI yang aman, serta mengajak pemerintah berkolaborasi mengenai seperti apa bentuk perjanjian yang berbasis pengembangan artificial superintelligence.
Di Amerika Serikat, Senator Bernie Sanders juga memperkenalkan rancangan undang-undang untuk melarang artificial superintelligence dan menjeda pengembangan AI tingkat lanjut untuk sementara waktu. Sanders mengatakan pada Kamis, “When scientists tell you there is a chance, a chance that it could have a cataclysmic impact on humanity, you’ve got be a moron not to say, slow it down,”
Pola penyalahgunaan lebih luas: dari peretasan hingga pengelakan deteksi
Di luar isu senjata, laporan Anthropic menyebut pelaku kejahatan siber dan peretas yang didukung negara semakin memakai teknologi mereka untuk membantu operasi. ShinyHunters disebut dalam laporan, bersamaan dengan lab yang berbasis di Tiongkok.
Laporan juga menyebut sebuah kelompok peretasan yang pekerjaannya konsisten dengan Midnight Blizzard, yang berbasis di Rusia, diduga memakai AI untuk membangun sistem yang secara otomatis mendeteksi saat malware mereka terdeteksi oleh pertahanan keamanan. Setelah itu, sistem menulis ulang kode hingga lolos dari deteksi.
Anthropic menyatakan perusahaan berbasis California itu telah mengintegrasikan temuan-temuannya ke dalam proses internal. Tujuannya, perusahaan menyebut, adalah “to better prevent, detect, and disrupt these activities in the future”.
Terakhir, Anthropic mengatakan mereka telah berbagi intelijen dengan pihak berwenang dan mitra industri bila diperlukan. Dengan rangkaian temuan ini, perusahaan kembali menempatkan isu pencegahan penyalahgunaan sebagai bagian dari upaya menjaga agar kemampuan AI tidak dipakai untuk tindakan yang berujung pada ancaman kemanusiaan.
