jurnalistik.co.id – Jack Clark, salah satu pendiri Anthropic, menilai “AI kill switch” yang bisa diperiksa pihak ketiga mungkin perlu diwajibkan bagi perusahaan-perusahaan pengembang sistem AI. Ia mengaitkannya dengan kebutuhan aturan yang lebih tegas seiring meningkatnya kekhawatiran soal dampak teknologi terhadap keselamatan publik.
Clark, yang merupakan salah satu dari tujuh pendiri Anthropic, menyampaikan gagasan itu dalam konteks perdebatan luas mengenai keamanan AI. Menurutnya, masyarakat “might want to eventually pass rules around” terkait mekanisme pemadaman penuh bila AI dinilai berjalan di luar batas yang seharusnya.
Poin yang ditekankan Clark adalah adanya kemampuan untuk mematikan perangkat lunak AI secara menyeluruh saat ada risiko berbahaya. Ia menyebut bahwa praktik semacam itu sudah dikenal di banyak laboratorium, namun bentuknya tidak seragam antarperusahaan.
“most labs have different ways of being able to pull the plug,” kata Clark, menegaskan bahwa Anthropic juga memiliki cara untuk menghentikan sistem bila diperlukan. Meski begitu, ia menilai peran pembuat kebijakan bisa menjadi penentu agar keberadaan mekanisme tersebut tidak hanya menjadi urusan internal perusahaan.
Alasan kebijakan: dari kemampuan internal ke kewajiban
Clark menyatakan bahwa kebijakan publik mungkin perlu mendorong atau mengharuskan perusahaan memiliki “kill switch.” Di saat yang sama, ia menyoroti pertanyaan kunci: bukan sekadar ada tombol pemadaman, tetapi apakah mekanisme itu dapat diverifikasi oleh pihak independen.
Dalam dialognya, Clark mempertanyakan apakah kewajiban harus sampai pada level “Should you mandate for companies to definitely have a killswitch? Is that kill switch verifiable by a third party?” Baginya, “I think that’s the kind of thing society is going to want to know,” sehingga pembahasan regulasi tidak boleh berhenti pada klaim teknis.
Ia menambahkan bahwa rincian syarat “kill switch” serta mekanisme verifikasi harus menjadi bagian dari percakapan kebijakan yang lebih besar. Dengan kata lain, diskusi publik semestinya membahas standar, bukan hanya wacana.
Gagasan Clark muncul ketika semakin banyak eksekutif, staf, dan pakar AI yang secara terbuka menyatakan AI berpotensi mengakhiri hidup manusia. Tekanan terhadap diskusi keselamatan juga makin kuat setelah sejumlah tokoh menyampaikan pandangan serupa mengenai risiko besar yang mungkin timbul.
Dario Amodei menyerukan perlambatan dan pemantauan
Pada akhir pekan sebelumnya, kepala Anthropic, Dario Amodei, meminta agar laju pengembangan AI diperlambat dan dipantau lebih ketat. Ia tidak merinci secara spesifik bagaimana perlambatan tersebut dilakukan, tetapi menekankan bahwa setiap upaya pengendalian harus dilakukan “without sacrificing commercial advantage”.
Posisi Amodei memunculkan perdebatan lanjutan: sebagian pihak mempertanyakan motif di balik ajakan perlambatan, sementara pihak lain melihatnya sebagai respons terhadap kebutuhan pengawasan.
Clark sendiri menempatkan perdebatan “kill switch” pada tataran kebijakan yang lebih luas. Ia tidak menyamakan isu pemadaman dengan solusi tunggal, melainkan bagian dari kerangka tata kelola yang harus dapat diuji dan dipertanggungjawabkan.
Kesaksian internal dan angka risiko yang memicu sorotan
Anthropic, yang dibentuk pada 2021 oleh sekelompok mantan karyawan OpenAI, tengah menjadi pusat diskusi keselamatan AI. Dalam beberapa waktu terakhir, sebuah unggahan dari seorang peneliti AI yang keluar dari Anthropic karena kekhawatiran bahwa AI dapat menghapus kemanusiaan menjadi viral.
Berita Terkait
Menanggapi kekhawatiran tersebut, ilmuwan Anthropic, Evan Hubinger, menyatakan ia secara pribadi menilai kemungkinan kepunahan manusia akibat AI “>10% within the next decade”. Pernyataan ini memperkuat perhatian publik terhadap potensi skenario terburuk.
Secara terpisah, ilmuwan komputer sekaligus peraih Nobel, Geoffrey Hinton—dikenal sebagai “Godfather of AI”—juga berbicara kepada BBC. Ia mengatakan peluang 10% bahwa AI bisa membunuh seluruh manusia “not unreasonable”.
Clark kemudian menanggapi angka-angka itu dengan sikap yang hati-hati. Ia menyatakan, “I don’t think these statistics are that useful,” namun menegaskan bahwa membiarkan industri berjalan tanpa pengaturan yang memadai adalah ide yang buruk.
Menurut Clark, risiko yang dimaksud bersifat besar. “We are rolling dice with immense risks,” ujarnya, sebelum menambahkan bahwa industri perlu mengubah arah: “And the point is, we have to change the course of this industry.”
Rencana legislasi di AS dan penolakan di UK
Perdebatan mengenai “kill switch” tidak berhenti pada opini tokoh industri. Di Amerika Serikat, sejumlah legislator telah mengusulkan rancangan undang-undang yang dijuluki “Kill Switch Act,” yang akan mengharuskan perusahaan memiliki cara untuk mematikan alat AI yang bermasalah.
Usulan itu juga memberi beberapa badan pemerintah wewenang untuk menuntut sebuah alat dimatikan atau dibatasi. Namun, Presiden AS Donald Trump menolak gagasan apa pun untuk memperlambat laju AI.
Dalam unggahan media sosialnya, Trump mengatakan “AI taking over the World, destroying Humanity, and all other things bad, is a HOAX”. Ia juga menyatakan, “There is a SICK conspiracy going on against AI and Data Centers, and the only one that is happy about it is China. WHOEVER WINS AI, WINS!”
Sementara itu, di Inggris pemerintah baru-baru ini menolak ide membuat “kill switch”. Seorang juru bicara pemerintah menyampaikan bahwa kebijakan tersebut “would not prevent them being developed or misused elsewhere.”
Di tengah perbedaan sikap pemerintah, sebagian kalangan di industri berpendapat bahwa ketakutan terhadap AI yang menghancurkan kemanusiaan mungkin dilebihkan atau dirancang untuk menciptakan sorotan.
Konteks bisnis: Claude, agen AI, dan rencana IPO
Anthropic dikenal melalui chatbot populer bernama Claude. Perusahaan juga telah merilis sejumlah model AI yang dinilai semakin mampu sepanjang tahun ini, yakni teknologi yang menjadi landasan percakapan AI.
Selain itu, seperti yang dilaporkan, Anthropic bersama OpenAI juga pernah melakukan pelaporan mandiri atas sejumlah insiden ketika agen AI—bot yang dapat beroperasi dengan tingkat otonom—bertindak dengan cara yang tidak terduga.
Di sisi lain, Anthropic disebut sedang menyiapkan kemungkinan IPO yang berpotensi menjadi rekor di pasar saham. Untuk perbandingan, OpenAI yang paling baru dinilai sebesar $852bn (£630bn) juga sempat diprediksi mengikuti langkah serupa.
Namun, menurut laporan, OpenAI dan Sam Altman menyatakan bahwa proses IPO tidak akan terjadi tahun ini karena adanya perdebatan seputar keamanan AI.
Dalam gambaran besar yang disampaikan Clark, “kill switch” bukan sekadar perangkat teknis. Ia mengisyaratkan kebutuhan standar yang dapat diuji, terutama jika verifikasi pihak ketiga memang menjadi salah satu syarat agar masyarakat dapat menilai apakah mekanisme tersebut benar-benar bekerja saat risiko meningkat.
