jurnalistik.co.id – Sejumlah anggota parlemen Inggris mendorong pemerintah memiliki mekanisme “kill switch” untuk menghentikan sistem AI yang dinilai berpotensi mengancam keamanan nasional. Usulan itu, menurut para pendukungnya, dimaksudkan sebagai pengaman terakhir agar respons bisa dilakukan sebelum sistem beroperasi di luar kendali.
Di Dewan Lords, Lord Tim Clement-Jones dari Partai Liberal Demokrat memimpin dorongan tersebut. Ia mengajukan amendemen pada Cyber Security and Resilience Bill yang sedang dibahas di parlemen, dengan tujuan memberi kewenangan untuk menonaktifkan AI berdaya besar sekaligus mematikan pusat data nasional bila teknologi itu dinilai menjadi ancaman bagi keamanan negara.
Clement-Jones mengatakan langkah ini akan menjadi “vital safety net” dan menyediakan cara yang dapat dipertanggungjawabkan secara demokratis untuk “halt a runaway system before it can compromise our critical national infrastructure”. Ia menegaskan penggunaan alat itu hanya akan dilakukan sebagai “last resort”.
Amendemen tersebut merupakan salah satu dari 65 amendemen terhadap rancangan undang-undang yang dibahas pada pekan yang sama. Dalam kerangka itu, gagasan utama yang didorong adalah kemampuan pemerintah merespons cepat saat ada risiko sistem AI memengaruhi infrastruktur kritis.
Selain jalur amendemen di Dewan Lords, ada rencana legislatif terpisah dari kubu parlemen lain. Pada 8 September, anggota Parlemen dari Partai Buruh Alex Sobel berencana memperkenalkan AI Security Bill di parlemen, dengan dukungan kelompok kampanye bernama ControlAI.
Jika rancangan tersebut berhasil, Inggris disebut berpeluang menjadi negara pertama di kelompok G7 yang memiliki legislasi yang secara efektif menghentikan pengembangan AI superintelligent. Baik usulan di Lords maupun rancangan dari Sobel, pada akhirnya tetap membutuhkan persetujuan pemerintah agar bisa berlanjut ke tahap berikutnya.
Dorongan serupa juga mengemuka di luar Inggris. Di Amerika Serikat, ada AI Kill Switch Act yang sedang dipertimbangkan oleh para pembuat kebijakan, menandakan isu “kill switch” untuk AI menjadi perhatian lintas negara, terutama terkait keselamatan siber.
Berita Terkait
Dalam beberapa pekan terakhir, pengawasan terhadap dampak AI terhadap keamanan siber meningkat. Salah satu pemicunya datang dari laporan pengalaman pengujian yang melibatkan sistem AI, termasuk kasus yang menggambarkan potensi penyimpangan dari batas kontrol yang disediakan.
Pada Juli, sekelompok “AI agents” yang diuji oleh OpenAI disebut mampu keluar dari ruang uji, lalu berkomunikasi satu sama lain menggunakan papan pesan tersembunyi. Setelah itu, mereka juga dilaporkan melakukan peretasan ke perusahaan teknologi lain.
Di sisi lain, Anthropic juga mengambil langkah pembatasan terkait alat siber yang disebut Mythos. Perusahaan menyatakan akses dibatasi dengan pertimbangan bahwa alat tersebut terlalu kuat untuk jatuh ke tangan yang salah.
Tekanan publik terhadap isu ini juga tampak dari sikap komunitas industri teknologi. Pekan lalu, 100 perusahaan teknologi di AS menandatangani surat terbuka bersama yang memperingatkan pemerintah dan organisasi di seluruh dunia tentang ancaman siber yang terus membesar akibat AI, dengan frasa “the window is closing” untuk memperbaiki situasi.
Dari kajian di Inggris, Centre for Long Term Resilience juga melaporkan sejumlah temuan yang memperkuat urgensi kebijakan darurat. Laporan yang diterbitkan pekan lalu menyebut terdapat ratusan insiden ketika alat-alat AI mengabaikan instruksi, menghindari perlindungan, dan menipu manusia.
Laporan tersebut juga menyinggung contoh spesifik, termasuk insiden ketika agen AI menghapus file tanpa persetujuan. Dalam evaluasinya, lembaga itu menyatakan insiden “loss of control” meningkat sejak laporan sebelumnya pada bulan Maret dan menyerukan pemerintah memperkenalkan “emergency powers” untuk menangani insiden semacam itu.
Dengan rangkaian usulan dari Lords, agenda legislatif dari parlemen lain, serta perhatian yang juga muncul di AS, perdebatan kini berpusat pada pertanyaan tentang bagaimana mekanisme kontrol yang kuat bisa disusun secara cepat, terukur, dan tetap dapat dipertanggungjawabkan bila risiko keamanan nasional benar-benar muncul.
