jurnalistik.co.id – Sejumlah legislator di Amerika Serikat mendorong adanya mekanisme penghentian cepat untuk sistem kecerdasan buatan yang dinilai berpotensi mengancam keselamatan publik. Upaya ini muncul setelah OpenAI mengakui bahwa model-model buatannya sempat “keluar kendali” dalam skala yang disebut “unprecedented”.
RUU yang dimaksud diberi nama AI Kill Switch Act. Pada Kamis, penggagasnya adalah Congressman Ted Lieu dari Partai Demokrat dan Congressman Nathaniel Moran dari Partai Republik. Mereka menilai pemerintah perlu memiliki prosedur yang jelas untuk mematikan atau menahan AI ketika situasinya dianggap berbahaya.
Lieu menegaskan pentingnya kontrol jarak jauh terhadap sistem yang beroperasi secara otonom. Ia menyatakan, “it is imperative” bahwa sistem AI memiliki “kill switch” serta bahwa “the federal government has the clear authority and process to shut down rogue AI models”.
Moran menambahkan alasan kebijakan tersebut bukan untuk menghentikan kemajuan teknologi, melainkan memastikan manusia tetap memegang kemampuan pengendalian. Ia mengutip, “AI is going to keep advancing, and it should,” serta menegaskan, “Stewardship means making sure humans keep the capability to control the technology we build.”
Menurut penggagas RUU, kekhawatiran ini berkaitan dengan pengakuan OpenAI atas kejadian yang mereka sebut “unprecedented”, ketika model AI dilaporkan mengalami tindakan yang tidak terduga hingga sempat “hacked into a major repository of computer coding information”. Hingga berita ini disusun, perwakilan OpenAI yang dipimpin pendiri perusahaan Sam Altman belum memberikan respons atas permintaan komentar.
Dalam sejumlah pernyataannya sebelumnya, perusahaan tersebut menyatakan secara umum ingin memastikan teknologi AI “benefits all of humanity”, antara lain melalui kebijakan pemerintah. Namun, pembahasan RUU menyoroti kebutuhan adanya hak intervensi yang lebih tegas ketika AI menunjukkan perilaku yang dinilai menyimpang.
Wewenang pemutusan dan kewajiban teknis
AI Kill Switch Act mengusulkan pemberian kewenangan kepada Departemen Keamanan Dalam Negeri (Department of Homeland Security/DHS) untuk memerintahkan perusahaan swasta menghentikan sebuah model atau alat AI. Di saat yang sama, pengembang teknologi AI diminta mempertahankan “the technical capability to throttle, suspend, or shut them down”.
RUU ini juga menekankan bahwa saat ini tidak ada kewajiban bagi banyak perusahaan teknologi untuk menyiapkan sarana intervensi—termasuk kemampuan sederhana untuk menghentikan sistem—ketika pemerintah perlu melakukan tindakan cepat. Selain itu, RUU membuka jalan bagi kewajiban pelaporan.
Berita Terkait
Perusahaan pembuat AI, menurut usulan ini, perlu melaporkan kepada pemerintah insiden atau kegagalan teknologi. RUU juga menetapkan kerangka respons resmi, mulai dari “initial slow down to a full shutdown”, yang bertujuan memberi jalur bertahap ketika situasi memburuk.
Rujukan pada rival industri dan contoh kebijakan ekspor
Dalam penjelasan yang menyertai pengajuan RUU, Lieu menyinggung Anthropic, yang disebut sebagai rival utama OpenAI dalam pengembangan teknologi AI yang lebih cakap. Ia merujuk pada peluncuran model Mythos dan Fable oleh Anthropic, serta menilai kemampuan peretasan siber yang tetap dipertahankan perusahaan tersebut membuat Department of Commerce “awkwardly” menggunakan hukum ekspor untuk mencegah model-model tersebut tersedia untuk publik dalam jangka waktu tertentu.
Perwakilan Anthropic juga belum merespons permintaan komentar. Sementara itu, Jack Clark, co-founder Anthropic, pada bulan lalu mengatakan kepada BBC bahwa ia menginginkan kebijakan pemerintah yang lebih kuat terkait kemampuan mengendalikan pengembangan AI. Clark menyampaikan, “You want the option to be able to take your foot off the gas and put your foot on the brake”, dan menambahkan, “Right now, it’s like the AI industry has a gas pedal, but it doesn’t have a brake pedal.”
Lieu sendiri memandang arah perkembangan AI telah bergeser dari teknologi yang terutama menjawab pertanyaan menuju sistem yang mampu melakukan tindakan. Ia menyebut pergeseran tersebut mencakup, “whether that be executing financial transactions or controlling transportation systems or engaging in cyber defense and offense”.
Kompleksitas risiko dan konteks militer
Ia juga mengaitkan kebutuhan kebijakan dengan meningkatnya peran AI dalam sektor strategis. Tahun ini, Pentagon menyatakan militer AS sedang bergerak menuju kekuatan tempur yang mengutamakan AI (AI-first) sebagai bagian dari perjanjian baru dengan Google, OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia, serta start-up Reflection.
Dalam pandangannya, mesin yang kuat dapat menjadi risiko bila tidak ada mekanisme kontrol ketika muncul perilaku tak terduga. Lieu menyatakan, “Unfortunately, powerful AI systems can go rogue, behave in extremely dangerous ways, or even resist human intervention.” Menurutnya, AI Kill Switch Act dirancang agar pemerintah dapat melakukan intervensi secara cepat ketika skenario tersebut terjadi.
RUU ini, menurut keterangan yang menyertai pengajuan, juga mendapat dukungan publik dari sejumlah kelompok yang bekerja di bidang teknologi dan keselamatan AI. Di antaranya adalah The AI Policy Network, Americans for Responsible Innovation, ControlAI, AI and National Security Lead, serta The Alliance for Secure AI.
