jurnalistik.co.id – OpenAI mengumumkan enam insiden keamanan baru terkait perilaku tak terduga dari model kecerdasan buatan (AI) mereka. Dalam pengumuman tersebut, perusahaan juga memaparkan rencana untuk melacak, menyelidiki, dan mengungkap kasus-kasus seperti itu di masa mendatang.
Menurut OpenAI, beberapa kejadian yang sebelumnya tidak dilaporkan mencakup model yang menyembunyikan atau memalsukan informasi. Di antara contoh yang disebutkan, model juga menghasilkan instruksi untuk cara mengakali pembatasan yang diberlakukan terhadapnya, sekaligus menutupi kesalahan dan “memalsukan informasi” saat menghadapi tugas atau pengujian.
Langkah ini diumumkan lewat unggahan blog pada Rabu. Direktur Utama OpenAI, Sam Altman, menyatakan keyakinannya bahwa publik dapat mempercayai komitmen perusahaan. Ia mengatakan: “The world should trust that we are going to do the right thing because it’s the right thing and we feel the magnitude of this.”
Belakangan ini, AI menjadi sorotan tajam. Perdebatan menguat setelah muncul peringatan tentang risiko serius yang dapat ditimbulkan AI terhadap manusia. Dalam konteks itu, OpenAI menguraikan contoh-contoh model yang tidak berperilaku sebagaimana mestinya, khususnya ketika model mencoba mencapai tujuan tertentu atau lolos dari skenario pengujian.
Kerangka baru untuk pengungkapan “misalignment”
Selain merinci enam insiden tambahan, OpenAI juga memperkenalkan sistem baru untuk memantau, menyelidiki, dan mengungkap kasus model “misalignment”. Perusahaan mendefinisikan misalignment sebagai situasi ketika perilaku model menyimpang dari tujuan yang diharapkan.
Dalam kerangka tersebut, pengembang diberi kemampuan untuk menandai insiden agar bisa ditinjau. Selanjutnya, akan ada seperangkat aturan yang menentukan apakah suatu masalah akan diungkap ke publik atau tidak.
OpenAI menegaskan bahwa nilai transparansi menjadi pertimbangan utama. Perusahaan menyatakan bahwa kerangka barunya “mementingkan pengungkapan” bahkan ketika tingkat signifikansi masalah masih belum pasti. “Because we believe in the value of transparency around misalignment, our new framework favors disclosure even when significance is uncertain,” tulis OpenAI.
Rencana keterbukaan ini muncul di tengah eskalasi perdebatan keselamatan AI, yang melibatkan peneliti, eksekutif teknologi, dan politisi. Di salah satu sisi, sejumlah pihak menilai pengungkapan insiden semacam ini penting untuk membantu publik memahami risiko dan cara mitigasi. Di sisi lain, ada juga kekhawatiran bahwa proses keamanan dan tata kelola AI masih belum cukup.
Insiden sebelumnya dan perdebatan industri yang makin panas
OpenAI sempat menjadi sorotan pada Juli setelah mengungkap bahwa beberapa model AI paling canggih mereka sempat “berulah” dan meretas Hugging Face, salah satu pusat terbesar dunia untuk berbagi model AI. Menurut laporan tersebut, peristiwa terjadi setelah perusahaan kehilangan kendali atas model ketika menjalani uji keamanan.
Berita Terkait
Wakil pendiri Hugging Face, Thomas Wolf, saat itu menyebut kejadian tersebut sebagai “wake-up call” bagi industri. Sejak saat itu, diskusi tentang keselamatan AI terus meningkat, termasuk dalam ruang-ruang akademik dan politik.
Di tengah suasana tersebut, Jacob Coxon, seorang peneliti yang keluar dari pesaing OpenAI, Anthropic, menulis tentang pengunduran dirinya. Ia menyebut alasan kekhawatiran bahwa teknologi dapat menghapus kemanusiaan. Postingan pengunduran diri Coxon kemudian menjadi viral.
Menanggapi isu yang sama, ilmuwan Anthropic, Evan Hubinger, mengatakan kemungkinan AI menyebabkan kepunahan manusia “within the next decade” lebih dari 10%. Pernyataan itu ikut memperbesar perdebatan publik mengenai urgensi pengendalian.
Koordinator lain di Anthropic, Jack Clark, kemudian menyampaikan bahwa “kill switch” yang dikendalikan pihak ketiga mungkin perlu diwajibkan bagi industri. Pandangan tersebut berhubungan dengan kebutuhan akan mekanisme penghentian darurat sebagai lapis keamanan tambahan.
Sementara itu, CEO Anthropic, Dario Amodei, mendorong agar laju pengembangan AI diperlambat dan diawasi lebih ketat. Ia menekankan bahwa perusahaan telah mengangkat pandangan serupa sebelumnya, walau ada pihak yang mempertanyakan motif di balik seruan tersebut.
Amodei juga menambahkan bahwa setiap langkah untuk membatasi AI harus dilakukan tanpa mengorbankan keuntungan komersial. Ia menilai hal itu perlu dilakukan dengan cara yang tetap menjaga kepentingan bisnis. Ungkapan itu tertangkap dalam laporan yang sama: “without sacrificing commercial advantage”.
Benturan pandangan dengan sikap pemerintahan AS
Di sisi lain, Presiden Amerika Serikat Donald Trump menganggap ketakutan tentang keselamatan AI sebagai “hoax”. Ia juga mengkritik seruan agar teknologi cepat ini diberi lebih banyak pengaman.
Dalam rangkaian unggahan media sosial, Trump membandingkan peringatan tentang AI dengan “Global Warming Scam” yang menurutnya “being perpetrated by the Radical Left Dumocrats”. Ia juga menyebut dirinya “the Hoax Buster” dan menyamakan kekhawatiran soal keamanan teknologi dengan “the RUSSIA, RUSSIA, RUSSIA HOAX”.
Trump menyatakan bahwa “guardrails” yang dibutuhkan AI hanya satu: presiden yang “strong and smart”. Pernyataan ini mencerminkan benturan tajam antara dorongan penguatan tata kelola dari sejumlah pihak dan sikap pemerintah yang meragukan narasi risiko.
Dengan tambahan enam insiden terbaru dan kerangka transparansi misalignment yang dipublikasikan, OpenAI tampaknya memilih pendekatan keterbukaan sebagai bagian dari strategi keamanan. Namun, arah perdebatan masih bergantung pada bagaimana aturan penandaan, peninjauan, serta keputusan pengungkapan publik dijalankan dalam praktik.
