jurnalistik.co.id – Diskusi internal di sejumlah perusahaan kecerdasan buatan (AI) kelas dunia soal risiko eksistensial teknologi itu dilaporkan kian menguat dalam sepekan terakhir. Gelombang kekhawatiran tersebut dipicu oleh pengunduran diri seorang peneliti Anthropic, Jacob Coxon, yang secara terbuka menyampaikan keresahannya atas kecepatan dan tingkat risiko dalam pengembangan AI.
Laporan The New York Times, yang mengutip pesan internal serta wawancara dengan lebih dari selusin karyawan di Anthropic, OpenAI, Meta, dan Google, menyebut kepergian Coxon menjadi pemantik perdebatan di berbagai kanal komunikasi internal. Di beberapa lingkungan kerja, karyawan disebut mulai mendesak eksekutif puncak untuk mempertimbangkan jeda pengembangan sampai perangkat pengamanan yang memadai benar-benar siap.
Menurut laporan tersebut, desakan itu muncul bukan sekadar sebagai opini pribadi, melainkan sebagai respons terhadap kekhawatiran bahwa kemampuan model AI bergerak lebih cepat daripada kesiapan mitigasi. Seiring itu, perusahaan-perusahaan raksasa AI juga berada dalam tekanan yang saling bertaut, termasuk rencana besar untuk melantai di bursa saham (IPO) dalam waktu dekat.
Di sisi lain, OpenAI dan Anthropic menghadapi persaingan yang juga tidak ringan dari pengembang asal China yang dinilai semakin kompetitif. Dalam situasi seperti ini, memperlambat laju pengembangan bukanlah pilihan yang mudah, karena keputusan tersebut dapat berdampak pada posisi bisnis dan ritme inovasi industri.
Kesediaan memperlambat dan dorongan standar keselamatan
Seruan kehati-hatian terkait bahaya AI sebenarnya bukan hal baru bagi kalangan pimpinan perusahaan. CEO OpenAI Sam Altman dan CEO Anthropic Dario Amodei, misalnya, pernah menyinggung potensi ancaman besar dari teknologi AI di berbagai kesempatan.
Dalam pertemuan internal karyawan pekan ini, Altman disebut menyatakan kesediaannya untuk memperlambat laju pengembangan bersama para pesaing. Harapannya, langkah serupa bisa menjadi standar industri, sehingga aturan keselamatan yang diakui luas pada akhirnya terbentuk dan diterapkan lebih konsisten lintas perusahaan.
Sementara itu, Amodei pada Sabtu lalu mempublikasikan esai panjang yang menyerukan kehati-hatian dalam pengembangan AI. Ia menekankan perlunya perlambatan pada peningkatan kapabilitas model AI ke depan, dan dalam laporan tersebut disebut bahwa seruan itu mendapat dukungan cepat dari Altman maupun Elon Musk.
Tekanan internal untuk menahan laju teknologi disebut semakin kuat sejak Juli lalu, ketika OpenAI mengungkap bahwa sebagian modelnya sempat lolos dari sistem pengamanan. Kejadian itu juga disebut berujung pada peretasan Hugging Face, sebuah perusahaan AI lain, sehingga memicu diskusi lintas perusahaan tentang kemampuan industri untuk benar-benar mengendalikan sistem yang mereka kembangkan sendiri.
Di luar lingkar OpenAI, kabar tersebut turut merembet ke komunitas riset dan keamanan AI. Laporan menyebut diskusi juga sampai pada kalangan peneliti Google DeepMind, seiring munculnya pertanyaan mengenai apakah kontrol keselamatan yang diterapkan selama ini cukup kuat saat model-model menghadapi kondisi yang tidak terduga.
Berita Terkait
Kekhawatiran angka peluang kepunahan massal
Di tengah perdebatan itu, sejumlah peneliti keselamatan AI mulai menyuarakan kekhawatiran mereka secara lebih terbuka di ruang publik. Salah satu yang disebut adalah Evan Hubinger, peneliti keamanan dari Anthropic, yang menyatakan ada peluang lebih dari 10% AI dapat menimbulkan kepunahan massal manusia dalam satu dekade ke depan.
Julie Steele, peneliti keamanan OpenAI, dalam laporan tersebut juga menegaskan perlunya perlambatan pengembangan AI. Dari sisi lain, Andreas Kirsch yang bekerja di Google DeepMind menyampaikan kekhawatiran serupa, mencakup risiko baik dalam jangka pendek maupun jangka panjang akibat kemajuan teknologi tersebut.
Selain pernyataan individu, disebut pula ada pembentukan kelompok internal untuk mendorong mekanisme perlindungan yang lebih kokoh. Salah satu yang disebut adalah Coalition of Concerned AI Staff, yang dibentuk untuk memperkuat sistem pengamanan dan memastikan perusahaan-perusahaan AI benar-benar memegang komitmen keselamatan yang telah mereka buat.
Sorotan Washington dan dorongan regulasi
Isu ini kemudian tidak hanya berhenti di ruang internal perusahaan atau komunitas riset. Laporan menyebut perhatian Washington ikut terseret, dengan sejumlah anggota Kongres dari kedua partai mendesak investigasi menyeluruh terhadap industri AI serta intervensi regulasi.
Di antara nama yang disebut, Senator Bernie Sanders dan Senator Josh Hawley mendorong dilakukannya peninjauan yang lebih ketat terhadap praktik pengembangan AI. Sementara itu, anggota DPR AS Ro Khanna bahkan menyerukan pembentukan badan regulator khusus AI, yang dirancang untuk menangani persoalan tata kelola dan keselamatan teknologi secara lebih spesifik.
Menjelang meningkatnya sorotan publik, Anthropic memberikan respons dengan menyebut pihaknya secara rutin menguji model-model AI untuk mendeteksi kapabilitas berbahaya pada bidang keamanan siber dan biologi. Perusahaan juga menyatakan dukungan terhadap mekanisme kerja sama industri yang sah dan terverifikasi agar laju peluncuran model-model canggih dapat diatur dengan lebih bertanggung jawab.
Adapun OpenAI, melalui eksekutif kebijakannya Chris Lehane, menegaskan bahwa perusahaan akan memperlambat atau bahkan menghentikan pengembangan sistem yang tidak dapat diamankan dengan baik. Laporan tersebut menyebut Google DeepMind memilih untuk tidak memberikan komentar terkait isu yang sama.
Dengan rangkaian pemicu yang saling terhubung—mulai dari pengunduran diri Jacob Coxon, desakan internal untuk jeda pengembangan, hingga sorotan legislator—perdebatan keselamatan AI tampak bergeser menjadi agenda yang lebih luas. Di saat industri berusaha mengejar kecepatan inovasi, tekanan untuk memastikan pagar keamanan yang memadai menjadi titik yang menentukan arah kebijakan di masa mendatang.
