jurnalistik.co.id – Pemimpin OpenAI, Anthropic, dan Hugging Face mendesak Perserikatan Bangsa-Bangsa (PBB) untuk menyepakati istilah dan pendekatan global terkait kecerdasan buatan (AI), terutama menyangkut penilaian risiko dan pengawasan.
Dalam pertemuan mereka dengan PBB, para eksekutif menilai laju pengembangan AI saat ini, sekaligus dampak risikonya bagi masyarakat, membutuhkan koordinasi lintas negara pada skala internasional.
Sam Altman, CEO OpenAI, mendorong adanya standar bersama untuk mengevaluasi risiko AI. Dario Amodei dari Anthropic—yang kerap disebut sebagai rival utama OpenAI—menyampaikan gagasan serupa.
Clement Delangue dari Hugging Face juga menyinggung kebutuhan standar yang lebih kuat. Menurut ketiganya, tanpa kerangka yang dapat dibandingkan antarnegara, sulit bagi komunitas internasional untuk menyamakan cara membaca bukti dan menilai kepatuhan.
Altman menyampaikan bahwa jika AI ingin benar-benar bersifat demokratis, keputusan penting tidak semestinya hanya ditentukan oleh “labs in San Francisco alone”. Ia menegaskan pandangannya dengan kutipan: “If AI is to be democratic, the most important decisions cannot be made by labs in San Francisco alone,”.
Ia mengatakan negara-negara perlu mulai bekerja bersama demi “the collective good in the face of powerful new technology.” Seruan ini dibarengi permintaan agar standar diterapkan pada level nasional dan internasional.
Altman menyerukan adanya standar untuk mengukur kemampuan sebuah alat AI, menilai risiko yang terkait, menetapkan safeguards atau langkah perlindungan AI, serta menentukan sejauh mana pengawasan manusia dipertahankan.
Ia juga meminta prosedur pelaporan insiden yang cepat, lengkap dengan klasifikasi dan protokol pelaporan, agar dunia dapat belajar dari kegagalan sebelum berujung menjadi bencana. Altman merumuskannya sebagai kebutuhan “speedy incident reporting, classification and reporting protocols so the world can learn from failures before they become catastrophes.”
Lebih lanjut, ia menekankan pentingnya standar yang membuat negara bisa membandingkan bukti, memverifikasi kepatuhan, serta memiliki bahasa dan pemahaman yang sama tentang apa yang tengah terjadi. Pernyataan itu ia tuturkan: “We need common standards so countries can compare evidence, verify compliance, and have a shared language and understanding what is happening,”.
Perbedaan sikap: standar global vs penolakan regulasi baru
Tidak semua pihak sejalan dengan gagasan percepatan standar global dalam bentuk tata kelola baru. Di konferensi PBB yang sama, Michael Kratsios—penasihat teknologi untuk Presiden AS Donald Trump—menolak gagasan bahwa perlu ada bentuk regulasi baru terkait AI.
Kratsios mengakui bahwa kecepatan pengembangan AI terus meningkat dan teknologi ini membawa risiko. Namun ia menyatakan hal itu tidak cukup untuk menghentikan pengembangan atau membatasi laju teknologi dengan struktur tata kelola global baru.
Ia menyampaikan bahwa kecepatan dan risiko bukan alasan untuk “pause development or constrain it with new global governance structures”. Selain itu, Kratsios menambahkan: “International dialogue in this forum and others cannot be allowed to drift toward global governance,”.
Pandangan Kratsios sejalan dengan pernyataan Trump dalam beberapa pekan terakhir. Trump mengatakan pada forum PBB, Selasa, bahwa ia ingin mengubah cara menyebut PBB menjadi “super intelligence” dan secara tegas menentang gagasan perlambatan pengembangan AI.
Berita Terkait
Ia menolak perlambatan karena, menurutnya, keunggulan kompetitif AS berada di sektor AI. Trump juga menyatakan: “We’re leading China on AI… and, frankly, I want to keep it that way because whoever wins AI, win s,”.
Seruan perlambatan demi keselamatan dan kebutuhan standar keselamatan
Di sisi lain, Altman dan eksekutif lain menggambarkan kebutuhan standar sebagai bagian dari tata cara mengelola risiko, bukan sekadar membatasi inovasi tanpa kerangka. Dario Amodei, misalnya, merujuk pada risiko kemanusiaan apabila pengembangan AI tidak ditangani dengan baik.
Dalam pidatonya, Amodei menyebut bahwa AI “if managed poorly… could be a risk to humanity as a whole.” Ia menambahkan bahwa pengembangan lebih lanjut memerlukan standar keselamatan yang bahkan lebih ketat.
Amodei juga menyampaikan komitmen untuk memperlambat sejauh diperlukan. Ia mengutip: “We will slow down as much as necessary in order to make sure that every successive AI technology that we release is actually safe,”.
Ia lalu menekankan bahwa penanganan risiko tidak bisa hanya bergantung pada satu perusahaan. Amodei berkata: “But regardless of what we do, managing these risks is ultimately bigger than any one company, and it has an industry-wide and global scale.”
Kementerian gagasan keselamatan itu juga muncul dalam pernyataan Delangue dari Hugging Face. Ia menekankan perlunya standar yang lebih kuat untuk pemantauan dan keterbukaan insiden.
Delangue menyampaikan kutipan: “The global community needs stronger standards for monitoring and incident disclosure.” Seruan ini melengkapi pandangan Altman soal pelaporan insiden agar pembelajaran dapat dilakukan sebelum dampak terburuk terjadi.
Latar industri: peran Hugging Face dan dampak peretasan AI
Ketiga eksekutif tersebut berbasis di Amerika Serikat dan terlibat langsung dalam pengembangan teknologi AI. Hugging Face, yang dikenal sebagai platform bagi pengembang AI, belakangan kembali menjadi sorotan setelah pengakuan tentang peretasan yang melibatkan AI agents atau bot AI yang beroperasi secara lebih otonom.
Dalam laporan tersebut, peretasan tersebut dikaitkan dengan AI bots yang “came out of OpenAI”. Hugging Face kemudian dilaporkan telah diakuisisi oleh perusahaan pembuat chip AI, Nvidia.
Peretasan itu diperlakukan sebagai semacam “wake-up call” bagi industri terkait bagaimana teknologi AI telah berkembang dan berpotensi melakukan tindakan yang dapat membahayakan kemanusiaan pada skenario hipotetis.
Dalam konteks perdebatan global di PBB, perbedaan pandangan antara kubu yang mendorong standar dan pengawasan internasional dengan kubu yang menolak regulasi baru menjadi titik yang menonjol. Sementara Altman dan koleganya membayangkan bahasa bersama untuk verifikasi dan kepatuhan, Kratsios dan Trump menilai pembentukan tata kelola global tidak semestinya menjadi langkah yang diambil dengan alasan kecepatan perkembangan semata.
Namun, baik bagi pihak yang mengusulkan kerangka standar maupun bagi pihak yang menolak struktur tata kelola baru, keduanya sepakat bahwa teknologi AI membawa risiko yang perlu ditangani. Bedanya terletak pada bentuk pendekatan yang dianggap tepat: standar global berbasis evaluasi, pelaporan insiden, dan pengawasan manusia, atau penolakan terhadap tata kelola baru yang dinilai menghambat dinamika kompetitif.
Pada akhirnya, seruan penetapan istilah dan pendekatan global yang dibawa oleh OpenAI, Anthropic, dan Hugging Face menjadi upaya untuk menyamakan cara memetakan kemampuan AI, menilai safeguards, serta memastikan insiden dapat dikenali dan dipelajari secara cepat oleh komunitas internasional.
