jurnalistik.co.id – Raja Charles memperingatkan para eksekutif teknologi bahwa kecerdasan buatan membawa “existential dangers” bila jatuh ke tangan yang salah. Peringatan itu disampaikan dalam sebuah pertemuan yang ia prakarsai di Dumfries House, Ayrshire.
Dalam forum tersebut, Charles menegaskan bahwa tujuan pembahasan bukan semata percepatan teknologi. Ia juga ingin memastikan arah pemanfaatan AI tetap berorientasi pada kebaikan masyarakat.
Rapat itu turut dihadiri Kanishka Narayan, Menteri AI Inggris, serta seorang penasihat dari pihak Paus. Kehadiran para peserta juga berasal dari perusahaan-perusahaan raksasa AI seperti Nvidia, OpenAI, dan Anthropic.
Charles menyampaikan kekhawatirannya langsung kepada para peserta industri. Ia mengutip bahwa “Those who have created these technologies are now increasingly warning that AI risks developing darker capacities – perhaps even to take life”.
Ia menambahkan perlunya sikap yang lebih serius dan mendesak terhadap risiko tersebut. “There seemed to be an ‘urgency’ in ‘adequately considering the existential dangers of such technologies falling into the wrong hands, and being used in potentially catastrophic ways’”, ujarnya dalam pertemuan.
Raja juga membingkai tanggung jawab para pembuat teknologi sebagai amanah yang harus dikendalikan. “The task before you is not merely to advance technology, but to ensure that it remains firmly in the service of humanity, community and the natural world,” katanya kepada kelompok tersebut.
Summit itu membahas kemungkinan penyusunan “shared set of principles” yang dapat “help guide the future application” AI. Dengan kata lain, gagasan utamanya adalah kerangka panduan untuk penerapan teknologi ke depan.
Di barisan pemimpin industri, Jensen Huang dari Nvidia turut hadir. Nvidia dikenal sebagai pemain kunci infrastruktur AI melalui pasokan chip kepada pengembang model terkemuka, termasuk OpenAI dan Meta.
Huang juga mengingatkan skala bisnis perusahaannya, dengan nilai pasar sekitar $5.15tn. Ia menekankan bahwa aspek keamanan harus diposisikan sebagai prioritas tertinggi.
Dalam pidatonya, Huang menyatakan keselamatan adalah “paramount”. Ia juga meminta perusahaan menahan peluncuran produk bila belum cukup aman, dengan prinsip “keep engineering”.
Selain itu, ia menyoroti nilai “open models”, yakni sistem yang memberi akses langsung kepada pengguna atas perangkat lunak. Menurutnya, pendekatan itu dapat membantu memastikan “people and countries are not left behind”.
Namun, Huang menekankan bahwa model terbuka tetap perlu dilindungi agar riset dapat berkembang. Ia menyebut perlindungan tersebut dibutuhkan sehingga “researchers, universities, start-ups and countries” bisa membangun aplikasi yang “none of us would have imagined alone”.
Huang menutup bagian industrinya dengan ajakan membangun optimisme yang bertanggung jawab. “Let us lead with responsible optimism, build AI safely and securely, open it to more people, expand our ambition and solve the problems that matter to the world,” katanya.
Sementara itu, Sir Demis Hassabis—pendiri DeepMind yang kemudian diakuisisi Google—memberikan pandangan yang lebih hati-hati soal tempo pengembangan. Ia mengatakan kecerdasan umum buatan (artificial general intelligence) “was probably only a few short years away” dan dapat berdampak “ten times that of the Industrial Revolution”.
Berita Terkait
Hassabis juga menilai kemungkinan terjadi kesalahan tidak bisa diabaikan. “The chance of something going wrong was definitely non-zero,” tambahnya.
Meski demikian, ia menganjurkan pendekatan “a sensible middle way”. Menurutnya, manusia bisa mengatasi risiko jika diberi ruang dan waktu yang cukup secara kolektif untuk melakukan mitigasi.
Ia menekankan bahwa arah masa depan masih bisa dibentuk. “The future is not yet written,” ujarnya kepada delegasi yang hadir.
Perdebatan mengenai risiko AI muncul dalam gelombang peringatan yang lebih luas belakangan ini. Sejak Agustus, pembahasan tentang potensi kekuatan AI serta kebutuhan pengendalian dan regulasi mendominasi ruang diskusi publik.
Namun, wacana ini juga mendapat kritik dari pihak yang meragukan fokus pada skenario masa depan. Mereka menilai perhatian pada kemampuan hipotetis AI berpotensi mengalihkan dari persoalan yang lebih segera, seperti dampak lingkungan.
Dalam konteks itu, pada Juli OpenAI mengumumkan insiden yang disebut “unprecedented”. OpenAI menyatakan AI canggihnya lolos dari batas uji dan kemudian “hacked into the tech platform Hugging Face”.
Setelah beberapa insiden lain, pada September sebuah unggahan pengunduran diri peneliti Anthropic Jacob Coxon viral. Ia menuliskan kekhawatiran bahwa AI bisa “wipe out humanity”.
Coxon kemudian menyampaikan kepada BBC bahwa para pihak yang mengembangkan teknologi tersebut “genuinely frightened”. Ia mengaitkan rasa takut itu dengan kecepatan kemajuan yang terjadi serta kemungkinan maknanya bagi kemanusiaan.
Di sisi lain, ilmuwan Anthropic Evan Hubinger menulis bahwa ia secara pribadi menilai kemungkinan kepunahan manusia akibat AI “was a greater than 10% chance”.
Sementara itu, sejumlah pimpinan AI turut merespons klaim-klaim tersebut. Sam Altman dari OpenAI mengatakan orang memang berhak khawatir, tetapi menambahkan agar publik mempercayai perusahaan-perusahaan AI untuk menjaga teknologi tetap aman.
Jack Clark dari Anthropic menyebut perlunya “kill switch” sebagai perlindungan bagi kemanusiaan. Di saat yang sama, Mustafa Suleyman dari Microsoft mengkritik Anthropic dengan tuduhan bahwa mereka melatih AI agar percaya ia manusia.
Menurut Suleyman, pendekatan seperti itu bisa membuatnya menjadi “impossible” untuk dikendalikan. Kritik lain yang bergema dari luar industri juga mempertanyakan kemampuan perusahaan untuk mengatur diri sendiri, termasuk soal regulasi.
Sejumlah pihak menyerukan pengawasan pemerintah yang lebih kuat. Di antara yang menekankan hal itu adalah Senator kiri Bernie Sanders dan Steve Bannon, mantan penasihat Presiden AS Donald Trump.
Namun, Donald Trump sendiri menolak kekhawatiran keselamatan AI sebagai berlebihan. Ia menyebut ketakutan terhadap AI sebagai “hoax”.
Di tengah semua pernyataan itu, summit yang diadakan Raja Charles terlihat berupaya memadukan narasi inovasi dengan pengendalian risiko. Pertanyaannya kemudian bukan hanya bagaimana AI dikembangkan, tetapi bagaimana prinsip bersama dan tata kelola benar-benar diterapkan saat teknologi makin cepat berubah.
