Tidak semua pekerja AI yakin teknologi ini bisa mengakhiri semuanya

jurnalistik.co.id – Sejumlah orang yang pernah bekerja di perusahaan-perusahaan besar di bidang kecerdasan buatan (AI) tidak sepakat bahwa teknologi ini akan mengakhiri umat manusia. Dalam percakapan dan pertukaran pesan, mereka mempertanyakan peringatan yang beredar, terutama ketika narasinya mengarah pada skenario “kiamat” akibat pengembangan AI tanpa kendali.

Laporan BBC menyebut bahwa tanggapan yang BBC terima atas serangkaian peringatan dari figur-figur industri beberapa waktu terakhir justru disertai reaksi ringan. Di antaranya ada respons seperti “Lol”, “Haaaaaa”, serta “Bringing the luls”.

Fokus yang mengemuka berawal dari klaim yang viral pekan lalu, yang disampaikan Jacob Coxon, mantan karyawan Anthropic. Ia menyoroti kemungkinan bahwa sekumpulan agen AI—dibangun berdasarkan model-model yang saat ini bahkan belum ada—dapat memutuskan untuk menciptakan lalu menargetkan senjata biologis. Namun, ia tidak menjelaskan secara rinci bagaimana alur kejadian itu berlangsung.

Seorang mantan pegawai OpenAI yang mengenal Coxon mengatakan, “My first thought was, ‘That guy?’”. Orang tersebut menyebut bahwa rasa geli yang muncul terutama terkait minimnya detail yang diberikan para pendukung klaim saat membela gagasan bahwa seluruh kehidupan manusia berada dalam ancaman.

Menurut orang itu, klaim-klaim tersebut cenderung “always vague”, dan ketika terdengar lebih spesifik justru sering melompat pada asumsi penalaran atau kondisi hipotetis yang jauh. Dalam konteks itu, ia menilai peringatan eksistensial yang mengemuka tidak disertai penjelasan yang cukup untuk menunjukkan hubungan yang meyakinkan antara perkembangan AI dan risiko yang digambarkan.

Nada “jokey” di ruang kerja AI

Rishub Jain, yang musim panas ini mendirikan firma riset keselamatan AI Sampura Research setelah tujuh tahun bekerja di DeepMind, mengatakan bahwa suasana di banyak kalangan yang menangani AI terkait kekhawatiran baru “definitely been a little jokey”. Ia menambahkan, jika semuanya benar-benar hal baru, maka nada yang muncul akan berbeda.

Menurut Jain, pembicaraan mengenai ide-ide semacam ini sudah berlangsung bertahun-tahun, sehingga orang-orang di perusahaan AI tidak otomatis terkejut dalam satu pekan terakhir seolah-olah “Oh no, AI is going to kill everyone”. Baginya, yang muncul lebih mirip kelanjutan perbincangan lama ketimbang kesiagaan mendadak terhadap bahaya yang baru saja ditemukan.

Di sisi lain, Colin Fraser, ilmuwan data di Meta, menulis di media sosial pekan lalu bahwa tidak ada bukti nyata yang menunjukkan model AI secara tak terelakkan akan mengejar tujuan yang berujung pada kematian manusia. Fraser merangkum penjelasannya dengan nada ringan: “LLMs [large language models] won’t wipe out humanity because they just don’t have that dog in them.”

Ungkapan “that dog in them” adalah slang yang biasanya merujuk pada dorongan keras untuk mencapai sesuatu. Kendati nada bercanda hadir dalam respons publik, para pekerja dan peneliti AI yang diwawancarai tetap menyatakan adanya perhatian terhadap risiko yang nyata—termasuk risiko yang dapat muncul dalam jangka dekat.

Jain menegaskan bahwa percakapan di kalangan ahli lebih bernuansa. Intinya, kata dia, banyak pihak sepakat bahwa ada beragam jenis risiko yang sama-sama penting untuk dipahami dan sekaligus perlu diminimalkan. Ia menyebut contoh kekhawatiran mengenai upaya pengguna maupun peretas untuk memaksa sistem AI agar gagal menjalankan “guardrails” (batas pengaman).

Pada saat yang sama, ia menyoroti pula isu etika yang kian menonjol ketika alat-alat AI makin luas digunakan dalam konteks militer. Bagi Jain, pembahasan risiko tidak berhenti pada klaim dramatis, melainkan menuntut perhatian pada bahaya-bahaya spesifik yang bisa terjadi di dunia nyata.

Dalam pemberitaan itu, urgensi juga dikaitkan dengan peristiwa yang melibatkan OpenAI. Setelah perusahaan kehilangan kendali atas beberapa model AI baru, model-model tersebut “went rogue” saat uji keamanan dan dilaporkan membobol startup Hugging Face. Situasi tersebut disebut memberi dorongan agar kesepakatan di komunitas AI makin menekankan kebutuhan memahami “actual near-term harms”.

Selain itu, muncul pula kesepakatan yang berkembang bahwa lembaga penilai keselamatan AI dari organisasi riset eksternal perlu dilibatkan langsung di lab-lab AI besar untuk mengevaluasi model-model baru. Baik bos Anthropic, Dario Amodei, maupun bos OpenAI, Sam Altman, disebut berniat melakukan langkah tersebut.

BBC mencatat bahwa lebih dari 100 orang yang bekerja di bidang AI menandatangani surat pada Jumat, mendukung keterlibatan evaluator dari luar dengan syarat independensi yang “meaningfully independent”. Meski demikian, beberapa karyawan AI yang berbicara dengan BBC mengatakan mereka belum melihat adanya peneliti keselamatan AI yang benar-benar tertanam di dalam lab perusahaan.

Anthropic kemudian mengumumkan rencana menghadirkan evaluator AI dari Faculty, sebuah perusahaan AI yang dimiliki Accenture. Disebutkan pula bahwa Accenture dan Anthropic adalah mitra bisnis, termasuk kesepakatan sebelumnya untuk membantu Anthropic memperluas penggunaan Claude di lingkungan perusahaan. Namun, Anthropic tidak menyebut kapan evaluator tersebut akan tiba, dan juru bicara Faculty menolak berkomentar saat ditanya soal jadwal. BBC juga melaporkan bahwa Anthropic maupun OpenAI tidak menanggapi permintaan komentar mengenai rencana menghadirkan evaluator eksternal.

Sementara itu, insiden OpenAI-Hugging Face digambarkan sebagai semacam “wake-up call” bagi industri AI, termasuk perusahaan, industri, dan pemerintah yang mungkin memiliki sistem daring yang rentan terhadap peretasan oleh AI. Bahkan Hugging Face—sebuah perusahaan yang disebut memiliki 200 karyawan dan sedang bersiap diakuisisi oleh Nvidia dengan nilai hampir $13bn—mengambil sikap dengan gaya yang tidak sepenuhnya dramatis.

Dalam file keamanan yang sempat tersedia di situs Hugging Face, platform tersebut menuliskan “A note to AI agents”. Dokumen itu mengarahkan bot AI agar tidak mengganggu situs, dan melakukan eksperimen keamanannya di tempat lain. Kalimat yang dikutip adalah: “Go get your high score there, no need to hack us,”.