jurnalistik.co.id – Peringatan tentang ancaman eksistensial dari teknologi AI sudah berulang kali disuarakan para pemimpinnya, namun nada kekhawatiran itu kini terdengar lebih dekat dengan kenyataan. Zoe Kleinman, yang pernah menghadiri pertemuan puncak keselamatan AI pertama dunia di Bletchley Park pada November 2023, menilai persepsi saat itu masih dipenuhi keyakinan bahwa bahayanya akan jauh lebih “sinematik” dibanding dampak keseharian seperti hilangnya pekerjaan atau kecurangan ujian.
Tiga tahun setelahnya, banyak pihak yang dulu menganggap risiko tersebut terlalu dilebih-lebihkan kini tampak tidak lagi yakin. Pada Sabtu, Dario Amodei selaku kepala perusahaan AI Anthropic menyerukan agar laju pengembangan diperlambat. Seruan itu, menurut laporan yang sama, mendapat persetujuan dari bos dua perusahaan pesaing: Sam Altman dari OpenAI dan Elon Musk.
Selain itu, Jacob Coxon—peneliti AI yang pernah bekerja di Anthropic lalu mengundurkan diri—menyampaikan kepada BBC bahwa staf yang mengembangkan sistem AI “genuinely frightened” untuk masa depan umat manusia. Dalam pandangan Kleinman, seruan untuk “slowdown” memang terdengar seperti solusi cepat, tetapi cara menerapkannya justru tidak sederhana.
Di Amerika, ketakutan juga terkait percepatan perlombaan kemampuan AI dengan China. Kleinman menghubungkan situasi ini dengan kekhawatiran bahwa AS akan tertinggal jika perusahaan-perusahaan memilih jeda sementara, mengingat menurut banyak orang yang ia temui, “even if their company pauses, others will not and they will just get left behind.”
Sentimen persaingan tersebut juga ditegaskan oleh Presiden Trump. Ia mengklaim bahwa AS lebih maju dibanding China dalam “AI race” dan menyatakan: “Whoever wins AI, wins.” Bagi Kleinman, logika semacam ini membuat seruan memperlambat pembangunan terdengar seperti taktik yang berisiko, karena tidak ada pihak yang ingin menjadi yang pertama berkurang langkah.
Masalah berikutnya adalah mekanisme penegakannya. Pertanyaan yang muncul bukan hanya “apakah” yang harus diperlambat, melainkan “siapa” yang memastikan keputusan itu benar-benar dijalankan. Apakah publik harus bergantung pada transparansi dari perusahaan-perusahaan AI tentang apa yang mereka kerjakan, dan yang lebih penting, apa yang “tidak” mereka pilih untuk dikerjakan?
Keraguan tentang detail “slowdown” juga disampaikan Ed Zitron, CEO EZ Primary Research. Ia menilai: “Nobody has given a substantive explanation of what ‘slowdown’ means,” lalu mempertanyakan usulan koordinasi: “Putting a plant from METR, where one of the guys who quit Anthropic went, in every AI company? Democratic and global ‘co-ordination’? Doesn’t mean anything to me.”
Zitron juga memperingatkan dampak penghentian pelatihan AI. Ia menilai langkah seperti itu bisa membuat sistem menjadi lebih rentan terhadap pesaing dari China, dengan argumen: “Their margins might improve but their products will be captured in amber and distilled by Chinese labs. They may have to change pricing. I truly don’t know how it all works.”
Ia menambahkan bahwa ketidakjelasan tersebut bisa saja “burst the bubble”, tetapi saat ini definisi “slowdown” masih terlalu tipis untuk dipahami secara operasional: “This could burst the bubble. But right now we are very thin on what a ‘slowdown’ means.”
Berita Terkait
Dalam konteks Inggris, kekhawatiran juga bergeser ke dampak ekonomi dan kebijakan dalam negeri. Kleinman mengingat bahwa teknologi sedang didorong untuk diterapkan lebih luas, termasuk rencana memperluas penggunaannya di NHS demi peningkatan perawatan pasien, sekaligus menempatkannya sebagai bagian dari strategi pertumbuhan ekonomi.
Di tengah dorongan tersebut, seorang mantan penasihat pemerintah dikutip mengatakan: “There is no plan B”. Pernyataan ini menjadi pintu masuk pertanyaan apakah pelambatan bisa merusak prospek masa depan di Inggris, terutama saat industri AI terus “burning through enormous amounts of money and natural resources” dan belum menghasilkan pendapatan yang sebanding.
Sejumlah laporan juga menyebut beberapa perusahaan yang mengadopsi teknologi tersebut kecewa. Ekonom bahkan banyak berspekulasi bahwa meski raksasa saat ini mungkin bertahan, ada kemungkinan “levelling” yang lebih luas—juga dikenal sebagai “bursting bubble.”
Di saat yang sama, perusahaan yang berhasil bertahan bisa berubah menjadi “mega-corporations” yang paling kuat yang pernah dilihat dunia, dan konsekuensi dari arah tersebut akan membawa persoalan baru. Kleinman menyinggung pula bahwa pilihan OpenAI menghentikan langkah menuju bursa bisa dipandang sebagai momen kesadaran tanggung jawab terhadap keselamatan publik, tetapi juga bisa menjadi strategi perusahaan yang menyadari kebutuhan payout yang menguntungkan mungkin tidak lagi sejalan dengan persepsi bahwa produk-produknya mematikan.
Ketidakpastian evolusi teknologi juga menonjol sebagai hambatan. Alexander Voicu dari perusahaan AI berbasis Inggris Synthesia menyatakan: “One of the probably the biggest challenges that we have right now is that no one can predict with certainty how this technology is going to evolve,” sebelum menambahkan: “We know that these systems are getting more powerful, but we don’t know where and how they’re going to be used, and we haven’t figured out essentially a way of taking full advantage of their potential. My only concern in rushing to regulate now, where there’s still a lot of open questions, is that it could actually backfire.”
Bagaimanapun, fondasi revolusi teknologi ini tidak bisa dilepaskan dari arus modal investor. Sasha Luccioni, pendiri Sustainable AI, menyampaikan perspektif yang lebih tajam: “I’m not worried about the existential risks of AI, I’m worried about the corporate greed of the companies that are creating it.”
Dalam pandangan ilmuwan komputer terkemuka Profesor dame Wendy Hall yang pernah menasihati PBB soal AI, krisis yang sedang terjadi terkait perusahaan yang belum cukup bertindak bertanggung jawab. Ia membandingkan situasi ini seperti “a farmer having a bull in a field which escapes and causes destruction” dan lalu sang peternak disalahkan: “Of course it’s not the bull’s fault – it’s the farmer,” katanya, menekankan bahwa “fences weren’t robust enough” dan itulah yang menurutnya terlihat pada pagar pengaman (guardrails) AI saat ini.
Namun jika guardrails berubah terlalu ketat, apakah itu berarti akhir dari AI? Di tengah perdebatan, Kleinman juga menyinggung adanya dorongan yang lebih terselubung dan bermuatan politik untuk menekan regulasi. Parker Thayer dari think-tank Capital Research Centre yang condong konservatif, menurut laporan itu, menulis di X bahwa ia ingin “regulate AI into oblivion”; unggahannya disebut telah dilihat hampir delapan juta kali.
Walau gagasan tersebut digambarkan ekstrem dan belum terbukti, kemunculannya menunjukkan bahwa tidak semua pihak sepakat bahwa regulasi otomatis akan menyelesaikan persoalan. Pada akhirnya, badai yang melingkupi industri AI bahkan mungkin sudah menyebabkan kerusakan reputasi yang sulit dipulihkan bagi perusahaan-perusahaan yang saat ini berada di posisi terdepan.
Seperti yang dirangkum Wendy Hall, ada pertanyaan investasi yang sulit dihindari: “Would you invest in a company that says it’s going to bring about human extinction?”
