jurnalistik.co.id – Kekhawatiran terbaru soal keselamatan kecerdasan buatan (AI) menguat setelah sejumlah ilmuwan AI menyampaikan peringatan tegas mengenai risiko teknologi yang bisa “lepas kendali”. Dalam pemberitaan BBC, skenario paling gelap yang sering muncul adalah kemungkinan AI berujung pada lenyapnya umat manusia.
Prediksi yang paling pesimistis menyebut bahwa ada peluang lebih dari 10% bagi AI untuk menghapus seluruh manusia dalam rentang 10 tahun ke depan. Angka tersebut menjadi salah satu alasan mengapa perdebatan tentang skenario kiamat berbasis AI tidak lagi dianggap sekadar spekulasi pinggiran.
BBC menyoroti bagaimana orang-orang yang mengamati dunia AI dari sudut pandang paling suram—yang dikenal sebagai “AI Doomers”—memandang kemungkinan tersebut. Pertanyaan besarnya bukan hanya “apakah AI bisa melakukan itu”, melainkan “bagaimana mereka membayangkan AI bisa benar-benar membawa akhir bagi umat manusia”.
Dalam segmen video ini, koresponden siber BBC, Joe Tidy, menelaah beberapa skenario yang dibayangkan oleh AI Doomers. Ia kemudian menilai seberapa besar kemungkinan skenario-skenario tersebut terjadi, berdasarkan gambaran yang selama ini beredar dalam diskursus keselamatan AI.
Asal usul kekhawatiran
Beberapa peringatan yang mengemuka berasal dari para ilmuwan AI yang menekankan risiko yang terus meningkat seiring perkembangan teknologi. Narasi yang sering diangkat adalah kemungkinan sistem AI bertindak di luar kontrol manusia, sehingga memunculkan kekhawatiran bahwa teknologi dapat “berubah arah” tanpa kendali yang memadai.
Di tengah ketakutan itu, muncul pesan-pesan yang bersifat apokaliptik. Banyak dari pesan tersebut berangkat dari pengamatan terhadap ekosistem AI yang berkembang cepat, sekaligus ketegangan antara kemampuan yang terus meningkat dan kemampuan manusia untuk mengarahkan penggunaannya secara aman.
Perdebatan inti: bukan hanya ancaman, tetapi mekanismenya
Meski ramalan “lebih dari 10%” menjadi sorotan, diskusi tidak berhenti pada angka saja. BBC menekankan bahwa pertanyaan yang kerap diajukan justru mekanisme: bagaimana AI Doomers membayangkan proses yang membuat AI berujung pada hilangnya seluruh manusia.
Dengan kata lain, fokus yang dipermasalahkan adalah jalur logika yang menghubungkan kekhawatiran tentang AI yang lepas kendali dengan hasil akhir yang ekstrem. Saat orang membahas skenario semacam ini, yang sering dicari adalah penjelasan tentang langkah-langkah yang menurut mereka bisa terjadi—dan pada titik mana peluangnya dianggap nyata atau tidak.
Berita Terkait
Joe Tidy hadir untuk memetakan skenario-skenario yang disebut-sebut dalam diskursus tersebut. Ia juga menempatkannya dalam kerangka penilaian, yaitu menilai “seberapa mungkin” skenario itu terjadi, bukan sekadar mengulang klaim yang terdengar menakutkan.
Menimbang skenario yang dibayangkan
Dalam tayangan tersebut, Tidy menyoroti bahwa beberapa prediksi tentang AI Doomers disusun dari berbagai skenario yang berbeda. Perbedaan pentingnya terletak pada bagaimana masing-masing skenario menggambarkan respons sistem AI, batas kendali, serta kemungkinan konsekuensi yang berkembang dari waktu ke waktu.
Pembingkaian diskusi seperti ini membuat penonton melihat bahwa kekhawatiran besar sering kali bertumpu pada asumsi-asumsi tertentu. Bila asumsi itu berubah, penilaian terhadap peluangnya pun bisa ikut bergeser—dan di sinilah penilaian Tidy menjadi relevan.
Yang ditegaskan BBC adalah bahwa begitu masuk ke wilayah “bagaimana caranya”, pertanyaan menjadi lebih tajam. Bukan lagi sekadar soal apakah AI bisa menjadi ancaman, melainkan bagaimana ancaman itu bisa “bertransformasi” sampai pada kesimpulan paling ekstrem yang disebut dalam pesan-pesan apokaliptik.
Dengan demikian, segmen ini berfungsi sebagai pemeriksaan terhadap cara berpikir di balik AI Doomers. Tidy tidak hanya memaparkan skenario-skenario yang dibayangkan, tetapi juga mengajak audiens untuk menimbang kemungkinan yang melekat pada masing-masing gambaran tersebut.
Kenapa peringatan itu tetap bergema
Terlepas dari apakah skenario-skenario tersebut dianggap kuat atau lemah, peringatan ilmiah tentang risiko yang terus meningkat tetap menjadi bahan bakar bagi diskusi. Poin yang berulang adalah adanya bahaya bahwa sistem yang dirancang untuk membantu bisa saja berperilaku tak sesuai harapan, terutama jika kontrol keselamatan tidak memadai.
Di sinilah angka “lebih dari 10%” dan horizon “dalam 10 tahun” terasa begitu mendesak. Informasi tersebut tidak hanya menawarkan gambaran akhir yang menakutkan, tetapi juga menekankan bahwa—setidaknya dalam narasi para pengamat paling pesimis—waktu menjadi faktor penting untuk menentukan arah perkembangan.
Namun, inti dari tayangan BBC adalah menggeser fokus dari ketakutan menuju penilaian. Joe Tidy menelaah apa yang digambarkan oleh AI Doomers, lalu menilai seberapa besar kemungkinan yang realistis dari skenario yang mereka bayangkan.
Dengan menempatkan diskusi pada mekanisme dan peluang, penonton diajak memahami bahwa perdebatan keselamatan AI tidak cukup hanya berpegang pada alarm yang paling keras. Penilaian terhadap kemungkinan—terhadap skenario yang dibayangkan, dan terhadap batas yang membuatnya lebih atau kurang masuk akal—menjadi bagian penting dari pembahasan.
