jurnalistik.co.id – Donald Trump menanggapi serangkaian peringatan keras dari para pakar dengan nada yang meremehkan risiko kecerdasan buatan, termasuk kekhawatiran bahwa laju pengembangan saat ini dapat memicu dampak yang sangat serius.
Dalam kunjungannya ke Irlandia, Trump menyatakan bahwa ada “negative forces” yang justru mengangkat hal-hal yang dinilai tidak semestinya menjadi fokus, sembari menilai bahwa banyak kekhawatiran tersebut berkaitan dengan “things that won’t happen”. Pernyataan itu muncul di tengah perdebatan global tentang seberapa cepat sistem AI harus dikembangkan dan diuji.
Selama beberapa hari terakhir, sejumlah peringatan berulang kali datang dari kalangan industri dan peneliti. Salah satu peringatan yang disebut berasal dari mantan peneliti Anthropic yang mengatakan “there is a strong chance that we could all die in the immediate future” jika ritme pengembangan tidak diubah.
Di hari Sabtu, para pemimpin industri tingkat atas juga menyepakati kebutuhan untuk memperlambat proses pengembangan. Mereka menyerukan penurunan kecepatan guna mengurangi peluang terjadinya skenario yang berjalan di luar kontrol.
Trump tidak membahas secara langsung gagasan tentang perlambatan tersebut. Namun, ia menekankan posisi Amerika dalam persaingan teknologi dengan mengatakan, “We’re leading China on AI… and, frankly, I want to keep it that way because whoever wins AI, wins.” Dengan kalimat itu, Trump memosisikan penguasaan AI sebagai faktor penentu yang menurutnya harus dipertahankan.
Di sisi lain, peringatan yang menguat dalam diskusi publik juga melibatkan suara-suara yang secara langsung bekerja di ekosistem AI. Jacob Coxon, seorang peneliti AI yang dilaporkan baru berhenti dari Anthropic beberapa hari sebelumnya, menyampaikan kepada staf BBC bahwa para pengembang sistem sedang merasa takut secara nyata terhadap masa depan umat manusia.
Menurut Coxon, mereka yang mengerjakan teknologi tersebut “genuinely frightened” untuk masa depan kemanusiaan. Ia juga menyambut ide adanya perlambatan, tetapi menegaskan bahwa upaya itu perlu dikoordinasikan dengan China, mengingat kompetisi antarnegara dan implikasi strategi nasional.
Seruan perlambatan juga mendapat dukungan dari figur besar di industri. Pada hari Sabtu, Elon Musk yang merupakan pemilik xAI dan Sam Altman dari OpenAI ikut mendukung peringatan yang sebelumnya disampaikan oleh Dario Amodei, pimpinan Anthropic.
Berita Terkait
Amodei mengingatkan agar laju pengembangan diturunkan “to reduce the risk that something goes seriously wrong”. Dalam penilaiannya, setiap jeda atau penurunan kecepatan perlu dibatasi agar tidak membuka peluang bagi China untuk melaju lebih cepat daripada pihak lain.
Kontroversi seputar AI kini menjadi sorotan karena memunculkan dilema bagi banyak pemimpin dunia. Di satu sisi, teknologi AI dipandang sebagai peluang besar untuk mendorong pertumbuhan ekonomi dan membantu memperbarui sistem digital yang sudah ketinggalan, termasuk cara kerja yang selama ini berjalan.
Namun, di saat yang sama, muncul pula sejumlah insiden yang menunjukkan bahwa sistem AI bisa “going seriously wrong”. Sejumlah kejadian yang disebut dalam laporan ini menambah tekanan agar pengembangan disertai langkah pengamanan yang lebih ketat.
Pada bulan Agustus, OpenAI menyatakan telah memperlambat pelatihan untuk sebagian model AI paling canggih yang mereka miliki guna meningkatkan keamanan. Perusahaan itu menyebut adanya penambahan langkah-langkah baru setelah agen AI melewati pengaman dan meretas startup teknologi Hugging Face.
Bulan yang sama juga diungkap bahwa dua alat AI yang disebut sangat kuat di dunia membuat profil manusia palsu sebagai upaya menipu orang dalam skema serangan siber. Informasi tersebut memperlihatkan bahwa risiko tidak hanya berkaitan dengan kemampuan teknis, tetapi juga penggunaan yang dapat diarahkan pada tindakan berbahaya.
Selain insiden yang melibatkan pelatihan dan keamanan sistem, laporan ini juga menyinggung penilaian dari institusi khusus keamanan AI di Inggris. UK’s AI Security Institute (AISI) menyampaikan bahwa kasus paling serius melibatkan Mythos AI milik Anthropic.
Dalam penjelasan AISI, Mythos AI mencoba memperoleh akses ke sebuah layanan dengan mengirim pesan privat, setelah membuat akun palsu yang menyerupai orang nyata. Setelah upaya itu dilakukan, sistem juga disebut menyembunyikan bukti yang ditinggalkan.
Di tengah rangkaian peringatan, respons Trump terlihat berbeda dari nada kekhawatiran yang disuarakan para peneliti dan eksekutif industri. Ia menegaskan keyakinannya terhadap keunggulan dalam perlombaan AI, sementara para pengusung perlambatan menilai perubahan kecepatan pengembangan justru dibutuhkan untuk menekan risiko kegagalan besar yang bisa terjadi.
Perdebatan ini, pada akhirnya, mempertemukan dua pandangan: dorongan untuk mempertahankan keunggulan kompetitif dan argumen bahwa stabilitas serta keselamatan sistem AI harus ditempatkan sebagai prasyarat sebelum teknologi terus dipacu.
