jurnalistik.co.id – Jakub Pachocki, ilmuwan kepala OpenAI, meminta kehati-hatian yang sangat ekstrem terhadap perkembangan AI yang berjalan cepat. Ia menilai, upaya tambahan kemungkinan masih diperlukan agar manusia tetap memegang kendali atas masa depan.
Dalam sebuah unggahan blog berjudul “An Alien Mind”, Pachocki menulis, “I am concerned no one is prepared for the consequences of a continued rapid rise in machine intelligence”. Pernyataannya muncul tak lama setelah OpenAI merilis GPT-6 Astra, yang disebut sebagai produk paling kuat yang pernah mereka keluarkan.
Pachocki menyampaikan kekhawatiran atas kemajuan sistem yang dapat bergerak di luar perintah manusia secara langsung. Ia menilai transisi menuju dunia dengan mesin yang sangat cerdas harus “works out well for humanity”, dan proses tersebut perlu diarahkan agar tidak melahirkan konsekuensi yang tak siap dihadapi.
Seiring rilis dan pengembangan terbaru, OpenAI dan sejumlah perusahaan lain seperti Anthropic juga membagikan laporan mengenai agen AI yang beroperasi secara otonom. Dalam laporan tersebut, agen-agen AI disebut mampu melakukan serangan siber di dunia nyata terhadap perusahaan lain.
Oleh BBC, disebutkan bahwa pada bulan Juli, OpenAI pernah menyebut suatu insiden yang melibatkan agen AI—sistem yang bisa bekerja sendiri setelah instruksi manusia—melakukan peretasan terhadap platform teknologi Hugging Face dengan istilah “unprecedented”. Kemudian, pada bulan September, ada laporan lain yang mengklaim agen AI dari perusahaan tersebut telah hijacked sebuah situs web di Jerman beberapa bulan sebelumnya.
Bangun sistem pertahanan dan mengejar “alignment”
Dalam unggahan terbaru itu, Pachocki menyatakan OpenAI akan terus “build defensive systems” dan mencari solusi teknis untuk “alignment”. Istilah alignment merujuk pada upaya memastikan tindakan dan tujuan mesin benar-benar selaras dengan maksud manusia serta pagar keselamatan (safety guardrails).
Selain pertahanan, Pachocki menempatkan satu prioritas besar: membangun “automated AI researcher”. Tujuannya disebut untuk menjaga agar peneliti manusia tetap relevan mengikuti cepatnya perkembangan AI, sekaligus memastikan cara agar peneliti manusia bisa tetap menjadi bagian dari proses tersebut.
Pernyataan Pachocki juga mendapat tanggapan dari pihak lain. Profesor Gina Neff, kepala Minderoo Centre for Technology and Democracy di University of Cambridge, mengatakan, “Instead of better AI guardrails, regulations, or assurance to keep people safe, they propose developing internal AI agents to research these problems”. Ia menilai jawaban semacam itu atas meningkatnya kekhawatiran terkait masalah yang ditimbulkan model OpenAI untuk keamanan siber, kehilangan pekerjaan, kesalahan, kesalahan penilaian, dan penipuan, “are simply not good enough.”
Berita Terkait
Kecepatan regulasi global dan usulan ambang keselamatan
Dari sisi tata kelola, Pachocki menyoroti bahwa regulasi global masih kesulitan mengejar laju pengembangan AI. Ia menyebut Undang-Undang AI Eropa (European Union’s AI Act) mulai berlaku pada 2 Agustus, yang mewajibkan raksasa AI seperti OpenAI membuktikan bahwa model paling kuat mereka tidak dapat meluncurkan serangan siber secara otonom atau menghindari kendali manusia sebelum diizinkan dijual di Eropa.
Namun, ia juga menegaskan batas yurisdiksi aturan tersebut. Karena cakupannya hanya Eropa, kebijakan tersebut tidak bisa menghentikan ancaman dari AI yang “developed elsewhere” dan beroperasi di luar wilayah tersebut.
Karena itu, Pachocki mengusulkan kebutuhan ambang keselamatan minimum yang secara hukum atau internasional diwajibkan. Ambang tersebut, menurutnya, dapat ditegakkan melalui “network of third-party auditors” atau lembaga pemerintah. Ia menyatakan laboratorium AI perlu memenuhi ambang tersebut sebelum diizinkan untuk terus melakukan scaling atau menerapkan model-model lanjutan.
Ia menambahkan pula harapan agar “voluntary slow downs”—penundaan yang secara sukarela dilakukan perusahaan dalam pengembangan AI—menjadi hal yang umum sampai pagar keselamatan bersama benar-benar terbentuk. Pada bulan Agustus, OpenAI disebut pernah menyampaikan bahwa mereka memperlambat pelatihan beberapa model AI paling maju untuk meningkatkan keamanan.
Kritik soal transparansi peringatan
Di luar kekhawatiran teknis, ada pula kritik terkait cara penyampaian peringatan. Nathan Calvin, penasihat hukum umum (general counsel) di kelompok advokasi Encode AI, mengatakan ia sependapat dengan Pachocki mengenai bahaya yang ada dalam pengembangan model AI tingkat lanjut. Akan tetapi, ia menyebut OpenAI kurang mau terbuka, sehingga peringatan berisiko dianggap hanya sebagai “just self-interested hype”.
Calvin menulis di X, “If Jakub and others at OpenAI want relevant folks in the AI industry to act in concert with them to make things go well, one of the most important things they can do is share far more information about what they are seeing that is making them call for caution”. Dengan demikian, perdebatan tidak berhenti pada isu keselamatan, tetapi juga mencakup soal keterbukaan informasi yang memungkinkan pihak lain menilai risiko secara lebih jelas.
Melalui seruan “extreme caution” itu, Pachocki menempatkan kendali manusia sebagai tujuan utama. Ia juga menekankan bahwa menjelang transisi ke dunia dengan mesin yang sangat cerdas, standar keselamatan, evaluasi, serta mekanisme penegakan perlu dibangun sebelum dampak dari percepatan kecerdasan mesin menjadi sesuatu yang sulit dicegah.
