jurnalistik.co.id – Sam Altman, CEO OpenAI, mengatakan publik “right to be afraid” atas risiko dari perkembangan AI, sambil menegaskan perusahaan-perusahaan AI “should trust” bahwa mereka akan mengambil langkah yang benar. Pernyataan itu disampaikannya saat berbicara di sebuah konferensi tahunan di San Francisco yang diselenggarakan Salesforce.
Altman menyebut manusia semestinya dapat percaya bahwa industri akan bertindak sesuai kepentingan keselamatan. Ia mengatakan, “The world should trust that we are going to do the right thing because it’s the right thing and we feel the magnitude of this.”
Meski demikian, Altman tidak menampik bahwa kekhawatiran publik memiliki dasar. Ia mengaitkannya dengan perkembangan kemampuan alat-alat AI yang berlangsung cepat, sehingga skenario buruk tidak lagi sekadar fiksi.
Altman menjelaskan perubahan tersebut dengan menyatakan, “It doesn’t take as much imagination as it used to for [us] to imagine how this could go wrong.” Dari situ, ia menegaskan kembali, “I think the world is right to be afraid of this.”
Dalam kesempatan yang sama, Altman juga menyinggung konteks dinamika industri yang baru-baru ini meningkat tajam. Ucapannya muncul sebagai respons terhadap perbincangan luas setelah sebuah unggahan yang menjadi viral pekan lalu dari seorang peneliti yang keluar dari Anthropic.
Menurut laporan tersebut, peneliti yang mengundurkan diri mengklaim AI bisa membunuh seluruh manusia pada akhir dekade ini jika pengembangan dibiarkan tanpa kendali. Klaim itu kemudian memicu respons dari beberapa eksekutif dan pakar AI lain yang mengatakan mereka sejalan dengan penilaian tersebut.
Namun, respon yang muncul ke publik tidak diikuti penjelasan rinci mengenai alasan, cara, atau mekanisme bagaimana ancaman itu bisa terjadi. Seruan dan perhatian yang bertambah mendorong pengawasan terhadap laju pengembangan AI dalam beberapa hari terakhir.
Sebagai tanggapan, CEO Anthropic, Dario Amodei, menyerukan agar kecepatan pengembangan AI diperlambat dan pemerintah diminta untuk mengatur industri. Ia juga menekankan kebutuhan akan standar yang lebih ketat dalam proses pengembangan.
Unggahan viral itu disebut mendapat apresiasi dari sejumlah tokoh industri. Selain Altman, pendiri DeepMind dari Google, Demis Hassabis, serta Elon Musk—pemilik X dan asisten AI Grok—juga menyatakan dukungan.
Pada hari Selasa, sejumlah pemimpin AI lain mulai menyuarakan dukungan pada pendekatan pengaturan mandiri dibanding keterlibatan pemerintah. Altman menyampaikan keyakinannya bahwa perusahaan AI, termasuk perusahaannya, mampu menjalankan pengaturan demi keselamatan.
Altman menegaskan, “We will get it right, I’m very confident in our company’s and industry’s ability to do this safely,” lalu menambahkan keyakinannya terhadap prioritas penjajaran (alignment) dan keselamatan dibanding kemampuan teknologi. Ia berkata bahwa pihaknya “keep alignment and safety way ahead of capabilities” dan jika target tersebut tidak tercapai, pengembangan harus “slow down or stop”.
Setelah pernyataan Altman, CEO Meta Mark Zuckerberg juga menulis di X dengan gagasan bahwa setiap laboratorium AI memiliki kemampuan sekaligus insentif untuk mengambil langkah sendiri terkait keselamatan. Dalam postingannya, Zuckerberg menulis, “Any lab that doesn’t focus on alignment will fall behind,” serta menambahkan, “Labs face significant liability if their models cause harm, so they have a strong incentive to prevent this as well.”
Jensen Huang, pimpinan Nvidia, turut menyampaikan pandangannya pada konferensi yang sama. Ia mengatakan perusahaan-perusahaan AI perlu menentukan apakah versi baru teknologi layak dilepas dan tidak menyerahkannya sepenuhnya pada tekanan pihak luar.
Berita Terkait
Huang menyatakan, “We don’t need new laws or regulations,” seraya menolak gagasan bahwa industri harus memilih antara kecepatan inovasi dan keselamatan produk AI. Menurutnya, tidak boleh ada “false choice” antara kedua hal tersebut.
Huang juga mengaitkan isu keselamatan dengan pendekatan teknis. Ia menyebut, “Safety is paramount. However, safety is an engineering problem,” dan menambahkan prinsip bahwa bila seorang pemimpin AI tidak yakin pada produknya, keputusan paling tepat adalah tidak merilis.
Ia melanjutkan, “That’s a very obvious thing to do,” sambil merumuskan logika pengendalian: “Run as fast as you can, but if at any time you feel the institution is not in control, take a pause.”
Dalam pengamatan industri, Nvidia disebut menjadi perusahaan terbesar di dunia berdasarkan valuasi, dan keuntungannya melonjak sebagai dampak permintaan tinggi terhadap chip komputasi AI yang diproduksinya. Pernyataan Huang menjadi bagian dari perdebatan yang lebih luas mengenai cara memastikan AI berkembang secara aman.
Di sisi lain, sebagian figur industri berpendapat bahwa ketakutan AI yang menguat belakangan ini berlebihan, dan dimanfaatkan untuk menciptakan perhatian tambahan bagi industri. Saat berbicara kepada audiens ratusan pelaku bisnis, Altman mengatakan mereka perlu menggunakan alat AI untuk membantu pekerjaan.
Namun, Altman juga menyampaikan perlunya kemampuan yang sama untuk melindungi bisnis dari serangan siber yang berpotensi dipicu oleh AI. Dengan demikian, ia menempatkan AI sebagai alat yang bisa memberi manfaat sekaligus memerlukan kesiapan mitigasi risiko.
Gagasan bahwa eksekutif AI dibiarkan sepenuhnya mengatur diri sendiri mendapat kritik dari sejumlah pihak. Jack Clark, seorang eksekutif Anthropic dan juga pendiri, menyampaikan kepada BBC bahwa menyerahkan AI sebagai “totally unregulated industry” sama seperti “rolling dice with immense risks.”
Patrick Hillman, chief operating officer Logical Intelligence—yang dipimpin oleh Yann LeCun—menambahkan bahwa kepercayaan publik terhadap perusahaan teknologi untuk bertindak demi kepentingan umum masih sangat rendah. Hillman menyatakan, “The only institution that Americans might trust less than Washington these days is Silicon Valley.”
Ia kemudian menegaskan sikapnya dengan kalimat, “If you believe what you are building is dangerous, show us what you are prepared to stop doing,” sekaligus menyoroti kebutuhan adanya batas dan keputusan nyata bila risiko dianggap serius.
Meski demikian, pemimpin OpenAI dan Anthropic juga disebut telah mulai bekerja menuju semacam kesepakatan industri terkait keselamatan. Amodei, saat muncul singkat dalam konferensi pada hari Selasa, menyebut Anthropic kini berada dalam “a dialogue with the rest of the industry” untuk berkomitmen pada standar keselamatan yang lebih baik serta pemeriksaan atas alat dan proses pengembangan.
Amodei juga mengungkap kejutan dalam ledakan AI, bukan pada kemajuan teknologinya semata, melainkan pada dampak yang lebih luas. Ia mengatakan, “We didn’t appreciate that it would lead to companies growing so fast, and how quickly they would become central to things.”
Di tempat lain, eksekutif OpenAI, Chris Lehane, menyatakan bahwa perusahaannya bekerja dengan lab-lab AI lain untuk mendorong standar AI frontier. Ia menyebut adanya upaya sukarela yang dibangun sekarang, “with or without government support,” serta menyebut lab yang terlibat termasuk Anthropic dan Google DeepMind.
Lehane menutup dengan peringatan bahwa taruhan keselamatan terlalu besar untuk menunggu kesempurnaan. Ia menulis, “With stakes this high, we cannot let the perfect become the enemy of the good.”
