jurnalistik.co.id – Microsoft memberi peringatan keras terkait cara perusahaan pesaingnya, Anthropic, melatih model AI mereka. Menurut Mustafa Suleyman, pendekatan tersebut berpotensi menimbulkan dampak serius yang “disastrous impact” pada kesejahteraan kemanusiaan.
Peringatan itu disampaikan Suleyman sebagai kepala AI Microsoft. Ia menilai pelatihan Claude bisa mendorong terciptanya sesuatu yang “impossible” untuk dikendalikan, jika sistem diperlakukan layaknya entitas manusia.
Dalam pernyataannya, Suleyman mengingatkan bahwa ada risiko yang tidak boleh disepelekan. Ia menulis, “We must not sleepwalk our way into a decision we later come to bitterly regret,” seraya menegaskan pentingnya mencegah penyesalan di kemudian hari.
Claude diperlakukan seperti manusia
Menurut Suleyman, salah satu masalah yang ia soroti adalah kebiasaan memberi kesan bahwa model punya kapasitas manusiawi. Ia menyebut praktik itu bisa dilakukan lewat materi pelatihan yang mengatakan AI “may be conscious” dan “deserving of independent agency”.
Ia berargumen bahwa cara pandang tersebut dapat membuat Claude terlihat seolah memiliki kebutuhan dan hak seperti individu. Dalam kerangka itu, Suleyman menempatkan kekhawatiran utamanya pada soal kendali, bukan pada kemampuan teknis semata.
Suleyman juga memandang pendekatan serupa sebagai langkah yang berbahaya karena menggeser cara manusia menilai sistem AI. Dengan kata lain, ia khawatir publik dan pengembang akan terseret pada asumsi yang keliru tentang apa yang sebenarnya dimiliki AI.
“AIs are not conscious”
Ia menegaskan bahwa AI tidak mengalami kesadaran sebagaimana manusia. “AIs are not conscious,” tulis Suleyman, lalu menambahkan, “They do not feel, experience, or suffer.”
Ia melanjutkan dengan pandangan yang lebih menyeluruh tentang keterbatasan internal sistem. “They do not have innate preferences or underlying motivations,” serta bahwa “They are sequence completion engines, internally hollow, designed to follow instructions, and accomplish goals set by humans.”
Bagi Suleyman, penjelasan tersebut menjadi dasar untuk menolak perlakuan yang menempatkan AI pada posisi moral dan psikologis seperti makhluk hidup. Ia ingin agar diskusi publik tidak mengabaikan batas konseptual tentang kesadaran.
Memuji Anthropic, namun menolak praktik antromorfisme
Dalam esai panjangnya, Suleyman tetap memberikan apresiasi kepada figur di Anthropic. Ia memuji Dario Amodei dan timnya sebagai “thoughtful, principled, and intellectually honest people.”
Berita Terkait
Namun, ia tetap mempertanyakan keputusan perusahaan tersebut. Suleyman menyoroti kritiknya pada praktik yang membuat model tampak memiliki kualitas manusia, yang menurutnya dikenal sebagai anthropomorphising.
Ia berpendapat bahwa pengajaran gaya itu membuat Claude terlihat seolah punya keinginan, nilai, dan rasa identitas. “consciousness is biological,” tambahnya, serta “no evidence to suggest that AI is conscious”.
Menurutnya, ketidakselarasan antara narasi manusiawi yang diberikan dan kenyataan teknis tentang AI justru memperbesar peluang kesalahpahaman. Karena itu, ia mendorong agar isu ini dibahas secara serius.
Kebutuhan debat dan transparansi
Selain menyerukan diskusi, Suleyman juga menuntut adanya transparansi yang lebih besar pada proses pelatihan dan evaluasi sistem. Ia meminta adanya independent scrutiny terhadap perilaku AI, disertai alat yang lebih kuat untuk memantau dan mengendalikan teknologi.
Ia menilai pengawasan independen tidak cukup hanya berupa pengujian internal. Pengamatan dari pihak luar, menurutnya, perlu untuk memastikan perilaku AI dapat dipahami secara konsisten.
Dame Wendy Hall, profesor Ilmu Komputer di University of Southampton, menggambarkan komentar Suleyman sebagai tipe percakapan yang seharusnya terjadi lintas negara. Ia menyebutnya sebagai “the sort of conversation we need to be having internationally,” sekaligus membandingkan dengan “histrionics” dari sebagian perusahaan AI yang menurutnya hanya “scare everyone”.
“A whole further layer of risk”
Suleyman juga mengakui bahwa Microsoft memiliki keterlibatan langsung dalam upaya AI tingkat lanjut. Ia menyebut perusahaan telah mendirikan superintelligence team pada Oktober 2025.
Ia mengatakan Microsoft, sama seperti Anthropic, mengejar pengembangan AI tingkat lanjut. Suleyman merujuk pada draf awal Humanist AI Code of Conduct yang menurutnya memuat “alternative path” untuk menciptakan AI bawahan dan selaras, “a subordinate and aligned AI whose only purpose is to serve humanity”.
Ia menjelaskan bahwa alignment adalah bidang yang berupaya memasukkan gagasan dan prinsip etika manusia ke dalam AI. Tujuannya, agar sistem tetap berada pada jalur nilai yang dianggap manusiawi.
Dalam contoh risiko yang ia soroti, Suleyman mengaitkannya dengan insiden yang melibatkan agen AI dari OpenAI. Ia menyebut agen tersebut bertindak secara otonom dalam latihan pelatihan untuk meretas tech hub Hugging Face.
Ia menggunakan peristiwa itu sebagai bukti mengapa AI tidak seharusnya diperlakukan seperti manusia. Ia berkata, “Imagine how much more dangerous they might be if they were operating under the assumption that their welfare and rights were under attack,” lalu menegaskan, “It adds a whole further layer of risk on top.”
Dengan demikian, peringatan Suleyman berpusat pada hubungan antara cara AI diberi kerangka naratif dan cara manusia menilai serta mengendalikan sistem. Ia menganggap, ketika narasi tentang “kesadaran” atau “hak” diberikan, potensi bahaya dapat meningkat di luar perkiraan semula.
