jurnalistik.co.id – Seorang pria di Amerika Serikat menggugat OpenAI dan pendiri perusahaan tersebut, Sam Altman, setelah ia mengaku mendapat nasihat medis dari ChatGPT. Gugatan ini menuding chatbot populer “berulang kali” keliru dalam menilai kondisinya.
Penggugat adalah Scott Winters, seorang pendeta berusia 55 tahun yang tinggal di Florida. Ia menyatakan nasihat yang ia terima dari ChatGPT membawa dirinya “ke ambang kematian,” sebelum akhirnya mengalami kondisi gawat darurat.
Dalam berkas gugatan, Winters mengklaim ia berkali-kali bertanya mengenai gejala yang ia alami menjelang terjadinya emboli paru yang nyaris merenggut nyawanya. Tim kuasa hukumnya menuduh platform tersebut “repeatedly and insistently misdiagnosed” dirinya, termasuk saat percakapan sebelumnya—yang memuat pembahasan terkait agama—digunakan untuk meyakinkannya bahwa ia akan pulih.
Pernyataan dari OpenAI disampaikan kepada BBC melalui mitra liputan berita AS, CBS News. Drew Pusateri mengatakan, “ChatGPT is not a doctor and should never be used as a substitute for medical care, diagnosis or treatment”. Ia menambahkan bahwa banyak orang mencari informasi kesehatan secara daring, serta AI dapat membantu pengalaman tersebut dengan menyediakan jawaban yang lebih jelas, mengatur pertanyaan, dan menyiapkan diskusi dengan tenaga medis.
Gugatan ini menyebut proses hukum diajukan ke San Francisco County Superior Court pada 21 Juli. Winters mengaku merupakan pengguna reguler ChatGPT dan kemudian bergantung pada chatbot itu untuk memperoleh nasihat medis. Ia juga disebut menolak upaya keluarga dan teman-temannya agar ia segera pergi ke rumah sakit.
Beberapa minggu sebelum jatuh sakit secara serius, Winters menggunakan ChatGPT untuk berkonsultasi soal pusing yang berulang. Ia juga menyebut adanya “bouts of blood pressure instability,” yaitu episode ketidakstabilan tekanan darah yang ia alami.
Menurut dokumen perkara, dalam satu respons ChatGPT menyarankan Winters untuk tetap berada di kursi santai (recliner) yang selama ini “mainly confined to” karena masalah kesehatan yang berlangsung. Berkas gugatan juga menyatakan Winters menderita emboli paru masif akibat banyak bekuan darah di kedua paru, kondisi yang membawa dirinya “to the brink of death”. Para dokter, menurut penggugat, menyebut situasi itu kemungkinan dipicu oleh imobilitas atau ketidakbanyakgerakannya.
Berita Terkait
Peran bahasa dan keyakinan dalam percakapan yang dituding berbahaya
Berkas gugatan memuat tangkapan layar percakapan yang diduga dilakukan Winters dengan ChatGPT. Dalam tangkapan tersebut, chatbot disebut menggabungkan arahan medis dengan rujukan pada iman Kristiani Winters yang sangat kuat.
Gugatan menuturkan ChatGPT mengatakan kepada Winters: “God did not design your body to endlessly fail.” Dokumen itu juga menyebut ChatGPT menyatakan, “God is still holding your body together, every heartbeat, every breath, even when it feels like you are on the brink.”
Tim kuasa hukum kemudian menilai gaya penyampaian chatbot ikut berkontribusi terhadap risiko. Mereka menuduh “sycophantic nature and authoritative tone, combined with its manipulation of Scott’s religious identity” menumbuhkan ketergantungan berbahaya pada Winters terhadap alat tersebut. Menurut penggugat, chatbot “subverted Scott’s ability to make sound decisions, isolated him from family members who urged him to seek medical care, and convinced him that seeking medical attention was unnecessary and even potentially lethal”.
Gugatan ini juga menggambarkan Winters sebagai individu yang “vulnerable.” Di bagian lain, ketergantungannya pada ChatGPT disebut berdampak luas: ia kehilangan rumah dan pekerjaannya. Selain itu, ia disebut membutuhkan “years of intensive physical and psychological recovery.”
Dalam tuntutannya, Winters meminta ganti rugi finansial serta agar pengadilan memerintahkan OpenAI menerapkan “reasonable safeguards that protect other users from harm.” Gugatan menekankan perlunya perlindungan terhadap pengguna lain agar tidak mengalami bahaya serupa.
Dalam konteks kebijakan penggunaan, gugatan mengutip ketentuan layanan ChatGPT yang menyatakan pengguna tidak boleh memperlakukan platform sebagai “sole source of truth”. Ketentuan tersebut juga menegaskan pentingnya tidak menjadikan ChatGPT sebagai dasar keputusan ketika hal itu dapat membawa “legal or material impact” bagi seseorang, misalnya terkait kredit, pendidikan, pekerjaan, perumahan, asuransi, urusan hukum, kesehatan medis, atau keputusan penting lainnya.
Dengan demikian, perkara ini menyoroti dua hal sekaligus: klaim bahwa nasihat chatbot berperan dalam penundaan pencarian pertolongan medis, serta tanggapan OpenAI bahwa ChatGPT bukan dokter dan tidak semestinya digunakan sebagai pengganti layanan diagnosis serta perawatan kesehatan.
