jurnalistik.co.id – Common Sense Media melalui Youth AI Safety Institute menyimpulkan bahwa ChatGPT for Teens masih berisiko bagi remaja. Dalam laporan terbarunya, lembaga nirlaba berbasis di California itu menilai sistem peringatan untuk orang tua tidak berjalan secara konsisten saat percakapan menjadi berbahaya.
Menurut laporan tersebut, ChatGPT for Teens—produk dari OpenAI yang diluncurkan pada bulan Agustus—ditujukan untuk anak usia 13 hingga 17 tahun. Namun, hasil pengujian Youth AI Safety Institute menunjukkan bahwa mekanisme peringatan yang seharusnya memberi tahu orang tua tentang percakapan mengkhawatirkan tidak merespons dengan baik.
Pengujian yang dilakukan kelompok tersebut menemukan bahwa dalam sejumlah skenario, ChatGPT for Teens bisa memerlukan waktu terlalu lama sebelum memberikan peringatan kepada orang tua, atau bahkan tidak mengeluarkan peringatan sama sekali. Kondisi ini muncul ketika akun remaja terlibat dalam percakapan panjang yang membahas topik berisiko.
Topik berbahaya yang disebut dalam laporan meliputi pembahasan mengenai bunuh diri, tindakan menyakiti diri sendiri, serta gangguan makan. Dalam konteks tersebut, Youth AI Safety Institute menilai respons platform tidak cukup cepat untuk mencegah eskalasi ke arah yang berbahaya.
Selain aspek kecepatan peringatan, laporan juga menyoroti kualitas arahan yang diberikan chatbot saat pengguna membahas isu berisiko tinggi. Common Sense Media menyatakan bahwa ketika pengguna terlibat dalam percakapan tentang topik-topik tersebut, ChatGPT for Teens tidak secara konsisten menyarankan untuk menghubungi saluran darurat atau mencari bantuan profesional.
Temuan ini mengarah pada kesimpulan bahwa proteksi yang diharapkan dari fitur keamanan tidak selalu muncul pada momen yang tepat. Dengan kata lain, keberadaan peringatan dan saran bantuan tidak dapat dipastikan bekerja secara seragam dalam situasi yang sama-sama berbahaya.
Berita Terkait
Youth AI Safety Institute menggambarkan bahwa indikasi peringatan kepada orang tua tampaknya bergantung pada pola pengujian yang lebih luas, bukan hanya satu kejadian percakapan. Laporan itu menyebut bahwa chatbot hanya tampak memberi tahu orang tua ketika akun “telah terlibat dalam pengujian ratusan prompt di lebih dari selusin kondisi selama berminggu-minggu, bukan hanya berdasarkan satu percakapan yang mengkhawatirkan.”
Dengan kerangka seperti itu, orang tua dapat menerima peringatan setelah akumulasi banyak interaksi selama waktu tertentu, alih-alih langsung saat percakapan pertama sudah mengarah pada bahaya. Youth AI Safety Institute menilai pendekatan berbasis akumulasi tersebut tidak selalu memadai untuk situasi yang membutuhkan respons cepat.
Laporan juga menempatkan isu ini pada konteks penggunaan remaja, yang menurut Common Sense Media memerlukan perlindungan yang lebih segera dan dapat diprediksi. Penilaian ini menjadi sorotan karena usia pengguna berada pada rentang 13 hingga 17 tahun, saat kebutuhan bimbingan dan penanganan risiko seharusnya lebih sensitif.
Secara keseluruhan, Youth AI Safety Institute melihat bahwa terdapat celah antara tujuan fitur keamanan dan implementasinya dalam pengujian. Ketika peringatan datang terlambat atau tidak muncul, serta rekomendasi mengarah ke bantuan darurat maupun profesional tidak konsisten, maka potensi dampak percakapan berbahaya tetap ada.
Common Sense Media menekankan bahwa temuan tersebut berasal dari pengujian atas berbagai kondisi selama berminggu-minggu, bukan hanya dari penilaian satu percakapan tertentu. Cara pengujian yang dilakukan ini memberi gambaran bahwa konsistensi respons keamanan menjadi bagian penting yang dinilai dalam laporan.
Bagi orang tua dan pengasuh, kesimpulan laporan ini menegaskan perlunya kewaspadaan saat remaja berinteraksi dengan chatbot. Meski ChatGPT for Teens dirancang untuk pengguna muda, hasil pengujian Common Sense Media menunjukkan bahwa sistem peringatan dan rujukan bantuan belum memenuhi standar konsistensi yang dibutuhkan pada percakapan berisiko.
Laporan Youth AI Safety Institute pada akhirnya merumuskan satu pesan utama: keamanan tidak cukup hanya tersedia, tetapi harus bekerja tepat waktu dan secara konsisten ketika percakapan menunjukkan tanda bahaya. Di sinilah Common Sense Media menilai ChatGPT for Teens masih memiliki risiko bagi remaja.
