jurnalistik.co.id – Seorang psikolog dari University of Aberdeen, Dr Clare Sutherland, bersama kolega di Australia menilai apakah pelatihan dapat membantu orang mengenali wajah yang dibuat komputer sebagai deepfake AI.
Penelitian ini berangkat dari perubahan besar di dunia visual: kecanggihan AI membuat gambar semakin sulit dibedakan dari foto manusia.
Namun, pertanyaannya tidak berhenti pada “bisa atau tidak bisa”. Sutherland ingin tahu apakah kemampuan mengenali deepfake bisa dibentuk lewat latihan terarah.
Dari kesalahan yang terlihat ke isyarat yang lebih halus
Dulu, membuat penanda deepfake relatif lebih mudah karena kesalahan yang kasatmata sering muncul di gambar buatan.
Fraudster, misalnya, kerap memanfaatkan visual yang masih menampilkan blunder seperti penambahan satu jari tambahan atau detail yang terasa janggal.
Di titik ini, cara lama sebetulnya mengandalkan “tanda yang jelas”. Tetapi Sutherland menjelaskan bahwa AI mempelajari kekeliruannya.
Prof Amy Dawel menuturkan, “Training on visual artifacts, like looking for a sixth finger or odd earrings, has had limited success, partly because the AI is getting too good, and fraudsters may avoid using pictures with obvious flaws anyway.”
Artinya, strategi yang hanya mencari cacat yang nyata tidak lagi cukup, karena kualitas deepfake terus membaik dan pelaku bisa memilih materi yang tidak menonjolkan kesalahan.
Uji pelatihan: orang bisa belajar “merasakan” wajah palsu
Sutherland memimpin riset berbasis psikologi di University of Aberdeen, sementara timnya juga melibatkan kolaborator di Australia.
Ia menyebut bahwa mereka memperhatikan pola: ketika melihat wajah, beberapa orang mulai “mendapat rasa” mana yang asli dan mana yang dihasilkan AI.
“So we thought, OK, it would be really interesting to see if we could teach other people this too,” ujarnya.
Dalam eksperimen, peneliti menyiapkan kumpulan ribuan wajah hasil generasi AI dengan alat bernama StyleGAN3.
StyleGAN3 dipakai karena termasuk salah satu generator wajah yang paling realistis yang tersedia.
Partisipan diuji sebelum dan sesudah mendapatkan pelatihan. Setelah pelatihan, penilaiannya dibimbing melalui perhatian pada sejumlah kualitas perseptual.
Enam kualitas yang dilatih pada partisipan
Peneliti melatih peserta dengan mengarahkan fokus pada enam karakteristik perseptual.
Pertama, Symmetry. AI, menurut riset, sering gagal mereplikasi detail kecil yang membuat wajah manusia terasa khas, seperti kelopak mata yang sedikit menurun atau senyum yang tidak seimbang.
Untuk kualitas ini, ada kalimat yang dirangkum secara langsung: “If it’s too good to be true, it probably isn’t.”
Kedua, Proportionality. Konsepnya berdekatan dengan penilaian bentuk dan ukuran: hidung yang sangat besar atau telinga yang menonjol tidak lazim pada deepfake.
Ketiga, Attractiveness. Sutherland menjelaskan bahwa “AI faces tend to look more attractive.”
Ia menambahkan, “That one is more subjective, an aesthetic judgement, but AI often creates faces that are pleasant looking.”
Keempat, Distinctiveness. Menurut peneliti, deepfake cenderung “menggerombol” ke arah rata-rata sehingga terlihat lebih generik.
Seperti yang dirumuskan dalam studi, “That could be something like ‘what would make a face stand out in a crowd?’ AI faces do tend to cluster towards the average. So they look a bit more generic.”
Kelima, Expressiveness. Wajah AI sering tampak kurang menunjukkan ekspresi emosional.
Sutherland menyatakan, “AI faces tend to look less emotionally expressive,” dan “They tend to show less emotion.”
Keenam, Memorability. Deepfake juga cenderung terlihat kurang mudah diingat.
Dalam riset disebutkan, “They often look less memorable – they’re difficult to remember.”
Berita Terkait
Peneliti juga menyinggung batas kemampuan AI dalam mereplikasi karakter tertentu, termasuk wajah non-putih, usia lebih tua, atau yang lebih muda, karena materi pelatihan AI lebih banyak melibatkan individu muda berkulit putih.
Setelah semua poin itu dijelaskan, peneliti menekankan bahwa petunjuk-petunjuk tersebut tidak selalu berupa “sinyal pasti” yang langsung membongkar deepfake.
Sebab, pendekatan yang dicari justru membuat peserta menjadi lebih peka pada karakteristik yang berulang, sampai muncul “feeling” atau firasat.
Performa meningkat tajam dalam waktu singkat
Riset menemukan bahwa partisipan bisa meningkat secara signifikan setelah paparan terhadap gambar, baik yang asli maupun yang dihasilkan AI, lalu diberi tahu mana yang mana.
Peningkatan itu terjadi bahkan “in the space of an hour or so”.
Secara angka, akurasi peserta biasanya naik dari sekitar 40% menjadi 80%.
Beberapa individu bahkan mencapai mendekati 100% ketepatan.
Hasil ini relevan dengan cara kerja otak manusia yang belajar dari data visual. Pada saat yang sama, ia juga paralel dengan cara model generatif belajar: diberi cukup informasi, performa bisa meningkat dari waktu ke waktu.
Kepercayaan diri juga berubah—dan itu penting
Studi turut mengkaji bagaimana tingkat kepercayaan diri peserta ketika mengidentifikasi gambar deepfake.
Penelitian sebelumnya, menurut Sutherland, menunjukkan orang sering terlalu yakin bahwa mereka bisa mengenali wajah AI, dan kelompok yang paling percaya justru membuat kesalahan paling banyak.
Setelah pelatihan, peserta ditemukan mengalami peningkatan kepercayaan diri saat menilai deepfake.
Sutherland mengaitkannya dengan kemampuan bertindak: “That’s helpful right?” lalu menambahkan, “Because if you don’t know when you’re correct or not, you can’t really do anything with that information.”
Kenapa pelatihan seperti ini berdampak di dunia nyata
Urgensi pembelajaran ini terutama terkait risiko penipuan.
Deloitte, firma konsultan global, memprediksi kerugian akibat penipuan deepfake AI di Amerika Serikat bisa melonjak hingga ÂŁ40bn tahun depan, dari ÂŁ12bn pada 2023.
Laporan Deloitte menyebut contoh skema ketika seorang karyawan di perusahaan berbasis Hong Kong memindahkan ÂŁ25m kepada penipu setelah panggilan video dengan deepfake yang meniru atasannya.
Contoh lain yang disinggung adalah penggunaan deepfake untuk pengintaian politik.
Sejak 2019, Associated Press meneliti kasus LinkedIn yang melibatkan profil seorang perempuan bernama Katie Jones.
AP menyatakan profil itu—termasuk fotonya—adalah fiktif. Katie Jones disebut seolah-olah spesialis “Russia and Eurasia” dengan relasi ke think tank dan lingkar kebijakan penting di Washington.
Namun AP mengklaim bahwa Jones sebenarnya adalah deepfake yang dibuat oleh intelijen Rusia, dan ia berhasil menjalin koneksi dengan para pembantu politik AS serta pejabat keamanan nasional tingkat atas.
Di Australia, seorang politisi juga mengusulkan adanya kewajiban untuk mengungkap serta “watermark” konten politik yang dibuat oleh AI.
Selain ancaman, ada kegunaan kreatif yang mungkin
Meski demikian, Sutherland melihat tidak semua potensi AI deepfake hanya bergerak ke arah negatif.
Ia menilai teknologi ini juga dapat dimanfaatkan secara positif, misalnya untuk menunjukkan secara cepat dan murah bagaimana rupa seorang anak yang lama hilang pada berbagai usia.
Menurutnya, jika masyarakat “engaging with it in good faith” dan orang mengetahui bahwa AI memang digunakan, teknologi ini bisa menjadi alat yang berguna untuk tindakan kreatif.
Saat ini, kabar baiknya adalah dunia belum sampai pada keadaan distopia di mana mustahil membedakan yang nyata dan yang dibuat komputer.
Kabar buruknya, model-model AI mungkin sudah “read” riset akademik yang sudah dipublikasikan, lalu terus belajar darinya.
