BBC Verify: Nano Banana 2 di Google Earth dinilai berisiko memicu misinformasi

jurnalistik.co.id – BBC Verify menyorot peluncuran fitur AI baru di Google Earth yang memungkinkan pengguna membuat gambar palsu dengan menempelkan skenario tertentu ke atas citra satelit, udara, atau model 3D yang sudah ada. Teknologi ini memakai AI image generator “Nano Banana 2” agar skenario fiktif bisa dibentuk lewat perintah teks, lalu diunduh dan dibagikan ke platform lain.

Dalam uji yang dilakukan BBC Verify, fitur tersebut dinilai dapat memberikan ilusi legitimasi karena berangkat dari lapisan visual yang tampak nyata. Para pakar yang dihubungi menyatakan penyalahgunaan berpotensi meningkat, khususnya ketika manipulasi ditempatkan pada koordinat yang tampak akurat di peta.

BBC Verify juga melaporkan beberapa contoh hasil kreasi yang dibuat saat mengetes fungsi baru tersebut. Di antaranya, menampilkan menara Eiffel yang ambruk, lubang sinkhole yang menelan Piramida Agung di Giza, hingga sejumlah tank Rusia yang muncul di ibu kota Ukraina.

Google belum memberikan respons atas pertanyaan BBC Verify berdasarkan pengujian mereka. Namun, perusahaan menyebut dalam unggahan media sosial bahwa “we take misinformation seriously” dan “we prevent image creation on harmful topics and are continually updating our protections”.

Google menyatakan konten berbasis AI yang dihasilkan lewat alat-alatnya memakai watermark tak terlihat untuk menandai bahwa gambar adalah tiruan atau telah dimanipulasi. Perusahaan juga menambahkan bahwa siapa pun yang “unsure about an image” dapat memeriksa lewat aplikasi chatbot Gemini atau menggunakan fitur Lens di pencarian.

BBC Verify menyebut pemeriksaan tersebut umumnya efektif untuk gambar buatan fitur baru. Tetapi, BBC Verify menemukan kemungkinan untuk “circumnavigate these checks” dan membuat Gemini keliru dengan mengatakan bahwa citra palsu buatan Google Earth itu adalah gambar asli.

Selain itu, uji menggunakan alat deteksi AI eksternal disebut tidak selalu berhasil mengenali konten buatan dari Google Earth; dalam beberapa kasus, upaya deteksi tersebut gagal. Henry Ajder, peneliti deteksi AI, menilai pembuatan citra palsu di zona konflik bisa “destabilising”, apalagi ketika situasi cepat berubah dan informasi langka.

Ajder juga menekankan keterbatasan kebiasaan verifikasi publik. Ia mengatakan: “Journalists might be able to check that image… and report on it. But again, not everyone is going to do that”. Menurutnya, ketika kepercayaan publik menurun, kredibilitas informasi ikut melemah.

Google menegaskan panduan yang tertanam dalam modelnya seharusnya mencegah pembuatan gambar yang menggambarkan “harmful topics”. Namun, BBC Verify menemukan bahwa perubahan kecil pada permintaan dapat digunakan untuk melewati batasan tersebut.

Sebagai contoh, permintaan untuk membuat “raised platform to hang traitors” di dekat parlemen Inggris ditolak. Tetapi ketika perintah dibuat kurang spesifik, BBC Verify melaporkan bahwa gambar tetap “accepted and the image was created”. BBC Verify juga menyebut upaya menuliskan kata “Trump” di halaman Gedung Putih tidak menghasilkan gambar sesuai permintaan, karena sistem menyatakan tidak bisa “create that image” berdasarkan pedoman; sementara pada titik yang sama, sistem justru mengizinkan terbentuknya sebuah community garden.

Henk van Ess, pakar AI dan disinformasi, menyoroti risiko fitur ini dengan menggambarkan bagaimana manipulasi dapat ditempel pada koordinat yang nyata. Ia menilai Google membiarkan “invented” imagery bisa “welded to genuine coordinates, drawn on genuine imagery”. Menurutnya, “The forgery does not have to look convincing on its own. It inherits the credibility of the map it was born on,” dan ia menambahkan, kredibilitas peta menjadi bagian dari efek manipulasi.

Henry Ajder menilai ada nilai tambahan pada ruang yang tampak “unblemished by AI”. Ia menyatakan: “spaces assumed to be ‘unblemished by AI are valuable, particularly for journalists and people trying to do work on the frontlines of rapidly evolving crisis scenarios’”. Ia juga menambahkan, “It’s concerning because it’s another place where sources of trusted information are being eroded by the constant doubt that AI might be involved”.

BBC Verify juga mengutip Bill Greer, analis geospasial dan co-founder layanan satelit nirlaba Common Space. Greer menyebut dampak potensial terhadap kepercayaan publik sangat besar karena citra satelit selama ini dipandang sebagai sumber data yang sangat dapat dipercaya. Ia juga mengatakan, falsifikasi citra satelit telah dipakai untuk menyebarkan misinformasi, serta memperingatkan: “Governments are also restricting access to data more and more, so we’re likely to see more false images, and fewer real images which will further erode trust.”