Orang Prancis menghadapi tantangan deepfakes

Jajak pendapat IFOP eksklusif untuk Alucare.fr.

Jajak pendapat IFOP : 

Dengan kemajuan menakjubkan yang dibuat dalam kecerdasan buatan, dunia sekarang dihadapkan pada deepfakes, gambar dan video fiktif yang sangat realistis dan dapat digunakan untuk tujuan hiburan, tetapi juga untuk disinformasi berskala besar dan kampanye kotor.

Meskipun banyak figur publik yang sering menjadi sasaran penyalahgunaan citra mereka, orang-orang anonim tidak kebal, seperti yang baru-baru ini terjadi di Spanyol dalam kasus gadis-gadis yang masih sangat muda yang menjadi korban montase foto seksual yang diposting di jejaring sosial.

Apakah orang Prancis menyadari fenomena ini? Apakah mereka merasa mampu menghadapinya? Apakah mereka takut akan hal ini bagi diri mereka sendiri dan bagi demokrasi?

Untuk mengukurnya, Alucare menugaskan IFOP untuk mensurvei lebih dari 2.000 orang. tentang pergolakan yang sedang terjadi dalam cara kita memandang dan akan memandang realitas di masa depan. Jawaban mereka mencerminkan ketidakpastian yang mereka hadapi akibat kemajuan teknologi yang dahsyat ini, keinginan mereka untuk mengetahui dengan jelas konten yang bersangkutan, dan ketakutan mereka untuk dihadapkan pada konten tersebut dalam kapasitas pribadi atau pada saat pemilihan presiden berikutnya.

Membedakan kebenaran dan kepalsuan: masalah bagi dua pertiga orang Prancis

Entah mereka tidak benar-benar memahami kehebatan kecerdasan buatan atau, sebaliknya, mengetahui betapa hebatnya kecerdasan buatan, hanya sepertiga (33%) orang Prancis yang merasa mampu mendeteksi gambar atau video yang dihasilkan oleh AI. Hanya 6% yang yakin akan hal ini, menunjukkan ketidakpastian yang menguasai populasi tentang masalah ini. Umumnya lebih nyaman dengan teknologi yang sedang berkembang daripada orang tua mereka, kaum muda adalah orang-orang yang mengatakan bahwa mereka paling mampu mengenali deepfake: lebih dari separuh (55%) dari mereka yang berusia 18-24 tahun mengatakan bahwa ini adalah masalahnya, dibandingkan dengan 28% dari mereka yang berusia di atas 35 tahun dan 12% dari mereka yang berusia di atas 65 tahun. Pria juga jauh lebih percaya diri daripada wanita dalam hal kemampuan pengamatan mereka, dengan 40% pria percaya bahwa mereka dapat melihat gambar seperti itu dibandingkan dengan 28% wanita..

 

Tes: sebagian gambar lebih menyesatkan daripada gambar lainnya

Tes yang diusulkan oleh IFOP dengan sempurna menggambarkan kesulitan membedakan gambar yang dihasilkan oleh kecerdasan buatan dari foto yang diambil dalam kehidupan nyata. Diminta untuk memeriksa lima gambar, para peserta diminta untuk menunjukkan gambar mana yang menurut mereka dihasilkan oleh kecerdasan buatan. Namun pada kenyataannya, semua gambar yang disajikan adalah "palsu".

Potret dokter yang sangat realistis menipu tiga perempat (75%) responden.Hampir dua pertiga (64%) percaya bahwa foto lama seorang pria yang sedang menunggang kuda, tipikal foto yang diambil pada awal abad lalu, adalah benar, tetapi sepenuhnya dibuat oleh AI. Di sisi lain, hanya 32% yang percaya akan kebenaran gambar seorang wanita yang sedang berjalan di jalanan Tokyo, sebuah gambar yang banyak digunakan oleh Open AI untuk mengumumkan peluncuran generator video Sora. Mantan Presiden Donald Trump, yang secara teratur menjadi berita karena perselisihannya dengan sistem peradilan AS, diperlihatkan dikelilingi oleh beberapa petugas polisi. "Foto" ini dianggap kredibel oleh lebih dari satu dari empat orang Prancis (29%), dengan lebih banyak wanita (32%) yang percaya akan keasliannya daripada pria (27%). Terakhir, gambar Paus Fransiskus dengan jaket putih, yang dipublikasikan secara luas di jejaring sosial beberapa bulan yang lalu, hanya menipu 13% orang yang ditanyai. Akhirnya, 94% responden percaya akan kebenaran setidaknya satu dari klise yang diajukan kepada mereka.

 

90% dari bahasa Prancis untuk menyebutkan asal

Jelas memperingatkan risiko disinformasi yang melekat dalam penyebaran gambar yang sepenuhnya realistis yang dihasilkan oleh AI, mayoritas besar (90%) orang Prancis mendukung pernyataan yang mengidentifikasi deepfakes sebagai sesuatu yang dibuat secara artifisial. Ekspektasi ini lebih tinggi di kalangan usia di atas 35 tahun (93% mendukung) daripada di kalangan usia yang lebih muda (79% di antara usia 18-24 tahun).

 

Petunjuk tidak selalu mudah dikenali

Dalam kurun waktu beberapa tahun, atau bahkan beberapa bulan bagi sebagian orang, alat kecerdasan buatan telah membuat kemajuan yang mengesankan dalam membuat produksi visual mereka menjadi lebih realistis. Namun demikian, beberapa detail tertentu masih bisa menunjukkan sifat aslinya, bahkan jika orang Prancis tetap berhati-hati dengan banyak detail tersebut. Bagi 59% orang Prancis, gerakan bibir yang tidak wajar dari tokoh yang sedang berbicara dalam video adalah petunjuk yang menurut mereka cukup mudah dikenali.. Demikian pula, fakta bahwa individu yang diwakili tidak cukup sering berkedip merupakan indikator yang baik untuk sepertiga (33%) orang Prancis.

Dalam proporsi yang sama, 32% menunjukkan kesulitan, yang sudah diketahui tetapi semakin jarang dibahas, dari AI yang menghasilkan gambar dalam mereproduksi tangan dengan benar. Kulit yang berkerut atau terlalu rata (29%), kacamata yang tidak memantulkan cahaya dengan benar (25%), bayangan di sekitar mata yang kurang tepat (21%), atau kurangnya rambut pada area wajah tertentu (15%), semuanya merupakan ketidaksempurnaan yang dianggap sebagai tanda peringatan yang potensial. Namun demikian, hanya sebagian kecil responden yang menganggap hal ini mudah dikenali.

 

Pengetahuan parsial tentang deepfakes

Mulai dari penyanyi Taylor Swift, yang menjadi korban pemalsuan pornografi di awal tahun ini, hingga pengumuman palsu Presiden Volodimir Zelensky tentang penyerahan pasukan Ukraina, hingga pernyataan Ursula von der Leyen yang baru-baru ini, yang juga palsu, tentang pemilihan umum Eropa yang akan datang, video yang dibuat oleh AI yang menampilkan orang sungguhan terus bertambah banyak. Dan bukan hanya selebriti dan politisi yang terkena dampaknya: September lalu di Almendralejo, Spanyol, hampir tiga puluh gadis muda berusia antara 11 dan 17 tahun menjadi target pemalsuan video yang menampilkan mereka tanpa busana.

Face à ce phénomène grandissant et inquiétant, près de 7 Français sur 10 (69%) indiquent avoir déjà entendu parler des deepfakes, mais seulement 30% savent précisément de quoi il s’agit. À nouveau, ce sont les jeunes générations qui sont le plus au courant de ce mouvement : 83% dari usia 18-24 tahun (dibandingkan dengan 66% dari usia di atas 35 tahun) menyadarinya dan 50% (dibandingkan dengan 15% dari usia di atas 65 tahun) memiliki visi yang jelas tentang hal ini.. Kesenjangan antara wanita dan pria tidaklah signifikan: sementara 24% wanita mengetahui dengan jelas apa itu deepfake, 37% pria mengetahuinya.

Satu dari tiga orang Prancis telah menyebarkan berita palsu

Deepfakes dan berita palsu termasuk dalam keluarga yang sama yang memberi makan disinformasi dan manipulasi opini publik. Manipulasi di mana sebagian orang Prancis mengaku berpartisipasi, bahkan tanpa disadari. Dan begitulah adanya, 31% dari mereka yang ditanyai (7 poin lebih banyak daripada studi BVA 2019) telah menyampaikan informasi kepada orang-orang di sekitar mereka yang kemudian terbukti salah.Kaum muda lebih mungkin untuk melakukannya (46%) daripada kelompok usia lainnya. Di sisi lain, lebih dari tiga perempat dari kelompok usia di atas 50 tahun mengatakan bahwa mereka tidak pernah melakukannya.

 

Penerimaan moral yang terkadang meragukan

Seperti yang telah kita lihat, kecerdasan buatan saat ini menyediakan banyak sumber daya dalam hal gambar, video, dan bahkan kloning suara. Dari berbagai penggunaan AI yang disajikan kepada mereka dalam survei ini, tidak ada satu pun yang dianggap dapat diterima secara moral oleh mayoritas orang Prancis. Yang paling diterima adalah pembuatan konten 'artistik' oleh kecerdasan buatan (42% menganggap hal ini dapat diterima secara moral) dan retouching foto di jejaring sosial dengan menggunakan filter (32%).

Yang lebih mengejutkan - dan tentu saja lebih mengkhawatirkan - adalah fakta bahwa 30% dari mereka yang ditanyai setuju bahwa AI harus digunakan untuk memantau tindakan pemberontakan atau perbedaan pendapat oleh warga negara. Kaum muda tidak terlalu kritis terhadap praktik ini dibandingkan orang yang lebih tua: 34% dari mereka yang berusia di bawah 35 tahun menganggap hal ini dapat diterima, dibandingkan dengan 29% dari mereka yang berusia di atas 35 tahun. Ada juga perbedaan generasi dan gender yang besar dalam hal menanggalkan pakaian orang yang menggunakan AI untuk bersenang-senang. Meskipun hanya 9% orang Prancis yang diambil secara keseluruhan tidak terkejut dengan penggunaan tersebut, angkanya meningkat menjadi 17% di antara usia di bawah 35 tahun (dan sebanyak 26% pria dalam kelompok usia ini) dibandingkan dengan 6% di antara orang yang lebih tua. Demikian pula, 13% pria menganggap paparan buatan ini dapat diterima secara moral, dibandingkan dengan 4% wanita.

 

13% anak di bawah usia 25 tahun telah menjadi korban pemalsuan

Sadar akan meluasnya penggunaan alat bantu yang memudahkan pembuatan deepfake, lebih dari separuh responden (57%) menyatakan ketakutan bahwa mereka juga akan menjadi korban, yang telah dialami oleh 4% dari mereka dan 13% dari kelompok usia di bawah 25 tahun. Meskipun kelompok usia termuda memang paling khawatir (64% dari kelompok usia 18-24 tahun khawatir akan gambar palsu mereka), namun kelompok usia lainnya tidak terlalu khawatir, dengan 56% dari kelompok usia di atas 25 tahun, juga mengungkapkan kekhawatirannya.

 

Ancaman terhadap pemilihan presiden?

Meskipun mereka takut akan hal tersebut, Prancis juga khawatir bahwa praktik semacam itu dapat mengganggu pemilihan presiden berikutnya, terutama karena alat kecerdasan buatan pasti akan menjadi lebih kuat antara sekarang dan nanti. Lebih dari 6 dari 10 orang Prancis (62%) mengatakan bahwa mereka khawatir deepfakes dapat mengganggu pemungutan suara pada tahun 2027, termasuk 16% yang mengatakan bahwa mereka sangat takut. Lebih khawatir daripada rata-rata tentang penyalahgunaan citra mereka sendiri, kaum muda jauh lebih tidak khawatir tentang potensi dampak citra palsu selama kampanye pemilu: kurang dari setengah (49%) dari mereka yang berusia di bawah 25 tahun merasa takut akan hal ini, sementara 70% dari mereka yang berusia di atas 65 tahun merasa takut akan hal ini.

Studi yang dilakukan oleh IFOP untuk Alucare.fr dari tanggal 5 hingga 8 Maret 2024 melalui kuesioner yang dikelola sendiri di antara sampel 2.191 orang, yang mewakili populasi Prancis berusia 18 tahun ke atas, termasuk 551 anak muda di bawah 35 tahun. 

 

Di dalam kotak

Deepfakes dalam RUU SREN

Mardi 26 mars, une Commission mixte paritaire réunissant des élus de l’Assemblée nationale et du Sénat étudiera le projet de loi visant à sécuriser et réguler l’espace numérique (SREN). Déposé par le Gouvernement et adopté par les députés le 17 octobre 2023,  il a pour but de sécuriser les risques liés aux usages quotidiens d’internet pour les individus et les entreprises. Il prévoit des dispositions dans des domaines très divers, tels que la protection en ligne des mineurs, la protection des citoyens dans l’environnement numérique, le respect de la concurrence dans l’économie de la donnée et le renforcement de la régulation du numérique. Lors de ses travaux à l’automne, le Sénat a ajouté deux articles qui pénalisent la publication sans consentement d’hypertrucages (deepfakes) et la publication de deepfakes à caractère sexuel. Hukumannya bisa mencapai dua tahun penjara dan denda €60.000.