Jajak pendapat IFOP eksklusif untuk Alucare.fr.
Definisi Deepfake :
Deepfake adalah teknik sintesis gambar berbasis kecerdasan buatan yang memungkinkan video dan rekaman audio dibuat atau dimodifikasi dengan cara yang sangat realistis. Teknologi ini menggunakan metode pembelajaran mendalam, khususnya generative adversarial networks (GAN), untuk menumpangkan dan menggabungkan gambar dan suara. Deepfakes sering digunakan untuk menghasilkan konten di mana orang-orang, biasanya selebriti atau tokoh masyarakat, tampak mengatakan atau melakukan hal-hal yang sebenarnya tidak pernah mereka katakan atau lakukan.
Meskipun deepfake dapat memiliki aplikasi yang sah dalam hiburan atau pembuatan konten (misalnya Candy.ai untuk membuat pacar virtualnya), mereka menimbulkan masalah etika dan hukum yang besar karena potensi misinformasi, manipulasi, dan pelanggaran privasi (seperti ini aplikasi untuk menanggalkan pakaian seseorang). Kemampuan untuk membuat konten yang palsu namun persuasif meningkatkan risiko penipuan dan memiliki implikasi serius terhadap kepercayaan terhadap media dan informasi (dengan contoh seperti " Deepnude" )
Dengan kemajuan menakjubkan yang dibuat dalam kecerdasan buatan, dunia sekarang dihadapkan pada deepfakes, gambar dan video fiktif yang sangat realistis dan dapat digunakan untuk tujuan hiburan, tetapi juga untuk disinformasi berskala besar dan kampanye kotor.
Meskipun banyak figur publik yang sering menjadi sasaran penyalahgunaan citra mereka, orang-orang anonim tidak kebal, seperti yang baru-baru ini terjadi di Spanyol dalam kasus gadis-gadis yang masih sangat muda yang menjadi korban montase foto seksual yang diposting di jejaring sosial.
Apakah orang Prancis menyadari fenomena ini? Apakah mereka merasa mampu menghadapinya? Apakah mereka takut akan hal ini bagi diri mereka sendiri dan bagi demokrasi?
Untuk mengukurnya, Alucare menugaskan IFOP untuk mensurvei lebih dari 2.000 orang. tentang pergolakan yang sedang terjadi dalam cara kita memandang dan akan memandang realitas di masa depan. Jawaban mereka mencerminkan ketidakpastian yang mereka hadapi akibat kemajuan teknologi yang dahsyat ini, keinginan mereka untuk mengetahui dengan jelas konten yang bersangkutan, dan ketakutan mereka untuk dihadapkan pada konten tersebut dalam kapasitas pribadi atau pada saat pemilihan presiden berikutnya.
Membedakan kebenaran dan kepalsuan: masalah bagi dua pertiga orang Prancis
Entah mereka tidak benar-benar memahami kehebatan kecerdasan buatan atau, sebaliknya, mengetahui betapa hebatnya kecerdasan buatan, hanya sepertiga (33%) orang Prancis yang merasa mampu mendeteksi gambar atau video yang dihasilkan oleh AI. Hanya 6% yang yakin akan hal ini, menunjukkan ketidakpastian yang menguasai populasi tentang masalah ini. Umumnya lebih nyaman dengan teknologi yang sedang berkembang daripada orang tua mereka, kaum muda adalah orang-orang yang mengatakan bahwa mereka paling mampu mengenali deepfake: lebih dari separuh (55%) dari mereka yang berusia 18-24 tahun mengatakan bahwa ini adalah masalahnya, dibandingkan dengan 28% dari mereka yang berusia di atas 35 tahun dan 12% dari mereka yang berusia di atas 65 tahun. Pria juga jauh lebih percaya diri daripada wanita dalam hal kemampuan pengamatan mereka, dengan 40% pria percaya bahwa mereka dapat melihat gambar seperti itu dibandingkan dengan 28% wanita..
Tes: sebagian gambar lebih menyesatkan daripada gambar lainnya
Tes yang diusulkan oleh IFOP dengan sempurna menggambarkan kesulitan membedakan gambar yang dihasilkan oleh kecerdasan buatan dari foto yang diambil dalam kehidupan nyata. Diminta untuk memeriksa lima gambar, para peserta diminta untuk menunjukkan gambar mana yang menurut mereka dihasilkan oleh kecerdasan buatan. Namun pada kenyataannya, semua gambar yang disajikan adalah "palsu".
Potret dokter yang sangat realistis menipu tiga perempat (75%) responden.Hampir dua pertiga (64%) percaya bahwa foto lama seorang pria yang sedang menunggang kuda, tipikal foto yang diambil pada awal abad lalu, adalah benar, tetapi sepenuhnya dibuat oleh AI. Di sisi lain, hanya 32% yang percaya akan kebenaran gambar seorang wanita yang sedang berjalan di jalanan Tokyo, sebuah gambar yang banyak digunakan oleh Open AI untuk mengumumkan peluncuran generator video Sora. Mantan Presiden Donald Trump, yang secara teratur menjadi berita karena perselisihannya dengan sistem peradilan AS, diperlihatkan dikelilingi oleh beberapa petugas polisi. "Foto" ini dianggap kredibel oleh lebih dari satu dari empat orang Prancis (29%), dengan lebih banyak wanita (32%) yang percaya akan keasliannya daripada pria (27%). Terakhir, gambar Paus Fransiskus dengan jaket putih, yang dipublikasikan secara luas di jejaring sosial beberapa bulan yang lalu, hanya menipu 13% orang yang ditanyai. Akhirnya, 94% responden percaya akan kebenaran setidaknya satu dari klise yang diajukan kepada mereka.
90% dari bahasa Prancis untuk menyebutkan asal
Jelas memperingatkan risiko disinformasi yang melekat dalam penyebaran gambar yang sepenuhnya realistis yang dihasilkan oleh AI, mayoritas besar (90%) orang Prancis mendukung pernyataan yang mengidentifikasi deepfakes sebagai sesuatu yang dibuat secara artifisial. Ekspektasi ini lebih tinggi di kalangan usia di atas 35 tahun (93% mendukung) daripada di kalangan usia yang lebih muda (79% di antara usia 18-24 tahun).
Petunjuk tidak selalu mudah dikenali
Dalam kurun waktu beberapa tahun, atau bahkan beberapa bulan bagi sebagian orang, alat kecerdasan buatan telah membuat kemajuan yang mengesankan dalam membuat produksi visual mereka menjadi lebih realistis. Namun demikian, beberapa detail tertentu masih bisa menunjukkan sifat aslinya, bahkan jika orang Prancis tetap berhati-hati dengan banyak detail tersebut. Bagi 59% orang Prancis, gerakan bibir yang tidak wajar dari tokoh yang sedang berbicara dalam video adalah petunjuk yang menurut mereka cukup mudah dikenali.. Demikian pula, fakta bahwa individu yang diwakili tidak cukup sering berkedip merupakan indikator yang baik untuk sepertiga (33%) orang Prancis.
Dalam proporsi yang sama, 32% menunjukkan kesulitan, yang sudah diketahui tetapi semakin jarang dibahas, dari AI yang menghasilkan gambar dalam mereproduksi tangan dengan benar. Kulit yang berkerut atau terlalu rata (29%), kacamata yang tidak memantulkan cahaya dengan benar (25%), bayangan di sekitar mata yang kurang tepat (21%), atau kurangnya rambut pada area wajah tertentu (15%), semuanya merupakan ketidaksempurnaan yang dianggap sebagai tanda peringatan yang potensial. Namun demikian, hanya sebagian kecil responden yang menganggap hal ini mudah dikenali.
Pengetahuan parsial tentang deepfakes
Mulai dari penyanyi Taylor Swift, yang menjadi korban pemalsuan pornografi di awal tahun ini, hingga pengumuman palsu Presiden Volodimir Zelensky tentang penyerahan pasukan Ukraina, hingga pernyataan Ursula von der Leyen yang baru-baru ini, yang juga palsu, tentang pemilihan umum Eropa yang akan datang, video yang dibuat oleh AI yang menampilkan orang sungguhan terus bertambah banyak. Dan bukan hanya selebriti dan politisi yang terkena dampaknya: September lalu di Almendralejo, Spanyol, hampir tiga puluh gadis muda berusia antara 11 dan 17 tahun menjadi target pemalsuan video yang menampilkan mereka tanpa busana.
Menghadapi fenomena yang semakin berkembang dan mengkhawatirkan ini, hampir 7 dari 10 orang Prancis (69%) mengatakan bahwa mereka pernah mendengar tentang deepfakes, tetapi hanya 30% yang mengetahui secara pasti apa itu deepfakes. Sekali lagi, generasi muda lah yang paling sadar akan gerakan ini: 83% dari usia 18-24 tahun (dibandingkan dengan 66% dari usia di atas 35 tahun) menyadarinya dan 50% (dibandingkan dengan 15% dari usia di atas 65 tahun) memiliki visi yang jelas tentang hal ini.. Kesenjangan antara wanita dan pria tidaklah signifikan: sementara 24% wanita mengetahui dengan jelas apa itu deepfake, 37% pria mengetahuinya.
Satu dari tiga orang Prancis telah menyebarkan berita palsu
Deepfakes dan berita palsu termasuk dalam keluarga yang sama yang memberi makan disinformasi dan manipulasi opini publik. Manipulasi di mana sebagian orang Prancis mengaku berpartisipasi, bahkan tanpa disadari. Dan begitulah adanya, 31% dari mereka yang ditanyai (7 poin lebih banyak daripada studi BVA 2019) telah menyampaikan informasi kepada orang-orang di sekitar mereka yang kemudian terbukti salah.Kaum muda lebih mungkin untuk melakukannya (46%) daripada kelompok usia lainnya. Di sisi lain, lebih dari tiga perempat dari kelompok usia di atas 50 tahun mengatakan bahwa mereka tidak pernah melakukannya.
Penerimaan moral yang terkadang meragukan
Seperti yang telah kita lihat, kecerdasan buatan saat ini menyediakan banyak sumber daya dalam hal gambar, video, dan bahkan kloning suara. Dari berbagai penggunaan AI yang disajikan kepada mereka dalam survei ini, tidak ada satu pun yang dianggap dapat diterima secara moral oleh mayoritas orang Prancis. Yang paling diterima adalah pembuatan konten 'artistik' oleh kecerdasan buatan (42% menganggap hal ini dapat diterima secara moral) dan retouching foto di jejaring sosial dengan menggunakan filter (32%).
Yang lebih mengejutkan - dan tentu saja lebih mengkhawatirkan - adalah fakta bahwa 30% dari mereka yang ditanyai setuju bahwa AI harus digunakan untuk memantau tindakan pemberontakan atau perbedaan pendapat oleh warga negara. Kaum muda tidak terlalu kritis terhadap praktik ini dibandingkan orang yang lebih tua: 34% dari mereka yang berusia di bawah 35 tahun menganggap hal ini dapat diterima, dibandingkan dengan 29% dari mereka yang berusia di atas 35 tahun. Ada juga perbedaan generasi dan gender yang besar dalam hal menanggalkan pakaian orang yang menggunakan AI untuk bersenang-senang. Meskipun hanya 9% orang Prancis yang diambil secara keseluruhan tidak terkejut dengan penggunaan tersebut, angkanya meningkat menjadi 17% di antara usia di bawah 35 tahun (dan sebanyak 26% pria dalam kelompok usia ini) dibandingkan dengan 6% di antara orang yang lebih tua. Demikian pula, 13% pria menganggap paparan buatan ini dapat diterima secara moral, dibandingkan dengan 4% wanita.
13% anak di bawah usia 25 tahun telah menjadi korban pemalsuan
Sadar akan meluasnya penggunaan alat bantu yang memudahkan pembuatan deepfake, lebih dari separuh responden (57%) menyatakan ketakutan bahwa mereka juga akan menjadi korban, yang telah dialami oleh 4% dari mereka dan 13% dari kelompok usia di bawah 25 tahun. Meskipun kelompok usia termuda memang paling khawatir (64% dari kelompok usia 18-24 tahun khawatir akan gambar palsu mereka), namun kelompok usia lainnya tidak terlalu khawatir, dengan 56% dari kelompok usia di atas 25 tahun, juga mengungkapkan kekhawatirannya.
Ancaman terhadap pemilihan presiden?
Meskipun mereka takut akan hal tersebut, Prancis juga khawatir bahwa praktik semacam itu dapat mengganggu pemilihan presiden berikutnya, terutama karena alat kecerdasan buatan pasti akan menjadi lebih kuat antara sekarang dan nanti. Lebih dari 6 dari 10 orang Prancis (62%) mengatakan bahwa mereka khawatir deepfakes dapat mengganggu pemungutan suara pada tahun 2027, termasuk 16% yang mengatakan bahwa mereka sangat takut. Lebih khawatir daripada rata-rata tentang penyalahgunaan citra mereka sendiri, kaum muda jauh lebih tidak khawatir tentang potensi dampak citra palsu selama kampanye pemilu: kurang dari setengah (49%) dari mereka yang berusia di bawah 25 tahun merasa takut akan hal ini, sementara 70% dari mereka yang berusia di atas 65 tahun merasa takut akan hal ini.
Studi yang dilakukan oleh IFOP untuk Alucare.fr dari tanggal 5 hingga 8 Maret 2024 melalui kuesioner yang dikelola sendiri di antara sampel 2.191 orang, yang mewakili populasi Prancis berusia 18 tahun ke atas, termasuk 551 anak muda di bawah 35 tahun.
Di dalam kotak
Deepfakes dalam RUU SREN
Pada hari Selasa, 26 Maret, komite gabungan yang terdiri dari perwakilan terpilih dari Majelis Nasional dan Senat akan memeriksa RUU untuk mengamankan dan mengatur ruang digital (SREN). Diperkenalkan oleh pemerintah dan diadopsi oleh para wakil rakyat pada tanggal 17 Oktober 2023, SREN bertujuan untuk mengamankan risiko yang terkait dengan penggunaan internet sehari-hari untuk individu dan bisnis. RUU ini mencakup ketentuan di berbagai bidang, seperti perlindungan anak di bawah umur secara online, perlindungan warga negara di lingkungan digital, penghormatan terhadap persaingan dalam ekonomi data, dan penguatan regulasi digital. Selama bekerja di musim gugur, Senat menambahkan dua pasal yang menghukum publikasi deepfake tanpa persetujuan dan publikasi deepfake yang bersifat seksual.. Hukumannya bisa mencapai dua tahun penjara dan denda €60.000.
