Channel 4 telah memicu kontroversi dan debat dengan video deepfake dari Ratu sebagai alternatif dari siaran meriah tradisionalnya, yang akan ditayangkan pada Hari Natal.
Penyiar akan menayangkan video berdurasi lima menit di mana versi Ratu yang diubah secara digital membagikan renungannya pada tahun itu, termasuk kepergian Pangeran Harry dan Meghan Markle sebagai bangsawan senior dan keterlibatan Duke of York dengan pemodal yang dipermalukan Jeffrey Epstein. .
Deepfake Queen, disuarakan oleh aktris Debra Stephenson, juga terlihat melakukan tarian rutin dari platform media sosial TikTok.
Channel 4 mengatakan siaran itu dimaksudkan untuk memberikan “peringatan keras” tentang ancaman berita palsu di era digital, dengan direktur program, Ian Katz, menggambarkan video tersebut sebagai “pengingat yang kuat bahwa kita tidak bisa lagi mempercayai kita. mata sendiri ”.
Beberapa ahli menyarankan siaran tersebut mungkin membuat publik berpikir bahwa teknologi deepfake lebih umum digunakan daripada yang terjadi.
“Kami belum melihat deepfake digunakan secara luas, kecuali untuk menyerang wanita,” kata Sam Gregory, direktur program Witness, sebuah organisasi yang menggunakan video dan teknologi untuk melindungi hak asasi manusia. “Kita harus sangat berhati-hati dalam membuat orang berpikir bahwa mereka tidak dapat mempercayai apa yang mereka lihat.
“Jika Anda belum pernah melihatnya sebelumnya, ini bisa membuat Anda percaya bahwa pemalsuan yang mendalam adalah masalah yang lebih meluas daripada yang sebenarnya,” katanya. “Tidak apa-apa untuk mengekspos orang ke deepfake, tetapi kita tidak boleh meningkatkan retorika untuk mengklaim bahwa kita dikelilingi oleh mereka.”
Areeq Chowdhury, seorang peneliti kebijakan teknologi di balik deepfakes Jeremy Corbyn dan Boris Johnson selama pemilihan umum 2019, mengatakan dia mendukung keputusan untuk menyoroti dampak deepfake, tetapi teknologinya tidak menimbulkan ancaman luas bagi berbagi informasi saat ini.
“Risikonya adalah semakin mudah dan lebih mudah untuk menggunakan deepfake, dan ada tantangan yang jelas untuk memiliki informasi palsu di luar sana, tetapi juga ancaman bahwa mereka merusak rekaman video asli yang dapat dianggap sebagai deepfake,” katanya.
“Pandangan saya adalah bahwa kita secara umum harus peduli tentang teknologi ini, tetapi masalah utama dengan deepfake saat ini adalah penggunaannya dalam pornografi deepfake non-konsensual, bukan informasi.
“Menurut saya dalam kasus ini, video tersebut tidak cukup realistis untuk menjadi perhatian, tetapi menambahkan penafian sebelum video deepfake ditampilkan, atau menambahkan watermark sehingga tidak dapat dipotong dan diedit, dapat membantu menyampaikannya secara bertanggung jawab.
“Sebagai masyarakat, kami perlu mencari tahu kegunaan deepfake yang kami anggap dapat diterima, dan bagaimana kami dapat menavigasi masa depan di mana media sintetis semakin menjadi bagian besar dari kehidupan kami. Channel 4 seharusnya mendorong praktik terbaik. “