- Channel 4, saluran televisi Inggris, telah memicu kontroversi dengan video deepfake yang menggambarkan siaran meriah alternatif yang akan disiarkan pada hari Jumat.
- Video itu menggambarkan Ratu sedang mendiskusikan kisah-kisah Keluarga Kerajaan yang kontroversial, termasuk koneksi Pangeran Andrew dengan Jeffrey Epstein, dan kepergian Pangeran Harry dan Meghan Markle dari keluarga.
- Channel 4 mengatakan pihaknya bermaksud video tersebut memberikan “peringatan keras” tentang teknologi deepfake dan berita palsu.
- Namun, para kritikus mengatakan bahwa video tersebut membuatnya tampak seolah-olah deepfake lebih tersebar luas daripada yang sebenarnya.
- Kunjungi beranda Business Insider untuk lebih banyak cerita.
Penyiar Inggris Channel 4 telah memicu kontroversi dengan video deepfake yang menggambarkan siaran meriah alternatif yang akan disiarkan pada hari Jumat.
Ratu Elizabeth II merilis video pidato tahunan kepada bangsa pada jam 3 sore pada Hari Natal, merefleksikan pasang surut tahun sebelumnya. Pesan tersebut biasanya berfokus pada satu topik, dan pada tahun 2020 kemungkinan akan fokus pada pandemi virus corona dan dampaknya di Inggris.
Alternatif Channel 4, bagaimanapun, akan sedikit berbeda.
Video berdurasi lima menit itu menunjukkan versi Ratu yang diubah secara digital, disuarakan oleh aktor Debra Stephensen, membahas beberapa momen paling kontroversial Keluarga Kerajaan tahun ini, termasuk kepergian Pangeran Harry dan Meghan Markle dari tugas kerajaan, dan hubungan Duke of York dengan pemodal yang dipermalukan dan tersangka pelaku seks Jeffrey Epstein, The Guardian melaporkan.
Dalam klip pendek video yang diterbitkan oleh BBC menunjukkan Ratu palsu bercanda bahwa: “Ada beberapa hal yang lebih menyakitkan daripada seseorang yang memberi tahu Anda bahwa mereka lebih suka ditemani orang Kanada,” mengacu pada kepindahan Harry dan Meghan ke Kanada.
Video itu awalnya dimaksudkan untuk memberikan “peringatan keras” tentang teknologi deepfake dan berita palsu.
Ian Katz, direktur program Channel 4, mengatakan kepada Guardian bahwa itu adalah “pengingat yang kuat bahwa kita tidak bisa lagi mempercayai mata kita sendiri.”
Namun, proyek tersebut agak menjadi bumerang, dengan para ahli mengatakan bahwa video tersebut menunjukkan bahwa teknologi deepfake lebih umum daripada yang sebenarnya.
“Kami belum melihat deepfake digunakan secara luas, kecuali untuk menyerang wanita,” kata Sam Gregory, direktur program Witness, sebuah organisasi yang menggunakan video dan teknologi untuk melindungi hak asasi manusia, kepada Guardian.
“Kita harus sangat berhati-hati dalam membuat orang berpikir bahwa mereka tidak dapat mempercayai apa yang mereka lihat. Jika Anda belum pernah melihat mereka sebelumnya, ini dapat membuat Anda percaya bahwa pemalsuan yang mendalam adalah masalah yang lebih meluas daripada yang sebenarnya,” tambahnya.
Teknologi deepfake telah menjadi masalah yang meningkat, terutama menargetkan wanita dengan pornografi deepfake non-konsensual.
Investigasi yang mengerikan terhadap layanan bot yang menghasilkan foto telanjang palsu telah menyoroti bahwa bahaya yang paling mendesak yang ditimbulkan oleh “deepfakes” internet bukanlah disinformasi – ini adalah balas dendam porno.
Perusahaan pemantau Deepfake Sensity, sebelumnya Deeptrace, pada hari Selasa mengungkapkan telah menemukan operasi besar yang menyebarkan gambar telanjang wanita yang dibuat oleh AI dan, dalam beberapa kasus, gadis di bawah umur.
Layanan ini beroperasi terutama pada aplikasi pesan terenkripsi Telegram menggunakan bot bertenaga AI.
Pakar deepfake Henry Ajder mengatakan kepada Guardian: “Saya pikir dalam kasus ini video tersebut tidak cukup realistis untuk menjadi perhatian, tetapi menambahkan penafian sebelum video deepfake ditampilkan, atau menambahkan tanda air sehingga tidak dapat dipotong dan diedit, dapat membantu menyampaikannya secara bertanggung jawab.
“Sebagai masyarakat, kami perlu mencari tahu kegunaan deepfake yang kami anggap dapat diterima, dan bagaimana kami dapat menavigasi masa depan di mana media sintetis semakin menjadi bagian besar dari kehidupan kami.
“Channel 4 seharusnya mendorong praktik terbaik.”