Ribuan warga Korea Selatan berunjuk rasa di Ibu Kota Seoul mendesak pemerintah bertanggung jawab atas meningkatnya kasus pornografi hasil kecerdasan buatan (AI) deepfake yang makin mengkhawatirkan. Lantas, apa sebenarnya pornografi deepfake?
Dalam beberapa waktu terakhir, semakin banyak warga Korsel, termasuk anak di bawah umur, menjadi korban kejahatan seks deepfake.
Hal tersebut diketahui setelah viralnya sejumlah chat rooms atau ruang obrolan di Telegram yang diduga membuat dan mendistribusikan materi pornografi deepfake yang memicu ketakutan dan kemarahan di Korea Selatan.
Menurut Badan Kepolisian Nasional Korea Selatan, terdapat 297 kasus kejahatan deepfake pornografi yang dilaporkan dari Januari hingga Juli. Dari 178 terdakwa, 113-nya adalah remaja. Pihak kepolisian Seoul juga sudah menangkap 10 remaja berusia 14 tahun atas kejahatan ini.
Mengenal pornografi deepfake
Secara umum, deepfake menggunakan AI untuk menghasilkan video atau audio yang benar-benar baru, dengan tujuan akhir untuk menggambarkan sesuatu yang sebenarnya tidak terjadi pada kenyataannya.
Istilah “deepfake” berasal dari teknologi yang mendasarinya, algoritma pembelajaran mendalam atau deep learning, yang belajar sendiri untuk memecahkan masalah dengan kumpulan data yang besar dan dapat digunakan untuk membuat konten palsu dari orang sungguhan.
“Deepfake adalah rekaman yang dihasilkan oleh komputer yang telah dilatih melalui gambar-gambar yang tak terhitung jumlahnya,” kata Cristina López, seorang analis senior di Graphika, sebuah perusahaan yang meneliti aliran informasi di jaringan digital, mengutip Business Insider.
Menurut Sophie Maddocks, mahasiswi doktoral di Annenberg School for Communication, pornografi deepfake dapat diakses siapapun dari aplikasi atau website tertentu.
Teknologi ini menggunakan algoritma deep learning yang diprogram untuk mendeteksi baju seseorang di gambar dan menggantinya dengan tubuh telanjang atau gambar-gambar vulgar lainnya. Detailnya, AI diprogram untuk belajar sendiri guna memecahkan masalah dengan kumpulan data-data yang dapat digunakan AI untuk menggambar ulang foto seseorang.
“Gambar-gambar seksual sintetis ini dibuat oleh AI, karena mereka tidak menggambarkan kejadian nyata, tetapi mereka dilatih dengan gambar orang sungguhan, yang banyak di antaranya dibagikan tanpa persetujuan,” kata Maddocks, mengutip laman University of Pennsylvania.
“Di ruang online, sulit untuk memisahkan gambar yang didistribusikan secara konsensual dari gambar yang didistribusikan secara non-konsensual,” lanjut dia.
Ia menambahkan sebenarnya membuat gambar vulgar palsu tidak sepenuhnya salah. Tapi jika sudah menyangkut dengan wajah manusia asli lalu disebarkan tanpa persetujuan lah yang membuat hal tersebut menjadi tindakan kriminal.
Perlu tindakan tegas
Perempuan adalah golongan yang paling rentan akan penyalahgunaan deepfake. Apalagi pornografi deepfake bisa menyasar siapapun tanpa terkecuali, termasuk anak-anak sekali pun.
Clare McGlynn, Professor Hukum Universitas Durham, dalam tulisannya di The Conversation, mengatakan sekarang ini adalah waktu yang tepat untuk mempertimbangkan bahwa pelaku pembuat pornografi deepfake dapat dikriminalisasi.
“Respon tentang kriminalisasi pornografi deepfake tanpa persetujuan adalah, hal tersebut sama seperti fantasi seksual yang diimajinasikan oleh otak kita. Namun hal tersebut salah, deepfake membuat jejak digital yang dapat disebarluaskan,” kata McGlynn, mengutip The Conversation.
McGlynn juga menambahkan pornografi deepfake merupakan bentuk penghinaan terhadap perempuan. Pornografi deepfake sama saja menyuruh perempuan untuk menghilang dari internet.
Menurut dia juga tidak masuk akal jika harus mengistimewakan hak-hak fantasi seksual laki-laki di atas hak-hak perempuan dan anak atas integritas, otonomi, dan pilihan seksual. McGlynn mengatakan ini adalah perilaku non-konsensual yang bersifat seksual.
Ia menilai pembuatan pornografi deepfake tidak sekadar tentang fantasi seksual, tapi juga mengenai kekuasaan dan kontrol, serta penghinaan terhadap perempuan.
“Pandangan laki-laki tentang hak seksual atas tubuh perempuan merasuki ruang-ruang percakapan di internet tempat berbagi pemalsuan seksual dan kiat-kiat untuk kreasi mereka,” ujar McGlynn.
“Seperti semua bentuk pelecehan seksual berbasis gambar, pornografi deepfake adalah tentang menyuruh wanita untuk kembali ke dalam kotak dan keluar dari internet,” pungkasnya.
