Ilustrasi Deepfake(Unsplash)
Sender.co.id - Ribuan warga Korea
Selatan berunjuk rasa di Ibu Kota Seoul mendesak pemerintah bertanggung jawab
atas meningkatnya kasus pornografi hasil kecerdasan buatan (AI) deepfake yang
makin mengkhawatirkan. Lantas, apa sebenarnya pornografi deepfake?
Dalam beberapa waktu terakhir, semakin banyak warga Korsel,
termasuk anak di bawah umur, menjadi korban kejahatan seks deepfake. Hal
tersebut diketahui setelah viralnya sejumlah chat rooms atau ruang obrolan di
Telegram yang diduga membuat dan mendistribusikan materi pornografi deepfake
yang memicu ketakutan dan kemarahan di Korea. Dalam beberapa waktu
terakhir, semakin banyak warga Korsel, termasuk anak di bawah umur, menjadi
korban kejahatan seks deepfake. Hal tersebut diketahui setelah viralnya
sejumlah chat rooms atau ruang obrolan di Telegram yang diduga membuat dan
mendistribusikan materi pornografi deepfake yang memicu ketakutan dan kemarahan
di Korea Selatan.
Menurut Badan Kepolisian Nasional Korea Selatan, terdapat 297
kasus kejahatan deepfake pornografi yang dilaporkan dari Januari hingga Juli.
Dari 178 terdakwa, 113-nya adalah remaja. Pihak kepolisian Seoul juga sudah
menangkap 10 remaja berusia 14 tahun atas kejahatan ini.
Mengenal pornografi deepfake
Secara umum, deepfake menggunakan AI untuk menghasilkan video atau
audio yang benar-benar baru, dengan tujuan akhir untuk menggambarkan sesuatu
yang sebenarnya tidak terjadi pada kenyataannya. Istilah "deepfake"
berasal dari teknologi yang mendasarinya, algoritma pembelajaran mendalam atau
deep learning, yang belajar sendiri untuk memecahkan masalah dengan kumpulan
data yang besar dan dapat digunakan untuk membuat konten palsu dari orang
sungguhan.
"Deepfake adalah rekaman yang dihasilkan oleh komputer yang
telah dilatih melalui gambar-gambar yang tak terhitung jumlahnya," kata
Cristina López, seorang analis senior di Graphika, sebuah perusahaan yang
meneliti aliran informasi di jaringan digital, mengutip Business
Insider. Menurut Sophie Maddocks, mahasiswi doktoral di Annenberg School
for Communication, pornografi deepfake dapat diakses siapapun dari aplikasi
atau website tertentu. Teknologi ini menggunakan algoritma deep learning
yang diprogram untuk mendeteksi baju seseorang di gambar dan menggantinya
dengan tubuh telanjang atau gambar-gambar vulgar lainnya. Detailnya, AI
diprogram untuk belajar sendiri guna memecahkan masalah dengan kumpulan
data-data yang dapat digunakan AI untuk menggambar ulang foto seseorang.
"Gambar-gambar seksual sintetis ini dibuat oleh AI, karena
mereka tidak menggambarkan kejadian nyata, tetapi mereka dilatih dengan gambar
orang sungguhan, yang banyak di antaranya dibagikan tanpa persetujuan,"
kata Maddocks, mengutip laman University of Pennsylvania.
"Di ruang online, sulit untuk memisahkan gambar yang
didistribusikan secara konsensual dari gambar yang didistribusikan secara
non-konsensual," lanjut dia.
Ia menambahkan sebenarnya membuat gambar vulgar palsu tidak
sepenuhnya salah. Tapi jika sudah menyangkut dengan wajah manusia asli lalu
disebarkan tanpa persetujuan lah yang membuat hal tersebut menjadi tindakan
kriminal.
Perempuan adalah golongan yang paling rentan akan penyalahgunaan
deepfake. Apalagi pornografi deepfake bisa menyasar siapapun tanpa terkecuali,
termasuk anak-anak sekali pun. Clare McGlynn, Professor Hukum Universitas
Durham, dalam tulisannya di The Conversation, mengatakan sekarang ini adalah
waktu yang tepat untuk mempertimbangkan bahwa pelaku pembuat pornografi
deepfake dapat dikriminalisasi.
"Respon tentang kriminalisasi pornografi deepfake tanpa
persetujuan adalah, hal tersebut sama seperti fantasi seksual yang
diimajinasikan oleh otak kita. Namun hal tersebut salah, deepfake membuat jejak
digital yang dapat disebarluaskan," kata McGlynn, mengutip The
Conversation.
McGlynn juga menambahkan pornografi deepfake merupakan bentuk
penghinaan terhadap perempuan. Pornografi deepfake sama saja menyuruh perempuan
untuk menghilang dari internet. Menurut dia juga tidak masuk akal jika
harus mengistimewakan hak-hak fantasi seksual laki-laki di atas hak-hak
perempuan dan anak atas integritas, otonomi, dan pilihan seksual. McGlynn
mengatakan ini adalah perilaku non-konsensual yang bersifat seksual. Ia
menilai pembuatan pornografi deepfake tidak sekadar tentang fantasi seksual,
tapi juga mengenai kekuasaan dan kontrol, serta penghinaan terhadap perempuan.
"Pandangan laki-laki tentang hak seksual atas tubuh perempuan
merasuki ruang-ruang percakapan di internet tempat berbagi pemalsuan seksual
dan kiat-kiat untuk kreasi mereka," ujar McGlynn.
"Seperti semua bentuk pelecehan seksual berbasis gambar,
pornografi deepfake adalah tentang menyuruh wanita untuk kembali ke dalam kotak
dan keluar dari internet," pungkasnya. (AL)
Komentar