优游国际

KOMPAS.com - Beredarnya gambar deepfake eksplisit penyanyi Taylor Swift di media sosial, menyoroti kemampuan kecerdasan buatan (AI) dalam menciptakan foto palsu yang tampak meyakinkan.

Deepfake adalah video, audio, atau gambar yang memperlihatkan seseorang mengatakan maupun melakukan sesuatu yang sebenarnya tidak dilakukan.

Insiden ini mendorong platform media sosial X (dulu Twitter) untuk memblokir nama Taylor Swift dalam pencarian.

Dilansir dari BBC, Senin (29/1/2024), Kepala Operasi Bisnis X Joe Benarroch mengatakan, tindakan hanya bersifat sementara untuk memprioritaskan keselamatan.

X dalam pernyataan pada Jumat (26/1/2024) pun menyampaikan, mengunggah konten bersifat ketelanjangan tanpa persetujuan di platform ini sangat dilarang.

"Kami tidak memiliki kebijakan toleransi terhadap konten semacam itu. Tim kami secara aktif menghapus semua gambar yang teridentifikasi dan mengambil tindakan yang sesuai terhadap akun yang bertanggung jawab mempostingnya," ujarnya.

Baca juga: Apa Itu Deepfake Porn dan Bagaimana Cara Membedakannya dengan Konten Asli?

Tren deepfake berkembang jadi revenge porn

Konten deepfake menggunakan AI yang kemudian disebar ke media sosial bukanlah hal baru di tengah masyarakat.

Para ahli pun mewanti-wanti karena konten sejenis dapat menjadi jauh lebih buruk bagi semua orang, mulai dari usia sekolah hingga dewasa.

Profesor di Fakultas Hukum Universitas Virginia, Amerika Serikat, Danielle Citron mengatakan, korban deepfake tidak hanya menyasar selebritas.

Bahkan, beberapa siswa sekolah menengah di seluruh dunia telah melaporkan wajahnya dimanipulasi AI dan dibagikan secara online oleh teman sekelas.

"(Korban) adalah manusia biasa. Kita telah melihat cerita tentang bagaimana hal ini berdampak pada siswa sekolah menengah dan orang-orang di militer. Ini memengaruhi semua orang," kata Citron, seperti diberitakan CNN, Jumat (26/1/2024).

Tren deepfake AI yang saat ini marak berkembang lebih menyerupai praktik yang dikenal sebagai revenge porn.

Revenge porn adalah penyebaran konten pornografi tanpa persetujuan orang yang ada di dalam foto atau video sebagai ajang balas dendam.

Dikutip dari laman Biro Investigasi Federal Amerika Serikat (FBI), konten deepfake pornografi juga kerap dibuat dengan tujuan pemerasan atau sextortion.

Pada sebagian besar kasus sextortion, konten yang dikirim kepada korban biasanya bukan konten sungguhan.

Pelaku lebih sering berpura-pura memiliki akses terhadap konten pribadi untuk menakut-nakuti korban agar membayar uang tebusan.

Namun, masalahnya, seiring berkembangnya zaman akan semakin sulit untuk menentukan apakah foto dan video tersebut asli atau palsu.

Di samping itu, perusahaan media sosial cenderung tidak memiliki rencana efektif untuk terus memantau konten di platform-nya.

Kasus Taylor Swift misalnya, baru dihapus oleh X setelah kurang lebih 17 jam diunggah meski sudah dilaporkan massal.

Baca juga: Platform StopNCII.org Disebut Bantu Hapus Foto Porno Editan dari Internet, Ini Kata Pakar