Risiko menjadi korban deepfake semakin meningkat. Bahkan baru-baru ini seorang pria di Tiongkok Utara

Risiko menjadi korban deepfake semakin meningkat. Bahkan baru-baru ini seorang pria di Tiongkok Utara menjadi korban penipuan dari kecanggihan teknologi deepfake dengan kerugian hingga lebih dari Rp 9 miliar.

Deepfake sendiri adalah video rekayasa atau materi digital yang dibuat oleh artificial intelligence (AI) atau kecerdasan buatan hingga menghasilkan gambar dan suara yang terlihat dan terdengar asli. Video dan gambar yang dimanipulasi ini dapat digunakan untuk berbagai tujuan berbahaya, termasuk penipuan keuangan, manipulasi politik, hingga balas dendam.

Dikutip dari Reuters, Kamis (25/5/2023), polisi di kota Baotou di wilayah Mongolia Dalam, Tiongkok, mengatakan pelaku menggunakan teknologi deepfake untuk menyamar sebagai teman korban selama video call atau panggilan video, lalu meminta ditransfer uang sebesar 4,3 juta yuan atau lebih dari Rp 9 miliar.

Korban tersebut kemudian mentransfer uang yang diminta pelaku dengan keyakinan bahwa temannya memang sedang membutuhkan uang saat itu juga. Pria tersebut baru menyadari telah menjadi korban penipuan setelah temannya mengatakan tidak mengetahui situasi yang baru menimpanya.

Kasus ini memicu diskusi di situs microblogging Weibo tentang ancaman terhadap privasi dan keamanan online, dengan tagar “penipuan #AI meledak di seluruh negeri”.

“Ini menunjukkan bahwa foto, suara, dan video semuanya dapat digunakan oleh penipu,” tulis seorang pengguna Weibo.

Dari kejadian tersebut, pemerintah Tiongkok telah memperketat pengawasan terhadap teknologi dan aplikasi semacam itu di tengah meningkatnya penipuan yang didorong oleh AI, terutama yang melibatkan manipulasi data suara dan wajah.

Jasa Buat Deepfake Meningkat
Sebelumnya dalam laporan terbaru yang dirilis Kaspersky, jasa pembuat deepfake dengan kualitas tinggi saat ini juga kian marak ditawarkan di forum darknet dengan permintaan yang tinggi. Biaya video deepfake ini bervariasi mulai dari US$ 300 hingga US$ 20.000 per menit, tergantung dari tingkat kesulitan.

Para ahli di Kaspersky telah mempelajari forum darknet untuk mencari tahu cara kerja industri darknet deepfake. Penelitian mengungkapkan bahwa ada permintaan yang signifikan untuk deepfake, bahkan melebihi pasokan yang tersedia. Orang-orang secara aktif mencari individu yang dapat membuat video palsu untuk mereka. Bahkan dalam beberapa kasus, mereka meminta deepfake untuk target tertentu seperti selebritas atau tokoh politik.

“Fakta bahwa ada permintaan yang tinggi untuk layanan pembuatan deepfake menunjukkan bahwa individu dan kelompok dengan niat jahat bersedia membayar sejumlah besar uang untuk mendapatkan video semacam itu,” kata Vladislav Tushkanov, Lead Data Scientist di Kaspersky dilansir dari Techx.

Beberapa penyedia layanan deepfake menawarkan deepfake berkualitas tinggi untuk tujuan penipuan aset kripto. Layanan mereka termasuk membuat cryptostreams atau hadiah kripto. Untuk membuat deepfake ini, scammers menggunakan rekaman selebritas atau menggabungkan video lama untuk meluncurkan streaming langsung di platform media sosial.

Dalam melancarkan aksinya, mereka kerap menunjukkan halaman pre-generated. Korban diminta untuk mentransfer dari 2.500 hingga 1.000.000 XRP, dengan janji akan menggandakan pembayaran mereka. Akibatnya, pengguna yang terjebak dalam penipuan ini dapat kehilangan mulai dari US$ 1.000 hingga U$ 460.000.

Fakta memprihatinkan lainnya menunjukkan beberapa pembuat deepfake menawarkan layanan untuk pembuatan video porno. Porn-deepfake ini digunakan pelaku untuk memeras individu atau motif balas dendam.