RIAU24.COM - Meningkatnya aksesibilitas Kecerdasan Buatan (AI) tidak hanya terbukti menjadi anugerah tetapi juga kutukan karena penyalahgunaannya berkembang pesat.

Korea Selatan adalah salah satu korbannya baru-baru ini karena kejahatan seks digital terkait deepfake telah meningkat di negara itu.

Menurut data yang dirilis oleh Pusat Dukungan Korban Kejahatan Seks Digital pada hari Kamis (10 April), korban kejahatan seks digital di Korea melebihi 10.000 untuk pertama kalinya tahun lalu, lapor The Korea Times.

Ini jauh lebih tinggi dari hanya 423 insiden yang dilaporkan pada tahun 2023, yang berarti peningkatan 14,7 persen.

Kejahatan aktual jauh lebih tinggi

Orang-orang muda, khususnya mereka yang berusia remaja atau dua puluhan menjadi mangsa kejahatan, terhitung sekitar 92,6 persen dari total kasus yang dilaporkan.

Tahun lalu, pihak berwenang melaporkan 1.384 kasus yang melibatkan manipulasi gambar menggunakan AI dan teknologi canggih, yang tiga kali lipat dari angka tahun sebelumnya yaitu 423.

Pemerintah lebih lanjut mengakui bahwa memperkirakan kasus yang tidak dilaporkan secara akurat itu sulit, oleh karena itu jumlah sebenarnya kejahatan seks digital mungkin jauh lebih tinggi daripada yang dilaporkan.

"Kami melihat semakin banyak laporan yang melibatkan siswa sekolah dasar karena betapa mudahnya alat AI yang dapat diakses, bahkan untuk anak-anak di bawah usia 10 tahun," kata Park Sung-hye, yang memimpin dukungan penghapusan di pusat advokasi, lapor The Korea Times.

"Ketika pusat pertama kali dibuka pada tahun 2018, sebagian besar gambar yang dimanipulasi melibatkan pengeditan kasar, seperti menambahkan keterangan seksual ke foto," kata Park lebih lanjut dan menambahkan "Tapi sekarang, dengan munculnya pemuda yang paham teknologi, masalah ini kemungkinan akan meningkat lebih jauh."

Kejahatan seks deepfake menggunakan AI generatif juga dilaporkan tahun lalu setelah itu pemerintah meluncurkan tim respons khusus yang membantu dalam konseling darurat dan penghapusan konten.

(***)