Tahun lalu, pihak berwenang melaporkan 1.384 kasus yang melibatkan manipulasi gambar menggunakan AI dan teknologi canggih, yang tiga kali lipat dari angka tahun sebelumnya yaitu 423.

Pemerintah lebih lanjut mengakui bahwa memperkirakan kasus yang tidak dilaporkan secara akurat itu sulit, oleh karena itu jumlah sebenarnya kejahatan seks digital mungkin jauh lebih tinggi daripada yang dilaporkan.

"Kami melihat semakin banyak laporan yang melibatkan siswa sekolah dasar karena betapa mudahnya alat AI yang dapat diakses, bahkan untuk anak-anak di bawah usia 10 tahun," kata Park Sung-hye, yang memimpin dukungan penghapusan di pusat advokasi, lapor The Korea Times.

"Ketika pusat pertama kali dibuka pada tahun 2018, sebagian besar gambar yang dimanipulasi melibatkan pengeditan kasar, seperti menambahkan keterangan seksual ke foto," kata Park lebih lanjut dan menambahkan "Tapi sekarang, dengan munculnya pemuda yang paham teknologi, masalah ini kemungkinan akan meningkat lebih jauh."

Kejahatan seks deepfake menggunakan AI generatif juga dilaporkan tahun lalu setelah itu pemerintah meluncurkan tim respons khusus yang membantu dalam konseling darurat dan penghapusan konten.

(***)