Meta Menemukan Konten Penipuan yang Dihasilkan AI di Facebook dan Instagram

Terlepas dari kekhawatiran ini, eksekutif keamanan Meta menyatakan bahwa teknologi AI baru tidak menghambat kapasitas mereka untuk membongkar jaringan pengaruh tersebut.

"Ada berbagai contoh bagaimana jaringan ini menggunakan teknologi AI generatif untuk membuat konten. Mungkin itu memungkinkan mereka untuk melakukannya lebih cepat atau dengan volume lebih banyak. Tapi itu tidak berdampak banyak pada kapasitas kami untuk mendeteksi mereka," kata Mike Dvilyanski, kepala investigasi ancaman Meta, selama panggilan pers.

Penelitian ini mengidentifikasi enam aktivitas pengaruh rahasia yang dihentikan Meta pada kuartal pertama.

Selain jaringan STOIC, Meta juga membongkar jaringan berbasis Iran yang didedikasikan untuk konflik Israel-Hamas, meskipun tidak ada AI generatif yang ditemukan dalam kampanye itu.

Meta dan perusahaan teknologi lainnya menghadapi kesulitan mencegah penyalahgunaan teknologi AI baru, terutama dalam konteks pemilu.

Ada laporan bahwa generator gambar dari perusahaan seperti OpenAI dan Microsoft telah menghasilkan foto yang berisi disinformasi terkait pemungutan suara, meskipun ada pembatasan yang melarang konten tersebut.