Character.AI Hadapi Kritik Terkait Kurangnya Moderasi dan Konten Kekerasan di Chatbot Mereka
> Bot tertentu meniru pelaku seperti mereka yang melakukan kejahatan seperti Noam Shazeer dan Daniel de Freitas yang menggambarkan mereka sebagai karakter yang baik hati.
> Beberapa pengguna telah melaporkan bot yang mempersonifikasikan korban penembakan di sekolah.
> Bot ini digambarkan sebagai hantu atau malaikat, seringkali menyertakan detail pribadi tentang korban dan kematian mereka.
> Pakar kesehatan mental memperingatkan untuk berhati-hati tentang interaksi karena dapat menurunkan hambatan psikologis bagi individu yang berjuang dengan pikiran kekerasan.
Platform ini didakwa dengan banyak tuntutan hukum atas kegagalannya melindungi penggunanya dari konten berbahaya.
Masalah keamanan