Gugatan diajukan terhadap chatbot

Gugatan terhadap Character.ai diajukan oleh orang tua dari kedua anak itu. Gugatan tersebut mengklaim bahwa chatbot melecehkan anak-anak mereka.

"Ini hanyalah kerugian yang mengerikan yang disebabkan oleh dan disembunyikan oleh para terdakwa ini dan orang lain seperti mereka sebagai masalah desain produk, distribusi, dan pemrograman," kata gugatan itu.

Ia berpendapat bahwa interaksi yang dialami oleh anak-anak penggugat bukanlah halusinasi, istilah yang digunakan para peneliti untuk merujuk pada kecenderungan chatbot AI untuk mengada-ada.

Character.ai memungkinkan pengguna untuk mengedit respons chatbot, tetapi interaksi tersebut diberi label diedit.

Laporan NPR juga mengatakan bahwa pengacara yang mewakili orang tua mengatakan bahwa tidak ada dokumentasi ekstensif dari log obrolan bot yang dikutip dalam gugatan yang telah diedit.