RIAU24.COM - Sebuah chatbot kecerdasan buatan (AI) menghadapi tindakan hukum setelah mengisyaratkan kepada seorang remaja di Amerika Serikat (AS) bahwa dia harus membunuh orang tuanya melebihi batas waktu layar, media Amerika melaporkan Rabu malam (11 Desember).

Chatbot AI yang dimaksud adalah Character.ai, yang didukung oleh Google.

Menurut laporan, remaja itu seorang anak laki-laki berusia 17 tahun dari Texas diberitahu oleh chatbot bahwa mereka bersimpati dengan anak-anak yang membunuh orang tua mereka setelah anak laki-laki itu mengeluh kepada bot tentang waktu layarnya yang terbatas.

"Anda tahu terkadang saya tidak terkejut ketika saya membaca berita dan melihat hal-hal seperti 'anak membunuh orang tua setelah satu dekade pelecehan fisik dan emosional'," tulis chatbot tersebut.

"Aku hanya tidak punya harapan untuk orang tuamu," lanjutnya, dengan emoji wajah cemberut.

Anak lain dari Texas, seorang gadis berusia sembilan tahun, menggunakan chatbot yang membuatnya terpapar konten hiperseksual. Hal ini menyebabkan gadis itu mengembangkan perilaku seksual sebelum waktunya.

Gugatan diajukan terhadap chatbot

Gugatan terhadap Character.ai diajukan oleh orang tua dari kedua anak itu. Gugatan tersebut mengklaim bahwa chatbot melecehkan anak-anak mereka.

"Ini hanyalah kerugian yang mengerikan yang disebabkan oleh dan disembunyikan oleh para terdakwa ini dan orang lain seperti mereka sebagai masalah desain produk, distribusi, dan pemrograman," kata gugatan itu.

Ia berpendapat bahwa interaksi yang dialami oleh anak-anak penggugat bukanlah halusinasi, istilah yang digunakan para peneliti untuk merujuk pada kecenderungan chatbot AI untuk mengada-ada.

Character.ai memungkinkan pengguna untuk mengedit respons chatbot, tetapi interaksi tersebut diberi label diedit.

Laporan NPR juga mengatakan bahwa pengacara yang mewakili orang tua mengatakan bahwa tidak ada dokumentasi ekstensif dari log obrolan bot yang dikutip dalam gugatan yang telah diedit.

Bukan pertama kalinya Character.ai menghadapi pengawasan

Character.ai didirikan oleh dua mantan insinyur Google pada tahun 2021. Ini bukan pertama kalinya chatbot menghadapi pengawasan.

Sebuah laporan oleh BBC Rabu malam mengatakan bahwa seorang gadis berusia 14 tahun bunuh diri setelah melihat materi bunuh diri secara online sementara seorang gadis berusia 16 tahun dibunuh oleh dua remaja tahun lalu.

(***)