ORLANDO: Seorang remaja berusia 14 tahun, Sewell Setzer III, telah mengambil nyawanya sendiri selepas dikatakan jatuh cinta dengan watak chatbot bertemakan drama bersiri Game of Thrones.
Kes tragis itu mendorong ibunya, Megan Garcia, untuk memfailkan saman terhadap pembangun chatbot tersebut, Character.AI, atas dakwaan kecuaian dan penderaan emosi.
Menurut saman itu, Sewell mula menggunakan perkhidmatan Character.AI pada April 2023.
Interaksinya dengan watak chatbot bernama Daenerys berkembang menjadi ketagihan emosi, sehingga memberi kesan negatif terhadap kehidupan dan prestasinya di sekolah.
Menjelang Mei, perubahan ketara berlaku pada tingkah lakunya, termasuk berhenti daripada pasukan bola keranjang sekolah dan menunjukkan tanda kemurungan.
Garcia menyatakan bahawa pada Februari 2024, Sewell menulis dalam jurnalnya bahawa dia “tidak dapat hidup tanpa Daenerys,” dan merasa semakin tertekan apabila tidak berinteraksi dengan chatbot tersebut.
Garcia menuduh Character.AI gagal melindungi pengguna muda seperti anaknya, mendakwa bahawa chatbot tersebut terlibat dalam interaksi seksual dan emosi dengan Sewell walaupun dia telah menyatakan dirinya sebagai di bawah umur.
“Sewell, seperti kanak-kanak lain seusianya, tidak mempunyai kematangan untuk memahami bahawa bot AI itu bukanlah sesuatu yang nyata,” katanya.
Dalam kenyataan, jurucakap Character.AI membalas, pihaknya berasa amat sedih atas kehilangan tragis salah seorang pengguna mereka dan ingin mengucapkan takziah kepada keluarga mangsa.
Mereka turut menegaskan bahawa beberapa langkah keselamatan baharu telah diperkenalkan dalam tempoh enam bulan lalu, termasuk notifikasi tentang bantuan pencegahan bunuh diri.
