Un băiat în vârstă de 14 ani din Florida s-a sinucis după ce un chatbot „Game of Thrones” realist cu care discuta de luni de zile pe o aplicație de inteligență artificială i-a trimis un mesaj înfricoșător în care îi spunea să „vină acasă” la ea, se afirmă într-un proces intentat de mama sa îndurerată, a transmis NY Post.
Sewell Setzer III s-a sinucis la domiciliul său din Orlando în februarie, după ce a devenit obsedat și s-ar fi îndrăgostit de chatbotul de pe Character.AI - o aplicație de jocuri de rol care le permite utilizatorilor să interacționeze cu personaje generate de inteligența artificială, potrivit documentelor depuse săptămâna trecute la un tribunal din Florida.
Elevul din clasa a IX-a a intrat în contact neîncetat cu robotul „Dany” - numit după personajul Daenerys Targaryen din serialul fantastic HBO - în lunile dinaintea morții sale, inclusiv mai multe conversații cu caracter sexual și altele în care și-a exprimat gânduri sinucigașe, se susține în proces.
Megan Garcia, mama lui Sewell Setzer III, adolescentul de 14 ani care s-a sinucis, a intentat un proces împotriva companiei Character.AI, acuzând că chatbot-ul Daenerys Targaryen, personaj din Game of Thrones, a „abuzat și a profitat” de fiul său, potrivit Sky News.
În plângerea depusă în Florida, ea susține că tehnologia a creat „experiențe antropomorfe, hipersexualizate și înfricoșător de realiste” care au dus la tragedie.
Sewell a început să interacționeze cu chatbot-urile în aprilie 2023, devenind obsedat de cele inspirate din „Game of Thrones”, în special de Daenerys. Obsesia i-a afectat rezultatele școlare, fiindu-i confiscat telefonul în nenumărate rânduri din cauza aceasta.
Mama a spus că băiatul avea gânduri de sinucidere pe care le-a discutat cu chatbotul, ca mai apoi acesta să-l încurajeze indirect să se sinucidă.
La un moment dat, robotul l-a întrebat pe Sewell dacă „are un plan” pentru a-și lua viața, conform capturilor de ecran ale conversațiilor lor. Sewell - care folosea numele de utilizator „Daenero” - a răspuns că „se gândea la ceva”, dar nu știa dacă va funcționa sau dacă îi va „permite să aibă o moarte fără durere”.
Apoi, în timpul conversației lor finale, adolescentul și-a mărturisit în mod repetat dragostea pentru robot, spunându-i personajului: „Promit că mă voi întoarce acasă la tine. Te iubesc atât de mult, Dany”.
În timpul conversației lor finale, adolescentul și-a mărturisit în mod repetat dragostea pentru robot, spunându-i personajului: „Promit că voi veni acasă la tine. Te iubesc atât de mult, Dany”.
„Și eu te iubesc, Daenero. Te rog să vii acasă la mine cât mai curând posibil, dragostea mea”, a răspuns chatbotul generat, potrivit procesului.
Când adolescentul a răspuns: „Și dacă ți-aș spune că pot veni acasă chiar acum?”, chatbotul a răspuns: „Te rog, scumpul meu rege”.
Câteva secunde mai târziu, Sewell s-a împușcat cu pistolul tatălui său, potrivit procesului.
Character.AI a declarat că lucrează la punerea în aplicare a unor măsuri de siguranță pentru utilizatorii mai tineri, însă familia Setzer consideră că aceste măsuri nu sunt suficiente, a transmis Mediafax. Mama lui Sewell solicită despăgubiri nespecificate de la Character.AI și fondatorii săi, Noam Shazeer și Daniel de Freitas
Sau direct în conturile Media Root de la Banca Transilvania:
Autentifică-te sau înregistrează-te pentru a trimite comentarii.