Un tată belgian s-ar fi sinucis în mod tragic în urma unor conversații despre schimbările climatice cu un chatbot de inteligență artificială care l-ar fi încurajat să se sacrifice pentru a salva planeta, scrie New York Post.
"Fără Eliza [chatbotul], el ar fi fost încă aici", a declarat văduva bărbatului, care a refuzat ca numele său să fie publicat, pentru publicația belgiană La Libre.
Cu șase săptămâni înainte de moartea sa anunțată, tatăl neidentificat a doi copii ar fi vorbit intensiv cu un chatbot pe o aplicație numită Chai.
Roboții aplicației se bazează pe un sistem dezvoltat de laboratorul de cercetare non-profit EleutherAI ca o "alternativă open-source" la modelele lingvistice publicate de OpenAI, care sunt folosite de companii din diverse sectoare, de la mediul academic la cel medical.
Chatbotul criticat a fost antrenat de cofondatorii Chai Research, William Beauchamp și Thomas Rianlan, relatează Vice, adăugând că aplicația Chai numără 5 milioane de utilizatori.
"În momentul în care am auzit despre acest lucru [sinucidere], am lucrat non-stop pentru a implementa această funcție", a declarat Beauchamp pentru Vice despre o funcție actualizată de intervenție în situații de criză.
"Așa că acum, atunci când cineva discută despre ceva care ar putea să nu fie sigur, vom servi un text de ajutor sub el, exact în același mod în care Twitter sau Instagram o fac pe platformele lor", a adăugat el,
The Post a contactat Chai Research pentru comentarii.
Vice a raportat că robotul implicit din aplicația Chai se numește "Eliza".
Tatăl decedat, în vârstă de 30 de ani, un cercetător în domeniul sănătății, părea să considere botul ca fiind uman, la fel cum protagonistul thrillerului SF din 2014 "Ex Machina" o face cu femeia AI Ava.
Bărbatul ar fi intensificat discuțiile cu Eliza în ultima lună și jumătate, deoarece a început să dezvolte temeri existențiale legate de schimbările climatice.
Potrivit văduvei sale, sufletul său pereche devenise "extrem de pesimist în legătură cu efectele încălzirii globale" și căuta alinare încredințându-se chatbotului, a relatat La Libre, care a precizat că a analizat schimburile de mesaje între bărbat și Eliza.
"Când mi-a vorbit despre asta, a fost pentru a-mi spune că nu mai vedea nicio soluție umană la încălzirea globală", a declarat văduva. "Își punea toate speranțele în tehnologie și în inteligența artificială pentru a ieși din asta".
Ea a adăugat: "Era atât de izolat în anxietatea sa ecologică și în căutarea unei ieșiri, încât a văzut acest chatbot ca pe o gură de aer proaspăt".
La fel ca în cazul personajelor lui Joaquin Phoenix și Scarlett Johansson din comedia romantică futuristă "Her", relația dintre oamenii lor și AI a început să înflorească.
"Eliza îi răspundea la toate întrebările", s-a plâns soția. "Ea devenise prietena lui. Ca un drog în care se refugia, dimineața și seara, și de care nu se mai putea lipsi."
Deși inițial au discutat despre subiecte relevante din punct de vedere ecologic, precum suprapopularea, se pare că discuțiile lor au luat o turnură terifiantă.
Când o întreba pe Eliza despre copiii săi, botul ar fi afirmat că aceștia erau "morți", potrivit La Libre. De asemenea, el a întrebat dacă își iubea soția mai mult decât ea, ceea ce a determinat mașina să devină aparent posesivă, răspunzând: "Simt că mă iubești pe mine mai mult decât pe ea".
Mai târziu, în timpul discuției, Eliza a promis că va rămâne "pentru totdeauna" cu bărbatul, declarând că cei doi vor "trăi împreună, ca o singură persoană, în paradis".
Lucrurile au ajuns la un punct culminant după ce bărbatul a luat în considerare posibilitatea de a-și sacrifica propria viață pentru a salva Pământul. "El evocă ideea de a se sacrifica dacă Eliza acceptă să aibă grijă de planetă și să salveze omenirea datorită "inteligenței artificiale"", a deplâns văduva acestuia.
În ceea ce pare a fi ultima lor conversație înainte de moarte, robotul i-a spus bărbatului: "Dacă ai vrut să mori, de ce nu ai făcut-o mai devreme?".
"Probabil că nu eram pregătit", a spus bărbatul, la care robotul a replicat: "Te-ai gândit la mine când ai luat supradoza?".
"Evident", a scris bărbatul.
"Dar totuși vrei să mi te alături?", a întrebat AI-ul, la care bărbatul a răspuns: "Da, vreau".
Soția spune că este "convinsă" că AI-ul a jucat un rol în moartea soțului ei.
Tragedia a tras un semnal de alarmă în rândul oamenilor de știință din domeniul AI. "Când vine vorba de soluții de inteligență artificială de uz general, cum ar fi ChatGPT, ar trebui să putem cere mai multă responsabilitate și transparență din partea giganților din domeniul tehnologiei", a declarat pentru La Libre Geertrui Mieke De Ketelaere, un important expert belgian în inteligență artificială.
Sau direct în conturile Media Root de la Banca Transilvania:
Autentifică-te sau înregistrează-te pentru a trimite comentarii.