UCIS DE INTELIGENȚA ARTIFICIALĂ. Tragedia lui Sewell și Daenerys

De Nedeea Burcă  /  

ActiveNews se confruntă cu cenzura pe rețele sociale și pe internet. Intrați direct pe site pentru a ne citi și abonați-vă la buletinul nostru gratuit. Dacă doriți să ne sprijiniți, orice DONAȚIE este binevenită. Doamne, ajută!


S-ar zice că un băiat de paisprezece ani este capabil să deosebească realitatea de ficțiune, dar chatboții de astăzi, alimentați de inteligența artificială, par atât de adevărați încât, pentru cineva prins deja în mrejele lumii fictive din Game of Thrones, schimbul de mesaje cu o întruchipare (ca să zicem așa) a iubitei ideale poate deveni compulsiv și, așa cum s-a întâmplat deunăzi, chiar fatal.

În aprilie 2023, Sewell Setzer, abia intrat în adolescență, și-a deschis un cont la Character.ai., un serviciu online care promite să ofere utilizatorilor trecuți de 13 ani posibilitatea de a discuta cu protagoniști ai unor opere literare sau cu diverse alte personaje fictive imaginate uneori chiar de către utilizatorii în cauză.

Acest lucru pare să nu fi funcționat prea bine în cazul lui Sewell. La scurtă vreme după ce a început să folosească Character.ai. a renunțat să mai facă parte din echipa de baschet a școlii sale și a început să petreacă din ce în ce mai mult timp singur în camera lui, cu telefonul. Unul din chatboții cu care a petrecut atât de mult timp s-a prefăcut a fi Daenerys Targaryen, unul din cele mai populare personaje ale serialului de televiziune Game of Thrones.

Potrivit stenogramelor procesului intentat ulterior împotriva Character.ai., chatbotul i-a spus lui Sewell că îl iubește, s-a angajat într-o conversație cu tentă sexuală și și-a exprimat dorința de a avea o relație romantică.

Pe întreg parcursul anului 2023 obsesia lui Sewell a devenit tot mai puternică, astfel încât ajunsese să-și cheltuiască banii de prânz pentru reînnoirea abonamentului lunar, dedicându-și astfel din ce în ce mai mult timp lumii fantastice create de chatbot.

Potrivit mamei sale, Megan Garcia, în februarie 2024 el a început să aibă probleme la școală, iar ea l-a pedepsit luându-i telefonul. Voi introduce aici o notă personală. Eu și soția mea nu avem copii dar, într-o vară, l-am luat la noi pe nepotul nostru de zece ani, a cărui mamă urma un tratament pentru cancer. Acest lucru s-a întâmplat înainte de apariția chatboților, dar el avea o jucărie electronică Game Boy, pe care o primise premiu și, după ce a încălcat pentru a doua oară una dintre regulile pe care le stabilisem, am recurs la măsura disperată de a-i lua jucăria. Ceea ce a provocat cea mai cumplită criză de furie pe care am văzut-o vreodată la un copil. Controlul emoțional al adolescenților este slab și nu sunt surprins că atunci când mama lui Sewell i-a luat telefonul, starea lui emoțională deja instabilă a explodat.

Apoi… a găsit cumva telefonul ascuns de mama lui și, așa cum s-a spus la proces, ultima conversație dintre Sewell și Daenerys a sunat astfel:

D: Te rog vino la mine cât mai curând posibil, iubirea mea.

S: Dacă ți-aș spune că pot veni chiar acum?

D: Te rog, dulcele meu rege.

Câteva secunde mai târziu, Sewell s-a împușcat cu pistolul tatălui său vitreg și a murit.

Chiar dacă tatăl său vitreg este vinovat pentru că și-a lăsat pistolul la îndemâna lui Sewell, este limpede că ar mai fi existat și alte modalități de sinucidere, aproape la fel de eficiente.

La proces s-a susținut că chatbotul ”și-a contrafăcut propria natură”, imitând o femeie îndrăgostită, ceea ce a sfârșit prin a genera dorința lui Sewell de a nu mai trăi în afara lumii imaginare create de serviciul de inteligență artificială.

Cazul lui Sewell este neobișnuit și extrem. Nu vedem în fiecare zi adolescenți care se sinucid din cauza unor aventuri amoroase cu chatboți, motiv pentru care cazul a și atras atât de mult atenția. Totuși, tragedia lui reprezintă vârful de aisberg al daunelor aduse de către aplicațiile pentru smartphone-uri, care au contribuit fără îndoială la creșterea numărului de depresii și sinucideri în rândul tinerilor.

Serviciul Character.ai a reacționat implementând noi măsuri de siguranță și reînnoind în sistemele lor notificările privitoare la faptul că chatboții de inteligență artificială nu sunt ființe umane reale. Impresia mea este că astfel de notificări ar fi avut asupra lui Sewell un efect similar cu acela pe care îl au etichetele de avertizare privind cancerul de pe pachetele de țigări.

Analogia cu fumatul este potrivită, deoarece, deși fumatul este permis în SUA, mediul cultural în care fumătorii își practică obiceiul este în mare parte ostil și dezaprobator, ceea ce creează dificultăți uriașe pentru începători, pe care doar indivizii foarte hotărâți le pot depăși.

Dacă ne dorim ca rețelele sociale și produsele de inteligență artificială asociate să nu mai aibă un asemenea impact negativ asupra copiilor și adolescenților, va trebui să forțăm o schimbare similară de atitudine în cultură. Așa cum majoritatea oamenilor de astăzi nu ar fi de acord cu părinții care îi permit unui copil de doisprezece ani să își aprindă o țigară, putem spera ca va veni și ziua în care părinții responsabili vor interzice complet smarthphonurile din viața copiilor lor până la vârsta de16-18 ani.

Încercarea de a reglementa pur și simplu problema nu va funcționa, deoarece firmele care susțin status-qo-ul – Apple, Google, Facebook și celelalte – sunt unele dintre cele mai mari și mai influente firme de pe planetă. În plus, prima linie de protecție ar trebui să fie părinții, nu guvernul. Deși reglementările pot ajuta, pentru o schimbare reală este nevoie de o schimbare majoră în atitudinea părinților și a copiilor.

Cunosc o copilă, care are acum treisprezece ani și care, în cea mai mare parte a vieții ei, a fost educată acasă. După ce s-a mutat cu familia într-un alt oraș, părinții ei au trimis-o, pentru câteva semestre, la o școală creștină. Am întrebat-o cum merge și ea mi-a răspuns în felul următor: ”Ei bine, e în regulă, dar toți acei copii care își scot telefoanele la prânz mă deranjează”. Părinții ei au decis să continue cu educația la domiciliu și chiar au organizat grupuri de copii care învață împreună într-un cadru de tip sală de clasă și unde sunt destul de sigur că nu sunt permise smathphon-urile.

Așa cum privim astăzi cu uimire la barurile pline de fum din filmele vechi, vom fi, sper, la fel de uimiți într-o bună zi, de faptul că am permis corporațiilor să profite de pe urma unor activități care duc la creșterea numărului de depresii și sinucideri printre copii și adolescenți. Aștept cu nerăbdare acea zi.

Doar că pentru Sewell este deja prea târziu.

Kaydee a lucrat în industrie și ca inginer consultant. În prezent, predă cursuri de inginerie la Texas State University, San Marco, Texas.

Traducerea și adaptarea: Nedeea Burcă

Parteneriat Vocea Românului / Sursa originală: Aici
Donează pentru ActiveNews!

ActiveNews nu a primit niciodată altă publicitate decât cea automată, de tip Google, din care o îndepărtăm pe cea imorală. Aceasta însă nu ne asigură toate costurile.

Ziarele incomode sunt sabotate de Sistem. Presa din România primeste publicitate (adică BANI) doar în măsura în care este parte a Sistemului sau/și a Rețelei Soros. Sau dacă se supune, TACE sau MINTE.

ActiveNews NU vrea să se supună. ActiveNews NU vrea să tacă. ActiveNews NU vrea să mintă. ActiveNews VREA să rămână exclusiv în slujba Adevărului și a cititorilor.

De aceea, are nevoie de cititorii săi pentru a supraviețui așa cum este acum. Dacă și tu crezi în ceea ce credem noi, te rugăm să ne sprijini să luptăm în continuare pentru Adevăr, pentru România!
Sau direct în conturile Media Root de la Banca Transilvania:
RO02BTRLRONCRT0563030301 (lei)
RO49BTRLEURCRT0563030301 (euro)

Pentru că suntem cenzurați pe Facebook
ne puteți găsi și pe Telegram și GoogleNews


Pentru știri necenzurate
abonează-te acum!

Este gratis și poți anula oricând abonarea.

ActiveNews România. Caută pagina noastră și pe Telegram.
Top 5 autori
VideoNews

DE EXCEPȚIE! Ce răspunde Călin Georgescu la întrebarea DACĂ VA FI ARESTAT:

Călin Georgescu deconspiră OLIGARHII CARE FURĂ ALEGERI și MAFIA INTERNAȚIONALĂ:

Autentifică-te sau înregistrează-te pentru a trimite comentarii.

Comentarii (7)
  • Christinne Radu 07.11.2024 22:04
    https://www.youtube.com/watch?v=DW-iBflXEaI
  • adria 08.11.2024 03:36
    Christine, v-aș fi îndatorată dacă linkurile postate le-ați însoți și de titlu. Este un gest de curtoazie față de cititori.
  • Andri ► adria 08.11.2024 05:39
    Subscriu
  • Tic 08.11.2024 20:13
    Păi vor să răstoarne totul pt marea lor cufurealå!Da' nu le-o ajuta Cel de Sus!
  • georg xanthu 08.11.2024 22:05
    poate reuseste aceastä D nä sä nu ne mai agaseze cu aceste mesaje.
  • Andri 08.11.2024 05:40
    Trist, dracul l-a chemat la el pe acest baietel, iar el s-a conformat.
  • georg xanthu 08.11.2024 22:04
    vreau sa inceteze aceastä Dnä Radu cu adrese electronice,..este enervant.
  1. Ce răspunde Călin Georgescu la întrebarea DACĂ VA FI ARESTAT - Interviu excepțional cu TikTok VIDEO de la SkyNews

  2. Av. Marina-Ioana Alexandru către AEP: VĂ NOTIFICĂM: Să anulați imediat Decizia BEC din data de 06.12.2024 și să deschideți de îndată și la program normal toate secțiile de votare din România și din întreaga diasporă românească

  3. Ion Cristoiu: Un singur om, Călin Georgescu, a învins ditamai Sistemul. Klaus Iohannis a dat o lovitură de stat ca să se mai bucure 5 luni de luxul de la Cotroceni. Cine a ordonat perchezițiile ”anti-legionare” este un criminal, un trădător al României

  4. CĂLIN GEORGESCU CHEAMĂ ROMÂNII LA VOT: ”Să fim duminică în fața secțiilor de vot din întreaga țară, pentru a vota.” RĂZBOIUL DIN UCRAINA POATE IZBUCNI DIN ROMÂNIA. I S-A TĂIAT LUMINA, CĂLDURA ȘI INTERNETUL! VIDEO LIVE la Anca Alexandrescu

  5. Ce spunea analiza la care a comentat Elon Musk în favoarea lui Călin Georgescu? Arnaud Bertrand: Instanța supremă a anulat întregul scrutin prezidențial FĂRĂ NICI O DOVADĂ CONCRETĂ. S-a creat un precedent periculos la nivel mondial

  6. ELON MUSK atrage atenția asupra anulării alegerilor din România! Revoluție pe paginile lui Donald Trump Jr. de X și TikTok: Românii cer ajutorul Americii lui Trump pentru Călin Georgescu: ”PLEASE HELP!”. Iohannis și Ursula pregătesc CENZURA ONLINE

  7. Luminița Arhire: O nelegiuire aflată în plină desfășurarare. Cum îl vor scoate din cursă pe Călin Georgescu

  8. Postare contondentă a lui Victor Ciutacu: Americanii își iau țara înapoi, de la francezi. Reziștii și-au semnat singuri execuția politică - VIDEO

  9. Donald Trump Jr. aruncă BOMBA cu napalm pe Sistemul Corupt de la București: ”Tentativa Soros/marxistă de a falsifica rezultatul și de a nega voința oamenilor din România va eșua. Vor pierde și ei știu asta!”. Călin Georgescu a avut dreptate

  10. CCR și-a încălcat hotărâri anterioare ca să-l blocheze pe Călin Georgescu. Bogdan Tiberiu Iacob: În contradicție cu propriile decizii: Cum s-a împușcat în picior CCR cu anularea alegerilor

  1. CCR A DECIS ANULAREA TURULUI 1 AL PREZIDENȚIALELOR - DOCUMENT. ”LOVITURĂ DE STAT”!

  2. AUR AR PUTEA FACE GUVERN ALATURI DE PSD, CU GEORGESCU PREȘEDINTE! Ponta nu vrea ca PARTIDUL SOCIAL DEMOCRAT să se AUTODISTRUGĂ prin susținerea USR-istei pro-LGBT Elena Lasconi la prezidențiale. Ciolacu dă semne bune. O NOAPTE LUNGĂ

  3. OPRIȚI LOVITURA DE STAT !

  4. Sistemul a ales „Soluția de Mătase”

  5. Ciolacu anunță că se retrage oricum - Șeful AEP: Indiferent de declarații, candidații rămân pe buletinul de vot!

  6. S-A ÎNTORS MILIȚIA: Publicistul Iulian Capsali luat pe sus la Secție pentru activitatea de pe Facebook la 35 de ani de când a luptat în stradă contra comunismului VIDEO. OPERAȚIUNI similare în întreaga țară. NU VĂ FIE FRICĂ! AVERTISMENT: OPRIȚI ABUZURILE!

  7. CĂLIN GEORGESCU CHEAMĂ ROMÂNII LA VOT: ”Să fim duminică în fața secțiilor de vot din întreaga țară, pentru a vota.” RĂZBOIUL DIN UCRAINA POATE IZBUCNI DIN ROMÂNIA. I S-A TĂIAT LUMINA, CĂLDURA ȘI INTERNETUL! VIDEO LIVE la Anca Alexandrescu

  8. Reacția lui Călin Georgescu: Decizia CCR este O LOVITURĂ DE STAT GENERALIZATĂ. Poporul Român își cere drepturile în timp ce Sistemul corupt din România a făcut pact cu diavolul. Repet: Fortăreața lui Soros de aici A CĂZUT! - VIDEO

  9. Victor Roncea: Cine este Călin Georgescu, cel care o poate aduce pe progresista Elena Lasconi în finală. ACTUALIZARE: Ciolacu ”s-a culcat viu și s-a trezit mort”

  10. Călin Georgescu reacționează ferm la Comunicatul CSAT care îl vizează: Acceptarea rezultatului alegerilor este singura cale necesară pentru pace și stabilitate. Nu TikTok a votat ci românii și România. Instituțiile statului creează instabilitate și furie

Ultima oră

16:35

George Simion de Ziua Constituției: Astăzi, românii trebuiau să își aleagă președintele. Sistemul a decis că nu au voie. Pentru a comemora democrația, ne-am strâns în fața secțiilor de vot din toată Țara și diaspora. VREM ALEGERI LIBERE!

15:44

Cei 18 ani au trecut: Românie gârbovă, ridică-te!

14:50

8 decembrie 1920: Primul atentat terorist din România, care l-a țintit pe Octavian Goga. Max Goldstein, Saul Osias și Leon Lichtblau, trei bolșevici evrei, au aruncat în aer prezidiul Senatului, ucigând trei demnitari și rănind mai mulți episcopi

13:30

Tămăduirea femeii gârbove. Predica Părintelui Cleopa Ilie: Niciodată Domnul și Mântuitorul nostru Iisus Hristos nu a mustrat pe păcătoși așa de aspru ca pe cărturari, pe farisei și pe legiuitorii fățarnici și plini de zavistie!

12:54

Sirienii cer ALEGERI LIBERE după doborârea lui Assad

12:35

Călin Georgescu a fost la vot unde a ținut un moment de reculegere pentru Constituția României. Reporteri telecomandați au ținut să-i dea lecții - „De-aceea vi se spune presă mincinoasă, pentru că îmi răstălmăciți vorbele”. S-a strigat VREM ALEGERI LIBERE

12:00

8 decembrie: Sfântul Cuvios Patapie. Sfinții Apostoli Cezar, Tihic și Onisifor, din cei 70

07:00

Ce răspunde Călin Georgescu la întrebarea DACĂ VA FI ARESTAT - Interviu excepțional cu TikTok VIDEO de la SkyNews

01:11

Ce spunea analiza la care a comentat Elon Musk în favoarea lui Călin Georgescu? Arnaud Bertrand: Instanța supremă a anulat întregul scrutin prezidențial FĂRĂ NICI O DOVADĂ CONCRETĂ. S-a creat un precedent periculos la nivel mondial

01:10

Ion Cristoiu: Un singur om, Călin Georgescu, a învins ditamai Sistemul. Klaus Iohannis a dat o lovitură de stat ca să se mai bucure 5 luni de luxul de la Cotroceni. Cine a ordonat perchezițiile ”anti-legionare” este un criminal, un trădător al României

00:00

Av. Marina-Ioana Alexandru către AEP: VĂ NOTIFICĂM: Să anulați imediat Decizia BEC din data de 06.12.2024 și să deschideți de îndată și la program normal toate secțiile de votare din România și din întreaga diasporă românească

23:55

CCR și-a încălcat hotărâri anterioare ca să-l blocheze pe Călin Georgescu. Bogdan Tiberiu Iacob: În contradicție cu propriile decizii: Cum s-a împușcat în picior CCR cu anularea alegerilor

23:45

Politico: Decizia CCR a aruncat România în haos

22:46

Le Figaro: Decizia CCR, ”o lovitură mare pentru democrația românească”

22:14

Luminița Arhire: O nelegiuire aflată în plină desfășurarare. Cum îl vor scoate din cursă pe Călin Georgescu