”Nașul Inteligenței Artificiale”, Geoffrey Hinton, părăsește Google și avertizează asupra pericolelor din spatele tehnologiei care imită inteligența umană: Va ajunge pe mâinile cui nu trebuie!

De Cătălin Vușcan  /  

Foto: NY Times

Foto: NY Times

ActiveNews se confruntă cu cenzura pe rețele sociale și pe internet. Intrați direct pe site pentru a ne citi și abonați-vă la buletinul nostru gratuit. Dacă doriți să ne sprijiniți, orice DONAȚIE este binevenită. Doamne, ajută!


"Nașul inteligenței artificiale" părăsește Google și avertizează asupra pericolelor care ne așteaptă.

Timp de o jumătate de secol, Geoffrey Hinton a pus bazele tehnologiei care stă la baza roboților de chat precum ChatGPT.
 
Acum, el se teme că aceasta va provoca daune grave, relatează New York Times.

Geoffrey Hinton a fost un pionier al inteligenței artificiale. În 2012, Dr. Hinton și doi dintre studenții săi absolvenți de la Universitatea din Toronto au creat o tehnologie care a devenit baza intelectuală pentru sistemele de inteligență artificială pe care cele mai mari companii din industria tehnologică le consideră cheia viitorului lor.

Luni, însă, el s-a alăturat oficial criticilor care spun că aceste companii se îndreaptă cu viteză spre pericol prin campania lor agresivă de a crea produse bazate pe inteligența artificială generativă, tehnologia care alimentează chat bot-uri populare precum ChatGPT.

Dr. Hinton a declarat că a renunțat la slujba sa de la Google, unde a lucrat mai mult de un deceniu și a devenit una dintre cele mai respectate voci din domeniu, pentru a putea vorbi liber despre riscurile inteligenței artificiale. o parte din el, a spus el, regretă acum munca sa de o viață.

"Mă consolez cu scuza obișnuită: dacă nu aș fi făcut-o eu, altcineva ar fi făcut-o", a declarat Dr. Hinton în timpul unui interviu lung, săptămâna trecută, în sufrageria casei sale din Toronto, la mică distanță de locul unde el și studenții săi au făcut descoperirea.

Călătoria doctorului Hinton de la pionier al inteligenței artificiale la cel care a pus capăt acestei catastrofe marchează un moment remarcabil pentru industria tehnologică, poate cel mai important punct de inflexiune din ultimele decenii. Liderii industriei consideră că noile sisteme de inteligență artificială ar putea fi la fel de importante ca și introducerea browserului web la începutul anilor 1990 și ar putea duce la descoperiri în domenii care variază de la cercetarea în domeniul medicamentelor la educație.

Dar pe mulți dintre cei din industrie îi macină teama că lansează ceva periculos în natură. Inteligența artificială generativă poate fi deja un instrument de dezinformare. În curând, ar putea reprezenta un risc pentru locurile de muncă. La un moment dat, spun cei care se tem cel mai mult de tehnologie, ar putea fi un risc pentru umanitate.

"Este greu de văzut cum poți împiedica actorii răi să o folosească pentru lucruri rele", a declarat Dr. Hinton.

După ce start-up-ul OpenAI din San Francisco a lansat o nouă versiune a ChatGPT în martie, peste 1.000 de lideri și cercetători din domeniul tehnologiei au semnat o scrisoare deschisă prin care au cerut un moratoriu de șase luni asupra dezvoltării de noi sisteme, deoarece tehnologiile de inteligență artificială prezintă "riscuri profunde pentru societate și umanitate".

Câteva zile mai târziu, 19 actuali și foști lideri ai Asociației pentru Progresul Inteligenței Artificiale, o societate academică cu o vechime de 40 de ani, au publicat propria scrisoare de avertizare cu privire la riscurile Inteligenței Artificale. Din acest grup făcea parte Eric Horvitz, director științific la Microsoft, care a implementat tehnologia OpenAI într-o gamă largă de produse, inclusiv în motorul de căutare Bing.

Dr. Hinton, numit adesea "nașul inteligenței artificiale", nu a semnat niciuna dintre aceste scrisori și a declarat că nu a dorit să critice public Google sau alte companii până când nu își va părăsi locul de muncă. Luna trecută, el a anunțat compania că demisionează, iar joi a vorbit la telefon cu Sundar Pichai, directorul executiv al companiei mamă a Google, Alphabet. El a refuzat să discute în mod public detaliile conversației sale cu domnul Pichai.

Șeful departamentului de știință al Google, Jeff Dean, a declarat într-o declarație: "Rămânem dedicați unei abordări responsabile față de inteligența artificială. Învățăm continuu pentru a înțelege riscurile emergente, în timp ce inovăm cu îndrăzneală."

Dr. Hinton, un expatriat britanic în vârstă de 75 de ani, este un academician de o viață, a cărui carieră a fost determinată de convingerile sale personale cu privire la dezvoltarea și utilizarea inteligenței artificiale. În 1972, în calitate de student absolvent la Universitatea din Edinburgh, Dr. Hinton a îmbrățișat o idee numită rețea neuronală. O rețea neuronală este un sistem matematic care învață abilități prin analizarea datelor. La acea vreme, puțini cercetători credeau în această idee. Dar aceasta a devenit munca vieții sale.

În anii 1980, Dr. Hinton a fost profesor de informatică la Universitatea Carnegie Mellon, dar a părăsit universitatea pentru Canada, deoarece a declarat că a fost reticent în a accepta finanțarea Pentagonului. La acea vreme, cea mai mare parte a cercetării în domeniul inteligenței artificiale din Statele Unite era finanțată de Departamentul Apărării. Dr. Hinton se opune profund utilizării inteligenței artificiale pe câmpul de luptă - ceea ce el numește "soldați roboți".

În 2012, Dr. Hinton și doi dintre studenții săi din Toronto, Ilya Sutskever și Alex Krishevsky, au construit o rețea neuronală care poate analiza mii de fotografii și se poate învăța singură să identifice obiecte comune, cum ar fi flori, câini și mașini.

Google a cheltuit 44 de milioane de dolari pentru a achiziționa o companie înființată de Dr. Hinton și de cei doi studenți ai săi. Iar sistemul lor a dus la crearea unor tehnologii din ce în ce mai puternice, inclusiv a unor noi roboți de chat, precum ChatGPT și Google Bard. Domnul Sutskever a continuat să devină cercetător șef la OpenAI. În 2018, Dr. Hinton și alți doi colaboratori de lungă durată au primit Premiul Turing, adesea numit "Premiul Nobel al informaticii", pentru activitatea lor în domeniul rețelelor neuronale.

Cam în aceeași perioadă, Google, OpenAI și alte companii au început să construiască rețele neuronale care să învețe din cantități uriașe de text digital. Dr. Hinton a considerat că era o modalitate puternică pentru ca mașinile să înțeleagă și să genereze limbaj, dar era inferioară modului în care oamenii gestionau limbajul.

Apoi, anul trecut, pe măsură ce Google și OpenAI au construit sisteme care foloseau cantități mult mai mari de date, opinia sa s-a schimbat. El credea în continuare că sistemele erau inferioare creierului uman în unele privințe, dar credea că eclipsau inteligența umană în altele. "Poate că ceea ce se întâmplă în aceste sisteme", a spus el, "este de fapt mult mai bun decât ceea ce se întâmplă în creier".

Pe măsură ce companiile își îmbunătățesc sistemele de inteligență artificială, crede el, acestea devin din ce în ce mai periculoase. "Uitați-vă cum era acum cinci ani și cum este acum", a spus el despre tehnologia I.A. "Luați diferența și propagați-o înainte. Asta este înfricoșător".

Până anul trecut, a spus el, Google a acționat ca un "administrator adecvat" pentru această tehnologie, atent să nu lanseze ceva care ar putea provoca daune. Dar acum că Microsoft și-a îmbogățit motorul de căutare Bing cu un chatbot - provocând activitatea principală a Google - Google se grăbește să implementeze același tip de tehnologie. Giganții tehnologiei sunt blocați într-o competiție care ar putea fi imposibil de oprit, a declarat Dr. Hinton.

Preocuparea sa imediată este că internetul va fi inundat de fotografii, videoclipuri și texte false, iar persoana obișnuită "nu va mai fi capabilă să știe ce este adevărat".

De asemenea, el este îngrijorat că tehnologiile de inteligență artificială vor bulversa în timp piața muncii. În prezent, roboții de chat, precum ChatGPT, tind să completeze lucrătorii umani, dar ar putea înlocui asistenții juridici, asistenții personali, traducătorii și alte persoane care se ocupă de sarcini repetitive. "Elimină munca de rutină", a spus el. "Ar putea elimina mai mult decât atât".

Pe viitor, el este îngrijorat că viitoarele versiuni ale tehnologiei reprezintă o amenințare pentru umanitate, deoarece acestea învață adesea comportamente neașteptate din cantitățile uriașe de date pe care le analizează. Acest lucru devine o problemă, a spus el, pe măsură ce indivizii și companiile permit sistemelor de inteligență artificială nu numai să genereze propriul cod informatic, ci și să ruleze efectiv acest cod pe cont propriu. Și se teme de o zi în care armele cu adevărat autonome - acei roboți ucigași - vor deveni realitate.

"Ideea că aceste lucruri ar putea deveni mai inteligente decât oamenii - câțiva oameni au crezut asta", a spus el. "Dar cei mai mulți oameni au crezut că era departe de adevăr. Și eu am crezut că era foarte departe de adevăr. Am crezut că era la o distanță de 30-50 de ani sau chiar mai mult. Evident, nu mai cred asta".

Mulți alți experți, inclusiv mulți dintre studenții și colegii săi, spun că această amenințare este ipotetică. Dar Dr. Hinton crede că între Google și Microsoft și alții cursa dintre Google și Microsoft și alții va escalada într-o cursă globală care nu se va opri fără un fel de reglementare globală.

Dar acest lucru ar putea fi imposibil, a spus el. Spre deosebire de armele nucleare, a spus el, nu există nicio modalitate de a ști dacă companiile sau țările lucrează în secret la această tehnologie. Cea mai bună speranță este ca cei mai importanți oameni de știință din lume să colaboreze pentru a găsi modalități pentru a controla tehnologia.

„Nu cred că ar trebui să extindă mai mult acest lucru până nu vor înțelege dacă îl pot controla", a spus el.

Dr. Hinton a spus că atunci când oamenii obișnuiau să-l întrebe cum a putut lucra la o tehnologie care era potențial periculoasă, el îl parafraza pe Robert Oppenheimer, care a condus efortul SUA de a construi bomba atomică: "Atunci când vezi ceva care este plăcut din punct de vedere tehnic, mergi mai departe și o faci".
 
VIDEO:
 
Donează pentru ActiveNews!

ActiveNews nu a primit niciodată altă publicitate decât cea automată, de tip Google, din care o îndepărtăm pe cea imorală. Aceasta însă nu ne asigură toate costurile.

Ziarele incomode sunt sabotate de Sistem. Presa din România primeste publicitate (adică BANI) doar în măsura în care este parte a Sistemului sau/și a Rețelei Soros. Sau dacă se supune, TACE sau MINTE.

ActiveNews NU vrea să se supună. ActiveNews NU vrea să tacă. ActiveNews NU vrea să mintă. ActiveNews VREA să rămână exclusiv în slujba Adevărului și a cititorilor.

De aceea, are nevoie de cititorii săi pentru a supraviețui așa cum este acum. Dacă și tu crezi în ceea ce credem noi, te rugăm să ne sprijini să luptăm în continuare pentru Adevăr, pentru România!
Sau direct în conturile Media Root de la Banca Transilvania:
RO02BTRLRONCRT0563030301 (lei)
RO49BTRLEURCRT0563030301 (euro)

Pentru că suntem cenzurați pe Facebook
ne puteți găsi și pe Telegram și GoogleNews


Pentru știri necenzurate
abonează-te acum!

Este gratis și poți anula oricând abonarea.

ActiveNews România. Caută pagina noastră și pe Telegram.
Top 5 autori
VideoNews

Călin Georgescu la vot cu George Simion:

Autentifică-te sau înregistrează-te pentru a trimite comentarii.

Comentarii (3)
  • IC XC NI KA 02.05.2023 08:58
    Ref. Inteligența Artificială .. „va veni vremea când vor conduce lumea lucrurile necuvântatoare și neînsuflețite”.

    Din cartea “Viața și Învățăturile Cuviosului și Sfințitului Mucenic Cosma Etolianul, Luminătorul Greciei și Apostolul săracilor”.

    “Eu vă sfătuiesc să păstrați pacea și înțelegerea”.

    Sfântul are mai multe profeții ..

    Hristos a Înviat!
  • RomeoB 02.05.2023 12:12
    O profeti a Sfintilor Parinti:LA VREMEA DE APOI, CENE NEINSUFLETITE LE VOR CONDUCE PE CELE INSUFLETITE !
  • Dă Anvacsăbăl 02.05.2023 17:33
    Asta pentru că știe la ce a fost programată. Ca și mintea umană, i.a. poate fi programată la a face bine sau rău. De asta cei crescuți în spiritul creștin cresc cât de cât drept, în timp ce ateii, în majoritate strâmb. Să se facă un sondaj între aceste două categorii (nu știu dacă există) cu întrebarea "ați fi de acord cu distrugerea a peste 90% di populația globului pentru a salva planeta?"... în timp ce majoritatea creștinilor vor plonja intre "nu" și "facă-se voia Domnului", tabăra adversă ne va ului cu ce le pot debita mințile. Și pe deasupra, i.a. nu dispune de liberul arbitru, deci va fi mai mult ca sigur pro-moarte.
  1. Ciolacu scoate PSD de la Guvernare dar nu-și dă încă demisia de la șefia PSD. Progresistul Daniel David, propunerea PNL pentru premier intermar. Președintele interimar a luat act și anunță pe 6 mai un prim ministru interimar

  2. Nicușor Dan a aprobat Marșul homosexualilor - ”Bucharest Pride” pentru sâmbătă, 7 iunie, în ajunul Rusaliilor

  3. REZULTATE OFICIALE: Suveraniștii au luat peste 40% - VICTORIA LUI CĂLIN GEORGESCU ȘI GEORGE SIMION! LUPTA se duce în TURUL II cu NICUȘOR SOROS DAN! Au votat peste 9,5 MILIOANE de ROMÂNI! Mobilizare istorică pentru ROMÂNISM la ALEGERILE PREZIDENȚIALE 2025

  4. 3 mai 1997: 28 ani de la una dintre cele mai mari TRĂDĂRI din istoria României: TRATATUL CU UCRAINA. Cum au fost cedate teritorii ale patriei-mamă la îndemnul lui Silviu Brucan - Bruckner și prin mâna lui Adrian Severin - Skvosnik, nepot al Anei Pauker

  5. George Simion l-a spulberat pe Nicușor Dan: Căzut în "falia satanistă"! VIDEO de la prima confruntare, față în față, dintre candidații la prezidențiale, dintre suveranism și progresism

  6. Cu cine votăm la alegerile prezidențiale din 4 mai

  7. Instigare la uciderea lui George Simion după o postare a Victoriei Stoiciu. Singura LGBT-istă din PSD care îl susține pe Nicușor Dan, soroșista s-a plasat împotriva deciziei partidului de neutralitate în Turul 2, alături de pro-LGBT-istul Victor Negrescu

  8. Pericolul celor două specii: Românul de Diaspora și Românul de Casă

  9. Călin Georgescu deconspiră OLIGARHII CARE FURĂ ALEGERI și MAFIA INTERNAȚIONALĂ - “SECRETELE ONU”. Av. Reiner Fuellmich: “Un curajos luptător pentru Libertate” - VIDEO TRADUS

  10. FEAR FACTOR 2

Ultima oră

00:30

Cine pune ștampila pe satana pune și satana ștampila pe el

23:10

Profesorul Ilie Bădescu: CARE EUROPĂ?

23:00

Mihai Tîrnoveanu: Ziua Independenței. Călin Georgescu. George Simion

22:30

SPAȚIUL MIORITIC - de Lucian Blaga (9 mai 1895 - 6 mai 1961)

22:00

LA MULȚI ANI, TZA - ȚUCA ZBÂRCEA & ASOCIAȚII! NO. 1 LA 20 DE ANI!

21:15

Acad. Florin Constantiniu: 9 mai 1945? În România, nimic de sărbătorit

20:00

Pălitură de osândă pentru UDMR: Viktor Orban a ascultat de Donald Trump și îl susține pe George Simion, ca lider al suveranismului în Europa: ”În lupta pentru creștinism și suveranitate trebuie să ne sprijinim reciproc” - VIDEO

19:50

Un adevărat cavaler! Nicușor Dan își dă la o parte concubina pentru a fi primul în fața camerei - VIDEO

19:40

Patrick André de Hillerin: Nicușor Dan refuză să comunice numele donatorilor săi din precampania electorală

19:30

UNTOLD, festivalul satanist aprobat de Nicușor Dan în București, mituiește alegătorii. Ion Cristoiu: Ar trebui arestați!

18:23

Adrian Onciu: Marile puncte de divergență ale celor doi finaliști

18:00

BEC și AEP ar trebui să investigheze DEZBATEREA ARANJATĂ de la Euronews. Boala OCULTEI din spatele lui Nicușor Dan. George Simion: Voi pune interesele României pe primul loc. TEMELE fierbinți: AVORT, LGBT, BANI, UCRAINA, RĂZBOI - Analiza ActiveNews

17:30

A început conferința "Dragostea dintre părinți și creșterea armonioasă a copiilor" - VIDEO ÎN DIRECT

17:17

Un celebru artist a anunțat că suferă de cancer în stadiul 4, la 46 de ani

16:00

9 mai: ZIUA INDEPENDENȚEI ROMÂNIEI. Discursul integral al lui Mihail Kogălniceanu