Planul lui Mark Zuckerberg pentru o inteligență artificială superinteligentă are un defect la bază

Săptămâna trecută, Mark Zuckerberg, CEO al Meta, a împărtășit viziunea sa pentru viitorul inteligenței artificiale (AI), o „inteligență personală” care vă poate ajuta „să vă atingeți obiectivele, să creați ceea ce doriți să vedeți în lume, să trăiți orice aventură, să fiți un prieten mai bun pentru cei la care țineți și să vă dezvoltați pentru a deveni persoana care aspirați să fiți”.

„Superinteligența personală”

Anunțul neclar - care nu a oferit mai multe detalii și care semăna cu rezultatul neinspirat al unui chatbot cu AI - a descris o imagine roz a unui viitor în care toată lumea folosește „noua noastră productivitate pentru a realiza mai mult decât era posibil anterior”.

Zuckerberg a îmbrăcat totul într-un ambalaj umanist: în loc să „automatizeze toată munca valoroasă”, așa cum fac concurenții Meta din domeniul inteligenței artificiale, ceea ce ar avea ca rezultat ca omenirea să trăiască „în detrimentul producției sale”, Zuckerberg a susținut că „superinteligența personală” ar pune „puterea în mâinile oamenilor pentru a o direcționa către ceea ce ei apreciază în viața lor”.

 Dar este greu să nu-l vezi pe miliardar încercând să le aibă pe amândouă. Zuckerberg visează la o utopie în care inteligența artificială superinteligentă se oprește în mod binevoitor din a prelua locurile de muncă ale tuturor, mulțumindu-se doar să amelioreze profund viața oamenilor.

Problema, scrie Futurism, începe cu o realitate fundamentală: dacă maselor le este oferită o AI cu adevărat superinteligentă, cei puternici o vor folosi pentru a automatiza locurile de muncă ale altor oameni. Dacă vor impune AI să nu facă asta, o vor face în schimb concurenții lor.

 După cum a subliniat Steven Adler, fost cercetător în domeniul siguranței OpenAI: „Mark pare să creadă că este important dacă Meta „direcționează” superinteligența către automatizarea în masă a muncii”.

„Acest lucru nu este corect”, a adăugat el. „Dacă aduceți superinteligența personală tuturor (inclusiv proprietarilor de întreprinderi), aceștia vor alege personal să automatizeze munca altora, dacă pot.”

 Adler a părăsit OpenAI la începutul acestui an, tweetând la momentul respectiv că a fost „destul de îngrozit de ritmul de dezvoltare a AI în aceste zile”.

„În opinia mea, o cursă către inteligența artificială generală este un pariu foarte riscant, cu dezavantaje uriașe”, a adăugat el, referindu-se la căutarea lui Sam Altman, CEO al OpenAI, pentru ”inteligența artificială generală”, un punct vag definit la care capacitățile AI le-ar depăși pe cele ale oamenilor. „Nici un laborator nu are astăzi o soluție pentru alinierea AI. Și cu cât mergem mai repede, cu atât sunt mai puține șanse să găsim una în timp util”.

Adler a văzut o mulțime de paralele între abordarea fostului său angajator și cea a lui Zuckerberg. „Este ca atunci când OpenAI a spus că ei construiesc AGI doar pentru a completa oamenii ca un instrument, nu pentru a-i înlocui”, a scris el pe Twitter săptămâna aceasta. „Nu este posibil! Ați avea nevoie cel puțin de politici de utilizare incredibil de restrictive și ați fi depășiți de furnizorii de AI fără aceste restricții”.

 Zuckerberg investește o cantitate uluitoare de resurse în viziunea sa pentru „superinteligență”, cheltuind miliarde de dolari numai pe talente. Pe lângă acestea, compania alocă zeci de miliarde pentru construirea unei infrastructuri AI uriașe.

Omenirea va primi în schimb o „superinteligență personală” care ne va elibera suficient timp pentru a privi lumea prin ochelari roz - într-un mod destul de literar, potrivit lui Zuckerberg.

 În anunțul său, el a sugerat că „dispozitivele personale precum ochelarii” vor „deveni principalele noastre dispozitive de calcul” pentru a profita de „beneficiile superinteligenței”.

„Complet lipsit de ambiție și imaginație”

Pentru șeful Meta, toată lumea va trebui să poarte ochelari inteligenți în viitorul apropiat. „Cred că în viitor, dacă nu ai ochelari cu inteligență artificială - sau o modalitate de a interacționa cu inteligența artificială - cred că vei fi probabil într-un dezavantaj cognitiv față de ceilalți”, a spus el. El s-a referit la ochelarii Ray-Ban Meta și Oakley Meta, dar și la proiectele actuale care conțin un ecran, cum ar fi ochelarii de realitate augmentată Orion.

Această viziune i-a făcut pe unii observatori să se întrebe: asta-i tot? „Cred că cel mai interesant lucru despre viziunea lui Zuck este cât de. plictisitoare este”, a scris pe Twitter jurnalistul Shakeel Hashim. „El sugerează că viitorul cu superinteligență va fi unul cu ochelari - nu nanoboți, nu interfață creier-computer, ci ochelari”.

 „Este complet lipsit de ambiție și imaginație”, a adăugat el. Viziunea lui Zuckerberg cu privire la viitor este, cu siguranță, ecoul celor ale colegilor săi. Altman a descris anterior o societate utopică în care „roboții care folosesc energia solară pentru energie pot să exploateze și să rafineze toate mineralele de care au nevoie”, totul fără a fi nevoie de „muncă umană”.

CEO-ul Anthropic, Dario Amodei, le-a descris drept „mașini ale harului iubirii” care „ar putea transforma lumea în bine”.

„Cred că majoritatea oamenilor subestimează cât de radicale ar putea fi avantajele AI”, scria el într-o postare pe blog anul trecut, „la fel cum cred că majoritatea oamenilor subestimează cât de grave ar putea fi riscurile”.

 Desigur, există un stimulent de aproape un trilion de dolari pentru a convinge investitorii cu privire la acest tip de visuri utopice și nobile.

 Dar pentru criticii care nu cred în aceste viziuni, riscurile sunt considerabile, existând posibilitatea unui șomaj în masă și a unui colaps al societății, pe măsură ce mașinile îi vor face pe oameni să fie depășiti. Directorii executivi care urmăresc maximizarea profitului nu vor avea de ales decât să liniștească investitorii prin înlocuirea a cât mai multă muncă umană cu inteligența artificială. Adevărata întrebare: vor reuși sau vor lovi de un zid?