Regulamentul UE de stabilire a unor norme armonizate privind inteligența artificială introduce, de fapt, supravegherea totală a populației. Mai mult, sistemele IA vor putea fi utilizate pentru identificarea biometrică la distanță, pentru analizarea comportamentului și riscurilor viitorilor angajați sau pentru supravegherea elevilor la examene. Mai mult, sistemele de IA vor fi utilizate pentru a evalua eligibilitatea persoanelor fizice pentru servicii de sănătate.

Sub pretextul că reglementează funcționarea în UE a sistemelor de inteligență artificială, Comisia Europeană introduce, de fapt, supravegherea extinsă a populației. Astfel, identificarea biometrică la distanță în timp real în spații accesibile publicului este, astfel, permisă, oficial și pentru început, în anumite cazuri.

Este vorba despre căutarea în mod specific a anumitor victime ale răpirii, traficului de persoane sau exploatării sexuale a persoanelor, precum și căutarea persoanelor dispărute, prevenirea unei amenințări specifice, substanțiale și iminente care vizează viața sau siguranța fizică a persoanelor fizice sau a unei amenințări reale și prezente sau reale și previzibile de atac terorist, precum și localizarea sau identificarea unei persoane suspectate de săvârșirea unei infracțiuni, în scopul desfășurării unei investigații penale sau al urmăririi penale sau al executării unor sancțiuni penale pentru infracțiuni, și pasibile, în statul membru în cauză, de o pedeapsă privativă de libertate sau o măsură de siguranță privativă de libertate pentru o perioadă maximă de cel puțin patru ani.

”Fiecare utilizare în scopul aplicării legii a unui sistem de identificare biometrică la distanță în timp real în spațiile accesibile publicului face obiectul unei autorizații prealabile acordate de o autoritate judiciară sau de o autoritate administrativă independentă a cărei decizie are efect obligatoriu din statul membru în care urmează să aibă loc utilizarea. Într-o situație de urgență justificată în mod corespunzător, utilizarea sistemului poate începe fără autorizație, cu condiția ca autorizația respectivă să fie solicitată fără întârzieri nejustificate, cel târziu în termen de 24 de ore”, se arată în Regulamentul UE.

Intră pe piață sistemele cu risc ridicat

Actul normativ introduce și o listă cu sistemele IA cu grad ridicat de ris, iar implementatorii acestora trebuie doar să efectuze o evaluare a impactului asupra drepturilor fundamentale pe care îl poate produce utilizarea unor astfel de sisteme. Evaluarea constă în descrierea proceselor în care sistemele de IA cu grad ridicat de risc urmează a fi utilizate în conformitate cu scopul lor preconizat, perioada de timp pentru care se intenționează utilizarea fiecărui sistem de IA cu grad ridicat de risc, a frecvenței utilizării respective, precum și categoriile de persoane fizice și grupurile susceptibile a fi afectate de utilizarea sa în contextul specific.

Printre sistemele IA cu grad ridicat de risc se numără cele destinate a fi utilizate pentru recunoașterea emoțiilor, destinate a fi utilizate pentru a evalua rezultatele învățării, pentru monitorizarea și detectarea comportamentului interzis al elevilor și studenților în timpul testelor, pentru recrutarea sau selectarea angajaților, dar și sisteme de IA destinate a fi utilizate de autoritățile publice sau în numele autorităților publice pentru a evalua eligibilitatea persoanelor fizice pentru prestații și servicii de asistență publică esențiale, inclusiv servicii de îngrijiri de sănătate, precum și pentru a acorda, a reduce, a revoca sau a recupera astfel de prestații și servicii.

Evaluați de mașini

Pe lista sistemelor IA cu risc ridicat se mai regăsesc cele destinate a fi utilizate pentru a evalua bonitatea persoanelor fizice sau pentru a stabili punctajul lor de credit, pentru evaluarea riscurilor și stabilirea prețurilor în ceea ce privește persoanele fizice în cazul asigurărilor de viață și de sănătate, dar și sisteme de IA destinate a fi utilizate de către autoritățile de aplicare a legii pentru evaluarea riscului ca o persoană fizică să comită infracțiuni sau să recidiveze sau pentru a evalua trăsături și caracteristici de personalitate ori comportamentul infracțional anterior al unor persoane fizice sau grupuri.

Totodată, vor putea fi utilizate sisteme de IA destinate a fi utilizate de către sau în numele autorităților publice competente sau de către instituțiile, organele, oficiile ori agențiile Uniunii drept poligrafe sau instrumente similare, precum și cele folosite pentru evaluarea unui risc, inclusiv a unui risc de securitate, a unui risc de migrație ilegală sau a unui risc pentru sănătate din partea unei persoane fizice care intenționează să intre sau care a intrat pe teritoriul unui stat membru.

Parteneriat NAȚIONAL