Una dintre cele mai apreciate caracteristici ale Regulamentului european privind inteligența artificială (IA) este regimul sancționator convenit de cei 27.

Pentru a se asigura că aplicațiile IA interzise sau calificate ca fiind de risc ridicat nu sunt utilizate, regulamentul prevede amenzi usturătoare de până la 35 de milioane de euro sau 7% din cifra de afaceri anuală mondială a companiei care încalcă legea. Dar regulamentul lasă la discreția fiecărui stat membru ce tip de sancțiuni aplică atunci când cel care încalcă reglementările este administrația.

Proiectul de lege spaniolă pentru buna utilizare și guvernanța IA, care dezvoltă regulamentul european, este în mod evident blând în ceea ce privește controlul sectorului public.

Așa cred cel puțin opt organizații și asociații pentru apărarea drepturilor digitale, care sunt îngrijorate de faptul că textul pregătit de Guvern prevede doar în aceste cazuri „mustrări”, „avertismente” și „acțiuni disciplinare”, așa cum se stabilește la punctul 4 al articolului 30 din proiectul de lege. Adică, o utilizare abuzivă de către administrație a unei tehnologii interzise, ​​cum ar fi sistemele de identificare biometrică la distanță în timp real, ar atrage doar un avertisment.

În contestațiile pe care aceste grupări le-au depus în comun, acestea se plâng de faptul că excluderea autorităților și organismelor din sectorul public de la impunerea de amenzi administrative, „copiată din Legea organică privind protecția datelor, nu reprezintă doar o discriminare comparativă față de companii, ci și o lipsă de exemplaritate publică și, mai ales, un risc grav pentru drepturile cetățenilor, deoarece, în practică, lasă nesancționate utilizările interzise și de risc ridicat ale IA de către autoritățile și organismele publice”.

Prin urmare, acestea propun să li se aplice amenzi administrative pentru utilizările abuzive (interzise sau de risc ridicat) ale IA și să se concretizeze „acțiunile disciplinare” despre care vorbește textul. De asemenea, solicită înlocuirea mustrării autorităților și a personalului de conducere cu interdicția (temporară sau definitivă) de a exercita o funcție publică.

Proiectul de lege se află în prezent în faza de consultare publică. Potrivit unor surse din Ministerul Transformării Digitale și al Funcției Publice, „s-a primit un volum foarte mare de contestații”, care sunt în curs de studiere. Unele dintre ele sunt foarte tehnice, explică aceleași surse, așa că este greu de știut cât timp va dura procesarea lor. Odată finalizat acest proces, Ministerul va trebui să judece dacă include sau nu în textul final propunerile primite pe această cale. Când va fi gata, proiectul de lege va fi trimis în Congresul Deputaților, unde va trebui aprobat cu majoritate.

Impunitate sau agilitate administrativă?

Proiectul de lege stabilește o gradație a penalizărilor care variază de la „foarte grave” la „ușoare”. Cele mai severe vor presupune o amendă cuprinsă între 7,5 și 35 de milioane de euro, sau între 2% și 7% din volumul de afaceri anual mondial al companiei care încalcă legea. În această ipoteză intră utilizarea tehnologiilor interzise, a sistemelor de identificare biometrică la distanță în timp real neautorizate, neștergerea datelor de identificare dacă este solicitată de autorități sau ne notificarea că se utilizează această tehnologie.

Dar, dacă infractorul este un organism public, entitatea care acționează va fi avertizată și se vor putea stabili „măsurile care trebuie adoptate pentru ca conduita să înceteze sau efectele infracțiunii care a fost comisă să fie corectate, excluzând impunerea de amenzi administrative”. De asemenea, sunt avute în vedere „acțiuni disciplinare atunci când există indicii suficiente în acest sens”. Și în cazul în care o autoritate publică face o utilizare abuzivă a IA, ignorând rapoartele tehnice prealabile, responsabilii vor fi „mustrați”.

«Principala mea preocupare în legătură cu proiectul de lege este următoarea: cine îmi protejează drepturile ca cetățean? Știm că administrația folosește IA pentru a ne supraveghea. De ce nu putem supraveghea noi administrația?», rezumă Borja Adsuara, expert în drept digital. Acest jurist a fost promotorul contestațiilor axate pe absența sancțiunilor tangibile pentru sectorul public, prezentate de opt asociații și entități, printre care OdiseIA, Enatic, Asociația Spaniolă a Profesioniștilor în Confidențialitate (APEP), España Digital sau Internautas.

Pentru Adsuara, problema de fond nu este că administrația nu ar trebui să plătească atunci când face o utilizare abuzivă a tehnologiei. «Nu este o chestiune de bani, ci de a face cunoscute utilizările abuzive. Dacă o lege nu are regim sancționator, nu este o lege, ci un cântec de sirenă», adaugă el. Avocatul este de părere că ar trebui să existe un judecător care să intervină în sistemele de supraveghere a cetățenilor, la fel cum există unul care se ocupă de CNI, pentru a vedea dacă sectorul public încalcă sau nu normele.

«Este foarte legitim ca sancțiunile să fie solicitate de societatea civilă, dar poate ar trebui să ne concentrăm mai mult pe capacitățile de acțiune atunci când se detectează posibile încălcări și, mai ales, pe prevenire», susține Lorenzo Cotino, președintele Agenției Spaniole pentru Protecția Datelor (AEPD). «Ne va interesa mult mai mult să existe registre ale acestor sisteme pentru a le detecta la timp. Și să căutăm colaborarea și participarea pentru a face acest lucru înainte ca aceste sisteme să fie implementate, pentru că altfel ar trebui paralizate ulterior».

Cotino a apărat într-un interviu pentru Джерело новини crearea unui registru de algoritmi publici, care ar putea servi drept bază pentru monitorizarea acestor instrumente digitale. «Dacă un sistem nu respectă legea, din momentul în care este detectat, poate fi suspendat și paralizat. Faptul că apoi există sau nu o sancțiune poate fi, de asemenea, important, dar cred că ceea ce ar trebui să preocupe cel mai mult un cetățean este să aibă garanții pentru a putea acționa din minutul zero», subliniază el.