
În câteva cuvinte
Știre despre riscurile utilizării necontrolate a IA, inclusiv ChatGPT, în sectorul public, care amenință datele cetățenilor și posibilitatea discriminării.
Implementarea inteligenței artificiale (IA) în sectorul public ridică îngrijorări din cauza utilizării necontrolate a ChatGPT și a altor instrumente. Experții avertizează asupra riscurilor pentru confidențialitatea datelor cetățenilor și a posibilității discriminării.
Utilizarea pe scară largă a IA, în special a ChatGPT, în instituțiile guvernamentale fără un control adecvat și instruire a personalului generează îngrijorări serioase. Colectarea și prelucrarea datelor cetățenilor, care sunt utilizate pentru antrenarea modelelor lingvistice mari, prezintă riscuri potențiale, inclusiv încălcarea suveranității și posibilitatea discriminării rasiale și de gen în luarea deciziilor.
Marcos Gallart, vice-secretar al departamentului de urbanism din cadrul primăriei, observă că IA permite economisirea a până la 20% din timpul petrecut la redactarea rapoartelor. Cu toate acestea, spune el, pentru a utiliza eficient tehnologiile sunt necesare instruire și suport. Ministerul Funcției Publice intenționează să simplifice unele proceduri administrative, cum ar fi completarea formularelor și declarațiilor de venit, ceea ce, potrivit ministrului Óscar López, va fi cea mai mare revoluție în administrația publică de la apariția internetului.
Pablo Sáez, un avocat specializat în drepturi digitale, subliniază că lipsa reglementărilor naționale lasă funcționarii publici fără îndrumare în ceea ce privește utilizarea responsabilă a modelelor lingvistice, cum ar fi ChatGPT. Gabriele Vestri, președintele unei organizații care reunește experți în implementarea IA, solicită autorităților locale să planifice cu atenție utilizarea IA pentru a evita luarea deciziilor ale căror motive vor rămâne neclare.
Concepción Campos, doctor în drept și expertă în implementarea IA în sectorul public, observă că majoritatea funcționarilor publici folosesc IA fără o strategie clară. Experții solicită o „alfabetizare în IA” urgentă pentru a evita posibilele riscuri. Sáez subliniază, de asemenea, concurența dintre giganții tehnologici precum Open AI și Google pentru obținerea de date pentru antrenarea modelelor lor.
În plus, Sáez avertizează cu privire la apariția asistenților virtuali care folosesc IA și pot ascunde modele chinezești sau alte modele, cum ar fi Llama de la Meta sau modele Open AI. Problema principală, spune el, este că funcționarii publici care elaborează cerințele pentru astfel de sisteme nu au cunoștințe suficiente despre tehnologii. Moisés Barrio, un expert în drept digital, notează că agențiile guvernamentale nu pot utiliza modele lingvistice care nu au fost certificate.
În concluzie, experții subliniază necesitatea de a dezvolta strategii și instruire pentru a evita consecințele negative ale utilizării necontrolate a IA în sectorul public.