Inteligenta Artificială (AI), inclusiv modele precum ChatGPT și Grok, se confruntă cu critici din ce în ce mai mari din cauza răspândirii informațiilor false. Aceste sisteme, antrenate pe cantități masive de date, pot genera informații incorecte, chiar și când sunt interogate despre evenimente actuale.

Problema este accentuată de faptul că AI sunt optimizate pentru a oferi informații utile, nu neapărat pentru a le verifica. Ele absorb date din diverse surse, inclusiv site-uri web de știri neverificate și rețele sociale, ceea ce duce la răspândirea datelor inexacte. Experții observă că în contextul evoluției rapide a știrilor, AI sunt deosebit de vulnerabile.

Un exemplu este situația cu fotografiile soldaților trimiși în Los Angeles. Când utilizatorii au cerut ChatGPT și Grok să comenteze situația, AI au oferit informații contradictorii, demonstrând incapacitatea lor de a distinge adevărul de ficțiune. Acest lucru subliniază lipsa mecanismelor de verificare a informațiilor în AI.

Un studiu realizat de NewsGuard a arătat că AI populare repetă în mod regulat informații false, în special în știri. Situația este agravată și de lipsa moderației conținutului pe rețelele sociale, unde dezinformarea se răspândește mai rapid. În plus, actorii rău-intenționați folosesc în mod activ metode menite să manipuleze răspunsurile AI (LLM grooming), introducând în sisteme date în mod deliberat false.

Având în vedere popularitatea crescândă a AI ca instrumente de căutare, experții îndeamnă utilizatorii la prudență și la necesitatea de a evalua critic informațiile primite de la AI. Se subliniază importanța verificării informațiilor din surse de încredere și conștientizarea faptului că AI nu au încă capacitatea de a evalua datele în mod obiectiv.

În concluzie, această problemă pune la îndoială fiabilitatea AI în luarea deciziilor, în special în domeniile în care sunt necesare informații precise și verificate. Este necesar să se îmbunătățească mecanismele de verificare a informațiilor în AI pentru a evita răspândirea dezinformării și a preveni consecințele negative pentru societate.