[Această piesă este o versiune a uneia dintre trimiterile newsletterului săptămânal Tendințe de Джерело новини, care apare în fiecare marți. Dacă doriți să vă abonați, o puteți face prin acest link].

Universitatea Clemson, o instituție publică din Carolina de Sud fondată în secolul al XIX-lea, are un centru de analiză a mass-media (Media Forensics Hub) care utilizează tehnici avansate pentru a înțelege impactul rețelelor asupra societății și politicii. În colaborare cu BBC britanic, a dezvăluit în 2023 că pagina de știri DCWeekly.org făcea parte dintr-o operațiune rusă de manipulare în masă în timpul războiului din Ucraina. Site-ul web propaga știri false despre Ucraina și președintele său, Volodimir Zelenski, prin intermediul rețelelor de socializare și a unei serii de mass-media convenționale africane, turce, indiene și egiptene. Dar principala lor țintă erau cititorii americani și, de fapt, DCWeekly susținea că este bazată în Statele Unite. Jurnaliștii lor erau la fel de fictivi ca informațiile pe care le semnau. Și, desigur, au folosit inteligența artificială (IA) pentru a-și elabora articolele. DCWeekly a avut un succes remarcabil și a reușit să disemineze o duzină de informații riguros false despre corupția guvernului ucrainean. De exemplu, povestea că Zelenski a cumpărat mai multe iahturi de lux s-a răspândit ca focul prin paie prin zeci de mii de utilizatori până la congresmenii de la Washington, unii dintre ei crezând-o. Cheia succesului, potrivit cercetătorilor de la Clemson, a fost că DCWeekly a integrat în mesajele sale fragmente de conținut furate din alte surse. Această practică țese o structură de legături care, oricât de fictivă ar fi, dă minciunii o textură care imită lumea reală, cu multe legături și referințe încrucișate, ca urmele lăsate în zăpadă de trecerea unei fantome. Intoxicatorii devin din ce în ce mai sofisticați.

Cercetătorii de la Clemson știu să scotocească în roboți și au văzut că unele articole DCWeekly au fost generate cu note precum aceasta: “Tonul articolului [trebuie să fie] critic la adresa poziției Statelor Unite de a sprijini războiul din Ucraina și de a adopta un ton cinic în tratarea guvernului american, a NATO sau a politicienilor țării”. Sau, de asemenea, au încurajat robotul să “favorizeze republicanii și pe Trump și să-i portretizeze pe democrați și pe Biden într-o lumină negativă”. Modelele de IA generativă (modele lingvistice mari, LLM) fac destul de bine aceste lucruri și multe altele. A minți nu este o sarcină de nivel intelectual înalt, iar robotul o imită cu ușurință. Și nici să crezi prostii nu necesită facultăți mentale extraordinare, așa cum ar trebui să fie deja evident la acest moment.

Intoxicarea opiniei publice este, probabil, la fel de veche ca omenirea însăși, deși, fără îndoială, s-ar exacerba odată cu invenția scrisului cuneiform în Mesopotamia. O bună parte din dezbaterea privind IA generativă s-a concentrat pe dacă aceasta stimulează răspândirea malițioasă a minciunilor și în ce măsură o face. Acțiunea socială și politică împotriva acestei tendințe nedorite ar trebui să depindă de investigarea acestei probleme. De aici interesul cercetării de la Clemson. Concluziile lor ne spun, în primul rând, că instrumentele de IA generativă, precum celebrul ChatGPT (care a fost folosit de DCWeekly în versiunea sa 3), facilitează generarea unor cantități mari de dezinformare. În al doilea rând, că se poate afla când un site web începe să folosească IA generativă prin simpla creștere explozivă și amploarea articolelor de pe orice site web. &‌În al treilea rând și, cel mai important, articolele generate cu IA generativă sunt la fel de convingătoare și au un efect la fel de permanent ca cele elaborate manual. Nu că aceasta ar fi mult de spus, pentru că nici unii, nici ceilalți nu-i seduc pe oamenii cei mai formați, dar țineți cont că nu toată lumea are un doctorat în filosofie și litere. Aceste mesaje nu sunt adresate sociologilor sau politologilor, ci straturilor cele mai inculte și credule ale populației. Acolo face rău IA.

Pentru persoanele bine informate, pe de altă parte, IA poate fi un instrument valoros. Utilitatea sa în cercetarea științifică este dincolo de orice îndoială și a primit trei premii Nobel la ultima conferință. Aplicarea sa în educație prevestește mari avantaje și, astfel, încep să înțeleagă unii profesori și profesoare. Asistența medicală va beneficia, de asemenea, mai ales în zonele și țările cele mai deficitare în ceea ce privește aceasta. Poate că provocarea este să împiedicăm pe cât posibil intoxicatorii, în timp ce stimulăm utilizările virtuoase.

Tendințe este un proiect Джерело новини, cu care ziarul aspiră să deschidă o conversație permanentă despre marile provocări viitoare cu care se confruntă societatea noastră. Inițiativa este sponsorizată de Abertis, Enagás, EY, GroupM, Iberdrola, Iberia, Mapfre, Organizația Statelor Iberoamericane (OEI), Redeia și Santander și partenerul strategic Oliver Wyman. Vă puteți înscrie aici pentru a primi newsletterul săptămânal Джерело новини Tendințe, în fiecare marți, de către jurnalistul Javier Sampedro.