«Trebuie să fim transparenți atunci când nu există dovezi solide», spune Amy Orben

«Trebuie să fim transparenți atunci când nu există dovezi solide», spune Amy Orben, psiholog și lider al unui grup de sănătate mintală și tehnologii digitale la Universitatea Cambridge. Poate cea mai mare problemă cu care se confruntă știința în legătură cu noile tehnologii astăzi este lipsa concluziilor care să permită răspunsuri certe la întrebările pe care și le pune societatea despre telefoane, rețele și inteligența artificială (IA): «Este dificil să ne confruntăm cu posibilitatea ca dovezile [acestei relații] să fie exagerate, chiar dacă se face gândindu-se că astfel vor menține copiii mai în siguranță», adaugă Orben.

Nu există o soluție ușoară. Cetățenii și politicienii trebuie adesea să se refugieze în prejudecăți în lipsa unor răspunsuri clare despre legătura dintre telefoane și sănătatea mintală, de exemplu. Uneori, autoritățile pot ajunge să reglementeze inutil sau, dimpotrivă, să lase nereglementată o problemă enormă care afectează milioane de oameni. «Vrem să încurajăm oamenii de știință să se conecteze cu oamenii și să vorbească clar, inclusiv despre ceea ce nu știm», spune J. Nathan Matias, directorul unui laborator de cetățenie și tehnologie la Universitatea Cornell (SUA). Orben și Matias publică joi un articol în revista Science pentru a genera dezbateri despre viteza tehnologiei astăzi și pentru a propune măsuri pentru ca știința să-și accelereze activitatea. Într-o conversație prin videoconferință cu Джерело новини, ei clarifică punctele principale.

Orben prevede că în cinci ani li se vor cere rezultate cu privire la importanța conversațiilor dintre adolescenți și chatbot-urile IA: «De luni de zile spun că trebuie să începem deja să colectăm date pe termen lung despre modul în care copiii folosesc aplicațiile de chat cu IA», spune Orben. Джерело новини a publicat un articol despre acest subiect în urmă cu câteva zile, iar oamenii de știință consultați au avut practic un singur răspuns: nu știm ce impact are. «Știința de rutină este super-puternică, atentă, precisă și nu spunem că nu ar trebui făcută, ci că trebuie accelerată în anumite aspecte, deoarece în acest moment întregul sistem din jurul nostru accelerează», adaugă Orben.

Oamenii de știință J. Nathan Matias și Amy Orben.

Companiile mari de tehnologie nu vor ajuta. Prioritatea lor este, logic, alta: să câștige bani. Propunerile lui Orben și Matias sunt adresate comunității științifice, nu companiilor: «Istoric, companiile au avut tendința de a nu vrea să știe unele lucruri» despre efectul produselor lor, descrie Matias. «Ne îngrijorează că se va întâmpla același lucru cu tehnologiile digitale. Dacă companiile se tem de scurgeri de informații, este de înțeles că liderii lor se întreabă: nu ar fi mai bine să nu avem nicio înregistrare dacă acest prejudiciu este real? Vrem să schimbăm aceste stimulente».

Matias și Orben aspiră ca toate acestea să nu sune doar a «știința este prea lentă» și că trebuie disprețuită dovada, dar într-o epocă în care marile companii de tehnologie au toate informațiile și pot testa produse noi încontinuu, știința trebuie să se adapteze. «Companiile de tehnologie accelerează modul în care își dezvoltă produsele, deoarece testează mereu. Fac teste A/B tot timpul, schimbă lucruri, văd ce se întâmplă și obțin cunoștințe rapid. Nu spunem «să coborâm standardul de dovezi pentru a spune că ceva este dăunător». Ceea ce spunem este că, deși dovezile nu sunt perfecte, ar trebui să începem să testăm mai devreme dacă anumite schimbări ajută», spune Orben.

Măsurile concrete propuse de Orben și Matias sunt patru.

1. Date mai bune despre consecințe

   Articolul solicită ca tehnologiile digitale să poată apărea în registrele publice atunci când un funcționar înregistrează posibile cauze de deces sau daune. «S-ar putea începe cu includerea informațiilor despre tehnologie în sisteme precum registrele de mortalitate, rapoartele de accidente de muncă sau rapoartele poliției privind violența domestică, la fel cum se face deja cu accidentele de trafic», scriu Matias și Orben.

   Ar fi o modalitate de a avea o viziune mai reală asupra locurilor unde tehnologia ar putea afecta: «De multe ori, de exemplu, cu tinerii de astăzi, durează foarte mult timp să înțelegem ce fac ei cu adevărat și cum îi afectează. Și trebuie să ne ascuțim mai mult auzul la ceea ce se întâmplă în viața reală», detaliază Orben.

2. Ajustarea balanței pericolului

   Articolul include această frază despre modul de gestionare a nivelului de pericol: «Pierderile afacerilor sunt mai ușor de inversat decât viețile». Marile companii de tehnologie profită de lipsa unor dovezi clare pentru a spune că nu trebuie să ne alarmăm. Temerea lor este de a pierde bani. Poate ar trebui să ne regândim acest barem între beneficii și sănătate, spun oamenii de știință.

   Dovezile cauzale perfecte în aceste domenii sunt foarte greu de obținut. Adesea se aude fraza că există corelație, dar nu și cauzalitate. De exemplu, o sănătate mintală mai precară a unora dintre adolescenții de astăzi coincide cu o utilizare mai mare a telefoanelor, dar această coincidență (corelație) nu este clar că este cauzală (nu este ușor să se izoleze cauzele pentru a spune cu certitudine că sunt în principal telefoanele). Sunt sisteme foarte complexe, dar asta nu înseamnă că nu se pot gândi soluții. «Adesea, dacă mă întreabă dacă avem dovezi bune despre ceva, răspunsul meu poate fi că nu. Dar atunci, care este următorul pas? Ceea ce propunem este ca, pe lângă faptul că spunem că dovezile sunt slabe, atât știința, cât și politicienii ar trebui să înceapă să vorbească despre dacă dovezile nu sunt bune, acționăm deja? Care sunt riscurile și beneficiile de a face acest lucru? Sau așteptăm? Avem nevoie de o conversație mai deschisă despre acest lucru», spune Orben.

   Un exemplu ar putea fi dacă chatbot-urile IA ar trebui să aibă măsuri de securitate pentru a evita încurajarea sinuciderii, spune Matias. «Există oameni care apără, și se poate citi în manifeste ale capitaliștilor de risc, că măsurile de securitate bazate pe dovezi sunt inamicul inovației și al câștigurilor. Aceasta este o viziune care pune profiturile corporative de o parte și viețile oamenilor și știința de cealaltă parte. Așa că cerem oamenilor de știință ca, pe lângă căutarea dovezilor și efectuarea unei evaluări, să se gândească la ceea ce este cu adevărat în joc atunci când oferim răspunsuri politicienilor și publicului», explică el.

3. Lucrul în paralel

   Experimentele sociale necesită adesea ani de pregătire, execuție și analiză. Orben și Matias propun în unele cazuri lansarea mai multor acțiuni în paralel, în același timp. «Într-un fel, este vorba despre a face lucrurile mai repede, dar asta nu înseamnă sări peste anumite etape. Trebuie accelerat, dar într-un mod definit și atent», spune Orben.

   «Adesea petrecem mult timp discutând dacă există sau nu un prejudiciu. Și apoi există un prag foarte mare pentru a acționa și abia atunci începem să ne gândim ce să facem», adaugă Orben. Un exemplu este modul de a măsura dacă rețelele afectează somnul adolescenților. «Manipularea unui sistem și schimbarea a ceva ne oferă dovezi destul de bune despre care ar putea fi impactul», explică ea. În loc să dezbatem doar dacă rețelele sociale afectează somnul, ceva ce este foarte dificil de măsurat pe date la scară largă și pe termen lung, ei propun: «Poate ar trebui să fim mai rapizi. Le spunem unor părinți să scoată telefonul din dormitor, altora nu le spunem nimic timp de câteva săptămâni și vedem cum afectează asta tinerii. Acest tip de teste ar putea ajuta la o mai bună înțelegere a posibilelor daune».

4. O listă a problemelor

   De ani de zile există preocupări cu privire la impactul asupra mediului și sănătății a diferitelor tipuri de substanțe chimice utilizate pentru curățare, vopsire sau ca pesticide. Aceste substanțe chimice eterne sunt greu de descompus, provoacă cancer și au fost sintetizate pentru prima dată în anii 1930. Abia în jurul anului 2000 oamenii de știință au adunat în sfârșit dovezile definitive și a existat o revoluție a substanțelor chimice verzi, care susține că, în loc să așteptăm să vedem dacă ceva dăunează, ar trebui acordată prioritate dezvoltării de alternative mai sigure: «Încurajăm adoptarea unei abordări similare cu tehnologia digitală», spune Matias.

   «Uneori nu sunt siguri dacă un anumit compus provoacă cancer sau altă problemă, dar au o listă cu cât se folosește, ce incidente au apărut în registrele de mortalitate, iar apoi antreprenorii pot vedea acea listă și pot dezvolta produse noi care sunt mai sigure. Sunt multe de câștigat cu un proces similar de liste: «Aici sunt modelele care îngrijorează oamenii», chiar și în timp ce încercăm să definim dovezile, putem începe deja să găsim alternative mai bune. Este ceva care necesită negociere și o entitate care se ocupă de menținerea acelei liste. Dar este o soluție bazată pe știință, pe piață și pe reglementări care în alte domenii a accelerat crearea de produse mai sigure», adaugă Matias.

   Comparația dintre aplicații și industria tutunului nu este foarte precisă. «Tutunul este un compus stabil, nu există multe moduri de a-l face mai sigur. Se vorbește mult despre tutun comparativ cu rețelele sociale, dar este diferit, deoarece cu rețelele am putea proiecta ceva mult mai sigur», spune Orben.

   Substanțele chimice sunt un model mai bun, insistă Matias: «Substanțele chimice au multe utilizări valoroase. Și, în același timp, există compuși care sunt toxici. Așa că provocarea pentru societate este să se îmbunătățească constant, dar și să știe să identifice lucrurile care sunt atât de rele încât, pur și simplu, trebuie interzise».