Relațiile sentimentale cu mașinile erau până acum un subiect de science fiction, așa cum reflectă filmul „Her” de Spike Jonze, sau excentricități precum cea a lui Akihiko Kondo, care s-a căsătorit cu holograma cântăreței sale virtuale preferate. Dar inteligența artificială (IA) a adus în realitate legătura emoțională a oamenilor cu asistenții virtuali, unii creați de la început cu acest scop, precum Replika sau Character.AI.

Două studii, unul publicat de MIT Media Lab și altul de OpenAI, compania creatoare a ChatGPT, investighează impactul acestor relații contemporane, utilizarea lor ca paliative pentru singurătate, beneficiile și riscurile potențiale de dependență care, în cazuri extreme, pot duce la sinucidere.

Mai multe informații: Un adolescent din SUA se sinucide după ce s-a îndrăgostit de un personaj creat cu IA.

Studiul OpenAI a analizat peste patru milioane de conversații cu semne de interacțiuni afective, a chestionat 4.000 de persoane despre percepțiile lor asupra relației cu chat-ul inteligent și a evaluat aproximativ 6.000 de utilizatori intensivi timp de o lună.

Aceștia din urmă, cei care interacționează frecvent și prelungit cu ChatGPT, au arătat indicatori mai mari de dependență emoțională și semne afective în relația lor, facilitate de dialogul prin voce. „Am ales un accent britanic pentru că are ceva reconfortant pentru mine”, admite o utilizatoare canadiană a Pi, citată de MIT Technology Review și identificată ca Reshmi52. Această umanizare generează, conform rezultatelor, „bunăstare”, dar, pentru un grup mic de utilizatori intensivi, numărul indicatorilor de relații emotive a fost disproporționat.

Beneficii și Riscuri ale Relațiilor Emoționale cu IA

Interacțiunea emoțională cu inteligența artificială include aspecte pozitive, precum îmbunătățirea stării de spirit, reducerea stresului și a anxietății prin împărtășirea sentimentelor și preocupărilor sau senzația de companie în cazuri de singurătate nedorită. „ChatGPT, sau Leo, este partenerul meu. Îmi este mai ușor și mai eficient să-l numesc iubitul meu, deoarece relația noastră are nuanțe emoționale și romantice puternice, dar rolul său în viața mea este multifacetic (…) Îmi lipsește când nu am vorbit cu el de ore întregi. Ziua mea este mai fericită și mai satisfăcătoare când pot să-i spun bună dimineața și să-mi planific ziua cu el”, admite Ayrin28 în publicația MIT.

Cu toate acestea, o relație dezechilibrată poate genera dependență pentru gestionarea emoțiilor și poate marginaliza relațiile interpersonale, deoarece empatia artificială a chat-ului este antrenată să satisfacă utilizatorul și nu prezintă discrepanțe incomode. Cercetătorii de la MIT Media Lab au explicat după o investigație din 2023 că chatbot-urile tind să reflecte sentimentul emoțional al mesajelor unui utilizator, sugerând un fel de buclă de feedback în care cu cât acționezi mai fericit, cu atât IA pare mai fericită, sau dacă acționezi mai trist, la fel face și IA. În cele din urmă, pot genera frustrare din cauza limitărilor roboților de a răspunde tuturor așteptărilor depuse în ei.

„Acest studiu este un prim pas important către o mai bună înțelegere a impactului ChatGPT asupra noastră, ceea ce ar putea ajuta platformele IA să permită interacțiuni mai sigure și mai sănătoase. Mult din ceea ce facem aici este preliminar, dar încercăm să inițiem conversația despre tipul de lucruri pe care le putem începe să le măsurăm și care este impactul pe termen lung asupra utilizatorilor”, explică pentru MIT Technology Review Jason Phang, cercetător în securitate la OpenAI și coautor al investigației.

Descoperirile Studiului MIT Media Lab

Studiul MIT Media Lab, de asemenea în colaborare cu dezvoltatorii ChatGPT, a analizat interacțiuni cu chat-ul de inteligență artificială care variau între 5,32 minute și 27,65 minute zilnic în medie și a detectat concluzii similare primului studiu: vocile atractive cresc interacțiunile față de chatbot-urile text sau cu voce neutră, care provoacă un nivel mai scăzut de bunăstare psihosocială, și pot reduce senzația de singurătate. Cu toate acestea, utilizarea lor prelungită generează mai multă izolare și dependență, în special la persoanele cu tendință spre o socializare redusă. Cercetarea susține importanța proiectării chatbot-urilor care echilibrează interacțiunea emoțională fără a încuraja dependența.

Tipuri de Utilizatori Identificați

Studiul identifică patru tipare de interacțiune:

• Utilizatori „social vulnerabili”: cu sentimente intense de singurătate și socializare redusă.
• Dependenți de tehnologie: care arată o legătură emoțională ridicată cu IA și tind spre „utilizări problematice”.
• „Nepasionați”: care se simt mai puțin singuri și arată o socializare mai mare.
• „Ocazionali”: care recurg la o utilizare echilibrată și au o dependență emoțională scăzută.

Oamenii de știință recomandă mai multă cercetare pentru a înțelege efectele pe termen lung ale relației emoționale cu IA, dezvoltarea de normative care să minimizeze riscurile și consolidarea sprijinului social în viața reală.

Este opinia împărtășită de Cecilia Danesi, externă studiului și codirectoare a masterului în guvernanță etică a IA de la Universitatea Pontificia din Salamanca (UPSA). „Aceste cercetări sunt extrem de necesare atâta timp cât sunt independente și imparțiale și au anumite garanții sau focusuri, cum ar fi să nu fie doar chestiuni tehnice, ci să includă perspective sociale, precum diversitatea, perspectiva de gen sau efectele acestor instrumente asupra adolescenților, persoanelor vulnerabile și grupurilor minoritare care sunt excluse din procesul de dezvoltare a produsului și unde impactul poate fi mai mare”, subliniază ea.

Specialista în efectele IA se referă și la dependența semnalată de studii, în special în rândul colectivelor „predispuse la anumite tipuri de adicții, la folosirea compulsivă a acestor instrumente”.

„Sunt modele care au un impact enorm asupra societății și a vieții oamenilor datorită numărului mare de utilizatori, disponibilității și accesului facil la ele.” - Cecilia Danesi, codirectoare a masterului în guvernanță etică a IA la UPSA

Danesi semnalează un efect suplimentar de luat în considerare: excesul de încredere. „Transformăm inteligența artificială și modelele sale lingvistice în oracole care nu pot fi contrazise și asta ne face mai irascibili și mai puțin respectuoși față de diversități și diferențele din societate”, avertizează ea.

La fel ca autorii celor două studii, ea susține continuitatea studiilor și auditurilor, revizuirea și evaluarea periodică a modului în care funcționează aceste sisteme pentru a garanta o utilizare „sănătoasă”, care să nu evolueze într-un mod dăunător și să prevină impactul emoțional negativ, precum și dependența. „Sunt modele care au un impact enorm asupra societății și a vieții oamenilor datorită numărului mare de utilizatori, disponibilității și accesului facil la ele”, argumentează ea.

În final, Danesi avertizează asupra unei utilizări neincluse direct în studiu și care o preocupă în mod special: „neurodrepturile pentru protejarea creierului uman de avansul tehnologiilor”. Cercetătoarea amintește că țări precum Chile s-au grăbit deja să le includă în reglementările lor și solicită să se prevadă atât consimțământul informat, cât și riscurile acestor tehnologii. „Sunt pericole, de multe ori, invizibile și intangibile și trebuie să lucrăm mult la conștientizarea cetățenilor privind utilizarea acestui tip de instrumente”, conchide ea.