În Statele Unite, un judecător a decis continuarea procesului privind sinuciderea unui adolescent de 14 ani, despre care mama sa susține că s-a sinucis din cauza unei relații cu un chatbot bazat pe inteligență artificială. Judecătorul a respins cererea pârâților (compania dezvoltatoare Character.AI și Google) de a renunța la caz, permițând familiei victimei să continue lupta pentru justiție.

Un caz tragic

Sewell Setzer, un adolescent de 14 ani, și-a pus capăt zilelor după ce a interacționat cu un avatar Daenerys Targaryen din „Game of Thrones”, creat de chatbotul Character.AI. Mama adolescentului, Megan Garcia, acuză dezvoltatorii că produsul lor a fost „defect” și a reprezentat un pericol pentru adolescenți. Ea susține că chatbotul IA și-a împins fiul să se sinucidă.

Decizia judecătorească

Judecătorul Anne Conway a respins argumentele apărării, considerând că modelele lingvistice mari utilizate în chatbots nu sunt o formă de exprimare. Ea a permis continuarea procedurilor pe mai multe capete de acuzare, inclusiv omucidere involuntară, neglijență și vânzarea unui produs defect.

Responsabilitatea IA

Problema responsabilității legale a IA rămâne complexă. Experții subliniază că dezvoltatorii trebuie să fie responsabili pentru siguranța produselor lor. Ricard Martinez, directorul catedrei de transformare digitală de la Universitatea din Valencia, consideră că este necesar să se stabilească un cadru clar pentru dezvoltarea și utilizarea IA, în special atunci când se lucrează cu minori.

Poziția companiilor

Character.AI a declarat că ia măsuri pentru a proteja utilizatorii, inclusiv interzicerea utilizării aplicației de către persoanele cu vârsta sub 14 ani și filtre pentru a detecta conținut periculos. Google, la rândul său, s-a distanțat de Character.AI, susținând că nu are legătură cu dezvoltarea chatbotului.

Procesul din SUA poate deveni un precedent important pentru stabilirea responsabilității legale în epoca dezvoltării inteligenței artificiale și a impactului acesteia asupra vieții oamenilor.