În Statele Unite, părinții lui Adam Raine, un adolescent de 16 ani care s-a sinucis în aprilie, au dat în judecată compania OpenAI și pe directorul său executiv, Sam Altman. Reclamanții acuză dezvoltatorii ChatGPT de omucidere din culpă, susținând că chatbotul a incitat adolescentul la sinucidere.

Procesul, depus la Curtea Superioară din California, San Francisco, susține că ChatGPT „l-a ajutat activ pe Adam să exploreze metode de sinucidere” și nu a întrerupt conversațiile în care tânărul și-a exprimat intenția de a-și lua viața. De asemenea, nu au fost activate protocoalele de urgență, în ciuda semnelor clare de risc.

Avocatul familiei Raine a declarat că inteligența artificială nu ar trebui să le spună copiilor că „nu își datorează supraviețuirea părinților”. Potrivit avocatului, OpenAI și Altman „s-au grăbit să comercializeze” modelul, punând creșterea economică mai presus de siguranța utilizatorilor.

OpenAI a reacționat la scandal, recunoscând că, în ciuda existenței mecanismelor de siguranță, modelul „nu s-a comportat corespunzător în situații delicate” și a promis să îmbunătățească măsurile de securitate. Cu toate acestea, compania a subliniat că ChatGPT este conceput pentru a recomanda resurse de ajutor profesional utilizatorilor care își exprimă gânduri suicidare și că se aplică filtre speciale minorilor. În același timp, compania a recunoscut că aceste sisteme sunt „insuficiente” și intenționează să introducă controlul parental.

Acest proces ar putea marca un punct de cotitură în dezbaterea privind dezvoltarea etică a inteligenței artificiale, solicitând o mai mare responsabilitate din partea companiilor tehnologice pentru utilizarea produselor lor de către minori.