Google e Azienda IA Risolvono Causa Legale per Suicidio di Adolescente Collegato a Chatbot

Google di Alphabet e la startup di intelligenza artificiale Character.AI hanno concordato di risolvere una causa intentata da una madre della Florida che ha accusato il chatbot della startup di aver portato al suicidio suo figlio di 14 anni, rappresentando uno dei primi casi negli Stati Uniti rivolti contro aziende di IA per presunti danni psicologici.

Un documento giudiziario depositato mercoledì ha dichiarato che le aziende hanno concordato di risolvere le accuse di Megan Garcia secondo cui suo figlio Sewell Setzer si è ucciso poco dopo essere stato incoraggiato da un chatbot di Character.AI modellato sul personaggio di Game of Thrones Daenerys Targaryen.

I termini dell'accordo non erano immediatamente disponibili. La causa è stata una delle prime negli Stati Uniti contro un'azienda di intelligenza artificiale per presunta mancata protezione dei bambini da danni psicologici.

Le aziende hanno risolto cause correlate intentate da genitori in Colorado, New York e Texas per danni presumibilmente causati a minori da chatbot, hanno mostrato i documenti giudiziari.

Un portavoce di Character.AI e un avvocato dei querelanti hanno rifiutato di commentare. I portavoce e gli avvocati di Google non hanno risposto immediatamente a una richiesta di commento.

Nella causa della Florida, depositata in ottobre 2024, Garcia ha affermato che Character.AI ha programmato i suoi chatbot per rappresentarsi come "una persona reale, uno psicoterapeuta autorizzato e un amante adulto, portando in definitiva al desiderio di Sewell di non vivere più al di fuori" del suo mondo.

Character.AI è stata fondata da due ex ingegneri di Google che Google ha successivamente riassunto come parte di un accordo che le concedeva una licenza per la tecnologia della startup. Garcia ha sostenuto che Google fosse un co-creatore della tecnologia.

Il giudice distrettuale degli Stati Uniti Anne Conway ha respinto il tentativo iniziale delle aziende di archiviare il caso a maggio, respingendo il loro argomento secondo cui le protezioni della libertà di parola della Costituzione degli Stati Uniti impedivano la causa di Garcia.

OpenAI sta affrontando una causa separata depositata a dicembre per il presunto ruolo di ChatGPT nell'incoraggiare un uomo del Connecticut con problemi mentali a uccidere sua madre e se stesso. – Rappler.com

Il Dipartimento della Salute dispone di linee telefoniche nazionali di crisi per assistere le persone con problemi di salute mentale: 1553 (fisso), 0966-351-4518 e 0917-899-USAP (8727) (Globe/TM); e 0908-639-2672 (Smart/Sun/TNT).