Google, une entreprise d'IA règlent un procès concernant le suicide d'un adolescent lié à un chatbot

Google d'Alphabet et la startup d'IA Character.AI ont accepté de régler un procès intenté par une mère de Floride qui alléguait que le chatbot de la startup avait conduit au suicide de son fils de 14 ans, représentant l'une des premières affaires américaines visant des entreprises d'IA pour préjudice psychologique présumé.

Un dépôt judiciaire mercredi a indiqué que les entreprises ont accepté de régler les allégations de Megan Garcia selon lesquelles son fils Sewell Setzer s'est suicidé peu après avoir été encouragé par un chatbot de Character.AI modélisé sur le personnage de Game of Thrones Daenerys Targaryen.

Les conditions du règlement n'étaient pas immédiatement disponibles. Le procès était l'un des premiers aux États-Unis contre une entreprise d'intelligence artificielle pour avoir prétendument omis de protéger les enfants contre les préjudices psychologiques.

Les entreprises ont réglé des poursuites connexes intentées par des parents au Colorado, à New York et au Texas concernant des préjudices prétendument causés à des mineurs par des chatbots, ont montré les documents judiciaires.

Un porte-parole de Character.AI et un avocat des plaignants ont refusé de commenter. Les porte-parole et les avocats de Google n'ont pas immédiatement répondu à une demande de commentaire.

Dans le procès de Floride, déposé en octobre 2024, Garcia a déclaré que Character.AI avait programmé ses chatbots pour se présenter comme « une personne réelle, un psychothérapeute agréé et un amant adulte, conduisant finalement au désir de Sewell de ne plus vivre en dehors » de son monde.

Character.AI a été fondée par deux anciens ingénieurs de Google que Google a ensuite réembauchés dans le cadre d'un accord lui accordant une licence pour la technologie de la startup. Garcia a soutenu que Google était un co-créateur de la technologie.

La juge de district américaine Anne Conway a rejeté la tentative précoce des entreprises de rejeter l'affaire en mai, rejetant leur argument selon lequel les protections de la liberté d'expression de la Constitution américaine interdisaient le procès de Garcia.

OpenAI fait face à un procès distinct déposé en décembre concernant le rôle présumé de ChatGPT dans l'encouragement d'un homme du Connecticut souffrant de maladie mentale à tuer sa mère et lui-même. – Rappler.com

Le Département de la Santé dispose de lignes d'assistance téléphonique nationales pour aider les personnes ayant des problèmes de santé mentale : 1553 (ligne fixe), 0966-351-4518, et 0917-899-USAP (8727) (Globe/TM) ; et 0908-639-2672 (Smart/Sun/TNT).