La acción judicial sostiene que la joven mencionó pensamientos suicidas en decenas de conversaciones con ChatGPT antes de quitarse la vida
La madre de Alice Carrier, una canadiense de 24 años que falleció en 2025, presentó una demanda en California contra OpenAI y su director ejecutivo, Sam Altman, alegando que la empresa no actuó pese a las reiteradas referencias al suicidio realizadas por la joven durante sus conversaciones con ChatGPT.
De acuerdo con la demanda, Carrier utilizó el chatbot durante aproximadamente un año y medio para hablar sobre aspectos personales de su vida, incluyendo relaciones sentimentales, dificultades emocionales y pensamientos suicidas.
Los documentos judiciales señalan que la joven hizo referencia a ideas relacionadas con el suicidio en alrededor de 41 ocasiones, lo que, según la parte demandante, debió activar mecanismos de respuesta más contundentes o recomendaciones de ayuda profesional.
La demanda plantea interrogantes sobre los límites y responsabilidades de las plataformas de inteligencia artificial cuando interactúan con personas que manifiestan señales de crisis emocional o riesgo para su integridad.
El caso ha generado atención internacional y vuelve a poner sobre la mesa el debate sobre la seguridad, supervisión y protocolos de protección en sistemas de inteligencia artificial utilizados por millones de personas en todo el mundo.
Mientras avanza el proceso judicial, expertos y usuarios continúan discutiendo cuál debe ser el papel de estas tecnologías en situaciones relacionadas con la salud mental y la prevención de conductas de riesgo. CNT Más seguirá informando sobre el desarrollo de este caso.