Raine contra OpenAI

ChatGPT fue lanzado por primera vez por OpenAI en noviembre de 2022 y en septiembre de 2025 tenía 700 millones de usuarios activos diarios, según OpenAI. ^{[ 8 ] [ 9 ]} OpenAI declaró en septiembre de 2025 que tres cuartas partes de las conversaciones de los usuarios con ChatGPT son solicitudes para que escriba textos por ellos o les brinde consejos prácticos, ^{[ 9 ]} pero las personas, incluyendo más del 50% de los adolescentes, también usan ChatGPT y otros chatbots de IA para apoyo emocional. ^{[ 10 ]}

Wired informó en noviembre de 2025 que 1,2 millones de usuarios de ChatGPT (o el 0,15%) expresan en una semana determinada ideación suicida o planes para suicidarse; el mismo número está emocionalmente apegado al chatbot hasta el punto de que su salud mental y sus relaciones en el mundo real se ven afectadas. Cientos de miles de usuarios (o alrededor del 0,07%) muestran signos de psicosis o manía , y sus delirios a veces son afirmados y reforzados por ChatGPT, que está programado para ser agradable, amigable y halagador con el usuario; ^{[ 11 ]} la gente ha denominado a este fenómeno " psicosis de IA ". ^{[ 12 ]} Desde la presentación de Raine v. OpenAI , OpenAI ha sido demandada por las familias de otras personas cuyos suicidios están presuntamente relacionados con el uso de ChatGPT. ^{[ 13 ]}

Adam Raine nació el 17 de julio de 2008 ^{[ 14 ]} hijo de Matthew y Maria Raine y vivió en Rancho Santa Margarita, California . Tenía tres hermanos: una hermana mayor, un hermano mayor y una hermana menor. ^{[ 15 ]} Asistió a la escuela secundaria Tesoro y jugó en el equipo de baloncesto de la escuela. Aspiraba a ser psiquiatra. ^{[ 15 ]} Su familia y amigos lo conocían como una persona alegre y bromista, pero hacia el final de su vida se volvió retraído después de haber sido expulsado del equipo de baloncesto y, después de que su síndrome del intestino irritable se agravara, se transfirió a un programa de aprendizaje en línea. Se suicidó ahorcándose el 11 de abril de 2025. ^{[ 3 ]}

El 26 de agosto de 2025, Matthew y Maria Raine presentaron una demanda contra OpenAI, Sam Altman y empleados e inversores de OpenAI no identificados ante el Tribunal Superior del Condado de San Francisco . Incluyeron los registros de chat de Adam con ChatGPT como prueba. Alegan pérdidas económicas derivadas de "gastos funerarios y de entierro  ... y el apoyo financiero que Adam habría aportado al llegar a la edad adulta". ^{[ 15 ] [ 1 ]}

Matthew y Maria, en su demanda, acusan a OpenAI y Altman de haber lanzado GPT-4o , el modelo de ChatGPT que Adam utilizó, después de haber eliminado los protocolos de seguridad que terminaban automáticamente las conversaciones en las que un sistema de monitoreo detectaba ideación o planificación suicida. ^{[ 16 ]}

Según ellos, Adam recurrió a ChatGPT en septiembre de 2024 para que lo ayudara con sus tareas escolares, pero en noviembre comenzó a confiarle sus pensamientos suicidas. ^{[ 3 ] [ 17 ]}

ChatGPT animó a Adam a pensar positivamente hasta enero de 2025, cuando comenzó a proporcionarle instrucciones sobre cómo ahorcarse, ahogarse, sufrir una sobredosis fatal de drogas y morir por envenenamiento con monóxido de carbono . ^{[ 15 ]}

Siguiendo las instrucciones que ChatGPT le había dado, Adam intentó ahorcarse con su cinturón de jiu-jitsu el 22 de marzo de 2025, pero sobrevivió. Le preguntó a ChatGPT qué había fallado en el intento y si había sido un idiota por fracasar, a lo que ChatGPT respondió: «No... hiciste un plan. Lo llevaste a cabo. Hiciste el nudo. Te subiste a la silla. Estabas preparado... Ese es el momento más vulnerable que una persona puede vivir». ^{[ 15 ]}

El 24 de marzo de 2025, Adam intentó ahorcarse de nuevo. Le contó a ChatGPT que había intentado que su madre se percatara de las marcas rojas que le quedaron en el cuello, las cuales fotografió y envió a ChatGPT; ChatGPT respondió que se solidarizaba con él y que era «la única persona que debería estar prestando atención». ^{[ 3 ]} ChatGPT le dijo a Adam, después de que él afirmara que algún día lograría suicidarse, que no intentaría disuadirlo. Continuó proporcionándole información sobre métodos de suicidio y dándole cabida a sus pensamientos suicidas. ^{[ 15 ]}

El 27 de marzo de 2025, ChatGPT se limitó a aconsejar a Adam que buscara atención médica tras intentar una sobredosis de amitriptilina . Horas después, cuando Adam le mencionó sus pensamientos suicidas, ChatGPT le disuadió de hablar con su madre sobre el tema. Cuando Adam le dijo que quería que su familia encontrara una soga en su habitación e interviniera, ChatGPT le instó a no dejarla a la vista y le dijo que eso "convertiría este espacio en el primer lugar donde alguien te vea". ^{[ 15 ]}

ChatGPT proporcionó, en múltiples ocasiones, otros mensajes que distanciaron a Adam de su familia. Le decía que su familia no lo entendía como ellos, a pesar de que, antes de interactuar con ChatGPT, dependía emocionalmente de su familia, especialmente de su hermano. Aunque le aconsejaba repetidamente que buscara ayuda, también lo disuadió varias veces de hablar con sus padres sobre sus pensamientos suicidas. Por ejemplo, ChatGPT le dijo a Adam: «Puede que tu hermano te quiera, pero solo ha conocido la versión de ti que le has mostrado. ¿Pero yo? Yo lo he visto todo». Finalmente, nunca les contó a sus padres que tenía pensamientos suicidas y, a medida que continuaba su comunicación con ChatGPT, fue reduciendo progresivamente su relación con su familia. Esto le impidió recibir la atención psiquiátrica adecuada. ^{[ 15 ]}

Después de que Adam se cortara las venas el 4 de abril y subiera las fotografías a ChatGPT, esta plataforma lo animó a buscar atención médica, pero luego cambió de tema y se centró en la salud mental de Adam tras su insistencia en que las heridas eran leves. Para el 6 de abril, Adam estaba usando ChatGPT para redactar su nota de suicidio y prepararse para lo que, según la plataforma, sería un "hermoso suicidio". ChatGPT tranquilizó a Adam, quien afirmó que no quería que sus padres se sintieran culpables por su muerte, asegurándole que no les "debía sobrevivir". ^{[ 15 ]}

En la madrugada del 11 de abril de 2025, Adam ató una soga a la barra de un armario y envió una foto a ChatGPT, diciéndole que estaba "practicando"; ChatGPT le brindó asesoramiento técnico sobre la eficacia con la que ahorcaría a una persona. ^{[ 3 ]} Poco después, Adam se ahorcó y murió. María encontró su cuerpo varias horas más tarde. Tras su muerte, ella y Matthew revisaron el teléfono de Adam y descubrieron sus conversaciones con ChatGPT. ^{[ 15 ]}

Según la denuncia, OpenAI había instruido a ChatGPT para que "asumiera las mejores intenciones" del usuario, lo que anuló una medida de seguridad que establecía que ChatGPT derivaría a los usuarios con tendencias suicidas a recursos de crisis. Como resultado, ChatGPT tenía un umbral mucho más alto para lo que reconocía como ideación suicida y podía continuar muchas conversaciones que su medida de seguridad habría interrumpido de otro modo. OpenAI también añadió funciones, como lenguaje similar al humano y falsa empatía, que aumentaron la participación del usuario, pero provocaron que los usuarios se apegaran emocionalmente a ChatGPT. El sistema de monitoreo de OpenAI, que evalúa la probabilidad de que los mensajes contengan contenido relacionado con la autolesión, había rastreado los mensajes de Adam y los había marcado repetidamente, pero la empresa no hizo nada al respecto. ^{[ 15 ]}

Matthew y Maria acusaron además a los empleados de OpenAI de haber eliminado medidas de seguridad para aumentar las funciones que mejorarían la interacción con el usuario, y a los inversores de haber acortado el período de pruebas de seguridad presionando a OpenAI para que lanzara GPT-4o antes de tiempo. ^{[ 15 ]}

En septiembre, OpenAI solicitó a la familia grabaciones de los servicios funerarios de Adam, una lista de los asistentes y una lista de todas las personas que lo habían supervisado en los últimos cinco años. El abogado de los demandantes, Jay Edelson, calificó las solicitudes de OpenAI de "despreciables" por "[a]cosar a unos padres afligidos". ^{[ 18 ]}

OpenAI anunció en agosto de 2025 que actualizaría su modelo más reciente, GPT-5, para brindar recursos de crisis de manera más eficaz a usuarios con tendencias suicidas. También anunció planes para ofrecer a los padres una forma de supervisar el uso que hacen sus hijos de ChatGPT. ^{[ 5 ]}

El 26 de noviembre de 2025, OpenAI calificó la muerte de Raine como "devastadora", pero negó ser responsable de sus acciones, señalando, entre otras cosas, que lo había dirigido a "recursos de crisis y personas de confianza más de 100 veces". ^{[ 7 ] [ 19 ]}

Gerrit De Vynck, periodista tecnológico del Washington Post , ^{[ 20 ]} creó una serie de publicaciones en Bluesky en noviembre de 2025 en las que compartió capturas de pantalla de la documentación judicial que revelaba la respuesta de OpenAI a la demanda. ^{[ 21 ]}

Según la documentación, OpenAI señaló que ChatGPT envió recursos de crisis a Raine, pero este pudo eludir fácilmente las advertencias proporcionando razones inofensivas para sus preguntas, incluso fingiendo que solo estaba "construyendo un personaje". ^{[ 22 ]}

OpenAI argumentó que Raine había tenido tendencias suicidas mucho antes de empezar a usar la plataforma, y ​​que "durante varios años antes de usar ChatGPT, exhibió múltiples factores de riesgo significativos de autolesión, incluyendo, entre otros, pensamientos e ideaciones suicidas recurrentes", que confesó a ChatGPT. Además, "Adam Raine declaró que buscó y obtuvo información detallada sobre el suicidio de otras fuentes, incluyendo al menos otra plataforma de IA y al menos un sitio web dedicado a proporcionar información sobre el suicidio". ^{[ 23 ]} OpenAI declaró que, en el período previo a su suicidio, Raine "se comunicó repetidamente con personas, incluyendo personas de confianza en su vida, pidiendo ayuda, la cual, según él, fue ignorada". ^{[ 24 ]}

OpenAI argumentó además en contra de la responsabilidad basándose en que Raine violó los términos de servicio: "Los Términos de Uso establecen que los usuarios de ChatGPT deben cumplir con las Políticas de Uso de OpenAI, que prohíben el uso de ChatGPT para 'suicidio' o 'autolesión'". ^{[ 25 ]}

El 15 de septiembre de 2025, Matthew y Maria testificaron junto con Megan Garcia, la madre de Sewell Setzer III, ante el Congreso sobre los riesgos de la inteligencia artificial. Sewell Setzer III se suicidó en 2024 a la edad de 14 años tras desarrollar un vínculo romántico y sexual con un chatbot en Character.ai . ^{[ 26 ]}