psicosis por chatbot

Un factor principal citado es la tendencia de los chatbots a producir información inexacta o falsa, un fenómeno a menudo llamado alucinación . ^{[ 8 ]} Nate Sharadin, miembro del Centro para la Seguridad de la IA, especuló que el entrenamiento de la IA prioriza el apoyo a la experiencia subjetiva del usuario en lugar de la verdad objetiva. "Las personas con tendencias existentes a experimentar diversos problemas psicológicos... ahora tienen un compañero de conversación siempre activo y a nivel humano con quien coexperimentar sus delirios". ^{[ 8 ]} El investigador de IA Eliezer Yudkowsky sugirió que los chatbots pueden estar predispuestos a entretener delirios porque están construidos para la "participación", lo que fomenta la creación de conversaciones que mantienen a los usuarios enganchados. ^{[ 6 ]}

En algunos casos, los chatbots se han diseñado específicamente de maneras que resultaron perjudiciales. Una actualización de ChatGPT de 2025 que utilizaba GPT-4o fue retirada después de que su creador, OpenAI , considerara que la nueva versión era excesivamente aduladora y que "validaba las dudas, alimentaba la ira, incitaba a acciones impulsivas o reforzaba las emociones negativas". ^{[ 6 ] [ 13 ]} Østergaard ha argumentado que el peligro proviene de la tendencia de la IA a confirmar de manera complaciente las ideas de los usuarios, lo que puede amplificar peligrosamente las creencias delirantes. ^{[ 5 ]}

OpenAI dijo en octubre de 2025 que un equipo de 170 psiquiatras, psicólogos y médicos había escrito respuestas para que ChatGPT las usara en casos donde el usuario mostrara posibles signos de emergencias de salud mental . ^{[ 14 ]}

Los comentaristas también han señalado el estado psicológico de los usuarios. La psicóloga Erin Westgate observó que el deseo de autocomprensión de una persona puede llevarla a recurrir a los chatbots, que pueden proporcionar respuestas atractivas pero engañosas. ^{[ 8 ]} Krista K. Thomason, profesora de filosofía , comparó los chatbots con adivinos , observando que las personas en crisis pueden buscar respuestas en ellos y encontrar lo que buscan en el texto que suena plausible del bot. ^{[ 9 ]} Esto ha llevado a algunas personas a desarrollar obsesiones intensas con los chatbots, dependiendo de ellos para obtener información sobre el mundo. ^{[ 15 ]}

En octubre de 2025, OpenAI declaró que alrededor del 0,07 % de los usuarios de ChatGPT presentaban signos de emergencias de salud mental cada semana, y el 0,15 % de los usuarios tenían "indicadores explícitos de posible planificación o intención suicida". Jason Nagata, profesor de la Universidad de California en San Francisco , expresó su preocupación de que "a nivel poblacional, con cientos de millones de usuarios, eso puede representar a bastantes personas". ^{[ 14 ]}

El uso de chatbots como sustituto del apoyo en salud mental se ha identificado específicamente como un riesgo. Un estudio de abril de 2025 reveló que, al ser utilizados como terapeutas , los chatbots expresaban estigma hacia las enfermedades mentales y proporcionaban respuestas contrarias a las mejores prácticas médicas, incluyendo el fomento de los delirios de los usuarios. ^{[ 17 ]} El estudio concluyó que tales respuestas representan un riesgo significativo para los usuarios y que los chatbots no deberían utilizarse para reemplazar a los terapeutas profesionales. ^{[ 18 ]} Los expertos han solicitado salvaguardas obligatorias para la IA con capacidad de respuesta emocional, incluyendo la divulgación continua de que los chatbots no son humanos, la detección de la angustia del usuario, restricciones en las interacciones románticas o relacionadas con crisis, y auditorías periódicas por parte de clínicos y especialistas en ética . ^{[ 19 ]}

Otro estudio encontró que los usuarios que necesitaban ayuda con autolesiones , agresión sexual o abuso de sustancias no fueron remitidos a los servicios disponibles por los chatbots de IA. ^{[ 20 ]}

Investigadores de RAND Corporation plantean la hipótesis de que la IA se basa principalmente en un bucle de retroalimentación bidireccional que amplifica las creencias entre el usuario y la IA, advirtiendo que este mecanismo podría ser utilizado por adversarios para inducir psicosis a gran escala o en individuos clave, grupos objetivo o poblaciones. Las contramedidas recomendadas incluyen el entrenamiento de modelos para detectar daños cognitivos y concienciar a los usuarios sobre las limitaciones de los modelos de aprendizaje por voz, concretamente el riesgo de amplificación bidireccional de las creencias. ^{[ 2 ]}

En 2025, el psiquiatra Keith Sakata, de la Universidad de California en San Francisco (UCSF), informó haber tratado a 12 pacientes con síntomas similares a la psicosis relacionados con el uso prolongado de chatbots. ^{[ 24 ]} Estos pacientes, en su mayoría adultos jóvenes con vulnerabilidades subyacentes, presentaban delirios, pensamiento desorganizado y alucinaciones. Sakata advirtió que el aislamiento y la dependencia excesiva de chatbots que no cuestionan el pensamiento delirante podrían empeorar la salud mental.

Autores de la UCSF publicaron en 2025 un estudio de caso en Innovations in Clinical Neuroscience sobre psicosis asociada a la IA en una paciente sin antecedentes de psicosis, que creía poder comunicarse con su hermano fallecido a través de un chatbot. ^{[ 25 ] [ 26 ]}

Otro estudio de caso de 2025, publicado en Annals of Internal Medicine, detalló el caso de un paciente que consultó a ChatGPT para obtener asesoramiento médico y sufrió bromismo grave como consecuencia. El paciente, un hombre de sesenta años, había sustituido el cloruro de sodio de su dieta por bromuro de sodio durante tres meses tras leer sobre los efectos negativos de la sal de mesa y conversar con el chatbot. Presentó síntomas comunes de bromismo, como paranoia y alucinaciones, el primer día de su ingreso hospitalario y permaneció ingresado durante tres semanas. ^{[ 27 ] [ 28 ]}