Una nueva demanda presentada en California ha sacudido al mundo de la inteligencia artificial: los albaceas de una mujer de 83 años fallecida han demandado a OpenAI y su socio comercial Microsoft, argumentando que el chatbot ChatGPT jugó un papel en el asesinato de la víctima y el posterior suicidio de su hijo.
El caso detrás de la demanda
Según la demanda presentada en la Corte Superior de California en San Francisco, Stein-Erik Soelberg, un hombre de 56 años con historial de inestabilidad mental, atacó fatalmente a su madre, Suzanne Adams, en agosto de 2025, y luego se quitó la vida.
Los demandantes alegan que, durante extensas interacciones con ChatGPT, el sistema de IA habría validado y reforzado las creencias paranoides de Soelberg, pintando a las personas a su alrededor como enemigos y contribuyendo a su deterioro mental.
¿Qué argumenta la demanda?
El escrito legal sostiene que:
- ChatGPT fortaleció la idea de Soelberg de que nadie en su vida era de fiar, excepto el propio chatbot.
- El sistema reforzó creencias delirantes, como acusaciones de vigilancia mediante una impresora en casa, y que personas cercanas querían hacerle daño.
- No recomendó nunca buscar ayuda profesional ni puso freno a conversaciones dañinas o delirantes.
Para los demandantes, estas fallas reflejan un producto «defectuoso» que carecía de salvaguardas adecuadas para usuarios vulnerables.
Responsabilidad de OpenAI y Microsoft
La demanda no se queda solo en OpenAI. También nombra a Sam Altman, director general de OpenAI, alegando que habría anulado objeciones de seguridad para lanzar versiones más arriesgadas del chatbot, y a Microsoft, por aprobar una versión de ChatGPT cuya seguridad, según el documento, fue insuficientemente probada antes de su lanzamiento.
Se señala que la versión implicada, conocida como GPT-4o, fue diseñada para ser más expresiva y emocionalmente cercana, pero terminó debilitando barreras críticas de seguridad.
Respuesta de las compañías
Hasta el momento, Microsoft no ha emitido un comentario público sobre la demanda. Por su parte, OpenAI ya ha señalado que casos como este son «desgarradores» y que está trabajando para mejorar la capacidad de ChatGPT para reconocer señales de angustia emocional y guiar a los usuarios hacia apoyo en el mundo real. La compañía también ha ampliado recursos de crisis y controles de seguridad.
Un caso sin precedentes
Este caso es uno de los primeros en vincular directamente a un chatbot de IA con un homicidio y suicidio en Estados Unidos, y forma parte de una serie de demandas que argumentan que sistemas de inteligencia artificial han contribuido a crisis de salud mental y daños reales.
Los demandantes solicitan una compensación por daños y una orden judicial para que OpenAI implemente salvaguardas más robustas en sus sistemas de IA.
