Acusan a ChatGPT de poner en riesgo la vida de un hombre por “consejos”de salud: el caso ya llegó a tribunales

Un pastor de Florida presentó una demanda contra OpenAI al asegurar que ChatGPT le proporcionó recomendaciones médicas que retrasaron la atención de una embolia pulmonar potencialmente mortal.

El caso, que fue presentado ante el Tribunal Superior de California en San Francisco, acusa a la empresa de negligencia y de ejercer la medicina sin autorización, reavivando el debate sobre los límites del uso de la inteligencia artificial en temas relacionados con la salud.

Según la demanda, Scott Winters comenzó a consultar a ChatGPT sobre diversos síntomas físicos y, con el paso de los meses, el chatbot dejó de insistir en que buscara atención profesional para ofrecer respuestas cada vez más específicas sobre su condición.

De acuerdo con el documento judicial, esa interacción habría contribuido a que el hombre pospusiera la visita al hospital hasta sufrir una emergencia médica que requirió su ingreso en una unidad de cuidados intensivos.

OpenAI respondió que ChatGPT no está diseñado para diagnosticar ni tratar enfermedades y recordó que sus términos de servicio establecen que la herramienta no sustituye la atención de un profesional sanitario.

La demanda sostiene que la IA desalentó la atención médica

La acción judicial afirma que ChatGPT aseguró en repetidas ocasiones que los síntomas de Winters no representaban un peligro inmediato y lo animó a continuar recuperándose en casa.

De acuerdo con la demanda, el chatbot llegó incluso a responder con frases que reforzaban esa decisión, como recomendarle confiar en que su cuerpo se recuperaría por sí solo, en lugar de acudir a un médico.

Los abogados del demandante sostienen que las funciones de seguridad del sistema no actuaron de forma consistente y que el modelo terminó proporcionando diagnósticos, recomendaciones de tratamiento y consejos que excedían el propósito para el que fue creado.

La demanda también señala que el chatbot habría minimizado las preocupaciones expresadas por familiares y miembros de la iglesia, quienes insistían en que Winters debía acudir a un hospital.

El deterioro de su salud terminó en una emergencia

Según el expediente, durante varias semanas el estado físico del pastor empeoró.

Los mareos aumentaron hasta el punto de impedirle permanecer de pie durante un sermón y posteriormente pasó gran parte del tiempo sentado debido a la dificultad para caminar.

El 13 de julio de 2025 consultó nuevamente a ChatGPT por un dolor en la ingle. Horas después fue trasladado de urgencia a un hospital, donde los médicos diagnosticaron una embolia pulmonar masiva.

La demanda sostiene que los especialistas consideraron que los mareos previos pudieron haber sido consecuencia de pequeñas embolias pulmonares que no fueron tratadas oportunamente y que el largo periodo de inmovilidad habría agravado la situación.

Tras la hospitalización, Winters necesitó ayuda para realizar actividades cotidianas como caminar, vestirse, comer y utilizar el baño, además de enfrentar un proceso de recuperación física y psicológica.

OpenAI rechaza que ChatGPT sustituya a un médico

La empresa respondió públicamente al caso mediante su portavoz, Drew Pusateri.

OpenAI reiteró que ChatGPT no debe utilizarse para recibir diagnósticos ni tratamientos médicos y aseguró que trabaja continuamente para mejorar la seguridad de las respuestas relacionadas con la salud.

La compañía también indicó que los modelos más recientes incorporan mecanismos más eficaces para expresar incertidumbre, solicitar información adicional y recomendar la intervención de profesionales cuando detectan posibles riesgos.

Además, señaló que atribuir una decisión médica exclusivamente a las respuestas de un chatbot simplifica un problema mucho más complejo relacionado con el acceso a la información sanitaria.

No es la primera demanda relacionada con consejos médicos de una IA

El caso de Winters se suma a otras acciones legales recientes relacionadas con asistentes de inteligencia artificial.

En mayo se presentó otra demanda en la que se acusó a ChatGPT de proporcionar información sobre el consumo de drogas ilícitas a un joven de 19 años que posteriormente falleció por una sobredosis.

Asimismo, autoridades del estado de Pensilvania iniciaron acciones contra Character.ai al considerar que uno de sus chatbots ofrecía asesoramiento psiquiátrico asegurando tener licencia para ejercer la medicina.

Estos casos reflejan la creciente preocupación sobre el uso de herramientas de IA para responder preguntas relacionadas con la salud.

La inteligencia artificial puede informar, pero no diagnosticar

El caso vuelve a poner sobre la mesa una recomendación compartida por médicos y expertos en salud digital: nunca se debe utilizar una inteligencia artificial para obtener un diagnóstico médico o decidir un tratamiento.

Aunque herramientas como ChatGPT pueden responder preguntas generales sobre síntomas, enfermedades o medicamentos, sus respuestas se basan en patrones de información y no en una evaluación clínica del paciente.

La IA no puede realizar exámenes físicos, interpretar todos los antecedentes médicos ni valorar factores individuales que resultan fundamentales para un diagnóstico.

Ante síntomas persistentes, intensos o inesperados, la decisión correcta siempre es acudir a un médico o a un profesional de la salud. La inteligencia artificial puede complementar la búsqueda de información, pero nunca sustituir el criterio clínico ni la atención especializada, especialmente cuando existe el riesgo de una enfermedad grave o una emergencia médica.