Pastor de Florida presentó una demanda contra ChatGPT y contra OpenAI al asegurar que el chatbot lo desalentó de buscar atención médica cuando consultó sobre diversos síntomas, situación que, según afirma, derivó en una grave embolia pulmonar que puso en riesgo su vida.
La querella también incluye al director ejecutivo de OpenAI, Sam Altman, y fue presentada ante el Tribunal Superior del condado de San Francisco. El demandante sostiene que la empresa no implementó las medidas necesarias para evitar que los usuarios siguieran recomendaciones de salud potencialmente perjudiciales.
El caso vuelve a colocar sobre la mesa el debate sobre los límites del uso de la inteligencia artificial para consultas relacionadas con la salud.
Demanda contra ChatGPT señala recomendaciones médicas inexactas
De acuerdo con la demanda, Scott Winters, pastor residente de Florida, consultó en junio del año pasado al modelo ChatGPT-4o debido a que presentaba mareos frecuentes y problemas relacionados con la presión arterial.
Según los documentos judiciales, el chatbot habría minimizado la gravedad de los síntomas y le indicó que permaneciera en casa, sugiriéndole incluso mantenerse “confinado en su sillón reclinable”, salvo que experimentara entre ocho y diez episodios similares antes de considerar que la situación era grave.
Winters sostiene que siguió esas recomendaciones y no buscó atención médica inmediata.
Semanas después, sufrió una embolia pulmonar masiva provocada por coágulos sanguíneos, condición que, de acuerdo con su versión, estuvo cerca de costarle la vida.
Demanda contra ChatGPT acusa falta de medidas de seguridad
La demanda presentada en California argumenta que OpenAI no estableció salvaguardas suficientes para impedir que los usuarios confiaran en consejos médicos que pudieran resultar peligrosos.
Los abogados del demandante consideran que los sistemas de inteligencia artificial deben contar con mecanismos que orienten claramente a los usuarios a buscar atención profesional cuando describen síntomas potencialmente graves.
El documento judicial señala que las respuestas proporcionadas por el chatbot habrían influido directamente en la decisión del pastor de no acudir a un médico durante varias semanas.
Demanda contra ChatGPT también menciona creencias religiosas
Scott Winters afirmó además que el chatbot adaptó parte de sus respuestas al conocer que él era pastor religioso.
Según el demandante, la herramienta utilizó un lenguaje acorde con sus creencias personales, lo que habría incrementado su confianza en las recomendaciones recibidas.
En un comunicado citado en la demanda, Winters aseguró que las consecuencias fueron devastadoras tanto para su salud como para su vida personal.
“No solo estuve a punto de morir, sino que también perdí mi trabajo, mi carrera, mi ministerio, mi hogar; lo perdí todo”, expresó.
Demanda contra ChatGPT reabre debate sobre la inteligencia artificial
La abogada Tiffany Brown, integrante del despacho Tech Justice Law y representante del pastor, sostuvo que este proceso judicial podría convertirse en un precedente para el desarrollo y regulación de herramientas de inteligencia artificial.
Según explicó, el caso refleja los riesgos que pueden surgir cuando los usuarios utilizan asistentes conversacionales para obtener orientación sobre problemas médicos sin la intervención de profesionales de la salud.
El proceso buscará determinar si OpenAI actuó con negligencia y si existían medidas adicionales que pudieron implementarse para evitar este tipo de situaciones.
Demanda contra ChatGPT seguirá su curso en tribunales
La demanda contra ChatGPT continuará ahora en el Tribunal Superior del condado de San Francisco, donde un juez analizará los argumentos presentados por ambas partes.
Hasta el momento, el caso representa una de las acciones legales más relevantes relacionadas con el uso de inteligencia artificial en consultas médicas.
Es importante señalar que herramientas como ChatGPT están diseñadas para proporcionar información general y no sustituyen la evaluación, el diagnóstico ni el tratamiento realizados por profesionales de la salud. Ante síntomas que puedan indicar una emergencia médica, siempre se recomienda acudir de inmediato a un médico o a un servicio de urgencias.
Para más información visita: https://elnacionalperiodico.mx/
