Los riesgos ocultos de consultar a la inteligencia artificial sobre problemas de salud

La inteligencia artificial (IA) se ha convertido en una herramienta habitual para resolver dudas sobre síntomas, enfermedades y tratamientos. Sin embargo, sus respuestas pueden contener errores difíciles de detectar y tener consecuencias para la salud. Así lo advierten investigadores de cuatro universidades estadounidenses en un artículo publicado el 9 de octubre de 2026 en la revista científica Nature Health ⁽¹⁾, en el que alertan de los riesgos de confiar en consejos médicos generados automáticamente y reclaman mecanismos que permitan identificar sus posibles efectos perjudiciales.

Alertan de los riesgos de confiar en consejos médicos generados automáticamente y reclaman mecanismos que permitan identificar sus posibles efectos perjudiciales

El trabajo, firmado por Matthew R. DeVerna, Harry Yaojun Yan, Kai-Cheng Yang y Filippo Menczer, no presenta un nuevo ensayo clínico, sino que analiza los riesgos de la información sanitaria generada por IA y las dificultades para supervisar sus consecuencias.

Cuando la IA se equivoca

Los asistentes de inteligencia artificial permiten obtener explicaciones sencillas sobre cuestiones médicas, comprender términos complicados y acceder a información a cualquier hora. También pueden resultar útiles para personas que encuentran dificultades con el idioma o con la comprensión de documentos sanitarios.

No obstante, los investigadores advierten de que una respuesta convincente no siempre es una respuesta correcta. Estos sistemas pueden proporcionar información inexacta o recomendaciones poco adecuadas, aunque las presenten con un lenguaje claro y aparentemente seguro.

El problema adquiere especial importancia cuando una persona utiliza estas herramientas para tomar decisiones relacionadas con su salud. Una orientación equivocada puede influir en cómo interpreta sus síntomas o en las decisiones que adopta sobre su atención médica.

Producir mensajes engañosos resulta cada vez más sencillo y barato, lo que abre nuevas posibilidades para quienes buscan difundir desinformación

Además, la capacidad de estos sistemas para responder a millones de consultas hace que los posibles errores puedan afectar a muchas personas. A diferencia de una conversación individual con un profesional sanitario, una misma información incorrecta puede difundirse rápidamente a través de servicios digitales.

Los autores también señalan que la inteligencia artificial facilita la creación de contenidos sanitarios falsos adaptados a diferentes públicos. Producir mensajes engañosos resulta cada vez más sencillo y barato, lo que abre nuevas posibilidades para quienes buscan difundir desinformación.

Información falsa difícil de detectar

El artículo distingue dos formas principales de exposición a estos riesgos. La primera ocurre cuando una persona encuentra información sanitaria generada por IA sin haberla buscado expresamente, por ejemplo, mientras navega por internet.

La segunda aparece cuando el usuario consulta directamente un buscador o un chatbot para resolver una duda médica. En este caso, la respuesta automática puede convertirse en una fuente importante de información para quien busca orientación.

Ambas situaciones plantean dificultades para la salud pública, especialmente porque no siempre es posible conocer qué información recibe cada usuario ni cómo influye posteriormente en sus decisiones.

Cuando un sistema ofrece una recomendación perjudicial, las instituciones sanitarias pueden no disponer de registros independientes que permitan identificar lo sucedido

Los investigadores consideran que uno de los principales problemas es precisamente la falta de visibilidad. Cuando un sistema ofrece una recomendación perjudicial, las instituciones sanitarias pueden no disponer de registros independientes que permitan identificar lo sucedido.

A ello se añade la ausencia de canales adecuados para que los usuarios comuniquen posibles daños derivados de estas respuestas. Esta situación también limita la capacidad de los investigadores independientes para estudiar el alcance real del problema.

Por tanto, los autores no solo alertan de la posibilidad de que la inteligencia artificial se equivoque, sino también de la dificultad para detectar, investigar y cuantificar sus consecuencias.

Más transparencia y responsabilidad

Para reducir estos riesgos, los investigadores proponen mejorar la transparencia de las plataformas que ofrecen información sanitaria mediante inteligencia artificial. Su objetivo es facilitar la identificación de posibles problemas y permitir una supervisión más eficaz.

También plantean la necesidad de introducir medidas de protección en el momento en que se ofrecen las respuestas, de modo que los posibles daños puedan prevenirse antes de que la información influya en las decisiones de los usuarios.

Las propuestas abarcan desde medidas voluntarias de las empresas tecnológicas hasta intervenciones regulatorias

Las propuestas abarcan desde medidas voluntarias de las empresas tecnológicas hasta intervenciones regulatorias. Los autores consideran necesario establecer responsabilidades claras sobre la información sanitaria que proporcionan estos sistemas.

El análisis reconoce, al mismo tiempo, que la inteligencia artificial ofrece beneficios importantes para el acceso a la información médica. Su disponibilidad permanente y su capacidad para explicar conceptos complejos pueden ayudar a comprender mejor cuestiones relacionadas con la salud.

Por ello, el planteamiento de los investigadores no consiste en eliminar estas herramientas, sino en hacer que sus riesgos sean observables y puedan evaluarse. Sin información suficiente sobre los errores y sus consecuencias, resulta difícil determinar qué medidas de protección funcionan.

La principal advertencia del artículo es que la seguridad de la información médica generada por IA no depende únicamente de mejorar la precisión de las respuestas. También requiere mecanismos que permitan conocer cuándo se producen errores, qué efectos tienen y quién debe responder por ellos.

En definitiva, los autores defienden que el desarrollo de estas tecnologías debe acompañarse de mayor vigilancia, transparencia y rendición de cuentas, especialmente cuando sus respuestas pueden influir en decisiones que afectan directamente a la salud de las personas.