Google elimina algunos resultados sobre salud en 'AI Overviews' tras identificar información errónea peligrosa

Algunos de los resultados que aparecían en la función 'AI Overviews' de Google indicaban de manera equivocada que determinados valores en análisis hepáticos entraban dentro de rangos normales, lo que podía llevar a personas con enfermedades graves a creer, erróneamente, que sus resultados de salud no requerían atención médica. El medio The Guardian informó que la compañía decidió eliminar parte de los resúmenes de inteligencia artificial relacionados con salud tras corroborar estos fallos, especialmente en temas sensibles como análisis de función hepática y consejos para quienes padecen cáncer.

Según lo detallado por The Guardian, la función 'AI Overviews' utiliza la IA de Gemini para ofrecer respuestas rápidas y estructuradas a solicitudes hechas en el buscador. Estas vistas aparecen en la zona superior de la página, sintetizando información en resúmenes generados automáticamente. Los reportes señalaban que, en cuestiones críticas como las relativas a resultados de pruebas médicas, los resúmenes de IA de Google contenían errores. Un ejemplo fue la información errónea que ofreció sobre los parámetros normales en análisis de sangre hepática, que podía inducir a pacientes con patologías graves a creer que su salud permanecía estable, desincentivando incluso la asistencia a controles médicos.

Adicionalmente, la investigación de The Guardian detectó que ante búsquedas de pacientes con cáncer de páncreas, la función de IA sugería evitar alimentos altos en grasa, a pesar de que las indicaciones clínicas para esos pacientes recomiendan precisamente incrementar el consumo de estos alimentos. Según los especialistas citados por el mismo medio, este tipo de consejos podía elevar el riesgo de mortalidad entre los afectados. Casos similares se identificaron en consultas sobre pruebas de detección de cáncer en mujeres, donde la información equivocada podía llevar a que síntomas reales se descartaran sin una evaluación médica adecuada.

Tras hacerse públicas estas situaciones, Google defendió primero la utilidad y fiabilidad de 'AI Overviews', argumentando que algunos ejemplos proporcionados eran incompletos o se basaban en capturas de pantalla parciales. Sin embargo, luego de las críticas recibidas y la revisión hecha por el equipo interno de clínicos, la compañía comenzó a no mostrar resultados automáticos sobre salud en consultas específicas, como “¿Cuál es el rango normal para análisis de sangre hepática?” y “¿Cuál es el rango normal para pruebas de función hepática?”, confirmó The Guardian.

En declaraciones brindadas al medio británico, Google afirmó que no comenta sobre casos individuales eliminados del buscador, aunque precisó que la empresa implementa mejoras globales y aplica sus políticas cuando corresponde. Además, la compañía puntualizó que, pese a ajustar su algoritmo para temas específicos, los resúmenes automáticos continúan disponibles para otros asuntos de salud en general.

De acuerdo a lo manifestado por Google a The Guardian, la revisión interna concluyó que en muchos casos la información proporcionada por la IA no era incorrecta y contaba con el respaldo de sitios web considerados de alta calidad. Pese a esto, la empresa optó por optimizar y limitar ciertas respuestas automáticas, especialmente en los casos señalados en los reportes periodísticos y en los cuales se evidenciaba un potencial riesgo para los pacientes.

El uso de la inteligencia artificial para resumir y responder consultas médicas en línea ha sido tema de debate entre profesionales de la salud, quienes subrayan los peligros de que personas vulnerables adopten conductas preventivas o terapéuticas basándose en información que no ha sido verificada por especialistas. The Guardian recogió manifestaciones de expertos que describieron como "peligrosos" los errores detectados en los resúmenes automáticos del motor de búsqueda de Google para consultas médicas.

Hasta el momento, los cambios adoptados afectan principalmente búsquedas relacionadas con análisis hepáticos y consejos para enfermedades como el cáncer de páncreas, mientras que otras áreas de temática médica siguen siendo cubiertas por la función 'AI Overviews'. Google reiteró su compromiso de seguir evaluando el desempeño de su IA en la provisión de respuestas y de actuar de acuerdo con sus políticas y lineamientos internos para garantizar la seguridad y fiabilidad de la información ofrecida mediante su buscador, según remarcó The Guardian.