Sarah, el asistente de inteligencia artificial de la OMS que estaría cometiendo errores

La Organización Mundial de la Salud (OMS) presentó a Sarah, un asistente de inteligencia artificial que fue diseñado para facilitar a los usuarios acceso a información médica en múltiples idiomas. Sin embargo, la precisión de los datos ofrecidos ha sido cuestionada después de que se detectaron algunos errores en algunos de sus resultados.

Un caso específico mencionado por la agencia Bloomberg, fue el de la aprobación por parte de la Administración de Alimentos y Medicamentos de EE. UU. (FDA) del medicamento para el Alzheimer, Lecanemab, el cual fue correctamente aprobado en el 2023, a pesar de que el asistente insistió en que aún se encontraba en fase de pruebas clínicas.

Este sistema, desarrollado por Soul Machines, una empresa con base en Nueva Zelanda, fue programado para ofrecer asesoría en temas tan variados como la nutrición saludable, la salud mental, el cáncer, las enfermedades cardíacas y la diabetes, en un total de ocho lenguajes diferentes incluido el español.

Qué dice la OMS sobre los posibles errores

Aunque no ha hecho una declaración oficial sobre el tema, la OMS ha dejado claro en la página de inicio del robot que “las respuestas pueden no siempre ser precisas porque se basan en patrones y probabilidades de los datos disponibles”.

Esto supone un gran dilema debido a que la creación de Sarah se enmarcó en los esfuerzos del organismo internacional por combatir la desinformación, especialmente tras la pandemia de COVID-19, periodo en el que versiones anteriores del sistema probaron ser de valiosa ayuda.

En otro ejemplo de error, el robot no pudo proporcionar detalles sobre un informe de la OMS sobre muertes por hepatitis hasta que se le pidió que consultara el sitio web de la agencia para obtener estadísticas actualizadas.

Cómo funciona Sarah

Este avatar digital, cuyo nombre se deriva de las siglas de Smart AI Resource Assistant for Health, está diseñado para emitir recomendaciones generales de salud, orientar sobre síntomas de enfermedades y promover hábitos de vida saludables. Para utilizarlo solo se requiere:

• Acceder a cualquier navegador web.
• Ingresar a la URL: https://who-es.digitalhero.cloud/landing/index.html.
• De inmediato se abrirá una ventana en la que podremos comenzar a hablar con Sarah, ya sea mediante voz o texto.

También es importante destacar que Sarah incorpora tecnología de reconocimiento facial para proporcionar respuestas con un tono más empático.

Por qué Sarah tiene el potencial de reducir desigualdades

El Dr. Tedros Adhanom Ghebreyesus, director general de la OMS, expresó su entusiasmo por el potencial de la tecnología de IA para mejorar el acceso a información de salud precisa y actualizada, subrayando la importancia de seguir explorando cómo esta innovación podría mitigar las desigualdades en el sector salud.

“Sarah nos da una idea de cómo se podría utilizar la inteligencia artificial en el futuro para mejorar el acceso a la información sanitaria de una manera más interactiva,” afirmó el Dr. Tedros, haciendo un llamamiento a la comunidad científica para apoyar esta iniciativa.

Además, el diálogo abierto sobre sus limitaciones, indica un enfoque proactivo hacia la mejora continua del asistente inteligente, al tiempo que se mantiene el objetivo de reducir brechas informativas en el ámbito de la salud.

Por otro lado, la mención de futuras actualizaciones y la solicitud de retroalimentación sugieren un proceso de evolución constante para Sarah, en búsqueda de maximizar su precisión y la utilidad de la información que proporciona a los usuarios.

Esta situación resalta la importancia de la interacción humana en la verificación de la información médica, enfatizando que, aunque la tecnología ofrece herramientas poderosas, la supervisión experta sigue siendo crucial. Y medida que se desarrolle, se espera que el modelo contribuya significativamente a la lucha contra la desinformación en el sector salud.

Compartir nota: