Sarah, el asistente de inteligencia artificial de la OMS que estaría cometiendo errores

Es chatbot fue diseñado para emitir recomendaciones generales, orientar sobre síntomas de enfermedades y promover hábitos de vida saludables

Guardar

Nuevo

La OMS asegura que toda la información recopilada por Sarah se mantiene bajo estricta confidencialidad, respetando las normativas de privacidad vigentes. (OMS)
La OMS asegura que toda la información recopilada por Sarah se mantiene bajo estricta confidencialidad, respetando las normativas de privacidad vigentes. (OMS)

La Organización Mundial de la Salud (OMS) presentó a Sarah, un asistente de inteligencia artificial que fue diseñado para facilitar a los usuarios acceso a información médica en múltiples idiomas. Sin embargo, la precisión de los datos ofrecidos ha sido cuestionada después de que se detectaron algunos errores en algunos de sus resultados.

Un caso específico mencionado por la agencia Bloomberg, fue el de la aprobación por parte de la Administración de Alimentos y Medicamentos de EE. UU. (FDA) del medicamento para el Alzheimer, Lecanemab, el cual fue correctamente aprobado en el 2023, a pesar de que el asistente insistió en que aún se encontraba en fase de pruebas clínicas.

Este sistema, desarrollado por Soul Machines, una empresa con base en Nueva Zelanda, fue programado para ofrecer asesoría en temas tan variados como la nutrición saludable, la salud mental, el cáncer, las enfermedades cardíacas y la diabetes, en un total de ocho lenguajes diferentes incluido el español.

Qué dice la OMS sobre los posibles errores

Este avatar digital, cuyo nombre se deriva de las siglas de Smart AI Resource Assistant for Health, está diseñado para emitir recomendaciones generales de salud. (OMS)
Este avatar digital, cuyo nombre se deriva de las siglas de Smart AI Resource Assistant for Health, está diseñado para emitir recomendaciones generales de salud. (OMS)

Aunque no ha hecho una declaración oficial sobre el tema, la OMS ha dejado claro en la página de inicio del robot que “las respuestas pueden no siempre ser precisas porque se basan en patrones y probabilidades de los datos disponibles”.

Esto supone un gran dilema debido a que la creación de Sarah se enmarcó en los esfuerzos del organismo internacional por combatir la desinformación, especialmente tras la pandemia de COVID-19, periodo en el que versiones anteriores del sistema probaron ser de valiosa ayuda.

En otro ejemplo de error, el robot no pudo proporcionar detalles sobre un informe de la OMS sobre muertes por hepatitis hasta que se le pidió que consultara el sitio web de la agencia para obtener estadísticas actualizadas.

Cómo funciona Sarah

Sarah fue desarrollado en colaboración con Soul Machines, una empresa especializada en el diseño de personajes digitales con IA, y Rooftop, una comunidad de desarrolladores de software. (OMS)
Sarah fue desarrollado en colaboración con Soul Machines, una empresa especializada en el diseño de personajes digitales con IA, y Rooftop, una comunidad de desarrolladores de software. (OMS)

Este avatar digital, cuyo nombre se deriva de las siglas de Smart AI Resource Assistant for Health, está diseñado para emitir recomendaciones generales de salud, orientar sobre síntomas de enfermedades y promover hábitos de vida saludables. Para utilizarlo solo se requiere:

  • Acceder a cualquier navegador web.
  • Ingresar a la URL: https://who-es.digitalhero.cloud/landing/index.html.
  • De inmediato se abrirá una ventana en la que podremos comenzar a hablar con Sarah, ya sea mediante voz o texto.

También es importante destacar que Sarah incorpora tecnología de reconocimiento facial para proporcionar respuestas con un tono más empático.

Por qué Sarah tiene el potencial de reducir desigualdades

Pese a su capacidad para ofrecer asistencia, desde el organismo se recalca que las interacciones con el asistente no deben reemplazar el consejo médico profesional. REUTERS/Denis Balibouse)
Pese a su capacidad para ofrecer asistencia, desde el organismo se recalca que las interacciones con el asistente no deben reemplazar el consejo médico profesional. REUTERS/Denis Balibouse)

El Dr. Tedros Adhanom Ghebreyesus, director general de la OMS, expresó su entusiasmo por el potencial de la tecnología de IA para mejorar el acceso a información de salud precisa y actualizada, subrayando la importancia de seguir explorando cómo esta innovación podría mitigar las desigualdades en el sector salud.

“Sarah nos da una idea de cómo se podría utilizar la inteligencia artificial en el futuro para mejorar el acceso a la información sanitaria de una manera más interactiva,” afirmó el Dr. Tedros, haciendo un llamamiento a la comunidad científica para apoyar esta iniciativa.

Además, el diálogo abierto sobre sus limitaciones, indica un enfoque proactivo hacia la mejora continua del asistente inteligente, al tiempo que se mantiene el objetivo de reducir brechas informativas en el ámbito de la salud.

Tedros Adhanom Ghebreyesus ha hecho un llamado a la comunidad científica para explorar más a fondo el potencial de esta tecnología en la reducción de desigualdades y en la mejora del acceso a información sanitaria actualizada. (EFE/EPA/SALVATORE DI NOLFI)
Tedros Adhanom Ghebreyesus ha hecho un llamado a la comunidad científica para explorar más a fondo el potencial de esta tecnología en la reducción de desigualdades y en la mejora del acceso a información sanitaria actualizada. (EFE/EPA/SALVATORE DI NOLFI)

Por otro lado, la mención de futuras actualizaciones y la solicitud de retroalimentación sugieren un proceso de evolución constante para Sarah, en búsqueda de maximizar su precisión y la utilidad de la información que proporciona a los usuarios.

Esta situación resalta la importancia de la interacción humana en la verificación de la información médica, enfatizando que, aunque la tecnología ofrece herramientas poderosas, la supervisión experta sigue siendo crucial. Y medida que se desarrolle, se espera que el modelo contribuya significativamente a la lucha contra la desinformación en el sector salud.