ChatGPT está recomendando información errónea sobre tratamientos de cáncer: cómo evitarlo

Investigadores del Brigham and Women’s Hospital, afiliado a la Facultad de Medicina de Harvard, encontraron errores en las respuestas de ChatGPT relacionadas con el cáncer y su tratamiento.

Los hallazgos ponen en evidencia que este tipo de temas deben ser tomados con cuidado por los usuarios, al no considerar sus respuestas como una guía a seguir en el tratamiento y el diagnóstico de enfermedades.

“Nos ha sorprendido el grado en que la información incorrecta se mezclaba con la correcta. Eso hace que sea especialmente difícil detectar errores, incluso para los expertos”, aseguró la doctora Danielle Bitterman, una de las autoras del estudio.

Por qué ChatGPT tiene errores

En su esencia, este chatbot funciona como un modelo de lenguaje entrenado en diversas fuentes de texto, aprendiendo a imitar patrones de comunicación similares a los humanos. Sin embargo, el estudio del Brigham and Women’s Hospital sugiere que esta imitación viene con una advertencia: la precisión en los consejos médicos.

Los investigadores descubrieron que ChatGPT exhibía una tendencia a proporcionar respuestas fabricadas, inventando un 12.5% de esos resultados. La desinformación fue especialmente pronunciada al tratar con tratamientos avanzados de enfermedades.

“Los modelos de lenguaje grandes son entrenados para proporcionar respuestas que suenan muy convincentes. Pero no están diseñados para brindar ayuda médica precisa. La tasa de error y la inestabilidad de las respuestas son cuestiones críticas. Esto deberá abordarse en el ámbito clínico”, dijo Bitterman.

Previo a este estudio, la Comisión Federal de Comercio de Estados Unidos (FTC) ya había iniciado una investigación sobre la precisión de la información de ChatGPT. Esta medida fue impulsada por una queja presentada por el Centro de Política y Política Digital (CAIDP), que afirmaba que la tecnología de inteligencia artificial violaba las leyes federales de protección al consumidor al carecer de evaluaciones independientes.

Todo un panorama que pone en evidencia la importancia de saber utilizar estas herramientas y evaluar el alcance de la inteligencia artificial en la seguridad pública y la validez de la información.

Cómo evitar la información falsa en ChatGPT

ChatGPT es una herramienta más de generación y búsqueda de contenido, cómo pueden ser las redes sociales o los buscadores. Eso quiere decir que no son una fuente de información concreta, sino que únicamente se basan en su tecnología para crear la interacción que el usuario está pidiendo.

Es por eso que como usuarios hay diferentes métodos con los que es posible evitar que el chatbot nos entregue datos falsos o imprecisos, teniendo en cuenta que su base de datos va hasta el 2021 y no tiene conocimiento de lo que ha sucedido después.

Estas son tres maneras en las que podemos ayudar a ChatGPT a dar respuestas de mayor calidad y no tener resultados incorrectos o reducir el margen de posibilidades:

- Usar un prompt preciso: es importante ser claro y específico en la pregunta que se va a realizar. Para eso se debe dar un contexto para guiar a ChatGPT hacia la información que se está buscando. Por ejemplo, si queremos datos sobre un libro, lo ideal sería darle primero información sobre su autor, título, personajes o tipo de contenido y de esta forma el chatbot tendrá más datos para generar el contenido.

- Establecer límites: a ChatGPT hay que indicarle que no puede inventar información y que debe proporcionar respuestas basadas únicamente en hechos reales. Al ser una herramienta que no entiende exactamente lo que queremos, nosotros tendremos que delimitar el camino y guiar al chatbot para que no se salga del contexto.

- Verificar la información: esto es algo que se debe hacer con cualquier otra fuente de información actual. Aunque los datos que nos entregue parezcan precisos, siempre hay que contrastarlos y tener dos o tres opciones más.