Cuidado con ChatGPT tratando de enseñar a sus hijos matemáticas... o cualquier cosa

El miércoles se celebra una jornada de huelga de profesores en gran parte del Reino Unido, lo que pone a los padres en el conocido papel de educadores en jefe de sus hijos, inspirado por la pandemia. Salvo que esta vez hay un asistente automático mágico a mano para ayudar.

Los educadores han elogiado con cautela a ChatGPT, el ultrasofisticado chatbot de OpenAI, afirmando que podría revolucionar la educación. Un director de escuela británico afirma que ha provocado un replanteamiento de los deberes, mientras que otro de Oregón lo ha utilizado para crear planes de clase y guías de estudio.

Las respuestas personalizadas de la herramienta son lo que la hacen tan tentadora como tutor digital omnisciente. Hace poco la utilicé para profundizar en el tema de las enzimas, cuando mi hijo de 12 años tenía preguntas que yo no podía responder. Cuando ChatGPT me ofreció una explicación densa y técnica, le pedí términos más sencillos y una analogía.

“Claro”, respondió. “Piensa en la cerradura de una puerta. La cerradura es como una enzima y la llave es como la molécula de sustrato...”. Extendió aún más la analogía para describir el sitio activo de una enzima como el ojo de la cerradura.

Fueron respuestas extraordinarias. Podríamos haber profundizado en todas las facetas de la bioquímica si hubiéramos querido. A diferencia de un tutor humano, ChatGPT puede ser interrogado durante todo el tiempo que se desee.

Esto tiene un enorme potencial para el aprendizaje personalizado e independiente... excepto porque ChatGPT a menudo se equivoca, y hace un buen trabajo ocultándolo. Cuando probé una de las preguntas de los deberes de inglés de mi hija en la herramienta, me ofreció una elocuente lista de ejemplos, que al examinarla más de cerca incluía uno que era tremendamente inexacto. El bot decía que el protagonista tenía una relación turbulenta con sus padres, aunque los padres del personaje habían muerto a lo largo del libro.

En otra ocasión, utilicé la herramienta para generar algunas ecuaciones lineales para que mi hija practicara. Se quedó perpleja cuando le pedí a la herramienta que generara las respuestas, que eran diferentes a las que ella había calculado. Le pedí una explicación a ChatGPT y me explicó su método en términos sencillos una vez más, sonando tan autoritario como cualquier tutor de matemáticas real. Pero cuando volví a comprobar las respuestas en Google, resultó que las respuestas de ChatGPT eran erróneas y las de mi hija eran correctas. Así terminó su mini pesadilla de suspender matemáticas y gran parte de mi entusiasmo inicial por ChatGPT.

El sistema escolar público de Nueva York, el mayor de Estados Unidos, ya ha prohibido a sus alumnos utilizar ChatGPT, en parte por la preocupación que suscita la “exactitud de los contenidos”. Por eso las recientes comparaciones de ChatGPT con una “calculadora para escribir” es una analogía engañosa, ya que las calculadoras siempre aciertan y ChatGPT no.

¿Hasta qué punto es inexacto? Una portavoz de OpenAI dijo que la empresa había actualizado ChatGPT en los últimos meses para mejorar su precisión, pero que no tenía estadísticas que compartir. La herramienta también advierte a los usuarios, cuando la abren por primera vez, que a veces comete errores.

¿Será más precisa? Sí, pero es difícil saber cuánto. El gran modelo lingüístico en el que se basa ChatGPT consta de 175.000 millones de parámetros, que son los ajustes que se utilizan para hacer las predicciones del modelo, frente a los 1.500 millones que tenía su predecesor GPT-2. En el campo de la inteligencia artificial se acepta que cuantos más parámetros se añadan a un modelo, más veraz será, y la correlación es real en el caso de GPT. Se volvió sustancialmente más preciso cuando se añadieron todos esos parámetros. Se rumorea que la próxima iteración prevista para este año, llamada GPT-4, tendrá trillones.

El problema es que no sabemos si un salto enorme en los parámetros significa también un salto enorme en la fiabilidad. Por eso los estudiantes deberían utilizar ChatGPT con precaución, si es que lo hacen, en el futuro inmediato.

Cuando le pregunté a Julien Cornebise, profesor honorario de informática del University College de Londres, si confiaría en él como herramienta para hacer los deberes, me contestó: “Absolutamente no, todavía no”. Señaló que incluso cuando el sistema mejore, seguiremos sin tener garantías de que sea veraz.

Los estudiantes deben acostumbrarse a corroborar cualquier dato que el sistema comparta con otra información en línea o con un experto. Albert Meige, director asociado especializado en tecnología de la consultora Arthur D. Little, dice que su propia hija adolescente lo utilizó para que le ayudara con los deberes de física, pero que él pudo validar las respuestas gracias a su doctorado en física computacional. Recomienda utilizar el chatbot para ayudar a entender mejor las preguntas que se plantean en los deberes. “Descubrió que no debía hacer una sola pregunta”, dice. “Era un proceso interactivo”.

Úsalo para obtener feedback, coincide Cornebise. “Eso es lo que hará el estudiante estrella”.

Al ser una empresa relativamente pequeña, OpenAI puede salirse con la suya vomitando algún que otro dato alternativo. Google y Meta Platforms Inc. de Alphabet Inc. no podrían hacer lo mismo. Google tiene su propio modelo de lenguaje altamente sofisticado llamado LaMDA, pero es muy cauteloso a la hora de integrar un chatbot similar en su propia herramienta de búsqueda, probablemente en parte debido al problema de la precisión. Tres días después de lanzar una herramienta de IA capaz de generar artículos científicos, llamada Galactica, Meta la retiró después de que los académicos la criticaran por generar información poco fiable.

OpenAI se someterá a normas igualmente estrictas a medida que se acelere la carrera armamentística de la IA generativa y la tecnología de chatbot se integre en los motores de búsqueda de Estados Unidos y China.

Hasta entonces, utilícela con discreción y una buena dosis de escepticismo, especialmente en la educación.

(C) Bloomberg.-