Superando los límites de ChatGPT con plugins

El surgimiento de ChatGPT ha generado tanto asombro por sus impresionantes capacidades como debates debido a sus limitaciones inherentes. Es preciso analizar dichas restricciones e introducir el funcionamiento de los “plugins”, una herramienta que agrega funcionalidad a ChatGPT, permitiendo superar algunas de sus falencias.

ChatGPT es una implementación en formato chatbot de los modelos de lenguaje de gran tamaño de la serie Generative Pretrained Transformer (GPT). Su metodología consiste en entrenar una red neuronal utilizando enormes cantidades de texto con el objetivo de predecir el “token” -grupos de caracteres que pueden representar palabras, sufijos, prefijos, etc.- siguiente en una secuencia. Adicionalmente, se emplea una técnica conocida como Reinforcement Learning with Human Feedback (RLHF, por sus siglas en inglés que significa Aprendizaje por refuerzo con retroalimentación humana) para afinar el comportamiento del modelo, basándose en ejemplos de diálogos calificados por humanos.

Para generar texto, ChatGPT toma la información que introducimos y calcula la probabilidad de cada token de ser el siguiente en la secuencia y selecciona uno, según esta distribución de probabilidad. No siempre elige el más probable, lo que aporta cierta variabilidad en las respuestas generadas y permite obtener diferencias incluso cuando repetimos la misma pregunta.

A pesar de su impresionante alcance y habilidades, ChatGPT tiene limitaciones notables. Puede “alucinar”, creando información que parece plausible, pero es ficticia. Esto se debe a que no tiene un “entendimiento” del mundo, sino que simplemente genera respuestas basadas en patrones en los datos con los que fue entrenado, sin verificar su exactitud ni contar con una fuente de verdad. Además, su conocimiento se basa en los datos de entrenamiento, por lo que carece de actualizaciones posteriores a septiembre de 2021. También puede cometer errores de lógica y de cálculo, a pesar de su asombroso poder de razonamiento emergente. Estas limitaciones pueden generar problemas significativos y es fundamental que los usuarios sean conscientes de estas al interactuar con ChatGPT.

Los plugins aparecen en este escenario como herramientas útiles, ya que proporcionan al modelo acceso a información actualizada, cálculos y servicios de terceros, superando sus limitaciones inherentes. Actualmente, ya están disponibles como feature experimental para los usuarios Plus.

Por ejemplo, el plugin de una plataforma de viajes permite a ChatGPT consultar información en tiempo real sobre vuelos, hoteles y opciones de alquiler de coches. Esto resuelve el problema de que las respuestas puedan ser plausibles, pero incorrectas o desactualizadas. Asimismo, FiscalNote (proveedor tecnológico de política global e inteligencia de mercado) potencia a ChatGPT al proporcionarle acceso a datos en tiempo real relacionados con información legal, política y regulatoria, asegurando la veracidad de la información en esos campos.

Por su lado, el plugin de Wolfram (buscador de respuestas) se destaca por su habilidad para resolver problemas de cálculos incorrectos y datos falsos. Por ejemplo, si se le pregunta sobre la distancia entre la Tierra y la Luna, el chat podría responder con datos aproximados, así como cometer errores en el cálculo de la respuesta. El plugin del buscador le permite entender la pregunta y calcular una respuesta precisa.

Esto es posible porque, a diferencia de ChatGPT, Wolfram no es un modelo de aprendizaje automático, sino un motor de cálculo poderoso donde cada término tiene una representación simbólica en una base de datos extremadamente precisa. Ante la misma pregunta, este plugin sabrá que la distancia entre dos cuerpos varía en cada momento, utilizará la ecuación de los movimientos de los cuerpos celestes, la posición de la Tierra y la Luna en el momento de la consulta, y finalmente calculará la distancia. Sus respuestas son determinísticas y no aleatorias.

A pesar de que los plugins mejoran las capacidades de ChatGPT, no nos encontramos aún frente a una IA completamente fiable. Es fundamental el uso responsable y consciente de estas tecnologías, reconociendo las limitaciones del modelo.

Seguir leyendo: