Por qué la IA de Google destaca en todo pero falla en deletrear su propio nombre

La última actualización de Google en su motor de búsqueda ha puesto en evidencia una contradicción: mientras la compañía reporta constantes avances en inteligencia artificial, su sistema es incapaz de resolver una tarea tan simple como deletrear correctamente su propio nombre.

Durante la implementación de AI Overview, los usuarios notaron que la inteligencia artificial cometía errores básicos al contar letras y deletrear palabras. Ante la pregunta sobre cuántas “P” tiene Google, el sistema respondió “dos”. Otros ejemplos incluyeron la afirmación de que hay dos “d” en “journalism”, y que el apellido del presidente de Estados Unidos contiene una “P”, pero lo escribió “t-r-p-u-m”.

Google reconoció estos fallos y aseguró que “contar dentro de las palabras ha sido un desafío conocido para los LLM, y estamos trabajando para corregir este problema en particular”, según la declaración enviada a TechCrunch.

Un problema recurrente para los modelos de lenguaje

La dificultad de los modelos de inteligencia artificial para manejar el deletreo y el conteo de letras no es nueva. Según especialistas consultados por el medio, los LLM no procesan los textos como secuencias de letras sino como conjuntos de “tokens”, que pueden corresponder a palabras completas, sílabas o letras, según el modelo.

“Los LLM están basados en esta arquitectura de transformadores, que notablemente no lee texto. Cuando se ingresa una indicación, se traduce a una codificación”, explicó Matthew Guzdial, investigador en IA y profesor asistente en la Universidad de Alberta. Asimismo, agregó que el modelo entiende la palabra “the” como una unidad, sin distinguir entre las letras que la componen.

Sheridan Feucht, estudiante de doctorado en la Northeastern University especializado en interpretabilidad de modelos de lenguaje, señaló que “es difícil superar la cuestión de qué es exactamente una ‘palabra’ para un modelo de lenguaje, y aunque se lograra un vocabulario perfecto de tokens, probablemente los modelos seguirían agrupando los datos aún más”. En ese sentido, afirmó que “no existe un tokenizador perfecto debido a esta imprecisión inherente”.

Fallos que trascienden lo anecdótico

Estos errores, aunque a primera vista pueden resultar cómicos, ponen en cuestión la confiabilidad de la IA en tareas supuestamente elementales. El propio sistema de Google llegó a mostrar definiciones erróneas en su buscador, como ocurrió al buscar la palabra “disregard”, donde la plataforma ofrecía como definición: “Entendido. Avísame cuando tengas una nueva indicación o pregunta”. Este tipo de respuestas refuerza la importancia de validar la información ofrecida por la IA, incluso cuando proviene de empresas tecnológicas líderes.

Pese a que Google corrigió rápidamente el problema con la definición de “disregard”, los errores en el deletreo persisten, según informa TechCrunch. Esto ocurre porque la utilidad de los modelos de lenguaje no reside en su capacidad ortográfica, sino en su aptitud para procesar y generar grandes volúmenes de texto, resolver problemas matemáticos complejos o programar aplicaciones en segundos.

El dilema de confiar en la IA

El despliegue de AI Overview en el buscador, centro de la estrategia de Google para sus próximos años, refleja tanto los objetivos como los desafíos de la compañía: mientras redobla su apuesta por la inteligencia artificial como pilar de su producto más emblemático, los errores ortográficos y semánticos exponen la distancia entre las capacidades de estos sistemas y sus limitaciones básicas.

Estos fallos evidencian que los modelos de IA no pueden ser considerados herramientas infalibles. El medio subraya que “no podemos confiar ciegamente en las respuestas de la IA sin verificar su exactitud”. Aunque los desarrolladores de Google insisten en que trabajan para subsanar estos errores, la comunidad científica se muestra escéptica respecto a la posibilidad de erradicar completamente el problema debido a la propia naturaleza de los modelos de lenguaje.

El caso de Google sirve como recordatorio de que la sofisticación de la inteligencia artificial convive con defectos notables, incluso en tareas tan elementales como deletrear un nombre. La paradoja de una tecnología capaz de programar, analizar datos y resolver problemas complejos, pero incapaz de contar letras con precisión, resume uno de los grandes retos actuales del sector.