Omar Florez, peruano investigador en inteligencia artificial, advierte: “la IA tiene alucinaciones”

La inteligencia artificial (IA) se está integrando cada vez más en diversas sociedades. Hoy, las mejoras más disruptoras en el trabajo, la educación y las redes sociales están vinculadas con esta tecnología. Sin embargo, como toda herramienta en desarrollo, es perfectible.

Para vislumbrar mejor este panorama, Infobae Perú conversó con Omar Florez, ingeniero de sistemas de la Universidad Nacional de San Agustín de Arequipa y PhD en inteligencia artificial por la Universidad de Utah, en Estados Unidos.

Florez, quien fuera del Perú trabajó como investigador en IA en reconocidas empresas como Twitter e Intel, destaca el potencial de esta herramienta para el desarrollo de los países. No obstante, admite que debe ser manejada correctamente para aprovechar toda su capacidad, ya que son propensas a cometer errores o experimentar “alucinaciones”.

Alucinaciones en la IA

La manifestación de la IA más utilizada por las personas son los chatbots, programas con los que se puede mantener una conversación, dado que funcionan con distintos algoritmos de aprendizaje. Entre los más conocidos tenemos a Chat GPT, Copilot, Gemini, Meta AI, entre otros, los cuales generan respuestas basadas en la información disponible en internet y las organizan a pedido del usuario.

Así, puedes obtener fácilmente una receta de repostería o los primeros auxilios para determinada emergencia médica. Sin embargo, tareas más complejas y específicas, como pedirles que resuman las últimas investigaciones en un tipo de cáncer, los expondrá al error y muchas veces entregan un texto que incluye datos incorrectos o inventados.

“Cuando se trata de un tema muy específico, se dispone de una base de datos muy limitada. Por ende, el algoritmo hace lo mejor que puede para llenar esos vacíos de información, de modo que pueda predecir palabra por palabra y hacer oraciones coherentes. Es decir, está alucinando”, dice Florez. “En esos casos, el algoritmo está priorizando la coherencia por encima del contenido”.

Sin embargo, el experto aclara que una base de datos más nutrida permitirá a la IA cometer menos de estos errores. Por ello, estima que estas alucinaciones serán cada vez menos comunes a medida que estos programas accedan a una mayor cantidad de información y el algoritmo de aprendizaje se siga entrenando.

“Se usará más información que está disponible en textos escaneados, en videos, en audios, etc.”, indica.

Rompiendo las fronteras del lenguaje

A pesar de sus falencias, la IA solo está destinada a ser perfeccionada. Y uno de los aspectos en los que destaca más, según Florez, es su capacidad para decodificar audios en distintos idiomas.

“En un mundo cada vez más globalizado, donde, por ejemplo, tenemos amigos de más países o estamos viajando y queremos comunicarnos con las personas de una forma mucho más directa, ciertamente podemos usar la inteligencia artificial para eliminar esta barrera idiomática”, afirma.

En la actualidad, hay teléfonos que cuentan con herramientas nativas que permiten transcribir audio a texto en cualquier idioma y sin importar cuántas personas se comuniquen al mismo tiempo.

“Tener la IA como una herramienta que nos permite comunicarnos independientemente del lenguaje, nos acerca como sociedad global”, añade.

Situación de la IA en el Perú

De acuerdo con la Unesco, a nivel latinoamericano, Perú ha sido pionero con la Estrategia Nacional de Inteligencia Artificial (ENIA) 2021-2026 y la Ley Nº 31814, “que tiene por objeto establecer las condiciones que garanticen el desarrollo y uso responsable de la IA”.

Para Florez, el uso más resaltante de la IA en el país es la ciencia de datos, que permite a las empresas traducir determinada información en oportunidades de negocio. Sin embargo, considera que ese es “el primer nivel de lo que vamos a ver más adelante”.

En el futuro, según el especialista, “vamos a ver roles cada vez más específicos como la ingeniería de aprendizaje de máquinas (machine learning). Los científicos especializados en este rubro vamos a poder ver también cómo usar cosas que son más complicadas de entender (traducir en datos), como el texto, el video, la imagen, el audio y no solamente datos financieros”.

Mientras transcurre ese camino de desarrollo tecnológico, Florez, que ahora es embajador de Galaxy AI, está centrado en un nuevo proyecto: el desarrollo de un browser (navegador de internet) integrado con un modelo de inteligencia artificial.

“Estamos tratando de reinventar cómo sería la navegación en Internet, algo que no ha cambiado en los últimos 20 años”, sostiene.