Inteligencia artificial duda de sus respuestas con esta función de Google

Desde que las inteligencias artificiales generativas como ChatGPT aumentaron su popularidad, uno de los problemas comunes reportados en diversas ocasiones por parte de los usuarios era la poca fiabilidad de algunas de sus afirmaciones, que eran imprecisas, completamente falsas e incluso con fuentes inexistentes.

Es por esto que Google ha incorporado una nueva función en Bard, su propia inteligencia artificial, para que esta revise de forma automática si el texto que ha generado tiene información real y que puede ser rastreada hasta la fuente de la que extrajo un dato en particular, frase o párrafo. Básicamente le ha dado a este programa la capacidad de dudar de sus propias respuestas para brindar una mejor cuando el usuario lo solicite.

Bard ya tenía previamente una función similar llamada “Googléalo” en la que se destacaba un dato generado como parte de un texto y lo transfería en forma de pedido al buscador de Google, de modo que el usuario pueda verificar el resultado por su propia cuenta. Sin embargo, la nueva versión de la inteligencia artificial lleva esta característica a un nuevo nivel.

A partir de septiembre del año 2023, los usuarios tendrán una herramienta adicional llamada “double check” que se presentará como un botón con un ícono con forma de “G” y permitirá a la IA de Google realizar automáticamente la búsqueda en la plataforma Search de la compañía.

Según Google, “cuando hagas clic en el ícono G, Bard leerá la respuesta generada y evaluará si hay contenido en internet que le aporte más sustento. Cuando una afirmación es evaluada, se puede hacer clic en la frase resaltada y se mostrarán los datos que la sustentan o contradicen que fueron encontrados en el buscador”.

En ambos casos, la inteligencia artificial de Google presentará dos formas de contenido luego de haber realizado la corroboración de los datos: el primero será texto resaltado de color verde que indicará la existencia de fuentes en la web que sostienen esta afirmación, mientras que el otro tipo será texto resaltado de color naranja. Este último indicará que Google no ha encontrado una fuente para verificar la información, por lo que en podría tratarse de un dato erróneo.

Si bien Bard podría tener la oportunidad de realizar esta verificación antes de generar el resultado (lo que haría innecesaria la existencia de “double check”), Jack Krawczyk, director senior de productos en Google, indicó a The Verge que debido a la gran variedad de usos que las personas le dan a Bard, sería innecesario que todo tipo de textos sean corroborados usando la inteligencia artificial.

Por ejemplo, si “double check” fuese una característica predeterminada en lugar de opcional, si los usuarios escribieran cuentos, poemas o correos electrónicos, Bard se encargaría de verificarlos automáticamente, lo que haría improductiva a esta herramienta.

“Puede que hayamos creado el primer modelo de lenguaje que admite que ha cometido un error”, sostuvo Krawczyk, de modo que al incorporar esta nueva información en los textos finales, los usuarios saben cuál es la que realmente les sirve y qué datos no puede añadir debido a que no se han corroborado.

Esto no quiere decir que “double check” sea una función que no cometa errores. Si bien actúa como un apoyo que permita a los usuarios hacer verificaciones de forma rápida y práctica, dependerá de cada uno determinar si con lo hecho por la inteligencia artificial es suficiente o si prefiere realizar una nueva corroboración de forma manual.

Por el momento la herramienta de verificación solo está disponible para las cuentas personales de Google con acceso a Bard, pero esto podría cambiar en el futuro para habilitarla también para cuentas institucionales.