La IA ofrece un internet personalizado para el que no tienes voz ni voto

(Circuits) ; (Tech Fix)

A principios de año, cuando millones de personas se conectaron a Google Mail, se encontraron con una herramienta a la que no se habían suscrito. Gemini, el asistente de IA de Google, estaba resumiendo sus correos electrónicos.

El cambio fue similar a lo que ocurrió hace dos años, cuando la empresa empezó a mostrar resúmenes de IA, o respuestas generadas de manera automática a las preguntas de los usuarios, en la parte superior de los resultados de búsqueda de Google, sin posibilidad de darse de baja.

Las tácticas de Google reflejaron el despliegue por parte de Meta de su propio chatbot de IA, Meta AI, que se convirtió en una herramienta inamovible dentro de aplicaciones como Instagram, WhatsApp y Messenger.

El impacto de esta toma de control de la IA ha sido sutil pero significativo. El internet empieza a ser diferente para todos, con anuncios personalizados, consejos a la medida y precios de productos únicos que se muestran a las personas en función de lo que digan a los chatbots. Normalmente, no hay interruptor de apagado.

Dicho de otro modo, la industria tecnológica está creando un internet personalizado solo para ti, pero tú no tienes voz ni voto en el asunto.

"Estas herramientas se nos venden como más potentes, pero tenemos menos poder de decisión en ellas", afirmó Sasha Luccioni, investigadora que se centra en la ética de la IA en Hugging Face, una empresa de IA. "Depende de nosotros darnos de baja, y normalmente es bastante complicado y no está muy claro de qué deberíamos darnos de baja".

Las empresas han dicho que están centradas en crear el mejor "agente" --un asistente potenciado por IA que pueda escribir correos electrónicos, reservar boletos de avión y hacer investigaciones-- para capacitar a las personas. La IA Generativa es tan flexible, adaptable y capaz, dicen, que la tecnología básicamente puede ofrecer a todo el mundo una experiencia única de uso de internet a través de un asistente digital que atienda a sus necesidades.

La estrategia de la industria tecnológica de imponer la IA a las masas no concuerda con la opinión de muchos usuarios. En general, los estadounidenses están más preocupados que entusiasmados con la IA en su vida cotidiana, y la mayoría afirma que quiere más control sobre cómo se utiliza la tecnología, según una encuesta realizada la primavera pasada por el Centro de Investigación Pew.

Google afirmó en un comunicado que a la gente le resultaba más útil la búsqueda con IA y que, en consecuencia, volvían a hacer más búsquedas. La empresa añadió que ofrece una pestaña "web" en Google.com para filtrar los resultados generados por la IA, pero que la gente solo la utiliza para una pequeña parte de las búsquedas.

Meta señaló que los usuarios podían elegir si interactuaban con la IA de Meta a través de sus aplicaciones. Sin embargo, evitar interactuar con la IA sería difícil para la mayoría de la gente, porque el asistente de IA forma parte de la herramienta de búsqueda en algunas aplicaciones, incluida Instagram.

La insistencia en la IA en todas partes --con poca o ninguna opción para desactivarla-- plantea una cuestión importante sobre qué ganan las empresas de internet con ello. Es muy costosa la operación de los chatbots de IA, como Gemini y ChatGPT de Open AI, y no han generado ganancias directas para las empresas a través de las cuotas de suscripción, porque mucha gente utiliza sus funciones gratuitas.

Entre bastidores, las empresas están sentando las bases de una economía publicitaria digital que podría impulsar el futuro del internet. Los anunciantes están utilizando la tecnología subyacente que permite a los chatbots escribir redacciones y generar imágenes para los consumidores con el fin de encontrar personas a las que dirigirse y adaptarles automáticamente anuncios y descuentos. Las marcas más pequeñas y los minoristas en línea que no se adapten podrían perderse en el barullo generado por la IA.

El mes pasado, OpenAI dijo que empezaría a mostrar anuncios en la versión gratuita de ChatGPT, con base en lo que la gente preguntaba al chatbot y en lo que habían buscado en el pasado.

En respuesta, un ejecutivo de Google se burló de OpenAI, y añadió que Google no tenía planes de mostrar anuncios dentro de su chatbot Gemini. Lo que no mencionó, sin embargo, fue que Google, cuyas ganancias proceden en gran medida de los anuncios en línea, muestra publicidad en Google.com basada en las interacciones de los usuarios con el chatbot de IA integrado en su motor de búsqueda.

(El New York Times demandó a OpenAI y a Microsoft, pues alega una infracción de los derechos de autor del contenido de las noticias relacionadas con los sistemas de IA. Las dos empresas negaron las acusaciones de la demanda).

En los últimos seis años, a medida que los reguladores han tomado medidas enérgicas contra la privacidad de los datos, los gigantes tecnológicos y la industria de la publicidad en línea han dejado de rastrear las actividades de las personas en aplicaciones móviles y sitios web para determinar qué anuncios mostrarles. Empresas como Meta y Google han tenido que idear métodos para dirigir a las personas anuncios relevantes sin compartir los datos personales de los usuarios con terceros.

Cuando surgieron ChatGPT y otros chatbots de IA hace unos cuatro años, las empresas vieron una oportunidad: La interfaz conversacional de un compañero parlanchín animaba a los usuarios a compartir de manera voluntaria datos sobre sí mismos, como sus aficiones, su estado de salud y los productos que compraban.

La estrategia ya parece estar funcionando. Las consultas de búsqueda en internet han aumentado en todo el sector, incluyendo las de Google y Bing, que han estado incorporando chatbots de IA a sus herramientas de búsqueda. Esto se debe, en gran parte, a que las personas hacen más preguntas y solicitudes de seguimiento a los motores de búsqueda con chatbots, y revelan sus intenciones e intereses de forma mucho más explícita que cuando escribían unas pocas palabras clave para una búsqueda tradicional.

Como los chatbots ayudan a las empresas a recopilar información más detallada e íntima sobre los intereses de la gente, las nuevas formas de publicidad digital pueden resultar más invasivas y extrañas, dicen los expertos.

Basándose en lo que una persona dice a un chatbot, entre otras fuentes de datos, los nuevos sistemas publicitarios de Meta como los de Google podrían deducir, por ejemplo, que a la persona le gusta correr en invierno y, a continuación, utilizar la IA para crear automáticamente un anuncio en Instagram o Google con lenguaje de marketing sobre la durabilidad de un par de zapatos deportivos en climas fríos.

Para las marcas, la clave está en personalizar un anuncio lo suficiente sin que se note que ha intervenido la IA, explicó Luke Stillman, gerente general de Madison and Wall, una empresa de consultoría para comerciantes en línea que hacen publicidad.

"Pienso en toda esta optimización de la IA como una mala cirugía plástica", aseguró Stillman. "Te fijas en los que sobresalen, pero no en los que siguen detrás de la cortina".

La información obtenida de las charlas con la IA de Google y otros datos también podría llegar a afectar los precios que distintas personas ven por los mismos productos. El mes pasado, Google develó una herramienta de compra potenciada por IA que desarrolló con empresas minoristas como Shopify, Target y Walmart.

Lindsay Owens, directora ejecutiva de Groundwork Collaborative, una organización sin ánimo de lucro dedicada a temas económicos, calificó el marco de compras de Google basado en IA como un ejemplo de "capitalismo de vigilancia" que podría llegar a utilizarse para incitar a la gente a gastar más.

La nueva tecnología podría ayudar a los comerciantes a basar automáticamente los precios de sus productos en la información que los consumidores hayan compartido con el chatbot, como su presupuesto personal, entre otras fuentes de datos. (Google dijo que prohíbe a los comerciantes inflar los precios que aparecen en sus resultados).

Una marca de ropa, por ejemplo, podría ofrecer un descuento de 32 dólares en una chamarra de 120 dólares a un comprador más ahorrativo, pero ofrecer la misma chamarra a precio completo a alguien con un presupuesto más elevado.

"Saber que el cumpleaños de mi cónyuge es mañana interesa a un minorista porque puede cobrarme más por las flores", señaló Owens. "Esto podría cambiar las compras tal y como las conocemos".

Los rivales más pequeños de Google y Meta, como Mozilla, el fabricante del navegador web Firefox, y DuckDuckGo, un motor de búsqueda centrado en la privacidad de los datos, han denunciado la falta de control que tienen los usuarios sobre cómo utilizan la IA.

Este mes, Mozilla dijo que una nueva versión de Firefox incluiría un amplio conjunto de controles para activar o desactivar funciones individuales de IA. Anthony Enzor-DeMeo, director general de Mozilla, dijo que el riesgo de poner IA en todas partes era hacer que el internet fuera menos abierto, porque solo los usuarios más privilegiados pueden pagar cuotas de suscripción para aprovechar los modelos más potentes.

"La IA está cambiando la forma en que la gente navega por internet, así que Firefox y Mozilla tienen que cambiar con ella, pero eso no significa que tengamos que hacerlo de una forma que vaya a alejar o enfurecer a la gente", comentó.

El mes pasado, DuckDuckGo lanzó una versión de su motor de búsqueda que filtraba cualquier resultado que contuviera imágenes generadas con IA. La empresa preguntó a los usuarios si querían o no utilizar IA. Alrededor del 90 por ciento de los encuestados votaron "No a la IA".

Sin embargo, aunque las empresas más pequeñas ofrezcan métodos para desactivar la IA en sus productos, seguiría siendo difícil evitar la IA incorporada a los productos de Google y Meta, cuyos tentáculos llegan a la vida de casi todo el mundo a través de servicios como el correo electrónico, los procesadores de texto, los mensajes de texto y las aplicaciones de redes sociales. Mark Zuckerberg, director general de Meta, aseguró en la reciente conferencia de resultados de la empresa que 3580 millones de personas, o casi el 44 por ciento del mundo, utilizan al menos un producto de Meta al día. La cuota de Google en el mercado mundial de búsquedas se ha mantenido estable en torno al 90 por ciento.

Kamyl Bazbaz, ejecutivo de DuckDuckGo que supervisa los asuntos públicos, se maravilló del poder de Google para hacer que la gente sea fiel a sus productos.

"Las grandes empresas que tienen a los usuarios enganchados pueden equivocarse durante mucho tiempo antes de que un usuario deje de usarlas", dijo Bazbaz. ", Todo el mundo pensó que AI Overviews en Google era malo durante al menos dos años. Y ni así la gente dejó de usarlo".

La incesante incorporación de inteligencia artificial en aplicaciones populares plantea preguntas sobre lo que está en juego. La respuesta: el futuro del internet y de su líquido vital, la publicidad digital. (Derek Abella/The New York Times)