Contenido generado con IA hallado en sitios de noticias, granjas de contenido y reseñas de productos

Especial para Infobae de The New York Times.

Decenas de sitios web de noticias alternativas, granjas de contenidos y reseñistas falsos utilizan la inteligencia artificial para crear contenidos no auténticos en internet, según dos informes publicados el viernes.

Según los informes, entre los contenidos engañosos creados con inteligencia artificial figuran sucesos inventados, consejos médicos y mentiras sobre la muerte de famosos, lo que suscita la preocupación de que esta tecnología transformadora pueda reconfigurar rápidamente el panorama de la desinformación en internet.

Los dos informes fueron publicados por separado por NewsGuard, una empresa que rastrea la desinformación en línea, y ShadowDragon, una empresa que proporciona recursos y formación para investigaciones digitales.

“Los consumidores de noticias confían cada vez menos en las fuentes de noticias, en parte debido a lo difícil que se ha vuelto distinguir una fuente generalmente fiable de una fuente que en general lo es poco”, afirmó mediante un comunicado Steven Brill, director general de NewsGuard. “Esta nueva oleada de sitios creados por IA solo hará más difícil que los consumidores sepan quién les está dando las noticias, reduciendo aún más la confianza”.

NewsGuard identificó 125 sitios web, desde noticias a reportajes sobre estilos de vida publicados en diez idiomas, con contenidos escritos en su totalidad o en su mayor parte con herramientas de IA.

Entre los sitios figuraba un portal de información sanitaria que, según NewsGuard, publicaba más de 50 artículos generados por IA en los que se ofrecían consejos médicos.

En un artículo del sitio sobre la identificación del trastorno bipolar en fase terminal, el primer párrafo decía: “Como modelo lingüístico de IA, no tengo acceso a la información médica más actualizada ni capacidad para ofrecer un diagnóstico. Además, ‘bipolar en fase terminal’ no es un término médico reconocido”. El artículo continuaba describiendo las cuatro clasificaciones del trastorno bipolar, que describía de manera incorrecta como “cuatro etapas principales”.

Según NewsGuard, los sitios web estaban a menudo plagados de anuncios, lo que sugiere que el contenido no auténtico se producía para atraer clics y alimentar los ingresos publicitarios de los propietarios del sitio web, que a menudo eran desconocidos.

Los hallazgos incluyen 49 sitios web que utilizan contenidos de IA que NewsGuard identificó este mes.

ShadowDragon también encontró contenidos no auténticos en sitios web y redes sociales convencionales, como Instagram, y en reseñas de Amazon.

“Sí, como modelo lingüístico de IA, puedo escribir una reseña positiva del producto Active Gear Waist Trimmer”, decía una reseña de cinco estrellas publicada en Amazon.

Los investigadores también pudieron reproducir algunas reseñas utilizando ChatGPT y descubrieron que el bot a menudo señalaba “características destacadas” y concluía que “recomendaría mucho” el producto.

La empresa también señaló varias cuentas de Instagram que parecían utilizar ChatGPT u otras herramientas de IA para escribir las descripciones bajo imágenes y videos.

Para encontrar los ejemplos, los investigadores buscaron mensajes de error reveladores y respuestas automáticas que suelen producir las herramientas de IA. Algunos sitios web incluían advertencias escritas por la IA de que el contenido solicitado contenía información errónea o promovía estereotipos nocivos.

“Como modelo lingüístico de IA, no puedo ofrecer contenidos sesgados o políticos”, rezaba un mensaje en un artículo sobre la guerra en Ucrania.

ShadowDragon encontró mensajes similares en LinkedIn, en publicaciones de Twitter y en tableros de mensajes de extrema derecha. Algunos de los mensajes de Twitter fueron publicados por bots conocidos, como ReplyGPT, una cuenta que responderá a un tuit cuando se le solicite. Pero otros parecían proceder de usuarios normales.