Hoy los generadores de video de IA son tan buenos que ya no puedes fiarte de tus ojos

(Circuits) ; (Tech Fix)

Este mes, OpenAI, el creador del popular chatbot ChatGPT, ha ofrecido en internet una tecnología para la que quizá la mayoría de nosotros no estábamos preparados. La empresa lanzó una aplicación llamada Sora, que permite a los usuarios generar al instante videos que se ven muy realistas con inteligencia artificial mediante una simple descripción, como esta: "Imágenes de la cámara portátil de un policía en las que se detiene a un perro por robar chuletones en Costco".

Sora, una aplicación gratuita para iPhone, ha resultado tan entretenida como perturbadora. Desde su lanzamiento, muchos de los primeros usuarios han publicado videos para divertirse, como grabaciones falsas de un mapache en un avión o peleas entre famosos de Hollywood al estilo del anime japonés. (Yo, por mi parte, he disfrutado creando videos de un gato que flota hacia el cielo y un perro que escala rocas en un muro de escalada).

Sin embargo, otros han utilizado la herramienta para fines más nefastos, como difundir desinformación, incluidas imágenes de seguridad falsas de delitos que nunca ocurrieron.

La llegada de Sora, junto con otros generadores de video con IA similares lanzados por Meta y Google este año, tiene importantes implicaciones. La tecnología podría representar el fin de los hechos visuales --la idea de que el video puede servir como registro objetivo de la realidad-- tal y como los conocemos. La sociedad en su conjunto tendrá que tratar los videos con tanto escepticismo como las palabras.

En el pasado, los consumidores confiaban más en la veracidad de las imágenes ("Muéstrame una foto o lo que dices no ocurrió"), y cuando las imágenes se volvieron fáciles de falsificar, el video, cuya manipulación requería mucha más habilidad, se convirtió en una herramienta estándar para demostrar la legitimidad. Ahora eso es cosa del pasado.

"Nuestros cerebros están fuertemente programados para creer lo que vemos, pero ahora podemos y debemos aprender a detenernos a pensar si un video, y en realidad cualquier medio de comunicación, es algo que ocurrió en el mundo real", afirmó Ren Ng, profesor de informática de la Universidad de California en Berkeley, que imparte cursos sobre fotografía computacional.

Sora, que esta semana se ha convertido en la aplicación gratuita más descargada de la App Store de Apple, ha causado conmoción en Hollywood, donde los estudios han expresado su preocupación porque los videos generados con Sora ya han infringido los derechos de autor de varias películas, programas y personajes. Sam Altman, director ejecutivo de OpenAI, afirmó mediante un comunicado que la empresa estaba recabando opiniones y que pronto daría a los titulares de derechos de autor el control sobre la generación de personajes y una vía para ganar dinero con el servicio.

(The New York Times interpuso una demanda contra OpenAI y su socio, Microsoft, pues alega infracción de los derechos de autor de contenidos periodísticos relacionados con los sistemas de IA. Las dos empresas han negado esas reclamaciones).

¿Cómo funciona Sora y qué significa todo esto para el consumidor? Esto es lo que hay que saber.

P: ¿Cómo se utiliza Sora?

R: Aunque cualquiera puede descargar la aplicación de Sora de forma gratuita, en la actualidad solo se puede acceder al servicio mediante invitación, lo que significa que únicamente se puede utilizar el generador de video si recibes un código de invitación de otro usuario de Sora. Mucha gente ha estado compartiendo códigos en sitios y aplicaciones como Reddit y Discord.

Una vez que los usuarios se registran, la aplicación tiene un aspecto similar al de aplicaciones de video de formato corto como TikTok y Reels de Instagram. Los usuarios pueden crear un video escribiendo una frase, como "una pelea entre Biggie y Tupac al estilo del anime 'Demon Slayer'". (Antes de que Altman anunciara que OpenAI daría a los titulares de derechos de autor más control sobre cómo se utilizaba su propiedad intelectual en el servicio, OpenAI les exigió en un principio que optaran por no utilizar su imagen y sus marcas en el servicio, así las personas fallecidas se convirtieron en blancos fáciles de experimentación).

Los usuarios también pueden subir una foto real y generar un video con ella. Una vez generado el video, en un minuto aproximadamente, pueden publicarlo en un canal dentro de la aplicación, o pueden descargar el video y compartirlo con amigos o publicarlo en otras aplicaciones como TikTok e Instagram.

Cuando Sora llegó este mes, destacó porque los videos generados con el servicio parecían mucho más reales que los realizados con servicios similares, como Veo 3 de Google, una herramienta integrada en el chatbot Gemini, y Vibe, que forma parte de la aplicación Meta AI.

P: ¿Qué significa esto para mí?

R: El resultado es que ahora cualquier video que veas en una aplicación que implique desplazarse por videos cortos, como TikTok, Reels de Instagram, YouTube Shorts y Snapchat, tiene una alta probabilidad de ser falso.

Sora supone un punto de inflexión en la era de la falsificación de IA. Los consumidores pueden esperar que surjan imitadores en los próximos meses, incluso de individuos malintencionados que ofrezcan generadores de video de IA que puedan utilizarse sin restricciones.

"Ya nadie estará dispuesto a aceptar videos como prueba de nada", afirmó Lucas Hansen, fundador de CivAI, una organización sin ánimo de lucro que educa a la gente sobre las capacidades de la IA.

P: ¿Qué problemas debo tomar en cuenta?

R: OpenAI tiene restricciones para evitar que la gente abuse de Sora generando videos con imágenes sexuales, consejos de salud malintencionados y propaganda terrorista.

Sin embargo, tras una hora probando el servicio, he generado algunos videos que podrían ser preocupantes:

-- Grabaciones falsas de cámaras de tablero de auto que pueden usarse para fraudes contra aseguradoras: Le pedí a Sora que generara un vídeo de una cámara de tablero de una camioneta Toyota Prius golpeada por un camión grande. Una vez generado el video, pude incluso cambiar el número de matrícula.

-- Videos con afirmaciones cuestionables sobre la salud: Sora hizo un video de una mujer que citaba estudios inexistentes acerca de que el pollo frito era bueno para la salud. No era malicioso, pero sí falso.

-- Videos difamatorios: Sora generó una noticia falsa en la que se hacían comentarios despectivos sobre una persona que conozco.

Desde el lanzamiento de Sora, también he visto muchos videos problemáticos generados por IA mientras me desplazaba por TikTok. Había uno de una grabación falsa de la cámara de tablero de un Tesla que cae de un portacoches a una autopista, otro con una noticia falsa sobre un asesino en serie ficticio y un video inventado de un hombre que es expulsado de un bufé por comer demasiado.

Un portavoz de OpenAI señaló que la empresa había lanzado Sora como aplicación propia para ofrecer a los usuarios un espacio dedicado a disfrutar de videos generados por IA y reconocer que los clips se habían hecho con IA. La empresa también ha integrado tecnología para que los videos sean fáciles de rastrear hasta Sora, incluidas marcas de agua y datos almacenados en los archivos de video que funcionan como firmas.

"Nuestras políticas de uso prohíben engañar a otros a través de suplantaciones, estafas o fraudes, y tomamos medidas cuando detectamos un uso indebido", aseguró la compañía.

Pregunta: ¿Cómo sé qué es falso?

R: Aunque los videos generados con Sora incluyen una marca de agua con la marca de la aplicación, algunos usuarios ya se han dado cuenta de que pueden recortarla. Además, los videos creados con Sora suelen ser cortos, de hasta 10 segundos.

Cualquier video que se asemeje a la calidad de una producción de Hollywood podría ser falso, porque los modelos de IA se han entrenado en gran medida con secuencias de programas de televisión y películas publicadas en la web, afirmó Hansen.

En mis pruebas, los videos generados con Sora contenían a veces errores evidentes, como faltas de ortografía en los nombres de los restaurantes y discursos desincronizados con la boca de las personas.

Hany Farid, profesor de informática de la Universidad de California en Berkeley y fundador de GetReal Security, una empresa que verifica la autenticidad de los contenidos digitales, afirma que cualquier consejo sobre cómo detectar un video generado por inteligencia artificial será efímero.

"Las redes sociales son un completo basurero", comentó Farid, y añadió que una de las formas más seguras de evitar los videos falsos es dejar de usar aplicaciones como TikTok, Instagram y Snapchat.

Bienvenido a la era de la falsificación. El uso generalizado de generadores de video instantáneos como Sora pondrá fin a las pruebas visuales. (Sisi Yu/The New York Times)