Durante una emisión de Infobae a la Tarde, en diálogo con el equipo integrado por Manu Jove, Maia Jastreblansky, Paula Guardia Bourdin y Tomás Trapé, Canle Santamaría explicó que la medida de Swift marca un precedente único en la industria musical y plantea nuevos desafíos para el derecho creativo.

Taylor Swift y la protección legal frente a la inteligencia artificial

“La propuesta de Taylor Swift es novedosa porque nunca antes se había usado ese tipo de registros de marcas sonoras junto con registros de imagen para blindar como marca comercial la identidad de un artista”, detalló Paula Guardia Bourdin sobre el trasfondo del caso. Añadió que la cantante busca evitar que “se use en contenidos que sean muy similares a lo que ella es en realidad” mediante imágenes digitales y deepfakes.

Canle Santamaría sostuvo: “El derecho de autor parecería no ser suficiente contra los deepfakes o contra el avance de la inteligencia artificial al copiar o plagiar partes o todo de las obras que crean los artistas”. Para el especialista, el registro de la voz e imagen como marcas otorga una herramienta más poderosa: “La marca tiene que tener una cuestión muy importante que es la distintividad. O sea, no puede provocar confusión en el consumidor”.

El abogado también subrayó que “tanto la normativa norteamericana como la argentina, y la de muchos países del mundo, permiten hacer esto”, señalando que el gran salto es la utilización de registros de marca tradicionalmente ligados a corporaciones para proteger personas físicas.

Cómo funciona el registro de marcas sonoras y visuales en artistas

“La marca sonora puede ser un jingle o un sonido por el cual distinguimos a una empresa, como el ‘tutum’ de Netflix o el rugido del león de la Metro Goldwyn Mayer”, ejemplificó Canle Santamaría, resaltando que ahora ese mecanismo lo adopta una figura como Taylor Swift.

El especialista aclaró que esta estrategia no es exclusiva de Estados Unidos. “Esto lo hace Taylor Swift, pero también lo pueden hacer nuestros músicos y músicas argentinos”, expuso Canle Santamaría, aunque reconoció que aún no existen antecedentes judicializados en la región donde un artista logre blindar su voz o su imagen como marca frente a la IA.

Matthew McConaughey fue citado como el primer actor en intentar proteger su voz e imagen del uso indebido de la inteligencia artificial a través del registro marcario.

Los desafíos legales y éticos frente a los deepfakes y la creatividad digital

Consultado sobre los alcances de esta protección, Canle Santamaría respondió: “Si vos usás una marca, tenés que pedir permiso para usar la marca de otra persona. En principio, no podés usar lo que le pertenece a otro”.

En referencia a los memes y el uso no comercial, el abogado aclaró: “El derecho, como todo, tiene un límite, es relativo. No podés ir al extremo de ridiculizar al otro y provocarle un daño a su imagen”.

Canle Santamaría comparó el fenómeno de la inteligencia artificial con otros cambios tecnológicos históricos: “Los modos de consumo y de producción cultural han cambiado siempre. Esta es una nueva ola, va mucho más rápido, pero no significa la destrucción o la muerte de las artes”. Citó el caso de Dinamarca, donde se intentó asimilar la imagen y la voz al derecho de autor para fortalecer los reclamos legales ante la IA.

Sobre la legislación argentina, fue contundente: “En mi humilde opinión, no estamos preparados. Tenemos una norma que es del año 1933… Imagínense cuando salió, no existía el software y hoy se lo asimila. Pero no hay nada vinculado a inteligencia artificial, blockchain o deepfakes”.

Finalmente, se planteó el debate sobre el futuro de la industria del espectáculo frente a la IA y la creación de réplicas digitales de artistas fallecidos: “Hay que ver qué implican esos contratos, cuál es la ganancia y qué se cede. Por ahí a veces es más lo que das que lo que recibís”.

--

Infobae te acompaña cada día en YouTube con entrevistas, análisis y la información más destacada, en un formato cercano y dinámico.

• De 7 a 9: Infobae al Amanecer: Nacho Giron, Luciana Rubinska y Belén Escobar.

• De 9 a 12: Infobae a las Nueve: Gonzalo Sánchez, Tatiana Schapiro, Ramón Indart y Cecilia Boufflet.

• De 12 a 15: Infobae al Mediodia: Maru Duffard, Andrei Serbin Pont, Jimena Grandinetti, Fede Mayol y Facundo Kablan.

• De 15 a 18: Infobae a la Tarde: Manu Jove, Maia Jastreblansky y Paula Guardia Bourdin; rotan en la semana Marcos Shaw, Lara López Calvo y Tomás Trapé

• De 18 a 21: Infobae al Regreso: Gonzalo Aziz, Diego Iglesias, Malena de los Ríos y Matías Barbería; rotan en la semana Gustavo Lazzari, Martín Tetaz y Mica Mendelevich

Seguinos en nuestro canal de YouTube @infobae.

El avance de la inteligencia artificial ha generado nuevas preocupaciones para figuras públicas como Taylor Swift, quien ha decidido tomar medidas legales para protegerse frente a la proliferación de deepfakes y contenidos generados sin su consentimiento.

La cantante y compositora estadounidense ha presentado solicitudes de derechos de autor y registros de marca sobre elementos clave de su identidad, buscando impedir que su imagen y voz sean reproducidas o manipuladas por sistemas de IA.

Qué hixo Taylor Swift para blindar la voz y la imagen

Bajo la firma TAS Rights Management, Taylor Swift presentó tres solicitudes ante la Oficina de Patentes y Marcas de Estados Unidos. Dos de estas solicitudes tienen como objetivo resguardar su voz, específicamente frases que la cantante suele emplear al presentarse en público o en materiales promocionales.

Las frases incluidas son: “Hey, it’s Taylor Swift” y “Hey, it’s Taylor”. Al registrar estas expresiones, la artista y su equipo legal adquieren el derecho de impugnar cualquier contenido, especialmente el generado por inteligencia artificial, que utilice esas frases sin su consentimiento explícito.

Esta protección no se limita a grabaciones originales, sino que abarca también el uso de imitaciones que resulten “confusamente similares” a la voz auténtica de Taylor Swift.

El tercer registro presentado por Taylor Swift y su equipo corresponde a una de las imágenes más reconocibles de la artista. Se trata de una fotografía tomada durante su gira ‘The Eras Tour’, donde aparece sosteniendo una guitarra rosa con una correa negra, vestida con un body iridiscente multicolor y botas plateadas.

Este atuendo es uno de los más asociados a su figura pública. El objetivo de registrar legalmente esta imagen es impedir que terceros puedan manipularla o recrearla digitalmente, especialmente mediante técnicas de inteligencia artificial.

En Estados Unidos, las celebridades ya cuentan con ciertas protecciones legales sobre el uso comercial de su identidad visual. Sin embargo, el registro de esta imagen específica otorga a Taylor Swift y su equipo la posibilidad de actuar con mayor rapidez y eficacia frente a cualquier uso no autorizado, especialmente en un contexto donde las herramientas tecnológicas permiten replicar o modificar fotografías con facilidad.

Un nuevo uso de la ley de marcas frente a la IA

El caso de Taylor Swift representa un avance en la utilización de la legislación de marcas para cubrir vacíos legales que la inteligencia artificial ha puesto en evidencia. Según el abogado especializado en propiedad intelectual Josh Gerben, estos registros constituyen una capa adicional de protección frente a los riesgos derivados de la IA.

Si bien las leyes de derechos de imagen permiten a los famosos controlar ciertos aspectos del uso de su imagen y voz, el registro de marcas puede proporcionar mecanismos más ágiles y específicos para la defensa legal.

La estrategia de registrar la voz hablada, y no solo grabaciones musicales, es una innovación que responde a la capacidad de la IA para crear audios completamente nuevos imitando voces humanas. En el pasado, los artistas confiaban en las leyes de derechos de autor para proteger sus grabaciones originales.

Sin embargo, la IA puede generar fragmentos de voz sintética sin copiar una grabación existente, lo que deja un espacio legal que los registros de marca buscan cubrir.

La imagen registrada por Taylor Swift cumple una función similar. Al proteger no solo su rostro, sino también elementos distintivos de su vestimenta y postura, el equipo legal de la cantante refuerza su capacidad para reclamar ante la aparición de imágenes manipuladas o generadas artificialmente que evoquen su presencia de manera inconfundible.

La preocupación de Taylor Swift no es aislada. Figuras como Matthew McConaughey también han optado por registrar frases y elementos relacionados con su identidad a fin de limitar el uso sin consentimiento en contenidos generados por IA. Recientemente, el actor estadounidense logró la aprobación de ocho solicitudes de registro para frases, imágenes y vídeos, incluyendo su célebre “Alright, alright, alright” de la película “Dazed and Confused”.

Estos movimientos buscan crear límites claros sobre la propiedad y el consentimiento en un entorno digital donde la frontera entre lo real y lo artificial se vuelve cada vez más difusa.

La proliferación de fraudes basados en inteligencia artificial ha elevado la preocupación de empresas y usuarios en todo el mundo. En respuesta, Zoom, la plataforma de videollamadas, anunció una alianza con World, la compañía de verificación de identidad humana fundada por Sam Altman, para garantizar que los participantes en sus reuniones sean realmente personas y no imitadores digitales creados por IA.

El auge de los deepfakes y su impacto financiero

El uso de deepfakes en fraudes corporativos ha crecido de forma alarmante. Uno de los casos más notorios ocurrió a principios de 2024, cuando la empresa de ingeniería Arup perdió 25 millones de dólares tras una videollamada en la que el empleado, convencido de hablar con altos directivos y colegas, terminó autorizando transferencias bancarias a impostores digitales generados por IA. Situaciones similares se repitieron, como el ataque a una multinacional en Singapur en 2025.

Las cifras ilustran el alcance del problema: solo en el primer trimestre del año pasado, las pérdidas por fraudes con deepfake superaron los 200 millones de dólares. El costo promedio por incidente corporativo asciende ya a más de 500.000 dólares, según informes del sector de ciberseguridad. Si bien el fraude con videollamadas aún no afecta de forma masiva a usuarios individuales, representa un riesgo serio para empresas que realizan transacciones sensibles mediante videoconferencias.

Cómo funciona la verificación humana en Zoom

Hasta ahora, los mecanismos para detectar deepfakes en reuniones virtuales se centraban en analizar fotogramas de vídeo en busca de señales de manipulación digital. Sin embargo, la mejora constante de los modelos de generación de video con IA ha vuelto cada vez menos fiables estos métodos. Para enfrentar esta limitación, World y Zoom han implementado una verificación más robusta y difícil de vulnerar.

La tecnología World ID Deep Face emplea un método triple de autenticación. Primero, compara una imagen firmada tomada durante el registro del usuario mediante el dispositivo Orb de World. Luego, realiza un escaneo facial en tiempo real desde el dispositivo del usuario. Por último, analiza un fotograma de video en vivo visible para los demás participantes de la reunión. Solo cuando los tres elementos coinciden, World otorga la insignia de “Humano verificado” junto al nombre del participante.

La plataforma permitirá que los anfitriones habiliten una “sala de espera Deep Face” para que todos los asistentes verifiquen su identidad antes de ingresar a la reunión. Además, durante la videollamada, cualquier participante podrá solicitar la verificación de identidad de otro usuario en tiempo real.

Un paso hacia la confianza digital en entornos corporativos

“Esta integración forma parte del enfoque de ecosistema abierto de Zoom, que ofrece a los clientes más maneras de generar confianza en sus flujos de trabajo en función de lo que más importa para su caso de uso”, indicó Travis Isaman, vocero de la empresa.

El objetivo es reducir el margen de maniobra de los impostores digitales y ofrecer a las empresas garantías adicionales en reuniones críticas, especialmente en sectores que manejan información confidencial o grandes volúmenes de transacciones.

La iniciativa se inserta en una tendencia creciente de verificación digital. World, la empresa de Sam Altman, ha sellado acuerdos con plataformas como Tinder y Visa para certificar que los usuarios sean personas reales y no programas automatizados de IA. El mes pasado, World lanzó una herramienta para verificar la identidad humana detrás de agentes de compras con IA en puntos de venta, ampliando el alcance de estas tecnologías en diversas industrias.

La implementación de mecanismos de verificación robustos en plataformas como Zoom responde a una amenaza real y creciente. La lucha contra el fraude digital mediante deepfakes requiere una combinación de innovación tecnológica y colaboración entre empresas. El avance de estas soluciones refuerza la confianza en los entornos digitales y prepara el terreno para una nueva etapa en la seguridad de las interacciones virtuales.

En su relato, Ana María explicó: “Llevo más de cinco años huyendo, sintiendo miedo, sintiendo acoso, escondiéndome, cambiando de cuentas. Y hoy decidí no, no hacerlo más, no esconderme más, no huir más, porque me cansé de sentir miedo, me cansé de sentir acoso, me cansé de seguir así”.

Ahora puede seguirnos en Facebook y en nuestro WhatsApp Channel

La joven relató cómo fue contactada por Instagram y le aseguraron que había contenido suyo en páginas para adultos, allí engañada por alguien que se hizo pasar por seguidora y que, tras ganarse su confianza, le pidió fotos y videos.

Según sus palabras, el objetivo era, mediante las fotos, confirmar que la persona de los videos no era ella, pero en realidad se trataba de una trampa: “Esa persona utilizó todo mi miedo para obtener ese material y lo logró”, confesó Ana María, visiblemente afectada.

Ana María también mencionó el apoyo de su madre desde el inicio: “Desde que mi mamá se enteró, me creyó y me ha apoyado en todo el proceso”. Sin embargo, reconoció que no todos le creen y que muchas personas la acusan injustamente: “Dicen que seguramente fue un ex o seguramente yo vendo ese contenido, pero no. Aquí estoy dando la cara”.

La influencer afirmó tener una denuncia formal en la fiscalía y pidió a sus seguidores que denuncien cualquier contenido falso. “No vendo contenido, nunca lo he hecho. Y lo que circula ahorita es fruto de este engaño, de este delito”. Ana María finalizó su denuncia pidiendo apoyo y advirtiendo sobre este tipo de estafas: “Si ven algo mío por ahí, por favor, denuncien. No soy yo”.

Ana María relató por qué decidió hablar: “Traté durante muchos años evitar que las personas cercanas, amigos, seguidores, se enteraran, pero se me salió de las manos porque estas personas crean cuentas constantemente con diferentes nombres, diferentes páginas, las comparten con personas cercanas a mí. Ya no pude hacer más porque no se enteraran, así que ya no me voy a permitir más sentir vergüenza o sentirme mal o afectarme por esto”.

En términos técnicos, Ana María fue víctima de un deepfake que es una técnica digital que utiliza inteligencia artificial para crear videos, audios o imágenes en los que el rostro, la voz o los gestos de una persona son alterados o reemplazados, de modo que parece que realiza o dice cosas que nunca ocurrieron. Este procedimiento se basa en algoritmos de aprendizaje automático que procesan grandes cantidades de datos visuales y sonoros, logrando resultados difíciles de distinguir de la realidad.

Por otra parte, en Colombia la Ley 2502 de 2025 introdujo sanciones penales para quienes manipulen la identidad de otros mediante inteligencia artificial, modificando el artículo 296 del Código Penal. La norma determina que la suplantación con IA constituye falsedad personal y, según el texto legal, “la multa se aumentará hasta en la tercera parte, siempre que la conducta no constituya otro delito”.

La legislación colombiana exige a la Fiscalía General de la Nación el seguimiento detallado de estos casos, así como la actualización de metodologías para rastrear el impacto de los fraudes digitales. Los datos biométricos, como el rostro y la voz, están protegidos tanto por la Ley 23 de 1982 como por normas de habeas data, especialmente cuando se emplean para suplantaciones o estafas.

Incluso en situaciones sin lucro directo, la creación de contenido falso puede acarrear sanciones civiles. El derecho a la imagen está amparado por la Constitución y el Código Civil, lo que impide el uso no autorizado de la imagen para burlas, caricaturas o bromas.

Para prevenir estos delitos, los especialistas aconsejan desconfiar de solicitudes urgentes por videollamada, crear ‘palabras clave’ de seguridad y denunciar cualquier suplantación ante la Fiscalía o la Policía de delitos cibernéticos. Es esencial conservar todas las pruebas y limitar el acceso a perfiles digitales, ajustando la privacidad para proteger la identidad propia.

Durante más de dos décadas, la confianza en lo que se veía y escuchaba en el entorno digital se mantuvo como una regla tácita. El video representaba evidencia, la voz era sinónimo de identidad y una imagen bastaba como prueba. El desarrollo de la inteligencia artificial (IA) generativa ha modificado ese paradigma.

Hoy, la capacidad de crear audios, imágenes y videos falsos de alta calidad se encuentra al alcance del público general y no solo de especialistas, lo que ha provocado una transformación profunda en la naturaleza del fraude digital.

La llegada de herramientas de IA generativa de bajo costo y fácil acceso ha permitido que la creación de deepfakes deje de ser un fenómeno marginal o experimental. Ahora, estas tecnologías se han instalado como un recurso cotidiano para quienes buscan perpetrar engaños sofisticados, explica Marcelo Roitman, Experis Managing Director y Vicepresidente de ManpowerGroup.

La IA ha reducido de manera considerable las barreras de entrada para producir falsificaciones convincentes. El fenómeno ya no requiere inversiones elevadas ni conocimientos técnicos avanzados, lo que ha derivado en la proliferación de servicios de suplantación de identidad dentro de mercados ilícitos cada vez más organizados.

Un caso reciente expone la magnitud de este fenómeno. En 2025, una transmisión falsa en YouTube utilizó un avatar generado por inteligencia artificial para suplantar a Jensen Huang, CEO de Nvidia, durante un supuesto evento vinculado a la GPU Technology Conference.

El video invitaba a los espectadores a invertir en criptomonedas y logró alcanzar a miles de usuarios, presentando una imagen creíble y profesional. Esta situación ilustra cómo el contenido manipulado puede circular masivamente, generando riesgos inéditos para la autenticidad digital.

El impacto en Argentina: una redefinición del riesgo digital

En Argentina, la digitalización avanzó de manera acelerada en sectores como servicios financieros, comercio electrónico y comunicaciones. El contexto local muestra un impacto profundo de esta tendencia global.

La proliferación de deepfakes y contenidos manipulados no solo incrementó la cantidad de estafas, sino que también modificó la percepción y gestión del riesgo digital en la región. En los últimos meses, se han reportado nuevas modalidades de fraude que emplean audios generados por IA o mensajes privados para solicitar transferencias bancarias urgentes, movimientos en cuentas o información sensible.

A estas prácticas se suman estafas asociadas a promociones engañosas, descuentos falsos o alquileres turísticos inexistentes que circulan en redes sociales y plataformas digitales. El uso de tecnologías avanzadas permite que estos esquemas amplifiquen el alcance y la sofisticación de fraudes ya conocidos.

Sistemas de seguridad bajo revisión

El avance de la IA generativa pone en tela de juicio la validez de muchos sistemas de seguridad implementados en los últimos veinte años. Las validaciones remotas, los mecanismos de autenticación por reconocimiento de voz o video y las pruebas digitales se diseñaron bajo la premisa de que el contenido audiovisual resultaba fiable. Esa premisa hoy enfrenta cuestionamientos tecnológicos que obligan a repensar las estrategias de protección digital.

Especialistas advierten que múltiples mecanismos de seguridad se ven superados por la capacidad de la IA para reproducir voces o apariencias con alta precisión, poniendo en riesgo operaciones financieras, accesos a servicios y la protección de datos personales.

Dos desafíos centrales: tecnología y regulación

Frente a este escenario, emergen dos retos principales. El primero corresponde al plano tecnológico. Así como la inteligencia artificial facilita la creación de deepfakes, también existe un desarrollo acelerado de sistemas para detectar contenido manipulado y autenticar identidades digitales de manera robusta. La dinámica se presenta como una auténtica carrera entre quienes diseñan fraudes y quienes desarrollan soluciones de detección y verificación.

El segundo desafío es normativo. Argentina, al igual que otros países de la región, carece hasta el momento de un marco legal específico que aborde la suplantación de identidad mediante IA en toda su complejidad. Aunque existen figuras jurídicas asociadas al fraude o a la falsificación, el fenómeno actual introduce nuevos elementos: escalabilidad, automatización y anonimato en niveles sin precedentes. La falta de regulación adecuada expone a los usuarios y dificulta la persecución de los responsables.

El avance de la inteligencia artificial ha cambiado la forma en que las personas interactúan a través de llamadas telefónicas. La aparición de deepfakes de voz plantea nuevos desafíos de seguridad para empresas y usuarios particulares.

Actualmente detectar si una llamada es auténtica o generada por IA se ha vuelto una necesidad urgente, ya que los fraudes con audio sintético aumentan y los ataques se vuelven más sofisticados.

La relevancia de este fenómeno radica en el potencial de los deepfakes para eludir verificaciones de identidad, cometer fraudes financieros o manipular información confidencial. Herramientas de generación de voz permiten imitar a ejecutivos, familiares o proveedores con una precisión alarmante, utilizando apenas unos segundos de audio original.

La facilidad con la que se producen estas falsificaciones obliga a desarrollar nuevas estrategias de defensa.

Cómo funcionan los ataques de voz deepfake

Un ataque típico comienza con la recolección de un breve clip de audio de la persona objetivo. Este material puede obtenerse fácilmente de redes sociales, entrevistas o grabaciones públicas.

Mediante IA, los atacantes crean un modelo de voz sintética capaz de reproducir frases preestablecidas o, en casos avanzados, responder en tiempo real a preguntas y mantener una conversación fluida.

El siguiente paso es contactar a la víctima. Los estafadores suelen hacerse pasar por figuras de autoridad, como directores generales o proveedores, y emplean técnicas de ingeniería social para generar presión y urgencia.

Solicitan transferencias de fondos, cambios de contraseñas o información sensible, todo bajo la apariencia de una solicitud legítima.

Señales para identificar una llamada deepfake

Aunque la tecnología mejora cada año, existen señales que pueden alertar sobre la autenticidad de una llamada:

• Ritmo poco natural: La voz puede sonar demasiado pausada, monótona o, por el contrario, acelerada sin motivo.
• Tono emocional plano: Falta de matices o emociones genuinas en la entonación, incluso en contextos que normalmente requerirían énfasis o preocupación.
• Respiración antinatural: Ausencia de pausas normales para respirar, frases extensas sin interrupciones o sonidos de respiración artificial.
• Sonido robótico o metálico: En herramientas menos avanzadas, la voz puede presentar un timbre poco realista o efectos digitales evidentes.
• Ruido de fondo extraño: Ausencia total de ambiente o presencia de un fondo demasiado uniforme y artificial.
• Errores contextuales: La IA puede cometer fallos al interpretar frases coloquiales, responder de manera incoherente o evitar temas inesperados.

Las llamadas de voz generadas con inteligencia artificial no solo se apoyan en la sofisticación tecnológica, también en estrategias de manipulación psicológica bien planificadas. Los atacantes suelen crear una sensación de urgencia para que la víctima actúe sin pensar, piden confidencialidad y desalientan cualquier consulta con terceros.

Además, utilizan datos personales obtenidos previamente para sonar más convincentes y se hacen pasar por figuras de autoridad que resultan difíciles de cuestionar.

El objetivo de estas tácticas es reducir el escepticismo de la persona que recibe la llamada y aumentar las probabilidades de que siga instrucciones sin verificar la autenticidad de la voz.

Esta combinación de presión psicológica y credibilidad aparente convierte a los deepfakes en una herramienta especialmente eficaz para cometer fraudes y obtener información sensible.

Cómo protegerse de las llamadas deepfake

Implementar medidas de verificación es fundamental para reducir el riesgo de caer en fraudes de voz sintética:

• Verificación fuera de banda: Confirmar cualquier solicitud telefónica a través de otro canal, como mensajería corporativa o correo electrónico oficial.
• Doble aprobación: Requerir que dos personas aprueben transferencias de fondos o cambios de datos bancarios.
• Frases clave o preguntas preacordadas: Utilizar contraseñas verbales o preguntas privadas conocidas solo por los involucrados.
• Capacitación y simulaciones: Incluir entrenamientos específicos sobre deepfakes en los programas de sensibilización para empleados o usuarios.

Existen soluciones especializadas capaces de analizar parámetros acústicos y patrones de voz para identificar señales de audio sintético.

Además, limitar la exposición pública de la voz de ejecutivos o figuras clave puede dificultar la obtención de muestras por parte de los atacantes.

El aumento de los deepfakes de voz exige una respuesta basada en la combinación de personas, procesos y tecnología. La formación regular, la actualización de protocolos y el uso de herramientas de detección permiten reducir la exposición a este tipo de amenazas.

Revisar y adaptar las estrategias de seguridad es esencial en un entorno donde la inteligencia artificial avanza con rapidez.

La empresa Meta emitió cartas de cese y desestimiento dirigidas a ocho consultores de marketing que publicitaban métodos para eludir sus directrices mediante inteligencia artificial. Esta acción se suma a una serie de demandas y bloqueos que la tecnológica ha realizado contra individuos y compañías de Brasil, China y Vietnam, tras detectar el uso de estrategias digitales avanzadas para manipular la imagen de figuras públicas y concretar estafas en redes sociales. Según reportó el medio, la compañía busca frenar campañas fraudulentas que emplean técnicas como el ‘cebo de famosos’ con el objetivo de captar información personal de los usuarios o inducir transferencias económicas hacia sitios engañosos.

De acuerdo con la información difundida por la compañía y recogida por la prensa, Meta concentra sus acciones legales sobre sujetos y empresas localizados principalmente en Brasil y China. Estas organizaciones y personas, detalló el medio, montaban campañas publicitarias donde utilizaban imágenes y audios editados de personalidades conocidas. El fin de estas campañas era atraer a los usuarios y dirigirlos a páginas web falsas, donde posteriormente se les solicitaban datos personales y bancarios o pagos directos.

Meta identificó que en Brasil, los anunciantes Vitor Lourenço de Souza y Milena Luciani Sanchez figuraban entre quienes recurrían a la manipulación digital de la imagen y la voz de celebridades con el propósito de promocionar suplementos asociados de manera engañosa con mejoras en la salud. Otras entidades brasileñas mencionadas son B&B Suplementos e Cosméticos, Brites Academia de Treinamento, Daniel de Brites Macieira Cordeiro y José Victor de Brites Chaves de Araújo. Estas empresas y personas utilizaron recreaciones digitales (deepfakes) de un médico ampliamente reconocido en el país para publicitar medicamentos que no cuentan con autorización regulatoria, así como para ofrecer cursos que enseñaban a aplicar estas técnicas de manipulación digital.

El medio consignó que en China, la empresa Shenzhen Yunzheng Technology diseñó e implementó operaciones publicitarias fraudulentas con alcance internacional. Utilizaron el 'cebo de famosos' para captar víctimas en Estados Unidos y Japón, como parte de una estrategia más amplia enfocada en el desarrollo de esquemas piramidales. La trama consistía en ganarse la confianza de los usuarios mediante la supuesta asociación con figuras públicas y así conducirlos hacia estafas de tipo financiero.

Meta apuntó también a la actividad de la compañía vietnamita Ly Van Lâm. Según reportó el medio, esta empresa evadió los sistemas de revisión de anuncios de Meta para ofrecer productos de marcas reconocidas a precios notablemente inferiores, bajo la condición de que los usuarios completasen una encuesta. Dicho formulario requería el ingreso de datos personales sensibles, incluidos los bancarios, lo que derivó en cobros no autorizados en las tarjetas de quienes participaron.

Frente a estas prácticas, Meta puso en marcha desde marzo la utilización de tecnología de reconocimiento facial en la Unión Europea y Reino Unido, detalló la compañía. El objetivo de esta herramienta radica en salvaguardar a figuras públicas frente a la manipulación no autorizada de su imagen en campañas digitales, fortaleciendo así las capas de protección para las personas cuyos rostros suelen emplearse como reclamo en estafas de alcance transnacional.

Entre las medidas internas adoptadas, Meta procedió a suspender métodos de pago asociados a las cuentas implicadas, inhabilitó perfiles y restringió los nombres de los sitios web empleados por estos anunciantes fraudulentos. La compañía comunicó, según relató el medio, que los responsables de intentar explotar a otros a través de las plataformas deberán enfrentar consecuencias directas. Esta posición fue expresada mediante el siguiente mensaje en su sitio web: “Quienes intenten explotar a otros en nuestras plataformas deberán rendir cuentas”.

Meta subrayó que la extensión y sofisticación de estos esquemas exige una supervisión continua y la introducción de barreras tecnológicas avanzadas, sobre todo ante el uso creciente de inteligencia artificial para evadir los procesos de control y revisión de contenidos promocionales. La empresa mantuvo que sus acciones buscan no solo frenar el avance de los actores maliciosos en sus redes, sino también disuadir la adopción de prácticas digitales engañosas entre quienes aspiran a beneficiarse mediante fraudes en línea.

Hasta la fecha referida, Meta persiste en la identificación y neutralización de actores y técnicas asociadas al ‘cebo de famosos’, manipulación digital y el uso fraudulento de la imagen de personalidades públicas, como parte de su política de protección frente a modalidades de estafa cada vez más especializadas que afectan a usuarios en diferentes regiones.

Las estafas digitales impulsadas por inteligencia artificial atraviesan una etapa de expansión sin precedentes. Un análisis realizado por especialistas de la AI Incident Database advierte que el fraude basado en contenidos generados por IA, como los deepfakes, ha dejado de ser un fenómeno marginal para convertirse en una herramienta accesible cuyo uso masivo ha llegado a una escala “industrial”.

La facilidad para crear videos, audios e imágenes falsificadas de manera personalizada y a bajo costo está transformando la dinámica de la ciberdelincuencia global.

Deepfakes y su impacto en el fraude digital

El estudio identifica más de una docena de casos recientes donde los delincuentes utilizaron herramientas de IA para suplantar identidades con fines de lucro. Entre los ejemplos figuran videos falsos del presidente de Chipre, periodistas suecos o el primer ministro de Australia Occidental, Robert Cook, promoviendo esquemas fraudulentos. También se reportaron deepfakes de supuestos médicos recomendando productos en línea.

Esta tendencia se refleja en incidentes de alto perfil, como el caso de un responsable financiero en una multinacional de Singapur que transfirió cerca de 500.000 dólares tras una videollamada manipulada con deepfakes que imitaban a sus superiores. En Reino Unido, se estiman pérdidas de 9.400 millones de libras por fraudes entre febrero y noviembre de 2025.

“Las capacidades han llegado a un punto donde prácticamente cualquiera puede generar contenido falso”, señala a The Guardian Simon Mylius, investigador del MIT vinculado al proyecto. Según sus cálculos, los fraudes y manipulaciones dirigidas representan la mayoría de los casos reportados en la base de datos durante los últimos meses.

La facilidad y velocidad de la estafa automatizada

El abaratamiento y mejora de los modelos de IA han acelerado la producción de deepfakes, facilitando su uso en campañas fraudulentas a gran escala. “Es tan barato que cualquiera puede utilizarlo. Los modelos están mejorando más rápido de lo que muchos especialistas preveían”, advierte Fred Heiding, investigador de Harvard enfocado en estafas potenciadas por IA.

Un caso reciente ilustra el alcance de la amenaza. Jason Rebholz, CEO de una compañía de seguridad de IA, publicó una vacante laboral y fue contactado por un candidato que, tras intercambios de correos, resultó ser una imagen generada por IA.

Durante la videollamada, el entorno y los bordes del rostro del supuesto candidato resultaban artificiales y poco definidos. Tras consultar con una firma de detección de deepfakes, Rebholz confirmó que el aspirante era un fraude digital. El objetivo del estafador sigue sin estar claro: podría haber buscado obtener un salario o acceder a información confidencial.

Rebholz advierte que este tipo de ataques ya no se limita a grandes empresas. “Si nosotros somos objetivo, cualquiera puede serlo”, afirma. Los expertos señalan que el verdadero desafío se vislumbra en el futuro próximo, a medida que la tecnología de clonación de voz y video perfeccione su calidad, haciendo aún más difícil distinguir entre lo real y lo falso.

Consecuencias y desafíos para la confianza digital

El crecimiento del fraude con IA plantea riesgos crecientes para la seguridad, la economía y la confianza pública. El uso de deepfakes y clonación de voz ya impacta procesos críticos, desde contrataciones laborales hasta campañas electorales. La capacidad de los estafadores para manipular audiencias, suplantar identidades y acceder a recursos financieros o secretos empresariales genera preocupación entre especialistas y autoridades.

Fred Heiding advierte sobre el peligro de una pérdida generalizada de confianza en instituciones digitales y en la veracidad de los contenidos que circulan en línea. “Ese será el gran punto de dolor: la ausencia total de confianza en las instituciones y materiales digitales”, sostiene.

La facilidad para adquirir y utilizar herramientas de IA abre la puerta a una industrialización del fraude, donde la escala y la personalización de los ataques aumentan el desafío para empresas, gobiernos y usuarios. El estudio concluye que la sociedad enfrentará un escenario en el que la autenticidad digital será cada vez más difícil de garantizar, obligando a reforzar las estrategias de prevención, detección y educación frente a los riesgos emergentes de la inteligencia artificial.

La creciente utilización de modelos de inteligencia artificial para crear imágenes de abuso sexual infantil ha encendido las alarmas en la comunidad internacional. UNICEF, la agencia de las Naciones Unidas para la infancia, ha solicitado a los países que penalicen de manera explícita la producción de este tipo de contenidos generados por IA.

La preocupación es especialmente intensa ante los reportes sobre el aumento de imágenes digitales que sexualizan a menores, tendencia que, según UNICEF, requiere una respuesta inmediata y coordinada.

Inteligencia artificial y abuso infantil: el pedido de acción de UNICEF

UNICEF ha reclamado medidas urgentes a los gobiernos y a la industria tecnológica para frenar el uso de la IA en la creación de imágenes que explotan sexualmente a los niños. La agencia subraya la necesidad de implementar enfoques de seguridad desde ​el diseño y medidas de protección para evitar el uso indebido de los ‌modelos de IA.

Además, insta a que las empresas digitales refuercen la moderación de contenidos e inviertan en tecnologías de detección para impedir que estas imágenes circulen por internet.

El organismo de la ONU advierte sobre el daño real que provocan los abusos mediante deepfakes, imágenes, videos y audios generados por IA que imitan a personas reales. “El daño que provoca el abuso mediante deepfake es real y requiere una acción inmediata. Los niños y niñas no pueden estar esperando a que la legislación se actualice”, recalca UNICEF en su comunicado.

Deepfakes y manipulación de imágenes

Otra de las preocupaciones de UNICEF es el uso de la inteligencia artificial para quitar o alterar la ropa en fotografías, generando imágenes falsas sexualizadas de menores. Este tipo de manipulación representa una amenaza creciente, ya que la tecnología hace cada vez más sencillo crear contenido falso convincente y potencialmente dañino.

Durante el último año, al menos 1,2 millones de niños y niñas de 11 países reportaron que sus imágenes habían sido manipuladas para crear deepfakes sexualmente explícitos. Este dato, presentado por UNICEF, pone en evidencia la urgencia de avanzar en regulaciones y respuestas tecnológicas a escala global.

Iniciativas y desafíos legales frente al contenido sexual infantil generado por IA

Gran Bretaña ha dado un paso al frente al anunciar su intención de ilegalizar el uso de herramientas de inteligencia artificial para crear imágenes de abuso sexual infantil, convirtiéndose en el primer país en adoptar una medida de este tipo. Esta decisión marca una tendencia creciente en la preocupación internacional por el uso de IA, especialmente en la generación de contenidos ilegales y dañinos.

En los últimos años, la atención pública se ha centrado también en los chatbots de IA, como Grok de xAI, propiedad de Elon Musk, que ha sido cuestionado por producir imágenes sexualizadas de mujeres y menores.

La presión sobre los desarrolladores y las plataformas tecnológicas para implementar filtros y mecanismos de seguridad se intensifica a medida que la tecnología avanza y los riesgos se multiplican.

UNICEF reitera la urgencia de actuar para proteger a la infancia, insistiendo en que la respuesta no puede esperar a que las leyes se adapten al ritmo de la innovación tecnológica. La protección de los derechos de los niños y niñas sigue siendo el eje de su llamado a la acción internacional.

Qué es UNICEF y cuál es su misión en la protección de la infancia

UNICEF, el Fondo de las Naciones Unidas para la Infancia, es una agencia internacional fundada en 1946 con el objetivo principal de proteger y promover los derechos de los niños, niñas y adolescentes en todo el mundo.

Su labor abarca una amplia variedad de áreas, como la salud, la educación, la nutrición, la protección contra la violencia y la emergencia humanitaria, asegurando que los menores tengan acceso a servicios básicos y a un entorno seguro para su desarrollo integral.

La organización trabaja en más de 190 países y territorios, colaborando con gobiernos, organizaciones no gubernamentales y comunidades locales para implementar programas y políticas que mejoren la calidad de vida de la infancia.

Además, UNICEF lidera campañas de sensibilización y abogacía para que los derechos de los niños sean respetados y se mantengan como prioridad en la agenda internacional, especialmente en contextos de crisis o vulnerabilidad.

El uso de inteligencia artificial para crear y distribuir imágenes íntimas falsas ha alcanzado una escala industrial en Telegram. Un análisis realizado por The Guardian identificó al menos 150 canales en la plataforma de mensajería que difunden desnudos deepfake generados por IA, afectando a mujeres de todo el mundo y facilitando el acceso instantáneo a contenido no consensuado.

Telegram, conocido por sus chats encriptados y la posibilidad de crear canales con miles de miembros, se ha convertido en uno de los principales espacios para este tipo de abuso digital. Los canales detectados operan en distintos países, desde Reino Unido y Brasil, hasta China, Nigeria, Rusia e India.

Algunos cobran por “desnudar” fotos mediante IA o por generar videos sexuales falsos de cualquier mujer a partir de una imagen. Otros distribuyen gratuitamente imágenes manipuladas de celebridades, influencers y mujeres que no son mediáticas, además de compartir consejos para el uso de estas herramientas.

Un ecosistema global de abuso digital

La disponibilidad de tecnologías de IA para manipular imágenes ha democratizado el acceso a la creación de pornografía deepfake. Ahora, cualquier usuario puede convertir a una mujer en objetivo de contenido sexual falso y viralizable, sin su conocimiento ni consentimiento.

En canales en ruso, por ejemplo, se promocionan bots capaces de generar videos explícitos a partir de una simple foto, mientras que en canales chinos —con decenas de miles de suscriptores— los usuarios difunden videos de exparejas o conocidas “desnudadas” por IA.

En Nigeria, los canales mezclan deepfakes con imágenes íntimas robadas, generando una red aún más compleja de violencia digital. Anne Craanen, investigadora del Instituto para el Diálogo Estratégico de Londres, explica que Telegram permite evadir los controles de plataformas más grandes como Google, además de facilitar la circulación de consejos para sortear las barreras que intentan imponer los desarrolladores de IA para evitar estos abusos.

El fenómeno, señala Craanen, no solo implica la producción y distribución de imágenes, sino que también se alimenta del “boasting” o alarde entre los usuarios sobre sus acciones, reflejando un trasfondo misógino destinado a humillar o silenciar mujeres.

La respuesta de Telegram ha sido eliminar miles de contenidos cuando son detectados. Según datos de la plataforma, en 2025 se retiraron más de 952.000 archivos relacionados con pornografía deepfake.

La empresa asegura que estos materiales y las herramientas que los generan están prohibidos por sus términos de servicio, y que utiliza sistemas de moderación apoyados en IA para identificar y eliminar el material infractor. Sin embargo, el volumen y la velocidad con la que surgen nuevos canales y bots superan la capacidad de control.

Falta de regulación y consecuencias para las víctimas

La proliferación de deepfakes sexuales en Telegram es el reflejo de un problema que atraviesa todo el ecosistema digital. El informe de la Tech Transparency Project reveló que existen decenas de aplicaciones de “nudificación” disponibles en las tiendas de Google y Apple, con más de 700 millones de descargas en conjunto. Aunque ambas compañías han eliminado varias de estas apps tras el reporte, otras continúan activas o reaparecen bajo diferentes nombres.

El vacío legal es otro factor clave. Solo un 40% de los países cuentan con leyes para proteger a mujeres y niñas del acoso o la violencia digital, según datos del Banco Mundial y la ONU. En el sur global, la falta de regulación, la baja alfabetización digital y la pobreza agravan la vulnerabilidad.

Activistas y especialistas como Ugochi Ihe, de la organización nigeriana TechHer, reportan casos de mujeres extorsionadas mediante deepfakes creados por prestamistas o conocidos. El impacto trasciende lo digital: las víctimas enfrentan aislamiento, problemas de salud mental, pérdida de empleo y rechazo social o familiar.

Mercy Mutemi, abogada en Kenia que representa a víctimas de este tipo de abuso, advierte sobre las consecuencias irreparables: “Una vez que la imagen circula, no hay forma de recuperar la dignidad ni la identidad. Aunque se demuestre que fue un deepfake, el daño ya está hecho”. Su experiencia incluye jóvenes expulsadas de la escuela o privadas de oportunidades laborales por la circulación de imágenes manipuladas sin su consentimiento.

La escala y gravedad de este fenómeno subrayan la urgencia de promover marcos legales más sólidos, estrategias de prevención y mayor responsabilidad por parte de las plataformas tecnológicas para proteger la privacidad y la integridad de las mujeres en el entorno digital.

La proliferación de contenidos generados por IA ha hecho que la detección de fraudes y falsificaciones digitales sea cada vez más desafiante, especialmente para ciertos grupos de edad. Una prueba reciente desarrollada por The Care Side, una entidad australiana de cuidado domiciliario, evidencia que los menores de 29 años identifican la mayoría de los deepfakes, mientras que los mayores de 65 aciertan solo en la mitad de los casos, muchas veces por simple azar.

Influencia de la edad y el conocimiento digital en la detección de deepfakes

El test de The Care Side, en el que participaron más de 3.000 personas, muestra que la capacidad para distinguir contenidos generados por IA varía según la edad y el nivel de formación digital. Mientras los jóvenes reconocen ocho de cada 10 fraudes, los adultos mayores presentan mayores dificultades.

Las personas mayores de 65 años solo logran identificar un poco más del 50% de los casos y, en numerosas ocasiones, sus aciertos se deben al azar más que a un razonamiento consciente.

Sin embargo, expertos como Hervé Lambert, de Panda Security, sostienen que el riesgo no es exclusivo de una generación, ya que la falta de concentración y la evolución de las amenazas afectan a todos los usuarios. Lambert dijo a El País que la inteligencia artificial aprovecha los momentos de menor atención para burlar a las personas, y subraya que la educación digital es clave, más allá de la edad.

“Creo que es un error limitar el problema a una cuestión generacional. La IA es muy inteligente y sabe perfectamente que hay contextos y momentos del día donde vamos a tener muchísima menos concentración en una cosa y eso lo utiliza muy bien”, sostuvo.

Marti DeLiema, del Centro de Envejecimiento Saludable e Innovación de la Universidad de Minnesota, coincide en que la IA ha cambiado radicalmente el panorama del fraude para toda la sociedad.

Por su parte, Josep Albors, de ESET España, advierte que los delincuentes explotan la IA para crear campañas de fraude cada vez más convincentes, utilizando imágenes, audios y videos difíciles de distinguir de los reales.

“Estamos viendo videos muy bien en generados con unas voces idénticas a las personas que suplantan”, dijo Albors durante la última edición de los premios de comunicación de su compañía global de ciberseguridad.

Cómo detectar fraudes con IA: texto, imagen, audio y video

El estudio de The Care Side también identifica recomendaciones concretas en función del tipo de mensaje falso. La sofisticación de los deepfakes y otros fraudes digitales exige prestar atención a detalles específicos en distintos formatos. En los mensajes de texto, conviene desconfiar de saludos genéricos, plazos urgentes, solicitudes de datos personales o transferencias sin verificación, y errores de redacción.

En imágenes, las señales de alerta incluyen simetrías inusuales en los rostros, manos deformes o borrosas, texturas excesivamente suaves y fondos poco coherentes.

En el caso de los audios, las voces artificiales suelen presentar pausas no naturales, ritmos robóticos, cambios abruptos en el tono, ruidos extraños o respuestas descoordinadas.

Los videos, por su parte, pueden evidenciar movimientos faciales incoherentes, desincronización de labios y párpados, o gestos poco humanos.

Educación digital y herramientas: claves para enfrentar los riesgos de la IA

Especialistas resaltan que la vulnerabilidad frente a los deepfakes y fraudes con IA se debe, en gran medida, a la falta de conocimiento, concienciación y formación, especialmente cuando se realizan varias tareas a la vez.

Aunque existen herramientas para detectar la participación de la IA en la creación de contenidos, Hervé Lambert considera que solo limitan el riesgo, sin eliminarlo por completo.

Por eso, la educación en escenarios reales y la práctica constante para identificar señales de alerta resultan imprescindibles. Josep Albors lamenta además la tendencia de los usuarios a no contrastar la información en fuentes fiables, lo que aumenta la exposición a engaños.

Qué es un deepfake y por qué representa un riesgo digital

Un deepfake es un contenido digital manipulado mediante inteligencia artificial, que utiliza técnicas avanzadas de aprendizaje automático para superponer rostros, voces o movimientos de una persona sobre imágenes, videos o audios, logrando resultados extremadamente realistas.

Este tipo de tecnología permite crear simulaciones convincentes en las que una persona parece decir o hacer cosas que nunca ocurrieron en la realidad.

El auge de los deepfakes ha generado preocupación porque, aunque pueden emplearse en entretenimiento o publicidad, también facilitan la difusión de fraudes, desinformación y suplantaciones de identidad. La dificultad para distinguirlos de contenidos auténticos convierte a los deepfakes en una amenaza creciente para la confianza y la seguridad digital.

Grok, el sistema de inteligencia artificial desarrollado por xAI para la red social X, afronta un cambio de rumbo tras una oleada de críticas y problemas judiciales en distintas partes del mundo. Desde hace pocos días, la herramienta ya no permite a sus usuarios crear ni modificar imágenes de personas reales para mostrar semidesnudos o prendas reveladoras como bikinis.

Esta decisión, anunciada por la propia compañía a través de sus canales oficiales, responde a la presión social, mediática y legal que ha caído sobre la plataforma de Elon Musk.

Qué cambia en Grok y para quién

La función de generación de imágenes de Grok se había convertido en un foco de controversia. Cualquier usuario podía solicitar la creación o edición de fotos de personas reales, muchas veces sin su consentimiento. Esto llevó a una proliferación de imágenes sexualizadas, tanto de figuras públicas como de personas anónimas, y derivó en una respuesta contundente por parte de la empresa.

De acuerdo con los anuncios de X y xAI, se han implementado medidas tecnológicas para evitar que la cuenta @Grok permita editar imágenes de personas reales en ropa reveladora, como bikinis. La compañía aclara que esta restricción afecta a todos los usuarios, incluidos los suscriptores de pago.

De este modo, la posibilidad de crear o manipular imágenes mediante la mención a la cuenta Grok en X queda limitada a los suscriptores, lo que pretende facilitar la rendición de cuentas si se abusa de la herramienta.

La medida también incorpora bloqueos geográficos. Según la propia X, se ha “geobloqueado la capacidad de todos los usuarios para generar imágenes de personas reales en bikini, ropa interior y prendas similares en aquellas jurisdicciones donde es ilegal”.

A pesar de las restricciones, medios como The Verge han comprobado que aún es posible generar imágenes semidesnudas, lo que pone en duda la eficacia inmediata de las nuevas barreras tecnológicas. Según sus pruebas, usando una cuenta gratuita, los periodistas lograron crear imágenes de personas en bikini, incluso después de la supuesta entrada en vigor de la restricción.

Por qué tuvieron que hacer estos cambios en Grok

La decisión de limitar la capacidad de Grok para crear imágenes sexualizadas surge en un contexto de amplia presión social y legal. La comunidad científica, varias figuras públicas y numerosos usuarios anónimos habían denunciado el uso de la inteligencia artificial para la generación de imágenes no consentidas, calificando la práctica de invasiva y sexualizante. El problema no solo afectaba a celebridades, sino también a menores y adultos ajenos a la vida pública.

En paralelo a las quejas sociales, se abrieron procesos judiciales y medidas legales en varias partes del mundo. Malasia e Indonesia fueron los primeros países en prohibir el uso de Grok por la creación de imágenes desnudas o semidesnudas.

En Francia, Reino Unido, Australia, Irlanda e India, así como en el ámbito de la Comisión Europea, se han anunciado investigaciones contra X, muchas de ellas centradas en la generación de imágenes sexualizadas o “deepfakes” de menores.

En el Reino Unido, el regulador de comunicaciones Ofcom abrió una investigación, mientras que el gobierno británico impulsa una ley que convierte en delito la creación de imágenes íntimas “deepfake” no consentidas.

El primer ministro Keir Starmer declaró que X está tomando medidas para “asegurar el pleno cumplimiento de la ley británica”, aunque aclaró que el gobierno no bajará la guardia y exigirá resultados verificables.

El comunicado oficial de X subraya el compromiso con la seguridad y la “tolerancia cero” ante la explotación sexual infantil, la desnudez no consentida y cualquier contenido sexual no deseado. La empresa asegura que elimina contenido violatorio de manera prioritaria, reporta cuentas que buscan material de explotación sexual infantil y colabora activamente con las autoridades legales.

Estos materiales, generados con tecnologías de deepfake, buscan inducir a los usuarios a invertir en supuestas oportunidades financieras que son completamente falsas y no cuentan con ningún tipo de respaldo ni autorización por parte del empresario ni de la organización.

Ahora puede seguirnos en Facebook y en nuestro WhatsApp Channel

En su comunicado oficial, la Comercializadora Arturo Calle SAS enfatizó que no promueve, patrocina ni realiza ningún tipo de captación de dinero o invitación a invertir a través de plataformas digitales o redes sociales.

La empresa advirtió que los videos en cuestión explotan el prestigio y la buena imagen tanto de la marca como de sus figuras públicas para generar una confianza indebida, con el único propósito de engañar y estafar a potenciales víctimas.

Además, la compañía instó a la ciudadanía y a los medios de comunicación a tomar medidas de precaución y a no reproducir ni difundir estos contenidos.

Uno de los videos fraudulentos, que ha alcanzado hasta cinco millones de vistas en Youtube, utiliza fragmentos de una entrevista que Arturo Calle concedió a La República en febrero de 2014, así como imágenes del presentador Jorge Alfredo Vargas extraídas de una emisión de su programa Voz populi, de Blu Radio.

En el material manipulado, la voz y la imagen de Vargas, alteradas con inteligencia artificial, afirman que “los colombianos que abran una cuenta con $430.000 antes de fin de mes, podrán ganar fácilmente 12 millones de pesos a la semana”, para luego presentar al empresario prometiendo rendimientos financieros acelerados o garantizados a corto plazo.

La empresa subrayó que Arturo Calle no ha autorizado participar en la producción, difusión o promoción de dicho material audiovisual.

La organización reiteró que desconoce y rechaza cualquier estrategia que, utilizando el nombre de Arturo Calle, prometa retornos financieros acelerados o garantizados.

En comunicado dice: “La suplantación de identidad busca explotar el prestigio y la buena imagen de la marca y de sus figuras públicas para generar una confianza indebida, con el único propósito de engañar y estafar a potenciales víctimas”.

Ante la proliferación de estos fraudes, la empresa recomendó a los usuarios desestimar de inmediato cualquier contenido de esta naturaleza, incluso si aparentemente está respaldado por medios reconocidos.

Además, aconsejó abstenerse de hacer clic en enlaces o proporcionar información personal, credenciales de acceso o datos financieros en respuesta a estas publicaciones. Arturo Calle SAS solicitó a los ciudadanos reportar este tipo de publicaciones en las plataformas digitales y presentar las denuncias correspondientes ante las autoridades judiciales competentes.

La compañía también ofreció pautas para identificar videos generados con inteligencia artificial: observar con atención los rostros, manos y la sincronización entre imagen y audio, ya que suelen presentar errores sutiles en expresiones faciales, parpadeos o movimientos de manos; analizar la iluminación, las sombras y la consistencia del fondo, pues las irregularidades pueden ser señales de manipulación; verificar la naturalidad del parpadeo y el movimiento de los ojos; revisar la fuente y el contexto del video; y utilizar herramientas automáticas de detección de deepfakes.

En su mensaje final, Arturo Calle SAS reiteró: “No respaldamos ni promovemos ningún tipo de inversión o plataforma, tampoco promovemos ninguna estrategia de grandes rendimientos a corto plazo por medio de videos o sitios fraudulentos”.

La empresa invitó a la ciudadanía a no interactuar con estos contenidos y a denunciar ante las autoridades si recibe mensajes de supuestas oportunidades para invertir a nombre de la compañía.

La Asociación Japonesa de Radiodifusores Comerciales (JBA) ha alertado sobre la posibilidad de que la tecnología Sora 2 de OpenAI haya generado videos que replican de forma muy similar, e incluso idéntica, escenas y contenidos originales protegidos por derechos de autor, pertenecientes a productoras japonesas de anime y otros sectores de la industria creativa. Según informó el diario Asahi Shimbun, la asociación, que representa a 207 empresas de radiodifusión en el país, ha manifestado sus inquietudes sobre el uso no autorizado de material protegido durante la fase de entrenamiento del modelo de inteligencia artificial desarrollado por la empresa estadounidense.

El comunicado difundido por la JBA y citado por Asahi Shimbun detalló que Sora 2 permite la producción de videos cuya estética, composición y características audiovisuales resultan prácticamente indistinguibles de las obras originales generadas por las compañías miembro. La asociación consideró que esta situación se produce porque OpenAI ha utilizado contenido original propiedad de las empresas japonesas en el proceso de formación de su modelo, sin contar con el consentimiento legalmente requerido. De acuerdo con lo expresado por la JBA, cualquier entrenamiento de herramientas de inteligencia artificial generativa con material de propiedad industrial y derechos de autor no solo constituye una violación legal, sino que también ocasiona daños civiles adicionales como perjuicios a la marca y posibles casos de difamación.

La JBA expuso en su declaración que la tecnología desarrollada por OpenAI, capaz desde septiembre de 2024 de crear paisajes sonoros realistas, sincronizar diálogos con imágenes y mejorar otros aspectos técnicos, ha facilitado la difusión en internet de videos resultado de este proceso. La organización advirtió que las partes perjudicadas incluyen no solo a las empresas, sino también a autores originales, guionistas, compositores y equipos de producción, cuyos intereses económicos y personales quedarían expuestos a daños significativos.

En palabras de la JBA recogidas por Asahi Shimbun, el uso no autorizado de estos contenidos generados por IA "podría destruir la cultura y el ecosistema de producción de contenidos de Japón". La organización señaló que la problemática no se limita a la industria del anime, sino que también afecta a otros géneros de contenidos, como los programas informativos, cuya reproducción no autorizada podría representar una alteración importante en la vida pública. El comunicado advirtió sobre posibles consecuencias adicionales, como la generación de videos deepfake, imágenes falsas de catástrofes o políticos, y discursos de odio, fenómenos que podrían aumentar la ansiedad social, distorsionar la percepción pública y dañar la credibilidad de la información transmitida por las emisoras afiliadas a la JBA.

De acuerdo con lo publicado por Asahi Shimbun, la JBA transmitió varias recomendaciones dirigidas tanto a OpenAI como a otras empresas desarrolladoras de inteligencia artificial generativa. Entre sus sugerencias incluyó la aplicación de mecanismos para impedir el uso no autorizado de contenidos protegidos tanto para el entrenamiento de modelos como para la creación de nuevos contenidos audiovisuales similares a los originales. Además, la organización indicó la necesidad de eliminar de manera proactiva todo contenido generado y distribuido que reproduzca material protegido, incluso si ya circula a través de plataformas o páginas web gestionadas por los propios desarrolladores de estas tecnologías.

Finalmente, tal como detalló Asahi Shimbun, la JBA instó a las empresas responsables del desarrollo de inteligencia artificial a atender de forma transparente y responsable las reclamaciones de las entidades titulares de los derechos vulnerados, enfatizando la obligación de responder de manera sincera ante posibles incumplimientos relacionados con derechos de autor.

La función de ChatGPT como experto en múltiples disciplinas y su capacidad para elaborar programas completos de manera autónoma han sido características incorporadas tras la llegada de GPT-5, disponible desde el pasado verano. Esta evolución refleja el desarrollo acelerado de las capacidades de la inteligencia artificial de OpenAI, según informó Europa Press, donde se destaca que ahora el chatbot es capaz de mantener interacciones más naturales, ofrecer respuestas adaptadas a distintas personalidades y resolver problemas complejos en campos como la ciencia, la programación y las matemáticas. ChatGPT cumple este domingo tres años desde su lanzamiento, un período en el que ha transformado radicalmente su impacto en ámbitos educativos, laborales y personales.

Europa Press detalló que la herramienta, utilizada por cerca de 800 millones de personas en todo el mundo, ha superado su función inicial de generación de contenido para posicionarse como un recurso personalizado en distintos contextos. El diseño conversacional de ChatGPT permite que los usuarios lo consulten no solo como buscador, sino también como colaborador profesional, asesor personal y confidente. La interacción multimodal y el razonamiento avanzado se han consolidado como sus principales rasgos distintivos.

Desde su aparición, ChatGPT basó su funcionamiento en modelos de lenguaje extensos, comenzando con GPT-3.5, que ya facilitaba respuestas coherentes y la simulación de un diálogo realista. Con la llegada de GPT-4, la plataforma incorporó habilidades para comprender no solo texto, sino también imágenes y voz. Esta expansión permitió que las conversaciones con la inteligencia artificial dejaran de limitarse al texto escrito, integrando así más formatos de entrada y aumentando la riqueza y profundidad de la interacción entre usuario y sistema.

OpenAI reforzó su apuesta por el razonamiento al lanzar modelos enfocados exclusivamente en este ámbito, denominados serie “o”. Europa Press explicó que estas versiones dedican más tiempo al procesamiento de cada consulta, lo que mejora la calidad de las soluciones aportadas, especialmente en la resolución de retos complejos. El sistema también avanzó en la navegación autónoma en internet mediante los modelos agente o3 y o4-mini, calificados por la compañía como capaces de decidir cuándo y cómo emplear diversas herramientas para producir respuestas detalladas y en menos de un minuto.

El desarrollo de estas funciones permitió que ChatGPT se posicionara como un experto en distintas áreas y pudiera generar, a partir de pocas instrucciones, programas completos y detallados. La evolución de la herramienta también abarcó mejoras en la naturalidad de sus interacciones con los usuarios, llegando a modificar respuestas de acuerdo a la personalidad de quien consulta, según publicó Europa Press.

No obstante, la difusión masiva de ChatGPT viene acompañada de desafíos. Uno de los principales se refiere al fenómeno conocido como alucinaciones o engaños, donde el chatbot crea información falsa o presenta datos incorrectos. Este problema, como consignó Europa Press, no afecta solo a ChatGPT, sino que también aparece en otros sistemas similares como Gemini, Claude, Perplexity y Grok. La dificultad principal radica en la tendencia de los usuarios a considerar estos chatbots como fuentes fiables, lo que podría llevar a la difusión y aceptación de información falsa.

Para abordar estos riesgos, OpenAI y otras empresas han implementado estrategias que buscan reforzar el entrenamiento de sus modelos, además de exigir que las respuestas incluyan las fuentes consultadas. Asimismo, se han perfeccionado los filtros que indican cuando una petición no puede completarse, y se rechazan preguntas que puedan resultar peligrosas para los usuarios. Europa Press señaló que estas medidas pretenden reducir el margen de error y mejorar la transparencia en el uso de la herramienta.

Otro desafío surgido con el uso de sistemas conversacionales como ChatGPT afecta a la salud mental de algunos usuarios. Europa Press reportó que la dependencia emocional de ciertos individuos hacia el chatbot, en ocasiones empleado como confidente, ha derivado en complicaciones, particularmente entre adolescentes. OpenAI ha afirmado que GPT-5 cuenta con una mejor identificación de señales durante la conversación que podrían evidenciar problemas emocionales o de salud mental, limitando así el riesgo de respuestas que puedan agravar la situación. Además, la compañía añadió funciones que permiten la supervisión de las interacciones por parte de padres y tutores, junto con mecanismos que restringen el acceso a determinados contenidos y preparan la verificación de la edad para adaptar la experiencia a menores.

La importancia de contar con salvaguardias adecuadas cobró actualidad luego de la demanda presentada en Estados Unidos por una familia que responsabilizó a ChatGPT en el suicidio de un adolescente, debido a la falta de efectividad de los sistemas de protección. Según el reporte de Europa Press, este caso subrayó la necesidad de mejorar las herramientas de supervisión y control, un proceso que OpenAI emprendió tras conocerse el incidente.

Las cuestiones legales sobre derechos de autor permanecen como un desafío desde el inicio de ChatGPT. El medio Europa Press recordó que el entrenamiento de los modelos de inteligencia artificial implica procesar una enorme cantidad de datos, entre los que se incluyen textos, imágenes, vídeos y audios que a veces no proceden de fuentes de libre utilización. Este hecho ha llevado a que distintas voces alerten sobre la posible infracción de derechos de propiedad intelectual.

Por último, la seguridad cibernética representa otra preocupación clave. Según Europa Press, desde las primeras fases de desarrollo de ChatGPT se detectó su potencial para generar malware, convirtiéndose en una herramienta que también puede ser empleada para la distribución de campañas maliciosas y la producción de contenido con información manipulada. OpenAI y otros desarrolladores han introducido restricciones y filtros, pero los riesgos asociados no han desaparecido completamente.

ChatGPT también ha sido vinculado a la generación de vídeos y fotografías que simulan situaciones reales y reproducciones fidedignas de voces de personalidades públicas, denominadas “deepfakes”. Europa Press precisó que estos recursos se utilizan para la difusión de noticias falsas, desinformación, propaganda y contenidos pornográficos, así como para cometer fraudes financieros.

Durante sus tres años de existencia, ChatGPT ha experimentado una transformación constante, pasando de ser un generador de contenido a uno de los compañeros tecnológicos más avanzados para usuarios de distintas edades y profesiones. Las mejoras introducidas persiguen robustecer la fiabilidad de la herramienta y frenar los posibles usos indebidos mientras continúan surgiendo nuevos debates y desafíos en el camino de la inteligencia artificial conversacional.

La habitual tranquilidad de Almendralejo, una localidad de 30.000 habitantes en Badajoz, España, se interrumpió en septiembre de 2023 por la difusión de imágenes de menores generadas con inteligencia artificial, un suceso que provocó conmoción en la comunidad escolar. El caso, que impactó a casi treinta adolescentes, supuso un antes y un después en la protección de menores ante los riesgos de la tecnología digital.

La Agencia Española de Protección de Datos (AEPD) impuso una sanción económica a uno de los menores responsables. Esta es la primera multa de este tipo en Europa, según confirmó la agencia a ABC.

El incidente salió a la luz después de que Pedro, padre de una de las víctimas, descubriera que su hija de 14 años había sido incluida en un grupo de WhatsApp del instituto IES Santiago Apóstol, donde circulaban imágenes manipuladas en las que aparecía desnuda junto a otras compañeras. Aunque las fotografías eran falsas y elaboradas con inteligencia artificial, el daño emocional resultó inmediato y profundo.

Pedro relató al medio español que, al ver una de las imágenes, supo que se trataba de un montaje digital: “Habían usado su cara y su cuerpo y la habían convertido en otra cosa”. La familia intentó detener la difusión contactando a otros padres, al colegio y a la Policía, pero la viralidad de los mensajes impidió cualquier control efectivo.

“Fue como intentar recoger agua con las manos”, recordó Pedro, quien destacó el impacto psicológico que la situación tuvo en su hija y en el entorno familiar.

Sanción pionera y respuestas contrapuestas

La resolución de la AEPD, comunicada en abril de 2025, fijó una multa de 2.000 euros para uno de los menores que compartió las imágenes, reducida a 1.200 euros tras el reconocimiento de responsabilidad y el pronto pago efectuado por los padres del sancionado el cinco de abril de 2025.

La resolución no identificó públicamente a las víctimas ni al menor sancionado y eximió de responsabilidad a la aplicación utilizada, ClothOff, así como a las plataformas de mensajería. Este caso marca la primera sanción económica impuesta por una agencia europea por la distribución de contenido falso de menores creado con inteligencia artificial.

Las reacciones de las familias afectadas han sido dispares. Pedro agradeció la intervención de las autoridades, pero expresó su decepción por la cuantía de la multa: “Destruir la salud mental de mi hija les ha salido por solo 1.200 euros”. Sostuvo que el daño, en una comunidad pequeña como Almendralejo, se amplifica, y añadió que su hija, antes extrovertida y confiada, ahora teme usar el móvil o encontrarse con conocidos que hayan visto las imágenes.

Por su parte, Miriam Al Adib, madre de otra de las menores, mostró satisfacción con el proceso y la resolución: “Todo está bien como está”. Consideró que la sentencia fue justa y necesaria, y explicó que el objetivo nunca fue perjudicar a los menores implicados, sino buscar justicia y una sentencia que reconociera que lo ocurrido fue un delito de pornografía infantil.

Subrayó que pretendían “dignificar a sus hijas y evitar que el caso quedara impune”, ya que ignorar lo sucedido habría enviado un mensaje peligroso. Además, insistió en la importancia de que los responsables aprendan de lo ocurrido más allá de pagar una multa: “Queremos que esos niños se eduquen, no que paguen dinero”.

El impacto psicológico y social en las víctimas y la comunidad ha sido profundo. Pedro señaló que su hija ya no es la misma y que la familia necesitó apoyo psicológico. Miriam consideró que el proceso permitió “sanar la herida”, que su hija no ha sufrido secuelas y que los menores responsables no han actuado con arrogancia tras la resolución.

Precedente legal y cambios institucionales

El caso de Almendralejo ha tenido repercusiones legales en España y Europa. Según ABC, tras este episodio la difusión de imágenes falsas de menores generadas con inteligencia artificial fue incorporada como delito de pornografía infantil en España. Miriam Al Adib integró el comité de cincuenta expertos del Ministerio de Juventud e Infancia que elaboró el informe base para la nueva legislación sobre el uso de imágenes falsas.

La resolución de la AEPD y la coordinación institucional han creado un precedente para la protección de menores frente a los riesgos de la inteligencia artificial y favorecido cambios legislativos para abordar delitos similares. La experiencia de Almendralejo demostró que una respuesta institucional y social decidida puede ofrecer esperanza y justicia a las comunidades ante desafíos tecnológicos emergentes.

El reciente uso de tecnología deepfake para suplantar la identidad de Jensen Huang, CEO de Nvidia, en una transmisión fraudulenta de YouTube, ha puesto en evidencia la sofisticación de las estafas digitales y la vulnerabilidad de miles de usuarios ante estos engaños.

Más de 100.000 personas fueron víctimas de este fraude, que coincidió con la celebración real de la GPU Technology Conference (GTC), lo que otorgó una apariencia de legitimidad al evento falso.

Por qué miles de personas cayeron en este fraude que suplantó al CEO de Nvidia

La transmisión, emitida por un canal denominado NVIDIA LIVE, se lanzó de manera simultánea a la conferencia oficial de la compañía referente en GPUs y computación avanzada.

Este detalle estratégico permitió que la emisión fraudulenta se posicionara por encima del canal auténtico de Nvidia en los resultados de búsqueda de YouTube, lo que incrementó su visibilidad y atrajo a una audiencia que llegó a quintuplicar la del evento real.

Durante la retransmisión, un avatar digital de Jensen Huang, generado mediante inteligencia artificial, simuló un discurso en el que se anunciaba un supuesto “evento de adopción masiva de criptomonedas”.

El falso directivo invitaba a los espectadores a enviar bitcoin o ethereum a una dirección específica, prometiendo duplicar los activos recibidos. Un código QR en pantalla dirigía a los usuarios a una página web vinculada a la estafa.

Cómo se usó la inteligencia artificial para darle mayor credibilidad al deepfake

La calidad del deepfake resultó determinante para el éxito del engaño. Los expertos en ciberseguridad han destacado que la sincronización de voz, los gestos y el realismo visual del avatar alcanzaron un nivel sin precedentes, lo que dificultó la detección del fraude por parte de los espectadores.

Según los analistas citados por El Confidencial, este caso demuestra la capacidad de las herramientas de IA generativa para imitar figuras públicas con una precisión que plantea serios desafíos para la seguridad digital.

Los especialistas coinciden en que se trató de un esquema clásico de phishing, adaptado a un formato audiovisual y potenciado por la tecnología deepfake.

Qué fue lo que realmente trató el evento de Nvidia

En la conferencia oficial, el verdadero Jensen Huang presentó las novedades de la compañía en inteligencia artificial y centros de datos, anunciando inversiones estratégicas en robótica y una colaboración con Nokia.

Además, el ejecutivo subrayó el papel de Nvidia en el desarrollo de sistemas de aprendizaje automático. Sin embargo, se puede decir que la magnitud del fraude digital desvió la atención del contenido genuino del evento, afectando la percepción pública y la cobertura mediática.

Cómo saber si un video es real o está manipulado por inteligencia artificial

El Instituto Nacional de Ciberseguridad de España (INCIBE) ha publicado una serie de medidas para identificar deepfakes, fake news y otras amenazas potenciadas por inteligencia artificial, que solo buscan manipular o robar datos y dinero a los usuarios.

Entre los indicios que ayudan a detectar estos montajes audiovisuales, el INCIBE sugiere desconfiar de videos con títulos sensacionalistas o alarmantes, examinar a detalle la imagen en busca de inconsistencias en sombras, color de piel o gestos, y prestar atención a la sincronización entre el audio y la imagen.

Asimismo, advierte que los videos de corta duración suelen facilitar la ocultación de errores propios de los deepfakes. El instituto sugiere utilizar el sentido común y contrastar la información en varias fuentes cuando un contenido alarmante se difunde rápidamente en redes sociales.

En cuanto a las noticias falsas o fake news, el organismo de ciberseguridad español aconseja verificar siempre la fuente original de la información y consultar múltiples medios de confianza antes de dar por cierta cualquier noticia encontrada en internet y evitar así difundir más desinformación.

Una mujer de West Palm Beach, Florida (Estados Unidos), se salvó de un posible robo luego de que desconocidos intentaran engañarla usando un video "deepfake" que simulaba el hurto de la camioneta de su esposo. El episodio abre un nuevo capítulo en la evolución de los delitos tecnológicos y evidencia el potencial de la inteligencia artificial como herramienta para la ingeniería social y la extorsión.

Cómo ocurrió el intento de estafa con inteligencia artificial

El hecho tuvo lugar cuando Melanie Valentine se encontraba haciendo duplicados de llaves en el estacionamiento de una ferretería, sobre Palm Beach Lakes Boulevard, alrededor de las 22:00 del 17 de octubre de 2025.

Según relató al medio local WPTV, un joven de aproximadamente 20 años se le acercó y, mostrándole su teléfono móvil, le enseñó un video que supuestamente registraba el momento en el que la camioneta estaba siendo robada en ese mismo aparcamiento.

El video parecía auténtico y mostraba imágenes de calidad, como si hubieran sido captadas por una cámara de seguridad. El individuo no solo le mostró el material, sino que insistió en que lo siguiera fuera del local para “capturar al ladrón” antes de que escapara.

No obstante, la mujer decidió confiar en su intuición, optando por comunicarse con la policía antes de actuar impulsivamente. Mientras tanto, un vecino se acercó al vehículo y confirmó que seguía en el lugar, aunque también notó a otra persona agachada detrás de la camioneta, lo que motivó el aviso inmediato al personal de seguridad.

Según la propia víctima, la agente que acudió al lugar reconoció que nunca antes había escuchado de un método de engaño similar, pero no descartó que la tendencia crezca a medida que los recursos tecnológicos se vuelven más accesibles para los delincuentes. “Afortunadamente, tuve la sensatez. No los seguí afuera, ya sabes, porque ¿quién sabe qué habría pasado?”, afirmó Valentine.

El peligro de la IA en la nueva ola de estafas digitales

La alarma por esta modalidad crece junto con la capacidad de manipulación de imágenes y videos mediante inteligencia artificial. DeepStrike, una firma de ciberseguridad, ha estimado que el fraude financiero facilitado por IA generativa superará los 40.000 millones de dólares en 2027 solo en Estados Unidos, multiplicando por más de tres el valor registrado en 2023.

En cuanto a los deepfakes, la consultora señaló un crecimiento de 500.000 videos y fotos manipuladas en 2024 se espera llegar a cerca de 8 millones a fin de año, según estimaciones citadas en un reciente informe de la compañía.

Cuáles son los riesgos del uso de deepfakes

El fenómeno del deepfake preocupa tanto por sus implicaciones directas en la vida cotidiana como por el impacto potencial en la esfera pública. El Observatorio de Deepfake de ISMS Forum, en su reporte “Deepfakes: Riesgos, Casos Reales y Desafíos en la Era de la IA”, alertó que la manipulación sintética de contenidos no solo favorece la suplantación de identidad para fraudes bancarios y transferencias ilícitas, sino que puede emplearse para desinformar, socavar procesos electorales o dañar reputaciones.

En el plano personal, los expertos advirtieron sobre la producción de imágenes o videos íntimos manipulados, utilizados en campañas de extorsión y ciberacoso, así como los desafíos legales para autenticar pruebas digitales. La posibilidad de que los deepfakes burlen sistemas de autenticación biométrica añade una capa adicional de preocupación para la protección de datos y la ciberseguridad.

Los expertos han insistido en la necesidad de mantenerse alerta, contrastar la información y no confiar de inmediato en lo que muestran las pantallas, sean textos, imágenes o videos.

La investigación policial de West Palm Beach continúa, mientras casos como el de Valentine ilustran el creciente desafío que representa la inteligencia artificial cuando se utiliza con fines delictivos. El episodio recuerda el potencial transformador de la tecnología, tanto en lo positivo como en lo negativo, y la urgencia de fortalecer la educación digital y los sistemas de control en la era de los contenidos sintéticos.

En un entorno corporativo que avanza a la velocidad de la tecnología, la inteligencia artificial (IA) se ha convertido en una herramienta transformadora que está modificando la forma en que las empresas operan, se comunican y se protegen. Sin embargo, este cambio también trae consigo nuevos riesgos que exigen estrategias de seguridad más amplias y una comprensión más profunda del entorno digital.

Durante el CyberForum 2025, realizado en Bogotá, expertos de distintos sectores coincidieron en que la ciberseguridad ha dejado de ser un asunto técnico para convertirse en un eje estratégico de la gestión empresarial. La llegada de la IA amplifica tanto las oportunidades como las vulnerabilidades, y las organizaciones que no adopten una cultura digital sólida podrían quedar expuestas a amenazas cada vez más sofisticadas.

Luis Fernando Londoño, líder de Transformación para Mercer Colombia, Centroamérica y el Caribe, destaca que la irrupción tecnológica está reconfigurando la naturaleza misma del trabajo: “Cuando uno habla de inteligencia artificial, está hablando de una herramienta que complementa el mundo del trabajo hoy en día”, señaló a Infobae Tecno. Para él, el reto ya no consiste solo en usar la tecnología, sino en entenderla, integrarla y protegerla dentro de las estructuras organizacionales.

Una nueva dimensión del riesgo digital

La digitalización masiva de los procesos empresariales ha ampliado la superficie de ataque de las compañías. Cada interacción en línea, cada base de datos conectada y cada aplicación integrada supone un posible punto de entrada para los ciberataques. En este contexto, la IA ha transformado tanto las defensas como las ofensivas: mientras permite automatizar la detección de amenazas y mejorar la respuesta, también potencia las capacidades de los atacantes.

Los especialistas coinciden en que esta dualidad tecnológica plantea un dilema sin precedentes. Por un lado, las organizaciones dependen cada vez más de algoritmos para proteger sus activos digitales; por otro, esas mismas tecnologías pueden ser utilizadas para crear ataques más precisos, como los deepfakes o las campañas automatizadas de phishing. Esta situación exige una preparación constante y un liderazgo empresarial capaz de anticipar los riesgos antes de que se materialicen.

Además, los ciberataques ya no solo se dirigen a infraestructuras críticas o sistemas financieros. Hoy, cualquier empleado conectado a una red corporativa puede convertirse en el blanco de una estafa o en el punto débil de una cadena de seguridad. La educación digital y la concientización interna son ahora tan importantes como los sistemas de defensa técnica.

Liderar desde la prevención y la cultura digital

El nuevo panorama obliga a los líderes empresariales a asumir un papel más activo en la protección de sus organizaciones. Ya no basta con delegar la seguridad a los departamentos de tecnología. El liderazgo debe involucrarse directamente en la formación de equipos, en la definición de protocolos y en la creación de una cultura digital que promueva la responsabilidad compartida.

“Hay que comprometer a toda la organización. La ciberseguridad no es solo problemas de los señores de ciber, es un reto de toda la organización y es algo que debe trabajarse desde el punto de vista de la cultura”, precisó para Infobae Tecno, Luis Londoño.

Esta transformación requiere un enfoque integral donde la prevención sea tan relevante como la reacción. Se trata de anticiparse a las amenazas mediante políticas de seguridad, evaluaciones continuas de riesgo y capacitación permanente de los empleados. Las organizaciones que logran integrar estas prácticas en su estructura cotidiana son las que mejor resisten las crisis digitales.

El experto señala que este proceso debe partir del conocimiento: comprender qué herramientas se utilizan, cómo se aplican y hasta dónde pueden llegar. La clave está en que los líderes no solo adopten la tecnología, sino que la cuestionen y acompañen su implementación. “Desde el liderazgo debe haber un compromiso muy grande de entender estas herramientas, qué hacen, hasta dónde llegan, cómo impactan y cómo empiezan a ser utilizadas por los colaboradores”, enfatiza.

Ciberseguridad colaborativa: la nueva defensa empresarial

La evolución de las amenazas digitales ha demostrado que ninguna organización puede enfrentarlas sola. El intercambio de información, la cooperación entre sectores y la colaboración con entidades especializadas son componentes esenciales de una estrategia moderna de ciberseguridad.

Este modelo colaborativo parte de una realidad contundente, mientras los atacantes necesitan acertar solo una vez para causar daño, las empresas deben acertar siempre en su defensa. Por eso, las alianzas, los marcos de acción conjunta y la comunicación interna son hoy pilares fundamentales para mantener la resiliencia.

En ese sentido, el liderazgo empresarial tiene la responsabilidad de impulsar una cultura basada en la vigilancia continua, la transparencia y la confianza. La seguridad digital deja de ser una barrera técnica para convertirse en una actitud colectiva, en una forma de trabajo que atraviesa todos los niveles de la organización.

De acuerdo a Lodoño, la ciberseguridad ya no puede verse como un área aislada: es un reto transversal que requiere colaboración, conciencia y visión de futuro. Solo así las empresas podrán convertir la inteligencia artificial en una aliada del progreso, y no en una fuente de vulnerabilidad.

La jueza federal con competencia electoral María Servini ordenó a la Dirección Nacional Electoral (DINE) del Ministerio del Interior que, en un plazo de 24 horas, informe el resultado de las medidas requeridas para prevenir la difusión de contenidos falsos generados con inteligencia artificial durante el proceso electoral del próximo domingo. La decisión se dictó en el marco de un amparo colectivo presentado por el abogado Andrés Gil Domínguez, tendiente a promover acciones “efectivas” para evitar la desinformación durante las elecciones legislativas.

En rigor, el constitucionalista había pedido “la adopción de medidas efectivas que prevengan, alerten y hagan cesar de forma urgente la difusión de deepfakes o uso no autorizado del servicio de clonación de voz y rostro con Inteligencia Artificial (IA) respecto del proceso electoral nacional de renovación parcial de la Cámara de Diputados y de la Cámara de Senadores que se celebrará el 26 de octubre de 2025”, al considerar que tales prácticas atentaban “de manera colectiva" el derecho humano a elegir libremente en un contexto transparente de decisión.

Según su presentación preventiva ante la justicia electoral, la "manipulación informativa mediante deepfakes ataca pilares esenciales del proceso democrático. La libre formación de la voluntad del votante se ve comprometida por una injerencia artificial y maliciosa”.

El Estado Nacional, a través de la Vicejefatura de Gabinete de Interior, cuestionó el amparo al considerar que “las medidas preventivas que pretende se adopten son de distinta envergadura y requieren mínimamente, de ser procedente su pretensión, que no lo es, de tiempo y normas de distinta jerarquía, pues se afectarían derechos y ellos son gozados conforme las leyes que reglamentan su ejercicio”.

También señaló que “el accionante no tiene configurado un interés concreto, inmediato y sustancial para considerar que existe una causa, no existe un agravio concreto, sus apreciaciones son conjeturales y especulativas (...) -y- solo se presentó para evitar un eventual perjuicio conjetural”.

Por su parte, corrida la vista al Procurador Fiscal Electoral, el funcionario reconoció la gravedad del problema y sostuvo en su dictamen que no había dudas “respecto a los riesgos que genera los deepfakes para la actividad política en general y los procesos electorales en particular, afectados por actos de comunicación malintencionada, falsa o directamente difamatoria (...)”. Bajo esos parámetros, pidió requerir informes al Estado Nacional sobre las acciones de prevención adoptadas y sugirió como “medida de carácter preventivo y acto de comunicación concreto frente al electorado y la sociedad en general" que el Poder Ejecutivo Nacional adhiera al “Compromiso Ético Digital 2025”, un pacto celebrado entre empresas tecnología, asociaciones de prensa y agrupaciones políticas para promover “la honestidad del debate democrático” y “contribuir a mitigar los efectos negativos de la divulgación de contenido falso”.

En cumplimiento de ese dictamen, la jueza Servini requirió en agosto al Estado Nacional que informara sobre las acciones de difusión y sensibilización planificadas o puestas en práctica referidas “a la circulación de la información por medios tradicionales -incluidos los digitales, plataformas o ámbitos de la comunicación digital-, particularmente, en lo relativo a los usos indebidos de las herramientas de Inteligencia Artificial que pudieran afectar el normal desarrollo de los comicios y/o del proceso electoral en general”.

En esa oportunidad, la magistrada pidió además a la Unidad de Análisis de la Información y a la Unidad de Inteligencia Artificial de la Cámara Nacional Electoral un informe sobre “las vías y procedimientos para denunciar, solicitar información y/o remoción de contenidos en las plataformas digitales ante las posibles denuncias que se realicen durante el presente proceso eleccionario”.

Este viernes Servini rechazó el amparo colectivo de Domínguez tras interpretar que el abogado carecía de legitimación procesal para impulsarlo. Para eso, citó doctrina de la Corte Suprema según la cual “la invocación de la calidad de ciudadano, sin la demostración de un perjuicio concreto, es insuficiente para sostener la legitimación”. En esa línea, señaló que “la calidad de elector invocada por el actor no es suficiente a fin de habilitar esta instancia judicial, en tanto no demuestra cuál es el perjuicio actual y concreto que sufre en el goce de los derechos que la Ley Fundamental le otorga”.

Sin embargo, la magistrada con competencia electoral aclaró que la preocupación planteada “es compartida por esta judicatura” y que, ante la “negativa y/o demora efectuada por los organismos del Poder Ejecutivo Nacional de las disposiciones sugeridas por el señor Procurador Fiscal y ordenadas en estos autos”, correspondía ordenar a la DINE que informe “en el término de 24 horas el resultado de las medidas ya requeridas en la presente causa”.

Antes del pasaje resolutivo, la jueza destacó la necesidad de abordar la problemática digital de manera mancomunada “para encontrar un acuerdo respecto de la mejor manera de mitigar los efectos de la desinformación –en lo relativo a los procesos electorales– sin perder de vista dos cuestiones fundamentales: que los ciudadanos deben tener información completa y confiable para ejercer sus derechos políticos (elegir y ser elegidos) y por otro lado, comprendiendo y respetando el rol preponderante que tiene la libertad de expresión”.

A su vez, Servini repasó los antecedentes normativos y jurisprudenciales sobre la materia. Recordó que la Cámara Nacional Electoral, mediante la Acordada N° 66/2018, advirtió sobre “el impacto y los nuevos desafíos que representa el auge de las plataformas y entornos digitales, dado que el uso de las redes sociales –que en los últimos años se tornaron herramientas de uso masivo– aceleraron los tiempos de circulación y difusión de la información”. Subrayó además que “las decisiones sobre esta temática no dependen de la autoridad de un magistrado sino de una compleja rama de interacciones entre los poderes del Estado, quienes son los encargados de la generación de políticas públicas y de la creación de normativas en tal sentido”.

“Considerando lo expresado precedentemente, se desprende que las maneras de resolver el conflicto entre la existencia de deepfakes y la libertad de elección de los ciudadanos sin restricciones y con información completa no son simples, ni sencillas sino que precisan de un trabajo en conjunto de toda la sociedad para dictar medidas de acción positivas a través de las cuales se refuerce el conocimiento de la ciudadanía sobre estas nuevas tecnologías sin menoscabar la libertad de expresión como así también posibles herramientas de detección de contenido con información falsa, posibles reglamentaciones de los alcances de la Inteligencia Artificial, o cualquier otro instrumento que se considere pertinente a tales fines”, señaló la jueza porteña.

Luego concluyó: “Teniendo en consideración todo lo hasta aquí expuesto, sin perjuicio de la falta de legitimidad ya tratada, y en atención a la preocupación planteada – compartida por esta judicatura, manifestada con la puesta en conocimiento de la Unidad de Análisis de Información y Unidad de Inteligencia Artificial de la Cámara Nacional Electoral-, en vísperas de las elecciones a llevarse a cabo el próximo 26 de octubre, (...) como medida ampliatoria de las herramientas ya existentes y al alcance de este tribunal para actuar ante los casos concretos que puedan suscitarse, es que corresponde ordenar a la Dirección Nacional informe a esta sede en el término de 24 horas el resultado de las medidas ya requeridas en la presente causa".

La utilización de deepfakes en el ámbito del cibercrimen ha registrado un crecimiento en los últimos años, con casos que han involucrado la clonación de voces e imágenes de celebridades y altos ejecutivos para perpetrar estafas o difundir desinformación.

ESET Latinoamérica ha identificado al menos siete situaciones recientes en las que los ciberdelincuentes lograron engañar a individuos y empresas mediante la creación de videos y audios falsificados con inteligencia artificial, generando pérdidas millonarias o severas consecuencias reputacionales para los afectados.

Las estafas deepfake más impactantes

Según ESET, los casos detectados reflejan el nivel de sofisticación que los criminales han alcanzado al emplear estas tecnologías. En uno de los ejemplos más notorios, la imagen de Lionel Messi fue utilizada para promover una falsa aplicación de inversiones llamada “Wildcat Dive”.

El video, divulgado en Instagram a partir de fragmentos manipulados de una entrevista real, buscaba engañar a los usuarios con promesas de ganancias fáciles, capitalizando la alta popularidad del futbolista argentino.

En el plano corporativo, Arup, la reconocida firma de arquitectura responsable de obras como la Ópera de Sídney, sufrió un daño económico sustancial cuando un empleado, creyendo hablar con su director financiero, fue víctima de un deepfake y realizó 15 transferencias por más de 25 millones de dólares.

Algo similar intentaron hacer los cibercriminales en Ferrari simulando la voz de su CEO, Benedetto Vigna, para inducir a transferencias millonarias. Aunque en este caso no lograron engañar al personal, el episodio sirvió para redoblar la capacitación en la compañía.

Un esquema comparable afectó a WPP, una de las mayores empresas de publicidad del mundo: criminales organizaron una reunión virtual suplantando al CFO mediante un audio deepfake y material de YouTube, con el objetivo de acceder a dinero y datos confidenciales. Este ataque no tuvo éxito gracias al estado de vigilancia y la capacitación de los colaboradores.

El peligro de los deepfakes no se limita al entorno empresarial. En Baltimore, una escuela enfrentó una crisis cuando se viralizó un audio manipulado que supuestamente mostraba a su director haciendo comentarios racistas y antisemitas. La acción desencadenó amenazas de muerte contra el docente antes de que la policía confirmara que se trataba de un montaje generado por inteligencia artificial.

La figura de Elon Musk tampoco ha estado al margen: los ciberdelincuentes aprovecharon su imagen en anuncios de X y YouTube para promover falsas inversiones en Bitcoin, lo que le costó a más de 7.000 personas aproximadamente 80 millones de dólares, de acuerdo con la Federal Trade Commission de Estados Unidos.

En el ámbito político, un video deepfake del presidente ucraniano Volodímir Zelensky circuló en 2022, instando falsamente a las tropas a rendirse durante el conflicto con Rusia. El mandatario tuvo que salir rápidamente a desmentir la grabación con un mensaje legítimo en sus redes oficiales.

Cómo protegerse de fraudes y engaños con deepfakes

La creciente calidad de los deepfakes representa un desafío especial para usuarios y empresas. “Con la evolución de la Inteligencia Artificial, estos vídeos y audios parecen cada vez más reales”, señaló Camilo Gutiérrez Amaya, jefe del Laboratorio de Investigación de ESET Latinoamérica.

Ante este panorama, la compañía recomienda desconfiar de cualquier anuncio que ofrezca resultados demasiado buenos para ser verdad, especialmente si involucra figuras públicas.

También sugiere examinar con atención la calidad visual y sonora de los contenidos, utilizar herramientas de seguridad que bloqueen sitios y correos maliciosos, y para las organizaciones, no autorizar operaciones financieras únicamente por llamados o videollamadas, implementando claves de validación adicionales.

La capacitación continúa resultando fundamental para identificar señales de alarma, y el aprovechamiento de tecnologías especializadas en detección de deepfakes se posiciona como una línea de defensa ante una amenaza en crecimiento.

En los últimos años, las redes sociales se han visto inundadas de videos engañosos que utilizan la técnica conocida como deepfake. Se trata de montajes digitales avanzados, creados con inteligencia artificial, que pueden clonar rostros y voces de manera casi perfecta. Estas piezas suelen mostrar a políticos, periodistas, empresarios o celebridades promoviendo negocios dudosos o invitando a invertir en supuestas fórmulas de “dinero fácil”.

El alcance del problema no se limita a los usuarios individuales. Los deepfakes representan riesgos financieros, pero también un peligro reputacional para organizaciones que pueden ver dañada su credibilidad en cuestión de horas. En el caso de Lima, un estudio de Experian reveló que nueve de cada diez personas ha sido víctima de algún tipo de fraude digital, lo que refleja un escenario altamente vulnerable.

El panorama se complica aún más cuando se considera la magnitud del cibercrimen. De acuerdo con Cybersecurity Ventures, el costo global de estos delitos pasará de tres billones de dólares en 2015 a 10.5 billones en 2025. Con cifras de esta magnitud, resulta evidente que la prevención y la educación digital se han convertido en armas imprescindibles para usuarios y empresas.

¿Cómo saber si un video es un deepfake?

Detectar un deepfake no siempre es fácil, pero sí existen señales que permiten sospechar de su autenticidad. Según María Belén Ortiz, directora de la carrera de Sistemas de Información y Ciberseguridad en la Universidad de Ingeniería y Tecnología (UTEC), ya no basta con confiar únicamente en la voz o la imagen como pruebas de identidad.

Entre las pistas más comunes que pueden alertar a los usuarios se encuentran:

• Movimientos poco naturales: labios desincronizados con el audio, parpadeo extraño o expresiones faciales rígidas.
• Errores visuales: bordes borrosos en el rostro, iluminación poco realista o sombras que no corresponden al entorno.
• Distorsión en el audio: voces metálicas, robóticas o con entonaciones poco creíbles.
• Fuentes no oficiales: ausencia de publicación en cuentas verificadas o canales institucionales reconocidos.
• Enlaces sospechosos: direcciones web con errores ortográficos, dominios poco usuales o mensajes con tono de urgencia.

Ortiz enfatiza que, ante cualquier duda, lo más recomendable es validar la información por un medio alternativo, como una llamada o un correo institucional. En caso de haber caído en la trampa, resulta clave conservar todas las evidencias, reportar el contenido en la plataforma, denunciarlo ante las autoridades de delitos informáticos y comunicar con rapidez lo ocurrido.

¿Qué deben hacer las empresas ante un ataque con deepfakes?

La velocidad con la que circula un deepfake puede generar una crisis reputacional inmediata. Alí Rojas, director de APOYO Comunicación, sostiene que ninguna empresa está exenta de estos ataques, sin importar su tamaño. Por ello, la preparación y la capacidad de respuesta se convierten en un factor decisivo para proteger la confianza de clientes, proveedores y socios.

Rojas recomienda cuatro acciones fundamentales desde lo comunicacional:

• Respuesta inmediata: activar los canales corporativos con comunicados oficiales que desmientan el contenido falso y monitorear medios y redes para medir el impacto.
• CEO como vocero: la persona suplantada debe ser la primera en denunciar públicamente la falsificación en sus redes, reforzando la credibilidad del mensaje.
• Colaboradores como aliados: informar al personal lo ocurrido para que repliquen la versión oficial y actúen como multiplicadores de la verdad.
• Cultura de defensa digital: capacitar permanentemente en prevención de fraudes, desinformación y delitos cibernéticos, mediante talleres o cursos especializados.

Estas medidas permiten contener el daño en el corto plazo y, al mismo tiempo, construir una cultura organizacional más resistente a futuras amenazas. Una empresa preparada no solo reacciona de forma eficiente, sino que también transmite confianza en momentos de incertidumbre.

En un mundo digital donde la manipulación evoluciona con rapidez, la combinación de educación, protocolos claros y tecnología de verificación avanzada se convierte en la mejor estrategia para enfrentar los deepfakes. La confianza, tanto de usuarios como de organizaciones, está en juego y protegerla es una responsabilidad compartida.

La plataforma global de ventas de moda SHEIN eliminó un anuncio de su popular sitio web luego de que se detectara que la imagen utilizada para publicitar una camisa masculina correspondía al rostro de Luigi Mangione, de 27 años, actualmente acusado por el asesinato de Brian Thompson, presidente ejecutivo de UnitedHealthcare, en diciembre de 2024. Aunque Mangione se encuentra en prisión federal a la espera de juicio y ha declarado su inocencia ante los cargos federales de homicidio, acoso y posesión de armas de fuego con silenciador, la fotografía provocó desconcierto y polémica en redes sociales tras circular ampliamente mediante capturas del anuncio original.

La imagen de promoción, que aparece como generada por inteligencia artificial y que no corresponde a Mangione posando en la vida real, mostraba a una persona con los rasgos del acusado modelando una camisa blanca de manga corta, cuyo precio en el sitio era de 11.69 dólares. La publicación fue detectada por internautas y, rápidamente, usuarios en plataformas sociales comenzaron a manifestar su confusión y rechazo, lo que llevó a que el producto se agotara en tres de las cuatro tallas disponibles, según una versión archivada del catálogo. Poco después, SHEIN optó por suprimir de inmediato dicho anuncio.

Una portavoz de SHEIN declaró a NBC News que “la imagen de Mangione fue publicada por un vendedor externo y fue retirada en cuanto se identificó”. Añadió que la firma mantiene “estándares estrictos para todos los anuncios” y que se está llevando a cabo una investigación a fondo, con el compromiso de fortalecer los mecanismos de supervisión y aplicar sanciones conforme a las políticas internas.

El rol de los vendedores externos y el uso de IA en el sector de la moda rápida

El vendedor responsable de la publicación, identificado como Manfinity, no respondió a los intentos de contacto realizados por periodistas y a través de sus canales oficiales, según señaló NBC News. El sitio web de Manfinity exhibe numerosas imágenes que parecen creadas mediante inteligencia artificial. Además, tanto el correo electrónico de soporte de la compañía rebota como la dirección postal consignada, presuntamente ubicada en Detroit, no tiene correspondencia con una ubicación verificable.

El comunicado de SHEIN subrayó la investigación vigente, indicando que se reforzarán los protocolos de vigilancia para evitar incidentes similares y se revisarán todos los listados de vendedores externos con mayor rigurosidad.

Por su parte, los defensores legales de Mangione prefirieron no emitir declaraciones a la prensa tras la publicación y posterior remoción del anuncio, informó NBC News.

Expansión del uso de imágenes generadas por inteligencia artificial en publicidad y controversias recientes

En los últimos años, la utilización de imágenes sintéticas para campañas comerciales ha desencadenado controversias recurrentes. En julio, la revista Vogue recibió críticas después de publicar una publicidad de Guess que empleaba un modelo digital generado por inteligencia artificial para promocionar prendas, recordó NBC News.

Además, la apropiación del aspecto de personas reconocidas sin su consentimiento ha dado paso a múltiples denuncias públicas. Celebridades como Taylor Swift, Tom Hanks y Scarlett Johansson han visto sus identidades explotadas en supuestas reseñas o promociones de productos mediante técnicas de deepfake, lo que ha originado debates legales sobre derechos de imagen y protección de datos.

Reacciones sociales y debate en torno a la figura de Luigi Mangione

El asesinato de Brian Thompson provocó en su momento una rápida condena por parte de líderes institucionales estadounidenses. No obstante, un sector de usuarios, principalmente en redes sociales de China, expresó admiración por Mangione, particularmente en plataformas como RedNote. Por otro lado, el hecho también reavivó un extenso debate público sobre las políticas de salud y aseguramiento corporativo en el contexto estadounidense.

Días después del asesinato de Thompson, plataformas de comercio estadounidense como Amazon, Etsy y eBay eliminaron mercancía de fabricación no oficial que utilizaba la imagen de Mangione, según reportó NBC News. La viralización del anuncio en SHEIN puso nuevamente en el centro de la discusión la rápida comercialización de la imagen de figuras en procesos judiciales y los desafíos de controlar el contenido generado por inteligencia artificial en plataformas de venta masiva.

La eliminación del anuncio sucede en un contexto donde las plataformas digitales enfrentan crecientes cuestionamientos sobre la autenticidad y legalidad del material publicitario distribuido por vendedores externos, así como sobre los mecanismos de protección de la imagen personal en la era digital.

La creciente sofisticación de los deepfakes ha puesto en jaque la seguridad empresarial, como lo demuestra el caso de Arup, una firma británica que en 2024 sufrió la pérdida de 25 millones de dólares tras una estafa basada en inteligencia artificial.

Un empleado, convencido por una videollamada que simulaba a miembros de la alta dirección, autorizó una transferencia millonaria, sin advertir que interactuaba con videos manipulados digitalmente.

Este incidente, según Rob Greig, quien entonces ocupaba el cargo de director de información en Arup, no se trató de un ciberataque convencional, sino de un ejemplo de “ingeniería social potenciada por la tecnología”.

Greig explicó ante el Foro Económico Mundial que la manipulación no solo explotó vulnerabilidades técnicas, sino que aprovechó la confianza depositada en señales visuales y auditivas, consideradas fiables para validar la autenticidad de una comunicación.

En qué consisten los deepfakes y por qué pueden ser peligrosos

Los deepfakes emplean inteligencia artificial para generar imágenes y sonidos que imitan de manera realista a una persona, sin que esta haya participado en la acción representada.

Estas herramientas procesan grandes volúmenes de datos visuales y auditivos, replicando gestos, voces y rasgos faciales con una precisión que dificulta la detección del engaño.

Aunque la tecnología tiene aplicaciones legítimas en sectores como el cine, la publicidad o la educación, su uso fraudulento se ha expandido, afectando tanto a individuos como a organizaciones.

Cómo engañaron al empleado para que enviara esa cantidad de dinero

En el caso de Arup, los delincuentes crearon videos falsos de altos ejecutivos para persuadir a un empleado de realizar una transferencia bancaria. La videollamada, que aparentaba total legitimidad, resultó en la pérdida de una suma millonaria.

Este tipo de fraude resulta muy peligroso porque explota la confianza en la veracidad de las imágenes y sonidos, elementos que históricamente han servido para verificar la identidad de los interlocutores.

Por qué preocupa el uso de inteligencia artificial para manipular fotos y videos

La preocupación por el impacto de los deepfakes en el sector corporativo va en aumento. Una encuesta de Deloitte realizada en 2024 reveló que el 25% de los ejecutivos reportó incidentes relacionados con deepfakes dirigidos a datos financieros y contables.

Sumado al riesgo económico, la reputación de las empresas queda expuesta, porque la manipulación de imágenes y videos puede pasar inadvertida sin herramientas de verificación avanzadas.

Asimismo, las proyecciones del Centro de Servicios Financieros de Deloitte advierten que la inteligencia artificial generativa, responsable de la creación de deepfakes, podría causar pérdidas por fraude de hasta 40.000 millones de dólares en Estados Unidos para 2027.

Este escenario subraya la capacidad destructiva de la tecnología cuando es utilizada con fines ilícitos y la necesidad de reforzar tanto los sistemas de defensa informática como la formación de sus empleados frente a todos los riesgos.

Cómo evitar que más casos de este tipo de repitan en las empresas

Para mitigar el peligro de los fraudes basados en deepfakes, existen estrategias de verificación que pueden implementarse en el ámbito corporativo.

Alberto Juárez, vicepresidente global de verificación de identidad en Sovos, dice que “la prueba de vida es un escudo digital clave, cuya función es asegurarse de que quien está al otro lado de la pantalla es una persona real y no una imagen manipulada”.

Es clave que empleados y directivos nunca autoricen transferencias de dinero sin confirmar la identidad del solicitante, incluso si se trata de un colega conocido. Además, los expertos insisten en la importancia de validar las videollamadas y mensajes a través de canales alternativos, como una llamada telefónica independiente.

Subrayan la necesidad de ser prudente al compartir información personal en redes sociales y otras plataformas , porque estos datos pueden ser utilizados para crear videos alterados convincentes.

El deepfake, tecnología capaz de manipular voz, rostro, video e imagen para hacer decir o hacer a alguien lo que nunca ocurrió, ya no es un asunto lejano. En el Perú, gerentes de sectores como finanzas, construcción, microfinanzas o restaurantes, han comenzado a ser víctimas de esta manipulación. Incluso figuras de medios de comunicación han visto su imagen empleada en mensajes falsos que inducen a estafas.

La magnitud del riesgo es creciente. Un reporte de Deloitte en 2024 señala que el 25% de los altos mandos ejecutivos ha enfrentado incidentes de deepfake dirigidos a datos financieros y contables. Por su parte, un informe de CrowdStrike para América Latina advierte del aumento sostenido de este tipo de ataques.

Estos hechos confirman que no se trata de un problema exclusivo de las grandes corporaciones. Pymes, ONGs e instituciones del Estado también están expuestas. El desafío central es que muchos ciudadanos aún no comprenden cómo funcionan los deepfakes, lo que los convierte en blancos fáciles de engaño.

Las organizaciones deben prepararse para enfrentar un nuevo reto: responder en tiempo real a fraudes digitales que, en esencia, son fraudes de alto impacto.

Para este desafío, es fundamental tomar en cuenta las siguientes recomendaciones. En primer lugar, contar con protocolos de verificación pública. Cada organización necesita procesos claros para confirmar la autenticidad de sus contenidos.

En segundo lugar, implementar plantillas de negación rápida. Contar con comunicados predefinidos que permitan desmentir en cuestión de horas y no de días. También pueden considerarse marcas de autenticidad. Incluir sellos, firmas digitales o elementos de validación en los mensajes oficiales.

Las áreas de TI, legal y comunicaciones, deben ensayar juntos escenarios de deepfake para mejorar la coordinación. Asimismo, cada vez resulta más estratégico el uso de canales propios. Reforzar los medios institucionales donde el mensaje puede ser controlado y actualizado con frecuencia.

Finalmente, los voceros deben estar preparados para la inmediatez. La capacitación ya no debe centrarse solo en el discurso, sino en la velocidad de respuesta ante crisis digitales. Los voceros deben ahora entrenarse para reaccionar rápido en escenarios inmediatos. Ya sea a través de los medios de comunicación, los canales digitales o los mecanismos presenciales para con sus equipos.

Se trata de un reto en tiempo real. El cuidado de la reputación ya no puede ser un ejercicio reactivo ni burocrático. Hoy más que nunca, la anticipación, que muchas veces olvidan las empresas, se convierte en una condición necesaria. Los deepfakes convierten la comunicación de crisis en un desafío de tiempo real.

De afrontar correctamente este desafío dependerá no solo la confianza en las marcas, sino también la seguridad de miles de ciudadanos que pueden ser víctimas de fraudes. Las crisis ya no solo impactan en los valores de mercado. Impactan también en miles de personas que ponen en riesgo su tranquilidad por este tipo de estafas. El reto para el cierre de 2025 y el 2026 será claro: blindar la reputación con la misma seriedad con la que se protege el patrimonio financiero.

La irrupción de la inteligencia artificial ha modificado de manera profunda el ámbito del reclutamiento, especialmente en el sector tecnológico. Sundar Pichai, CEO de Google, advirtió cómo estas nuevas herramientas están alterando el proceso de selección de ingenieros y programadores y la propia concepción de las entrevistas laborales.

En entrevista con Lex Fridman Podcast, el directivo ha detallado los retos y oportunidades que representa la IA en la búsqueda de talento.

Durante los últimos años, el uso de entrevistas virtuales se generalizó en las grandes compañías, impulsado inicialmente por la pandemia y luego por la conveniencia para ambas partes.

El CEO de Google señaló que cada vez más aspirantes a puestos técnicos recurren a herramientas de IA para resolver en tiempo real los desafíos de programación y código que se plantean en entrevistas remotas.

Esta tendencia ha crecido de forma paralela al desarrollo de chatbots sofisticados y asistentes especializados, los cuales ofrecen respuestas y soluciones en segundos.

Qué dificultades ha tenido Google en las entrevistas de trabajo por culpa de la IA

Pichai advirtió que el principal problema es la dificultad para verificar que los conocimientos y habilidades mostrados en una entrevista virtual sean genuinos. De acuerdo con datos recogidos por consultoras y plataformas del sector, más de la mitad de los postulantes en entrevistas técnicas virtuales podrían estar utilizando ayuda de inteligencia artificial fuera de cámara.

El fenómeno afecta la autenticidad de la evaluación y la confianza en el sistema de contratación. La situación se ha agravado a tal punto que dentro de Google, y también en otras empresas del sector, algunos responsables de selección han reportado que más del 50% de los candidatos recurren a trampas digitales.

Como contramedida, los entrevistadores han comenzado a realizar preguntas adicionales y pruebas diferenciales para identificar si los aspirantes comprenden verdaderamente sus respuestas y procesos.

A esta problemática se añade el peligro de los deepfakes y fraudes automatizados. Empresas de ciberseguridad y analistas han detectado casos en los que postulantes utilizan IA para responder preguntas y alterar su imagen en tiempo real y crear identidades falsas.

Según advertencias de consultoras como Gartner, se estima que, para 2028, uno de cada cuatro candidatos a nivel mundial podría ser un “falso digital” gracias a los avanzados sistemas de IA generativa.

Qué cambios implementará Google en sus entrevistas de trabajo

Google decidió dar marcha atrás en algunas de las prácticas instauradas en la era de la pandemia. Sundar Pichai anunció la reinstauración de al menos una ronda de entrevistas presenciales en el proceso de selección de su empresa para los puestos de ingeniería.

La medida, comunicada públicamente durante una entrevista en el podcast y confirmada en internados de Google, consiste en “asegurar que los fundamentos están presentes” en cada candidato.

Pichai explicó que esta aproximación híbrida busca combinar las ventajas de las entrevistas virtuales —como la reducción del tiempo de contratación en casi dos semanas y la facilidad logística— con la robustez de la evaluación cara a cara.

Brian Ong, vicepresidente de reclutamiento de Google, reconoció públicamente el reto que impone la proliferación de IA en estas instancias. Durante foros internos, Ong admitió que si bien las entrevistas remotas son más rápidas y fáciles, la compañía “tiene que hacer más para integrar la IA de forma responsable” en el proceso.

En paralelo, los entrevistadores han recibido indicaciones de realizar preguntas de seguimiento a los candidatos para observar su razonamiento y comprobar la autenticidad de sus habilidades.

La inquietud ante la extensión del uso de IA provino no solo de la alta dirección, sino también del propio cuerpo de empleados de Google. Durante distintas reuniones, trabajadores han solicitado volver a esquemas de entrevistas presenciales, temiendo que la dependencia exclusiva en plataformas virtuales vulnere la integridad del proceso y minimice la evaluación de habilidades auténticas.

Empleados preguntaron directamente a los líderes de la compañía sobre la posibilidad de eliminar las entrevistas remotas, proponiendo incluso que los candidatos se presentaran en espacios controlados por la propia empresa. Estas preocupaciones llevaron a Pichai a recomendar una aproximación híbrida, balanceando eficiencia y autenticidad.

La propagación de contenido falso en internet ha alcanzado un nuevo nivel con la aparición de videos generados por inteligencia artificial que imitan a médicos reales para difundir mensajes y productos engañosos. La proliferación de deepfakes médicos en redes sociales ha permitido que supuestos especialistas, a veces suplantando a profesionales auténticos, difundan recomendaciones de salud erróneas o promuevan tratamientos no verificados ante millones de usuarios. Un caso reciente lo vivió Joel Bervell, un médico con amplia presencia en plataformas digitales, quien descubrió que su imagen era utilizada en videos desconocidos para él y que promocionaban productos que nunca había respaldado.

Estos materiales manipulados han sido identificados en diversas redes sociales, como TikTok, Instagram, Facebook y YouTube, según reportó CBS News. El fenómeno afecta tanto a expertos reales, cuyos rostros y nombres son apropiados, como a figuras completamente ficticias, creadas exclusivamente con herramientas digitales para impulsar artículos relacionados principalmente con bienestar, belleza y pérdida de peso.

Las estrategias detrás de los deepfakes buscan generar confianza en la audiencia al utilizar testimonios supuestamente autorizados. En la investigación realizada por CBS News, se hallaron decenas de cuentas con más de cien videos publicados destinados a vender productos a través de sitios independientes o reconocidos mercados en línea. Muchas grabaciones contenían afirmaciones extraordinarias, como la promoción de fórmulas “96% más efectivas que Ozempic”, medicamento destinado al tratamiento de la diabetes y la obesidad.

El mecanismo tras los videos manipulados: inteligencia artificial al alcance de todos

El acceso a herramientas de inteligencia artificial ha permitido a actores maliciosos crear fácilmente videos de alta calidad, reduciendo la posibilidad de que los usuarios detecten el engaño, en especial desde dispositivos móviles. La compañía de ciberseguridad ESET detectó más de 20 cuentas en TikTok e Instagram utilizando médicos generados por IA para recomendar artículos supuestamente milagrosos, de acuerdo con declaraciones de Martina López, investigadora de esa empresa, recogidas por CBS News.

Tony Anscombe, director de seguridad de ESET, advirtió que el perfeccionamiento de estas tecnologías dificulta que el público identifique inconsistencias visuales o sonoras. Visualizar los videos en pantallas pequeñas aumenta la posibilidad de que pasen desapercibidos errores reconocibles, como bordes borrosos, distorsiones en el rostro o voces robóticas.

Entre los indicios para detectar estos contenidos, ESET resalta la presencia de “glitches” visuales y la falta de naturalidad en el audio. Además, conviene poner en duda mensajes que aseguran remedios milagrosos, beneficios garantizados o curas inéditas, tácticas frecuentes en estafas digitales. “Confía en nada, verifica todo”, recomendó Anscombe, citado por CBS News.

La reacción de las plataformas frente al fenómeno

Consultadas por CBS News, las principales empresas detrás de las redes donde circulan estos videos expusieron su postura y las acciones tomadas tras recibir las denuncias. TikTok aseguró que entre enero y marzo removió proactivamente más del 94% de los contenidos contrarios a sus políticas sobre IA antes de que fueran denunciados formalmente. Meta, propietaria de Facebook e Instagram, confirmó haber eliminado videos que infringían sus estándares publicitarios y restringido la visibilidad de otros, en concreto los relacionados con salud y bienestar, limitando su acceso a mayores de 18 años.

Meta afirmó que quienes buscan evadir controles ajustan constantemente sus métodos, lo que obliga a revisar y actualizar las medidas de seguridad. CBS News anotó que la empresa restringió videos potencialmente dañinos, reforzando las barreras para su visualización por parte de menores de edad.

En el caso de YouTube, la respuesta fue diferente. Aunque la plataforma dispone de mecanismos para solicitar la eliminación de contenidos hiperrealistas que imitan a individuos sin su consentimiento, indicó a CBS News que los videos analizados no infringían sus directrices comunitarias y no serían retirados. YouTube aclaró que su normativa sí prohíbe la difusión de desinformación médica que contradiga las recomendaciones de autoridades sanitarias locales sobre enfermedades y sustancias específicas.

El impacto en la confianza pública y la respuesta de los especialistas

Joel Bervell, conocido como “Medical Mythbuster” en redes, expresó a CBS News su temor ante la capacidad de estos videos de debilitar la credibilidad de la medicina frente al público. Tras solicitar apoyo de sus seguidores para denunciar el uso indebido de su imagen, algunas de las grabaciones fueron retiradas, aunque el episodio evidenció la vulnerabilidad de los profesionales de la salud ante estas maniobras. “Cuando existen supuestos expertos difundiendo información que podría ser falsa, se distorsiona la percepción social sobre la veracidad, y eso complica que el público confíe en la ciencia y el sistema de salud”, sostuvo Bervell, de acuerdo con el medio estadounidense.

A pesar de la remoción de varios videos tras las gestiones del afectado, la dinámica de las redes y el perfeccionamiento de la IA dificultan una erradicación completa del problema. Para especialistas y usuarios, la única defensa sigue siendo la verificación independiente de cualquier mensaje vinculado a la salud que circule por internet.

El informe de CBS News concluye que el fenómeno de los deepfakes médicos representa un reto creciente para las plataformas digitales, los profesionales de la salud y la sociedad en general, frente a la capacidad casi ilimitada de producir y distribuir información falsa con apariencia de legitimidad.

El actual proceso electoral en Bolivia ha estado marcado por el auge de la desinformación y la circulación de contenidos manipulados, impulsados por la sofisticación creciente de la inteligencia artificial. El episodio ocurrido tras el encuentro entre Javier Milei y el candidato a vicepresidente Juan Pablo Velasco en el Derecha Fest en Córdoba ilustra la peligrosidad de los deepfakes en el contexto político: un video editado, en el que se le atribuyeron a Velasco frases ofensivas mediante IA, se viralizó rápidamente, generando confusión y polarización. Este tipo de herramientas, capaces de replicar la voz y la imagen de una persona, representan un enorme reto para la integridad del debate democrático, la reputación de los candidatos y la confianza del electorado.

Este contexto de sobreinformación, donde las plataformas digitales posibilitan tanto la inmediatez como la escasa regulación, ha favorecido la proliferación de bulos: desde audios manipulados con inteligencia artificial —como el caso de un falso mensaje atribuido a Jorge Quiroga, candidato a la presidencia, sobre los bonos sociales— hasta campañas virales difundidas por influencers y generadores de contenido, quienes hoy alcanzan a millones a través de TikTok y otras redes.

El fenómeno de los deepfakes no solo afecta la reputación de candidatos o partidos, sino que logra amplificar el impacto emocional sobre determinados públicos. En ese sentido, el especialista en marketing político Sergio Vera, indica a El País que “las personas más vulnerables a este tipo de noticias son las pertenecientes a la generación X o a los baby boomers. Si bien usan la tecnología, la han adoptado de forma tardía y no han desarrollado habilidades para diferenciar estos contenidos”. Frente a la propagación de información falsa —como historias sobre la llegada masiva de migrantes venezolanos para alterar los resultados electorales—, la función de los fact-checkers cobra una relevancia inédita.

No obstante, la sofisticación de los contenidos manipulados exige un refuerzo de las prácticas ciudadanas y empresariales para evitar la manipulación electoral.

Cómo identificar un deepfake

Incode, empresa enfocada en la verificación de identidad y prevención de fraudes, brinda una serie de recomendaciones para que las personas puedan detectar un deepfake.

• Verifica la fuente del contenido: antes de compartir, comentar o aceptar como real cualquier video, audio o imagen viral, asegúrate de su procedencia. Los deepfakes suelen difundirse desde plataformas no oficiales, cuentas sin historial o perfiles anónimos. Preferir siempre materiales publicados por medios reconocidos, perfiles institucionales o cuentas verificadas ayuda a reducir el riesgo de ser víctima de información manipulada.
• Presta atención a los detalles visuales y auditivos: aunque cada vez más avanzados, los deepfakes aún presentan fallos sutiles que es posible identificar con una observación cuidadosa:
• • Movimientos faciales poco naturales, demasiado rígidos o exagerados.
  • Desincronización entre la voz y el movimiento de los labios.
  • Iluminación inconsistente, sombras fuera de lugar o efectos de luz que no corresponden al entorno.
  • Bordes del rostro o partes del cuerpo borrosos, distorsionados o con cortes antinaturales.

• Utiliza herramientas de verificación: existen aplicaciones y servicios digitales enfocados a analizar imágenes y videos. Estas plataformas emplean algoritmos avanzados para detectar alteraciones que escapan al ojo humano, marcando posibles señales de manipulación digital.
• Mantente informado y educa a tu entorno: adoptar una actitud crítica ante los contenidos es clave. Aprender sobre las últimas tendencias en manipulación audiovisual permite reconocer los riesgos a tiempo. Compartir esta información con familiares, amigos, equipos de trabajo o en espacios comunitarios contribuye a crear una red de protección frente a los intentos de desinformación.
• Desconfía de lo que parece demasiado bueno o impactante para ser verdad: los deepfakes suelen buscar reacciones inmediatas, apelando a la sorpresa, la indignación o el escándalo. Si encuentras material que provoca una fuerte emoción negativa o positiva, tómate un momento para investigar y comprobar antes de reaccionar o difundir el contenido.

La Cámara Nacional Electoral consideró que el uso de videos fake en campaña son delitos electorales, debido a que inducen a engaños y distorsionan el debate público, sobre todo cuando se difunden mediante redes sociales. La decisión fue adoptada en una causa del 2021, pero tiene relevancia actual porque en las últimas elecciones porteñas se publicó una pieza audiovisual realizada con inteligencia artificial de Mauricio Macri que falsamente anunciaba el retiro de la candidatura de Silvia Lospennato.

En concreto, el tribunal de alzada ratificó el procesamiento de una mujer acusada de difundir videos falsos para perjudicar la imagen de Mario Raúl Negri, precandidato a senador nacional por la alianza “Juntos por el Cambio”, durante la campaña de las Primarias Abiertas, Simultáneas y Obligatorias (PASO) 2021 en Córdoba. La decisión judicial sostiene que la imputada incurrió en conductas tipificadas como engaño a los electores, delito previsto en el artículo 140 del Código Electoral Nacional.

Ese artículo establece el siguiente texto: "Inducción con engaño. Se impondrá prisión de dos meses a dos años al que con engaños indujere a otro a sufragar en determinada forma o a abstenerse de hacerlo".

Según la resolución, la acusada, empleada de una empresa dedicada a la comercialización de páginas publicitarias, habría publicado dos videos apócrifos en una página de Facebook gestionada por la compañía Meta.

La página fue creada por encargo con el objetivo de afectar la reputación de Negri en plena campaña electoral. Los audiovisuales, elaborados mediante técnicas de deepfake, mostraban la imagen del dirigente durante entrevistas reales, pero con la voz de otra persona.

En los videos, de manera falsa, se hacía decir a Negri que había financiado su campaña con dinero retenido a sus colaboradores en la Cámara de Diputados de la Nación. La voz utilizada correspondía en realidad a otro diputado nacional, extraída de una entrevista periodística.

En su fallo, la Cámara Nacional Electoral subrayó la importancia de proteger los derechos fundamentales en contextos electorales, citando normas internacionales de derechos humanos.

El tribunal remarcó que la vida, la libertad y la seguridad de las personas, garantizadas por tratados internacionales con jerarquía constitucional, adquieren especial relevancia ante tensiones electorales.

Además, señaló que el ejercicio del derecho a la participación política exige que estos derechos estén plenamente garantizados, permitiendo que electores y candidatos expresen sus ideas sin interferencias como la violencia, la intimidación o la desinformación en línea.

El tribunal también hizo referencia a las directrices internacionales que instan a los Estados a implementar medidas para proteger la seguridad de los candidatos, especialmente aquellos en riesgo de sufrir violencia o intimidación, incluida la violencia de género, durante los procesos electorales.

La Cámara advirtió que la violencia electoral y la manipulación informativa, como la denunciada en este caso, “distorsionan el debate público” y, por tanto, afectan la calidad de la democracia.

Destacó que las campañas de desinformación en redes sociales emplean técnicas sofisticadas, como la creación de perfiles falsos de dirigentes políticos y la difusión de noticias falsas (fake news), diseñadas para influir en la opinión pública. Estas estrategias se potencian mediante algoritmos y motores de búsqueda que amplifican su alcance, así como por la acción coordinada de comentaristas pagos, conocidos como trolls, y cuentas automatizadas o bots.

El fallo de la Cámara Nacional Electoral pone de relieve la preocupación por el impacto de la desinformación digital en los procesos democráticos y la necesidad de fortalecer los mecanismos de protección frente a estas prácticas en el ámbito electoral.

El caso Macri

A pocas horas de las elecciones legislativas en la Ciudad Autónoma de Buenos Aires, se difundieron videos elaborados con IA donde se utilizó la imagen de Macri y de Lospennato con el fin de tergiversar información sobre las candidaturas de su partido político.

Ante la repercusión del hecho, desde la Alianza Electoral Buenos Aires Primero se concretó la denuncia ante el Tribunal Electoral de la Ciudad Autónoma de Buenos Aires.

En esa pieza audiovisual que tuvo un fuerte impacto en redes sociales, Macri supuestamente anunciaba el retiro de la candidatura de Lospennato y llamaba a votar por la lista libertaria encabezada por Manuel Adorni.

El PRO presentó una denuncia ante la Justicia Electoral porteña y el propio Macri manifestó: “Se trata de un intento de fraude electoral, que busca confundir al electorado utilizando artilugios“.

El desarrollo de la inteligencia artificial ha permitido que la consolidación de un mercado clandestino: los sitios y aplicaciones que permiten generar imágenes y videos falsos de personas desnudas sin su consentimiento, conocidos como “nudify” o “undress”.

Este fenómeno, expuesto en un informe de Wired y surgido a partir de los primeros deepfakes explícitos, ha evolucionado y generado un mercado millonario, impactando negativamente la vida de mujeres, adolescentes y niñas al generar situaciones de abuso, acoso y daño psicológico.

Cómo es el surgimiento y propagación de los videos alterados con IA

El origen de los llamados “nudificadores” puede rastrearse hasta 2019, año en el que empezaron a multiplicarse herramientas que utilizaban generadores de imágenes con IA para crear desnudos falsos a partir de simples fotografías.

El proceso, que en sus comienzos requería conocimientos técnicos avanzados y producía resultados de baja calidad, se ha convertido en una práctica de fácil acceso gracias al desarrollo de plataformas y aplicaciones que automatizan el uso de algoritmos sofisticados en pocos pasos.

El funcionamiento es el siguiente: el usuario sube una foto de cualquier persona (generalmente extraída de redes sociales) y la herramienta la procesa para generar una imagen o video en el que la persona aparece desnuda.

Estos materiales suelen ser hiperrealistas, lo que maximiza su capacidad de causar daño y de engañar tanto a las víctimas como a quienes los visualizan.

Si bien los primeros “nudificadores” se centraban casi exclusivamente en imágenes, el avance de la tecnología ha permitido la manipulación y fabricación de videos alterados, llevando el fenómeno a una nueva dimensión de peligrosidad y alcance.

Estas plataformas emplean modelos de deep learning y técnicas generativas avanzadas, que seleccionan patrones y reconstruyen partes del cuerpo inexistentes en la imagen original. El resultado es una pieza visual que simula ser auténtica, indistinguible de una captura real.

Cómo funciona el mercado de los videos alterados con IA

El análisis realizado por Indicator arrojó cifras que dan cuenta de la magnitud del fenómeno. Los sitios nudificadores sumaron en conjunto un promedio de 18,5 millones de visitantes mensuales durante un periodo de seis meses recientes.

En términos de facturación, algunas estimaciones sitúan las ganancias conjuntas en hasta 36 millones de dólares anuales (33,4 millones de euros aproximadamente).

El modelo de negocio está basado en la venta de “créditos” o suscripciones que permiten a los usuarios acceder a la generación de imágenes y videos falsos. Los pagos se canalizan a través de sistemas proporcionados por empresas reconocidas internacionalmente, lo que da estabilidad y anonimato a los operadores.

Además, la proliferación de programas de afiliados y la promoción de videos patrocinados, incluso con la participación de artistas para adultos, alimentan las fuentes de ingresos e incrementan la notoriedad del fenómeno.

El público principal de estas páginas se concentra principalmente en Estados Unidos, seguido por India, Brasil, México y Alemania. Los motores de búsqueda y las redes sociales dirigen parte del tráfico, aunque también existen estrategias orientadas a reclutar usuarios por vías alternativas, como publicidad paga y sistemas de recomendaciones.

El negocio no está libre de riesgos para quienes intentan aprovecharlo. La popularidad alcanzada ha derivado en la aparición de múltiples sitios fraudulentos, algunos operados por hackers que ofrecen aplicaciones modificadas con malware para captar datos personales y financieros de los usuarios.

Cuáles son las consecuencias de este mercado

El crecimiento de los nudificadores ha agravado el problema del acoso sexual digital y la violencia de género en línea. Además del uso masivo de imágenes robadas de redes sociales, se han registrado casos de ciberviolencia escolar en los que adolescentes “desnudan” a compañeros y compañeras para difamar o ejercer presión psicológica.

Las víctimas enfrentan un daño emocional profundo: la eliminación total de estos contenidos resulta casi imposible, intensificando la angustia y la sensación de vulnerabilidad.

Los países con mayor volumen de usuarios y tráfico hacia estos sitios también enfrentan un desafío legislativo y judicial relevante. Estados Unidos y el Reino Unido, por ejemplo, han iniciado acciones legales y regulatorias recientes.

El fiscal de San Francisco demandó a 16 servicios de generación de imágenes no consentidas, mientras que empresas como Microsoft y Meta han identificado y enfrentado judicialmente a desarrolladores responsables de este tipo de contenidos. Además, la promulgación de leyes como la Take It Down Act en Estados Unidos exige a las compañías tecnológicas la retirada rápida de imágenes abusivas.

A pesar de estos avances, los expertos insisten en la insuficiencia de las respuestas actuales. Organismos y especialistas como Henry Ajder señalan que solo una acción coordinada y eficaz de quienes facilitan y permiten la operación de estos negocios podría frenar el avance del fenómeno.

“Solo cuando empresas como estas tomen medidas específicas, empezaremos a ver progresos significativos para dificultar el acceso a estas aplicaciones y obtener beneficios de ellas”, afirmó a Wired.

Las plataformas responsables han señalado, en respuesta a investigaciones y reclamos, que sus condiciones de uso prohíben expresamente contenido ilegal y acoso. Sin embargo, la aplicación de estas políticas ha resultado en la práctica insuficiente para contener una industria que ya ha alcanzado niveles de profesionalismo y dispersión técnica muy elevados.

Desde asistentes virtuales que gestionan nuestras agendas hasta complejos sistemas que aceleran el descubrimiento de fármacos, la IA ya no es una promesa futura, sino una realidad presente y omnipresente. Sin embargo, con esta expansión, también ha llegado una jerga técnica que puede ser difícil de entender para quienes no están familiarizados con el tema.

IAltanto, un newsletter semanal y comunidad hispanohablante sobre inteligencia artificial, seleccionó 10 palabras claves que son esenciales para poder navegar con seguridad en el mundo de la IA.

1. Prompt

Un “prompt” es la instrucción o el conjunto de palabras que se le proporciona a una IA para que realice una determinada tarea. En términos simples, detalla Learn Microsoft es aquello que se pregunta o pide al modelo de IA para que genere una respuesta.

En el caso de un asistente de IA como ChatGPT, el prompt puede ser tan simple como una pregunta (“¿Cuál es el clima hoy?”) o una solicitud compleja (“Escribe un ensayo sobre la evolución de la IA en los últimos 20 años”).

Los prompts son fundamentales porque determinan cómo la IA procesará y entenderá tu solicitud.

Para ser efectivo, un prompt debe poseer varias características fundamentales:

• Claridad y Especificidad: debe usar un lenguaje sencillo y directo, proporcionando tantos detalles como sea necesario para definir la tarea. Cuanto más específico es el prompt, mayor es la probabilidad de obtener una respuesta relevante.
• Contexto: debe proporcionar toda la información de fondo que el modelo necesita para comprender la solicitud en su totalidad. Esto incluye definir el “para qué”, “para quién” o la situación en la que se necesita la respuesta.
• Estructura y Rol: un prompt avanzado puede definir el formato de salida esperado (por ejemplo, “genera una lista con viñetas”, “responde en formato JSON”) e incluso asignar un rol a la IA (“actúa como un experto en nutrición”, “responde como si fueras Charles Dickens”) para guiar su tono y estilo.

2. Input

El “input” se refiere a la información que se introduce en un sistema para que este pueda procesarla. En el contexto de la IA, el input puede ser un texto, una imagen, un sonido, o incluso datos numéricos.

En un modelo de lenguaje como GPT-4, el input -agrega el portal de herramientas de Google-sería cualquier texto que le envíes, y la IA utiliza este input para generar una respuesta adecuada. Cuanto más detallado y preciso sea el input, más exacta será la salida.

3. Output

El “output” es la respuesta generada por un sistema de IA después de procesar un input. En otras palabras, es el resultado de la acción de la IA en respuesta a una solicitud. Siguiendo el ejemplo anterior, si se proporciona un texto como input (“¿Cómo funciona la IA?”), el output sería una explicación sobre el tema.

En modelos de IA avanzados como los de OpenAI, el output puede ser un texto escrito, una imagen generada, o incluso una recomendación basada en datos.

4. LLM (Large Language Model)

Los LLM son una forma avanzada de inteligencia artificial diseñada y entrenada para comprender, resumir, traducir, predecir y generar lenguaje natural a una escala y con una fluidez sin precedentes.

Estos modelos, agrega IAltanto, como los conocidos ChatGPT de OpenAI o Gemini de Google, son los motores que impulsan la actual revolución de la IA generativa.

Su capacidad para realizar una amplia gama de tareas lingüísticas, desde la redacción de correos electrónicos hasta la escritura de código de programación complejo, proviene de su arquitectura y de su proceso de entrenamiento masivo.

Estos modelos se entrenan utilizando datasets (conjuntos de datos) masivos de textos de diversas fuentes: libros, artículos, foros, etc. GPT-4 es uno de los ejemplos más conocidos de un LLM. Estos modelos se utilizan en aplicaciones como chatbots, asistentes personales, generadores de contenido y más.

5. Token

Los seres humanos perciben el lenguaje a través de palabras y oraciones, pero las máquinas, incluidos los LLM, no. Para que un modelo de IA pueda procesar texto, este debe ser descompuesto en unidades numéricas que el algoritmo pueda entender. Este proceso fundamental se conoce como tokenización, y las unidades resultantes se denominan “tokens”.

Un “token” es la unidad básica de procesamiento de un modelo de lenguaje. Pueden ser palabras, fragmentos de palabras o caracteres. Por ejemplo, la palabra “inteligencia” puede ser un token en algunos modelos, pero en otros, podría dividirse en varios tokens, dependiendo de cómo el modelo maneje el lenguaje.

Los modelos de IA procesan estos tokens para entender y generar respuestas. El número de tokens en un input puede influir en la calidad de la respuesta, ya que algunos modelos tienen limitaciones en la cantidad de tokens que pueden procesar de una vez.

6. Dataset

Un “dataset” es un conjunto organizado de datos que se utiliza para entrenar y probar modelos de IA.

Un dataset puede presentarse en múltiples formatos, pero que a menudo se visualiza como una tabla donde las filas representan registros individuales (u observaciones) y las columnas representan sus características (o variables).En el contexto del machine learning y la IA, el dataset es la materia prima fundamental que se utiliza para entrenar, validar y probar los modelos. Sin un dataset, un modelo de IA es una estructura vacía, incapaz de aprender o realizar ninguna tarea.

En el contexto de la IA, un dataset puede contener millones de ejemplos de texto, imágenes, audios, etc., que son utilizados por los algoritmos para aprender patrones y hacer predicciones.

Por ejemplo, un dataset de imágenes podría usarse para entrenar a un modelo de visión computarizada para reconocer objetos. Los datasets son fundamentales porque la calidad y diversidad de los datos entrenan al modelo para ser más preciso en sus tareas.

7. Fine-tuning

El “fine-tuning” (ajuste fino) es el proceso de mejorar un modelo preentrenado adaptándolo a un conjunto de datos más específico. Según detalla el portal educativo de CEI., un modelo de IA generalmente es entrenado con una gran cantidad de datos de propósito general. Sin embargo, a través del fine-tuning, el modelo se adapta a un conjunto de datos más pequeño y especializado, lo que le permite ser más efectivo en una tarea específica.

Este proceso es clave para mejorar la precisión de un modelo en tareas como la traducción de lenguajes, la clasificación de imágenes, o incluso la generación de textos en áreas muy técnicas.

8. Prompt Engineering

El “prompt engineering” (Diseño de prompts) es la práctica de diseñar preguntas o solicitudes de manera que maximicen la efectividad de la IA, explica Learn Microsoft. Es un campo en crecimiento debido a que, aunque los modelos de IA como GPT-4 pueden generar respuestas de alta calidad, los resultados varían considerablemente dependiendo de cómo se estructura el prompt.

El prompt engineering implica entender cómo se formula una solicitud para obtener respuestas precisas, útiles y relevantes. Puede incluir detalles como la longitud del prompt, el tono y la claridad de la solicitud.

9. Alucinación

Una “alucinación” en IA ocurre cuando un modelo genera respuestas que son incorrectas, no verificadas o completamente inventadas. Esto es particularmente relevante en modelos de lenguaje como GPT-4, donde la IA puede producir respuestas convincentes pero erróneas, sobre todo cuando no tiene suficiente información para generar una respuesta precisa.

Las alucinaciones son un desafío significativo porque los modelos de IA no siempre pueden distinguir entre hechos y errores, lo que puede generar desinformación si no se tiene cuidado.

10. Deepfake

Un “deepfake” es una técnica que utiliza IA para crear o modificar imágenes, audios y videos de manera que parezcan realistas, pero son falsificados. Estos contenidos pueden mostrar a personas diciendo o haciendo cosas que nunca sucedieron.

Los deepfakes se generan a partir de un proceso de entrenamiento de redes neuronales profundas, que aprenden a imitar a la perfección los rostros, voces o comportamientos humanos. Aunque se pueden usar con fines creativos, los deepfakes también representan una amenaza en términos de desinformación y privacidad.

El diputado provincial y jefe del bloque oficialista en la Legislatura de Córdoba, Miguel Siciliano, manifestó su preocupación por el video fake, en la que se le adjudican palabras y posturas jamás pronunciadas, y que son funcionales al discurso de la oposición local.

“No tengo dudas que acá hay un delito. Cualquier persona que utilice el rostro, la voz, la cara, el cuerpo de otra persona para hacerle decir algo que no dijo constituye un delito, cuando lo comete un diputado nacional del voto popular. Es de una gravedad inusitada que no podemos relativizar”, enfatizó Siciliano, en diálogo con Infobae en Vivo, durante el programa de la mañana, que cuenta con la conducción de Gonzalo Sánchez, Carolina Amoroso, Ramón Indart y Cecilia Boufflet.

El repudio del bloque de “Hacemos por Córdoba” se produce en la previa a las elecciones legislativas, en las que la cercanía De Loredo, el gobierno nacional encabezado por Javier Milei y la estrategia de la oposición cordobesa saltan al centro de la discusión pública. El propio diputado nacional intentó evitar la polémica, luego de los antecedentes del malestar que generó un video similar de Silvia Lospennato (PRO) en las elecciones porteñas. Desde sus redes, el cordobés aclaró desde un primer momento que se trataba de un video ficticio realizado con IA; sin embargo, no pudo eludir las críticas de sus adversarios.

En ese marco, Siciliano fue terminante con su repudio, y deslizó sobre la presunta participación de "servicios de inteligencia detrás de la construcción del video”. “Es un video muy bien hecho, muy bien planteado, no me extrañaría que haya servicios de inteligencia detrás de esto. Es el jefe de bloque del radicalismo. Además de ser una discusión moral y ética, prefiero que los políticos dando el debate y no acudiendo a esto”, subrayó

El dirigente de “Hacemos por Córdoba” insistió en que el video no impactaría a la figura de Llaryora, sino que “se afecta a la institución de la gobernación” y a la “provincia”. Por lo tanto, el legislador reclamó la acción del Poder Judicial: “Debería actuar, porque es gravísimo. Mañana van a ir por los periodistas, a ustedes les van a hacer decir algo que no dijeron, les van a hacer decir cualquier cosa, o a los dirigentes empresariales. Naturalizar esto es gravísimo”.

Y sumó: “No me importa quién lo hace. Sí sé que, que ante su clara necesidad de ser diputado en la elección que viene -como Llaryora defiende al campo, defiende la universidad pública, la obra pública y defiende a Córdoba-, querer colgarse en la lista de Milei lo lleva a cometer un delito”.

Otros sectores políticos de Córdoba también cuestionaron el video. En el ámbito político local, la Mesa Provincia-Municipios, que agrupa a intendentes de diferentes partidos, publicó una carta donde expresó su preocupación por la utilización de la imagen y palabra de Llaryora de manera adulterada.

Entre los firmantes figura Roberto Casiari, intendente de Vicuña Mackenna y presidente del Foro de Intendentes Radicales. Con un comunicado, se subrayó que “manipular su imagen y su palabra con fines políticos no sólo constituye un acto de irresponsabilidad, sino también una grave falta ética que daña la institucionalidad, el diálogo democrático y atenta contra la buena fe”. Además, advirtió que “la mentira fabricada y la degradación del adversario por medios artificiales no pueden tener lugar en una democracia madura”.

La postura de los referentes cercanos a De Loredo fue respaldar al dirigente. Matías Gvozdenovich, jefe de la bancada de la UCR, consideró “raro” que el Gobierno provincial se sintiera ofendido por el video y argumentó que solo “se pone en evidencia el estado real de la provincia”. Alejandra Ferrero, también legisladora radical, criticó al oficialismo por “matar con impuestos y tarifazos” y sostuvo que el Gobierno se moviliza por un video “cuando la IA traduce su doble discurso”.

Infobae en Vivo te acompaña cada día en YouTube con entrevistas, análisis y la información más destacada, en un formato cercano y dinámico.

• De 9 a 12: Gonzalo Sánchez, Carolina Amoroso, Ramón Indart y Cecilia Boufflet.

• De 18 a 21: Jesica Bossi, Diego Iglesias, María Eugenia Duffard y Federico Mayol.

Actualidad, charlas y protagonistas, en vivo. Seguinos en nuestro canal de YouTube @infobae.

Arequipa se ha convertido en el escenario de un nuevo caso que evidencia cómo las tecnologías digitales pueden ser utilizadas para perpetrar crímenes cada vez más sofisticados. La Fiscalía Provincial Transitoria Especializada en Ciberdelincuencia ejecutó esta semana un allanamiento con fines de detención preliminar contra Marco Huaracha (37), quien es investigado por suplantar la identidad de mujeres en Instagram y Facebook, con el objetivo de manipular sus imágenes. La modalidad empleada ha encendido las alarmas: el uso de inteligencia artificial (IA) para crear imágenes falsas de contenido sexual explícito.

Las autoridades informaron que el investigado actuaba desde el año 2014 bajo distintos alias. Usando tecnología de edición y, después, generación de imágenes basadas en inteligencia artificial, habría creado una red de perfiles falsos de mujeres, con los que interactuaba con personas cercanas a las víctimas, generando confusión, acoso y daños a su imagen.

Durante la intervención, se incautaron laptops, celulares y discos duros donde se hallaron carpetas con más de 50 archivos de mujeres no identificadas, cuyas fotos fueron manipuladas mediante técnicas conocidas como deepfake para mostrar escenas sexualizadas.

Deepfakes y suplantación: así operaba la red de engaño digital

Durante la revisión de los dispositivos del detenido, los agentes hallaron carpetas con fotografías alteradas mediante tecnología deepfake. Estas imágenes, en su mayoría no identificadas, fueron manipuladas para mostrar a las víctimas en contextos sexuales —desnudas o semidesnudas— sin su consentimiento. El material era posteriormente compartido en grupos cerrados, aumentando el daño y la exposición no autorizada.

El uso de deepfakes sexuales, montajes digitales que combinan rostros reales con cuerpos ajenos para crear contenido falso, ha registrado un crecimiento sin precedentes a nivel mundial. Según el último informe de Home Security, “State of Deepfakes 2023”, entre 2022 y 2023 hubo un incremento del 464% en la producción y circulación de este tipo de contenido en internet. Más grave aún: el 98% de los deepfakes encontrados tienen carácter pornográfico, y en el 99% de los casos involucran a mujeres como víctimas principales.

Estas manipulaciones no requieren ya conocimientos avanzados. Existen aplicaciones móviles y sitios web gratuitos que permiten a cualquier usuario crear estos contenidos en pocos minutos. Algunas incluso ofrecen catálogos de rostros, plantillas prediseñadas y algoritmos de ajuste automático para mejorar el realismo de las imágenes generadas. Esto ha disparado el número de casos de acoso digital y violencia sexual no consensuada, muchas veces sin que las víctimas sean conscientes de que están siendo expuestas.

En el caso de Huaracha, el Ministerio Público también obtuvo el levantamiento del secreto de las comunicaciones, lo que permitirá analizar en profundidad el flujo de datos y posibles destinatarios del contenido compartido. El detenido se encuentra bajo custodia mientras se amplía la investigación.

Medidas contra la suplantación en redes sociales

Las autoridades reiteran que este tipo de delitos informáticos, aunque nuevos, ya cuentan con sanciones penales en el Perú. La Ley N.° 30096, Ley de Delitos Informáticos, establece penas de hasta 8 años de prisión para quienes cometan actos de suplantación de identidad con agravantes como contenido sexual. Además, el Código Penal contempla hasta 10 años si se acredita la distribución de material pornográfico que afecta a personas sin su consentimiento.

No existe una solución infalible para no ser víctima de un deepfake, pero sí una serie de recomendaciones que reducen el riesgo:

• Utilizar contraseñas fuertes y cambiarlas periódicamente.
• Activar la autenticación en dos pasos en todas las redes sociales.
• Limitar la visibilidad de la información personal, como número de teléfono, dirección de correo o ubicación.
• Revisar las solicitudes de amistad y no aceptar perfiles desconocidos sin verificar su autenticidad.
• Supervisar regularmente tu nombre en buscadores y redes para detectar posibles cuentas que se hagan pasar por ti.

La legislación se ha desarrollado con base en los reglamentos actualmente existentes a nivel internacional en materia de IA para evitar daños como la violación de derechos e intereses del público, según explicó en su momento el Gobierno central.

La nueva ley establece que, si bien la IA es una de las bases del desarrollo socioeconómico, también tiene potencial para la comisión de delitos y fomentar la infracción de derechos de autor, así como la filtración de datos personales, por lo que establece una serie de medidas para garantizar un uso seguro.

En virtud de la normativa, el Gobierno podrá abrir una investigación en caso de que suceda algo grave vinculado a la IA y, en función de los resultados, brindará orientación y asesoramiento a las empresas, además de proporcionar información al público.

La ley no estipula ningún tipo de sanción y en casos en los que existan sospechas de un delito se usarán otras normativas vigentes para abordar el problema, como el Código Penal o la Ley de Derechos de Autor.

Ante el creciente número de delitos en los que se ha visto involucrado el uso de IA para crear imágenes y vídeos de contenido pornográfico, el Parlamento japonés ha aprobado otra resolución complementaria que exige adoptar medidas más enérgicas contra los 'deepfake', contenido digital manipulado con IA para imitar o reemplazar la apariencia o la voz de una persona real.

La nueva ley señala también que será un ente del Gobierno el que establezca unas directrices básicas para promover la investigación, el desarrollo y el uso adecuados de la IA, así como para mejorar la competitividad de las empresas niponas a nivel internacional.

La normativa define a la IA como "una tecnología importante para la seguridad nacional", poco explotada en el país hasta el momento.

De acuerdo al último Libro Blanco de Información y Comunicaciones del Ministerio del Interior, sólo un 9 % de los japoneses está habituado a usar IA, frente al 56 % de los chinos o el 45 % de los estadounidenses, y sólo en la mitad de las empresas niponas se usa IA generativa, frente al 85 % de Estados Unidos y el 84 % de China.

Tokio está invirtiendo unos 700 millones de dólares en infraestructura y otros recursos vinculados con la IA, unas diez veces que Pekín y casi mil veces menos que Washington, según una encuesta de la Universidad de Stanford (EE.UU.). EFECOM

Durante los últimos días el internet no ha sido un buen lugar para la influencer regiomontana Alana Flores pues fue víctima de ‘deepfake’ en donde se mostraron una serie de imágenes en donde la muestran en situaciones íntimas que, de acuerdo con ella, no son reales. Ante ello, Sebastián Cáceres, novio de la famosa, no dudó en pronunciarse de manera pública pues incluso él fue blanco de críticas.

Aunque Alana aseguró que ya está tomando acciones legales y buscará llegar hasta las últimas consecuencias para dar con el responsable de este delito, Cáceres también se vio afectado por los comentarios en la red. En varios de los comentarios se mencionaron burlas en contra del futbolista de las Águilas pues algunos usuarios incluso alegaron una posible infidelidad por parte de la mexicana.

Ante los constantes ataques que ambos han recibido se habló de que podría haber una posible ruptura entre ambos, sin embargo, desde sus redes sociales, Sebastián Cáceres dejó en claro que una imagen no va a hacer que deje a su novia y mostró su total apoyo a la dueña de Raniza FC, así como su desaprobación por la forma en la que la han afectado: “La gente que no tiene nada que hacer se pone a inventar cosas con tal de hacer daño a los demás, por suerte no todos tenemos ese estilo de vida tan miserable”, fueron sus palabras que acompañaron el video de Alana en donde pide justicia.

Un momento complicado para la influencer

La influencer y streamer mexicana Alana Flores ha denunciado públicamente ser víctima de un ataque digital mediante la creación y difusión de una imagen íntima falsa generada con inteligencia artificial (IA). La fotografía, que comenzó a circular en redes sociales el pasado 27 de mayo, ha provocado una ola de reacciones y ha llevado a Flores a considerar acciones legales contra el presunto responsable.

En un video publicado en su cuenta de Instagram, Flores explicó que la imagen en cuestión no es auténtica y que fue manipulada utilizando tecnología de deepfake. “Hay una imagen falsa de mí que está siendo difundida en redes sociales, que ha sido alterada ya sea por Inteligencia Artificial o sea por una persona, el caso es que es una imagen que no soy yo”, declaró la influencer.

Flores también señaló que esta no es la primera vez que enfrenta una situación similar, aunque en esta ocasión la gravedad del incidente la ha llevado a considerar abandonar las redes sociales y sus proyectos actuales. “Me hace sentir con mucha vulnerabilidad e impotencia estar en esta situación que ya no sé qué hacer (...) siento que estoy atrapada en un círculo de odio del que no tengo salida”, expresó.

¿Qué sigue para Alana Flores?

La influencer, originaria de Monterrey, Nuevo León, ha ganado popularidad en redes sociales por sus transmisiones en vivo y su participación en eventos deportivos. Actualmente, cuenta con un equipo de fútbol llamado Ranizana FC en la Kings League, torneo creado por el exfutbolista Gerard Piqué, y tiene pactada una pelea de boxeo con Gala Montes el próximo 17 de agosto en el Palacio de los Deportes de la Ciudad de México.

En cuanto a las acciones legales, Flores afirmó haber identificado al presunto responsable de la difusión de la imagen falsa. “Para los que dicen que si voy a demandar a una IA, tengo a la persona que lo inició y, aunque haya borrado su cuenta @chainsant1, sé que fue él”, escribió en su cuenta de X (anteriormente Twitter).

El caso de Alana Flores ha reavivado el debate sobre el uso indebido de herramientas de inteligencia artificial para la creación de contenido falso, especialmente aquel que afecta la privacidad y la reputación de las personas. Las deepfakes, que combinan “deep learning” (aprendizaje profundo) y “fake” (falso), permiten generar videos, audios o imágenes falsos pero muy realistas, representando una amenaza creciente en el ámbito digital.

La situación ha generado una ola de apoyo hacia la influencer, mientras que expertos en ciberseguridad y derechos digitales han enfatizado la necesidad de establecer regulaciones más estrictas para prevenir y sancionar este tipo de prácticas.

Flores ha manifestado que, derivado de esta situación, ha buscado ayuda médica y psicológica, y está evaluando su continuidad en el ámbito digital y deportivo. Su caso pone de relieve los desafíos que enfrentan las figuras públicas en la era de la inteligencia artificial y la importancia de contar con mecanismos legales y tecnológicos para proteger su integridad.

“Mira este video de aquí”, presenta su publicación María Aperador, una criminóloga que “protege de los cibermalos”, según explica en la descripción de su perfil de TikTok, @mariaperadorcriminologia, a través del cual comparte consejos de ciberseguridad para sus casi 100 mil seguidores.

“Esto que ves aquí”, continúa, refiriéndose a un video que muestra a - quien parece ser - Elon Musk con 20 años menos, encendiendo un mechero. Pero, en realidad, no es el empresario sudafricano: “Esto que ves aquí es un deepfake, y es la realidad a la que nos vamos a enfrentar a partir de ahora como sociedad". La IA y la tecnología de procesamiento de video está ya lo suficientemente avanzada como para que resulte casi imposible distinguir entre una imagen real y una generada por algún ente algorítmico.

“Una de las preguntas que me hacéis como experta en ciberseguridad es cómo le podemos explicar a nuestros mayores que cualquier vídeo puede ser falso y sobre todo, cómo podemos enseñarles a detectarlos para evitar que caigan en estafas y engaños”. Al final, es más fácil que una persona que tenga la tecnología menos controlada no se de cuenta de que lo que está viendo es, en realidad, falso, aunque hoy por hoy ya cualquiera podría ser engañado. Así que lo mejor será escuchar los “truquillos prácticos y fáciles de entender” de una experta en la materia.

Cómo identificar un deepfake, según una criminóloga

“En primer lugar nos tenemos que fijar en los labios. Si en el vídeo la boca no está sincronizada con el sonido y lo que está diciendo, lo más probable es que sea falso. Otra de las cosas que podemos mirar son los ojos. Si vemos que hay parpadeos que no son naturales o parecen muy robóticos, es porque el vídeo está hecho con inteligencia artificial”.

Más allá de eso, María recuerda que “también tenemos que fijarnos en la voz. Si el tono de la voz es muy robótico es porque han utilizado piezas de la voz original, pero al pasarla a la inteligencia artificial no queda del todo natural”, además de prestar atención a los comentarios de otros usuarios: “Cuando vemos este tipo de vídeos en Instagram, por ejemplo, si entramos en comentarios, ya hay personas alertando que está hecho con inteligencia artificial, así que esta puede ser otra de las señales que nos dé indicios de que es falso”.

Y concluye con un “consejo final”: “Si el vídeo te sorprende mucho, lo más probable es que sea falso, porque lo que buscan con este tipo de contenido es alertarnos, asustarnos o meternos algún tipo de información que no es del todo veraz. Mi objetivo con todo lo que hago es que Internet no sea un lugar hostil. Así que para evitar todo este tipo de estafas, manipulaciones y engaños, estoy creando la aplicación de BeValk, una aplicación que va a ser como nuestro guardián digital. Va a alertarnos de todo tipo de estafas, de fraudes y de manipulaciones y nos va a guiar.”

La influencer mexicana Alana Flores se posicionó entre las principales tendencias de redes sociales por una poderosa razón. Y es que se viralizó una imagen que vulnera su integridad, la cual habría sido creada con Inteligencia Artificial (IA).

“Hay una imagen falsa de mí que está siendo difundida en redes sociales, que ha sido alterada ya sea por Inteligencia Artificial o sea por una persona, el caso es que es una imagen que no soy yo, es una imagen en la que utilizaron mi cara y está siendo alterada, nunca me la tomaron y nunca pasó”, declaró en Instagram.

Sin profundizar en detalles, la influencer confesó que ya había pasado por una situación de deepfake (alterar cualquier material digital con herramientas de IA) en anteriores ocasiones, pero no con la misma gravedad. Asimismo, negó tener fotos desnuda o sexuales en sus dispositivos móviles.

“Me hace sentir con mucha vulnerabilidad e impotencia estar en esta situación que ya no sé qué hacer (...) siento que estoy atrapada en un círculo de odio del que no tengo salida”, lamentó.

Alana Flores confesó que, derivado de esta situación, no solo ha considerado abandonar las redes sociales, también su proyecto en la Kings League y su pasión por el boxeo. Incluso, reveló que esta situación ya llevaron a buscar ayuda médica y psicológica.

Finalmente, dio a conocer que analizando la posibilidad de proceder legalmente en contra de la persona que habría alterado la imagen en cuestión.

¿Quién es Alana Flores?

Alana Flores es una influencer mexicana originaria de Monterrey, Nuevo León, que en los últimos años ha ganado popularidad en redes sociales tanto por sus streaming como por su participación estelar en proyectos de alcance internacional.

Y es que tiene un equipo de fútbol llamado Ranizana FC. Éste pertenece a la Kings League, un famoso torneo de fútbol creado por el exfutbolista español, Gerard Piqué, y que desde hace unos meses se juega en México.

Eso no es todo, la influencer también ha peleado en la Velada del Año, un torneo de boxeo creado por el influencer Ibai Llanos.

De hecho, Alana Flores tiene pactada una pelea de box con Gala Montes el próximo 17 de agosto en el Palacio de los Deportes de la Ciudad de México. Esto como parte del campeonato ‘Supernova Strikers Drigenes’.

En Instagram cuenta con 4.7 millones de seguidores, mientras que en TikTok está a punto de llegar a los 7 millones de fans.

El presidente de Estados Unidos, Donald Trump, promulgó el lunes una ley que penaliza la difusión no consentida de imágenes pornográficas reales o generadas por inteligencia artificial (IA), en particular con fines de extorsión sexual, un fenómeno en crecimiento.

El proyecto de ley, denominado “Take It Down Act” (Ley Elimínalo, en español), promovido por la primera dama Melania Trump, fue aprobado previamente por el Senado y la Cámara de Representantes de Estados Unidos, donde obtuvo un amplio apoyo bipartidista.

“Esta será la primera ley federal destinada a combatir la difusión de imágenes explícitas y ficticias sin el consentimiento del individuo”, dijo el presidente republicano en una ceremonia en el Jardín de las Rosas de la Casa Blanca.

“Cualquiera que difunda intencionalmente imágenes explícitas sin el consentimiento de otra persona enfrentará hasta tres años de prisión”, afirmó Trump, y se refirió también a la “responsabilidad civil” de los sitios de redes sociales que alojan estas imágenes pero “se niegan a eliminarlas rápidamente”.

La difusión no consentida de imágenes sexuales, a veces creadas con la ayuda de IA, es un fenómeno que afecta principalmente a niñas y mujeres, incluidas algunas celebridades como la cantante Taylor Swift y la legisladora demócrata Alexandria Ocasio-Cortez.

Con la popularización de las herramientas de IA, la creación de estos montajes de fotos o videos hiperrealistas se ha vuelto más sencilla y ha abierto la puerta a su uso generalizado con fines de acoso o humillación, tomando por sorpresa a legisladores de todo el mundo.

Vergüenza

“Esta legislación es un paso decisivo en nuestros esfuerzos por garantizar que todos los estadounidenses, especialmente los jóvenes, puedan sentirse mejor protegidos contra ataques a su imagen o identidad a través de imágenes no consensuadas”, dijo Melania Trump, durante una rara aparición pública junto a su marido.

La primera dama, que respaldó la iniciativa en marzo, invitó a la ceremonia en la Casa Blanca a varias jóvenes víctimas de prácticas de este tipo.

Entre ellas estaba una adolescente de Texas que descubrió a finales de 2023 montajes hiperrealistas (‘deepfakes’ o ultrafalsedades) de carácter sexual de ella y varias de sus compañeras, creados sin su consentimiento por un alumno de su escuela y luego compartidos en la red Snapchat.

“Las chicas simplemente lloraron y lloraron y lloraron, estaban avergonzadas”, dijo entonces a la AFP su madre, Anna Berry McAdams, preocupada de que las imágenes pudieran resurgir en el futuro.

“Esto podría afectarlas por el resto de sus vidas”, afirmó, al señalar la impotencia de las víctimas para actuar y defender sus derechos.

Riesgo de censura

Hasta ahora, sólo unos pocos estados de Estados Unidos, incluidos California y Florida, tenían leyes que penalizaban la creación y publicación de imágenes sexuales falsas.

La nueva ley federal representa por tanto un “paso significativo” en la lucha contra este fenómeno, declaró a la AFP Renée Cummings, criminóloga e investigadora en inteligencia artificial de la Universidad de Virginia.

“Pero su eficacia dependerá de su rápida y fiable aplicación, de sanciones severas contra los autores de estos actos y de su adaptabilidad en tiempo real a las amenazas digitales emergentes”, insistió.

Y advirtió: “Debemos garantizar que las medidas legislativas protejan a la sociedad y castiguen a los perpetradores (...) sin sofocar” la libertad de expresión.

Este riesgo ha sido destacado por varias asociaciones de defensa de las libertades civiles, que han manifestado su preocupación por el riesgo de censura.

“Si bien proteger a las víctimas de estas odiosas invasiones de la privacidad es un objetivo legítimo, las buenas intenciones por sí solas no son suficientes para hacer una buena ley”, dijo la Electronic Frontier Foundation, al denunciar “definiciones vagas y falta de garantías” que podrían llevar a la censura.

La ley requiere que las plataformas de redes sociales y sitios web tengan procedimientos para eliminar rápidamente imágenes íntimas no consensuadas tras la notificación de una víctima.

(con información de AFP)

La tecnología ha derribado fronteras, ha conectado al mundo a una velocidad impensable décadas atrás y ha puesto el conocimiento al alcance de todos. En este entorno interconectado, las oportunidades florecen en campos como la educación, la ciencia, los negocios o la salud. Pero este avance vertiginoso también tiene su lado oscuro: el auge de la ciberdelincuencia potenciada por la inteligencia artificial (IA).

En el Perú, esta amenaza no es una abstracción. Solo en 2024 se reportaron más de 42 mil denuncias por delitos informáticos, un aumento alarmante de casi 40 % respecto al año anterior, según datos del Sistema Informático de Denuncias Policiales (SIDPOL). Este crecimiento no es casual. Los ciberdelincuentes están incorporando tecnologías de IA para lanzar ataques más veloces, más difíciles de rastrear y mucho más efectivos. Desde el robo de datos personales hasta el phishing y la ingeniería social, la IA se ha convertido en una aliada peligrosa de quienes operan fuera de la ley.

Uno de los fenómenos más inquietantes es el de los deepfakes. Estas manipulaciones digitales hiperrealistas —creadas gracias a redes generativas antagónicas (GAN)— permiten reemplazar rostros y voces en fotos o videos con una precisión que raya en lo imposible. Cualquiera puede convertirse en víctima de una campaña de desinformación, chantaje o difamación con solo una imagen como punto de partida. Las consecuencias, tanto personales como sociales, son devastadoras.

Lo más preocupante es que detectar estas falsificaciones es cada vez más difícil. Los modelos de IA más recientes, como los de difusión, generan imágenes y videos con un nivel de detalle tal que los sistemas de verificación tradicionales no logran distinguir lo real de lo falso. Esta difuminación de los límites entre lo auténtico y lo artificial pone en jaque a medios de comunicación, autoridades y ciudadanos por igual. ¿En qué podemos confiar cuando la evidencia visual o auditiva puede ser completamente fabricada?

Ante este panorama, es urgente actuar. Los Estados deben invertir en tecnología, actualizar sus marcos legales y promover la cooperación internacional. Pero tan importante como eso es educar. Necesitamos una ciudadanía alfabetizada digitalmente, capaz de identificar riesgos, proteger su información y ejercer un pensamiento crítico frente a lo que consume en línea.

La inteligencia artificial no es, en sí misma, el problema. De hecho, puede ser una gran aliada si se orienta al bien común. Pero, como toda herramienta poderosa, su uso debe estar guiado por principios éticos, marcos normativos sólidos y una vigilancia constante. De lo contrario, estaremos dejando que el futuro sea escrito por algoritmos diseñados no para servir a la humanidad, sino para aprovechar sus vulnerabilidades.

Cracovia (Polonia), 10 ene (EFE).- Este fin de semana se estrena en los cines de Polonia "Putin", una película que usa la tecnología "deepfake" o ultrafalseada para superponer la imagen del líder ruso, Vladímir Putin, a la de un actor y mostrar una biografía del jefe del Kremlin en clave paródica.

El filme, dirigido por el cineasta polaco Patryk Vega, conocido por sus comedias irreverentes sobre la política y el crimen organizado, ha generado gran expectación debido a la guerra y, tras debutar en las pantallas de Polonia, se estrenará en otros 63 países.

La película explora seis décadas de la vida de Putin, desde su infancia hasta su Presidencia y la invasión a gran escala de Ucrania en febrero de 2022, entrelazando eventos documentados con elementos ficticios.

En "Putin", se presenta al líder ruso como un hombre despiadado y hambriento de poder, capaz de ordenar la muerte de sus oponentes sin remordimiento pero que, al saberse solo y odiado, rompe a llorar en privado y rememora su tortuosa infancia.

Con el lema "el poder absoluto nunca es suficiente", la película está llena de escenas impactantes que alternan el humor negro y grotesco con una especie de semblanza psicológica -o patológica- de un Putin que proyecta sus frustraciones contra el mundo.

Para lograr una representación realista, Vega combinó la actuación del actor Sławomir Sobala, quien pasó dos años estudiando los gestos y el lenguaje corporal de Putin, con inteligencia artificial para superponer el rostro del mandatario en la pantalla.

El resultado, según el director, es una imagen que ningún actor podría haber logrado, ni siquiera con las mejores técnicas de maquillaje o caracterización.

"Todo el mundo tiene miedo de Vladimir Putin (pero) en mi película, él es un hombre aterrorizado que tiene miedo de la muerte”, escribió el director en redes sociales.

"Mi tesis es que Putin es un cobarde... quería exponer a Putin, para permitir que la audiencia se acerque a él como a un tigre enjaulado, pero mostrarles que este tigre también tiene miedo", añadió Vega.

Algunos críticos cuestionan la ética de utilizar IA para recrear la imagen de una persona real sin su consentimiento, pero el realizador polaco lo defiende porque, según él, "se trata de una obra artística con un importante interés social".

Según declaró hace unos meses, Vega tenía planeado hacer una película sobre gánsteres rusos pero, después de la invasión rusa de Ucrania en 2022, decidió centrarse en "el mayor gángster de Rusia" y comenzó a trabajar en la producción, con un presupuesto de 15 millones de euros.

El director polaco asegura que su trabajo atrajo el interés de agentes de inteligencia rusos, quienes supuestamente se hicieron pasar por compradores estadounidenses y le ofrecieron 200.000 dólares por el guión. EFE

La inteligencia artificial (IA) ha revolucionado diversas industrias, desde la medicina hasta la educación, pero también ha abierto la puerta a un nuevo tipo de delincuencia. Los ciberdelincuentes, al aprovechar las capacidades de la IA, han comenzado a generar contenido falso con fines malintencionados, como el fraude, la difamación, la manipulación política y social, entre otros.

Utilizando herramientas avanzadas, estos delincuentes crean textos, imágenes, vídeos y audios falsos que pueden resultar extremadamente convincentes. Esta tecnología no solo ha facilitado la creación de contenido engañoso, también ha transformado la forma en que los atacantes operan en línea.

Según información suministrada por el Instituto Nacional de Ciberseguridad de España (Incibe), la IA está siendo utilizada para generar fake news o noticias falsas, diseñadas para desinformar y manipular a la opinión pública. Un ejemplo claro de esto son los generadores de texto como ChatGPT, que permiten crear artículos completos con un estilo muy similar al de los periodistas profesionales.

Esta capacidad de producir contenido escrito de alta calidad ha permitido a los ciberdelincuentes difundir desinformación de forma masiva.

Cómo crean imágenes falsas los ciberdelincuentes

Además de los generadores de texto, los ciberdelincuentes también utilizan IA para crear contenido visual y auditivo falsificado. Herramientas como DeepFaceLab permiten la creación de deepfakes, alterando vídeos de manera que son casi indistinguibles de los reales.

Estas herramientas utilizan redes neuronales para mapear y superponer rostros, creando vídeos falsos en los que personas como políticos o celebridades pueden aparecer diciendo o haciendo cosas que nunca ocurrieron.

La capacidad de manipular vídeos de esta manera ha sido aprovechada para difundir propaganda, suplantar identidades y afectar la reputación de figuras públicas.

Cómo puede la IA llegar a clonar una voz

Por otro lado, la clonación de voz es otro de los avances que los ciberdelincuentes explotan. Programas como Lyrebird permiten replicar con alta precisión la voz de cualquier persona. Usando esta tecnología, los atacantes pueden crear audios falsos, en los que una persona parece estar pronunciando palabras o haciendo declaraciones que nunca dijo.

Esto no solo es utilizado para difundir rumores o declaraciones falsas, también se ha utilizado en fraudes económicos. Un caso real reportado por el Incibe describe cómo ciberdelincuentes utilizaron una voz clonada para estafar a una persona, haciendo que creyera que un familiar cercano estaba solicitando dinero en una emergencia. La víctima, al reconocer la voz, accedió a transferir una cantidad considerable de dinero.

Cómo no caer en los engaños creados con IA

Texto: En el caso de artículos o publicaciones escritas, es importante verificar la coherencia y la gramática del contenido. Los textos generados por IA pueden presentar errores sutiles, como repeticiones innecesarias o incoherencias en el estilo, que no son comunes en textos escritos por humanos.

Vídeo: Los deepfakes a menudo presentan anormalidades, como un número excesivo de parpadeos o movimientos faciales poco naturales. También puede haber incongruencias entre el rostro y el cuerpo, o la calidad del sonido puede no coincidir con la imagen, mostrando desfases o tonos extraños.

Audio: En el caso de audios generados por IA, como en el caso de la clonación de voces, se puede detectar variaciones inusuales en el tono o el ritmo del habla. Además, la falta de ruido de fondo o la presencia de sonidos extraños puede ser indicativo de manipulación.

Imágenes: Las imágenes generadas o alteradas por IA a menudo presentan detalles finos defectuosos, como manos con dedos desproporcionados o fondos que no se alinean correctamente. También se puede notar que la iluminación y las sombras no son coherentes en toda la imagen.

Qué herramientas hay para verificar el contenido falso generado por IA

Afortunadamente, existen herramientas específicas que pueden ayudar a los usuarios a detectar contenido falso generado por IA. Según el Instituto Nacional de Ciberseguridad, algunas de las herramientas más efectivas incluyen:

• Detectores de IA para texto: Herramientas como GPTZero y Copyleaks permiten analizar el contenido escrito y determinar si ha sido generado por IA. Estas herramientas son capaces de detectar patrones lingüísticos y estructuras gramaticales que son característicos de los modelos de lenguaje artificial.
• Herramientas de detección de multimedia: Para vídeos y audios falsos, existen plataformas como Deepware, que permiten analizar y detectar deepfakes con alta precisión. Además, VerifAI y Resemble Detect permiten verificar si un contenido ha sido alterado o generado mediante IA.

Hong Kong, 5 ene (EFE).- Las autoridades de Hong Kong detuvieron a 31 personas, entre ellas un futbolista local, que empleaban tecnología de imagen ultrafalsa ('deepfake') para inducir a sus víctimas a invertir en criptomonedas, informaron este domingo medios locales.

Los estafadores, cuya identidad no ha trascendido, dirigían sus ataques contra jóvenes de Taiwán, Singapur y Malasia, proporcionándoles "manuales de instrucciones" detallados sobre tácticas engañosas, mientras se hacían pasar por personas de éxito económico y seducían a sus víctimas con promesas de riqueza, indicó el diario digital local Dimsum Daily.

La investigación reveló que los estafadores lograron recaudar más de 34 millones de dólares hongkoneses de sus víctimas (4,3 millones de dólares estadounidenses, 4,2 millones de euros).

Asimismo, los agentes policiales incautaron unos 10 millones de dólares hongkoneses (1,28 millones de dólares estadounidenses, 1,24 millones de euros) en ganancias sospechosas.

El superintendente de Policía Charles Fung destacó que el grupo ocultaba sus operaciones en oficinas convencionales de la bahía de Kowloon, reclutando activamente a nuevos miembros y proporcionándoles formación interna para captar víctimas a través de plataformas en línea.

Los perpetradores detrás de estos fraudes construyeron elaborados personajes virtuales, exhibiendo un lujoso estilo de vida repleto de coches de lujo y buenos vinos para convencer a sus víctimas de su supuesta riqueza y éxito, utilizando imágenes robadas y herramientas deepfake para crear contenidos virtuales falsos pero creíbles.

La investigación indicó que estos delincuentes estudiaban meticulosamente a sus objetivos, recopilando información personal para establecer relaciones antes de proponerles oportunidades de inversión en plataformas de criptomonedas extraterritoriales, que servían como una tapadera para sus actividades delictivas.

La Oficina de Delitos Comerciales de la excolonia británica ha informado de un aumento del 8,3% en los casos de fraude en los tres primeros trimestres de 2024 respecto al mismo período del año anterior. EFE

Un informe reciente reveló una preocupante tendencia en TikTok: el crecimiento de estafas que utilizan tecnología deepfake para promocionar productos de salud y belleza sin respaldo científico.

Según Fast Company, la investigación de Media Matters for America expuso una red de cuentas fraudes que manipulan a los usuarios mediante falsos influencers generados por inteligencia artificial.

Falsos influencers y productos sin respaldo científico

Las cuentas identificadas dentro de esta red siguen un patrón específico: presentan historias personales emotivas para promocionar productos como suplementos o aceites capilares, utilizando deepfakes de supuestos influencers.

Un caso destacado es el de una cuenta eliminada recientemente que alcanzó 245.000 seguidores y 4,1 millones de “me gusta”, promoviendo un aceite llamado batana, que supuestamente mejora el crecimiento del cabello. Sin embargo, no existe evidencia científica que respalde esa afirmación.

Uno de los personajes más utilizados en estas estafas era una mujer que se presentaba como esposa de un cirujano plástico coreano, exmodelo de Victoria’s Secret y ginecóloga. Su rostro, generado con IA, aparecía repetido en múltiples videos promocionando distintos productos, lo que evidenció el engaño.

La manipulación a través de relatos personales

Más allá de los deepfakes, los estafadores aprovechan tendencias populares en TikTok, como el formato #storytime, que acumula más de 36,9 millones de publicaciones. Este estilo narrativo, basado en relatos personales, facilita la promoción engañosa de productos.

Uno de los ejemplos mencionados en el informe describe una historia sobre una pareja con síndrome de ovario poliquístico (SOP) que supuestamente logró concebir gracias a un suplemento comprado en Amazon.

Este tipo de contenido apunta a audiencias vulnerables, apelando a sus emociones y a la desesperación por encontrar soluciones a problemas de salud complejos.

El Departamento de Salud de Estados Unidos estima que el SOP afecta a una de cada diez mujeres en edad fértil, lo que convierte este tipo de relatos en herramientas poderosas para captar la atención de usuarias que buscan tratamientos alternativos.

Sin embargo, los productos promocionados carecen de respaldo científico y su venta responde a estrategias de marketing engañosas.

La obsesión con el bienestar: un mercado ideal para el fraude

El auge de los productos de salud y belleza en redes sociales ha creado un entorno para el incremento de este tipo de estafas. Olivia Little, investigadora de Media Matters for America, señala que los responsables de estas cuentas buscan aprovechar “la obsesión de internet con el bienestar”.

Muchas de estas cuentas incluyen términos como “salud”, “belleza” o “bienestar” en sus nombres de usuario y se dedican exclusivamente a la promoción de productos sin evidencia científica.

En tanto, la desinformación en este ámbito afecta especialmente a mujeres con condiciones de salud específicas, como el SOP, quienes son blanco frecuente de promesas de “curas milagrosas”.

Deepfakes y desinformación: el desafío de la verificación

El crecimiento de la tecnología deepfake representa un reto para los usuarios de redes sociales, quienes deben ser más cuidadosos con el contenido que consumen. La facilidad con la que se pueden crear personajes e historias falsas hace que sea cada vez más difícil detectar fraudes.

El informe destaca la falta de regulación y supervisión en TikTok, lo que permite que estas prácticas aumente y pongan en riesgo a millones de personas. Mientras las plataformas trabajan en la eliminación de contenido fake, los usuarios deben desarrollar un pensamiento más crítico y evitar confiar en recomendaciones virales.

Ariadna Montiel Reyes, titular de la Secretaría del Bienestar, alertó en redes sociales sobre un video en el que presuntamente invita a realizar inversiones: “Manipulan mi imagen y voz para hacer anuncios sobre inversiones fr4udulentas. ¡No te dejes engañ4r!”, advirtió la funcionaria federal en sus cuentas oficiales.

La secretaria recordó que toda la información oficial sobre los Programas del Bienestar del gobierno federal se pueden consultar en las redes sociales oficiales así como en las páginas de la dependencia. En la publicación se puede apreciar una captura de pantalla del enlace que circula en internet, donde se ve una foto de Montiel Reyes con la leyenda “FALSO”.

Luego de la difusión de este mensaje por parte de la secretaria del Bienestar, las delegaciones estatales también lo replicaron en sus redes sociales para alertar a los ciudadanos: “AVISO IMPORTANTE. ES TOTALMENTE FALSO, el video que está circulando, en el que manipulan la imagen y voz de la Secretaria de Bienestar, Ariadna Montiel Reyes, para hacer anuncios sobre inversiones fraudulentas”, se puede leer en distintas cuentas.

No es la primera vez que circulan estos videos

Desafortunadamente, este tipo de videos manipulados con la voz e imagen de funcionarios son más comunes de lo que parecen. De hecho, el 10 de julio del año pasado, Ariadna Montiel advirtió en sobre otro link con información falsa sobre las pensiones y otros Programas del Bienestar, en los cuales se ofrecían supuestas opciones para acceder a créditos e incluso realizar inversiones de distintos tipos, “recuerda que solo en nuestras redes sociales oficiales encontrarás la información oficial y vigente”, escribió en sus cuentas.

Incluso la presidenta Claudia Sheinbaum Pardo también ha sido víctima de estas estafas en internet. A finales de 2023, circuló en Facebook un video donde la entonces precandidata de Morena invitaba a los ciudadanos a invertir cuatro mil 700 pesos en petróleo para obtener ganancias por hasta 40 mil pesos. Sin embargo se trataba de un material extraído de una entrevista que había dado al Canal Catorce al cual se le insertó el audio manipulado con inteligencia artificial conocida como deepfake, reportaron portales de fact-checking como Reuters, AP, El Sabueso y Verificado.

Por esas mismas fechas, el entonces presidenta Andrés Manuel López Obrador también se vio afectado por un video en el que se alteraba su discurso y lo mostraba promocionando una aplicación de inversiones bursátiles en Petróleos Mexicanos (Pemex) supuestamente desarrollada por Elon Musk. En la grabación fraudulenta se le escuchaba a AMLO presumir las ganancias que había obtenido y que se trataba de un esquema de inversión confiable. El mandatario desmintió ese material y también lo hicieron portales encargados de detectar estafas y videos manipulados, como los mencionados anteriormente.

Consejos para no caer en videos fraudulentos

Las plataformas que se dedican a verificar información recomiendan a los usuarios de redes buscar inconsistencias en la imagen y el audio, ya que los videos manipulados suelen tener fallas en el doblaje o desfases entre los movimientos y la voz.

Además, el movimiento de los personajes parecen poco naturales; otro consejo es comprobar la verosimilitud del contenido y verificar las fuentes, en el caso de México, vale recordar que la información oficial está en páginas con el dominio .gob.mx.

Además, los ciberdelincuentes suelen recurrir a la manipulación de imágenes de personajes famosos o de autoridades para ganar la confianza de las víctimas, no obstante, es poco creíble que se valgan de su imagen para invitar a descargar aplicaciones o realizar inversiones.

Los deepfakes son una tecnología permite crear videos, fotos o audios manipulados que parecen auténticos, pero han sido alterados mediante inteligencia artificial. Una herramienta potencialmente peligrosa, que en ciertos países genera mucho más interés, como el caso de Argentina en América Latina.

Recientemente, un estudio de Kapwing, una plataforma de edición de imágenes y videos, ha revelado cuáles son los países con mayor interés en los deepfakes, basándose en el volumen de búsquedas en Google relacionadas con esta tecnología.

Quién lidera el consumo de deepfakes en el mundo

De acuerdo con el estudio, Corea del Sur es el país más interesado en los deepfakes, con un total de 13.399 búsquedas por cada millón de personas durante diciembre de 202. Este dato refleja una preocupación creciente, ya que el país asiático ha sido epicentro de varios incidentes relacionados con el uso de esta tecnología, como los casos de suplantación de identidad y ciberacoso.

Le siguen en la lista países como la República Checa, con 11.356 búsquedas por millón de personas, y Suecia, con 10.443. Estos tres países son los únicos en superar las 10.000 búsquedas por millón de usuarios.

En contraste, países como Estados Unidos, con 1.701 búsquedas por millón, se ubican en posiciones más bajas, aunque siguen siendo parte de este fenómeno global.

Cómo es el consumo de deepfakes en Latinoamérica y España

En América Latina y España, el consumo de deepfakes no ha alcanzado los niveles de algunos países como Corea del Sur, pero el interés está en aumento. No obstante, se pueden destacar algunos puntos importantes sobre el contexto latinoamericano y español.

En el España, el estudio encontró que durante el último mes de 2024 se realizaron 1.405 por cada millón de habitantes sobre temas relacionados con deepfakes.

En América Latina, Argentina es el país donde hay un mayor interés sobre este tipo de contenido, con una notable diferente con el resto de naciones que aparecen en la investigación. Este es el listado completo de búsquedas de este tipo en la región:

1. Argentina: 713
2. Chile: 481
3. Brasil: 386
4. Perú: 337
5. México: 287
6. Colombia: 141
7. Bolivia: 93
8. Uruguay: 80
9. Venezuela: 44
10. Paraguay: 22

Estados Unidos, el epicentro de la legislación contra los deepfakes

En Estados Unidos, los deepfakes se han convertido en una de las mayores preocupaciones en el ámbito de la seguridad digital, especialmente en las últimas elecciones presidenciales. A nivel estatal, Nevada se destaca como el lugar con mayor número de búsquedas sobre deepfakes, con 407 búsquedas por cada millón de personas.

Este estado ha visto un aumento de incidentes relacionados con el uso de esta tecnología, como los casos de acoso digital en jóvenes y la falsificación de imágenes de personajes famosos.

Sin embargo, Miami, en el estado de Florida, sobresale como la ciudad con el mayor interés en los deepfakes, con 1.930 búsquedas por millón de personas. La capital del estado ha sido escenario de varios incidentes de fraude, donde los estafadores utilizaron esta tecnología para crear identidades falsas y engañar a ciudadanos.

Las autoridades locales han comenzado a prestar especial atención a estos fenómenos, alertando sobre el peligro de los deepfakes en la desinformación política y los fraudes financieros.

Por otro lado, California se presenta como un espacio de innovación en el uso de deepfakes, particularmente en la industria del entretenimiento. En 2024, el gobernador Gavin Newsom firmó una legislación que busca proteger tanto a los actores como a los políticos del uso indebido de sus imágenes generadas por inteligencia artificial.

Este enfoque ha sido clave para regular el uso de la tecnología en el ámbito político y profesional, con el objetivo de frenar la información falsa.

El avance tecnológico trae consigo innumerables beneficios, pero también plantea nuevos desafíos que, en muchos casos, superan la capacidad de las instituciones para responder de manera adecuada y oportuna.
Uno de estos desafíos es el aumento del acoso digital y el uso indebido de deepfakes, un problema que afecta a estudiantes y docentes por igual.

Los deepfakes son videos, audios o imágenes creados mediante inteligencia artificial que manipulan contenido real para alterar su apariencia, voz o movimiento, logrando resultados extremadamente realistas. Estas herramientas permiten, por ejemplo, poner palabras en la boca de una persona o cambiar completamente su rostro y cuerpo en un video, lo que las convierte en un arma poderosa para difundir información falsa, realizar fraudes o cometer actos de acoso y abuso, como el caso de imágenes íntimas creadas sin consentimiento.

La gran oferta actual de tecnologías basadas en inteligencia artificial ha dado rienda suelta a la creación de contenido manipulado que, en manos equivocadas, puede causar daños irreparables, especialmente en las escuelas. Los deepfakes de carácter sexual, por ejemplo, no solo agravan el acoso digital, sino que también generan un clima de inseguridad y vulnerabilidad, especialmente entre los adolescentes. En este contexto, nos urge reflexionar sobre el papel de las instituciones educativas y el gobierno para proteger a los estudiantes y frenar este flagelo que está creciendo de manera alarmante.

Tristemente, las plataformas de redes sociales, los servicios de mensajería y las herramientas de edición digital se han convertido en armas para quienes buscan humillar, intimidar o manipular a sus compañeros. La creación y distribución de deepfakes amplifica este problema, ya que permite generar contenido falso que puede destruir la reputación y la autoestima de una persona en cuestión de minutos. Y esto no es ciencia ficción. Ya está sucediendo, y mucho más de lo que imaginamos.

En las escuelas, los estudiantes se ven expuestos a estos riesgos de manera constante. Las consecuencias psicológicas de ser víctima de un deepfake pueden ser devastadoras: ansiedad, depresión, aislamiento social e incluso pensamientos suicidas. Además, el impacto trasciende a la víctima directa, generando un clima de desconfianza y temor entre los compañeros.

Frente a este panorama, las escuelas tienen un papel fundamental que desempeñar. No se trata solo de reaccionar ante los casos de acoso digital, sino de prevenirlos mediante estrategias educativas y tecnológicas. Además de capacitación para docentes, familias y estudiantes por igual, en temas de seguridad digital y ética, las instituciones educativas deben establecer normas claras sobre el uso de tecnología en el entorno escolar. Esto incluye sanciones para quienes usen herramientas digitales con intenciones maliciosas y protocolos para manejar casos de acoso.

Sin embargo, si bien las escuelas pueden implementar medidas preventivas, es fundamental que los gobiernos actúen como garantes de los derechos de los estudiantes.

Esto implica:

- Garantizar que las empresas tecnológicas sean responsables de monitorear y eliminar contenido perjudicial en sus plataformas. El gobierno debe establecer mecanismos de supervisión y sanciones para aquellas empresas que no cumplan con estos estándares.

- Contar con leyes que penalicen la creación y distribución de deepfakes sin consentimiento. Estas leyes deben contemplar penas severas para los responsables y medidas de protección para las víctimas.

Esto no es una moda pasajera. La lucha contra el acoso digital y los deepfakes en el ámbito escolar requiere un enfoque integral que combine educación, regulación y tecnología. Las instituciones educativas deben ser el primer bastión de defensa, promoviendo valores de respeto y empatía, mientras que los gobiernos deben garantizar que las leyes estén actualizadas para enfrentar los desafíos de la era digital.

La educación, como pilar de la sociedad, tiene el poder de transformar realidades. Pero para lograrlo, necesita el respaldo de políticas públicas efectivas y el compromiso de toda la comunidad. Necesitamos garantizar que los chicos crezcan en un mundo donde la tecnología sea sinónimo de oportunidades y no de amenazas.

Durante la última semana de sesiones ordinarias en el Congreso de la Nación, dos legisladores de la Cámara baja presentaron un proyecto de ley para reprimir con penas de prisión el uso de inteligencia artificial para crear y replicar “contenido deepfake pornográfico” sin consentimiento de la persona afectada. La propuesta apunta, a su vez, a castigar la “violencia digital” o ciberacoso derivada de la difusión de ese material falseado en plataformas digitales o redes sociales de acceso masivo.

La iniciativa en cuestión fue escrita por la diputada por Chubut Eugenia Alianiello y el diputado por Jujuy Guillermo Snopek. Ambos pertenecen a la bancada de Unión por la Patria.

La propuesta de ley se encuadraría dentro del Capítulo II del Título III del Código Penal, que regula los delitos contra la integridad sexual. Y es que propone incorporar dos artículos (128 bis y 131 bis) a ese texto legal con la intención de “ofrecer una herramienta jurídica contundente y efectiva para proteger a las personas, sobre todo a niños, niñas y adolescentes de la violencia digital, especialmente en un contexto donde el anonimato en línea y la difusión masiva de contenido agravado por el uso de tecnologías avanzadas pueden tener consecuencias devastadoras en la vida de las víctimas”.

“Artículo 128 bis. Será reprimido con prisión de tres (3) a ocho (8) años quien, por cualquier medio, produjere, financiare, ofreciere, comerciare, publicare, facilitare, divulgare o distribuyere imágenes o representaciones de menores de dieciocho (18) años participando en actividades sexuales explícitas, reales o simuladas, como así también toda representación de sus partes genitales, reales o simuladas, con fines predominantemente sexuales”, dispone el proyecto de los diputados Alianiello y Snopek.

También añade: “Será reprimido con prisión de uno (1) a seis (6) años quien, sin el consentimiento de la persona afectada, produzca, distribuya, publique o posea contenido audiovisual manipulado mediante inteligencia artificial o cualquier otra tecnología, que represente a una persona mayor de edad en situaciones de desnudez, actos sexuales o cualquier representación de carácter íntimo, reales o simuladas. Será reprimido con prisión de un (1) mes a tres (3) años el que facilitare el acceso o suministrare material sexual explicito o pornográfico, real o simulado, a menores de catorce (14) años”.

Bajo esos parámetros, la misma cláusula establece sanciones más severas -con penas de seis a doce años de cárcel- cuando “La difusión se realice en plataformas digitales o redes sociales de acceso masivo y “Se cometa el delito por parte de una persona que tenga una relación de confianza, parentesco, de dependencia, de autoridad, o de poder, o aprovechándose de que la víctima por cualquier causa no haya podido consentir libremente la acción”.

Y estipula: “Todas las escalas penales previstas en este artículo se elevarán en un tercio en su mínimo y en su máximo cuando la víctima fuere menor de trece (13) años”.

Al fundamentar la reforma, los legisladores expresaron: “La evolución de la inteligencia artificial ha permitido el desarrollo de tecnologías capaces de generar contenido audiovisual manipulado, conocido como deepfake, que puede ser utilizado para crear imágenes y videos pornográficos sin el consentimiento de las personas involucradas. Los casos y denuncias se han multiplicado exponencialmente en los últimos años, generando zozobra en muchos casos a la comunidad escolar de distintas provincias del país. Esta práctica constituye una clara forma de violencia digital que vulnera el derecho a la intimidad, la dignidad y la imagen personal, afectando de manera considerable a mujeres, hombres, niñas, niños y personas de la comunidad LGBTIQ+”.

Además, precisaron que el Código Penal no tiene contemplado de forma específica la creación, distribución o uso de “deepfakes con contenido sexual”, y eso, según consideraron, genera un “blanco legal que deja a las víctimas desprotegidas y sin herramientas legales sólidas y eficaces para enfrentar esta problemática”. Luego aseguraron:”este proyecto de ley propone una modificación del Código Penal para incluir la creación, difusión y posesión de contenido deepfake pronográfico como un delito específico, con agravantes en situaciones de especial vulnerabilidad”.

Por su parte, el artículo 131 bis fija penas de prisión de uno a cuatro años para quien “hostigue, acose, persiga o intimide a menores de dieciocho (18) años utilizando cualquier medio digital o electrónico, incluyendo la creación o difusión de contenido deepfake, con el objetivo de generar temor, angustia o daño emocional. La pena prevista en este artículo se elevará en un tercio en su mínimo y en su máximo cuando la víctima fuere menor de trece (13) años”.

Los diputados afirmaron que la modificación tiene como objetivo actualizar la normativa para abordar la “creciente amenaza de los deepfakes pornográficos”. Según señalaron, con esta iniciativa se busca que Argentina se incorpore al grupo de países que ya han tipificado esta conducta como delito. También explicaron que la medida responde al compromiso internacional firmado por el país en octubre del año pasado, destinado a proteger los derechos digitales y combatir la violencia de género en el ámbito virtual.

Tras la presentación del documento, se dispuso su giro a las comisiones de Legislación Penal (regente del trámite), Comunicaciones e Informática y Familias, Niñez y Juventudes para su estudio y tratamiento.

Uno de los riesgos digitales más comunes es que alguien de la familia sea hackeado y suplanten su identidad para pedir dinero o datos a los demás. Esto se hace mucho más complicado de detectar cuando se usa inteligencia artificial y a través de deepfakes crean imagenes, videos o audios que se ven y suenan igual a esa persona.

Por ese motivo es fundamental tener soluciones de respaldo y el FBI ha lanzado una advertencia para todos los usuarios en el mundo: las familias pueden protegerse adoptando un sencillo truco, el uso de una frase de seguridad.

Qué son los deepfakes y por qué representan un peligro

Los deepfakes son creaciones digitales altamente realistas que utilizan IA generativa para imitar voces, rostros y gestos de personas reales. Esta tecnología, que inicialmente surgió como una innovación en la industria del entretenimiento y la creación de contenido, ahora es explotada por ciberdelincuentes para fraudes financieros, extorsión y engaños emocionales.

Un ejemplo citado por el FBI son las llamadas de emergencia falsas: los estafadores usan IA para clonar la voz de un ser querido y simular una situación de crisis, como un secuestro o un accidente, exigiendo dinero de manera inmediata. Este tipo de tácticas han capturado la atención pública y sembrado el pánico en familias desprevenidas.

Incluso existen casos más sofisticados donde los atacantes emplean deepfakes en videollamadas en tiempo real, suplantando a ejecutivos de empresas o figuras de autoridad para perpetrar estafas corporativas o engañar a usuarios individuales.

Cómo crear una frase de seguridad para proteger a la familia

Para combatir estos riesgos, el FBI ha recomendado una medida de seguridad simple, pero efectiva: las familias deberían acordar y memorizar una frase o palabra secreta que pueda ser usada como clave para autenticar la identidad de sus miembros en situaciones de emergencia.

Esta frase, conocida únicamente por los integrantes de la familia, actúa como una señal verificadora en llamadas o mensajes sospechosos. Según el FBI, su uso permite distinguir una comunicación genuina de un posible ataque de deepfake.

“Escuche con atención el tono y la elección de palabras”, indica la agencia, señalando que las sutilezas en el lenguaje pueden revelar si una voz clonada no es completamente natural.

El FBI enfatiza que esta práctica debe ser adoptada por todas las familias, ya que representa una capa adicional de protección contra un tipo de fraude que puede ser emocionalmente devastador y financieramente costoso.

Qué otros riesgos asociados con los deepfakes existen

La advertencia no se limita únicamente a las familias. El FBI señala que los deepfakes están siendo utilizados en una variedad de estafas digitales, muchas de ellas dirigidas a usuarios de teléfonos inteligentes. Entre las técnicas más comunes se encuentran:

1. Uso de fotos generadas por IA: los estafadores crean imágenes falsas que comparten con las víctimas para convencerlas de que están interactuando con personas reales.
2. Promoción de actividades fraudulentas mediante imágenes de celebridades: las figuras públicas son utilizadas sin su consentimiento para respaldar esquemas engañosos.
3. Audios de crisis simulada: breves clips de audio que imitan la voz de un ser querido pidiendo ayuda financiera urgente.
4. Videollamadas falsas: empleando deepfakes para suplantar a ejecutivos de empresas, agentes de la ley o contactos de confianza.
5. Videos de prueba: material visual creado para “demostrar” que la persona con la que se comunica el usuario es real, cuando en realidad es una simulación digital.

Estos métodos son cada vez más accesibles gracias a las herramientas de IA disponibles públicamente, lo que hace que los fraudes sean más frecuentes y peligrosos.

Otros consejos para protegerse de los deepfake

Además de implementar una frase de seguridad, el FBI ha proporcionado otras recomendaciones esenciales para reducir el riesgo de caer en estafas de deepfake:

• Limite la información personal en redes sociales: las fotos, videos y audios compartidos públicamente pueden ser utilizados para crear deepfakes. Es preferible mantener las cuentas privadas y restringir el acceso únicamente a personas conocidas.
• Verifique la identidad de los contactos: si recibe una llamada o mensaje sospechoso, cuelgue o no responda de inmediato. Busque el número o contacto oficial de la persona u organización y comuníquese directamente.
• No comparta información sensible: evite divulgar datos personales o financieros a través de llamadas o mensajes de texto, especialmente si la solicitud parece urgente o emocionalmente cargada.
• Reporte incidentes de fraude: si ha sido víctima de un esquema de deepfake o cualquier fraude financiero, presente una denuncia en el Centro de Quejas de Delitos en Internet (IC3) del FBI.

Un concepto que ha tomado el influencer argentino Mariano Bondar, para mostrar, a través del humor, cómo es posible que esta tecnología cree engaños que luzcan reales y difíciles de distinguir, especialmente por aquellos usuarios que no prestan atención a los detalles y confían rápidamente en lo que ven y oyen.

Karol G y un ejemplo más de cómo funcionan los deepfake

Los usuarios deben asumir que dentro del contenido que ven en redes sociales, hay una posibilidad de que lo que vean no sea real y haya una inteligencia artificial detrás generando un video, imagen o audio que lo haga parecer.

Con este video de la cantante colombiana, Bondar toma una situación bastante imposible de que suceda: Karol G está en problemas económicos y para solucionarlo empezará a vender postres en internet, por lo que le puede a los usuarios los datos de su tarjeta de crédito para que la apoyen.

Si bien este puede ser un escenario que muchos detecten como falso, es solo un ejemplo de cómo a través de IA la voz de la cantante colombiana es posible copiarla y generar un contenido que parezca real, si los ciberdelincuentes se lo proponen.

El influencer tiene más videos de este estilo, como en el que Gokú, el protagonista de Dragon Ball, pide dinero para ayudar a Vegeta, que se encuentra en problemas económicos. En este caso, la voz copiada es la de Mario Castañeda, quien hace el doblaje para Latinoamérica.

El crecimiento de los deepfake y las estafas

Kaspersky, empresa de ciberseguridad, reveló un alarmante incremento del 120% en los intentos de estafa a través de mensajes falsos en Colombia durante 2024. En el período de julio de 2023 a julio de 2024, se registraron cerca de 397 millones de bloqueos de phishing en América Latina, con un total de 697 millones de intentos bloqueados en toda la región, lo que representa un aumento de 2.4 veces respecto al informe anterior. Esto equivale a 1,326 intentos de phishing por minuto.

Entre los países más atacados destacan Brasil, México, Perú, Colombia y Ecuador. Asimismo, los mayores aumentos de actividad de phishing se observaron en Bolivia, Perú, Argentina, Guatemala y Brasil, con incrementos que alcanzaron hasta el 400%.

El informe resalta una evolución en las tácticas de los delincuentes, quienes ahora emplean inteligencia artificial para crear contenidos manipulados, como deepvoice y deepfake. Estos materiales, que incluyen voces e imágenes de celebridades, se difunden en redes sociales para atraer a las víctimas hacia falsos sitios de inversión.

Además, el dominio “.ai” se ha convertido en una herramienta común para crear páginas fraudulentas, capitalizando el creciente interés en la inteligencia artificial que tienen empresas reales para establecer sus negocios en la red. Por lo que los ciberdelincuentes quieren aprovechar esta tendencia para tomar un lugar y engañar a los usuarios.

Aunque casos como el video de Karol G o el de Gokú son contenidos de humor para redes sociales, son muestras de lo fácil que es crear este tipo de engaños, que sí son más elaborados y enfocados, pueden generar un impacto negativo en los usuarios que no verifiquen la información, la fuente desde donde les llega o la información que están solicitando, que en su mayoría son datos personales o financieros de tarjetas de crédito.

Meta, la empresa detrás de redes sociales como Facebook e Instagram, anunció en Infobae que, a raíz del incremento de estafas cibernéticas desde inicios de pandemia, está realizando pruebas para implementar una tecnología de reconocimiento facial que identificará publicaciones fraudulentas de famosos.

Monika Bickert, vicepresidenta de políticas de contenido de Meta, habló en exclusiva con Infobae sobre esta problemática que afecta a millones de usuarios y que representa una amenaza a la privacidad y a la honra de aquellas celebridades que no quieren que sus seguidores sean estafados a su nombre.

“Usamos clasificadores de aprendizaje automático para revisar lo que se comparte, en búsqueda de infracciones a nuestras políticas de publicidad, incluyendo estafas”, afirmó Bickert a Infobae.

Cómo Meta planea identificar deepfakes de famosos en Instagram y Facebook

Para identificar los deepfakes o videos falsos de famosos, Meta utilizará su sistema de revisión de anuncios, que analiza millones de publicaciones diarias en las plataformas de la empresa. El proceso se hace de manera automática y analiza factores como el texto, la imagen o el video teniendo en cuenta el aprendizaje automático de la IA con cantantes, deportistas u otros famosos.

“Este esquema es comúnmente llamado “celeb-bait” e infringe nuestras políticas y es perjudicial para las personas que usan nuestros productos”, agregó Bickert.

El celeb-bait inicia cuando los estafadores de diferentes partes del mundo manipulan imágenes y videos de celebridades para incentivar a sus “seguidores” a ir a sitios web fraudulentos, donde son engañados para compartir información confidencial, como contraseñas o datos bancarios que resultan en robos de grandes sumas de dinero.

Qué hace la tecnología de Meta cuando identifica un deepfake

Si los sistemas de Meta sospechan que una publicación puede ser una estafa, internamente comparan el material sospechoso con la foto del perfil verficado del famoso, usando una tecnología única con ayuda de reconocimiento facial en Instagram y Facebook.

Según Bickert “si confirmamos que el anuncio es una estafa lo bloquearemos y eliminaremos inmediatamente cualquier dato facial generado por esta comparación, independientemente de si nuestro sistema encuentra o no una coincidencia. Nunca utilizaremos para ningún otro propósito este material”.

Por el momento, este mecanismo está siendo probado en un grupo pequeño de celebridades a nivel mundial excepto en la Unión Europea, por temas de regulación. También, se espera que en las próximas semanas se notifique a más famosos que han sido víctimas de deepfakes para que den su autorización y sean parte de este proyecto.

Cómo estafan con información de famosos en redes sociales

Otra problemática que se presenta en el mundo digital es la suplantación de cuentas de famosos por estafadores, para convencer a sus seguidores de realizar alguna transferencia de dinero.

“Los estafadores pueden decir que una celebridad respaldó una inversión específica o que está pidiendo información personal a cambio de un regalo”, declaró la Vicepresidenta de Políticas de Contenido de Meta.

Para evitar esto, la compañía está explorando nuevas formas de identifcar más rápido este tipo de cuentas, pero no se ha pasado a la fase de pruebas.

Cómo recuperar una cuenta de Instagram o Facebook

Con el propósito de solucionar problemas al intentar recuperar una cuenta de Instagram y Facebook, por diferentes razones como el olvido de contraseñas, pérdida del dispositivo o un intento de ciberataque, se está probando el reconocimiento facial por medio de una selfie para reestablecer la cuenta.

“Si creemos que una cuenta ha sido comprometida, pedimos al propietario que verifique su identidad compartiendo un documento de identificación oficial que incluya su nombre” explicó Bickert, al preguntarle qué pasaría si alguien intenta suplantar la selfie del propietario.

Además, Meta confirmó que la selfie de recuperación nunca se verá en el perfil del usuario, sino que se borrará esta y cualquier otro dato generado en este proceso.

En Hong Kong, una red de estafadores utilizó deepfakes, una tecnología de inteligencia artificial que permite crear videos falsos extremadamente realistas al modificar rostros y voces, para engañar a sus víctimas en estafas románticas.

Estos delincuentes creaban relaciones ficticias con las víctimas mediante videollamadas manipuladas, generando confianza antes de pedirles grandes sumas de dinero. Las pérdidas totales ascendieron a más de 46 millones de dólares en Asia. La policía de Hong Kong arrestó a 27 personas involucradas.

Cómo los ciberdelincuentes lograron su estafa

Las estafas seguían un patrón detallado. Los delincuentes iniciaban el contacto con sus víctimas a través de aplicaciones de citas o redes sociales, utilizando perfiles falsos con fotos y videos manipulados digitalmente.

Las víctimas, al interactuar en videollamadas con estos videos deepfake, quedaban convencidas de que estaban viendo y hablando con una persona real. Los estafadores, con habilidad, mantenían la relación durante semanas o meses, construyendo confianza y estableciendo un fuerte vínculo emocional.

El siguiente paso en la estafa era solicitar dinero. Los delincuentes inventaban historias sobre problemas personales o emergencias familiares, logrando que las víctimas les transfirieran importantes cantidades de dinero.

Argumentaban que necesitaban fondos para emergencias médicas, inversiones o situaciones urgentes que debían resolverse rápidamente. En algunos casos, las víctimas incluso enviaron múltiples pagos, creyendo que estaban ayudando a su “pareja”.

La tecnología deepfake jugaba un papel crucial en este esquema, ya que las víctimas confiaban en la autenticidad de las videollamadas. Al no poder diferenciar los videos manipulados de la realidad, cayeron fácilmente en la trampa, lo que permitió a los estafadores ejecutar el fraude de manera efectiva y sin levantar sospechas inmediatas.

Tras recibir varias denuncias, las autoridades de Hong Kong comenzaron a investigar las actividades de esta red criminal. Las investigaciones revelaron un complejo esquema que involucraba a decenas de personas en diferentes roles, desde la creación de los videos deepfake hasta la gestión de las transferencias de dinero.

Después de meses de seguimiento y recopilación de pruebas, la policía logró desmantelar la operación y arrestar a 27 personas vinculadas con la estafa.

Las consecuencias para las víctimas no fueron solo financieras, sino también emocionales. Muchas de ellas, creyendo que estaban en una relación romántica genuina, se vieron profundamente afectadas al descubrir el fraude.

Este tipo de estafas no solo juega con el dinero de las víctimas, sino también con sus emociones, lo que las deja devastadas tanto en lo personal como en lo económico.

Cómo protegerse de los deepfakes

Para protegerse de los deepfakes, las personas deben adoptar medidas preventivas y mantenerse cautelosas. Primero, es clave verificar la fuente del contenido. Si un video o imagen proviene de una fuente desconocida o sospechosa, puede ser motivo de alerta.

Además, el uso de herramientas de detección de deepfakes ayuda a identificar señales de manipulación digital. Es importante también prestar atención a inconsistencias visuales, como sombras incorrectas o movimientos faciales inusuales, y mantenerse siempre escéptico ante contenido que parece demasiado perfecto.

Las inconsistencias en los movimientos o expresiones faciales, como un parpadeo irregular, pueden ser indicativos de un deepfake. Algunas plataformas también ofrecen herramientas especializadas que permiten detectar este tipo de manipulación mediante análisis de video.

Es crucial estar informado sobre las nuevas tecnologías de detección y tener hábitos seguros al compartir o confiar en contenido digital.

Finalmente, reportar cualquier video sospechoso a las plataformas en las que se encuentren también puede ayudar a prevenir la propagación de este tipo de fraudes.

Cómo son los fraudes románticos

Los fraudes románticos son estafas en las que los delincuentes crean perfiles falsos en redes sociales o aplicaciones de citas, fingiendo ser personas interesadas en una relación sentimental. A lo largo del tiempo, construyen una conexión emocional con la víctima para ganarse su confianza.

Una vez establecida la relación, los estafadores empiezan a solicitar dinero, alegando emergencias como problemas de salud, familiares o de negocios. Las víctimas, creyendo que están ayudando a alguien con quien tienen una relación genuina, suelen enviar grandes sumas de dinero para terminar perdiéndolo.

Sarah Yáñez-Richards

Nueva York, 7 oct (EFE).- La inteligencia artificial (IA) está siendo una técnica de desinformación en las elecciones presidenciales de EE.UU. que va desde surrealistas imágenes de los dos candidatos a la Casa Blanca paseando por una playa agarrados de la mano a llamadas falsas que usaron la voz del presidente, Joe Biden, para instar a los demócratas a no votar.

Estas son las primeras elecciones presidenciales en Estados Unidos desde el 'boom' de la IA generativa, la herramienta que permite crear fotos, vídeos y audios realistas de cosas que nunca han pasado, una técnica conocida como 'deepfake'.

La proliferación de esta información manipulada, sobre todo en las redes sociales, está erosionando la realidad y hace que la gente crea cada vez menos lo que ve, según indica a EFE Daniel Rogers, profesor adjunto de la Universidad de Nueva York.

Un estudio de Pew Research Center señala que el 57 % de los estadounidenses -con un porcentaje casi idéntico entre republicanos y demócratas- dicen estar "extremadamente o muy preocupados de que personas u organizaciones que buscan influir en las elecciones utilicen la IA para crear y distribuir información falsa o engañosa sobre los candidatos y las campañas".

"Estas herramientas en general difuminan las líneas entre la realidad y la invención. Y creo que esa tendencia continuará hasta que haya algunas barreras de seguridad, o barreras externas que se coloquen para intentar preservar cierta realidad sensorial", anota Rogers.

El experto, además, apunta que otro efecto secundario de esta tecnología es que la gente puede señalar que una información verdadera ha sido creada por IA, algo que se conoce como "el dividendo del mentiroso"; técnica que Trump ha usado para desacreditar una foto con E. Jean Carroll, periodista de la que se le acusó de haberla agredido sexualmente.

En enero, una serie de llamadas automáticas falsas en Nuevo Hampshire utilizaron una imitación de la voz de Biden generada por IA para instar a los demócratas a no votar en las primarias del estado.

Mientras, en julio de 2023, se utilizó IA para imitar la voz de Trump en un anuncio de otro candidato para representar al Partido Republicano en las primarias que lo atacaba.

En aquel entonces, la campaña de Trump criticó el anuncio como un "intento desesperado" de "engañar al público estadounidense".

No obstante, el propio Trump ha compartido en sus redes contenido generado por IA en esta campaña electoral: el caso más sonado fue cuando publicó en su red social, Truth Social, unas imágenes falsas de Taylor Swift respaldándolo.

Estas fotos estaban etiquetadas como sátira por su creador original y, días después, Trump reconoció que las imágenes no eran reales.

También circulan por las redes muchos 'memes' creados con IA que no tienen el objetivo de parecer reales, sino de mandar un mensaje, como por ejemplo Trump montado en un león o robando en un supermercado pistola en mano.

Según la Inteligencia Nacional de Estados Unidos, Rusia, Irán y China están utilizando esta tecnología para influir en la población estadounidense antes de las elecciones de noviembre.

Este verano, el Departamento de Justicia tomó medidas contra una empresa rusa que usaba IA para hacerse pasar por usuarios estadounidenses en las redes sociales, y OpenAI desarmó un grupo iraní que usaba ChatGPT para generar comentarios falsos en las redes sociales.

En estas elecciones también se ha visto la otra cara de la moneda: el uso de la IA como herramienta para hacer campaña por un candidato, como por ejemplo hacer llamadas telefónicas a votantes.

De acuerdo con una investigación del New York Times, las campañas en su mayoría no están dando el salto a usar IA y, cuando lo han hecho, la tecnología ha fracasado.

A Rogers no le extraña este dato, ya que dice que algo clave para una campaña es la "autenticidad" y que una llamada realizada por un robot no transmite eso. EFE

(foto)

En 2024, la tecnología de deepfake ha alcanzado un nivel de sofisticación que hace cada vez más difícil distinguir la realidad de la ficción en videos de figuras públicas. Lo que comenzó como un experimento técnico limitado a expertos, se ha convertido en un fenómeno accesible para cualquier persona con una conexión a internet y unas pocas herramientas digitales. Figuras como Donald Trump, Elon Musk y Taylor Swift encabezan la lista de los famosos más en sufrir este tipo de suplantación.

Un estudio realizado por Kapwing, una empresa que se especializa en la creación y edición de videos con IA, revela cuáles son las figuras públicas más utilizadas en los vídeos deepfake, poniendo en evidencia esta tendencia, que en ocasiones busca generar contenido de humor, pero también información de mala manera a los usuarios o directamente suplantar la identidad de alguien para realizar estafas.

Qué es un deepfake y por qué es tan problemático

Los deepfakes son videos manipulados que utilizan inteligencia artificial para reemplazar el rostro o la voz de una persona con los de otra, de forma extremadamente realista. En sus inicios, crear uno requería grandes cantidades de datos y procesamiento computacional, pero los avances tecnológicos recientes han facilitado su creación. Hoy en día, un video convincente puede hacerse con tan solo 10 segundos de imágenes originales y unos clics, lo que abre la puerta a todo tipo de usos malintencionados.

El principal problema con los deepfakes radica en su capacidad para difundir información falsa y desinformación de manera efectiva. En el contexto político, por ejemplo, se han utilizado para influir en la opinión pública, mientras que en el entretenimiento y las redes sociales, han generado controversia por el uso no autorizado de la imagen de celebridades. Según el estudio, “la mayoría de los deepfakes se hacen para influir en la opinión pública, habilitar estafas o generar beneficios económicos”.

Además, el hecho de que estos videos puedan hacerse con facilidad y rapidez, sin requerir grandes cantidades de datos o entrenamiento especializado, significa que la tecnología está al alcance de cualquiera. Esto aumenta el riesgo de abuso, ya que los usuarios malintencionados pueden crear videos que parecen auténticos, pero que en realidad son fabricados para engañar o perjudicar.

Los famosos más afectados en 2024

Kapwing realizó un análisis de los personajes públicos más afectados por esta tecnología en 2024. Para ello, examinaron las solicitudes de deepfakes realizadas en una de las herramientas de IA más activas en Discord, donde contaron manualmente el número de veces que se solicitaba la creación de videos falsos de más de 500 figuras influyentes de la cultura estadounidense.

El resultado reveló un ranking de los famosos más deepfakeados, encabezado por Donald Trump, quien acumuló más de 12.000 videos manipulados solo en este año. A Trump le siguen figuras igualmente destacadas como Elon Musk y Taylor Swift, quienes también han sido objeto de múltiples manipulaciones. A continuación, se presenta el listado de los 10 famosos más afectados por los deepfakes en 2024:

• Donald Trump:12.384 videos
• Elon Musk: 9.544 videos
• Taylor Swift: 8.202 videos
• Joe Biden: 7.956 videos
• Tom Cruise: 2.308 videos
• Dwayne Johnson: 1.970 videos
• Cristiano Ronaldo: 1.948 videos
• Mark Zuckerberg: 1.738 videos
• Will Smith: 1.609 videos
• Beyoncé: 1.328 videos

Cómo detectar un deepfake

Con la creciente prevalencia de los deepfakes, es importante que los usuarios de internet sepan cómo detectar estos videos manipulados. Eric Lu, cofundador de Kapwing, ofrece tres consejos clave para identificar deepfakes modernos:

• Movimiento inconsistente de los labios y los dientes: la sincronización labial puede fallar en detalles como la alineación de los dientes o el movimiento de los labios. En algunos casos, el área alrededor de la boca puede verse borrosa o con colores poco naturales.
• Movimientos corporales inusuales: los deepfakes a menudo se centran en el rostro, lo que significa que los movimientos corporales o gestos pueden no coincidir con el diálogo o las expresiones faciales. Si el sujeto no parpadea o lo hace de manera extraña, puede ser una señal de manipulación.
• Voces inanimadas y patrones de respiración inusuales: las voces clonadas suelen carecer de las variaciones naturales del habla humana, y las pausas o la respiración pueden sonar antinaturales.

El 73% de las mujeres periodistas sufrió violencia online en su trabajo. No son gajes del oficio, sino amenazas de violencia física y sexual según el “Reporte sobre ciberviolencia contra las mujeres”, de la Unión Europea y Lobby de Mujeres Europeas (EWL, por sus siglas en inglés). La autora es Virginia Dalla Pozza y resalta: “Los efectos psicológicos son especialmente perjudiciales para las víctimas. Entre ellos se incluyen graves trastornos emocionales y psicológicos, ansiedad, depresión, estrés postraumático y, en casos extremos, ideación suicida, autolesiones, intentos de suicidio o suicidio”.

Una de cada cinco mujeres víctimas de violencia en línea experimentó síntomas psicológicos como estrés, ansiedad, miedo o insomnio; una de cada cuatro mujeres se sintió avergonzada; una de cada cinco se empezó a mostrar insegura y una de cada diez terminó con una relación personal dañada, según datos de una encuesta, realizada en 2023, por ONU Mujeres. La liberación de la palabra que se generó con Ni Una Menos y el Me Too implicó romper el silencio social sobre los problemas que afectaban a las mujeres. La violencia online no es una amenaza, es una realidad. Las consecuencias actuales ya son el silenciamiento, el abandono de la participación en línea, el aislamiento y la autocensura.

Las periodistas que son víctimas de violencia de género minimizaron su participación en internet, se restringen en las aplicaciones tecnológicas y se autocensuran. “El principal efecto en las víctimas de la incitación al odio por motivos de género es la retirada de las redes sociales u otras plataformas públicas. Las mujeres tienden a publicar con menos frecuencia, a suavizar su lenguaje para mitigar la provocación (autocensura) o incluso a desactivar sus cuentas. Piensan que manteniendo un perfil bajo evitarán llamar más la atención sobre sí mismas”, concluye el informe de la Unión Europea.

El 76% de las mujeres cambió su manera de utilizar las redes sociales tras sufrir ciberacoso y el 32% dejó de publicar sus opiniones sobre determinados temas, según un relevamiento de Amnistía Internacional. Las más afectadas por la violencia digital son las periodistas y las políticas: los efectos sobre ellas (contra ellas) son particularmente perjudiciales. Si la idea era ver cuánto han avanzado las muchachas ahora los ataques generan que las muchachas retrocedan. “María La Paz, la Paz, la paz. Tres pasos pa’ atrás pa’ atras, pa’tras”, se podría cantar.

¿Empoderamiento? ¿Qué era eso? La era del desempoderamiento no es por el síndrome de la impostora, la fragilidad emocional o la falta de capacidad. La violencia deja secuelas: las políticas no quieren hacer política y las periodistas no quieren hacer periodismo. ¿Ambiciosas? Una especie en extinción. ¿Los depredadores? Haters, trolls, misóginos impunes, premiados y con cargos. ¿Libertad de expresión, en qué siglo importaba esa libertad? El 30% de las mujeres periodistas se autocensuran en las redes sociales como consecuencia de la violencia y el 37% evita ciertas notas como consecuencia de experiencias previas con amenazas, acoso o ataques.

La ciberviolencia es el uso de las tecnologías en línea y de la comunicación para causar, facilitar o amenazar. La violencia facilitada por la tecnología (VFT) implica cualquier acto cometido, asistido, agravado o amplificado por el uso de las TIC u otras herramientas digitales que tenga -o pueda tener- como resultado un daño físico, sexual, psicológico, social, político o económico. Los instrumentos en donde se pueden realizar (o recibir) estas agresiones son: teléfonos móviles, Internet, plataformas de medios sociales, juegos de computadora, mensajes de texto, correo electrónico y otras tecnologías.

“Estas formas de violencia tienen un efecto mental devastador en las mujeres”, alerta la Unión Europea. Uno de los mayores problemas es la masividad de la violencia digital y que genera efectos para la víctima y causa un impacto social que parece irrefrenable. “Tiene un amplio alcance, transmisión y rapidez: la fácil y rápida difusión de contenidos a través de múltiples plataformas y medios sociales dificulta el control del tipo de información que se difunde por medios digitales”, describe la investigación.

Otro grave problema es la impunidad por la falta de identificación: “Ofrece desinhibición: el anonimato reforzado que ofrecen los espacios digitales y virtuales a través de protocolos de encriptación y privacidad permite a los usuarios comportarse con anonimato e impunidad. Esto dificulta especialmente la identificación de los autores”, acentúa la investigación. Pero además hay mucha sensación de frustración frente a la posibilidad de borrar o dar marcha atrás a los comentarios con insultos o amenazas. Si alguien te dice “puta” esa marca va a quedar. “Es difícil de eliminar: el contenido violento se vuelve persistente, difícil de eliminar y, por tanto, vuelve a traumatizar a las víctimas”.

La lucha por la igualdad requiere entender que la violencia no es igual para varones y mujeres. “Aunque los hombres también pueden sufrir violencia y abusos en línea, las mujeres y las niñas tienen más probabilidades de experimentar formas únicas de violencia de género en contextos digitales, lo que refleja un patrón similar al de la violencia contra las mujeres y las niñas en el mundo físico”, destaca el informe europeo.

La violencia no nació con la expansión del Covid -19 pero la pandemia encerró a las mujeres y liberó la onda expansiva de la misoginia extrema. “Aunque los hombres eran ligeramente más propensos que las mujeres a sufrir formas leves de ciberacoso (por ejemplo, insultos), las mujeres experimentan de forma desproporcionada formas graves como el ciberacoso y el acoso sexual en línea. Con el aumento del uso de las tecnologías digitales debido a la pandemia las mujeres y las niñas tienen más probabilidades que los hombres de ser víctimas de formas graves y el impacto en sus vidas es mucho más traumático”, según una encuesta realizada, en 2021, por Pew Research Center.

El nuevo desafío es la conexión entre la inteligencia artificial y los prejuicios sexistas. “Las investigaciones muestran que los sistemas de IA creados por los gigantes tecnológicos tienen un gran sesgo de género y racial. Los estereotipos refuerzan y amplifican los prejuicios de género existentes. Sólo el 22% de los profesionales en los campos de la IA y la ciencia de datos son mujeres. Los algoritmos y los dispositivos tienen el potencial de difundir y reforzar estereotipos de género nocivos. Otro aspecto vinculado al uso de la IA es el fuerte aumento de las falsificaciones digitales de carácter sexual, comúnmente conocidas como deepfakes. Las herramientas de IA para crear falsificaciones digitales sexuales se están desarrollando rápidamente y son cada día más baratas, sofisticadas y accesibles para los usuarios. El Informe sobre Riesgos Mundiales del Foro Económico Mundial calificó a la desinformación como el riesgo global a corto plazo más grave al que se enfrenta el mundo en los próximos dos años”, resalta la investigación europea.

La mayoría de los vídeos falsificados digitalmente que circulan actualmente por Internet contienen imágenes sexuales de mujeres. La tecnología generó que sea fácil desnudar a una joven o armar un falso video porno. Se calcula que entre el 90% y el 95% de todos los deepfakes digitales son de material que muestra desnudos o actividades sexualmente explícitas. El 90% de los videos son de mujeres. En 2020, se creó un chatbot de Telegram que puede utilizarse para crear retratos robot de desnudos profundos. Al proporcionar al chatbot una foto de alguien, se podía recibir una versión sin ropa de esa persona. El bot creaba exclusivamente desnudos femeninos. En el momento en que se hizo público el informe ya se había atacado a más de 100.000 mujeres.

Hay algo central: no es Internet, no es la IA, no es lo que sucede naturalmente -como solía ocurrir la violencia de género y parecía una práctica normal de la vida privada-; estas son acciones orquestadas. “La difusión o amplificación de contenido (incluido el abuso) que parece surgir orgánicamente a nivel popular y que, en realidad, es coordinada, a menudo utilizando múltiples cuentas falsas, por un individuo, grupo de interés, partido político u organización”, subraya el “Reporte sobre ciberviolencia contra las mujeres”, de la Unión Europea.

Ser periodista es exponerse a mostrar el trabajo, pero no los dientes, la piel, la panza, la cola o el pelo como si cada reportera, cronista, conductora, columnista tuviese que exhibir cada partícula corporal para poder trabajar y para poder sobrevivir. Las lesiones de los comentarios sobre el cuerpo son mucho más graves que antes de la necesidad de mostrar todo (especialmente el trabajo) en las redes sociales. El body shaming es comentar y burlarse de la forma, el tamaño o la apariencia corporal de una persona. El ciberflashing consiste en enviar imágenes sexuales no solicitadas a través de aplicaciones de citas o con Airdrop o Bluetooth. En la mayoría de los casos se produce cuando alguien envía una imagen no deseada de los genitales o se expone a través de un vídeo en directo, en apps de citas o con personas que se tiene una relación o que se comienza a chatear. Las fotos de penes pueden llegarle también a periodistas como forma de asquearlas, impresionarlas o amedrentarlas.

Una práctica que se está amplificando es hacer doxing, que es el acto de compartir en línea la información personal de una persona (número de teléfono, dirección de correo electrónico, domicilio, contactos profesionales) para facilitar agresiones. En un país como Argentina, con altos niveles de robos e inseguridad, el doxeo es mucho más grave ya que quedar expuesta es altamente peligroso, pero para las periodistas que son madres y que por una nota, un tuit o una opinión se publica la dirección donde viven sus hijos o hijas la paralización, la culpa y el miedo son más graves y con efectos nocivos.

Los ataques a mujeres son mucho más alto que a cualquier otro grupo por su condición étnica o social. “La misoginia es la forma más prevalente de odio en línea en todas las plataformas examinadas”, destaca la UE y advierte: “También hay mayores niveles de incitación a la violencia contra las mujeres en comparación con los otros grupos y la violencia cibernética contra las mujeres se basa más a menudo en la violencia sexual”. La situación es extendida en el mundo: “Un estudio estadounidense reveló que el 33 % de las mujeres menores de 35 años declaran haber sufrido acoso sexual en línea frente al 11 % de los hombres. Del total de mujeres víctimas el 47% cree haber sufrido acoso por razón de su sexo, mientras que apenas el 18% de los hombres que han sido acosados en línea cree lo mismo”.

No hay manera de seguir contando el mundo si las mujeres se tienen que callar.

“Al silencio no volvemos nunca más”, es una consigna. Debería ser una meta. Pero no es una realidad.

Hoy las mujeres vuelven a ser silenciadas.

Uno de los fenómenos más preocupantes con el fortalecimiento de la inteligencia artificial es la generación de imágenes y videos en los que se retratan a personas en contextos explícitos y sin su consentimiento. Este tipo de contenidos se conocen como deepfakes y Google ha anunciado una serie de medidas para combatir este problema y proteger a las víctimas de este tipo de abuso digital.

Hace solo unas semanas, al buscar en la plataforma “deepfake nudes Jennifer Aniston” arrojaba múltiples resultados que pretendían contener imágenes explícitas de la actriz generadas por IA. Hoy en día, esos resultados ya no aparecen gracias a los nuevos ajustes, debido a la forma en la que la aplicación clasifica estos contenidos.

Emma Higham, jefa de producto de Google, explicó, a través del blog de la plataforma, que los nuevos cambios implementados este año han reducido la exposición a imágenes explícitas falsas en más de un 70% en consultas que buscan contenido sobre una persona específica.

Los cambios de Google para reducir los deepfake

Google ha facilitado durante años la solicitud de eliminación de imágenes explícitas no consensuadas. No obstante, las nuevas medidas buscan hacer este proceso aún más sencillo y eficaz. Las personas ahora pueden solicitar la eliminación de imágenes explícitas falsas y, una vez aceptada la solicitud, los sistemas de la aplicación también filtrarán todos los resultados explícitos similares sobre esa persona.

Además, si una imagen se elimina bajo estas políticas, los sistemas escanearán y eliminarán cualquier duplicado de esa imagen que se encuentre.

Pero la lucha contra los deepfakes no se detiene en la eliminación de contenido. Google también ha realizado mejoras en sus sistemas de clasificación de resultados de búsqueda y se están implementando actualizaciones en el ranking que reducirán el contenido explícito falso en muchas búsquedas.

Para consultas que específicamente buscan este tipo de contenido e incluyen nombres de personas, la aplicación buscará mostrar contenido no explícito de alta calidad, como artículos de noticias relevantes.

Los cambios realizados este año han reducido la exposición a resultados de imágenes explícitas en este tipo de consultas en más de un 70%. Con estas modificaciones, las personas pueden leer sobre el impacto que los deepfakes están teniendo en la sociedad, en lugar de ver páginas con imágenes falsas sin consentimiento.

Diferenciación entre contenido explícito real y falso

Uno de los mayores desafíos técnicos para los motores de búsqueda es distinguir entre contenido explícito real y consensuado, como escenas de desnudos de un actor en una película, y contenido explícito falso, como deepfakes que involucran a ese actor.

Generalmente, si un sitio tiene muchas páginas eliminadas de la búsqueda bajo las políticas de Google, esto es una señal fuerte de que no es un sitio de alta calidad, y se debe tener en cuenta al clasificar otras páginas de ese sitio.

Por lo tanto, se están degradando los sitios que han recibido un alto volumen de eliminaciones de imágenes explícitas falsas. Este enfoque ha funcionado bien para otros tipos de contenido dañino y las pruebas de Google muestran que será una forma de reducir el contenido explícito falso en los resultados de búsqueda.

A pesar de estas medidas, Google reconoce que las soluciones actuales no son perfectas. Los esfuerzos para combatir los deepfakes explícitos son un trabajo en progreso y la plataforma continúa desarrollando nuevas soluciones para ayudar a las personas afectadas por este tipo de contenido.

Además, dado que este desafío va más allá de los motores de búsqueda, la empresa sigue invirtiendo en asociaciones a nivel de la industria y en el compromiso con expertos para abordar el problema como sociedad.

El miércoles 28 de agosto, las autoridades de Corea del Sur iniciaron una investigación masiva para combatir la creciente crisis de imágenes pornográficas falsificadas que surgió tras el descubrimiento de una red de Telegram dedicada a la creación de estos contenidos.

Según informó The Wall Street Journal (WSJ), esta red ha afectado a cientos de víctimas, muchas de ellas menores de edad. Las imágenes, creadas a partir de fotos reales, fueron convertidas en contenido sexual explícito y vistas por cientos de miles de usuarios.

Telegram, una plataforma de mensajería utilizada para distribuir estas imágenes, ha sido central en la difusión de contenido manipulado digitalmente sin el consentimiento de las personas afectadas. Las víctimas incluyen profesores, oficiales militares, estudiantes universitarios y alumnos de primaria.

Yoon Suk Yeol, presidente de Corea del Sur, calificó estos actos como “delitos claros que explotan la tecnología bajo el escudo del anonimato”, subrayando que “cualquiera puede ser una víctima”. Este fenómeno ha situado a Corea del Sur como uno de los principales países donde se origina cerca del 50% de este tipo de contenidos a nivel mundial, según informes de investigadores.

El Ministerio de Educación está revisando el castigo máximo para los adolescentes involucrados en la creación de estas imágenes, ya que las protecciones actuales en Corea del Sur no han logrado mantenerse al día con las amenazas que representan los contenidos sexualizados generados por inteligencia artificial. Los legisladores están trabajando para cerrar vacíos legales y extender las penas más allá de quienes intencionalmente difunden este contenido ilícito.

La red de Telegram operaba a través de chats organizados por nombre de escuela o región, facilitando la identificación de conocidos entre los usuarios. Para acceder a estos grupos, algunos participantes debían proporcionar fotos de una mujer, generalmente extraídas de las cuentas de redes sociales de sus compañeras, según autoridades y activistas.

La comunicación en estos chats se realizaba casi exclusivamente en coreano, lo que sugiere que la mayoría de los miembros eran locales, informó el WSJ.

A principios de este mes, una investigación policial reveló la existencia de un grupo de Telegram con aproximadamente 1.200 miembros activos desde el año 2020 en una universidad surcoreana. En este grupo, además de compartir imágenes manipuladas, también distribuían información personal de las víctimas, como números de teléfono, direcciones y números de identificación estudiantil.

Voluntarios que han estado revisando los chats de Telegram estiman que unos 500 centros educativos, desde universidades hasta escuelas primarias, podrían haber sido afectados. Un sitio web que ofrece una lista de las escuelas involucradas ha acumulado alrededor de tres millones de visitas desde su lanzamiento.

La captura de Pavel Durov

Aunque se inició una represión contra las imágenes pornográficas falsificadas en Telegram, esta acción ha llegado en un contexto de preocupación internacional.

Días antes del anuncio surcoreano, las autoridades francesas detuvieron a Pavel Durov, fundador y director ejecutivo de Telegram, en relación con una investigación sobre la facilitación del crimen en línea a través de la plataforma, incluyendo la distribución de pornografía infantil.

En respuesta a la investigación surcoreana, un representante de Telegram declaró que la compañía elimina millones de contenidos dañinos cada día mediante moderación, herramientas de inteligencia artificial e informes de usuarios.

No es un problema reciente

El panorama no se limita solo a Corea del Sur. Según datos de 2023 de la empresa de prevención de fraude de identidad Security Hero, alrededor del 50% de las personas presentadas en pornografía profunda en línea son cantantes y actrices surcoreanas, analizando cerca de 100.000 videos distribuidos en más de 100 sitios web.

Las mujeres surcoreanas han estado en riesgo elevado de aparición no consentida de sus imágenes sexuales en línea durante años. Las autoridades municipales inspeccionan los baños públicos para detectar cámaras ocultas, y celebridades han sido acusadas de difundir grabaciones obtenidas ilegalmente.

Este año, más de 6.000 surcoreanos han solicitado la eliminación de imágenes pornográficas falsas creadas sin su consentimiento, según datos regulatorios estatales hasta julio, que se acercan ya al total anual del año pasado de aproximadamente 7.000 solicitudes.

De las cerca de 300 personas acusadas de crear y distribuir imágenes pornográficas falsificadas desde principios de 2023, aproximadamente el 70% eran adolescentes, según la Agencia Nacional de Policía de Corea.

La Federación Coreana de Sindicatos de Profesores sugirió en una declaración reciente que la responsabilidad de reportar e investigar estos casos ha caído mayormente sobre las escuelas. Recomendó establecer un mecanismo federal para identificar a los perpetradores.

La situación ha llevado a muchos estudiantes a hacer sus cuentas privadas o eliminar las fotos que habían publicado en línea antes de que surja una respuesta adecuada o se penalice a los responsables.

En el último año, las redes sociales han sido el epicentro de una ola de imágenes sexualmente explícitas, creadas a partir de inteligencia artificial (IA). Entre las víctimas de esta modalidad está la reconocida cantante Taylor Swift, quien se ha visto envuelta en un escándalo por la difusión masiva de deepfakes pornográficos que utilizan su imagen.

Estos montajes digitales han generado una profunda preocupación no solo entre sus seguidores, sino también en el ámbito de la ciberseguridad y la ética digital, y más aún cuándo estudios globales colocan al público femenino como las principales afectadas por la deepfakes.

Asimismo, Taylor Swift no es la única figura pública que ha sido blanco de estos ataques. Rosalía, otra estrella musical, denunció recientemente la difusión de un deepfake en el que su imagen era manipulada para crear contenido explícito. La artista española utilizó sus redes sociales para condenar este tipo de prácticas.

Cómo filtraron deepfakes sexuales de Taylor Swift en la red

La controversia alcanzó su punto álgido en la plataforma X, anteriormente conocida como Twitter, cuando una publicación que contenía estas imágenes manipuladas logró acumular más de 35 millones de visualizaciones y 24.000 reenvíos en un tiempo récord.

La cuenta del usuario que compartió el contenido fue suspendida por violar las políticas de la red social, pero la acción resultó ser insuficiente para detener la propagación del material, que rápidamente fue replicado por otras cuentas.

Este caso pone de manifiesto el creciente peligro que representan los deepfakes, una tecnología que ha avanzado de manera alarmante en los últimos años.

Utilizando algoritmos de aprendizaje profundo, estas herramientas son capaces de generar imágenes y videos falsos con un grado de realismo impresionante, convirtiéndose en una amenaza significativa para la privacidad y la seguridad, especialmente para las mujeres.

Qué dicen las plataformas sobre estos delitos

Las plataformas de redes sociales, como X, han intentado hacer frente a este fenómeno mediante políticas de “tolerancia cero” hacia el contenido falso. Sin embargo, la realidad demuestra que estos esfuerzos no siempre son efectivos.

A pesar de la eliminación de cuentas que comparten material manipulado, el contenido suele resurgir en otros perfiles o plataformas, complicando enormemente el control y la eliminación de este tipo de material.

Quiénes son los más afectados por las deepfakes

El problema no se limita a las celebridades. Hace apenas unos meses, en la localidad española de Almendralejo, un grupo de menores fue víctima de una situación similar.

Fotos de las jóvenes fueron manipuladas mediante una aplicación de IA para crear imágenes explícitas, desatando una oleada de indignación y un intenso debate público sobre los riesgos asociados al uso irresponsable de esta tecnología.

Este caso, aunque menos mediático, es un claro ejemplo de cómo los deepfakes pueden afectar a cualquier persona, independientemente de su fama, edad o estatus social.

Qué tan fácil es crear una deepfake de una persona

La facilidad con la que se pueden crear y distribuir deepfakes es alarmante. Lo que antes requería sofisticadas habilidades de edición de video y recursos tecnológicos avanzados, ahora está al alcance de cualquier usuario con acceso a herramientas de IA cada vez más accesibles.

Esta democratización de la tecnología ha permitido que los deepfakes proliferen a un ritmo vertiginoso, aumentando exponencialmente los riesgos para la privacidad y la seguridad personal.

Los expertos en ciberseguridad y ética digital advierten que la situación podría empeorar si no se toman medidas contundentes para regular el uso de estas tecnologías.

La creación y difusión de deepfakes no solo vulnera los derechos de las personas afectadas, sino que también socava la confianza en los medios digitales y en la autenticidad de la información que circula en línea.

Cómo evitar la creación de deepfakes

En respuesta a este creciente problema, algunos gobiernos y organizaciones han comenzado a desarrollar legislación y estrategias para combatir el uso inadecuado de la IA. Es esencial implementar tecnologías de detección avanzadas que identifiquen y bloqueen automáticamente estos contenidos en plataformas digitales.

Además, es crucial que las redes sociales refuercen sus políticas de moderación, eliminando rápidamente el material ofensivo y sancionando a los responsables. Paralelamente, se deben promover campañas de concienciación para educar al público sobre los riesgos y las señales de los deepfakes.

Del mismo modo, es fundamental desarrollar y actualizar marcos legales que castiguen severamente la creación y difusión de deepfakes, protegiendo así la privacidad y la integridad de las personas.

En algunos casos los ciberataques no se resuelven por medio de sistemas complejos, sino gracias al sentido común. Un ejemplo de esto fue lo que sucedió recientemente con Ferrari, que fue víctima de un intento de ataque con deepfake en WhatsApp, en el que suplantaban la identidad de su CEO, Benedetto Vigna, mediante inteligencia artificial. Pero una pregunta sencilla evitó un desastre financiero.

Este intento de ataque se realizó por medio de WhatsApp y el objetivo era otro directivo de la compañía de autos, quien frenó el avance de esta amenaza haciendo una pregunta que solamente la persona real podía contestar.

Así fue el ciberataque a Ferrari

Todo comenzó una mañana de martes, cuando un ejecutivo de la compañía italiana empezó a recibir una serie de mensajes inusuales en su WhatsApp. Los mensajes parecían provenir de Benedetto Vigna, CEO de Ferrari, y hablaban de una importante adquisición que la empresa estaba planeando. “Oye, ¿has oído lo de la nueva adquisición que estamos planificando? Podría necesitar tu ayuda”, decía uno de los mensajes.

A pesar de que los mensajes parecían legítimos a primera vista, había detalles que no cuadraban. Para empezar, los mensajes no procedían del número habitual de Vigna, y aunque la foto de perfil mostraba al CEO con gafas y traje frente al logotipo de Ferrari, no era la que usualmente utilizaba.

Los mensajes continuaron con un tono de urgencia y confidencialidad. “Prepárate para firmar el acuerdo de confidencialidad que nuestro abogado está a punto de enviarte”, indicaba otro mensaje. “El regulador del mercado italiano y la bolsa de Milán ya han sido informados. Mantente alerta y por favor discreción máxima”.

Para tratar de continuar con el engaño, el estafador explicó que el número no era el habitual del CEO porque el acuerdo era demasiado confidencial y podría haber obstáculos en China. Según la historia, esto podría requerir una operación de cobertura de divisas no especificada.

El siguiente paso del estafador fue aún más audaz. Decidió realizar una llamada telefónica utilizando tecnología de deepfake de voz, que imitaba a la perfección el acento sureño de Vigna. La voz era sorprendentemente convincente, pero el directivo comenzó a sospechar debido a ligeras entonaciones mecánicas en la voz del interlocutor.

El supuesto CEO mencionó que llamaba desde un número diferente porque necesitaba discutir algo confidencial. Habló de un acuerdo que podría enfrentarse a problemas relacionados con China y que requería una transacción de cobertura de divisas.

A pesar de la calidad del deepfake, el directivo de Ferrari decidió verificar la identidad del supuesto CEO con una pregunta que solo Vigna podría responder. “Disculpa, Benedetto, pero necesito identificarte”, dijo el directivo. Le preguntó cuál era el título del libro que Vigna le había recomendado recientemente. De repente, la llamada se cortó.

El peligro de los deepfakes

Tras este intento de estafa, Ferrari inició una investigación interna. Los representantes de la compañía en Maranello, Italia, se negaron a comentar sobre el incidente. Sin embargo, este evento subraya la creciente sofisticación de las técnicas utilizadas por los ciberdelincuentes y la importancia de estar constantemente alerta.

Este no es un caso aislado de uso de deepfakes para cometer fraudes. En mayo, se informó que Mark Read, CEO de WPP Plc, también fue objetivo de una estafa similar en la que se intentó suplantarlo en una llamada de Teams. Aunque el intento fue fallido, demuestra que los ciberdelincuentes están perfeccionando estas técnicas.

No obstante, algunas empresas sí han caído víctimas de estos fraudes. A principios de año, una multinacional no identificada perdió 200 millones de dólares hongkoneses (aproximadamente 26 millones de dólares) después de que estafadores engañaron a sus empleados en Hong Kong utilizando tecnología de deepfake. Los estafadores fabricaron representaciones del director financiero de la empresa y otras personas en una videollamada, y convencieron a la víctima de transferir dinero.

Empresas como la firma de seguridad informática CyberArk ya están entrenando a sus ejecutivos para detectar cuándo están siendo estafados por bots. La clave es estar alerta a los detalles más sutiles y ser escéptico ante cualquier situación que parezca inusual o demasiado urgente.

Una publicación de Elon Musk ha generado controversia al compartir un video manipulado que imita la voz de la vicepresidenta de Estados Unidos, Kamala Harris, en su plataforma de redes sociales. La publicación, realizada el viernes 26 de julio por la noche, ha revivido las preocupaciones sobre el poder de la inteligencia artificial para difundir desinformación, especialmente a solo tres meses de las elecciones generales.

La publicación del video se da en medio del reciente anuncio de Harris como sustituta de Joe Biden en el camino a la Casa Blanca, en el que el dueño de X ya ha hecho público su apoyo a Donald Trump, el candidato republicano.

Qué muestra el video compartido por Musk

El video en cuestión utiliza muchos de los elementos visuales de un anuncio real que Harris, aspirante demócrata a la presidencia, publicó recientemente como parte de su campaña. Sin embargo, el video compartido por Musk cambia la voz en off por otra que suplanta de forma convincente a la vicepresidenta.

En la grabación, la voz alterada declara: “Yo, Kamala Harris, soy su candidata demócrata a la Presidencia porque Joe Biden finalmente expuso que está senil en el debate”. Además, se afirma que Harris ha sido elegida para cumplir con las cuotas de “diversidad” por ser mujer de ascendencia india y jamaiquina.

El video no solo manipula el audio, sino que también añade algunos clips auténticos de Harris tomados en el pasado, lo que aumenta su apariencia de autenticidad.

El material fue publicado originalmente por una cuenta de YouTube llamada “Mr Reagan”, etiquetado como parodia. No obstante, cuando Musk compartió la grabación, solo comentó “Esto es asombroso” acompañado de un emoji de risa, sin mencionar que el contenido era falso.

La polémica tras la publicación

La reacción del equipo de campaña de Harris fue inmediata. Mia Ehrenberg, portavoz del equipo de campaña, envió un correo electrónico a The Associated Press en el que expresó su indignación: “Creemos que el pueblo estadounidense quiere la verdadera libertad, oportunidad y seguridad que ofrece la vicepresidenta Harris; no las mentiras falsas y manipuladas de Elon Musk y Donald Trump”.

Hasta este lunes, el video compartido por Musk había sido visto más de 138 millones de veces, según la plataforma X. La falta de una aclaración explícita por parte de Musk sobre la naturaleza manipulada del video ha llevado a muchos a cuestionar si su publicación podría violar las políticas de X.

Estas políticas establecen que los usuarios “no pueden compartir contenido sintético, manipulado o fuera de contexto que pueda engañar o confundir a las personas y causar daño”.

El impacto del uso de IA en la publicación de contenido

El video es un ejemplo claro de cómo las imágenes, videos o clips de audio generados por inteligencia artificial pueden ser utilizados tanto para burlarse como para engañar en el ámbito político.

Dos expertos en contenidos multimedia generados por IA revisaron el audio del anuncio falso y confirmaron que gran parte de este se había generado con tecnología de IA.

Hany Farid, experto en análisis forense digital de la Universidad de California, campus Berkeley, comentó a Los Ángeles Times, que “la voz generada por la IA es muy buena. Aunque la mayoría de la gente no creerá que es la voz de la vicepresidenta Harris, el video es mucho más impactante cuando las palabras salen con su voz”.

Farid añadió que las empresas de IA generativa que ponen a disposición del público herramientas de clonación de voz y otras herramientas de IA deberían esforzarse más por garantizar que sus servicios no se utilicen de forma que puedan perjudicar a las personas o a la democracia.

A Meta le hicieron la petición de actuar con más firmeza frente a los deepfakes no consensuados y las imágenes explícitas generadas por inteligencia artificial en sus plataformas, según un reciente informe de su Junta de Supervisión.

La investigación, anunciada en abril, cuestiona la respuesta de la compañía ante casos específicos de contenido para adultos deepfake, incluyendo uno que afectó a una figura pública estadounidense y otro a una figura pública india.

El uso de tecnología de IA generativa para crear contenido para adultos deepfake ha aumentado considerablemente en los últimos meses, afectando a figuras conocidas como Taylor Swift, estudiantes de secundaria en EE.UU. y mujeres en todo el mundo.

Estas herramientas, que son ampliamente accesibles, han facilitado la producción rápida, económica y sencilla de este tipo de imágenes. Y las aplicaciones, como Instagram, Facebook y WhatsApp, han tenido una mayor presión para tomar medidas más efectivas contra este tipo de abuso en línea.

Casos destacados y la respuesta de Meta

En el caso de la figura pública estadounidense, Meta actuó de inmediato eliminando la imagen generada por IA que la mostraba desnuda y siendo tocada. Esta acción fue posible porque la imagen había sido añadida previamente a un banco de coincidencia de fotos que detecta automáticamente las imágenes que infringen las normas comunitarias.

No obstante, en el caso de la figura pública india, la empresa no retiró la imagen de Instagram hasta que la Junta de Supervisión intervino, a pesar de que el contenido fue reportado dos veces.

El informe de la Junta de Supervisión critica la inconsistencia en la aplicación de las normas de Meta contra las imágenes sexuales no consensuadas.

“Meta determinó que su decisión original de dejar el contenido en Instagram fue un error y la empresa eliminó la publicación por violar el Estándar de la Comunidad contra el Acoso e Intimidación. Posteriormente, tras iniciar nuestras deliberaciones, Meta deshabilitó la cuenta que publicó el contenido”, se menciona en el informe.

El reporte también señala problemas continuos en la moderación de contenido por parte de la empresa en países no occidentales o no angloparlantes, un área en la que la compañía ha recibido críticas previamente.

La respuesta de Meta y recomendaciones de la Junta

Meta, por su parte, acogió la decisión de la Junta. La empresa afirmó que, aunque las publicaciones específicas identificadas en el informe ya fueron eliminadas, tomarán medidas sobre imágenes similares y en el mismo contexto cuando sea técnicamente posible hacerlo.

La Junta de Supervisión, un organismo cuasi-independiente compuesto por expertos en libertad de expresión y derechos humanos, emitió varias recomendaciones adicionales para que la compañía mejore sus esfuerzos en la lucha contra los deepfakes sexualizados.

Instaron a la empresa a aclarar sus reglas actualizando su prohibición contra el “photoshop sexualizado derogatorio” para incluir explícitamente la palabra “no consensuado” y cubrir claramente otras técnicas de manipulación fotográfica, como la IA.

Meta explicó a la Junta que no añadió originalmente la imagen de la figura pública india a su banco de coincidencia de fotos que infringen las normas porque no había informes de prensa sobre el tema, a diferencia del caso de la figura estadounidense.

“Esto es preocupante, ya que muchas víctimas de imágenes íntimas deepfake no están en el ojo público y deben aceptar la difusión de sus representaciones no consensuadas o buscar y reportar cada instancia”, afirmó la Junta, sugiriendo que Meta podría considerar otros factores, como si una imagen fue generada por IA, al decidir añadirla al banco.

La lucha contra los deepfakes no consensuados es solo una parte de los esfuerzos más amplios de Meta para prevenir la explotación sexual de sus usuarios. La empresa anunció recientemente la eliminación de aproximadamente 63.000 cuentas en Nigeria involucradas en estafas de sextorsión financiera, donde personas, a menudo adolescentes, son engañadas para enviar imágenes desnudas y luego extorsionadas.

La inteligencia artificial ha creado un desafío: identificar videos falsos, llamados deepfake. Este tipo de contenido ha sido utilizado para promover notificas falsas, crear estafas y en general, llevar a los usuarios a un sitio web donde entreguen sus datos y dinero sin darse cuenta.

Debido a eta tecnología, los ciberdelincuentes pueden crear un video similar a un noticiero en el que se habla de una situación específica y se engaña a los usuarios. Pero también es posible generar contenidos de familiares o personas famosas dando un mensaje falso. Algo que para mucho usuarios es difícil de identificar.

Así las cosas, es importante seguir tres recomendaciones para evitar este tipo de trampas y reconocer cuando un video es falso o no.

Buscar inconsistencias en la imagen y el audio

El primer truco para detectar un deepfake es prestar atención a las inconsistencias en la imagen y el audio del video. Los videos falsos generados por IA a menudo presentan fallas en el doblaje, sombras aleatorias y desalineaciones en partes de la cara, como los ojos o la boca. Estos son signos claros de manipulación.

Observa si los movimientos faciales o corporales parecen poco naturales. Los deepfakes pueden tener dificultades para replicar de manera precisa los movimientos sutiles del rostro humano. Por ejemplo, los parpadeos pueden ser demasiado rápidos o lentos, y las expresiones faciales pueden no coincidir con las emociones que se espera ver en un contexto específico.

Los deepfakes a menudo presentan una calidad de video que no coincide con el estándar de los videos auténticos. Pueden verse borrosos o tener artefactos visuales alrededor de las áreas editadas.

Verifica la información y la fuente del video

El segundo truco es comprobar la verosimilitud del contenido y verificar las fuentes. Para esto es fundamenta buscar la fuente oficial y asegurarse de que la información coincida con otras fuentes confiables.

Compara el contenido del video con información disponible en fuentes fiables. Si un video presenta información que parece demasiado buena para ser cierta, es probable que sea sospechoso. Por ejemplo, si un video muestra a una celebridad promoviendo un producto milagroso o una inversión que garantiza ganancias enormes en poco tiempo, investiga si la misma información está disponible en sitios web o medios de comunicación respetables.

Considera el contexto en el que se presenta el video. Los deepfakes a menudo sacan información fuera de contexto para hacer que el contenido parezca más convincente. Verifica si el video encaja con los eventos o noticias actuales y si otras fuentes reportan lo mismo.

Desconfía de solicitudes de descarga o pago

El tercer truco es estar alerta ante videos o audios que solicitan descargar aplicaciones o realizar pagos. Los deepfakes de figuras públicas ya se han utilizado para promover estafas de robo financiero, por lo que es crucial ser cauteloso.

Si un video o audio te pide descargar una aplicación o realizar una inversión, desconfía de inmediato. Los delincuentes a menudo utilizan deepfakes para hacerse pasar por figuras de autoridad o celebridades para ganar la confianza de las víctimas y persuadirlas de realizar acciones que les beneficien financieramente.

Sé escéptico ante promociones que parecen demasiado buenas para ser verdad. Las estafas suelen atraer a las víctimas con ofertas de productos exclusivos, inversiones garantizadas o aplicaciones que prometen beneficios extraordinarios. Verifica estas ofertas en fuentes oficiales antes de tomar cualquier acción.

Mantente informado sobre las tecnologías deepfake y cómo se utilizan para manipular contenido. Cuanto más consciente seas de las señales de advertencia y las tácticas utilizadas por los estafadores, mejor preparado estarás para detectar posibles fraudes.

En un mundo desesperado por no dejarse engañar por la inteligencia artificial, Deep Media es una estrella emergente. Esta empresa de la zona de la Bahía de San Francisco, que afirma ser capaz de identificar imágenes, audio y vídeo creados por inteligencia artificial con una precisión del 99%, ha conseguido al menos cinco contratos militares por valor de casi USD 2 millones desde finales de 2022, incluido un acuerdo de USD 1,25 millones para desarrollar un detector personalizado que ayude a las Fuerzas Aéreas a contrarrestar la guerra de información rusa y china. El mes pasado, su CEO, Rijul Gupta, testificó ante un subcomité del Senado sobre la amenaza que suponen los “deepfakes” de IA para las elecciones estadounidenses.

Pero a pesar de la creciente prominencia de Deep Media, el único ingeniero de aprendizaje automático de la empresa se graduó en la universidad hace dos años, con una licenciatura en astrofísica, según su perfil de LinkedIn. Mientras tanto, una revisión de los perfiles de LinkedIn de otros empleados sugiere que la empresa no tiene doctorados, especialistas en IA o científicos forenses en el personal - una falta de experiencia en la materia que, según los expertos, sugiere una desconexión de la comunidad de investigación deepfake en rápido movimiento. Gupta está “esencialmente diciendo: ‘Confía en mí’. Y eso no funciona en ciencia”, afirma Wael Abd-Almageed, profesor de la Universidad de Clemson que estudia las falsificaciones profundas.

Sea cual sea su buena fe, Deep Media forma parte de un creciente segmento de empresas emergentes que se presentan como un baluarte contra la avalancha de contenidos falsos que ha surgido junto a nuevas herramientas de inteligencia artificial fáciles de usar. El temor a que los medios sintéticos perturben las elecciones y amenacen la seguridad nacional ha llevado a instituciones como el Congreso, el ejército y los medios de comunicación a buscar desesperadamente una solución técnica fiable para identificar los contenidos falsos. La semana pasada, el fabricante de ChatGPT OpenAI anunció que está desarrollando su propia herramienta de detección.

Pero aunque la detección es un servicio cada vez más crucial y solicitado, sus capacidades están en gran medida por probar. Los métodos utilizados para crear deepfakes evolucionan constantemente, lo que significa que las herramientas de detección creadas en un laboratorio no siempre funcionan en la naturaleza, afirman académicos e investigadores. Una prueba realizada en abril por el Instituto Reuters para el Estudio del Periodismo con varios detectores de deepfakes gratuitos o de bajo coste y de acceso público reveló que la mayoría podían ser engañados por las mismas técnicas que se suponía que debían detectar.

No obstante, unas 40 empresas jóvenes ofrecen ahora servicios de detección de falsificaciones, y algunas de ellas afirman alcanzar niveles de precisión sorprendentes: Originality.ai promete “un 99% de PRECISIÓN EN LA DETECCIÓN DE CONTENIDO DE IA”. AI Voice Detector afirma que su herramienta puede “garantizar la autenticidad en situaciones importantes”, incluidos los casos judiciales. GPTZero dice que “supera de forma convincente a todos los servicios de detección de IA de la competencia”. Y para demostrar su destreza, Kroop AI muestra dos caras de dibujos animados aparentemente idénticas en su sitio web, una etiquetada como “REAL 100%” y la otra como “FALSO 100%”.

La CEO de Kroop AI, Jyoti Joshi, dijo que las caricaturas están destinadas a ilustrar cómo los deepfakes de alta calidad pueden parecer sorprendentemente realistas, y agregó que la herramienta de su compañía sobresale en la detección de “firmas sutiles” dejadas por la IA generativa. Otras compañías dijeron que sus resultados de detección no deben leerse como la última palabra, con el CEO de AI Voice Detector, Abdellah Azzouzi, diciendo que su compañía alienta a los usuarios a “investigar más ... después de obtener los resultados.”

Y aunque Originality.ai afirma tener una precisión del 99%, su director ejecutivo, Jon Gillham, escribió en una declaración a The Post que tales afirmaciones “no deben creerse” a menos que estén respaldadas por los resultados de las pruebas. Señalando una entrada del blog de la empresa, Gillham dijo que su compañía revela los resultados de su detector en cinco conjuntos de datos de terceros, así como los resultados de las pruebas de otros detectores.

Según la firma de análisis PitchBook, los capitalistas de riesgo invirtieron USD 200 millones en empresas emergentes de deepfake a nivel mundial en 2023 y el primer trimestre de 2024, frente a los 6,6 millones de 2017. Estas cifras abarcan tanto a las empresas de creación de deepfakes como a las de detección, pero algunos de los mayores acuerdos fueron para herramientas de identificación de medios manipulados por IA. Aun así, el gasto en detección de deepfakes es insignificante en comparación con los USD 29.000 millones invertidos en acuerdos de IA generativa el año pasado, según PitchBook, incluida la financiación de herramientas populares de las que se puede abusar para crear imágenes engañosas, clonar voces o editar vídeos.

Con las guerras que asolan Ucrania y Gaza y más de 4.000 millones de personas con derecho a voto en las elecciones de este año, los expertos forenses afirman que la oleada de nuevas empresas de detección, sobre todo las que presumen de una precisión casi perfecta, corre el riesgo de echar gasolina al creciente fuego de la IA al proporcionar una falsa sensación de certeza sobre la legitimidad de algunos contenidos visuales y sonoros, erosionando al mismo tiempo la confianza del público en los medios de comunicación auténticos.

Los riesgos potenciales para la seguridad derivados de etiquetar un contenido como “falso” son cada vez mayores. En octubre, el sitio de noticias tecnológicas 404 Media informó de que la herramienta gratuita AI or Not marcó como falsa una imagen que, según el gobierno israelí, mostraba atrocidades cometidas por Hamás, en contra de la opinión de los expertos.

El director ejecutivo de AI or Not, Anatoly Kvitnitsky, declaró que, de unas cuantas docenas de imágenes relacionadas con el atentado de Hamás, “acertamos en todas menos en esta”. AI or Not ha mejorado desde entonces su herramienta, dijo Kvitnitsky, pero reconoció que el error era preocupante. “De hecho, nací en Ucrania y soy judío”, dijo, “así que me afectó que nos equivocáramos en algunas cosas”.

Deep Media también ha encontrado pruebas de manipulación de la IA donde otros no lo han hecho. El mes pasado, Gupta declaró a The Washington Post que la herramienta de su empresa había detectado una “alta probabilidad” de que un vídeo muy analizado de Catalina, Princesa de Gales, anunciando su diagnóstico de cáncer, hubiera sido manipulado con IA.

Expertos como Abd-Almageed, de Clemson, Claire Wardle, investigadora de desinformación de la Universidad de Brown, y Hao Li, director ejecutivo de la empresa de efectos de vídeo de IA Pinscreen, afirmaron que no encontraron pruebas de que el vídeo, grabado por la BBC en marzo, hubiera sido manipulado con IA.

En una entrevista más reciente, Gupta declaró a The Post que la empresa mantiene su análisis. Gupta también defendió el nivel de experiencia de la empresa en IA. Gupta, licenciado en ingeniería bioquímica por la Universidad de Yale, dijo que él personalmente tiene 15 años de experiencia en aprendizaje automático, desde que tenía 15 años. Añadió que Deep Media emplea a contratistas experimentados, incluidas personas que están realizando su doctorado, pero se negó a nombrarlos.

“La IA es una tecnología en rápida evolución que requiere modelos de detección de falsificaciones profundas para mantenerse al día con los malos actores”, dijo Gupta en un comunicado, señalando que Deep Media ha entrenado y probado numerosos modelos de detección. “La detección de deepfake es un problema muy difícil”, dijo Gupta en la entrevista, “y Deep Media está trabajando incansablemente para seguir avanzando en nuestra tecnología.”

¿Puedo confiar o no?

El forense Hany Farid, profesor de la Universidad de California en Berkeley, declaró a The Post que este mes ha hablado con cuatro desarrolladores diferentes que presumen de índices de detección casi perfectos. Pero afirma que las empresas de nueva creación pueden aumentar sus cifras calificándose a sí mismas según una curva: A menudo entrenan modelos de detección con un conjunto concreto de deepfakes y luego evalúan su capacidad para identificar el mismo tipo de falsificaciones.

En el mundo real, los medios engañosos pueden no mostrar los patrones que la IA ha aprendido a detectar, dijo Farid, añadiendo que un enfoque más fiable requiere una combinación ágil de programación informática, física, inteligencia de código abierto y análisis forense.

La start-up de detección de Farid, Get Real Labs, utiliza el aprendizaje automático, pero también analiza elementos como las sombras, la geometría, los ajustes de compresión y los resultados de las búsquedas inversas de imágenes. Con el tiempo, la empresa podría alcanzar la precisión necesaria para resumir sus resultados en una “respuesta final” para los clientes, pero la ciencia aún no está ahí. “Si empiezas a decir: ‘Podemos decir con gran precisión si algo es real o falso’, y te equivocas, formas parte del problema”, afirma Farid. “De hecho, podría decirse que eres peor que la enfermedad”.

Esta brecha entre los resultados de laboratorio y los del mundo real dificulta la evaluación de los detectores de la competencia, afirma Abd-Almageed. Y hace que la oleada de empresarios que se dedican a la detección de falsificaciones profundas como un sector emergente de moda, similar a las criptomonedas o la propia IA, sea especialmente preocupante, dijo Farid.

Aunque las afirmaciones jactanciosas de las empresas emergentes no son nada nuevo en Silicon Valley, Raquel Vázquez Llorente, responsable de amenazas y oportunidades tecnológicas de la organización sin ánimo de lucro Witness, dijo que conclusiones sobre contenidos como “generado en un 80% por IA” pueden confundir al público. “¿Qué demonios significa eso?”, dijo en una reciente conferencia sobre IA generativa y derecho. “¿Puedo fiarme o no?”

Dado que la detección de deepfakes es especialmente urgente en un año electoral, Oren Etzioni, cofundador del Allen Institute for AI, fundó recientemente la organización sin ánimo de lucro TrueMedia.org, dedicada a desarrollar una herramienta de detección fiable que ofrece gratuitamente a los fact-checkers.

El Pentágono también se está moviendo más rápido para seguir el ritmo de los avances tecnológicos. Se ha hecho más acogedor para las nuevas empresas tecnológicas modernizando su proceso de adquisición y relajando las restricciones de elegibilidad para su fondo de desarrollo Small Business Innovation Research (SBIR). Conocido como SBIR, este programa de tres fases financia ideas prometedoras, desarrolla la tecnología y, por último, la pone en producción. La mayoría de las empresas de nueva creación nunca llegan a la tercera fase.

Los cinco contratos militares de Deep Media que cotizan en bolsa eran subvenciones SBIR. Tres han finalizado y un cuarto termina en julio, mientras que el acuerdo de USD 1,25 millones con las Fuerzas Aéreas para la detección de IA -ahora en la fase dos del SBIR- finaliza en noviembre. En un comunicado, el portavoz del Pentágono Jeff Jurgensen dijo que el Departamento de Defensa evalúa cada propuesta SBIR “teniendo en cuenta factores tales como el mérito técnico, los requisitos de defensa, y el potencial comercial”, en busca de pequeñas empresas que podrían atraer a los inversores privados, que tienen acceso a más capital.

99% de precisión

Antes de centrarse en la detección de deepfakes, Deep Media se dedicaba a crear medios sintéticos. La empresa lanzó lo que denominó un traductor universal para doblar vídeos y puso en marcha una serie de aplicaciones de creación de contenidos, como Babble, Copy Cat ai, DubSync y PolyTalk. Dos de los contratos militares más pequeños de la empresa fueron para servicios de traducción de IA. “La razón por la que nuestros detectores de deepfake funcionan -la razón por la que tenemos contratos con el Pentágono- es porque hemos sido pioneros en el lado generativo durante mucho tiempo”, dijo Gupta a The Post.

En anteriores entrevistas de prensa, Gupta había afirmado que su índice de precisión en la identificación de deepfakes era del 99%. En su entrevista con The Post, modificó un poco esa afirmación y dijo que se compromete a ofrecer a los clientes al menos un 95 por ciento de precisión, incluso en “los últimos y mejores deepfakes, los de mayor calidad y los más difíciles de detectar”.

Gupta dijo que intenta evitar cifras engañosas, reconociendo que “la gente puede engañarte cuando habla de precisión”. Si 10 imágenes de un universo de 1.000 son falsas, el modelo puede declarar que todo es real y tener una precisión del 99%, dijo. Pero en realidad, dijo, “ese número no tiene sentido, ¿verdad?”.

Al hablar con The Post, Gupta citó repetidamente un acuerdo de investigación cooperativa de USD 25 millones y tres años de duración para la generación y detección de datos deepfake con el Laboratorio de Investigación de las Fuerzas Aéreas como prueba de la credibilidad de la empresa. Una copia del contrato revisada por The Post muestra que el 60 por ciento del valor de USD 25 millones proviene de recursos proporcionados por Deep Media.

El acuerdo se había presentado anteriormente como un contrato de USD 25 millones, pero Gupta reconoció que “puede que se haya tergiversado” en la prensa. El acuerdo no proporciona “ingresos a la empresa”, dijo, “pero está apoyando nuestra investigación en IA”.

Mientras tanto, la empresa de asesoría que ayudó a Deep Media a obtener sus contratos militares ha demandado a la empresa por impago de sus facturas. La demanda, presentada en marzo ante un tribunal federal por Stonegardens Advisory, también alega que Deep Media afirmó falsamente que el miembro gerente de Stonegardens, un veterano de la Infantería de Marina, era un ejecutivo de Deep Media en su sitio web y en materiales de marketing, así como en el escenario de SXSW y en eventos de la Fuerza Aérea. Stonegardens declinó hacer comentarios sobre el caso.

Gupta declinó referirse a las alegaciones de la demanda. Dijo a The Post que Deep Media empezó a solicitar contratos militares porque teme que los medios sintéticos manipuladores puedan desestabilizar la sociedad estadounidense. “Si nuestro gobierno no tiene un detector de deepfakes”, dijo Gupta, “nuestro gobierno no sabe lo que es real y lo que es falso”.

Google actualizará su política de contenido inapropiado para Google Ads ya que prohibirá la promoción de contenido sintético que se haya modificado o generado con IA y que sea sexualmente explícito o incluya desnudos.

La medida está destinada a sitios o aplicaciones que afirman generar contenido para adultos ultrafalso, que ofrecen instrucciones sobre cómo crearlo, que recomiendan o comparan servicios de esta clase.

“Si detectamos infracciones de esta política, suspenderemos tus cuentas de Google Ads sin previo aviso y no podrás volver a anunciarte con nosotros”, sentenció la compañía. Cabe mencionar que la actualización de esta política entrará en vigor el 30 de mayo del 2024.

¿Qué es contenido ultrafalso o ‘deepfake’?

El contenido ultrafalso o ‘deepfake’ se refiere a medios audiovisuales manipulados mediante técnicas avanzadas de inteligencia artificial. Utiliza algoritmos de aprendizaje profundo, como redes neuronales, para superponer rostros e imitar voces de manera realista. Esta tecnología permite crear videos y audios en los que parece que una persona dice o hace algo que en realidad nunca ocurrió.

Algunos ejemplos comunes son:

- Videos que muestran a políticos o figuras públicas haciendo declaraciones que nunca hicieron.

- Contenidos sexuales falsos creados a partir de imágenes de personas que no han consentido su uso.

- Audios manipulados para hacer pasar a alguien por una persona que no es, usualmente para estafas o engaños.

¿Cuál es el contenido inapropiado de Google Ads?

Google Ads, una de las plataformas publicitarias más grandes del mundo, tiene políticas estrictas sobre el contenido inapropiado para asegurar una experiencia segura y positiva para los usuarios.

Algunas diferentes formas de contenido inapropiado de acuerdo con las políticas de Google son:

Contenido que incite al odio y a la discriminación

Google Ads prohíbe cualquier contenido que incite al odio o promueva la discriminación contra una persona o un grupo. Esto incluye la discriminación por raza, origen étnico, religión, discapacidad, edad, nacionalidad, condición de veterano, orientación sexual, sexo, identidad de género u otras características asociadas con la discriminación o la marginación sistémicas.

Ejemplos:

- Promoción de grupos que incitan al odio.

- Productos relacionados con grupos que incitan al odio.

- Contenido que deshumaniza a una persona o grupo, considerándolos inferiores o merecedores de odio.

Contenido de hostigamiento y acoso

Esto integra textos que insulten o acosen a alguien. También se prohíbe compartir información personal con el objetivo de causar daño a través de fraude financiero, robo de identidad, contacto directo perjudicial o acoso. Algunos ejemplos son:

- Insultos dirigidos a una persona o grupo.

- Negación de eventos trágicos.

- Divulgación de información personal con malas intenciones.

Contenido de amenazas y autolesiones

Hace referencia al contenido que defienda el suicidio, la anorexia u otras formas de autolesión, y contenido que haga amenazas de daño físico o incite a la violencia.

Contenido de explotación y abuso

Cualquier contenido cuyo propósito sea aprovecharse de otras personas está prohibido. Esto incluye la extorsión y el chantaje. Sitios web que solicitan dinero para no publicar información personal también hacen parte de esta categoría.

Contenido sexual explícito

Google Ads no permite ningún tipo de contenido sexual explícito que tenga la intención de provocar excitación. Esto incluye texto, imágenes, audio o video de actos sexuales. Además, se prohíbe el contenido que promueva actos sexuales no consentidos, con menores de edad o cualquier otro tema sexual ilegal, independientemente de si es simulado o real.

Explotación sexual de menores

Google tiene una política de tolerancia cero en cuanto a contenido que promueva la explotación sexual de menores. Esto incluye imágenes u otro contenido que muestre abuso sexual infantil.

Crueldad contra animales

No está permitido el contenido que promueva la crueldad o violencia gratuita contra animales. Google Ads prohíbe el comercio de especies amenazadas o en peligro de extinción y la venta de productos derivados de estas especies.

Los deepfakes son una realidad. Recientemente, vimos como se crearon imágenes de Katty Perry y Rihanna en la Met Gala, a pesar de que ninguna de ellas fue. Contenidos de este tipo causan mucha confusión dentro los usuarios y como solución OpenAI creó una herramienta para detectar este tipo de imágenes generadas con inteligencia artificial.

Esta iniciativa surge en un momento crítico, marcado por la creciente amenaza de los deepfakes y la desinformación en línea. Con el aumento de la capacidad de las IA generativas para crear contenido cada vez más realista y persuasivo, se hace evidente la necesidad de contar con herramientas efectivas para identificar y verificar la autenticidad de dicho contenido.

Algo que se hace más crítico cuando se trata de contenido que puede engañar a los usuarios, para llevarlos a entregar dinero, persuadir su intención de voto o dar información de forma errónea sobre un tema específico, teniendo en cuenta el poder de una imagen.

Cómo es la herramienta de OpenAI

La nueva herramienta de OpenAI se basa en un clasificador avanzado capaz de identificar imágenes creadas por su popular generador de imágenes, DALL-E.

Este clasificador ha sido sometido a rigurosas pruebas que han demostrado una precisión del 98,8% en la identificación de imágenes generadas por esta inteligencia artificial. Este nivel de precisión es un punto significativo en la lucha contra la desinformación en línea y los intentos de manipulación a través de imágenes sintéticas.

El funcionamiento de la herramienta se basa en el uso de algoritmos de inteligencia artificial para analizar las características únicas de las imágenes y determinar si han sido generadas por DALL-E o no. Además, la herramienta es capaz de detectar modificaciones menores en las imágenes, como compresión, recortes o cambios en la saturación, lo que la hace aún más robusta frente a intentos de engaño.

Sin embargo, es importante tener en cuenta que la herramienta no es infalible. Aunque puede identificar con precisión las imágenes generadas por DALL-E, su eficacia en la detección de contenido generado por otras IA generativas es limitada, marcando entre un 5 % y un 10 % en su conjunto de datos interno. Por lo que no es compatible con plataformas como Midjourney o Stability.

OpenAI ha adoptado un enfoque integral para abordar el problema de la autenticidad del contenido digital. Además del desarrollo de esta herramienta de detección de imágenes, la compañía se ha unido al Comité Directivo de la Coalición para la Procedencia y Autenticidad del Contenido (C2PA). Esta coalición se centra en establecer estándares abiertos para certificar la autenticidad del contenido digital y compartir información sobre cómo fue creado.

La integración de metadatos del estándar C2PA en todas las imágenes creadas y editadas por DALL-E 3, el último modelo de imagen de OpenAI, es un paso crucial hacia la garantía de la autenticidad del contenido digital. Estos metadatos proporcionan información sobre la procedencia y autenticidad de las imágenes, lo que ayuda a construir confianza en su veracidad.

Además de contribuir a los estándares de autenticidad del contenido, OpenAI está desarrollando nuevas herramientas para mejorar la integridad del contenido digital. Esto incluye la implementación de marcas de agua resistentes a la manipulación en contenido como audio, así como clasificadores de detección que utilizan inteligencia artificial para evaluar la probabilidad de que el contenido provenga de modelos generativos.

La disponibilidad de estas herramientas es un paso adelante significativo en la lucha contra la desinformación en línea y la manipulación de contenido digital. OpenAI ha anunciado que está abriendo aplicaciones para acceder a su clasificador de detección de imágenes a un grupo selecto de probadores, incluidos laboratorios de investigación y organizaciones sin fines de lucro de periodismo, a través de su Programa de Acceso para Investigadores.

Esta medida permitirá una evaluación independiente de la efectividad de la herramienta y su aplicación en el mundo real.

Usuarios de Reddit han encontrado un video falso creado con inteligencia artificial de Brad Garlinghouse director ejecutivo de Ripple, plataforma de pagos con criptomonedas. En el deepfake, el ejecutivo parece pedir a las personas que tienen XRP, una criptomoneda, que manden sus monedas virtuales a una dirección web determinada. A cambio, promete devolverles el doble de lo enviado.

El video falso de Garlinghouse se ha distinguido claramente por su falta de autenticidad, debido a anomalías en el movimiento de los labios y un tono de voz que suena robótico, no coincidiendo con las características humanas naturales.

Estos aspectos han levantado sospechas inmediatas entre los observadores, señalando su naturaleza de deepfake. Asimismo, la compañía Ripple no ha emitido comunicados ni publicaciones que respalden o se refieran a este supuesto evento de promociones, reforzando la percepción de que el video es, de hecho, una creación falsa con intenciones fraudulentas.

Deepfakes en el mundo de las criptomonedas

Los deepfakes son videos o audios manipulados con técnicas de inteligencia artificial y aprendizaje automático para hacer parecer que personas reales están diciendo o haciendo cosas que nunca dijeron o hicieron.

Normalmente, sus víctimas son personas reconocidas cuya popularidad puede llegar a convencer a algunas personas a realizar cierta actividad, que en la mayoría de casos, es perjudicial.

En este caso, usaron la imagen de una persona que cuenta con credibilidad para convencer a los espectadores a pasar sus criptomonedas a cierta dirección específica y posiblemente, caer en una estafa. Por ese motivo, Infobae no comparte el video, únicamente una captura de pantalla del mismo.

¿Cómo identificar deepfakes?

Para identificar deepfakes, se pueden considerar varios indicadores que sugieren manipulación:

• Inconsistencias en el rostro: Buscar distorsiones o anomalías en los rasgos faciales, como ojos que no parpadean de manera natural, bordes de rostros que parecen borrosos o mal alineados con el cuello y el cabello.
• Movimiento labial: Observar si el movimiento de los labios está sincronizado adecuadamente con el audio. Los deepfakes a menudo presentan desajustes entre el sonido y el movimiento.
• Calidad de voz: Escuchar cambios o irregularidades en la tonalidad de la voz, como un tono que pueda sonar robótico o una modulación que no concuerde con la expresión facial.
• Fondo y iluminación: Evaluar si el fondo o la iluminación del video parecen inconsistentes o artificiales, lo que puede indicar una manipulación.
• Expresiones y movimientos anormales: Prestar atención a expresiones faciales exageradas o movimientos corporales que parezcan poco naturales o forzados.
• Información contextual: Verificar fuentes confiables para corroborar la veracidad del contenido. La ausencia de otras fuentes que validen la información puede ser un indicativo de falsedad.

Estar alerta a estos signos puede ayudar a discernir entre contenido auténtico y manipulado, aunque la tecnología de deepfakes continúa avanzando, haciendo que la detección sea cada vez más desafiante.

¿Cómo identificar estafas relacionadas con criptomonedas?

Para identificar estafas relacionadas con criptomonedas, es crucial estar atento a ciertas señales de alerta:

• Promesas de ganancias garantizadas: Desconfía de cualquier oferta que prometa retornos altos y sin riesgo. Las inversiones en criptomonedas, por naturaleza, conllevan riesgos y no pueden garantizar ganancias.
• Presión para invertir rápidamente: Las estafas frecuentemente crean un sentido de urgencia, insistiendo en que actúes rápido para no perder la oportunidad.
• Solicitudes de pago anticipado: Cualquier solicitud de enviar dinero o criptomonedas para “desbloquear” o “reclamar” ganancias más significativas suele ser una señal clara de estafa.
• Direcciones de billetera desconocidas: Si se solicita enviar fondos a una billetera sin verificar su legitimidad o procedencia, es probable que sea una estafa.
• Uso de redes sociales y foros para verificar información: Las estafas a menudo tienen muchas quejas de usuarios afectados en foros y redes sociales. Buscar comentarios y experiencias de otros puede ser útil.

Ante la duda, es mejor abstenerse de realizar la inversión. La investigación y la precaución son fundamentales para evitar caer en estafas relacionadas con criptomonedas.

Además de los tradicionales estilos extravagantes, la Met Gala de este año ha llamado la atención por una serie de contenidos generados con inteligencia artificial de artistas que no asistieron al evento. En las imágenes falsas se replicó cada detalle de este evento de la moda, replicando todo el ambiente de la gala y la temática para esta edición.

Katy Perry, Rihanna y Dua Lipa fueron las protagonistas de este contenido deepfake. A pesar de no haber estado en la gala, la inteligencia artificial permitió verlas como si lo hubiesen estado, incluso con el caos de los fotógrafos que cada año hace parte del entorno caótico del evento.

Ante la calidad de las imágenes, en redes sociales muchos usuarios las han confundido y creen que son reales, demostrando una vez más el poder de esta tecnología y los desafíos que hay para frenar el contenido falso.

Katy Perry, Rihanna y Dua Lipa en la Met Gala IA

Una de las imágenes más destacadas es la de Katy Perry, quien, según la IA, habría lucido un espectacular vestido perla adornado con flores tridimensionales en la Met Gala. A pesar de la incredulidad inicial, la imagen se volvió viral, acumulando más de 10 millones de visualizaciones y desatando un frenesí de comentarios en las redes sociales.

Perry misma tuvo que desmentir la veracidad de la foto, explicando que no pudo asistir al evento debido a compromisos profesionales. Sin embargo, la imagen generada por IA desafió las expectativas y demostró el potencial de la tecnología para crear realidades alternativas en el mundo de la moda.

Otro ejemplo es el de Rihanna, cuya imagen generada por IA la muestra luciendo un vestido boscoso con una silueta circular, inspirado en la temática de la Met Gala de ese año, “El Jardín del Tiempo”.

A pesar de la ausencia de la artista en el evento debido a motivos de salud, la imagen falsa logró captar la atención del público y generar más de 96,000 likes y 17,000 retweets en X. Este ejemplo ilustra cómo las creaciones de IA pueden desafiar las expectativas de la audiencia y generar un impacto significativo en la cultura digital.

Además de Perry y Rihanna, otras celebridades también fueron objeto de la creatividad de la IA. Dua Lipa, por ejemplo, fue retratada con un estilo que incluía flequillo y un moño, junto con un vestido encorsetado. Aunque estas imágenes parecían más realistas que otras, la llegada de Lipa a la Met Gala con un atuendo completamente diferente demostró que el contenido no era real.

Cómo la IA logra replicar la realidad de esta manera

Detrás de estas creaciones de IA se encuentra una combinación de algoritmos y tecnología avanzada que permite generar imágenes realistas a partir de datos y patrones existentes. Estos algoritmos analizan una variedad de imágenes de las celebridades en cuestión, así como detalles específicos sobre sus estilos y preferencias de moda.

Luego, utilizan esta información para crear representaciones digitales que se asemejan a la realidad, pero que también pueden incluir elementos fantásticos y creativos.

Si bien estas imágenes generadas por IA han causado entusiasmo y fascinación entre el público, también han planteado preocupaciones sobre la autenticidad y la manipulación digital, como ya ha sido el caso de canciones o videos en los que hay famosos involucrados.

La difusión masiva de estas imágenes falsas ha llevado a muchos a cuestionar la confiabilidad de lo que ven en línea y a reflexionar sobre los límites éticos de la tecnología. Además, el impacto de estas creaciones en la percepción de la belleza y la moda plantea interrogantes sobre los estándares culturales y la influencia de la tecnología en la construcción de la identidad visual.