Las guerras y los procesos electorales son dos de los escenarios de interés informativo en los que proliferan los conocidos como 'deepfakes' o contenidos de gran realismo manipulados con IA, cuyos riesgos intenta mitigar Microsoft con herramientas como las 'Credenciales de Contenido'.
Microsoft ha desarrollado un conjunto de herramientas de integridad de contenidos para aportar más transparencia a lo que se publica en internet, pero esta es solo una de las formas en que la compañía tecnológica está combatiendo los 'deepfakes'.
También ha cofundado la Coalición para la Procedencia y Autenticidad del Contenido (C2PA) para desarrollar un estándar técnico abierto que permite establecer la procedencia, o el origen y la historia, del contenido digital, incluidos los activos generados por IA.
El contenido manipulado no es algo nuevo, pero el auge de la IA generativa está facilitando que personas con malas intenciones difundan desinformación, la cual puede llevar a fraudes, robos de identidad o interferencia electoral, entre otros peligros.
Detalles como la firma o los subtítulos a menudo desaparecen cuando el contenido se comparte, lo que dificulta que las personas sepan en qué confiar. Por ello, "conocer el origen y rastrear la historia del contenido puede ayudar a las personas a estar más informadas y ser menos vulnerables al engaño", comenta el director de Procedencia de Medios en Microsoft, Andrew Jenks, en una nota de prensa.
Para el directivo, "las repercusiones de los deepfakes pueden ser gravísimas", e incluso las identifica como "una forma de hackeo cognitivo que cambia la relación con la realidad y la manera en que pensamos sobre el mundo".
HERRAMIENTAS CONTRA LOS DEEPFAKES
Las herramientas de Microsoft incluyen una aplicación, que actualmente es una versión preliminar privada, para que creadores y editores añadan 'Credenciales de Contenido' a su trabajo, es decir, metadatos certificados con detalles como quién creó el contenido, cuándo se hizo y si se utilizó IA.
Como parte del estándar técnico de la C2PA, las 'Credenciales de Contenido' se adjuntan a fotos, vídeos y audios de forma criptográfica para que cualquier edición o manipulación posterior pueda detectarse más fácilmente.
Debido a que los metadatos son invisibles, Microsoft también ofrece una herramienta pública de verificación de integridad de contenido y una extensión para navegadores web. Las personas también pueden buscar un icono de 'Credenciales de Contenido' en imágenes y vídeos en plataformas como LinkedIn.
Las 'Credenciales de Contenido' también en presentes en los productos generadores de imágenes mediante IA de Microsoft, como Designer, Copilot, Paint y algunos modelos seleccionados de Azure OpenAI Service. Otros controles responsables de IA para disuadir sobre el abuso de 'deepfakes' incluyen el difuminado de rostros en las fotos subidas a Copilot.
Últimas Noticias
El Celta de Vigo derriba al PAOK de Salónica y confirma su pase a octavos de final
Con un gol de Williot Swedberg y una sólida actuación colectiva en Balaídos, el conjunto gallego eliminó al equipo griego y avanzó en la Liga Europa, desatando la celebración de su afición tras una serie muy disputada
El Ministerio de Defensa británico investiga si Epstein utilizó bases aéreas de las Fuerzas Armadas
El gobierno de Reino Unido busca esclarecer la posible conexión entre vuelos de Jeffrey Epstein y aeródromos militares, tras denuncias de abusos, presiones políticas y la aparición de nuevos testimonios que involucran figuras públicas británicas en la red criminal
La española Bouzas sigue su mala racha en Mérida con una dura derrota
Jéssica Bouzas cayó frente a Magdalena Frech en el certamen de Mérida, acumulando seis tropiezos en solo ocho partidos del año y dejando a Cristina Bucsa como la única representante local en los cuartos de final
Guterres pide a Pakistán y Afganistán que resuelvan sus diferencias mediante la diplomacia
Crónica del Real Madrid - Bayern Múnich, 93-70
Con una actuación implacable, el conjunto dirigido por Sergio Scariolo se impuso por amplia diferencia al equipo alemán, afianzando su posición entre los primeros puestos y dejando atrás el revés sufrido recientemente en la final copera
