Las guerras y los procesos electorales son dos de los escenarios de interés informativo en los que proliferan los conocidos como 'deepfakes' o contenidos de gran realismo manipulados con IA, cuyos riesgos intenta mitigar Microsoft con herramientas como las 'Credenciales de Contenido'.
Microsoft ha desarrollado un conjunto de herramientas de integridad de contenidos para aportar más transparencia a lo que se publica en internet, pero esta es solo una de las formas en que la compañía tecnológica está combatiendo los 'deepfakes'.
También ha cofundado la Coalición para la Procedencia y Autenticidad del Contenido (C2PA) para desarrollar un estándar técnico abierto que permite establecer la procedencia, o el origen y la historia, del contenido digital, incluidos los activos generados por IA.
El contenido manipulado no es algo nuevo, pero el auge de la IA generativa está facilitando que personas con malas intenciones difundan desinformación, la cual puede llevar a fraudes, robos de identidad o interferencia electoral, entre otros peligros.
Detalles como la firma o los subtítulos a menudo desaparecen cuando el contenido se comparte, lo que dificulta que las personas sepan en qué confiar. Por ello, "conocer el origen y rastrear la historia del contenido puede ayudar a las personas a estar más informadas y ser menos vulnerables al engaño", comenta el director de Procedencia de Medios en Microsoft, Andrew Jenks, en una nota de prensa.
Para el directivo, "las repercusiones de los deepfakes pueden ser gravísimas", e incluso las identifica como "una forma de hackeo cognitivo que cambia la relación con la realidad y la manera en que pensamos sobre el mundo".
HERRAMIENTAS CONTRA LOS DEEPFAKES
Las herramientas de Microsoft incluyen una aplicación, que actualmente es una versión preliminar privada, para que creadores y editores añadan 'Credenciales de Contenido' a su trabajo, es decir, metadatos certificados con detalles como quién creó el contenido, cuándo se hizo y si se utilizó IA.
Como parte del estándar técnico de la C2PA, las 'Credenciales de Contenido' se adjuntan a fotos, vídeos y audios de forma criptográfica para que cualquier edición o manipulación posterior pueda detectarse más fácilmente.
Debido a que los metadatos son invisibles, Microsoft también ofrece una herramienta pública de verificación de integridad de contenido y una extensión para navegadores web. Las personas también pueden buscar un icono de 'Credenciales de Contenido' en imágenes y vídeos en plataformas como LinkedIn.
Las 'Credenciales de Contenido' también en presentes en los productos generadores de imágenes mediante IA de Microsoft, como Designer, Copilot, Paint y algunos modelos seleccionados de Azure OpenAI Service. Otros controles responsables de IA para disuadir sobre el abuso de 'deepfakes' incluyen el difuminado de rostros en las fotos subidas a Copilot.
Últimas Noticias
Los separatistas suryemeníes tienden la mano a Arabia Saudí pero avisan que no se retirarán del este del país
El principal grupo independentista del sur de Yemen ofrece flexibilizar su postura ante Riad y Emiratos, pero advierte que sus tropas se mantendrán en las gobernaciones orientales mientras continúan las tensiones y los llamados internacionales al diálogo
Las temperaturas subirán este domingo en la Península y se activarán alertas en el Mediterráneo por fuertes lluvias
La inestabilidad atmosférica dominará gran parte del país, con precipitaciones intensas especialmente en el litoral sureste y áreas mediterráneas, mientras que provincias como Málaga y Valencia estarán en riesgo importante por tormentas, según la Agencia Estatal de Meteorología
Hamás avisa que no tolerará un desplazamiento forzado de los palestinos a Somalilandia
Hamás denuncia que el reconocimiento israelí de Somalilandia busca allanar el camino para la expulsión de civiles desde Gaza, califica la medida de maniobra peligrosa y exige a la comunidad internacional aumentar el aislamiento contra Israel
Dioni, de Camela, anuncia que en 2026 vuelve a los escenarios
Tras meses de recuperación tras una grave lesión muscular y al suspender su gira, el intérprete anticipó que iniciará una nueva etapa artística en 2026, tras confirmar que está preparado para regresar a los shows con plena energía
La ONU y la UE celebran el alto el fuego entre Tailandia y Camboya
El acuerdo alcanzado tras semanas de enfrentamientos en la frontera ha sido recibido con optimismo por líderes internacionales, quienes instan a las partes a garantizar una aplicación efectiva mientras organizaciones humanitarias remarcan la urgencia de asistir a desplazados y víctimas
