Desarrolladores de inteligencia artificial (IA) están al borde de lanzar tecnología que permitirán a los usuarios crear imágenes y videos tan realistas que casi no se podrá distinguir de la realidad. Los expertos llaman la atención sobre el potencial uso indebido de estas herramientas, especialmente en la creación de vídeos falsos, deepfakes, que son altamente convincentes y que podrían influir en las elecciones presidenciales de 2024, en Estados Unidos.
Según reveló un informe de Axios, empresas líderes como OpenAI, creadora de la popular plataforma ChatGPT, planean lanzar estos recursos de creación de contenido. La llegada de estas herramientas al mercado podría ser inminente, generando preocupación entre los expertos, quienes advierten del posible impacto en ámbitos como las elecciones, el comercio y la seguridad nacional.
Algunos desarrolladores que han participado en pruebas privadas han admitido que ellos mismos no pueden distinguir las imágenes falsas de las reales, según reportó Fox News Digital.
Ziven Havens, director de políticas del Bull Moose Project, expresó su inquietud sobre la difusión de videos deepfake de celebridades, políticos y demás personas influyentes. El experto advirtió sobre el potencial de esta tecnología en manos de actores maliciosos para impulsar “anuncios de campañas falsas” o crear “declaraciones falsas de líderes mundiales”. Además, sostuvo que esto tan solo es la “punta del iceberg”.
La amenaza a la que Havens aludió ha llevado a líderes a considerar soluciones para clarificar lo que es real y lo que no, incluyendo la implementación de marcas de agua obligatorias en contenido generado por inteligencia artificial. Phil Siegel, fundador del Center for Advanced Preparedness and Threat Response Simulation, señaló a Fox News que aquellos que buscan regular la IA tendrán que considerar las posibles implicancias en la Primera Enmienda.
Aun así, Siegel parece mostrarse a favor de la difusión ilustrativa de contenido generado por IA y recordó que el contenido humorístico y de sátira probablemente pueda usarse. Sin embargo, reconoció que el aumento de formas baratas y sencillas de generar contenido con tecnología probablemente elevará tanto la desinformación como la sátira e ilustración.
Por otro lado, Samuel Mangold-Lenett, editor de The Federalist, hace notar que existirán formas de “mitigar los riesgos” asociados a la falsedad del material visual generado por IA. Él plantea que el mayor peligro radica en que la inteligencia artificial provoque que la humanidad “pierda el contacto con la realidad”.
Según Mangold-Lenett, así como los motores de búsqueda han debilitado las habilidades de investigación de las personas, las tecnologías de inteligencia artificial sofisticadas tienen el potencial de debilitar las habilidades de pensamiento crítico.
Finalmente, Havens propuso que el Congreso de los Estados Unidos debería implementar la obligación de etiquetar el contenido generado por inteligencia artificial en línea. Por su parte, el presidente Joe Biden recientemente firmó una orden ejecutiva destinada a abordar algunos de los problemas emergentes en torno a la IA, un movimiento que muchos consideran un primer paso positivo.
¿Qué son los deepfake?
Los deepfake son técnicas de inteligencia artificial que permiten la creación o manipulación de contenidos audiovisuales. Este término se refiere a la combinación de ‘deep learning’ (aprendizaje profundo) y ‘fake’ (falso). Se utiliza generalmente con un enfoque de engaño, creando la ilusión de que una persona está hablando o actuando de una manera que no es real.
Esto se consigue reemplazando el rostro de una persona en un video por el de otra, generando imágenes o videos hiperrealistas que pueden ser difíciles de discernir de la realidad. La tecnología deepfake plantea preocupaciones sobre su posible uso malintencionado, como la generación de noticias falsas o la invasión de la privacidad. Sin embargo, también tiene aplicaciones legítimas en campos como el cine, la animación o la publicidad.
Últimas Noticias
Préstamos falsos, mentiras en la naturalización y una sentencia ejemplar: así terminó la carrera criminal de Joff Stenn Wroy Philossaint
El caso federal revela cómo un hombre logró acceder a la ciudadanía estadounidense mediante engaños, mientras desviaba recursos vitales para pequeñas empresas en plena pandemia de COVID-19
El gobierno de Nueva York reactiva programa para construir viviendas accesorias
La administración local anunció la reapertura de créditos y asistencia técnica destinados a habilitar apartamentos adicionales en propiedades residenciales, en medio de un déficit persistente de vivienda y nuevas reglas de rezonificación urbanística
Un centro de datos propuesto en Nueva York desata tensiones por posibles impactos energéticos y ambientales
Las preocupaciones principales giran en torno a posibles aumentos de facturas eléctricas, riesgos para el entorno natural y la magnitud de los subsidios fiscales destinados al ambicioso proyecto digital
Una conocida línea de cruceros cancela 11 viajes y deja a miles de pasajeros afectados
La empresa comunicó la decisión a clientes y agencias, detallando alternativas que incluyen devolución íntegra del dinero o reubicación en otras fechas disponibles
Jueces de Los Ángeles implementan inteligencia artificial para agilizar fallos ante la sobrecarga judicial
La implementación de un programa piloto busca aliviar la saturación en los tribunales mediante el uso de tecnología capaz de resumir documentos y generar borradores, con el objetivo de reducir los tiempos de resolución en el condado
