OpenAI idenfiticó a más de 20 ataques cibernéticos y de manipulación recientes que involucraron el uso de su modelo de inteligencia artificial (IA) generativa con fines maliciosos, según un informe publicado este mes. El reporte expone cómo actores estatales, incluidos hackers vinculados a China, Irán y Rusia, han utilizado herramientas como ChatGPT para desarrollar malware, ejecutar ataques de phishing y llevar a cabo campañas de desinformación en redes sociales.
El grupo SweetSpecter, con sede en China, fue uno de los actores destacados en el informe. Este grupo ejecutó ataques de spear-phishing dirigidos contra gobiernos asiáticos y personal de OpenAI. En uno de los casos, los atacantes enviaron correos electrónicos que simulaban problemas con servicios de ChatGPT e incluían archivos ZIP con malware oculto, conocido como “SugarGh0st RAT”. Si el archivo era abierto, el malware tomaba control del dispositivo afectado, permitiendo a los atacantes ejecutar comandos y robar datos sin ser detectados.
Por otro lado, CyberAv3ngers, un grupo vinculado a la Guardia Revolucionaria Islámica de Irán, utilizó ChatGPT para explorar vulnerabilidades en sistemas industriales y hackear equipos de control de agua en Estados Unidos e Irlanda. En noviembre de 2023, lograron interrumpir temporalmente el suministro de agua en la localidad de Aliquippa, Pensilvania. En otro incidente, causaron un apagón de dos días en servicios hídricos en el condado de Mayo, Irlanda. Las investigaciones revelaron que los atacantes se apoyaron en herramientas de IA para diseñar y refinar scripts maliciosos.
Asimismo, STORM-0817, otro grupo iraní, centró sus esfuerzos en el desarrollo de malware dirigido a dispositivos Android. Su software permitía extraer información confidencial, como registros de llamadas, contactos y archivos de mensajería. El grupo también buscó asistencia en ChatGPT para depurar códigos y perfeccionar técnicas de raspado de datos de redes sociales como Instagram, lo que revela cómo los modelos de IA están siendo integrados en múltiples fases de ataques complejos.
Uso para manipulación y desinformación
El informe no solo documenta ataques cibernéticos, sino también campañas de influencia basadas en la generación de contenido con IA.
La operación conocida como A2Z es un ejemplo de cómo se pueden gestionar campañas de desinformación a gran escala mediante ChatGPT. Este grupo utilizó el modelo para crear biografías y comentarios en varias lenguas, los cuales fueron publicados en plataformas como X (anteriormente Twitter) y Facebook. Los mensajes en inglés e italiano, por ejemplo, promovían la imagen de Azerbaiyán como proveedor clave de energía para Europa y minimizaban las críticas sobre su historial de derechos humanos.
Otra operación denominada Stop News, de origen ruso, utilizó ChatGPT para producir artículos y comentarios en inglés, francés y ruso. El grupo creó una serie de sitios web que simulaban ser medios de comunicación en África y el Reino Unido, aunque la mayoría de sus publicaciones no alcanzó gran repercusión. Además, acompañaron los artículos con imágenes generadas por DALL·E, una herramienta generativa de OpenAI, aunque estas tampoco lograron atraer una audiencia significativa.
Un incidente inusual documentado en el informe fue un engaño vinculado a trolls rusos. En este caso, los operadores difundieron un mensaje falso en X que aparentaba ser un error generado por ChatGPT al intentar apoyar contenido favorable al ex presidente estadounidense Donald Trump. La publicación ganó tracción en redes sociales y se viralizó rápidamente, lo que, según el informe, refleja cómo la desinformación puede amplificarse incluso cuando no proviene directamente de la IA
Optimizar la capacidad operativa de los hackers
Aunque las investigaciones de OpenAI concluyen que los actores maliciosos no lograron desarrollar variantes completamente nuevas de malware mediante IA, el informe subraya que las herramientas de inteligencia artificial han facilitado a estos grupos la ejecución de ataques más rápidos y eficientes. Los modelos de IA, como ChatGPT, fueron particularmente útiles para realizar tareas intermedias, como la depuración de códigos y la elaboración de correos maliciosos, lo que optimizó la capacidad operativa de los atacantes sin necesidad de desarrollar conocimientos técnicos avanzados.
El informe subraya que la combinación de herramientas de IA con técnicas tradicionales plantea un desafío significativo para la industria de la ciberseguridad. Los modelos de lenguaje permiten a los atacantes reducir tiempos de desarrollo, identificar vulnerabilidades de forma más precisa y diseñar campañas de phishing más personalizadas, incrementando el potencial de daño.
Medidas de prevención
En respuesta a estas amenazas, OpenAI dijo que ha fortalecido sus protocolos de seguridad y ha creado equipos especializados en la detección y prevención de usos maliciosos de sus modelos. La empresa también está trabajando en colaboración con otras compañías tecnológicas y organizaciones gubernamentales para compartir información sobre amenazas emergentes y coordinar acciones preventivas. “La cooperación es esencial para anticipar riesgos y garantizar que nuestras herramientas se utilicen con fines positivos”, señaló OpenAI en el informe.
El documento destaca que la industria tecnológica debe adoptar una postura proactiva ante estos desafíos. “No es solo responsabilidad de OpenAI”, advierte el informe, instando a las otras empresas de inteligencia artificial generativa a implementar medidas de seguridad efectivas. Esto incluye la creación de algoritmos más robustos capaces de detectar y bloquear actividades maliciosas antes de que se conviertan en amenazas reales.
EL INFORME COMPLETO:
Últimas Noticias
Irán intensifica sus ataque contra la infraestructura energética del Golfo y provoca incendios en una refinería clave de Kuwait
Una nuevo bombardeo del régimen iraní registrado en la madrugada del viernes impactó en varias instalaciones de la refinería Mina Al Ahmadi. En paralelo, Arabia Saudita informó que sus fuerzas “interceptaron y destruyeron más de una docena de drones en el este del país y otro en el norte”
Rusia lanzó un ataque masivo con bombas aéreas contra Zaporizhzhia: al menos un muerto
El impacto de los recientes dos bombardeos nocturnos por parte de Moscú destruyó viviendas en una zona residencial, de acuerdo con autoridades locales
El dictador Kim Jong-un supervisó un ejercicio militar de gran escala en Pyongyang que incluyó la presentación de un nuevo tanque de combate
La puesta en escena del simulacro fue acompañada por unidades armadas, que ejecutaron maniobras de defensa contra amenazas aéreas, en un momento de creciente preocupación por la seguridad regional
León XIV respaldó un texto del papa Francisco sobre los divorciados que vuelven a casarse: “Un mensaje luminoso de esperanza”
La iniciativa impulsada por León XIV busca promover un intercambio entre las diferentes regiones eclesiales, ante los desafíos contemporáneos en torno al matrimonio y la familia, así como posibles actualizaciones de la normativa
El estrecho de Ormuz tiene una larga historia de perturbaciones
Esta no es la primera vez que el corredor marítimo entre Irán y Omán se utiliza como arma
