Los cibercriminales utilizan el modelo de lenguaje grande GPT, de OpenAI, para crear 'sotfware' malicioso con el apoyo de la inteligencia artificial (IA), pese a las limitaciones integradas por la compañía tecnológica, así como para crear y difundir contenidos en redes sociales.
OpenAI ha interrumpido más de 20 operaciones maliciosas y redes dedicadas al engaño que han intentado utilizar sus modelos. A ello se unen actividades como la redacción de publicaciones para redes sociales y depurar 'malware', y que la compañía recoge en la actualización del informe 'Influencia y operaciones cibernéticas'.
Con este análisis, OpenAI pretende comprender las distintas formas en que los actores maliciosos utilizan los modelos avanzados de IA con fines peligrosos, para anticiparse y planificar adecuadamente las medidas de aplicación de la ley.
En este contexto, y a fecha de octubre de 2024, la compañía ha comprobado que los cibercriminales usan los modelos de IA "para realizar tareas en una fase específica e intermedia de actividad", esto es, después de haber adquirido herramientas básicas como cuentas de redes sociales y correos electrónicos, pero antes de "desplegar productos acabados", como pueden ser las publicaciones de redes sociales y los programas maliciosos.
En cualquier caso, OpenAI indica que aunque los actores maliciosos usan sus modelos, no han detectado que este uso se haya traducido en importantes capacidades para explotar vulnerabilidades en el mundo real, esto es, que no ha derivado en "la creación sustancial de nuevo malware ni en la creación de audiencias virales".
Sí han detectado actividad engañosa en redes sociales que alcanza una audiencia de gran tamaño, pero en estos casos, matiza, "el interés fue un engaño sobre el uso de la IA, no el uso de la IA en sí".
Uno de los casos analizados es el de SweetSpect, un grupo de amenazas de origen chino que utilizó los modelos de OpenAI "para respaldar sus operaciones cibernéticas ofensivas y al mismo tiempo realizar ataques de phishing" que dirigió contra los empleados de la compañía tecnológica, haciéndose pasar por un usuario de ChatGPT que buscaba ayuda del sorporte técnico, para infectar sus equipos y controlarlos.
Por su parte, el actor iraní STORM-0817 utilizó los modelos de IA para depurar código y obtener asistencia en la programación de un nuevo 'malware' para Android todavía en desarrollo y "relativamente rudimentario", con capacidades estándar de vigilancia. También uso ChatGPT para implementar la infraestructura de comando y control.
OpenAI también ha asegurado que, en un año en que más de 2.000 millones de personas están llamadas a participar en procesos electorales en 50 países de todo el mundo, no han observado "ningún caso de operaciones de influencia relacionadas con las elecciones que atraigan participación viral o construyan audiencias sostenidas" con el uso de sus modelos de IA.
Últimas Noticias
Bolsonaro, en la UCI por una bronconeumonía
El exmandatario brasileño permanece bajo observación médica intensiva tras diagnosticarse una grave infección pulmonar, según un comunicado del hospital y de acuerdo con su equipo de defensa, que solicitó su traslado domiciliario por motivos humanitarios ante su frágil condición
El MICFootball bate récord con 464 equipos y más de 8.500 jugadores en la Costa Brava
Más de 8.500 deportistas provenientes de una cuarentena de países se darán cita en Girona para disputar 1.143 encuentros distribuidos en nueve categorías, entre ellas una femenina, en una cita internacional que promete superar expectativas
El Ibex 35 pierde los 17.100 puntos en la semana, con el petróleo en 101 dólares
El principal índice bursátil español sufre descensos consecutivos tras la escalada de precios del crudo vinculada al conflicto entre Estados Unidos e Irán, mientras los mercados globales muestran volatilidad y los inversores temen un impacto económico mayor
La mitad de españoles duerme menos horas de las recomendadas y carece de un sueño reparador
Especialistas advierten que más de la mitad de adultos en España descansa menos de lo necesario y casi la mitad no logra un reposo adecuado, lo que incrementa riesgos de enfermedades, accidentes y problemas de salud mental, especialmente en mujeres y jóvenes
Rusia compara la postura de la UE sobre su petróleo con un 'harakiri energético'
Responsables rusos critican la reticencia del bloque europeo frente a medidas estadounidenses que relajan sanciones al crudo proveniente de Moscú, mientras autoridades comunitarias insisten en que mantener restricciones es crucial para la seguridad y presión internacional
