Un equipo de la Universidad de Toronto identificó una nueva clase de amenaza cibernética basada en inteligencia artificial que puede adaptarse al pasar de un dispositivo a otro, convertir cualquier equipo conectado en un objetivo potencial y reducir el costo de un ataque a casi cero, según el portal tecnológico TechXplore, sobre un estudio difundido en el servidor de prepublicaciones arXiv.
La investigación, realizada en un laboratorio digital cerrado al exterior, mostró que un gusano impulsado por modelos de IA abiertos puede tomar control de una red completa, apropiarse de capacidad de cómputo de las máquinas infectadas y usar esos recursos para continuar su expansión. El alcance de la amenaza abarca desde computadoras portátiles hasta sistemas de climatización y redes eléctricas, de acuerdo con Nicolas Papernot, autor del trabajo.
Papernot, profesor asociado de ingeniería informática en la Facultad de Ciencias Aplicadas e Ingeniería y de informática en la Facultad de Artes y Ciencias de la Universidad de Toronto, explicó que el equipo decidió divulgar los hallazgos después de revisar el estudio para eliminar cualquier información que pudiera ayudar a actores maliciosos. Antes de publicarlo, los autores compartieron sus resultados con organismos nacionales de ciencia, seguridad y defensa.
PUBLICIDAD
“Era imperativo para nosotros comprender esta amenaza en un entorno académico controlado antes de que actores maliciosos la descubrieran por su cuenta”, señaló el profesor. También sostuvo que publicar los resultados de forma temprana busca dar a investigadores, responsables políticos y al público tiempo para protegerse frente a una amenaza.
El gusano de IA que aprende y se propaga
El trabajo se centró en modelos de IA de “pesos abiertos”, que cualquier persona puede descargar y modificar de forma gratuita. Los investigadores quisieron poner a prueba la idea, extendida en parte de la comunidad de ciberseguridad, de que esos modelos más pequeños no tienen suficiente capacidad para causar daños reales.
Para hacerlo, construyeron una prueba de concepto en un sistema seguro y cerrado que simuló el comportamiento de un gusano de IA en una red de decenas de dispositivos interconectados, entre ellos portátiles, impresoras y cámaras.
PUBLICIDAD
A diferencia de un gusano tradicional, que sigue un guion fijo programado por humanos y fracasa si encuentra una defensa para la que no fue diseñado, el prototipo evaluó cada objetivo, adaptó su ataque y luego se copió en la siguiente máquina.
El estudio mostró que el gusano podía reunir información mientras avanzaba por la red: cada intrusión revelaba contraseñas y puntos débiles que facilitaban el acceso al siguiente equipo. Esa capacidad de ajuste hace que una sola defensa no baste para frenarlo.
Papernot explicó que el programa amplía su radio de acción a costa de las propias víctimas. Una vez instalado en una máquina, el gusano desvía potencia de procesamiento para sostener su razonamiento y preparar el siguiente ataque, lo que elimina en los hechos el costo de cada nueva infección.
PUBLICIDAD
“Los hackers normalmente han tenido que priorizar los objetivos de más alto valor porque el tiempo y los recursos computacionales eran limitados. Pero ahora, una vez que se lanza un gusano, el costo bajaría a casi cero”, detalló el profesor.
El gusano ataca más allá de los sistemas de IA
De acuerdo con el portal, la principal diferencia con trabajos anteriores es que este prototipo no se limita a propagarse a través de aplicaciones de inteligencia artificial, sino que puede operar fuera de esos sistemas y atacar el software subyacente. Eso amplía de forma directa el universo de dispositivos en riesgo.
“Cada dispositivo conectado a Internet, portátiles, cámaras, termostatos inteligentes y todo lo demás, se convierte en un objetivo potencial, aunque no sea por los datos que almacena, sí como punto de apoyo para atacar objetivos más valiosos”, indicó Papernot.
PUBLICIDAD
El prototipo no descubre vulnerabilidades desconocidas, a diferencia de modelos más potentes y fuertemente protegidos como Claude Mythos de Anthropic. Aun así, en un entorno abierto podría acceder a Internet, localizar avisos sobre fallas recién detectadas y explotarlas antes de que lleguen los parches de software.
El profesor señaló que parte del problema puede corregirse con actualizaciones, pero otra parte responde a errores humanos, como contraseñas débiles o configuraciones informáticas deficientes, que no se resuelven con un parche. Para él, eso significa que no hace falta la IA más avanzada para provocar daños.
Medidas concretas para reducir el riesgo
“En un mundo interconectado, ningún sistema es inmune a esta amenaza”, señaló Papernot. “Compartir estos hallazgos es el primer paso para movilizar a investigadores, líderes de la industria y responsables políticos para que actúen, y rápido”, agregó.
PUBLICIDAD
El profesor pidió a los profesionales de tecnología reforzar cualquier ajuste de seguridad que pueda dejar expuestos sus sistemas y sostuvo que los usuarios también deben intervenir. Sus recomendaciones fueron concretas: mantener los dispositivos actualizados, usar contraseñas robustas y activar la autenticación multifactor.
“No podemos seguir permitiéndonos pulsar ‘ignorar’ en las actualizaciones de software”, sostuvo. “Cada puerta que cierras es una vía menos de entrada, así que vale la pena dedicar unos minutos a reiniciar”, sumó.
Papernot afirmó que su laboratorio ya trabaja en contramedidas, y sostuvo que las soluciones requerirán más disponibilidad de modelos de IA de código abierto de todos los tamaños y más transparencia por parte de las empresas que desarrollan los sistemas más potentes.
PUBLICIDAD