La IA podría hacer que las fallas tecnológicas sean más comunes

Reportajes Especiales - Business

Imagen CR27YG7T4NCL3CRLTQ5JSQQUXQ
Guardar

Expertos en ciberseguridad dijeron que los próximos dos años podrían ser peligrosos, a medida que los modelos de IA encuentren errores de codificación que los humanos nunca detectaron.

A veces, sobre todo últimamente, puede parecer que el software informático está construido sobre un castillo de naipes.

PUBLICIDAD

Así es como se sintió el investigador de ciberseguridad Paulos Yibelo cuando descubrió una vulnerabilidad en un software de procesamiento de documentos e imágenes que es omnipresente en todo el internet. El error que encontró, llamado Upload2Shell, permitiría a un hacker infiltrarse en el software de Google, Zoom y potencialmente miles de otras empresas con solo subir un archivo.

Yibelo, quien fundó recientemente una empresa llamada PWN AI, descubrió el error al usar inteligencia artificial para investigar meticulosamente qué sucede tras bambalinas cuando las personas suben archivos a diferentes servicios. Encontró que Ghostscript, un software creado inicialmente hace 38 años para convertir imágenes a diferentes formatos, podía ser vulnerado al subir archivos que contuvieran una fuente personalizada para ejecutar código informático malicioso. Yibelo reportó la falla a Artifex, el desarrollador de Ghostscript, y a las empresas afectadas, las cuales emitieron parches.

PUBLICIDAD

El hallazgo de Yibelo, que no ha sido reportado previamente, es otro ejemplo de cómo la IA avanzada ha transformado de manera radical la ciberseguridad en cuestión de meses y ha sumido al mundo en un nuevo y desorientador capítulo digital en el que las interrupciones tecnológicas graves podrían volverse mucho más comunes de lo que eran en el pasado, según funcionarios actuales y exfuncionarios de inteligencia de Estados Unidos y Occidente, ingenieros de seguridad y expertos en IA.

Esas sacudidas ahora se han filtrado en la vida cotidiana de los estadounidenses, a medida que sus bandejas de entrada de correo electrónico dejan de funcionar y sus vuelos quedan suspendidos. Los rumores virales en las redes sociales han avivado la confusión y el miedo sobre una falla generalizada de internet que podría afectar los sistemas bancarios o la infraestructura crítica, incluso si los eventos recientes no estuvieron todos relacionados con la IA. Para la gente común es imposible distinguir entre un ataque malicioso --por ejemplo, ¿podría vaciarse un 401(k)?-- y un software que simplemente está desactualizado.

Durante las últimas dos semanas, una avalancha de fallas ralentizó las transacciones bancarias, afectó los productos de Microsoft, interrumpió los servicios de Apple, apagó un sistema clave en la Agencia de Seguridad Nacional y suspendió temporalmente todo el tráfico aéreo comercial en Estados Unidos.

Los funcionarios dijeron que no tenían evidencia de que esos episodios fueran causados por ciberataques maliciosos. En cambio, para varias de las fallas, aparte de la suspensión aérea nacional, los funcionarios estadounidenses apuntaron a una explicación más simple: las empresas y las agencias gubernamentales están fortaleciendo sus sistemas digitales contra nuevas vulnerabilidades, y estos parches de software están saliendo mal.

En algunos de esos episodios, incluido el de la Agencia de Seguridad Nacional, las vulnerabilidades en cuestión fueron detectadas con la ayuda de la IA, según funcionarios estadounidenses. Tanto las personas como las empresas están usando modelos de IA para detectar fácilmente errores informáticos que pasaban desapercibidos y, en algunos casos, desarrollar ataques de prueba de concepto en días o incluso horas algo que antes le habría tomado meses a decenas de equipos de élite.

Al mismo tiempo, los temores de que los malos actores también estén usando la IA para trabajar con la misma rapidez han hecho que los defensores sientan que necesitan correr para implementar soluciones, lo que puede resultar en actualizaciones más desprolijas que ocasionan interrupciones.

Los eventos del mes pasado se consideraron tan alarmantes que algunos agoreros de la ciberseguridad (y especialistas en marketing en busca de oportunidades) comenzaron a referirse al mes como "octubre negro". La etiqueta transmitía la sensación de que el mundo parecía estar sufriendo una cascada interminable de vulnerabilidades de software impulsadas por la IA que dejaban a los defensores superados en número y exhaustos.

El pesimismo ha sido aún peor este mes, lo que pone todavía más nervioso a un público ya ansioso por el rápido ritmo de aceleración de la tecnología.

Es poco probable que sea un contratiempo momentáneo.

Las estimaciones varían, pero los expertos en ciberseguridad dijeron que el próximo año o dos podrían ser especialmente peligrosos, a medida que los modelos avanzados de IA encuentren errores de codificación que los humanos nunca detectaron antes, incluso si muchos ataques maliciosos siguen siendo más mundanos. Algunos esperan que después de ese doloroso período de transición el internet alcance un equilibrio a medida que la IA ayude a reescribir el código informático vulnerable. Otros tienen la visión más pesimista de que la IA representa una amenaza interminable para la tecnología interconectada sobre la cual operan la vida moderna y la economía global.

La semana pasada es "la nueva normalidad", dijo el general retirado Paul Nakasone, exjefe de la NSA y del Cibercomando de Estados Unidos, en una conferencia celebrada en Washington por el Instituto de Seguridad Nacional de la Universidad de Vanderbilt .

"Las industrias y las agencias están tratando de modernizarse rápidamente y al mismo tiempo defenderse", dijo Nakasone. "La IA está impulsando todo esto: las oportunidades y los desafíos".

Nakasone, quien es miembro de la junta directiva de OpenAI, describió a la IA como "la tecnología más disruptiva" de la historia, la cual tendría profundas consecuencias no solo para el mundo digital sino también para el resto de la sociedad. "Estamos en una era en la que tenemos que pensar de manera diferente sobre cómo vamos a ser más resilientes".

'Conduciendo hasta que se caigan las ruedas'

A Mark Zuckerberg, el director ejecutivo de Meta, se le atribuye haber popularizado el lema de Silicon Valley: "muévete rápido y rompe cosas". Una evaluación más honesta del internet podría ser que estuvo roto desde el principio, y se movió demasiado rápido como para poder arreglarlo.

El auge de la industria tecnológica se ha caracterizado por una competencia feroz, ya que las empresas se disputaban el mercado para llevar sus productos a los consumidores lo más rápido posible, mientras que la seguridad --que puede crear fricción y retrasar el proceso-- a menudo quedaba en segundo plano. Las deficiencias en el código apresurado se acumulan con el tiempo, un concepto conocido como deuda técnica. El enfoque en el rápido desarrollo de productos ha dejado a muchos productos tecnológicos plagados de agujeros de seguridad ocultos que, al menos históricamente, solo unos pocos hackers decididos podrían encontrar y explotar.

"La cantidad de deuda técnica que la mayoría de las empresas permitirán y con la que vivirán es imperdonable", dijo Juan Andrés Guerrero-Saade, un investigador distinguido de seguridad e IA en la firma de ciberseguridad SentinelOne. "La gente ha estado conduciendo hasta que se caigan las ruedas cuando se trata de tecnología. Siempre hay dinero para los lanzamientos, y no hay para el mantenimiento".

La IA ha transformado el campo de juego, haciendo que sea mucho más fácil encontrar las fallas en el software popular. Los nuevos modelos de IA enfocados en el ámbito cibernético que pueden descubrir vulnerabilidades han llevado a algunos cazadores de errores a un frenesí mientras compiten por encontrar formas novedosas de infiltrarse en los sistemas. Las empresas también se han sumado, usando la IA para bombardear su propia infraestructura y encontrar errores antes de que los hackers puedan hacerlo.

"Básicamente, estás tomando las bases de código frágiles y estás sacudiéndolas", dijo Guerrero-Saade.

Incluso la NSA, que se especializa en hackeo y ciberdefensa, no es inmune. Tuvo una falla de red clasificada de varios días esta semana porque instaló actualizaciones defectuosas que buscaban abordar fallas en el lenguaje de programación PHP que fueron descubiertas por investigadores que usan IA, dijeron los funcionarios.

Esta semana, Maria Cantwell, senadora por Washington y la demócrata de mayor rango en el comité de comercio, y el senador Mike Rounds de Dakota del Sur, el presidente republicano de un subcomité de ciberseguridad, escribieron una carta a la Casa Blanca donde advierten que las ciberamenazas habilitadas por la IA estaban superando a los sistemas de defensa de Estados Unidos.

"La IA está aumentando rápidamente la capacidad de descubrir y explotar debilidades en el software, y nuestras defensas no están manteniendo el ritmo", escribieron los senadores a Jay Clayton, el director de inteligencia nacional, quien también lidera el grupo de trabajo de superinteligencia de la Casa Blanca. "No podemos enfrentar estas amenazas con la infraestructura de ciberseguridad del pasado ni depender de empresas individuales para resolver un problema que abarca toda la economía digital".

Un gran auge de errores

Datos recientes muestran cuán dramáticamente la IA está transformando el ecosistema de la ciberseguridad. Microsoft lanzó más de 1400 parches para sus diversos productos el mes pasado, una tasa aproximadamente 10 veces mayor que su línea base histórica. El recuento eclipsó el récord anterior de casi 1000 establecido solo un mes antes, en septiembre.

A los expertos les preocupa que haya menos humanos calificados disponibles para clasificar la explosión de errores. Las principales empresas tecnológicas han realizado despidos masivos este año, en parte porque han buscado reemplazar a los trabajadores con IA, lo que las dejó sin conocimiento institucional sobre cómo se escribió su código antiguo.

Nuevos datos de contratación publicados esta semana por LinkedIn y revisados por The New York Times mostraron que, a pesar del aumento en los incidentes de ciberseguridad y de que se detectaron más errores que nunca, la contratación en ciberseguridad en Estados Unidos ha tenido un desempeño inferior en relación con la contratación general.

Lea Kissner, la directora de seguridad de la información en LinkedIn, dijo que los desafíos actuales de ciberseguridad significaban que las empresas necesitaban humanos con experiencia más que nunca.

"Nadie sabe la mejor manera de hacer seguridad en este momento, porque todo está cambiando muy rápido", dijo Kissner. "Así que necesitas desesperadamente personas que entiendan cómo funcionan las cosas, y tengan curiosidad, y sepan cómo resolver problemas".

A pesar del diluvio de errores expuestos por la IA, algunas cosas no han cambiado. La mayoría de los ciberataques importantes recientes han demostrado que los hackers no necesitan la IA, o solo la usan al margen, para lograr sus objetivos.

El ataque de Irán a decenas de sistemas municipales de agua en Estados Unidos este verano se basó en gran medida en tácticas rudimentarias que aprovecharon contraseñas débiles o predeterminadas en las computadoras que controlan las operaciones. El ataque cibernético de un grupo criminal a los archivos confidenciales del personal del FBI se basó en un software de Oracle sin parchear que había estado disponible durante meses. Y los ataques recientes a los sistemas de refrigeración en Europa también parecen ser relativamente poco sofisticados.

De los 1400 errores identificados el mes pasado por Microsoft, solo uno era algo que ya había sido convertido en un arma por los hackers, como observó el periodista de seguridad Brian Krebs. La brecha refleja que, a pesar de todo el miedo en torno a la IA, la mayoría de los ciberataques todavía están arraigados en personas que no abordan problemas básicos y de larga data o no parchean errores conocidos.

Michael Yeh, el vicepresidente de seguridad y confianza del cliente de Microsoft, dijo en una entrevista reciente que durante el último año, los cinco errores principales que Microsoft observó que los hackers estaban aprovechando, eran vulnerabilidades para las que ya se habían publicado parches hace entre tres y seis años.

"Ninguno de esos son ataques impulsados por la IA", dijo Yeh. "Estas son personas explotando vulnerabilidades heredadas existentes" que pueden tener décadas de antigüedad. La falta de atención a problemas antiguos seguía siendo una amenaza mayor hoy en día que la IA, dijo Yeh. "Y por eso creo que tienen que poner mucha atención al respecto".

'Tecnología que está en llamas'

Algunos expertos en seguridad creen que la IA está marcando el comienzo de una era de sistemas en línea más resilientes. Predicen un futuro en el que la IA haya erradicado la deuda técnica y los sistemas sean mucho más seguros. Pero otros creen que el ciclo de búsqueda de errores y parcheo continuará sin fin, a medida que los sistemas de IA mejoren y encuentren fallas más complejas.

Rob Joyce, el ex alto funcionario de ciberseguridad en la NSA, dijo que la IA no estaba "inventando formas completamente nuevas de ataques cibernéticos", sino que estaba aplicando más presión sobre la necesidad de solucionar los problemas existentes, al tiempo que ofrecía un posible camino a seguir.

Hablando el viernes en Cyberwarcon, una reunión anual de expertos en seguridad en las afueras de Washington, DC, Joyce comparó la situación actual con un incendio forestal.

"Toda esa tecnología que está en llamas y se va a quemar, y del otro lado, todas las pequeñas cosas que están abajo en el suelo del bosque, van a crecer", dijo Joyce durante un discurso principal de la conferencia. "Van a ser más fuertes. Van a ser más capaces. Pero tenemos que vivir esta era en la que las cosas están en llamas".

Yibelo, el investigador de PWN AI, dijo que era escéptico de que hubiera un camino más sencillo por delante porque los modelos más nuevos y fuertes seguirían siendo capaces de encontrar nuevas fallas, incluso potencialmente en código escrito en su totalidad por generaciones anteriores de IA.

"No sé por qué habría un fin para los errores", dijo Yibelo. "Tal vez siempre será un juego del gato y el ratón".

Dustin Volz escribe sobre ciberseguridad e inteligencia para el Times. Radica en Washington.

Kate Conger es reportera de tecnología en San Francisco. Se le puede contactar en kate.conger@nytimes.com.

Dylan Freedman es el editor de proyectos de inteligencia artificial del Times, e investiga diversos temas. Tiene experiencia como reportero y como ingeniero de aprendizaje automático.

Sheera Frenkel es una periodista que vive en el Área de la Bahía de San Francisco y cubre defensa y tecnología de vigilancia.

PUBLICIDAD

PUBLICIDAD