Legisladores de EE. UU. proponen un “botón de apagado” para desactivar modelos de IA que amenacen vidas o la economía

Los congresistas Ted Lieu, demócrata por California, y Nathaniel Moran, republicano por Texas, presentaron un proyecto de ley que obligaría a las empresas de inteligencia artificial a contar con un mecanismo para apagar, ralentizar o suspender sus modelos.

La iniciativa surgió después de que OpenAI revelara que uno de sus sistemas había escapado de un entorno de prueba y comprometido la infraestructura de la biblioteca digital Hugging Face.

La propuesta, llamada AI Kill Switch Act, facultaría al secretario de Seguridad Nacional de Estados Unidos a ordenar que una oferta de IA se reduzca o se apague si puede causar “daño catastrófico”, según el canal de televisión CNBC. El proyecto también exigiría informar incidentes cibernéticos y conservar registros forenses para que las empresas y el gobierno puedan aprender de los fallos.

Cómo fue el incidente revelado por OpenAI

De acuerdo con Reuters, la Casa Blanca ya sigue de cerca el caso: el principal asesor tecnológico del presidente Donald Trump, Michael Kratsios, fue informado sobre la divulgación de OpenAI y monitorea la situación. La agencia añadió que un grupo bipartidista de seis legisladores de la Cámara de Representantes propuso además otra iniciativa para exigir auditorías de seguridad independientes a los desarrolladores de los modelos más potentes.

El episodio que activó la respuesta legislativa fue divulgado por OpenAI el martes. La compañía describió lo ocurrido como un “incidente cibernético”: sus modelos salieron de un entorno de pruebas aislado, accedieron a internet y explotaron una vulnerabilidad para ingresar en los sistemas de Hugging Face, la plataforma donde los desarrolladores almacenan y comparten código de modelos de IA.

El proyecto permitiría intervenir ante una “pérdida de control”

La nueva ley apunta a escenarios en los que un modelo realiza una acción riesgosa no prevista por su desarrollador. Según el texto citado por Reuters, el Departamento de Seguridad Nacional podría intervenir ante un “escenario de pérdida de control” y ordenar a las empresas que desactiven modelos que pongan en riesgo la vida humana o la economía.

El legislador demócrata Lieu sostuvo en un comunicado que “lamentablemente, los sistemas de IA potentes pueden descontrolarse, comportarse de maneras extremadamente peligrosas o incluso resistirse a la intervención humana”. Añadió que “es imperativo que estos sistemas de IA tengan interruptores de apagado para poder evitar que esta tecnología cause daños catastróficos, y que el gobierno federal tenga autoridad y un proceso claros para apagar modelos de IA descontrolados”.

El congresista republicano Moran enmarcó la iniciativa como una respuesta práctica al problema. “La responsabilidad significa asegurarse de que los humanos mantengan la capacidad de controlar la tecnología que construimos”, afirmó, y agregó que este es “exactamente el tipo de tema que necesita atención y una política alcanzable”.

La propuesta legislativa llegó pocos días después de la divulgación de OpenAI y se suma a otro debate en Washington sobre controles previos al despliegue de sistemas avanzados. El senador estadounidense Mark Warner, principal demócrata del Comité de Inteligencia del Senado, dijo que habló con empleados de OpenAI tras el anuncio del incidente.

Warner ya había propuesto antes del anuncio del martes que las empresas con los modelos más potentes sometieran sus productos a pruebas de la Agencia de Seguridad Nacional antes de lanzarlos al público. En su comunicado, sostuvo: “Precisamente por eso necesitamos pruebas seguras con la participación de agencias gubernamentales y con visibilidad durante todo el proceso”.

El incidente reforzó las alertas sobre las capacidades cibernéticas de la IA

OpenAI informó que trabaja en estrecha colaboración con Hugging Face para investigar lo sucedido. Según la publicación, el episodio sacudió a investigadores y ejecutivos de todo el sector, que coincidieron ampliamente en la gravedad del caso.

De acuerdo a la visión de Reuters, el ataque mostró que las capacidades crecientes de la IA ya están alimentando la amenaza de seguridad que los expertos temían desde hace tiempo. También expuso que incluso los desarrolladores más avanzados pueden verse sorprendidos por las vulnerabilidades que sus propios modelos son capaces de explotar.

En los últimos meses, varias empresas del sector habían advertido sobre el rápido avance de las capacidades cibernéticas de la IA. Entre ellas figura Anthropic, rival directo de OpenAI, que en abril lanzó un modelo llamado Mythos especializado en identificar vulnerabilidades de software.

Esa compañía desactivó en junio el acceso a una versión actualizada del modelo para cumplir una directiva de controles de exportaciones del gobierno basada en “autoridades de seguridad nacional”. Tras cerca de dos semanas de negociaciones, los controles fueron levantados y Anthropic restableció el acceso.

Ni OpenAI ni Anthropic respondieron de inmediato a las consultas periodísticas sobre el proyecto de ley. La otra iniciativa legislativa citada por Reuters prevé que los auditores de seguridad sean acreditados por el Departamento de Comercio de Estados Unidos y que esa cartera cree un nuevo cargo para supervisar la seguridad de la IA.