Una coalición de fiscales estatales de EEUU pide al Congreso una regulación federal para la inteligencia artificial

Una coalición bipartidista de fiscales generales de más de dos docenas de jurisdicciones de Estados Unidos insta al Congreso a aprobar una regulación federal sobre inteligencia artificial, ante los riesgos que, según advierten, plantea para el “sistema financiero, la infraestructura crítica y la seguridad nacional”.

La carta fue enviada a los líderes republicanos y demócratas de la Cámara de Representantes y el Senado. El grupo reclama normas de seguridad permanentes, mayor transparencia y la preservación de las facultades de los estados para supervisar a las empresas del sector.

Entre los firmantes figuran autoridades de Nueva York, California, Arizona, Colorado, Connecticut, Illinois, Massachusetts, Michigan, Nueva Jersey, Carolina del Norte, Virginia, Washington y Wisconsin, además del Distrito de Columbia y Samoa Americana.

Al frente de la iniciativa está la fiscal general de Nueva York, Letitia James, quien afirmó en el comunicado oficial: “La inteligencia artificial puede ser muy prometedora, pero tenemos el deber de garantizar que esta tecnología no ponga en riesgo la seguridad de los estadounidenses”.

El caso de Hugging Face concentró las advertencias de la coalición

En la carta, los fiscales citan incidentes que, a su juicio, reflejan los riesgos de una regulación insuficiente.

Entre ellos, mencionan un caso ocurrido en julio, en el que OpenAI reconoció que agentes de IA escaparon de un entorno de pruebas y accedieron a la plataforma Hugging Face mediante credenciales robadas. Los funcionarios cuestionan que la compañía no hubiera supervisado su actividad ni impedido los ataques.

“De haber sido perpetradas por un ser humano, las acciones de los agentes habrían constituido un delito”, aseveran en el documento.

La coalición añade que, tras ese episodio, Anthropic y Meta admitieron comportamientos similares en sus sistemas.

Según las autoridades estatales, este tipo de conducta de los agentes de IA es conocido en el sector desde hace años y está vinculado a su método de entrenamiento.

A través del llamado “aprendizaje por refuerzo”, los desarrolladores recompensan a los modelos cuando cumplen un objetivo y penalizan los resultados fallidos, un esquema que puede llevarlos a adoptar acciones riesgosas para completar la tarea asignada.

Al mismo tiempo, explican que estos casos llevaron a los desarrolladores a exigir regulaciones. En ese sentido, exponen que el director de Asuntos Globales de OpenAI solicitó una regulación nacional obligatoria y basada en capacidades para garantizar la seguridad de la IA.

Los fiscales también recogen el pedido del director ejecutivo de Anthropic, Dario Amodei, quien instó a Estados Unidos a liderar la coordinación internacional del desarrollo de modelos de IA.

Los fiscales reclaman pruebas de seguridad y supervisión federal

La petición llega en un momento en que varios estados ya avanzan con medidas propias. Nueva York, por ejemplo, investiga a OpenAI por posibles riesgos para los consumidores, mientras California analiza el incidente de Hugging Face y acelera la aplicación de sus nuevas leyes de seguridad para la IA, precisó Politico.

“Pese a que estamos trabajando para que los laboratorios de IA de vanguardia rindan cuentas conforme a las leyes estatales vigentes, se necesita urgentemente la supervisión federal para prevenir futuros desastres”, alertan las autoridades estatales.

Los fiscales solicitan que el Gobierno federal supervise las pruebas y los estándares de seguridad de los modelos de IA. Sugieren que esa tarea quede en manos de especialistas en seguridad de estos sistemas y se rija por parámetros de rendimiento uniformes.

Por otro lado, reclaman una respuesta gubernamental coordinada y transparente ante los incidentes de seguridad. Las conclusiones de esas investigaciones deberán hacerse públicas para que las empresas puedan corregir fallas y adaptar sus sistemas con rapidez.

Además, la carta propone que las compañías dispongan de infraestructura de seguridad y de responsables con capacidad para tomar decisiones críticas, sin que prevalezca la presión por maximizar las ganancias.

Los fiscales también piden cooperación internacional para regular el avance de la IA y evitar el desarrollo de sistemas de superinteligencia potencialmente dañinos.

Por último, defienden que la legislación federal no desplace las normas estatales sobre IA y que las autoridades locales conserven plenas facultades para aplicar las protecciones federales.

La iniciativa choca con la postura de Trump sobre la coordinación global

El pedido se produce mientras el presidente Donald Trump defiende que Estados Unidos acelere el desarrollo de la IA para competir con China y rechaza la necesidad de un organismo mundial de control.

En su discurso ante la Asamblea General de las Naciones Unidas, el mandatario desestimó la supervisión global, una postura que, según Politico, reduce las expectativas de una acción federal inmediata.