Así es el documento que firmaron Donald Trump y líderes tecnológicos para regular el avance de la IA

El presidente de Estados Unidos, Donald Trump, firmó un documento junto a los principales ejecutivos de las compañías de inteligencia artificial más importantes del mundo, durante una reunión en la Casa Blanca.

El texto, denominado “White House Accord on Super Intelligence” (Acuerdo de la Casa Blanca sobre Superinteligencia), establece un compromiso voluntario de autorregulación para las empresas que desarrollan modelos.

Trump describió el pacto ante los periodistas como “casi una especie de Constitución” y aseguró que las “personas más importantes del mundo lo firmaron” junto a él, en su carácter de presidente. Calificó el acuerdo como “moralmente vinculante”.

Qué establece el documento firmado

El acuerdo detalla cuatro capas de controles y auditorías que las empresas participantes se comprometen a implementar. La primera consiste en controles internos robustos para monitorear las capacidades de los modelos durante su entrenamiento y despliegue, en áreas como ciberseguridad, bioseguridad y amenazas químicas.

La segunda capa exige un equipo interno que garantice el funcionamiento correcto de esos controles. La tercera incorpora a un auditor externo independiente para evaluar si los mecanismos de monitoreo operan según lo previsto. La cuarta designa un comité independiente dentro del directorio de cada compañía, encargado de recibir los informes de los equipos internos y de los auditores externos.

El documento señala que, “con el tiempo, podría tener sentido convertir estos pasos en leyes y regulaciones”, aunque aclara que se trata de compromisos voluntarios mientras no exista una norma obligatoria.

Quiénes participaron y firmaron el pacto

El documento lleva la firma de Trump como presidente de Estados Unidos y de siete ejecutivos: Sundar Pichai, de Google; Dario Amodei, de Anthropic; Mark Zuckerberg, de Meta; Greg Brockman, presidente de OpenAI; Elon Musk, de xAI; y Jensen Huang, de Nvidia.

A la reunión también asistieron el fundador de Amazon, Jeff Bezos, el director ejecutivo de Microsoft, Satya Nadella, y el presidente de la Cámara de Representantes, Mike Johnson. Sam Altman, director ejecutivo de OpenAI, no estuvo presente porque participaba en la conferencia anual de desarrolladores de la compañía en San Francisco; en su lugar firmó Brockman.

Trump indicó que su administración evalúa formar un comité de unas 10 personas “para que pueda vigilar toda la iniciativa” y anunció que en los próximos días designará a alguien para supervisar el cumplimiento del acuerdo, tras consultar con la industria.

Durante la conferencia de prensa posterior al encuentro, Trump sostuvo que “las empresas se juegan mucho si algo sale mal” y que por eso “no lo permitirán”. Afirmó que el sector se “regulará entre sí”, en línea con declaraciones previas de Zuckerberg.

El mandatario reiteró que no frenará “el crecimiento de una tecnología que será más grande que la revolución industrial” y presentó un chatbot gubernamental llamado America.gov.

Las advertencias sobre los riesgos de la IA

Dario Amodei, uno de los firmantes, matizó el entusiasmo oficial. “La tecnología tiene riesgos muy reales”, dijo tras la reunión, y agregó que “el mecanismo, cómo abordamos esos riesgos, todavía está en discusión”. Amodei había abogado previamente por ralentizar el desarrollo de los modelos más potentes.

Horas antes del encuentro, se conoció que Anthropic advirtió, en el folleto de una futura salida a bolsa citado por la agencia Reuters, que sus modelos podrían representar un “riesgo catastrófico o existencial para la humanidad”.

Expertos consultados por medios estadounidenses cuestionaron la confianza depositada en la autorregulación. Robin Jia, profesor adjunto de ciencias de la computación en la Universidad del Sur de California, señaló que es necesario garantizar que las intenciones de los laboratorios de IA estén alineadas con el interés público, en un contexto de recientes incidentes de piratería informática vinculados a modelos de IA.

Alex Pascal, director ejecutivo del Berkman Klein Center for Internet and Society, sostuvo que “la única manera de reducir los riesgos y daños de la IA para los estadounidenses es mediante una sólida responsabilidad legal, regulación y un cambio fundamental en las dinámicas de competencia”.

Según una encuesta de CNN/SSRS difundida la semana previa al encuentro, alrededor del 75% de los estadounidenses observa con temor el crecimiento de la inteligencia artificial y el 71% quiere que el Gobierno federal aumente su regulación sobre el sector.