Google, OpenAI y Anthropic avanzan en la creación de un organismo privado para vigilar la seguridad de sus modelos de inteligencia artificial más avanzados, según reportó el medio The Information. La entidad se llamaría Standards Authority for Frontier AI (SAFA) y apunta a lanzarse a fines de 2026 o principios de 2027.
SAFA respaldaría pruebas de seguridad hechas por terceros antes del lanzamiento de cada modelo, fijaría reglas para informar incidentes de seguridad y definiría estándares para certificar auditores externos, según los planes citados por TechRepublic y GovInfoSecurity.
PUBLICIDAD
La idea nació de una propuesta que Demis Hassabis, cofundador de Google DeepMind y científico jefe de Alphabet, publicó en un ensayo el 14 de julio. Hassabis planteó un organismo inspirado en la FINRA, el regulador que supervisa a los corredores de bolsa en Wall Street bajo un esquema mixto entre la industria y el Estado.
Por qué el gobierno de Estados Unidos quedó afuera de esta alianza
El plan original de las tres empresas era distinto, ya que buscaban una asociación público-privada con supervisión federal. Esa vía se frenó después de que un borrador de orden ejecutiva de la Casa Blanca quedara en pausa, según GovInfoSecurity.
El gobierno de Donald Trump les pidió a las compañías alcanzar primero un consenso dentro de la propia industria antes de sumarse. Ese giro dejó a SAFA como un esquema de autorregulación pura, sin intervención directa de agencias federales.
PUBLICIDAD
Chris Lehane, director de asuntos globales de OpenAI, confirmó a mediados de septiembre que su compañía llevaba semanas conversando con Anthropic y Google DeepMind sobre la creación conjunta de un organismo de estándares de seguridad.
No es el primer intento del sector. En 2023, OpenAI, Google, Microsoft y Anthropic ya habían fundado el Frontier Model Forum, un foro que prometía investigación conjunta sobre seguridad pero que, según Winzheng, logró avances limitados en la práctica.
Quiénes podrían liderar el organismo para la seguridad de la IA
Las tres empresas se acercaron a Sriram Krishnan, exsocio general de la firma de capital de riesgo a16z y ex asesor de inteligencia artificial de la Casa Blanca, para ocupar la dirección ejecutiva de SAFA.
PUBLICIDAD
También evalúan a Arati Prabhakar, exdirectora de la Oficina de Política Científica y Tecnológica de la Casa Blanca, para ese mismo cargo, de acuerdo con GovInfoSecurity.
Para presidir el directorio suenan la excanciller de Estados Unidos Condoleezza Rice y el empresario e inversor David Friedberg. Como asesores científicos, las compañías sondearon a Beth Barnes, fundadora y directora del grupo de investigación METR, y a Paul Christiano, asesor del Centro de Estándares e Innovación en IA del Departamento de Comercio y flamante integrante del directorio de la fundación de OpenAI.
Cuáles son las dudas frente a la independencia del organismo
El propio diseño del organismo despierta objeciones. Si Google, OpenAI y Anthropic son al mismo tiempo quienes redactan las reglas y quienes serán evaluados por ellas, la independencia del esquema queda en entredicho, según planteó el análisis de Winzheng.
PUBLICIDAD
Otro punto abierto es si SAFA incluirá desde el inicio a laboratorios de código abierto y compañías más chicas, o si sus estándares terminarán fijando una vara que solo los tres gigantes fundadores pueden cumplir.
El contexto político acompaña el reclamo. El 23 de septiembre, los directores ejecutivos de OpenAI y Anthropic, Sam Altman y Dario Amodei, hablaron ante el Consejo de Seguridad de la ONU sobre riesgos de la inteligencia artificial, en la primera sesión de ese organismo dedicada específicamente al tema.
SAFA todavía no tiene estatuto legal ni mecanismos de cumplimiento definidos, y su lanzamiento formal sigue apuntado para fines de este año o comienzos de 2027.
PUBLICIDAD
PUBLICIDAD
PUBLICIDAD
Últimas Noticias
La CEO de Xbox, Asha Sharma, adelanta Wolfenstein 3: “Estoy deseando compartir más”
El anuncio se produjo pocos días después de que Bethesda confirmara que la próxima entrega de otra de sus sagas llevará el nombre de The Elder Scrolls VI: Sentinel
Nvidia dijo en privado a un congresista que sí puede rastrear sus chips, pese a que el sector lo negó
Según relató Bill Foster, en las conversaciones técnicas la reacción de los representantes de la compañía fue un “sí, claro que podemos hacerlo”
La tienda de juegos Humble Bundle eliminó la verificación en dos pasos al rediseñar su sitio
Usuarios también detectaron que se puede cambiar la contraseña sin escribir la anterior, mientras la compañía no explicó si fue un error ni si revertirá los cambios
Epic Games Store regala Knightica para PC: tienes hasta el 19 de noviembre de 2026 para reclamarlo
Este es un título de estrategia por turnos que combina elementos de roguelike y combates automáticos
Cómo evitar que un desconocido te llene el calendario del celular con falsas alertas de cobro
Google describe en su ayuda oficial que, con la opción “De todos”, todas las invitaciones se agregan automáticamente al calendario
