Google pide un marco regulatorio global para prevenir desastres: “la IA exige políticas públicas”, Demis Hassabis

Demis Hassabis, presidente de Google DeepMind, el laboratorio de investigación y desarrollo de inteligencia artificial (IA) de Google, respaldó la advertencia de líderes del sector como Dario Amodei, director ejecutivo de Anthropic; Elon Musk, al frente de SpaceX; y Sam Altman, fundador de OpenAI, sobre los riesgos de acelerar el desarrollo de la IA sin controles.

La posición del científico británico coincide con la propuesta de Amodei de moderar el ritmo de mejora de las capacidades de los sistemas. “Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá rápido, y debemos aprovechar sabiamente el tiempo que ganamos”, sostuvo el jefe de Anthropic.

Para Hassabis, “el ensayo de Dario apunta al camino correcto a seguir. Aún quedan detalles por definir, pero la dirección es la adecuada para afrontar este momento crucial”.

Por qué el directivo de Google considera que este es un momento decisivo

Hassabis sostuvo que la humanidad atraviesa una etapa que puede redefinir su relación con la tecnología. Según su proyección, la llegada de la Inteligencia Artificial General (IAG), entendida como un sistema con capacidades cognitivas comparables a las del cerebro humano, podría producirse en un plazo cercano.

El directivo afirmó que las próximas décadas permitirán dimensionar este período como el inicio de una transformación de gran alcance. “Cuando miremos atrás en las próximas décadas, creo que nos daremos cuenta de que estábamos en los albores de la singularidad”, expresó.

Cuáles son los riesgos que preocupan a los líderes tecnológicos

Amodei señaló que el poder de los modelos actuales y futuros plantea amenazas que no pueden tratarse como efectos secundarios menores. “Al igual que muchas tecnologías anteriores, la IA conlleva riesgos, y debido a su gran poder, estos riesgos son graves”, afirmó el director ejecutivo de Anthropic.

El empresario enumeró la pérdida de control sobre sistemas de IA, el uso de estas herramientas en ciberataques y bioterrorismo, además de posibles trastornos económicos. Hassabis coincidió en que los avances de frontera ya abren desafíos para la ciberseguridad y pueden ampliar riesgos nucleares y biológicos.

A su juicio, esa posibilidad exige que los gobiernos y las empresas adopten decisiones antes de que los sistemas alcancen mayores niveles de autonomía.

Por qué el directivo de Google pide políticas que acompañen a la innovación

Hassabis describió una competencia comercial y geopolítica que acelera el desarrollo de modelos cada vez más capaces. Considera que esa dinámica puede impulsar beneficios científicos y económicos, pero puede llevar a que la capacidad técnica avance más rápido que el conocimiento sobre sus consecuencias.

“Nadie en el mundo sabe con certeza qué sucederá a partir de ahora, e incluso los expertos discrepan”, afirmó. Por esa razón, propuso políticas públicas que preserven la innovación, premien la responsabilidad de las compañías, refuercen la seguridad y promuevan la cooperación internacional.

Cómo funcionaría el organismo para controlar modelos de IA

La propuesta de Google contempla crear en Estados Unidos un organismo de normalización para la IA, con participación pública y privada. Podría adoptar la forma de una entidad supervisada por el gobierno federal o de una organización autorreguladora similar a la Autoridad Reguladora de la Industria Financiera, conocida como FINRA.

Ese organismo definiría parámetros para establecer qué modelos pertenecen a la categoría de frontera y coordinaría pruebas con agencias federales y laboratorios nacionales.

Las compañías que desarrollen esos sistemas deberían presentar fichas técnicas, reforzar su ciberseguridad, revisar la idoneidad de personal clave y asignar recursos a la investigación sobre seguridad.

Qué pruebas deberían superar los sistemas de IA antes de llegar al mercado

Hassabis propuso que los laboratorios compartan de forma voluntaria sus modelos con el organismo hasta 30 días antes de su lanzamiento. Luego de demostrar que el protocolo funciona, el proceso podría adquirir carácter obligatorio para permitir la implementación de modelos de frontera en el mercado estadounidense.

Las evaluaciones incluirían pruebas sobre capacidades de ciberseguridad, amenazas biológicas y otras áreas de alto riesgo. Deberían identificar intentos de evadir salvaguardas o comportamientos engañosos en sistemas con agentes autónomos. El esquema prevé revisiones periódicas de los parámetros y la participación de auditores externos.

La iniciativa estadounidense, según Hassabis, podría servir como base para estándares internacionales compartidos. El directivo planteó que, si la situación lo exigiera, los laboratorios de frontera deberían incluso coordinar una desaceleración de sus desarrollos para reducir riesgos antes de liberar modelos más potentes.