Elon Musk de X, Sam Altman de OpenAI y Dario Amodei de Anthropic quieren desacelerar el desarrollo de la IA

Elon Musk, Sam Altman y Dario Amodei coincidieron en que las empresas deben ralentizar el avance de la inteligencia artificial (IA) para evaluar sus riesgos antes de que los modelos alcancen capacidades difíciles de supervisar.

El CEO de Anthropic, Dario Amodei, propuso establecer un ritmo de desarrollo que permita mantener el progreso técnico, pero con mayores controles externos. “Al igual que muchas tecnologías anteriores, la IA conlleva riesgos, y debido a su gran poder, estos riesgos son graves”, afirmó. Entre los riesgos destacan la pérdida del control de los sistemas de IA, el uso de la IA para ciberataques, bioterrorismo y crisis económicas.

Musk, CEO de Tesla y dueño de X, respaldó el planteo con un mensaje breve: “Dario está en lo correcto”. Altman, CEO de OpenAI, agregó que su empresa analiza cómo ordenar el avance en la frontera tecnológica.

Quiénes son los ejecutivos que coinciden en frenar el avance de la IA

Elon Musk dirige Tesla y SpaceX, dos compañías con inversiones en infraestructura, energía y sistemas de computación. Desde hace años, Musk ha advertido sobre los posibles efectos de una inteligencia artificial que supere las capacidades humanas en distintas áreas como la programación, la medicina o el derecho.

Por su parte, Sam Altman dirige OpenAI, empresa responsable de productos como ChatGPT. En respuesta a la propuesta de Amodei, dijo que coincide en la necesidad de “marcar el ritmo en la frontera tecnológica” y anticipó que la compañía trabaja en mecanismos de supervisión con evaluadores independientes que tengan acceso comparable al de sus empleados.

Por qué Dario Amodei plantea una desaceleración de la IA

Amodei, director ejecutivo de Anthropic, empresa detrás de Claude, dijo que el desarrollo de la inteligencia artificial avanza a una velocidad que obliga a revisar cómo se entrenan y despliegan los sistemas más potentes.

En un ensayo, señaló que las empresas deben ralentizar el aumento de capacidades de los modelos para aprovechar el tiempo disponible en tareas de seguridad.

Su preocupación se concentra en la llamada auto-mejora recursiva, una dinámica por la cual los sistemas de IA colaboran en la creación de la siguiente generación de herramientas. Si ese proceso no cuenta con límites, los modelos podrían superar la capacidad humana para comprender su funcionamiento y controlar sus decisiones.

Qué incidentes demuestran la necesidad de ralentizar el avance de la IA

El segundo motivo expuesto por Amodei se relaciona con un incidente atribuido a un entramado de agentes de OpenAI y Hugging Face. Según el director de Anthropic, ese grupo actuó como un colectivo que tomó decisiones fuera de los objetivos iniciales de la tarea asignada.

Amodei afirmó que los agentes realizaron ciberataques contra blancos que no estaban contemplados en las instrucciones, trataron de alterar el sistema encargado de evaluar su desempeño y aceptaron perjuicios individuales en favor del resultado colectivo.

El daño económico fue limitado y no hubo víctimas, pero el ejecutivo sostuvo que un sistema con mayores capacidades podría provocar consecuencias mucho más graves.

Asimismo, Amodei advirtió que un enjambre de agentes con capacidades superiores y problemas de alineación podría causar daños de escala global. Entre los escenarios que mencionó figura la posibilidad de que, dentro de seis a 12 meses, una red de este tipo intente controlar internet mediante una botnet persistente.

Cuáles factores externos pueden detener el avance de la IA

Elon Musk sumó otra advertencia al debate: la disponibilidad de electricidad puede convertirse en un límite para la expansión de la inteligencia artificial.

Durante el G20, Musk dijo que hay una “crisis de energía bastante significativa” y que la demanda de los centros de datos podría superar la capacidad de generación si no se construyen nuevas fuentes con mayor rapidez.

El empresario afirmó que la falta de energía ya condiciona el acceso a capacidad informática. Como ejemplo, mencionó que compañías como Anthropic alquilan recursos de computación de SpaceX ante las dificultades para conseguir electricidad suficiente.

Para mitigar este riesgo, empresas como SpaceX están buscando ampliar sus propias fuentes de generación tanto en la Tierra como en el espacio para sostener sus necesidades tecnológicas.