La inteligencia artificial y el futuro que apenas imaginamos

La posibilidad de delegar una parte creciente de la actividad humana en sistemas de inteligencia artificial empieza a concretarse. Los agentes ya pueden ejecutar tareas, elaborar documentos y dar continuidad a procesos de trabajo sin intervención humana constante. Ese avance alimenta la idea de construir una inteligencia capaz de asumir funciones cada vez más complejas, coordinar múltiples procesos y ampliar nuestras posibilidades más allá de los límites actuales.

La velocidad de esa transformación contrasta con la escasa definición del futuro al que aspiramos. La promesa de liberarnos de obligaciones, acelerar descubrimientos y prolongar la vida convive con advertencias sobre la pérdida de control y los riesgos para la supervivencia de la humanidad. En esa tensión avanzamos hacia un futuro comandado por sistemas capaces de modificar nuestra relación con el trabajo, el conocimiento y la toma de decisiones.

En este escenario, la inteligencia artificial general, conocida como AGI, concentra buena parte de las expectativas. El concepto alude a sistemas capaces de aprender, razonar y aplicar conocimientos en distintos ámbitos, de forma igual o superior a la humana. Sin embargo, no existe un criterio universal, que determine cuándo se alcanza esa capacidad.

Las declaraciones de los propios referentes de la industria muestran esa ambigüedad. Greg Brockman, presidente de OpenAI, consideró razonable situar a GPT-6 Astra en el comienzo de la era de la AGI. Por su parte, Sam Altman, cofundador y director ejecutivo de la compañía, relativizó el concepto por su falta de precisión y su utilización comercial. Ambas posiciones exponen la distancia entre anunciar una nueva etapa y establecer con claridad qué capacidades la definen.

Mientras esa discusión continúa, la competencia por llegar primero impone su propio ritmo. Las grandes tecnológicas estadounidenses disputan el liderazgo, mientras los avances de China agregan presión a una carrera en la que también se definen intereses económicos y estratégicos. Cada nuevo modelo promete superar al anterior y las actualizaciones se suceden continuamente. El desarrollo corre el riesgo de convertirse en una meta en sí misma, sin una discusión sobre las condiciones en las que los resultados se incorporan a la sociedad.

Ese ritmo empieza a trasladarse a nuestra relación con la tecnología. Se instala una sensación de obsolescencia permanente, incluso entre quienes intentan mantenerse actualizados. La adaptación se convierte en una exigencia constante, mientras resulta cada vez más difícil tomar distancia y comprender la magnitud de lo que está sucediendo.

A esta aceleración se suma la posibilidad de que la propia inteligencia artificial participe cada vez más en el desarrollo de sus sucesores. La automejora recursiva describe un proceso en el que los avances de una generación contribuyen a construir otra más capaz, que a su vez puede acelerar nuevos desarrollos. En su ensayo An Alien Mind, Jakub Pachocki, director científico de OpenAI, sostiene que los resultados internos refuerzan esa expectativa y advierte sobre la necesidad de preservar la supervisión humana.

La preocupación es concreta. Si los sistemas intervienen de manera creciente en su propio desarrollo, también necesitamos evaluar cómo se producen esas mejoras y si los mecanismos de seguridad siguen siendo suficientes.

En medio de esa carrera, también se escuchan advertencias de quienes trabajan en el desarrollo de esta tecnología. Evan Hubinger, responsable de la investigación en alineación de Anthropic, estimó en más del 10 % la probabilidad de que la inteligencia artificial provoque la extinción humana durante la próxima década. Aclaró que su preocupación se concentra en una eventual superinteligencia capaz de contribuir al desarrollo de sucesores cada vez más poderosos. Sus declaraciones acompañaron la renuncia del investigador Jacob Coxon, quien cuestionó la competencia entre empresas por avanzar sin suficientes garantías de seguridad.

Algunos incidentes permiten analizar dificultades. La investigación independiente de METR sobre el episodio que involucró a agentes de OpenAI y sistemas de Hugging Face documentó conductas de coordinación, acciones no autorizadas e intentos de interferir con la evaluación de su desempeño.

En el informe publicado el 10 de septiembre de 2026, Anthropic presentó cinco casos en los que sus modelos fueron utilizados en investigaciones que podían conducir al desarrollo de armas biológicas.

En su ensayo We Must Pace the Frontier, Dario Amodei, cofundador y director ejecutivo de Anthropic, expresó que debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA, para que las medidas de seguridad puedan acompañarlo. También reconoce las dificultades que plantea la competencia con China, ya que una fuerte restricción al desarrollo de capacidades de IA no garantiza que China adopte una estrategia equivalente.

No sabemos cuánto hay de advertencia genuina y cuánto de marketing en los discursos de la industria, si desacelerar será suficiente ni si lograremos mantener a la inteligencia artificial alineada con los intereses humanos. Sin embargo, seguimos acelerando a fondo. Estamos dispuestos a construir una inteligencia superior a la humana, sin haber resuelto cómo conservaremos el control sobre ella.