“La gran mentira” de la IA

El sábado 7 de noviembre, el divulgador español Gustavo Entrala publicó una entrevista con Gary Marcus, profesor emérito de la Universidad de Nueva York y crítico insistente de la inteligencia artificial (IA). Su denuncia fue directa: ya nadie se limita a agrandar los modelos de lenguaje, “pero la imagen que dan al público es que sí, y es falso”. ¿Es la gran mentira de la IA o, por fin, una buena idea?

De qué acusa Marcus a las empresas

Marcus sostiene desde hace más de veinte años que las redes neuronales (la base de ChatGPT) no alcanzan solas. En marzo de 2022 publicó en la revista Nautilus “El aprendizaje profundo está chocando contra un muro”, donde proponía una IA híbrida: “no el aprendizaje profundo solo (ni los símbolos solos)”.

Eso, afirma, ocurre desde fines de 2023: las empresas rodean sus modelos con programación tradicional. “Ahora todos lo hacen, pero nadie quiere admitirlo”. Da dos motivos: el ego de quienes apostaron todo a las redes, y la plata, porque “es más fácil captar dinero con una historia sencilla”.

Esa historia sencilla existe. Dario Amodei, director ejecutivo de Anthropic, la resumió en febrero en el podcast de Dwarkesh Patel al repasar una hipótesis suya de 2017: el ingenio y los métodos nuevos “no importan demasiado”. Pesan más el poder de cómputo, los datos y cuánto se entrena.

Qué es el arnés y qué reveló Claude Code

Como expliqué en una columna anterior, en forma muy simplificada, un modelo de IA es como un experto encerrado en una habitación que solo pasa papelitos bajo la puerta. El arnés (harness) es el programa que está del otro lado: lee cada papelito, hace el trámite y define qué información le llega. Juntos, ambos elementos forman un agente.

Desde febrero, diseñar esa capa externa tiene nombre en la industria: ingeniería de arneses. A ese cambio de foco, del modelo a lo que lo rodea, le llaman el giro al arnés.

El martes 31 de marzo se vio uno por dentro. Por error humano, según Anthropic, se publicó el código de Claude Code, su asistente de programación: más de 500.000 líneas en unos 1.900 archivos. No era el modelo, sino su envoltorio, su arnés.

Un estudio de las universidades MBZUAI (Abu Dabi) y UCL (Londres) estimó que el 98,4% de ese código es infraestructura alrededor de un ciclo simple: el modelo pide algo, el programa lo ejecuta y vuelta a empezar.

Por qué Marcus lo llama IA neurosimbólica

Porque une dos tradiciones enfrentadas desde 1956, cuando la reunión de Dartmouth bautizó a la IA. Una buscaba escribir a mano las reglas del razonamiento: la IA simbólica, que según Marcus “es, en realidad, programación informática”. La otra apostaba a redes de neuronas artificiales que aprendieran solas de ejemplos.

En los años 80 dominó la IA simbólica, con los sistemas expertos: programas que volcaban en reglas el saber de un especialista y llegaron a ahorrarle decenas de millones de dólares anuales a un fabricante de computadoras. Después cayeron: exigían cargar todo regla por regla, no aprendían y se rompían ante lo imprevisto.

Las redes de neuronas artificiales tienen la virtud y el defecto opuestos. Aprenden solas de enormes volúmenes de datos y se adaptan a casi cualquier pedido, pero calculan lo verosímil, no lo verdadero: por eso inventan.

Lo neurosimbólico combina ambos mundos: una red neuronal adentro y reglas alrededor. Antes, los sistemas expertos encerraban en reglas el saber del especialista. Hoy ese saber lo aporta el modelo, y el arnés, sin entender del tema, maneja permisos, herramientas y memoria.

Qué se corrigió con reglas fuera del modelo

Quienes armamos estos sistemas para empresas lo vivimos de cerca. Hasta 2025 escribíamos reglas para cada caso y usábamos el modelo apenas para redactar o extraer un dato: si lo dejábamos solo diez pasos seguidos dentro de un loop, se perdía.

Fallaba de tres maneras conocidas: daba la tarea por terminada sin comprobar nada, en trabajos largos olvidaba lo del medio y cortaba camino, y tropezaba con errores de las herramientas sin recuperarse.

Las tres mejoraron (aunque ninguna desapareció del todo), y no solo por modelos más grandes. Hoy el arnés hace comprobaciones antes de aceptar un “listo”, guarda notas afuera y reparte subtareas entre copias del modelo con memoria limpia.

OpenAI mostró un ejemplo claro en agosto de 2024: quería que su modelo respondiera siempre con formato exacto, como una ficha de campos fijos. Solo entrenándolo alcanzó el 93% en su prueba. El 100% llegó recién al sumar una regla de programación que impide salirse del molde.

Pensá en un asistente de devoluciones. Si le pedís “nunca reembolses más de 500 dólares”, no siempre va a cumplir. Pero podés fijar ese tope en el programa que ejecuta el pago. El modelo puede saltearse un prompt; no puede saltearse una condición escrita fuera de él.

El mismo modelo, dos notas distintas

La fundación ARC Prize, como conté en octubre, evalúa modelos con ARC-AGI-3, una prueba de juegos que nunca vieron. Desde septiembre usa dos mediciones: un arnés mínimo, igual para todos, y otro adaptado a las funciones de memoria que cada empresa diseñó para su modelo.

En la ficha de Claude Fable 5.2 (Anthropic), del lunes 9 de noviembre, el modelo saca 79,3% con el arnés mínimo y 97,7% con el adaptado. En la de Gemini 4 Carbon (Google), del martes 10, pasa de 63,9% a 99,1%. Mismo modelo, mismo nivel de esfuerzo, mismos 55 juegos, mismo evaluador.

Pero el arnés no hace milagros con un modelo flojo. Cuando ARC-AGI-3 salió en marzo, hasta los modelos más avanzados fracasaban casi por completo: el mejor puntaje era 0,5%. Ocho meses después, en noviembre, esa marca trepó a 81,2% con ese mismo arnés mínimo, sin ayudas extra. Ese salto lo dieron los modelos solos.

Las dos cosas pesan; el relato público suele contar una sola.

Entonces, ¿mentira o buena idea?

Como ocultamiento, la acusación de Marcus no se sostiene. OpenAI publicó en febrero un artículo sobre “ingeniería de arneses”, Anthropic tiene varios, y Amazon y Google DeepMind hablan en público de IA “neurosimbólica”. El matiz es más fino: es verdad que, en los textos de OpenAI y Anthropic que revisé, “simbólico” no aparece ni una vez. Pero lo llaman ingeniería de software.

También conviene escuchar a quienes arman los arneses. Boris Cherny, creador de Claude Code, contó en julio que con cada modelo nuevo borran instrucciones y código innecesarios. Salvo la interfaz visual, dijo, casi todo lo que queda es seguridad, permisos y controles automáticos del código: las reglas duras.

Marcus replica que esos agregados son “parches” sin forma eficaz de aplicarlos y que “tenemos que empezar de cero”. En esa duda no está solo: en una encuesta a 475 especialistas de la Asociación para el Avance de la IA (marzo de 2025), el 76% consideró improbable llegar a una inteligencia general escalando los enfoques actuales.

Mi lectura, discutible, es que no hay una gran mentira sino una media verdad cómoda. La historia que junta plata y titulares dice que la IA mejora porque crece en tamaño. La que explica por qué hoy termina bien una tarea larga es menos épica: una red neuronal que propone y un programa que controla. Dos tradiciones peleadas durante setenta años ahora trabajan juntas.

Para quienes usamos IA al trabajar, es una buena noticia: parte de lo que falla no se arregla esperando el próximo modelo, sino con reglas bien puestas.

Antes de confiarle una tarea a una IA que actúa sola, conviene hacerse tres preguntas. ¿Con qué arnés se midió el resultado que te muestran? ¿Las reglas innegociables están en el prompt (el pedido en texto) o en el programa (como regla dura en código)? ¿Quién comprueba el resultado antes de darlo por bueno?

Si la respuesta a la segunda es “en el prompt”, estamos apostando a que el modelo las cumpla siempre, cuando por diseño trabaja con probabilidades y no con certezas. Y si nadie sabe contestar la primera, recordá que en noviembre el mismo modelo sacó 63,9% y 99,1%.