El fin del mundo tiene tu atención y la IA merece una discusión mejor

Si alguien te dice que una herramienta puede ayudarte a trabajar mejor, quizás lo escuchás. Si te dice que esa misma herramienta puede matarte, capta completamente tu atención.

Recientemente, Jacob Coxon anunció su renuncia a Anthropic, la empresa detrás de Claude. Había trabajado también en OpenAI y cuestionó la responsabilidad de ambas compañías. Dijo que quienes construyen estos sistemas creen que podrían matarnos a todos antes de que termine la década.

Hay una diferencia entre advertir sobre un riesgo y demostrar que algo va a suceder. Pero cuando lo que está en juego es nuestra existencia, ese matiz tiene pocas chances de sobrevivir al titular.

La catástrofe es un motor de conversión de atención.

Convierte a una persona que estaba pasando de largo o con la atención puesta en otra cosa en alguien que necesita saber más del tema. Toma ideas, miedos y símbolos del inconsciente colectivo y los transforma en relatos capaces de capturar la atención. Convierte la incertidumbre en urgencia, y puede convertir esa urgencia en una suscripción, una compra o apoyo a una decisión política.

En este caso toca algo muy profundo. Podés imaginarte cambiando de trabajo, perdiendo plata o teniendo que aprender de nuevo. Imaginar tu propia inexistencia es otra cosa. Se terminan tus proyectos, tus vínculos y tu existencia. El miedo entra por ahí.

Un estudio publicado en Nature Human Behaviour analizó más de 105.000 titulares. En los experimentos estudiados, agregar una palabra negativa a un titular promedio aumentaba un 2,3% la tasa de clics.

No hace falta suponer que Coxon está inventando su preocupación. Puede estar completamente convencido. Lo que digo es que una advertencia sincera también puede entrar en un circuito que premia su versión más alarmante.

Y cuando toda la conversación gira alrededor de nuestra desaparición, dejamos de mirar decisiones que ya están afectando nuestra vida.

Yo no creo que la IA esté destinada a convertirse en nuestro asesino. Es una creación humana. Surge del conocimiento que acumulamos y de decisiones sobre qué construir, cómo entrenarlo y qué permitirle hacer.

Que la hayamos creado nosotros no la vuelve inofensiva. También creamos tecnologías capaces de causar daños enormes. Un sistema puede hacer daño por una falla, por cómo se lo usa o por perseguir un objetivo mal definido. Ni siquiera necesita tener una intención parecida a la nuestra.

Pero tampoco hay motivo para asumir que una mayor capacidad implica, inevitablemente, una voluntad de exterminarnos. Me parece mucho más útil discutir qué autonomía damos, quién supervisa y quién responde cuando algo sale mal. Son decisiones sobre una tecnología que estamos construyendo. Todavía tenemos muchísimo para decidir.

La concentración de esa capacidad en pocas empresas sí me preocupa.

Si una misma compañía desarrolla el modelo, decide quién puede usarlo y define los límites de lo que permite hacer, tiene una influencia enorme sobre el trabajo de los demás.

Para una empresa argentina eso puede significar que una decisión tomada a miles de kilómetros cambie sus costos o le cierre el acceso a una herramienta central de su operación.

Incluso el argumento de la seguridad merece atención cuando se usa para justificar esa concentración. Si aceptamos que la tecnología es demasiado peligrosa para estar en manos de otros, podemos terminar dejando todas las decisiones en manos de quienes ya la controlan.

Creo que esa exclusividad va a perder fuerza a medida que las capacidades se vuelvan más accesibles. Hay antecedentes concretos. Las computadoras estuvieron durante años reservadas a gobiernos, universidades y grandes empresas. La caída de costos y la llegada de equipos más fáciles de usar las llevaron a hogares y pequeños negocios.

Con la IA ya vimos parte de ese proceso. El costo de usar un modelo con un rendimiento comparable al de GPT-3.5 cayó más de 280 veces entre noviembre de 2022 y octubre de 2024. Una capacidad que era cara se volvió mucho más accesible.

Eso no garantiza que desaparezcan los gigantes. El acceso puede ampliarse mientras el negocio sigue concentrado. Por eso hacen falta alternativas, investigación abierta, mayores competidores y posibilidades reales de cambiar de proveedor.

Ahí es donde veo el cambio más profundo. Estamos ampliando nuestra capacidad de investigar, de relacionar información y de probar caminos que antes quedaban afuera por falta de tiempo o recursos.

Para alguien que tiene un negocio, la escala es otra, pero la posibilidad es parecida. Poder analizar información que antes no llegaba a revisar. Probar una idea que siempre quedaba pendiente. Construir una herramienta que hasta hace poco estaba fuera de su presupuesto.

Mi expectativa es que aparezcan capacidades humanas que todavía no sabemos reconocer, porque nunca tuvimos las herramientas para desarrollarlas. Los descubrimientos actuales me dan motivos para pensar en esa dirección. No aseguran un futuro perfecto. Muestran que ya podemos hacer cosas que antes no podíamos.

Podemos exigir seguridad, discutir el poder de las empresas y al mismo tiempo querer que esta tecnología avance. De hecho, cuanto más puede aportar, más importa que podamos participar de sus beneficios y de las decisiones sobre su uso.

El miedo a dejar de existir como seres humanos consigue nuestra atención enseguida. Me interesa que también le demos lugar a lo que podemos llegar a ser con los avances que estamos logrando.

El autor es arquitecto de soluciones en IA