IA sin reglas: el riesgo de un nuevo far west digital

Llevo 27 años construyendo soluciones y, en éstos últimos cuatro, de inteligencia artificial para industrias reales en mercados globales. Durante ese tiempo participé en proyectos de transformación tecnológica para empresas de distintos tamaños y sectores. Y, si algo aprendí en ese recorrido, es que los desafíos más complejos rara vez son técnicos: los problemas verdaderamente difíciles aparecen cuando una decisión automatizada impacta sobre las personas y la sociedad en su conjunto.

¿Qué ocurre cuando un algoritmo discrimina sin que nadie lo advierta, o peor, que deliberadamente lo haga y no exista ley que lo obligue a ser imparcial? ¿Quién responde cuando un sistema genera daños económicos, sociales o reputacionales si no hay ley o regulación que lo ampare? ¿Qué mecanismos existen para reparar esos errores? Son preguntas incómodas, pero tan inevitables como necesarias. Y lo seguirán siendo, aunque decidamos ignorarlas.

Por eso, cuando leí la propuesta del presidente Javier Milei en Financial Times sobre la creación de corporaciones no humanas, sentí una preocupación inmediata. No porque el diagnóstico sea equivocado. De hecho, coincido en varios aspectos centrales. Argentina tiene una oportunidad extraordinaria en la economía de la inteligencia artificial: tenemos talento, capacidad emprendedora y una industria tecnológica que compite exitosamente a nivel global. También es cierto que muchas regulaciones fueron diseñadas para otro tiempo y necesitan actualizarse.

Sin embargo, una cosa es modernizar las instituciones y otra muy distinta es eliminar responsabilidades.

Javier Milei compara esta nueva figura jurídica con la aparición de las sociedades de responsabilidad limitada, una innovación que efectivamente transformó el capitalismo moderno. La analogía resulta atractiva. Pero hay un detalle fundamental que suele quedar fuera de esa comparación: las sociedades de responsabilidad limitada surgieron dentro de sistemas jurídicos capaces de establecer obligaciones, controles y mecanismos de reparación. No nacieron en un vacío regulatorio.

La responsabilidad limitada nunca significó ausencia de responsabilidad. Por eso me preocupa la idea de habilitar organizaciones autónomas donde la participación humana sea opcional. Si una inteligencia artificial puede administrar activos, tomar decisiones estratégicas, contratar personal o ejecutar operaciones complejas, la pregunta sigue siendo la misma: ¿quién responde cuando algo sale mal?

No se trata de una objeción filosófica o ideológica. Es una cuestión práctica. Si un sistema autónomo afecta la salud mental de adolescentes, discrimina a grupos vulnerables, provoca daños ambientales o perjudica a miles de usuarios para maximizar eficiencia, alguien debe hacerse cargo de las consecuencias. No alcanza con celebrar la innovación irresponsable y canchera de la moda del momento. También necesitamos garantizar mecanismos de responsabilidad. Esto no aplica a un partido político, a un país o a una región: el punto aquí es global.

Me resultó especialmente interesante la respuesta de Yuval Noah Harari, también publicada en Financial Times. Aunque proviene de una mirada distinta a la mía, identifica una preocupación muy similar. Harari advierte que otorgar personalidad jurídica a agentes de inteligencia artificial podría funcionar como una “llave maestra” para acceder a sistemas financieros, económicos e incluso políticos.

Más allá de la metáfora, el planteo apunta al mismo problema que observo desde mi experiencia profesional: estamos discutiendo cómo ampliar las capacidades de estos sistemas sin resolver antes quién responderá por sus decisiones.

Harari lleva el argumento un paso más allá y plantea algo que merece atención: las inteligencias artificiales no experimentan incentivos ni límites del mismo modo que los seres humanos. Un ejecutivo humano puede perseguir beneficios económicos, pero también teme sanciones personales, daños reputacionales o incluso la pérdida de su libertad. Una IA no comparte esas motivaciones.

La observación puede parecer teórica, pero tiene consecuencias muy concretas. Si una organización autónoma encuentra vacíos regulatorios o mecanismos para maximizar sus objetivos, ¿qué herramientas tendremos para corregir su conducta? ¿Cómo aplicaremos sanciones efectivas? ¿Qué ocurrirá cuando los incentivos tecnológicos entren en conflicto con los intereses de la sociedad?

Son interrogantes que todavía no tienen respuestas satisfactorias, o por lo menos para mí. Por eso creo que el debate está mal planteado cuando se presenta como una elección entre innovación o regulación. La historia demuestra exactamente lo contrario: ninguna revolución tecnológica exitosa prosperó únicamente gracias a la ausencia de reglas. Las transformaciones más duraderas fueron aquellas que lograron combinar creatividad, inversión y responsabilidad institucional. Ese es un avance sostenible, no un eslogan.

La confianza pública no aparece espontáneamente: se construye. Si Argentina quiere convertirse en un líder global en inteligencia artificial, debería hacerlo sobre tres principios básicos.

1. Responsabilidad trazable. Siempre debe existir una persona o entidad claramente identificable que responda por las consecuencias de un sistema autónomo.
2. Creación de espacios regulados para experimentar. La innovación necesita margen para probar, equivocarse y mejorar. Pero también necesita supervisión y límites claros.
3. Transparencia algorítmica mínima. Cuando una tecnología influye sobre decisiones vinculadas con salud, educación, empleo o crédito, debe existir la posibilidad de comprender cómo llegó a una determinada conclusión.

Estoy convencido de que Argentina puede desempeñar un papel relevante en la economía global de la inteligencia artificial: tenemos las condiciones para hacerlo. Pero el liderazgo tecnológico del siglo XXI no se medirá solamente por la velocidad con la que adoptemos nuevas herramientas. También se medirá por nuestra capacidad para garantizar que esos avances beneficien a las personas y fortalezcan las instituciones.

No necesitamos convertirnos en el país que menos regula. Necesitamos convertirnos en el país que mejor entiende cómo combinar innovación con responsabilidad. Ese sí sería un liderazgo verdaderamente histórico.

El autor es CEO y Founder de Santex