La iniciativa del gobierno para habilitar sociedades completamente automatizadas, sin ningún humano como responsable legal, desató una controversia que trascendió los límites locales y se instaló en la agenda internacional.
El proyecto, impulsado por la administración de Javier Milei y presentado como una apuesta para atraer inversiones en tecnología e inteligencia artificial, generó críticas por parte de referentes globales como el historiador Yuval Noah Harari, quien advirtió que la reforma permitiría a las IA operar como empresas tradicionales, pero sin exposición de individuos a consecuencias legales.
En ese contexto, Javier Pallero, analista de políticas digitales, brindó una mirada técnica y ética sobre el alcance de la reforma y sus implicancias para el sistema jurídico y económico argentino. En dialogo con Infobae a la Tarde, resaltó la necesidad de mantener controles humanos en cualquier sociedad que opere con inteligencia artificial.
PUBLICIDAD
El modelo de sociedades automatizadas y los límites internacionales
La reforma oficial se basa en el modelo de las organizaciones autónomas descentralizadas (DAO), estructuras que funcionan en blockchain a través de contratos inteligentes autoejecutables.
Pallero explicó que estas organizaciones pueden tomar decisiones y operar en tiempo real sin intervención humana directa, pero subrayó que “no existe en el mundo una sociedad con figura societaria que funcione completamente sin humanos y con facultad de operar en el sistema financiero tradicional”.
El analista puntualizó que, si bien las DAOs abrieron nuevas posibilidades en el universo digital, su trasplante al derecho societario tradicional plantea desafíos inéditos.
Pallero remarcó la diferencia entre automatización y ausencia total de responsabilidad: “El mayor riesgo es que la responsabilidad quede limitada solo al patrimonio de la entidad y no alcance a una persona física que responda penalmente”.
PUBLICIDAD
La responsabilidad legal y el impacto en la confianza pública
Pallero hizo foco en el problema central del proyecto: la ausencia de responsables humanos ante eventuales delitos o fraudes. Explicó que “no es lo mismo tener responsabilidad limitada que poder ir preso por una posible estafa. Si con una sociedad de ese tipo se comete una estafa, respondería el patrimonio de la entidad, pero nadie responde con el propio cuerpo”.
Para el especialista, esa diferencia establece un abismo entre sistemas con consecuencias reales y esquemas que funcionan en un vacío legal.
El entrevistado advirtió que la automatización radical puede facilitar delitos difíciles de rastrear y dejar a los damnificados sin protección jurídica efectiva. “La gente no se siente cómoda si no hay una persona responsable atrás. Siempre hay alguien moviendo las palancas, alguien que le da instrucciones a estos sistemas y se beneficia. Eliminar la responsabilidad humana es quitarle controles a quienes realmente dirigen la inteligencia artificial”.
PUBLICIDAD
El problema de la caja negra y la regulación en debate
Otro punto crítico que destacó Pallero es la opacidad con la que funcionan los algoritmos de inteligencia artificial. Señaló que la dificultad para auditar las decisiones de estos sistemas, conocida como el “problema de la caja negra”, complica la trazabilidad legal: “¿Se imaginan cómo funcionaría una cosa que no podés auditar? Los algoritmos se actualizan y adaptan todo el tiempo. Sin controles humanos, el sistema pierde legitimidad y confianza”, advirtió.
En ese sentido, Pallero recordó que otros experimentos internacionales fracasaron justamente por la falta de transparencia y control. “Hay antecedentes de ciudades autónomas en Honduras, impulsadas por empresarios tecnológicos, que terminaron en conflictos legales y políticos”, ejemplificó.
El especialista fue crítico con la promesa oficial de desregulación: “Prometer no regular la inteligencia artificial es muy aventurado. La IA tiene impacto en la salud, las finanzas, los datos personales y la privacidad. No se puede prometer no regular”.
PUBLICIDAD
Para Pallero, cualquier avance tecnológico debe estar acompañado por un marco de responsabilidad y trazabilidad. “Hay un incentivo económico, político y ético para que alguien esté identificado como responsable. Sin controles humanos, el sistema pierde legitimidad y confianza”, concluyó.
--
Infobae te acompaña cada día en YouTube con entrevistas, análisis y la información más destacada, en un formato cercano y dinámico.
• De 7 a 9: Infobae al Amanecer: Nacho Giron, Luciana Rubinska y Belén Escobar.
• De 9 a 12: Infobae a las Nueve: Gonzalo Sánchez, Tatiana Schapiro, Ramón Indart y Cecilia Boufflet.
• De 12 a 15: Infobae al Mediodia: Maru Duffard, Andrei Serbin Pont, Jimena Grandinetti, Fede Mayol y Facundo Kablan.
• De 15 a 18: Infobae a la Tarde: Manu Jove, Maia Jastreblansky y Paula Guardia Bourdin; rotan en la semana Marcos Shaw, Lara López Calvo y Tomás Trapé
PUBLICIDAD
• De 18 a 21: Infobae al Regreso: Gonzalo Aziz, Diego Iglesias, Malena de los Ríos y Matías Barbería; rotan en la semana Gustavo Lazzari, Martín Tetaz y Mica Mendelevich
Seguinos en nuestro canal de YouTube @infobae.