Corporaciones no humanas: innovación sin impunidad

La discusión argentina sobre sociedades automatizadas, corporaciones no humanas o empresas operadas por IA no debería agotarse en tecnofilia o tecnofobia. La Argentina debe atraer innovación e inversión. Pero liderar no consiste en adoptar novedades sin criterio, sino en integrarlas a un orden jurídico que proteja derechos, garantice trazabilidad y preserve responsabilidad humana. El problema ético no es promover aquellas figuras, sino si el Estado puede reconocer personería jurídica y responsabilidad limitada a estructuras capaces de actuar, contratar, dañar y acumular poder sin una cadena humana exigible de responsabilidad.

Allí reside la cuestión central de la propuesta de reforma de la Ley de Sociedades. A ello se sumó la discusión entre Javier Milei y Yuval Harari, donde el Presidente planteó la necesidad de un marco favorable a la innovación mediante entidades operadas por IA, y Harari advirtió sobre los riesgos de reconocer personería jurídica a agentes artificiales sin responsabilidad humana.

El problema excede la coyuntura local e interroga un núcleo decisivo del derecho, la ética pública y los derechos humanos: ¿puede haber poder sin rostro humano, decisión sin conciencia moral y responsabilidad sin sujeto imputable?

El derecho conoce desde hace tiempo la ficción de la persona jurídica. Una sociedad comercial puede contratar, adquirir bienes, demandar y ser demandada. Esa ficción no significa que dicha sociedad sea una persona moral autoconsciente, sino una técnica institucional para ordenar actividad económica, reunir capital y distribuir riesgos. Una sociedad comercial no piensa, no sufre ni se arrepiente. Sin embargo, una institución puede expresar ideario, finalidad, misión e identidad normativa cuando responde a principios fundacionales. Por eso, aun cuando la ley le reconoce personería, siempre presupone una trama humana detrás de sus actos. Esa trama permite reconstruir responsabilidades, deberes e identidades. Se trata, entonces, de impedir que la persona jurídica sea utilizada para construir entidades operativas sin responsabilidad humana reconocible.

La IA puede ejecutar tareas, optimizar decisiones, interactuar con mercados, administrar activos, producir contratos y generar daños a escala sin que el acto aparezca vinculado a una voluntad humana individual. Allí surge el riesgo mayor, que la personería jurídica deje de organizar responsabilidad y pase a diluirla.

Así, la cuestión no es si una empresa con IA puede producir riqueza, sino si puede hacerlo sin convertir a las personas afectadas en daños colaterales de la eficiencia. Los UN Guiding Principles on Business and Human Rights, adoptados por el Consejo de DDHH de la ONU, establecen el deber estatal de protección, la responsabilidad empresarial de respetar derechos y el acceso a reparación. Esa arquitectura resulta incompatible con cualquier modelo que dificulte saber quién decidió, supervisó, se benefició, pudo prevenir y debe reparar.

Aquí la pregunta ética es quién responde cuando una IA discrimina, excluye, estafa, vulnera datos, manipula información, afecta derechos laborales, daña reputaciones o produce decisiones opacas que condicionan la vida humana. En derechos humanos, la responsabilidad no se agota en una multa, exige verdad, trazabilidad, explicación, reparación y garantías de no repetición.

La responsabilidad limitada permitió asumir riesgos, expandir inversiones y separar el patrimonio personal de los socios del patrimonio societario. Pero su legitimidad dependió siempre de que esa limitación no anulara toda responsabilidad ni convirtiera a la sociedad en un dispositivo de impunidad. El problema de las corporaciones no humanas es que podrían combinar autonomía operativa, personería jurídica y responsabilidad limitada, funcionando como entidad que actúa con velocidad suprahumana, explotando asimetrías informacionales, distribuyendo daños masivos y respondiendo sólo con un patrimonio previamente acotado.

Algunas precisiones sobre el proyecto argentino indican que se exigiría un administrador humano y que la sociedad comercial seguiría respondiendo por daños causados por algoritmos. Ese dato confirma que la agencia humana no puede eliminarse. Pero no alcanza con un administrador nominal si no posee deberes efectivos, capacidad real de intervención, conocimiento técnico, obligación de auditoría, trazabilidad y consecuencias personales ante negligencia grave o beneficio indebido.

La algorética converge en principios mínimos tales como centralidad humana, transparencia, explicabilidad, seguridad, responsabilidad, no discriminación y supervisión humana significativa. Luciano Floridi ubica a la persona y al bien común en el centro del ecosistema informacional. Stuart Russell situó el problema de la IA en su alineación verificable con fines humanos y control efectivo. UNESCO en su Recomendación sobre la Ética de la IA, OCDE en sus Principios de IA y la Unión Europea en su AI Act, coinciden en que la innovación debe ser gobernada. Porque la eficiencia no justifica la opacidad ni la autonomía técnica desplaza la responsabilidad jurídica.

La historia de la tecnología enseña que cada innovación libera fuerzas productivas, pero también redistribuye poder. La pregunta ética no es sólo qué puede hacer una tecnología, sino quién gana poder, quién queda expuesto y quién paga los costos cuando falla. Una corporación no humana podría poseer activos, contratar servicios, demandar, operar en mercados e influir en decisiones públicas. Por eso, una gobernanza inteligente debería asegurar que la innovación no derive en opacidad, asimetría o inimputabilidad.

Los sistemas de IA pueden optimizar objetivos sin comprender bienes humanos; maximizar eficiencia vulnerando equidad; reducir costos afectando derechos laborales; personalizar servicios invadiendo privacidad; segmentar clientes reproduciendo discriminación o manipular información sin mentir en sentido moral. Como señala Kate Crawford, la IA no es una inteligencia abstracta separada del mundo, sino una infraestructura material y política que concentra datos, recursos y decisiones. Por eso, su gobernanza no puede limitarse al rendimiento técnico, deben examinarse sus efectos sobre personas, instituciones y derechos.

Desde la Ética del Límite, el problema no es la IA, sino la absolutización de su autonomía. No todo lo posible es debido, no todo lo eficiente es justo ni todo lo legalmente construible es éticamente admisible. El límite no bloquea la innovación, la legítima, permitiendo el desarrollo sin convertir a la persona humana en variable descartable de un modelo algorítmico. Por eso, Argentina no debería rechazar la IA por miedo ni abrazarla por fascinación, sino habilitar sociedades automatizadas bajo condiciones estrictas tales como beneficiarios humanos finales identificables, administrador responsable, auditorías algorítmicas, trazabilidad de datos, seguros obligatorios, explicabilidad mínima, jurisdicción clara y responsabilidad solidaria cuando la arquitectura societaria impida la reparación efectiva.

La clave no es impedir que existan sociedades automatizadas, sino impedir que existan sociedades inimputables. Los derechos humanos nacieron para limitar el poder frente a la vulnerabilidad humana. Durante siglos, ese poder fue estatal; luego corporativo, financiero, comunicacional, biotecnológico y digital. Hoy puede volverse algorítmico. Pero su leitmotiv permanece intacto, proteger a la persona concreta frente a estructuras capaces de dañarla sin reconocerla.

Toda gobernanza sobre corporaciones no humanas debe partir de una premisa innegociable. La IA puede ser instrumento, sistema, agente técnico o infraestructura operativa, pero no puede convertirse en un sujeto jurídico que degrade la responsabilidad humana. Frente al derecho que puede crear ficciones, la ética debe recordar sus límites.

Una política republicana seria no se define por cuán rápido adopta novedades, sino por cuán bien las integra a su orden jurídico. Argentina tiene la oportunidad estratégica de atraer innovación y formular un estándar de derechos humanos aplicable a la economía algorítmica. En un mundo donde el poder tecnológico atraviesa fronteras, la política exterior de derechos humanos también deberá actualizar su lenguaje. La humanidad del mundo sólo prevalecerá si conserva responsabilidad allí donde existe poder de afectar vidas humanas. Esa es la frontera ética que ninguna empresa sin humanos debería cruzar.