Gemelo Digital Social: ética para la IA estatal

Argentina anunció el Gemelo Digital Social, una herramienta basada en IA para simular escenarios, anticipar impactos y asistir en el diseño de políticas públicas. Esto constituye un paso relevante al instalar en la agenda pública la posibilidad de una política social más predictiva, integrada y basada en evidencia, siendo por ello un error convertir esta iniciativa en una disputa entre oficialismo y oposición. Lo decisivo aquí es cómo gobernar éticamente la IA cuando el objeto modelado no es una máquina, una ciudad o una fábrica, sino la vida social de las personas.

El sistema integraría datos de distintas fuentes para describir fenómenos sociales, detectar patrones y proyectar escenarios, pudiendo mejorar diagnósticos, anticipar crisis, detectar vulnerabilidades y hacer más eficaces las políticas públicas. El avance cualitativo radicaría en pasar de un Estado predominantemente reactivo a uno con mayor capacidad predictiva, razón por la cual desde su origen necesita una gobernanza ética proporcional a su poder.

La experiencia indica que los fracasos de proyectos de IA estatal no son sólo técnicos, ocurren también cuando se pierde legitimidad pública, cuando la ciudadanía no comprende qué datos se usan, cuando no queda claro quién controla el sistema o cuando las decisiones parecen dictadas por una opacidad algorítmica. Luego, el Gemelo Digital Social constituiría una oportunidad para la Argentina incorporando una conducción ética sustantiva, visible y operativa.

Esa conducción no debe entenderse como obstáculo burocrático ni como señal de desconfianza, sino como condición para blindar institucionalmente el proyecto, hacerlo socialmente aceptable y evitar que una herramienta prometedora quede expuesta a sospechas, judicialización o rechazo público. Así, a la arquitectura técnica y jurídica se sumaría, desde el inicio, una instancia ética permanente e interdisciplinaria capaz de comprender el lenguaje de la tecnología, la sensibilidad de los datos sociales, la lógica de las políticas públicas, la protección de la persona vulnerable y la responsabilidad estatal.

La discusión internacional sobre IA pública ya no gira en torno a la mera eficiencia. La UNESCO adoptó en 2021 su Recommendation on the Ethics of Artificial Intelligence, centrada en la dignidad humana, los derechos fundamentales, la transparencia, la supervisión humana y la evaluación de impactos. El NIST publicó en 2023 su AI Risk Management Framework, organizado en torno a las funciones de gobernar, mapear, medir y gestionar. La Unión Europea aprobó en 2024 el AI Act, basado en riesgos y con obligaciones reforzadas para sistemas de alto impacto. El Reino Unido lanzó en 2021 su Algorithmic Transparency Recording Standard, luego consolidado como referencia de transparencia para organismos públicos. Claramente la IA puede ayudar al Estado, pero garantizando cuestiones éticas mediante controles, auditorías y responsabilidad humana indelegable.

El término gemelo digital proviene de ámbitos industriales y tecnológicos, donde se utilizan modelos virtuales para simular el comportamiento de sistemas reales. Pero un gemelo digital de la sociedad implica un salto ético importante. Una sociedad no es una turbina ni una red eléctrica. Está compuesta por personas libres, trayectorias biográficas, familias, creencias, vulnerabilidades, pobrezas, decisiones íntimas, errores, esperanzas y conflictos.

Cuando el Estado modela digitalmente la vida social, aun con finalidades nobles, ya no sólo administra información. También produce categorías sobre personas y grupos, anticipa comportamientos, clasifica riesgos, interviene sobre poblaciones, asigna prioridades y genera perfiles. Sin controles adecuados, una herramienta de asistencia pública puede derivar en una forma de poder predictivo difícil de auditar.

La ética institucional exige preguntar qué datos se usarán, de dónde provienen, qué sensibilidad tienen, si se cruzarán fuentes estatales y privadas, cuánto tiempo se conservarán, qué grado real de anonimización habrá, quién verificará que no exista reidentificación, si habrá auditorías externas, revisión humana y responsables ante daños, exclusiones o discriminaciones. Esto es congruente con la Ley 25.326 de Protección de Datos Personales, que exige datos ciertos, adecuados, pertinentes y no excesivos, evita usos incompatibles con la finalidad original y dispone su supresión cuando dejen de ser necesarios. Incorporar estos criterios desde el diseño reforzaría la finalidad definida, la responsabilidad institucional y la confianza pública del Gemelo Digital Social.

Helen Nissenbaum sostuvo en “Privacy in Context” que la privacidad no puede entenderse sólo como secreto, sino como integridad contextual, es decir, como circulación de datos respetuosa de los contextos y normas de uso que les dan sentido. Luciano Floridi subrayó en “The Ethics of Information” las obligaciones morales propias de los entornos informacionales. Virginia Dignum insistió en “Responsible Artificial Intelligence” en que la IA responsable requiere diseño, control humano y rendición de cuentas. Mireille Hildebrandt advirtió en “Smart Technologies and the End of Law” que el Estado de derecho se debilita cuando las decisiones automatizadas operan opacamente o desplazan la defensa jurídica. Cathy O’Neil mostró en “Weapons of Math Destruction” cómo los modelos cuantitativos pueden dañar cuando clasifican poblaciones vulnerables sin revisión ni posibilidad efectiva de impugnación. Básicamente, estos expertos no rechazan la tecnología, llaman a gobernarla responsablemente.

Por ello, la revisión ética debería integrarse desde el inicio, no añadirse al final como una instancia meramente validatoria. Debe estar en la arquitectura del proyecto, en la definición de finalidades, la selección de datos, las auditorías, los protocolos de daño, la comunicación pública y los límites que el sistema no podrá cruzar. En suma, se trata de una ética pública de la IA aplicada a sistemas estatales que procesan información sobre poblaciones humanas, anticipan conductas, definen prioridades y pueden afectar derechos, oportunidades o trayectorias vitales.

Una conducción ética temprana protege al proyecto de futuros cuestionamientos jurídicos, políticos, reputacionales y sociales, porque revisa finalidades, exige trazabilidad, advierte sesgos, evalúa proporcionalidad, recomienda auditorías, analiza impactos sobre grupos vulnerables y establece criterios de intervención humana obligatoria. No se reduce a una mirada informática, administrativa o jurídica, requiere formación específica, conocimiento de precedentes y normativas internacionales, experiencia en comités, familiaridad con dilemas bioéticos, comprensión del Estado y capacidad para distinguir entre un riesgo abstracto y un daño institucional concreto.

Por ejemplo, el Gemelo Digital Social debería aplicar el principio de no delegación. La IA puede asistir al Estado, pero no reemplazar su responsabilidad. Todo sistema predictivo debe tener un responsable humano, toda clasificación sensible debe ser revisable, toda recomendación automatizada que pudiera afectar derechos debe ser explicable, toda intervención sobre población vulnerable debe someterse a proporcionalidad y justicia, toda base de datos debe tener finalidad definida y todo proveedor tecnológico debe sujetarse a reglas claras.

Otros principios éticos aplicados contribuirían también a garantizar que el Estado use datos para mejorar políticas públicas, sin que la ciudadanía perciba que sus trayectorias vitales son objeto de modelización sin explicación suficiente. Asegurarían que la simulación de escenarios no predestine personas; que anticipar vulnerabilidades no las fije como identidades; que detectar riesgos no transforme la sospecha estadística en tratamiento político; y que mejorar la asignación de recursos no esconda decisiones morales detrás de cálculos automatizados.

Argentina tiene la oportunidad de construir un Estado más inteligente sin devenir en uno más invasivo. Sería un leading case regional de innovación responsable incorporando desde el inicio una conducción ética robusta; no como instancia secundaria, sino como función capaz de anticipar problemas, ordenar criterios, establecer protocolos, dialogar con técnicos, advertir riesgos y sostener públicamente la legitimidad del proyecto.

La ética no impide que el Estado innove, asegura que esa innovación pueda sostenerse en el tiempo con legitimidad, confianza y responsabilidad pública. En iniciativas de esta magnitud, siempre es provechoso convocar a tiempo a quienes pueden anticipar problemas antes de que se conviertan en daños, litigios o crisis de confianza.