El poder detrás de la IA: CNDH alerta sobre quién controla esta tecnología y sus efectos

La Comisión Nacional de los Derechos Humanos expuso su postura ante la expansión de la inteligencia artificial, advirtiendo que su avance debe analizarse desde la protección de las garantías fundamentales y la modificaciones en la innovación de las actividades cotidianas, relaciones económicas y formas de ejercer derechos.

Asimismo, la CNDH sostuvo que estas herramientas intervienen en la producción de contenidos, el procesamiento de información y la automatización de tareas, por lo que su alcance abarca ámbitos sociales, políticos y económicos, con efectos sobre la manera en que las personas trabajan, aprenden, se informan, crean y se vinculan.

Su posición ante la IA es que puede aportar soluciones en salud, educación, investigación y servicios públicos, pero también puede profundizar la discriminación, la vigilancia, la precariedad laboral y la desinformación.

Relación entre la inteligencia artificial y la distribución del conocimiento

El organismo señaló que las herramientas digitales no surgen fuera de las relaciones humanas ni de los procesos históricos, detrás de cada sistema existen personas, instituciones y empresas que lo diseñan conforme a necesidades e intereses determinados.

Para la CNDH, ninguna tecnología es neutral, ya que los métodos se crean con objetivos concretos y su funcionamiento obliga a examinar quiénes los diseñan, cuáles son sus fines, quiénes reciben sus beneficios y sobre qué sectores recaen los costos.

Por ello, se pide observar el poder que acumulan quienes controlan la infraestructura, los datos y las capacidades de estos entornos para que se pueda definir qué información circula, así como qué decisiones se automatizan y qué grupos tienen acceso a los recursos.

La inteligencia artificial posee una capacidad amplia para procesar grandes volúmenes de registros, generar materiales y orientar decisiones. Esa facultad influye en acciones de distintos niveles, desde actividades personales hasta procesos institucionales.

Beneficios tecnológicos vs desigualdades

La Comisión reconoció que la inteligencia artificial puede mejorar sistemas de salud y educación, acelerar investigaciones científicas y facilitar el análisis de información. También puede acercar determinados servicios a comunidades y personas que enfrentan obstáculos para acceder a ellos.

El uso de estas herramientas podría ampliar la capacidad estatal para anticipar problemas públicos y diseñar políticas, debido a que este servicio puede liberar tiempo, extender conocimientos y aumentar capacidades humanas.

La advertencia aparece cuando las personas quedan subordinadas a los sistemas automatizados. En ese escenario, las posibilidades de apoyo pueden transformarse en mecanismos de dependencia, con consecuencias para la autonomía individual y colectiva.

Derivado de esto, se alertó que estos programas no eliminan por sí mismos los prejuicios existentes en la sociedad. Los datos utilizados por los modelos pueden incorporar desigualdades previas, convertirlas en patrones estadísticos y reproducirlas en una escala mayor.

Un algoritmo que interviene en la selección de personal, evalúa riesgos, recomienda tratamientos o apoya decisiones políticas puede ofrecer resultados útiles. A la vez, puede discriminar, excluir, invisibilizar y presentar desigualdades históricas como si fueran decisiones objetivas.

La Comisión consideró que la transformación del trabajo puede acelerar condiciones precarias y ampliar la distancia entre quienes poseen capital, conocimientos y tecnología, y quienes dependen de su ocupación para sostener a sus familias.

Los datos personales y los contenidos falsos plantean riesgos para la democracia

La recopilación y el almacenamiento de datos personales adquirieron una dimensión mayor con estas tecnologías. Esa información puede servir para mejorar prestaciones, aunque también puede utilizarse para perfilar, vigilar, controlar, predecir e influir sobre decisiones individuales.

Se planteó que la conversión permanente de la vida humana en información procesable abre un debate sobre la intimidad, la libertad y la autonomía. Cada acción convertida en dato puede terminar como un instrumento de influencia sobre la conducta de las personas.

La producción automatizada de textos, imágenes y voces también modificó una actividad que durante siglos estuvo asociada a la expresión humana. Los nuevos sistemas pueden crear materiales con apariencia de autenticidad, incluso cuando su contenido sea falso.

Esa capacidad puede impulsar una cultura y un conocimiento distintos, pero contiene riesgos para la vida pública. La fabricación de identidades o acontecimientos puede afectar reputaciones e influir de forma maliciosa sobre decisiones ciudadanas.

Parámetros de la CNDH para controlar la IA

• Derechos humanos, derecho a la verdad y a la dignidad, como límites y finalidad de la utilización o innovación tecnológica;
• Responsabilidad humana siempre identificable, nunca delegada en un algoritmo;
• Prevención antes que reparación del daño, por utilización de esta tecnología, en lo económico, social, cultural y ambiental;
• Transparencia y aseguramiento del derecho a comprender, cuestionar y corregir;
• Tecnología para reducir desigualdades, nunca para automatizar la segregación o discriminación;
• Privacidad y protección de datos desde el diseño y durante toda la utilización de esta tecnología;
• Participación democrática ampliada y gobernanza participativa e incluyente, no concentración de decisiones sobre el uso de esta tecnología;
• Justicia ambiental y territorial, nunca innovación al costo de los territorios o comunidades;
• Regulación proporcional, clara y adaptable, no a las lagunas o vacíos regulatorios que vulneren a las personas y lesionen o perviertan el ejercicio de derechos, fundamentalmente el derecho a la libre expresión y a la elección de gobernantes;
• Tecnología para ampliar derechos y capacidades humanas sí; para restringirlos, nunca.
• Por ello, la CNDH observa que la Inteligencia Artificial es algo más que una nueva herramienta, es la posibilidad de transformación en la distribución de poderes y la democratización del conocimiento, del trabajo y en la ampliación de los derechos.