“Hay que creer en las advertencias”: una especialista alertó por el uso de inteligencia artificial en salud, empleo y seguridad

La inteligencia artificial ya participa en decisiones que pueden afectar la vida cotidiana: ayuda a clasificar imágenes médicas, filtra contenidos en Internet, selecciona candidatos laborales y puede ser utilizada por fuerzas de seguridad para identificar personas. El problema aparece cuando una herramienta se equivoca o toma una decisión difícil de explicar: debe haber una persona que pueda revisar el resultado y responder por sus consecuencias.

Para la consultora en políticas tecnológicas Natalia Zuazo, ese control no puede quedar para después. En una entrevista con Infobae A las Nueve, sostuvo que los gobiernos y las empresas deben establecer reglas antes de ampliar el uso de estos sistemas en áreas sensibles, como la seguridad, la salud, el empleo y los servicios básicos.

La inteligencia artificial no funciona como una persona que comprende lo que ve o lee. Recibe una enorme cantidad de datos, detecta patrones y, con base en ellos, ofrece una respuesta o una recomendación. Por ejemplo, puede señalar una posible anomalía en una radiografía, sugerir qué contenido mostrar en una red social o marcar a alguien como parecido a una imagen registrada en una base de datos. Esa velocidad explica su adopción, pero también puede trasladar un error a decisiones con efectos concretos.

“Hay que creer en las advertencias”, afirmó Zuazo al referirse a los riesgos que las propias compañías tecnológicas reconocen. La especialista planteó que la atención debe ponerse en los usos que ya operan y no solo en escenarios futuros: quién diseñó la herramienta, con qué información fue entrenada, qué puede hacer y quién interviene cuando falla.

Los controles deben acompañar a las herramientas antes de que se masifiquen

El uso de estas tecnologías creció mientras las grandes empresas compiten por lanzar productos, atraer inversiones y construir centros de datos, instalaciones que almacenan y procesan grandes volúmenes de información. Zuazo advirtió que ese ritmo puede dejar en un segundo plano las pruebas, las revisiones internas y los equipos encargados de evaluar daños posibles.

A su criterio, las compañías pueden frenar un lanzamiento, cambiar las condiciones de uso o restringir una función si identifican un riesgo. No necesitan esperar una norma posterior para hacerlo. La supervisión, afirmó, debe formar parte del desarrollo de una herramienta y no aparecer solamente después de un perjuicio.

La Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco) aprobó en 2021 una recomendación sobre ética de la inteligencia artificial. El documento propone que estos sistemas sean transparentes y proporcionales, lo que implica que su uso debe ajustarse a la importancia de la decisión que ayudan a tomar.

En términos prácticos, no es lo mismo emplear una aplicación para ordenar fotografías que usarla para definir una atención médica, una contratación o un procedimiento policial. Cuanto mayor sea el impacto sobre una persona, mayor debe ser la revisión. La especialista extendió esa cautela a las infraestructuras críticas, como las redes de electricidad, las comunicaciones e Internet, cuya interrupción puede afectar a miles de usuarios.

La información sobre el dinero y el funcionamiento de los sistemas como parte del control

Zuazo también puso el foco en los recursos que impulsan el desarrollo de estas herramientas. Las empresas que cotizan en bolsa deben comunicar a sus inversores los riesgos vinculados con sus negocios. Para la consultora, esa información debería incluir cómo funciona cada producto, qué límites tiene, quién lo financia y qué intereses intervienen en su expansión.

“Explícame quién te financió”, resumió. Saber de dónde provienen los fondos permite entender quién tiene capacidad de influir sobre una tecnología y para qué usos puede orientarse, planteó.

Empresas como Google y Meta ya difunden informes sobre pedidos estatales de datos personales y solicitudes para retirar publicaciones. Zuazo consideró que las firmas dedicadas a inteligencia artificial deberían informar con un nivel similar de detalle cuando sus sistemas intervienen en contratos de gran escala o en funciones que pueden afectar derechos.

La exigencia de controles no equivale, según su planteo, a impedir el desarrollo tecnológico. Actividades como la aviación, la fabricación de automóviles, los medicamentos y las vacunas funcionan bajo estándares y evaluaciones previas porque un error puede causar daños. La especialista sostuvo que la inteligencia artificial requiere criterios comparables cuando se aplica fuera de tareas de bajo riesgo.

En el trabajo, estas herramientas ya modifican tareas y puestos. Algunas empresas capacitan a sus empleados para utilizarlas; otras reemplazan parte de las funciones con programas que redactan textos, responden consultas o procesan documentos. Zuazo señaló que el punto decisivo es determinar quién controla el resultado y quién asume la responsabilidad si el sistema comete una equivocación.

En una redacción, por ejemplo, un programa puede ordenar información o producir un borrador, pero no conoce por sí solo el contexto de una comunidad ni puede hacerse cargo de publicar un dato falso. Un editor debe revisar, aprobar y responder por la información, indicó la consultora.

La misma regla se aplica a la salud. Una herramienta puede colaborar en la lectura de radiografías, ecografías y otros estudios al señalar zonas que requieren atención. Sin embargo, Zuazo sostuvo que el diagnóstico y la decisión sobre un tratamiento deben quedar a cargo de un profesional, que puede evaluar el caso completo y responder ante un error.

La automatización también puede reducir puestos en algunas especialidades, entre ellas las vinculadas con el análisis de imágenes médicas. Para Zuazo, cada incorporación requiere medir dos aspectos: el beneficio que puede aportar y el costo para las personas que quedan expuestas a una decisión automática o a la pérdida de su fuente de trabajo.

–

Infobae te acompaña cada día en YouTube con entrevistas, análisis y la información más destacada, en un formato cercano y dinámico.

• De 7 a 9: Infobae al Amanecer: Nacho Giron, Luciana Rubinska y Belén Escobar.

• De 9 a 12: Infobae a las Nueve: Gonzalo Sánchez, Tatiana Schapiro, Ramón Indart y Cecilia Boufflet.

• De 12 a 15: Infobae al Mediodia: Maru Duffard, Andrei Serbin Pont, Fede Mayol y Facundo Kablan.

• De 15 a 18: Infobae a la Tarde: Manu Jove, Maia Jastreblansky y Paula Guardia Bourdin; rotan en la semana Marcos Shaw, Lara López Calvo y Tomás Trapé.

• De 18 a 21: Infobae al Regreso: Gonzalo Aziz, Diego Iglesias, Malena de los Ríos y Matías Barbería; rotan en la semana Gustavo Lazzari, Martín Tetaz y Mica Mendelevich

Seguinos en nuestro canal de YouTube @infobae.