Defensa alerta del reto de controlar una IA cada vez más autónoma

Soria, 22 sep (EFE).- La secretaria de Estado de Defensa, María Amparo Valcarce, ha reivindicado este martes que el control humano debe prevalecer sobre la inteligencia artificial (IA), especialmente en el ámbito militar, y ha advertido de que "cuanto mayor sea la autonomía de estos sistemas, mayor debe ser la capacidad para controlarlos, garantizar su seguridad y fiabilidad y determinar responsabilidades".

Valcarce ha inaugurado en el Palacio de la Audiencia de Soria las II Jornadas de Inteligencia Artificial Responsable en el Ámbito Militar, que reúnen durante dos días a representantes de Defensa, empresas, universidades y centros de investigación para abordar los retos que plantea esta tecnología.

Más control humano

La secretaria de Estado ha señalado que la IA "ya no es una tecnología de futuro", sino una realidad que transforma en estos momentos la economía, la industria, la investigación y también la seguridad y la defensa.

Entre sus posibilidades ha citado la capacidad para procesar grandes volúmenes de información, acelerar el análisis, anticipar escenarios, mejorar la logística y apoyar la toma de decisiones.

Del mismo modo, Valcarce ha advertido de que estas oportunidades llevan aparejados riesgos relacionados con los sesgos de los algoritmos, la manipulación de contenidos, la confianza pública y la progresiva autonomía de los sistemas.

En este sentido, ha destacado que el debate ya no se centra únicamente en qué puede hacer la IA, sino hasta dónde puede llegar, a qué velocidad y, sobre todo, en qué grado de autonomía.

También ha destacado la participación de España en el debate internacional sobre la regulación de la IA y ha defendido la necesidad de establecer mecanismos que permitan evaluar los algoritmos antes de incorporarlos a capacidades militares, conocer sus limitaciones, garantizar la calidad y procedencia de los datos y proteger los sistemas frente a manipulaciones y ataques. EFE

aal/fsm/oli

(foto)