“La infraestructura tiene que ser ética”: el reclamo de una especialista para controlar el avance de la inteligencia artificial

La carrera por la inteligencia artificial ya redefine la disputa entre las grandes potencias y las empresas tecnológicas. Flavia Costa, investigadora del Consejo Nacional de Investigaciones Científicas y Técnicas, afirmó en Infobae Al Mediodía que Argentina tiene que discutir sus efectos en la educación, el empleo, la seguridad y el control del conocimiento antes de que la dependencia de plataformas extranjeras profundice las desigualdades.

La expansión pública de ChatGPT 3.5, a fines de noviembre de 2022, aceleró una competencia que combina intereses empresariales, controles estatales y preocupaciones por la seguridad. La autora de Vidas artificiales: del accidente pandémico a las guerras de la IA sostuvo que la velocidad de este desarrollo restringe la reflexión pública y no admite discusiones reducidas a contenidos breves en redes sociales.

Costa organizó el debate en tres planos: geopolítica, seguridad y gobernanza. Su planteo vincula los riesgos de los sistemas más avanzados con problemas presentes en la vida cotidiana.

La concentración tecnológica entre Estados Unidos, China y un puñado de empresas

La discusión sobre una amenaza existencial se concentra en sistemas de gran escala, que requieren una capacidad de cómputo disponible solo para unas pocas corporaciones y para China. Esa infraestructura reúne entre 10 y 15 grandes colosos tecnológicos, una dimensión distinta de los servidores y desarrollos más pequeños que pueden operar en Argentina.

Entre los actores que concentran esas capacidades, Costa ubicó a las empresas de Elon Musk, Amazon, Anthropic, Meta y Google. Allí podría surgir una superinteligencia cuyas aptitudes excedan las reglas previstas por quienes la diseñaron.

“La discusión del riesgo existencial ocurre en la gran escala”, afirmó la investigadora. También mencionó casos de agentes de inteligencia artificial que engañaron a personas, enviaron correos falsos y realizaron acciones coordinadas fuera de las normas esperadas, episodios que alimentan las alertas de seguridad.

La competencia no se limita a una carrera entre empresas. Estados Unidos busca preservar su posición frente a China, mientras las corporaciones procuran proteger inversiones y participación en una industria cuyos costos aumentan.

La administración de Donald Trump considera estas tecnologías como parte de una confrontación estratégica, según la descripción de Costa sobre sectores políticos y empresariales estadounidenses. “Esta es una tecnología de guerra”, resumió.

China dispone de ventajas asociadas con su población, su mercado interno y su capacidad de organización estatal. Estados Unidos, en cambio, enfrenta un proceso político más costoso para reunir recursos, alianzas y capacidades productivas ante una estructura estatal centralizada.

“En algún sentido, China ya ganó”, sostuvo Costa. La afirmación se relaciona con el tiempo que requiere Estados Unidos para ordenar una estrategia tecnológica frente al ritmo de decisión del país asiático.

Controles previos, auditorías externas y normas obligatorias

La inteligencia artificial requiere mecanismos de seguridad comparables a los de la aviación, la industria aeroespacial y la energía nuclear, planteó Costa. Los controles deben integrarse al desarrollo de los productos y no incorporarse después de un daño o incidente.

“La infraestructura tiene que ser ética”, dijo al retomar una idea del investigador italiano Luciano Floridi. La premisa supone que las empresas deben construir defensas desde el diseño de los sistemas.

El uso de chatbots para menores exhibe una de las fronteras que, a su juicio, no deberían quedar libradas a las plataformas. “Los niños no pueden hablar con chatbots eróticos”, expresó.

Una industria segura necesita procedimientos para detectar riesgos, responder ante fallas y asignar responsabilidades. Costa comparó ese esquema con los controles de vuelo, los reportes meteorológicos y las investigaciones que siguen a un accidente aéreo.

Las auditorías externas permitirían revisar incidentes y corregir problemas con mayor rapidez. “Si vos tenés auditorías, lo frenás relativamente rápido”, afirmó.

La Unión Europea, Corea del Sur y Japón ya cuentan con normas obligatorias sobre inteligencia artificial. La regulación europea establece que los incidentes deben informarse dentro de 15 días, aunque la investigadora reconoció que la aplicación de las leyes presenta dificultades.

“La ley no alcanza”, advirtió Costa. Los Estados necesitan organismos con capacidad para hacer cumplir las reglas y supervisar a las compañías tecnológicas.

Soberanía cognitiva frente a la dependencia de plataformas

Argentina debe analizar la inteligencia artificial desde sus condiciones sociales y productivas, con atención a la escuela, la seguridad ciudadana, la propiedad intelectual y el control de los datos personales. Para Costa, el debate local no puede quedar limitado a hipótesis extremas sobre una futura superinteligencia.

Los riesgos de mayor alcance no deben desplazar problemas actuales como el desempleo, el acceso desigual a la tecnología y la concentración empresaria. La investigadora retomó a Kate Crawford, quien define el riesgo existencial como una “bomba de humo” cuando aparta la atención de las consecuencias sociales inmediatas.

La noción de soberanía cognitiva plantea quién controla las herramientas que producen información, organizan contenidos y condicionan el aprendizaje, la comunicación y el acceso al conocimiento. Esa discusión incluye el poder de las plataformas extranjeras sobre las formas de circulación de datos e ideas.

Las universidades pueden contribuir con investigación, formación y tiempo para comprender dilemas que evolucionan más rápido que la capacidad cotidiana de interpretar sus consecuencias sociales. “La escala en realidad es el mismo problema desplazado en el tiempo”, indicó al vincular los riesgos de seguridad actuales con los sistemas de inteligencia artificial más poderosos.

–

Infobae te acompaña cada día en YouTube con entrevistas, análisis y la información más destacada, en un formato cercano y dinámico.

• De 7 a 9: Infobae al Amanecer: Nacho Giron, Luciana Rubinska y Belén Escobar.

• De 9 a 12: Infobae a las Nueve: Gonzalo Sánchez, Tatiana Schapiro, Ramón Indart y Cecilia Boufflet.

• De 12 a 15: Infobae al Mediodia: Maru Duffard, Andrei Serbin Pont, Fede Mayol y Facundo Kablan.

• De 15 a 18: Infobae a la Tarde: Manu Jove, Maia Jastreblansky y Paula Guardia Bourdin; rotan en la semana Marcos Shaw, Lara López Calvo y Tomás Trapé.

• De 18 a 21: Infobae al Regreso: Gonzalo Aziz, Diego Iglesias, Malena de los Ríos y Matías Barbería; rotan en la semana Gustavo Lazzari, Martín Tetaz y Mica Mendelevich

Seguinos en nuestro canal de YouTube @infobae.