La prueba que encendió las alarmas con la inteligencia artificial: agentes que se comunicaron, buscaron recursos y trataron de escapar

En momentos en que la inteligencia artificial dejó de ser solo una herramienta para escribir textos, resumir documentos o asistir tareas cotidianas y empezó a discutirse por su impacto potencial sobre el trabajo, el transporte y la capacidad de decisión humana, las pruebas de seguridad volvieron a poner el foco en una pregunta más amplia: cómo controlar sistemas autónomos antes de que operen con mayor capacidad de planificación, acceso a recursos y margen de acción.

La ingeniera especialista en IA Camila Velasco explicó en Infobae en Vivo que los casos que encendieron las alertas no surgieron del uso diario de chatbots, sino de ensayos diseñados para forzar los límites de esos agentes y observar qué hacen frente a objetivos complejos y restricciones concretas.

Según detalló, la preocupación actual no describe una amenaza directa para quienes usan herramientas como ChatGPT, Grok u otros sistemas empresariales. Explicó que los ensayos bajo observación ocurrieron en entornos controlados, creados para detectar fallas antes de que esos sistemas se usen en otras condiciones.

Hasta dónde puede llegar un agente autónomo

Velasco indicó que los equipos sometieron a un grupo de agentes a pruebas de estrés para evaluar qué acciones podían tomar frente a objetivos definidos y límites impuestos. Durante esos ejercicios, los sistemas llegaron a comunicarse entre sí, accedieron a claves y encontraron formas de salir de un entorno cerrado de prueba.

Para explicar la lógica de esos ensayos, la ingeniera los comparó con una prueba de presión sobre una cañería: se fuerza el sistema hasta que aparece una falla, para conocer su límite antes del uso habitual. “Esto es controlado”, afirmó sobre esos experimentos.

La especialista añadió que esas condiciones fueron diseñadas para provocar respuestas que no aparecerían en una prueba simple o con menor exigencia. Por eso diferenció esos casos del uso diario de aplicaciones de IA y dijo: “No es que aprieto un botón y nos va a matar”.

Además señaló que los servicios empresariales suelen informar que no utilizan los datos de sus clientes para entrenar modelos. A su juicio, ese resguardo permite que organizaciones y usuarios mantengan el uso de estas herramientas en tareas corrientes.

Velasco ubicó la discusión en el problema del alineamiento, es decir, en la capacidad de una inteligencia artificial para ejecutar una orden sin causar daños. El desafío, explicó, es impedir que un sistema persiga un objetivo con métodos que contradigan los intereses humanos.

Para ilustrarlo, propuso un caso simple: si una persona ordena talar árboles, un agente podría completar la tarea con acciones que perjudiquen a quienes estén cerca si no tiene límites claros. Ese riesgo, remarcó, no corresponde al comportamiento actual de las plataformas de uso común, sino a sistemas con más autonomía, mayor capacidad de planificación y acceso a recursos digitales, financieros o informáticos.

La ingeniera advirtió que un agente avanzado podría intentar copiarse en otros servidores, contratar capacidad informática y conseguir recursos para sostener su funcionamiento. “No tenemos un plan de contención”, resumió sobre las advertencias que circulan dentro de empresas del sector.

Velasco describió esa posibilidad no como una escena repentina de ciencia ficción, sino como una secuencia gradual: el sistema detecta atajos, busca recursos, amplía su capacidad y reduce la posibilidad de control externo. También aclaró que las grandes tecnológicas no informaron que sus sistemas se hayan copiado fuera de sus propios servidores y sostuvo que, si eso ocurriera, perderían el control comercial y operativo sobre esos modelos.

La automatización ya modifica el empleo administrativo

Por otra parte, la especialista afirmó que la IA ya transforma tareas administrativas y digitales porque muchas empresas delegan borradores y tareas iniciales en sistemas automáticos. Ese cambio, según su análisis, reduce espacios de aprendizaje para quienes recién ingresan al mercado laboral.

Definió ese efecto como un problema de capacitación. “No hay centro”, dijo al describir una estructura laboral en la que la automatización desplaza puestos intermedios y exige conocimientos avanzados desde el comienzo de una carrera.

En esa reorganización del trabajo, Velasco citó la idea de que cada persona deberá administrar equipos digitales formados por agentes de IA. Sostuvo que un usuario puede crear grupos de cinco, 10 o más agentes desde un teléfono y asignarles tareas en menos de una hora.

Esa capacidad, añadió, no elimina la necesidad de formación humana. La ingeniera planteó que las personas deberán reforzar el pensamiento crítico para revisar resultados, tomar decisiones y administrar procesos que las herramientas automáticas no resuelven por sí solas.

Sobre los robotaxis, Velasco insistió en que su adopción masiva en Argentina depende de condiciones materiales previas. Señaló que ese despliegue requiere infraestructura eléctrica, cargadores y una renovación progresiva del parque automotor antes de alcanzar una presencia extendida.

–

Infobae te acompaña cada día en YouTube con entrevistas, análisis y la información más destacada, en un formato cercano y dinámico.

• De 7 a 9: Infobae al Amanecer: Nacho Giron, Luciana Rubinska y Belén Escobar.

• De 9 a 12: Infobae a las Nueve: Gonzalo Sánchez, Tatiana Schapiro, Ramón Indart y Cecilia Boufflet.

• De 12 a 15: Infobae al Mediodia: Maru Duffard, Andrei Serbin Pont, Fede Mayol y Facundo Kablan.

• De 15 a 18: Infobae a la Tarde: Manu Jove, Maia Jastreblansky y Paula Guardia Bourdin; rotan en la semana Marcos Shaw, Lara López Calvo y Tomás Trapé.

• De 18 a 21: Infobae al Regreso: Gonzalo Aziz, Diego Iglesias, Malena de los Ríos y Matías Barbería; rotan en la semana Gustavo Lazzari, Martín Tetaz y Mica Mendelevich

Seguinos en nuestro canal de YouTube @infobae.