Así funciona el algoritmo del MIT que podría hacer más segura a la IA

Investigadores del Instituto de Tecnología de Massachusetts (MIT) desarrollaron un algoritmo capaz de imponer restricciones de seguridad rígidas a modelos de IA generativa sin comprometer la calidad de sus respuestas, un avance que abre la puerta al uso de estas herramientas en entornos donde un margen de error puede tener consecuencias críticas, informó MIT News, el portal de noticias del instituto.

El sistema, denominado HardFlow, fue presentado en la publicación científica IEEE Transactions on Pattern Analysis and Machine Intelligence y se orienta a escenarios como la planificación de rutas en fábricas robotizadas, el control de procesos físicos y la edición de imágenes guiada por texto.

Cuando “casi correcto” no es suficiente

Los modelos de inteligencia artificial generativa de última generación —como los modelos de difusión Stable Diffusion o los modelos de emparejamiento de flujo como FLUX que generan imágenes o datos al guiar paso a paso una señal aleatoria hacia un resultado concreto— aprenden a crear datos nuevos a partir de ruido aleatorio y se han convertido en herramientas versátiles para una amplia gama de aplicaciones. Sin embargo, en contextos de alto riesgo, la capacidad de producir respuestas “aproximadamente correctas” resulta insuficiente.

Por ejemplo, en una fábrica automatizada, la trayectoria de un brazo robótico que esquiva “casi” a un operario humano puede igualmente provocar un accidente. En ese tipo de entornos, las salidas del modelo deben cumplir con restricciones absolutas —de seguridad, físicas o propias de la tarea— que no admiten excepciones.

La técnica predominante hasta ahora para abordar este problema, conocida como muestreo basado en proyección, obliga al modelo a cumplir las restricciones en cada paso intermedio del proceso de generación. El problema es que esta presión constante limita la capacidad del sistema para explorar soluciones mejores y, en ocasiones, le impide llegar a una respuesta óptima.

HardFlow libera el proceso y exige resultados finales

La innovación central de HardFlow consiste en invertir esa lógica: en lugar de forzar el cumplimiento de restricciones a lo largo de todo el proceso generativo, el algoritmo deja al modelo mayor libertad durante las etapas intermedias y aplica las condiciones inamovibles únicamente sobre el resultado final.

“Lo que importa en última instancia es el resultado final del modelo, ya que el proceso interno se descarta. Al no exigir que cada paso intermedio satisfaga las restricciones, le damos al modelo más libertad para encontrar soluciones de alta calidad que sigan siendo viables al final”, señaló Zeyang Li, estudiante de posgrado en ingeniería mecánica y autor principal del trabajo.

Para lograrlo, los investigadores reformularon el problema como una tarea de optimización de trayectorias, con herramientas del campo del control óptimo —una disciplina de la ingeniería que estudia cómo guiar un sistema hacia un objetivo de la manera más eficiente posible—. Bajo ese enfoque, el marco puede orientar el proceso de generación del modelo hacia el resultado deseado con correcciones graduales y precisas a lo largo del camino, en lugar de forzarlo en cada paso intermedio.

Teoría clásica para redes neuronales modernas

Traducir ese enfoque a la práctica sobre redes neuronales de cientos de capas interconectadas representó un desafío técnico considerable. Para hacerlo manejable, el equipo aprovechó la estructura particular de los modelos de emparejamiento de flujo y descompuso el problema en una secuencia de subproblemas más simples, resolubles de forma eficiente en el momento del despliegue —es decir, cuando el modelo ya está en uso, sin necesidad de reentrenarlo—.

“La teoría de control nos proporciona un marco poderoso para formalizar la manera óptima de realizar estas correcciones”, explicó Navid Azizan, profesor asociado del Departamento de Ingeniería Mecánica e investigador principal del Laboratorio de Información y Sistemas de Decisión (LIDS) del MIT, autor sénior del artículo.

Reformular la tarea como un problema de optimización también abre la posibilidad de incorporar objetivos adicionales que mejoren la calidad de la solución. Por ejemplo, HardFlow puede encontrar simultáneamente una trayectoria libre de colisiones para un robot y, entre todas las opciones viables, seleccionar la de menor distancia al destino. “Nuestro marco puede gestionar ambos aspectos de forma conjunta, lo que lo hace mucho más efectivo que los métodos existentes”, añadió Li.

Algoritmo cumple todas las restricciones en experimentos

Los resultados obtenidos en pruebas sobre manipulación robótica, navegación en laberintos y edición de imágenes guiada por texto mostraron que HardFlow alcanzó un cumplimiento perfecto de las restricciones en todos los casos y superó de forma consistente a los métodos de referencia en indicadores de calidad de la solución.

En uno de los ensayos, el algoritmo permitió que un brazo robótico evitara obstáculos mientras encontraba el camino más rápido hacia el objeto objetivo. La mayor parte de los métodos alternativos o produjo colisiones o generó trayectorias notablemente más largas. El tiempo de cómputo de HardFlow fue comparable o inferior al de la mayoría de los competidores.

El método es además un sistema plug-and-play: opera en el momento del despliegue y puede aplicarse a modelos generativos ya entrenados sin necesidad de reentrenarlos. “La promesa de la IA generativa es su capacidad para explorar un amplio espacio de posibilidades, pero el mundo real impone límites sobre cuáles de esas posibilidades son aceptables”, sintetizó Azizan. “Nuestro enfoque nos permite preservar ese poder generativo al mismo tiempo que imponemos los requisitos no negociables de las aplicaciones de alto riesgo.”

Como próximo paso, el equipo contempla extender el marco a escenarios en los que el modelo de IA también pueda actualizarse durante el proceso, con el objetivo de mejorar el cumplimiento de restricciones y la calidad de las soluciones de forma adaptativa.