IBM comparte un avance en óptica coempaquetada que mejora la velocidad y la eficiencia para la IA

IBM ha compartido un avance en óptica coempaquetada que ofrece mejoras en velocidad y eficiencia energética para el entrenamiento y la ejecución de modelos de inteligencia artificial (IA).

Los investigadores de IBM han desarrollado un nuevo proceso para la tecnología de óptica coempaquetada que permite la conectividad dentro de los centros de datos a la velocidad de la luz mediante óptica, complementando los cables eléctricos de corto alcance actuales.

La tecnología de fibra óptica se utiliza actualmente para transportar datos a altas velocidades a largas distancias, por ejemplo, para la gestión del tráfico global de comunicaciones, mediante luz en lugar de electricidad.

En los centros de datos también se utiliza fibra óptica, pero dentro de los racks -las estructuras que permiten alojar y gestionar los equipos electrónicos- los datos se comunican a través de cables eléctricos de cobre.

Esta diferencia es significativa porque, como explican desde IBM, en los centros de datos los cables de cobre conectan aceleradores GPU que permanecen inactivos mucho tiempo, a la espera que de otros dispositivos envíen datos en un proceso de entrenamiento distribuido.

El nuevo proceso habilita la conectividad óptica de alta velocidad en el interior de los centros de datos, pudiendo aumentar el ancho de banda de las comunicaciones, minimizando el tiempo de inactividad de las GPU y acelerando el procesamiento de IA, como ha informado en una nota de prensa.

IBM cita entre sus ventajas una disminución del consumo energético hasta cinco veces menor en comparación con interconectores eléctricos de rango medio, consiguiendo, asimismo, un ahorro equivalente al consumo anual de energía de 5.000 hogares estadounidenses por cada modelo de IA entrenado. También ayudaría a entrenar un modelo de lenguaje de gran tamaño hasta cinco veces más rápido.