Modders duplican el rendimiento de IA de placas de video Nvidia que la empresa había ocultado

Un grupo de desarrolladores independientes logró duplicar la capacidad de procesamiento de inteligencia artificial de placas de video Nvidia GeForce de tres generaciones distintas, al eliminar un límite que la empresa impone por software y que nunca había reconocido públicamente.

El hallazgo afecta a las series RTX 20, RTX 30 y RTX 40, según confirmaron TechPowerUp y VideoCardz. Se trata de tarjetas que millones de personas usan para jugar, pero que también se emplean para entrenar y ejecutar modelos de inteligencia artificial en computadoras personales.

Las placas gráficas de consumo de Nvidia comparten el mismo diseño de chip que las versiones profesionales, mucho más caras, que la empresa vende para centros de datos. La diferencia, según documentaron los desarrolladores, no está en el hardware.

Se trata de una limitación de firmware que reduce a la mitad la velocidad a la que esas placas procesan ciertas operaciones matemáticas usadas por los modelos de inteligencia artificial.

Cómo lograron destrabar el límite de las tarjetas gráficas

El desarrollador que usa el nombre de usuario Zagitta publicó en GitHub el primer proyecto de código abierto, llamado GPU Unlock, dirigido a las placas RTX 30 con chips GA102, GA103, GA104 y GA106. Otro programador, identificado como JustAResearcher, adaptó la técnica a la serie RTX 40, y un tercer proyecto la extendió a la serie RTX 20.

La herramienta no modifica el controlador oficial de Nvidia ni reescribe el firmware de forma permanente. Un módulo del sistema operativo Linux interviene los registros de velocidad del chip antes de que el controlador original se active.

Después, el módulo reinicia la conexión del dispositivo para que la placa funcione con el software de siempre, aunque con el límite removido. Los resultados fueron medidos por los propios desarrolladores y verificados después por TechPowerUp y el sitio ThePCEnthusiast.

Una GeForce RTX 3090 Ti pasó de 87,5 a 157,4 teraFLOPS (la unidad que mide cuántas operaciones matemáticas procesa un chip por segundo) en un formato numérico llamado BF16, un salto del 80%.

En otro formato, conocido como TF32, la misma placa mejoró un 94%, de 42,58 a 82,61 teraFLOPS. La ganancia fue similar en la GeForce RTX 4090, la más potente de la serie 40 para consumidores: su rendimiento en los formatos FP16 y BF16 pasó de 165,6 a 331,6 teraFLOPS, es decir, se duplicó.

El impacto se nota en el uso real, no en los juegos

Los desarrolladores advirtieron que la mejora no se traduce en más cuadros por segundo en los videojuegos, porque las operaciones liberadas no son las que usan los motores gráficos actuales. El beneficio aparece en tareas de inteligencia artificial que corren de forma local.

En pruebas con el programa ComfyUI, usuarios de la comunidad reportaron mejoras de entre el 56% y el 59% en la velocidad de generación de imágenes con modelos que usan el formato BF16, según recopiló VideoCardz. En el procesamiento de texto para modelos de lenguaje la ganancia fue menor, de entre el 14% y el 36%.

Esa diferencia ocurre porque esa tarea depende más de la memoria de la placa que de su capacidad de cálculo. El desbloqueo también llegó a placas más antiguas.

Una GeForce RTX 2080 Ti, lanzada en 2018, mejoró su rendimiento hasta un 64% en algunas de las pruebas, según los datos publicados en el sitio del proyecto, lo que demuestra que la restricción no es exclusiva de los modelos más recientes.

La técnica funciona por ahora principalmente en el sistema operativo Linux, aunque existen versiones experimentales para Windows. Modificar la placa de esta forma anula la garantía del fabricante.

Los propios desarrolladores advierten que el procedimiento conlleva riesgos, como que la computadora no inicie si algo sale mal.

Qué significa para el mercado de chips de IA

El hallazgo llega en medio de una escasez y un aumento de precios de los chips capaces de procesar inteligencia artificial, que llevó a empresas y usuarios particulares a buscar alternativas más baratas que las placas profesionales de Nvidia. La posibilidad de obtener un rendimiento cercano al de esas versiones costosas, con tarjetas que ya están en manos de millones de personas, amplía esa oferta sin que la empresa participe de la decisión.

Nvidia no se pronunció públicamente sobre el hallazgo. El proyecto todavía no logró una versión estable y validada para la serie RTX 50, la más reciente de la compañía, por lo que el límite de rendimiento en esas placas sigue intacto por ahora.