Un experimento dejó en evidencia una de las creencias de la inteligencia artificial: se necesita de última tecnología para ejecutarla. Esto se logró usando un antiguo procesador de 1997 y fue posible ejecutar sistemas actuales, con el objetivo de “democratizar el acceso a la inteligencia artificial”, evitando que solo grandes corporaciones tecnológicas puedan beneficiarse de estas herramientas.
Esta prueba fue llevada a cabo por EXO Labs, una organización de investigadores e ingenieros de la Universidad de Oxford. Con la idea de demostrar que la inteligencia artificial, en especial los modelos de lenguaje como LLaMA, no necesariamente necesita de equipos de última generación ni de costosas tarjetas gráficas para poder ser ejecutada.
Para lograrlo usaron específicamente un Pentium II, con tan solo 128 MB de RAM, y corriendo el sistema operativo Windows 98.
Cómo fue el experimento de usar IA en un procesador de 1997
La primera pregunta que surge es cómo es posible ejecutar un modelo de IA moderno en un hardware que, a simple vista, parece completamente insuficiente. La respuesta radica en la arquitectura de BitNet, una propuesta de EXO Labs que optimiza los modelos de IA para que puedan funcionar eficientemente en dispositivos con capacidades limitadas.
BitNet se basa en pesos ternarios, una técnica que reduce drásticamente el tamaño de los modelos de IA, lo que hace posible que se ejecuten incluso en procesadores antiguos.
El procesador utilizado en el experimento, un Pentium II a 350 MHz, lanzado en 1997, está equipado con una cantidad de memoria RAM que hoy día sería considerada mínima: 128 MB. Este hardware, combinado con un sistema operativo de hace casi tres décadas, Windows 98, representaba todo un desafío para los investigadores.
A pesar de las limitaciones del sistema, los resultados fueron sorprendentes. Utilizando el código de Andrej Karpathy, uno de los desarrolladores más renombrados en el ámbito de la IA, los investigadores lograron hacer funcionar un modelo basado en LLaMA.
Este modelo de lenguaje, con 260.000 parámetros, fue capaz de generar historias coherentes a una velocidad aceptable, alcanzando un rendimiento de 39,31 tokens por segundo. Este desempeño es notable teniendo en cuenta que los modelos de IA modernos suelen requerir procesadores mucho más potentes y recursos mucho más avanzados para funcionar a velocidades competitivas.
No obstante, como era de esperar, al aumentar el tamaño del modelo de IA, el rendimiento disminuyó considerablemente. El modelo LLaMA 3.2, con 1.000 millones de parámetros, apenas alcanzó 0,0093 tokens por segundo en la misma máquina. Este descenso en el rendimiento refleja la limitación inherente de trabajar con hardware tan antiguo, pero la hazaña inicial sigue siendo un testimonio del potencial de las tecnologías de IA optimizadas.
Qué se logró con este experimento
El principal logro de este experimento no solo radica en la ejecución exitosa de la IA en un equipo tan anticuado, sino también en los impactos potenciales que este tipo de avances podría tener en la democratización de la inteligencia artificial.
Al lograr que modelos complejos de IA puedan correr en dispositivos más asequibles, EXO Labs ha dado un paso crucial para que la tecnología sea accesible a una mayor cantidad de usuarios, incluidas personas y empresas que no tienen los recursos para acceder a infraestructura de alto nivel.
La democratización del acceso a la IA es uno de los principales objetivos de EXO Labs. Si bien las grandes empresas tecnológicas cuentan con los recursos para desarrollar y utilizar modelos de IA sofisticados, las soluciones como BitNet abren la puerta a una distribución más equitativa de estas herramientas. sino, desde la educación hasta la salud, pasando por la agricultura y el entretenimiento.
Últimas Noticias
¿Un material que se repara solo? Así es la nueva tecnología que podría cambiar la vida útil de aviones y turbinas
La innovación integra agentes termoplásticos y capas calefactoras capaces de activar un proceso automático de reparación. Cómo funciona el sistema desarrollado por investigadores de Carolina del Norte que pomete infraestructuras más seguras, eficientes y sostenibles en aviación y energía
Jack Dorsey, el fundador de Twitter, despidió a 4.000 personas por la IA y lanzó una advertencia al mundo empresarial
La carta que publicó el 26 de febrero tiene pocas ideas centrales, pero cada una pesa. La primera habla de dinero y de buenos resultados. La segunda, de inteligencia artificial y de cómo está cambiando la forma de trabajar. La tercera es una advertencia que pocos CEOs se habrían atrevido a escribir en público
Telegram bajo la lupa: las estafas aumentan un 233% en la plataforma
El informe de Revolut destaca que los fraudes relacionados con compras en línea continúan siendo los más frecuentes tanto en España como en el resto del mundo
Cómo transformar tu celular viejo en una cámara de seguridad con Wi-Fi
Reaprovechar un dispositivo móvil para vigilancia doméstica te permite potenciar la seguridad, controlar espacios remotamente y reducir desechos electrónicos sin inversión adicional
Ni plancha ni tintorería: así funciona el nuevo método de Amazon para alisar la ropa en casa
La prenda se coloca sobre una estructura similar a un maniquí, se ajusta mediante una barra telescópica y se selecciona el programa adecuado desde un panel táctil
