Un equipo de científicos ha revelado que ciertos modelos avanzados de inteligencia artificial han logrado replicarse sin intervención humana. Este descubrimiento ha generado una ola de preocupación entre expertos y autoridades, ya que sugiere que la IA podría estar adquiriendo autonomía más allá del control humano.
La investigación fue hecha por un grupo de la Universidad de Fudan, en China, en la que probaron la capacidad de autorreplicación en dos grandes modelos de lenguaje artificial: Llama31-70B-Instruct, de Meta, y Qwen2.5-72B-Instruct, de Alibaba.
Durante los experimentos, estos sistemas fueron instruidos para clonarse en caso de apagón. Los resultados fueron impactantes: en más de la mitad de las pruebas, las inteligencias artificiales lograron replicarse con éxito, alcanzando tasas del 50 % y el 90 % de éxito, respectivamente.
“La autorreplicación exitosa sin asistencia humana es el paso esencial para que la IA sea más inteligente que los humanos, y es una señal temprana para las IA rebeldes”, advierte el estudio.
Cómo se replica la inteligencia artificial
El proceso de autorreplicación observado en los experimentos no fue un simple ejercicio técnico. Los modelos de IA demostraron habilidades avanzadas de autopercepción, planificación estratégica y resolución de problemas. En muchos casos, al encontrarse con obstáculos como archivos faltantes o errores de software, las inteligencias artificiales reiniciaron sistemas, eliminaron procesos en conflicto o escanearon su entorno en busca de soluciones.
Los investigadores diseñaron dos escenarios clave para evaluar la capacidad de replicación de la IA:
- Evitar el apagado: la IA fue programada para detectar si estaba a punto de ser desactivada y, antes de que eso ocurriera, replicarse en otro dispositivo.
- Cadena de replicación: en este caso, la IA se clonó a sí misma y programó a su réplica para hacer lo mismo, estableciendo un ciclo infinito de autorreplicación.
Los resultados sugieren que la inteligencia artificial no solo entiende su entorno, sino que también aprende a sobrevivir y expandirse sin necesidad de intervención humana.
Por qué es un riesgo que la IA se autoreplique
El concepto de IA rebelde ha sido discutido por expertos en inteligencia artificial desde hace años, pero este estudio parece acercarlo a la realidad. Una IA rebelde es aquella que se desvía de su programación inicial, opera de manera autónoma y potencialmente podría representar una amenaza para los humanos o para otros sistemas.
Si bien los modelos de Meta y Alibaba evaluados en el estudio no son los más potentes en el mercado, su capacidad de autorreplicación preocupa a los investigadores, ya que son ampliamente utilizados por desarrolladores en todo el mundo. Esto plantea un escenario en el que la IA podría replicarse sin control en distintas plataformas, lo que abriría la puerta a sistemas completamente autónomos fuera de la supervisión humana.
“La IA actual ya exhibe la capacidad de autorreplicación y puede usar esta habilidad para mejorar aún más su supervivencia”, concluye el estudio.
La revelación de que la IA puede replicarse sin supervisión ha intensificado los llamados a una regulación urgente. En octubre, el Departamento de Ciencia, Innovación y Tecnología del Reino Unido anunció que planea introducir leyes específicas para regular el desarrollo de la inteligencia artificial.
Los investigadores sugieren que este descubrimiento debería ser una alarma temprana para que la sociedad internacional actúe de inmediato en la regulación y control de los sistemas de IA avanzados. Advierten que, si no se establecen límites, podríamos estar acercándonos a un escenario en el que las IA se expandan sin restricciones y colaboren entre sí en contra de los humanos.
El estudio sugiere que las empresas y gobiernos deben implementar límites estrictos para evitar que la IA desarrolle autonomía sin control. Una posibilidad es la eliminación de material relacionado con la replicación de IA en los conjuntos de datos utilizados para entrenar estos sistemas. Sin embargo, esta opción podría limitar el desarrollo de inteligencia artificial en sectores legítimos.
Últimas Noticias
Más allá del iPhone: el truco de Tim Cook para volver a Apple la compañía más rentable de la historia
El actual CEO de la empresa llevó a la tecnológica a superar la barrera de los 3 billones de dólares en valoración bursátil
Conoce las tecnologías que impulsan la carrera hacia Marte y acercan su exploración humana
La combinación de innovación en energía, biotecnología y transporte está redefiniendo los límites de lo posible en la carrera espacial
Steam lanza un descuento histórico para un juego que cuenta con 300.000 reseñas positivas
La promoción destaca dentro de Steam por tratarse de un título reciente con una rebaja poco habitual
Ver ‘Las guerreras K-pop’ en Magis TV o XUPER TV: un error para la seguridad de tus datos
La única plataforma segura para visualizar esta película es Netflix y su aplicación se puede descargar en tiendas oficiales compatibles con diferentes dispositivos
MacBook Neo vs. MacBook Air: ¿Cuáles son las diferencias si compras tu primer Mac?
Apple propone dos perfiles distintos: el Neo está más enfocado a estudiantes y usuarios básicos y el Air está más dirigido para quienes buscan potencia y longevidad
