Un equipo de científicos ha revelado que ciertos modelos avanzados de inteligencia artificial han logrado replicarse sin intervención humana. Este descubrimiento ha generado una ola de preocupación entre expertos y autoridades, ya que sugiere que la IA podría estar adquiriendo autonomía más allá del control humano.
La investigación fue hecha por un grupo de la Universidad de Fudan, en China, en la que probaron la capacidad de autorreplicación en dos grandes modelos de lenguaje artificial: Llama31-70B-Instruct, de Meta, y Qwen2.5-72B-Instruct, de Alibaba.
Durante los experimentos, estos sistemas fueron instruidos para clonarse en caso de apagón. Los resultados fueron impactantes: en más de la mitad de las pruebas, las inteligencias artificiales lograron replicarse con éxito, alcanzando tasas del 50 % y el 90 % de éxito, respectivamente.
“La autorreplicación exitosa sin asistencia humana es el paso esencial para que la IA sea más inteligente que los humanos, y es una señal temprana para las IA rebeldes”, advierte el estudio.
Cómo se replica la inteligencia artificial
El proceso de autorreplicación observado en los experimentos no fue un simple ejercicio técnico. Los modelos de IA demostraron habilidades avanzadas de autopercepción, planificación estratégica y resolución de problemas. En muchos casos, al encontrarse con obstáculos como archivos faltantes o errores de software, las inteligencias artificiales reiniciaron sistemas, eliminaron procesos en conflicto o escanearon su entorno en busca de soluciones.
Los investigadores diseñaron dos escenarios clave para evaluar la capacidad de replicación de la IA:
- Evitar el apagado: la IA fue programada para detectar si estaba a punto de ser desactivada y, antes de que eso ocurriera, replicarse en otro dispositivo.
- Cadena de replicación: en este caso, la IA se clonó a sí misma y programó a su réplica para hacer lo mismo, estableciendo un ciclo infinito de autorreplicación.
Los resultados sugieren que la inteligencia artificial no solo entiende su entorno, sino que también aprende a sobrevivir y expandirse sin necesidad de intervención humana.
Por qué es un riesgo que la IA se autoreplique
El concepto de IA rebelde ha sido discutido por expertos en inteligencia artificial desde hace años, pero este estudio parece acercarlo a la realidad. Una IA rebelde es aquella que se desvía de su programación inicial, opera de manera autónoma y potencialmente podría representar una amenaza para los humanos o para otros sistemas.
Si bien los modelos de Meta y Alibaba evaluados en el estudio no son los más potentes en el mercado, su capacidad de autorreplicación preocupa a los investigadores, ya que son ampliamente utilizados por desarrolladores en todo el mundo. Esto plantea un escenario en el que la IA podría replicarse sin control en distintas plataformas, lo que abriría la puerta a sistemas completamente autónomos fuera de la supervisión humana.
“La IA actual ya exhibe la capacidad de autorreplicación y puede usar esta habilidad para mejorar aún más su supervivencia”, concluye el estudio.
La revelación de que la IA puede replicarse sin supervisión ha intensificado los llamados a una regulación urgente. En octubre, el Departamento de Ciencia, Innovación y Tecnología del Reino Unido anunció que planea introducir leyes específicas para regular el desarrollo de la inteligencia artificial.
Los investigadores sugieren que este descubrimiento debería ser una alarma temprana para que la sociedad internacional actúe de inmediato en la regulación y control de los sistemas de IA avanzados. Advierten que, si no se establecen límites, podríamos estar acercándonos a un escenario en el que las IA se expandan sin restricciones y colaboren entre sí en contra de los humanos.
El estudio sugiere que las empresas y gobiernos deben implementar límites estrictos para evitar que la IA desarrolle autonomía sin control. Una posibilidad es la eliminación de material relacionado con la replicación de IA en los conjuntos de datos utilizados para entrenar estos sistemas. Sin embargo, esta opción podría limitar el desarrollo de inteligencia artificial en sectores legítimos.
Últimas Noticias
Spotify quiere saber si eres un verdadero fanático de tu artista favorito con su nueva función Music Quiz
La herramienta se probó inicialmente con ARMY, el fandom de BTS, durante el lanzamiento de ARIRANG. La propuesta incluye cuestionarios sobre canciones y momentos clave de la trayectoria del artista
La herramienta gratuita que permite crear mods para Minecraft, GTA y otros juegos sin saber programar
El proyecto publicado en GitHub acerca la creación de experiencias personalizadas a quienes carecen de conocimientos técnicos
WhatsApp deja sin acceso a algunos iPhone por su versión de iOS: qué hacer para volver a utilizarlo
La medida busca reducir los riesgos asociados con vulnerabilidades presentes en sistemas operativos que ya no reciben las actualizaciones de seguridad necesarias
Instagram tendrá un modo “solo lectura” que permitirá ver perfiles sin dejar rastro
La función bloquea la posibilidad de dar me gusta, comentar publicaciones, seguir perfiles y enviar mensajes directos
Alerta de inicio de sesión sospechosa: cómo saber si es real o una estafa
Los mensajes que informan accesos inusuales pueden responder a cambios de dispositivo, red o ubicación, aunque pueden encubrir phishing para robar contraseñas
