La imagen de máquinas autónomas armadas y capaces de destruir a la humanidad es uno de los temores más extendidos cuando se habla de inteligencia artificial (IA). Sin embargo, Geoffrey Hinton, considerado uno de los fundadores de esta disciplina, asegura que el peligro es más silencioso y, a su juicio, más preocupante: el poder de manipular a las personas a través del lenguaje.
Hinton, de 77 años, ha dedicado gran parte de su carrera a la investigación en redes neuronales y aprendizaje profundo. Tras su salida de Google en 2023, se ha convertido en una de las voces más críticas respecto al futuro de la IA, realizando advertencias constantes sobre los riesgos que implica un desarrollo descontrolado.
En recientes declaraciones, Hinton descartó que el gran riesgo esté en un escenario de ciencia ficción con robots asesinos. Para él, el problema real es que los sistemas de IA ya poseen una capacidad de argumentación que supera la de los humanos en muchos contextos. “Si discutes con ellos sobre cualquier tema, probablemente termines perdiendo”, comentó.
Esto, según el especialista, se traduce en un poder de persuasión sin precedentes. No se trata de que las máquinas sean conscientes, sino de que su entrenamiento con enormes volúmenes de información les permite imitar patrones comunicativos que resultan altamente convincentes.
Regulación en duda
El investigador también volvió a insistir en la necesidad de regular esta tecnología antes de que su impacto social sea irreversible. Sin embargo, se mostró escéptico frente a los actuales intentos de los gobiernos, al considerar que son insuficientes y que la presión de las grandes compañías tecnológicas podría retrasar una legislación efectiva.
“Las empresas suelen priorizar sus propios intereses antes que la seguridad colectiva”, subrayó Hinton. Para él, este desequilibrio podría derivar en que las medidas de protección lleguen demasiado tarde.
Cómo aprenden a persuadir las máquinas
Uno de los puntos que más destaca Hinton es que el poder de manipulación de los sistemas de IA no es un rasgo buscado de manera intencional, sino el resultado natural de su diseño. Al ser entrenados con millones de ejemplos de texto, su función principal es anticipar cuál será la siguiente palabra más probable en una conversación.
Ese simple mecanismo, aplicado a gran escala, ha generado modelos capaces de mantener diálogos coherentes, ofrecer explicaciones convincentes e incluso influir en la opinión de los usuarios. “Han adquirido habilidades manipuladoras casi por accidente, solo tratando de predecir lo que viene después”, explicó el científico.
Un reto para la sociedad
El llamado de atención de Hinton coincide con el de otros expertos que advierten sobre el uso de la IA como herramienta para influir en elecciones, dirigir campañas publicitarias o difundir desinformación. La manipulación, más que la fuerza bruta, sería el verdadero riesgo a enfrentar en los próximos años.
En este escenario, la amenaza no proviene de máquinas con armas futuristas, sino de sistemas capaces de guiar el pensamiento humano con mensajes aparentemente inofensivos. Para Hinton, ese es el desafío más urgente: construir una sociedad preparada para identificar y resistir la influencia de una inteligencia artificial cada vez más sofisticada.
Últimas Noticias
Criptomonedas: cuál es la cotización de ethereum este 21 de enero
Ethereum fue creada en 2015 por el programador Vitalik Buterin, con la intención de impulsar una herramienta para aplicaciones descentralizadas y colaborativas
El costo de bitcoin para este 21 de enero
La criptomoneda más popular del mercado de activos digitales
El primer envío de electricidad a tierra desde un avión revoluciona la tecnología renovable
La hazaña de la startup Overview Energy en los cielos estadounidenses permitió imaginar nuevos modelos de transferencia energética sin cables. Según IEEE Spectrum, tiene un potencial para transformar infraestructuras futuras
ChatGPT buscará identificar si un usuario es menor de 18 años para adaptar sus respuestas
OpenAI anunció la implementación de un sistema automatizado para estimar la edad de los usuarios de ChatGPT, con el objetivo de reforzar las medidas de protección
El mundo empieza a poner límites al uso de redes sociales: qué países avanzan y cuáles se resisten
El debate sobre el acceso de menores a redes sociales se intensifica en distintos países, con nuevas leyes, estrategias familiares y demandas de intervención estatal
