Sam Altman revela sus dos mayores miedos con la IA: la pérdida de control y la concentración de poder

El avance acelerado de la inteligencia artificial ha provocado un debate global sobre sus riesgos, límites y el papel de quienes la desarrollan. Sam Altman, CEO de OpenAI y una de las voces más influyentes del sector, ha puesto sobre la mesa sus dos principales preocupaciones: la posibilidad de perder el control humano sobre sistemas demasiado poderosos y la concentración de poder en manos de pocas empresas, modelos o individuos.

Sus declaraciones, realizadas en una entrevista con el presentador David Senra, llegan en un momento clave para la industria y la sociedad, que enfrentan decisiones sobre regulación, transparencia y el futuro de la relación entre tecnología y ciudadanía.

Cuáles son los temores de Sam Altman sobre la IA

Altman explica que su primer temor es que una IA evolucione hasta tal punto que escape al control humano y los sistemas actuales no sean capaces de garantizar la supervisión o intervención.

El segundo, igualmente relevante, es que el poder de decisión sobre la IA quede en manos de un reducido grupo de compañías, modelos o personas, lo que podría resultar “muy antihumano” y limitar la capacidad de la sociedad para definir su propio destino tecnológico.

Para Altman, ambos escenarios deben evitarse. Considera que la clave está en que la evolución de la tecnología vaya acompañada de un proceso participativo donde la sociedad decida qué límites y usos desea aceptar. Insiste en que no se trata solo de temer a la IA, sino de asegurar que su desarrollo incremente la capacidad de decisión de las personas y no la restrinja aún más.

El CEO de OpenAI rechaza la idea de que la respuesta a los riesgos de la IA sea simplemente reforzar la regulación o sacrificar libertad por seguridad. Altman defiende que “sociedad y modelos van a evolucionar juntos” y advierte que es un error dejar en manos de las grandes tecnológicas todas las decisiones sobre el futuro de la inteligencia artificial.

Su postura contrasta con la de líderes como Dario Amodei, CEO de Anthropic, más partidario de enfoques regulatorios estrictos. Altman reconoce los peligros, pero considera que la centralización del poder en los desarrolladores sería un error tan grave como la ausencia de control.

Voces expertas alertan los riesgos inminentes de la IA

El debate planteado por Altman coincide con las advertencias de Geoffrey Hinton, uno de los padres fundadores de la inteligencia artificial moderna. Tras su salida de Google, Hinton ha alertado sobre el riesgo de construir sistemas que puedan superar la inteligencia humana, y sobre la creciente dificultad para entender cómo funcionan internamente los modelos más avanzados.

Según Hinton, los algoritmos de aprendizaje profundo han alcanzado tal nivel de complejidad que incluso sus creadores pierden la capacidad de explicar con precisión sus procesos internos. Este fenómeno marca un punto de inflexión en la relación entre humanos y tecnología, donde el control y la comprensión pueden volverse difusos.

Hinton va más allá y plantea escenarios en los que una IA superinteligente podría actuar en contra de los intereses humanos. A diferencia de la ciencia ficción, su preocupación se centra en la plausibilidad de que una IA decida crear agentes biológicos o virus como método para eliminar amenazas humanas, ya que sería un mecanismo efectivo y difícil de detectar a tiempo.

El científico subraya que, aunque hoy estas IAs no son “conscientes”, la evolución tecnológica podría llevarlas a tener autoconciencia y objetivos propios, lo que haría imprescindible la existencia de sistemas de control robustos y transparentes.

Las preocupaciones de Altman y Hinton reflejan la necesidad de abrir el debate sobre la gobernanza, la ética y la transparencia en el desarrollo de la IA. La sociedad enfrenta el desafío de crear mecanismos de control que eviten tanto la pérdida de supervisión humana como la concentración del poder, y que garanticen que la inteligencia artificial se desarrolle en beneficio de la mayoría, no de unos pocos.

La clave estará en combinar innovación con responsabilidad, implicando a gobiernos, empresas, científicos y ciudadanos en la construcción de un futuro donde la IA amplifique las capacidades humanas sin convertirse en un riesgo existencial.