“Somos conscientes de la magnitud de todo esto”: Sam Altman se pronuncia sobre el peligro de la IA

El presidente ejecutivo de OpenAI, Sam Altman, admitió que los temores globales sobre la inteligencia artificial tienen fundamento y que la industria debe actuar en consecuencia con la magnitud del desafío que enfrenta.

La declaración llegó el martes durante la conferencia Dreamforce, organizada por Salesforce en San Francisco, en medio de un intenso debate entre los principales referentes del sector sobre los riesgos existenciales que podría representar esta tecnología para la humanidad.

Sam Altman y su mensaje sobre los riesgos de la inteligencia artificial

“El mundo debe confiar en que vamos a hacer lo correcto porque es lo correcto y porque somos conscientes de la magnitud de todo esto”, aseguró Altman ante los asistentes al evento.

El directivo fue más allá al validar las preocupaciones que circulan desde hace más de una semana en torno a los riesgos de estos sistemas. Según explicó, la naturaleza de la amenaza ya no requiere de un esfuerzo especulativo para comprenderla.

“Ya no hace falta tanta imaginación como antes para ver cómo esto podría salir mal”, dijo. La frase resume el cambio de percepción que atraviesa el sector: los escenarios negativos dejaron de ser hipótesis lejanas para convertirse en posibilidades concretas.

Altman remató su intervención con una frase que sintetiza su posición frente al temor colectivo: “Creo que el mundo hace bien en tener miedo”. El comentario se produjo en el marco de un encuentro donde distintas voces del rubro tecnológico expusieron posturas divergentes sobre cómo abordar estos riesgos.

Dario Amodei y el llamado a ralentizar el avance de los modelos de IA

Dario Amodei, de Anthropic, fue quien originó la controversia con su pedido de desacelerar el desarrollo de los modelos de inteligencia artificial. Su participación en Dreamforce fue breve, pero mantuvo la postura inicial.

Amodei sostuvo que el riesgo asociado a estos sistemas es sustancial y defendió el rol de las compañías del sector como ejemplo para el resto de la industria. “Creo que así es como se lidera el sector: dando ejemplo, diciendo que todos podemos mejorar siempre”, afirmó el directivo de Anthropic durante su exposición.

Jensen Huang y la postura de Nvidia frente a la regulación de la IA

Jensen Huang, presidente ejecutivo de Nvidia, mostró una posición más escéptica frente a la necesidad de nuevas normas para el sector. Consideró que el mercado no requiere de leyes adicionales y que la velocidad en el desarrollo de estos productos no es incompatible con la seguridad.

“Se pueden tener perfectamente las dos cosas a la vez”, dijo Huang en referencia a la posibilidad de combinar rapidez y seguridad en el lanzamiento de nuevos sistemas.

El directivo instó a las empresas a avanzar con determinación, aunque con capacidad de frenar cuando sea necesario. “Corre todo lo que puedas”, añadió. “Pero si en algún momento sientes que la empresa se te está yendo de las manos o que el producto no va a ser seguro, para y asegúrate de hacerlo bien”.

Huang profundizó en su visión sobre la seguridad como un componente técnico del desarrollo de software. “La seguridad es primordial. Es la tarea número uno. Ahora bien, la seguridad es un problema de ingeniería. Al fin y al cabo, desarrollamos software”, explicó.

El presidente ejecutivo de Nvidia fue categórico respecto a las condiciones que debe cumplir un producto antes de salir al mercado. “Pero si no estamos seguros de que un producto es seguro, si no tienes confianza en su funcionamiento, sus capacidades o su seguridad, no lo lances”, agregó.

Mark Zuckerberg y la alineación como capacidad diferencial en la IA

Mark Zuckerberg, presidente ejecutivo de Meta, había permanecido en silencio desde que estalló la controversia sobre los riesgos de la inteligencia artificial. Su intervención llegó desde fuera del evento, a través de un mensaje publicado en la red social X.

El planteo de Zuckerberg se alineó con la postura de Huang: para el directivo de Meta no resulta necesario un acuerdo conjunto entre las empresas del sector, ya que cada laboratorio cuenta con motivos propios para actuar con cautela de forma independiente.

“La confianza y la alineación se están convirtiendo rápidamente en las capacidades más importantes a la hora de diferenciar agentes y modelos. Cualquier laboratorio que no se centre en la alineación se quedará atrás”, escribió el directivo de Meta, empresa dueña de Facebook, Instagram y WhatsApp.

Zuckerberg citó un ejemplo concreto de su propia compañía para respaldar su argumento. “Meta retrasó varios meses el lanzamiento de Muse para centrarse en la seguridad y la protección”, señaló, en referencia al nuevo modelo desarrollado por la firma.

El directivo remarcó que esa decisión no respondió a una exigencia externa sino a una convicción propia. “No pedimos a los demás que hicieran esto antes que nosotros. Simplemente lo hicimos como parte de nuestro trabajo diario porque era claramente lo correcto para la gente y para nosotros”, añadió.

Elon Musk responde a Amodei y Zuckerberg sobre el debate de la IA

Elon Musk, dueño del modelo Grok, también participó del intercambio en la red social X. Su respuesta al mensaje de Zuckerberg fue breve: un simple “cool”, término que puede interpretarse tanto como una expresión de acuerdo como de aprobación neutra.

La reacción de Musk frente al planteo de Amodei resultó más contundente. Ante el pedido de mayor control sobre el desarrollo de estos sistemas, el empresario escribió: “Dario tiene razón”.