CEO de OpenAI cree que “el mundo debería aceptar ciertos riesgos de la IA a cambio de los beneficios”

El CEO de OpenAI, Sam Altman, sostuvo que “el mundo debería aceptar ciertos riesgos de la inteligencia artificial (IA) a cambio de los beneficios y la autonomía que ofrece esta tecnología”, aunque descartó cualquier posibilidad de tolerar una pérdida grave de control sobre sistemas avanzados.

Su postura marca una diferencia con Anthropic, liderada por Dario Amodei, uno de los laboratorios que impulsa regulaciones más estrictas para los modelos de mayor capacidad.

Qué opinó Sam Altman sobre la inteligencia artificial

Altman formuló su visión en una entrevista con Decoded de Politico, donde dijo que el desarrollo de la IA traerá secuelas negativas junto con avances de amplio alcance.

El directivo sostuvo que la sociedad debe aceptar ese intercambio para que las personas conserven capacidad de decisión sobre el uso de estas herramientas.

“Creemos que el mundo debería aceptar ciertos aspectos negativos a cambio de los beneficios de esta tecnología y de que las personas tengan autonomía”, afirmó Altman. Esto genera ruido porque OpenAI se había sumado semanas antes a Anthropic para pedir un freno al avance de determinadas capacidades de la IA.

Por qué la visión de control de la IA de Anthropic se distanció de la de OpenAI

La distancia entre ambos laboratorios se redujo en los últimos meses en materia de seguridad y regulación de modelos, pero Altman mantuvo sus reparos sobre la forma en que Anthropic concibe el control de la tecnología. Su crítica se dirigió a la posibilidad de que esa responsabilidad quede concentrada en una sola organización.

“No estoy de acuerdo, pero entiendo la perspectiva de quienes piensan algo como: ‘Esta tecnología va a ser tan potente y es tan peligrosa que un solo laboratorio en San Francisco debería poseerla y asegurarse de que no pase nada malo, administrando de algún modo cómo repartir sus beneficios’”, aseguró el director ejecutivo de OpenAI.

Para Altman, las personas utilizarán estos sistemas para fines positivos en una proporción “enormemente mayor” que para fines perjudiciales. Por eso, no aceptaría renunciar a los beneficios de la IA para impedir por completo grandes ciberataques, estafas, usos indebidos u otros daños que, según anticipó, ocurrirán.

El ejecutivo precisó que esa aceptación de riesgos tiene un límite: no incluye escenarios catastróficos ni una pérdida grave de control sobre la tecnología. Un portavoz de Anthropic explicó a Politico que sus propuestas regulatorias se aplican únicamente a los modelos de vanguardia.

Qué otros líderes cuestionan en control estricto de la IA

Las discrepancias entre los principales ejecutivos del sector quedaron expuestas durante una reunión privada en la Casa Blanca, tras un almuerzo organizado por el presidente de Estados Unidos, Donald Trump, y el presidente de la Cámara de Representantes, Mike Johnson.

Allí, Dario Amodei, director ejecutivo de Anthropic, defendió sus advertencias sobre los riesgos de la tecnología frente a las críticas de Jensen Huang, máximo responsable de Nvidia.

El encuentro en Washington mostró que el desacuerdo no se limita a OpenAI y Anthropic. Los participantes difundieron una posición común sobre la importancia de la seguridad, pero las diferencias aparecieron durante una sesión más pequeña en la Sala Roosevelt, según The Wall Street Journal.

Huang cuestionó las declaraciones públicas de Amodei sobre las capacidades de los sistemas de IA. El responsable de Anthropic defendió la necesidad de comunicar con transparencia los riesgos asociados a estas herramientas, en particular su potencial para facilitar ataques informáticos y modificar el mercado laboral.

La visión de Amodei parte de evaluar los peligros antes de que los modelos alcancen capacidades que permitan actividades maliciosas o aceleren la automatización de determinadas profesiones. Otros empresarios objetaron las propuestas que podrían limitar el ritmo de desarrollo de esta tecnología.

Asimismo, Huang rechazó medidas que, desde su perspectiva, podrían concentrar mucho poder en un grupo reducido de compañías. La discusión ya había surgido alrededor de una propuesta para crear una organización de autorregulación respaldada por Anthropic, OpenAI y Google.