CEO de Nvidia advirtió que “los laboratorios de IA que no puedan controlar sus modelos deben ser cerrados”

El CEO de Nvidia, Jensen Huang, advirtió que “los laboratorios de inteligencia artificial (IA) que no puedan controlar sus modelos deben ser cerrados”. Para el ejecutivo, el confinamiento y la alineación de estos sistemas son condiciones técnicas previas al lanzamiento, no obstáculos que puedan ignorarse por la competencia.

“Si dicen que la alternativa es que no hay manera de contener sus experimentos, que se escaparán y dañarán al mundo, entonces creo que la respuesta es que tenemos que cerrar los laboratorios”, sostuvo Huang en The Ezra Klein Show.

El directivo comparó ese escenario con el desarrollo de vehículos autónomos. Un robotaxi que enfrente una situación para la que sus ingenieros no hallaron una solución no debería circular, sobre todo porque estos vehículos son entrenados y no programados mediante reglas fijas.

Cuál es la responsabilidad de los líderes frente a los riesgos de la IA

Huang rechazó que los líderes de las empresas de IA estén obligados a acelerar los lanzamientos por presión competitiva. A su juicio, los directores ejecutivos conservan la capacidad, el poder y la responsabilidad de detener un producto que consideran inseguro.

“Estas son empresas con capacidad de decisión. Estos son CEO con capacidad de decisión”, aseguró. “Si creo que estoy a punto de lanzar un producto que no es seguro, está completamente dentro de mi capacidad, mi poder y mi responsabilidad, y tengo incentivos para no lanzar el producto”.

El empresario señaló que nunca conoció a un ejecutivo que pidiera una excepción a las leyes antimonopolio o a las normas de responsabilidad por productos para ganar más tiempo de desarrollo. Agregó que los laboratorios que provoquen daños pueden afrontar responsabilidad civil e incluso penal.

Qué piensa Jensen Huang sobre los pronósticos apocalípticos de la IA

Huang cuestionó los pronósticos sobre una eventual catástrofe provocada por la IA. En particular, objetó la estimación del pionero de esta tecnología, Geoffrey Hinton, quien situó entre 10% y 20% la probabilidad de que estos sistemas causen un colapso social.

“Ese 10% de probabilidad no está basado en ciencia. No está basado en investigación”, afirmó. “El hecho de que venga de un científico no lo hace científico”.

Según Huang, ese tipo de advertencias ya perjudica al sector porque desalienta a estudiantes de continuar su educación superior ante el temor de que la IA elimine sus oportunidades laborales.

Cómo es posible hacer la inteligencia artificial más segura

El CEO de Nvidia respaldó algunas medidas de seguridad, como la participación de auditores externos para evaluar los sistemas de IA. Sin embargo, sostuvo que los laboratorios destinan actualmente cerca de 80% de sus recursos al desarrollo de capacidades y 20% a la verificación.

Huang espera que esa relación se invierta y que el cómputo dedicado a las evaluaciones aumente hasta diez veces. El planteo combina la exigencia de controles técnicos previos con su oposición a imponer nuevas leyes o regulaciones específicas para la industria.

Asimismo, durante la conferencia Dreamforce, Huang había dicho que las fuerzas del mercado son suficientes para mantener bajo control a las compañías de IA. Esa posición lo distancia del CEO de Anthropic, Dario Amodei, del CEO de OpenAI, Sam Altman, y de otros ejecutivos que han pedido ralentizar el ritmo de desarrollo.

Cuál es la visión de Nvidia sobre el impacto energético de la IA

La discusión alcanzó la demanda energética de los centros de datos. Huang reconoció que el consumo será enorme y consideró que esa necesidad impulsa inversiones en energía sostenible y en la modernización de las redes eléctricas.

“No cabe duda de que dentro de cuatro o cinco años utilizaremos muchos más combustibles fósiles”, dijo. Añadió que la próxima década ofrecerá condiciones inéditas para avanzar hacia fuentes sostenibles y que el elevado costo de los centros de datos ya abrió la posibilidad de instalarlos en el espacio.