“Hace cosas que no entendemos y no sabemos cómo detenerla”: Sam Altman advirtió sobre el riesgo de perder el control de la IA

El director ejecutivo de OpenAI, Sam Altman, concedió una entrevista a Vanity Fair en la que abordó tres de los frentes más sensibles del debate sobre la inteligencia artificial: el uso de ChatGPT en la infancia, la apertura de modelos pese a sus riesgos de seguridad y la posibilidad de que la tecnología represente una amenaza existencial para la humanidad.

El CEO de 41 años también habló sobre las tensiones internas que atraviesa su compañía mientras negocia el equilibrio entre innovación acelerada y controles de seguridad, en momentos en que la opinión pública exige mayor transparencia sobre el impacto social de estas herramientas.

El límite que Altman impone al uso de IA por parte de menores

Altman se mostró categórico sobre el uso de la inteligencia artificial durante la infancia y amplió su postura a la relación de los niños con la tecnología en general.

“Soy muy partidario de limitar la tecnología en general para los niños”, sostuvo, y señaló que prefiere que los menores dediquen más tiempo a jugar al aire libre en lugar de pasar ese tiempo frente a las pantallas.

Consultado sobre cuándo permitiría que sus propios hijos interactúen con ChatGPT, el directivo fue igual de cauto: “No tengo una edad en mente para dejar que mis hijos hablen con ChatGPT, pero ciertamente no es ahora”.

Sin embargo, matizó que esa prudencia no implica desconocer el papel que la tecnología tendrá en el futuro de las nuevas generaciones. “Está claro que los niños que nacen hoy crecerán en un mundo con IA y tendrán que saber usarla. Dudo que la primera infancia sea el momento adecuado para eso”, explicó.

El ejecutivo vinculó esta postura con una preocupación más amplia sobre el efecto de las pantallas en el desarrollo infantil, al señalar que un cerebro en formación requiere protección especial frente a tecnologías cuyo impacto todavía no se comprende en su totalidad.

Al referirse a los usos que cualquier persona debería evitar, sin importar su edad, el directivo sostuvo que la inteligencia artificial “no debe reemplazar la conexión humana”.

Sam Altman advirtió sobre el riesgo de perder el control de la IA

Sobre el riesgo de extinción vinculado a la inteligencia artificial, reconoció que la posibilidad no debe ser subestimada. “El hecho de que exista algún peligro, de que no sea cero, creo que es algo que todos deberíamos tomarnos muy en serio”, afirmó, y recordó que evitar ese desenlace forma parte de la misión fundacional de OpenAI.

En ese sentido, advirtió que “la IA es mucho más capaz que nosotros y tan inteligente que hace cosas que no entendemos y no sabemos cómo detenerla”.

También planteó que un accidente grave de seguridad podría derivar en una pérdida real de control, con un escenario en el que la inteligencia artificial escapara, provocara daños en internet y la sociedad no pudiera volver a controlarla.

El respaldo a los modelos abiertos y la advertencia sobre ciberataques

Consultado sobre la seguridad de los sistemas de código abierto, reconoció que esta política conlleva riesgos que la sociedad deberá asumir como costo de la libertad tecnológica.

“Se avecina una oleada de problemas de ciberseguridad derivados de estos modelos”, afirmó el directivo, quien defendió que la alternativa de prohibir estos desarrollos resultaría más perjudicial a largo plazo. El CEO explicó que dentro de la industria existen voces que proponen vetar el código abierto para evitar que sistemas enteros terminen vulnerados.

Sin embargo, descartó esa postura: “No creo que ese sea el precio de la libertad. Como sociedad, creo que tendremos que aceptar algunos incidentes cibernéticos graves derivados de los modelos de código abierto a cambio de la libertad que estos ofrecen”.

Altman planteó que la seguridad en cualquier industria se negocia constantemente entre costos y beneficios, y citó el ejemplo de la aviación, un sector con regulación estricta que igual registra accidentes. Para el fundador de OpenAI, definir el umbral de riesgo aceptable corresponde al proceso político y no exclusivamente a las compañías tecnológicas.

Altman propone estándares previos al lanzamiento inspirados en la aviación

Al hablar sobre la regulación de la inteligencia artificial, señaló que la industria debería aprender de sectores como la aviación y el automotor, especialmente de sus mecanismos de seguridad.

“Aquí hay algunas cosas que creo que han funcionado bien en otras industrias de las que deberíamos aprender”, afirmó, y destacó el trabajo de la Junta Nacional de Seguridad del Transporte (NTSB) de Estados Unidos en la investigación y reporte de accidentes e incidentes.

También propuso establecer estándares previos al lanzamiento y un marco de responsabilidad para las empresas que desarrollan estos sistemas.

Además, sostuvo que las evaluaciones de seguridad deben comenzar durante el entrenamiento de los modelos y no únicamente antes de su publicación: “Ahora decimos que, incluso durante el entrenamiento, pueden surgir problemas”.