Exdirectora de OpenAI advirtió que las empresas de IA usan esta tecnología para perfeccionar sus modelos

Helen Toner, exmiembro del directorio de OpenAI, afirmó que esta empresa y Anthropic ya usan inteligencia artificial en cada vez más etapas del desarrollo de su propia IA y dicen que eso acelera su trabajo. Lo dijo en el podcast Decoder, de The Verge.

Toner dirige el Centro de Seguridad y Tecnologías Emergentes (CSET) de la Universidad de Georgetown. Según explicó, ambas compañías nacieron con la meta de construir máquinas tan inteligentes como las personas o más, y no con la idea de ser empresas de aplicaciones para consumidores.

El método se llama automejora recursiva: una IA que ayuda a crear la siguiente generación de IA. La idea es antigua. En la década de 1960, I. J. Good, que trabajó con Alan Turing, planteó que una máquina ultrainteligente podría construir otra todavía más inteligente.

Toner aclaró los límites actuales: las empresas no le piden a un modelo que se mejore solo, dijo, sino que usan IA en más partes de su proceso de investigación y desarrollo, y afirman que ven cómo ese trabajo se acelera. Mucha gente fuera de las compañías lo duda; muchos dentro lo creen.

Citó al ejecutivo Demis Hassabis, de Google DeepMind, quien habló de estar “en las estribaciones de la singularidad”, el momento hipotético en que la IA superaría a la humana. Para Toner, esa meta se volvió tan habitual en el mundo tecnológico de California que sus protagonistas pierden de vista lo extraña que suena para el resto.

Hacer que la IA obedezca sigue sin resolverse

El entrevistador, Nilay Patel, le preguntó por la alineación, el intento de que los modelos se comporten como sus creadores quieren.

Toner dijo que el término abarca ideas muy distintas: que las barreras de la empresa funcionen, que el modelo haga lo que pide el usuario o que sea moralmente bueno.

La versión más coherente, a su juicio, es lograr que la IA haga lo que el usuario quería. Y eso, según lo que ella puede ver, no está en camino de resolverse, algo que calificó de “no genial, por decirlo suavemente”.

Sobre el riesgo de las armas biológicas, Toner criticó la posición de parte de la comunidad de seguridad en IA, que considera ciertas capacidades “demasiado peligrosas” y pide actuar antes de que se difundan. Dijo que esa visión subestima la capacidad de la sociedad para adaptarse.

Puso un ejemplo: en Estados Unidos hay cientos de miles de personas con formación para fabricar armas biológicas y no hay un gran número de ataques. Atribuyó eso en parte a que el conocimiento es escaso, pero también al acceso a materiales y a la síntesis de ADN por correo.

Sobre la inteligencia artificial general, la que igualaría a la humana en casi todo, Toner dijo que el término dejó de ser útil. En su opinión, el mundo ya está dentro de esa “nube difusa”: se superaron algunas definiciones, como la de un modelo que hace muchas cosas distintas, y se está lejos de otras.

Un solo ejecutivo confiable no alcanza

Toner fue una de las cuatro integrantes del directorio de OpenAI que votaron por despedir a Altman. Altman volvió como director ejecutivo, ella renunció y la compañía se reestructuró, según The Verge. Consultada por si repetiría esa decisión, respondió “por supuesto” y dijo que sabían que sería doloroso.

Sobre si Altman es confiable, afirmó que su postura es clara. “Si nuestras esperanzas para el futuro dependen de que una sola persona sea confiable, estamos bastante mal”, dijo. Por eso, agregó, defiende estructuras distintas y la participación de más personas con más perspectivas.

El CSET, con unas 50 personas desde 2019, informa a legisladores y agencias del gobierno estadounidense. Toner dijo que la brecha de conocimiento sobre IA en Washington existe, pero que los asesores del Congreso saben más de lo que se les reconoce.

Patel y ella hablaron un día después de las elecciones legislativas. Toner señaló que el dinero de la industria para sacar de carrera a candidatos que hablaban de regular la IA “no funcionó muy bien”.