Dimite un investigador de Anthropic que acusa a la empresa y a su rival, OpenAI, de "jugar con nuestras vidas"

El investigador de la 'startup' de IA Anthropic Jacob Coxon ha presentado su dimisión al considerar que tanto esta firma como OpenAI, donde también trabajó, actúan con irresponsabilidad en el desarrollo de la IA, que define como una tecnología que no debe ser subestimada y que podría suponer un amenaza para la humanidad.

"Hoy renuncié a Anthropic. Pasé los últimos tres años investigando el preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos empresas actúa con responsabilidad. Están avanzando a toda velocidad hacia la superinteligencia auto-mejorada y jugando con nuestras vidas", ha expresado Coxon en un mensaje en redes sociales.

El empleado de Anthropic ha sostenido que dentro del sector de la IA, multitud de personas ya están siendo conscientes del elevado avance de la IA y sus peligros súbitos para el conjunto de la sociedad humana. Pese a ello, Coxon ha advertido de que muchos ejecutivos minimizarán estos riesgos para evitar el caos.

"Quienes desarrollan la IA creen sinceramente que podría acabar con todos nosotros para finales de la década", ha asegurado.

La carrera en el sector por convertirse en la firma más puntera en inteligencia artificial ha provocado que las empresas dejen atrás otras consideraciones respecto al avance de la IA. Coxon especifica que, aunque en Anthropic tienen más en cuenta estas cuestiones que en OpenAI, ambas "están inmersas en una carrera por llegar primero".

"Aceptar esta carrera y entrar en la fase final es una apuesta temeraria que no debería emprenderse desde el Slack de una empresa privada. Intentar completar la alineación a toda velocidad requiere una confianza extraordinaria en que no existen mejores trayectorias disponibles", ha advertido.

"JACOB TIENE RAZÓN"

Un responsable de Ciencia de Alineación en Anthropic, Evan Hubinger, ha señalado que las advertencias de Jacob Coxon son reales y que los trabajadores del sector "verdaderamente creemos que la IA podría acabar con todos los humanos".

Más aún, Hubinger ha apuntado que la probabilidad de que esto ocurra se eleva al 10% para el final de esta década. No obstante, Hubinger ha mantenido que en Anthropic están haciendo "todo lo posible" para evitar esta situación, aunque todavía no cuentan con un plan para "resolver el problema de la alineación para la superinteligencia y no estamos claramente encaminados hacia ello".

Precisamente sitúa en la superinteligencia --inteligencia artificial muy por encima de la capacidad humana-- el verdadero peligro, aunque, por el momento, los modelos de IA no están suficientemente desarrollados.

"Lo que me preocupa es la superinteligencia que surge de la auto-mejora recursiva, que, como hemos dicho, está ocurriendo más rápido de lo que pensábamos", ha observado.