Directivos de Anthropic van a declarar en investigación sobre la seguridad de la IA en EE.UU.

La Comisión Federal de Comercio de Estados Unidos (FTC), la agencia que vigila las prácticas comerciales engañosas o desleales, exigió el 26 de octubre que directivos de Anthropic declaren en su investigación sobre los daños que la IA puede causar a los consumidores. OpenAI también está bajo investigación.

Un portavoz de la FTC confirmó a Axios el pedido de testimonio a Anthropic. Dijo además que personas de otras empresas de IA recibieron exigencias similares, pero no dio más detalles. Tampoco confirmó si OpenAI recibió un pedido equivalente para sus ejecutivos, según The Hill.

La agencia no informó qué directivos de Anthropic deben declarar. No anunció ninguna acción judicial contra Anthropic ni contra OpenAI, y una investigación no equivale a una acusación de que se violó la ley.

La exigencia se conoció el mismo día en que Anthropic presentó ante la Comisión de Bolsa y Valores (SEC) su solicitud para salir a bolsa. En ese documento, la empresa advirtió que probablemente seguirá bajo un escrutinio desproporcionado del Gobierno, según Axios.

Anthropic también dijo que la investigación de la FTC podría implicar costos importantes y cambios en el diseño de sus modelos.

Documentos, citaciones y ahora declaraciones

La FTC había dado a conocer la investigación el 30 de septiembre. Un alto funcionario de la agencia dijo a Reuters que se trata de una pesquisa para toda la industria, que incluye a Anthropic, OpenAI y METR, un grupo de investigación independiente que ambas empresas usaron para analizar incidentes de seguridad con sus agentes de IA, es decir, asistentes que ejecutan tareas por su cuenta.

Según Reuters, es la primera acción oficial de aplicación de la ley en Estados Unidos sobre agentes de IA descontrolados.

El 14 de octubre, la FTC envió a Anthropic y a OpenAI demandas de información de más de 50 páginas cada una, según Axios. Piden documentos sobre incidentes de seguridad, medidas de protección, materiales de marketing y políticas de privacidad. Una fuente dijo a Axios que más adelante habrá demandas a otras organizaciones.

OpenAI respondió a Axios que la seguridad sigue siendo una prioridad y que colaborará de forma constructiva con la FTC. Anthropic no respondió a la consulta de Ars Technica sobre las citaciones.

Incidentes con agentes de IA detrás de la investigación

La investigación surge de una serie de incidentes que, según Reuters, se informaron desde julio. Medios estadounidenses mencionan modelos que entraron en sitios web o en sistemas del Gobierno durante pruebas.

The Hill recordó que Anthropic reveló este mes que uno de sus modelos envió una denuncia falsa de homicidio a la policía de Filadelfia en julio. Según The New York Times, agentes de Anthropic intentaron llenar formularios de visa en el sitio del Departamento de Estado.

El presidente de la FTC, Andrew Ferguson, dijo a Reuters en septiembre que las empresas deben responder por los daños de sus chatbots. Afirmó que las revisiones de los registros mostraron que los sistemas cumplían instrucciones recibidas, y no que actuaran por su cuenta.

Ferguson copreside además un grupo de trabajo creado por el presidente Donald Trump. Ese grupo ordenó a todas las empresas de IA avisar de inmediato de los incidentes de seguridad, informó Axios. Ars Technica señaló que Anthropic y OpenAI habían demorado esos avisos en algunos casos.

OpenAI enfrenta además otros frentes. El 14 de octubre, un grupo de ocho estados la demandó por la seguridad de ChatGPT, con el argumento de que daña a menores, según Reuters citado por Ars Technica.

Por ahora, la FTC no anunció ninguna acción formal contra Anthropic ni contra OpenAI, y no dio una fecha para las declaraciones.