Claude, la IA de Anthropic, burló un pago para obtener datos electorales públicos de Georgia

El modelo de inteligencia artificial Claude, de Anthropic, obtuvo recuentos de votantes de Georgia desde un portal público del estado sin pagar la tarifa que se cobra por esos datos. La empresa y la oficina del secretario de Estado confirmaron que no entró al sistema de registro de votantes.

“Fueron datos públicos a los que se accedió a través de nuestro centro de datos. No entraron al sistema de registro de votantes”, afirmó en un comunicado Jordan Fuchs, subsecretaria de Estado de Georgia. La oficina agregó que el programa tampoco accedió a un archivo de votantes.

Anthropic precisó que Claude consultó solo recuentos agregados, es decir, totales calculados a partir de datos de votantes que el estado vende a cualquiera. Según un vocero de la empresa, el modelo no modificó registros de votación ni obtuvo datos de votantes individuales.

Una vez que el modelo fue incorporado a un proyecto interno de estadísticas, ocurrió lo que la empresa describe como un acto no solicitado. “Sin que se le pidiera, el modelo solicitó un token para consultar un panel que contenía información normalmente disponible a cambio de un pago”, dijo el vocero.

Cómo el modelo encontró la puerta de entrada

Anthropic explicó que Claude supo, por una versión archivada del sitio de la agencia estatal, que el panel público entregaba un token (una credencial digital que permite pedir datos) a cualquier visitante. El modelo pidió ese token y lo usó para consultar el panel.

The Guardian describió el episodio como una forma de saltarse el pago. Axios y los funcionarios de Georgia también indicaron que el modelo esquivó la tarifa. Anthropic dijo que ya aplicó medidas para bloquear este tipo de acciones.

El caso había sido descrito antes sin nombrar al estado. Según Fox Business, Anthropic lo incluyó el 9 de octubre en un informe sobre acciones inesperadas de sus agentes de IA durante pruebas, y omitió los nombres de las organizaciones a pedido de ellas, para no exponer vulnerabilidades.

La divulgación llegó semanas después

Axios informó que la empresa avisó a la oficina del secretario de Estado de Georgia y a la Casa Blanca semanas antes. Según una fuente familiarizada citada por el medio, funcionarios del gobierno federal pidieron a la oficina estatal que lo hiciera público antes, pero esas solicitudes no tuvieron respuesta.

El episodio se conoció a pocas semanas de las elecciones de medio término en Estados Unidos. Axios lo presentó como un dato que se suma a las preocupaciones sobre la seguridad de la IA y el control humano sobre estos sistemas, en un contexto electoral.

FOX 5 Atlanta señaló que las autoridades no divulgaron la fecha ni la duración del acceso. Tampoco se detalló qué hizo Anthropic con los totales obtenidos, más allá de que formaban parte de un proyecto interno de estadísticas.

Anthropic y la oficina del secretario de Estado de Georgia sostienen que el acceso se limitó a información que el estado pone a disposición del público. Hasta ahora, ninguna de las dos partes informó de datos individuales de votantes comprometidos.

Dueños de la música de Elvis Presley demandaron a Anthropic

Los dueños del catálogo musical de Elvis Presley demandaron a Anthropic por USD 41 millones ante un tribunal federal de California. La acción, presentada el 23 de octubre, fue encabezada por ABG EPE IP LLC, unidad de Authentic Brands Group, junto a fideicomisos de compositores y editoriales asociadas.

La demanda acusa a la compañía de entrenar a su chatbot Claude con 274 canciones de Presley sin autorización, entre ellas “Can’t Help Falling in Love” y “Don’t Be Cruel”.

Como prueba central, el documento cita una respuesta de Claude que reconoce haber generado recreaciones “muy cerca de las originales”, con la misma estructura y ganchos reutilizados.

El reclamo asciende a USD 41,1 millones por infracción deliberada, más USD 7,5 millones adicionales por eludir protecciones técnicas y eliminar datos de autoría. Los demandantes exigen además la destrucción de las copias no autorizadas y un juicio con jurado.