OpenAI y Anthropic abrieron sus primeras salas de crisis para vigilar los chatbots en las elecciones de Estados Unidos

OpenAI y Anthropic instalaron por primera vez salas de crisis dedicadas a unas elecciones de Estados Unidos. Ambas empresas vigilarán el uso de ChatGPT y Claude para frenar la desinformación y el abuso de sus herramientas durante las legislativas del 3 de noviembre, según informó Semafor el 2 de noviembre.

OpenAI anunció su centro a Politico el 28 de octubre. Se llama Centro de Operaciones Electorales, funciona desde esa semana y seguirá activo hasta que se cuenten todos los votos. Politico informó que reúne a cientos de empleados.

Su tarea principal es combatir el abuso de las propias herramientas de la empresa. El equipo sigue los hechos en tiempo real y atiende reportes de comportamientos inesperados de los modelos o de presuntas violaciones de las reglas de uso.

Josh Lawson, jefe de riesgo cívico y estratégico de OpenAI, está a cargo del centro. Dijo que este se apoya en un trabajo de años y que reúne a los equipos para “responder rápido a problemas emergentes” y aplicar las políticas “mientras la gente va a votar”.

Una sala de crisis nacida en Meta

Semafor recuerda que Meta creó la primera sala de este tipo en 2018, por la preocupación ante la desinformación electoral. Según el medio, la IA agravó esas amenazas: ahora incluyen videos falsos y resultados de búsqueda con IA que difunden datos incorrectos.

Como ejemplo, Semafor citó que la semana anterior el modo de IA de Google no respondió a una consulta sobre quién ganó la elección de 2020. Google dijo que trabajaba en corregirlo.

Un vocero de Anthropic afirmó a Semafor que, antes de la votación, hay una sala dedicada a monitorear la plataforma por usos indebidos, lista para responder a cualquier incidente. La empresa no detalló cuántas personas la integran.

Katie Harbath, exdirectora de política pública de Meta, explicó a Semafor que estas salas se crean para lo que no se puede prever: hace falta un proceso establecido para clasificar rápido los problemas que surjan.

Lo que midió Anthropic sobre el uso político de Claude

En un análisis de 250.000 conversaciones de una semana, publicado el 14 de octubre, Anthropic halló que los temas de política y asuntos públicos son el 5,75% de las conversaciones de Claude.ai en Estados Unidos. Las dedicadas específicamente a elecciones o votación son el 0,51%.

Los pedidos de recomendación de voto aparecieron en cerca del 0,01% de las conversaciones. Las que violaban sus reglas de integridad electoral, en el 0,002%. La empresa prevé que esas proporciones suban al acercarse la votación.

Dos centros de estudio independientes, el Institute for Strategic Dialogue y el McCain Institute, probaron las defensas de Claude. Según Anthropic, el sistema rechazaba un pedido dañino aislado, pero podía no detectar una campaña maliciosa repartida en muchas tareas que parecían inocentes. La compañía agregó clasificadores para esos casos.

Anthropic también informó que bloqueó las cuentas de operadores en el extranjero de un sitio de noticias falso que usó Claude para producir cobertura de las legislativas favorable a narrativas de Rusia, Irán y Corea del Norte. Otros actores buscaban lucrar con noticias fabricadas.

Vota aquí, resultados y límites de las imágenes

OpenAI informó el 20 de octubre que ChatGPT ya muestra datos de registro, plazos y lugares de votación de Democracy Works, una organización sin fines de lucro. También incorpora recuentos en vivo de The Associated Press cuando cierren las urnas. Las imágenes que muestren interferencia electoral se generan en estilo de dibujo, no fotorrealista.

Anthropic dijo que Claude empezará a mostrar información oficial de Democracy Works por estado y los resultados vigentes la noche de la elección y los días siguientes. El centro de OpenAI funcionará hasta que termine el recuento de votos.