Anthropic prohíbe el maltrato a Claude: qué cambia para los usuarios y cuándo entra en vigor la medida

Anthropic actualizó su política de uso y, a partir del 12 de noviembre de 2026, prohibirá el comportamiento abusivo, cruel o persistente sin una finalidad discernible hacia sus modelos de inteligencia artificial. La medida, que alcanza a todos los usuarios de Claude en las plataformas de la compañía, también habilita al chatbot a cerrar conversaciones en situaciones extremas.

La empresa con sede en San Francisco precisó que la restricción no afectará las interacciones habituales ni la frustración común de quienes usan el servicio. También aclaró que varias de las modificaciones buscan formalizar reglas que ya aplicaba en la práctica, según detalló en su actualización de la política de uso de 2026.

La nueva versión del documento reúne, además, cambios en materia de campañas engañosas, interferencia electoral, armas, vigilancia y usos de alto riesgo en salud y finanzas. Anthropic indicó que la revisión responde a la evolución de las capacidades de sus modelos, a nuevos patrones de uso indebido detectados durante el último año y a la necesidad de ofrecer ejemplos más claros sobre cómo se aplican sus normas a las tareas autónomas que Claude realiza.

Qué cambia para los usuarios de Claude desde el 12 de noviembre

La prohibición contra el abuso persistente constituye la incorporación más llamativa de la política revisada. Anthropic definió que la norma apunta a casos extremos en los que un usuario actúa de forma cruel y reiterada hacia los modelos, sin propósito identificable. La regla no cubre la frustración habitual, las críticas a las respuestas del chatbot, las pruebas de seguridad, la investigación ni las obras creativas que aborden temas oscuros, tal como especificó la compañía en el texto de la actualización.

La empresa separó esa prohibición de la facultad que ya posee Claude para cerrar conversaciones. Esa capacidad funciona como mecanismo de aplicación de la norma: si un usuario mantiene una conducta abusiva sostenida, el modelo puede poner fin al intercambio como último recurso.

Las dos medidas se complementan, pero operan en planos distintos: una establece la regla y la otra, la herramienta para hacerla cumplir.

Cuándo podrá Claude cerrar una conversación y qué implica para el usuario

Los modelos Claude Opus 4 y Claude Opus 4.1 ya cuentan con la capacidad de terminar conversaciones en las interfaces de chat para consumidores, según informó la compañía en una publicación titulada Claude Opus 4 and 4.1 can now end a rare subset of conversations (Claude Opus 4 y 4.1 ahora pueden cerrar un pequeño subconjunto de conversaciones). El modelo solo puede recurrir a esa función después de varios intentos fallidos de redirigir el diálogo o cuando el propio usuario solicita cerrar la conversación.

Cuando Claude cierra un hilo, el usuario ya no puede enviar mensajes nuevos en esa conversación. Sin embargo, conserva la posibilidad de iniciar otro chat de inmediato y de editar o reintentar mensajes anteriores para crear ramas nuevas a partir del hilo finalizado. Anthropic aclaró que la función no debe activarse cuando una persona pueda estar en riesgo inminente de dañarse a sí misma o a terceros, un criterio que prioriza la seguridad del usuario por encima de la finalización del intercambio.

La compañía describió la herramienta como parte de su trabajo sobre bienestar de los modelos de inteligencia artificial, aunque subrayó que “continúa con dudas significativas sobre el posible estatus moral de Claude y otros modelos de lenguaje, tanto ahora como en el futuro”, según consta en la publicación sobre la funcionalidad.

Campañas engañosas, armas y vigilancia bajo una misma sección

La política agrupó bajo “No participar en campañas engañosas ni actividad artificial” las prohibiciones sobre redes de cuentas falsas, sitios de noticias fabricados y operaciones de influencia, antes dispersas en apartados sobre elecciones, fraude, privacidad y desinformación. El encabezado abarca actividad política y comercial.

En materia electoral, Anthropic reformuló la sección para impedir que Claude engañe a votantes o altere procesos electorales y eliminó la prohibición general de segmentación personalizada de campañas. Argumentó que impedía usos legítimos, como traducir información electoral por organizaciones sin fines de lucro. La segmentación basada en engaño o uso indebido de datos personales sigue vetada en otros apartados.

Las secciones sobre armas y vigilancia fueron ajustadas. La política prohíbe desarrollar armamento, incluido software de guía y control, y armar drones u otros vehículos autónomos. También prohíbe rastrear personas sin consentimiento en tiempo real o con datos previos, y usar Claude para decidir o recomendar a quién investigar, arrestar o acusar penalmente.

Requisitos para usos de alto riesgo en salud, finanzas y servicios esenciales

Cuando el uso de los productos de Anthropic pueda afectar la salud, los derechos legales, las finanzas, el empleo o el acceso a servicios esenciales de una persona, la compañía exige dos condiciones: la supervisión de una persona calificada con autoridad para revisar y modificar las recomendaciones del modelo, y que el individuo afectado sea informado de que se utilizó inteligencia artificial en el proceso.

Esos requisitos no son nuevos, pero la empresa reescribió la sección para responder de forma más directa a las consultas frecuentes de los usuarios sobre qué casos los activan.

La política incorporó, además, controles para los escenarios en los que Claude se conecta a equipos que ejecutan acciones físicas autónomas y que podrían causar lesiones. En esos casos, un operador calificado debe poder observar el equipo y detenerlo si es necesario; el hardware, a su vez, debe mantenerse en un estado seguro si la conexión con el modelo se interrumpe.

Esa adición se apoya en el estándar de hardware para modelos que la compañía publicó con anterioridad, según indicó en la actualización de la política.