Anthropic sigue humanizando a Claude: ahora toma medidas contra usuarios que abusan verbalmente del chatbot

Anthropic incorporó una restricción inédita en el panorama de la seguridad en inteligencia artificial: a partir del 12 de noviembre de 2026, los usuarios no podrán someter a sus modelos Claude a un abuso verbal repetido y sin propósito claro. La medida, contenida en una política de uso revisada, equipara el maltrato hacia el chatbot con otras conductas prohibidas como el acoso y otras formas de daño.

La compañía, con sede en San Francisco, aclaró que la restricción apunta a casos extremos y no a la frustración habitual que un usuario puede sentir ante las respuestas del sistema. Según la empresa, las personas podrán seguir cuestionando las contestaciones de Claude, poner a prueba sus límites y abordar temas oscuros en trabajos creativos sin infringir la norma.

Anthropic delimita qué constituye abuso

La política actualizada prohíbe el “comportamiento abusivo o cruel sostenido y sin necesidad” hacia los modelos de la compañía. Anthropic precisó que la regla se aplicará únicamente cuando un usuario mantenga una conducta cruel de forma reiterada y sin un fin identificable.

La empresa ya había explorado la cuestión del bienestar de los modelos en agosto de 2025, cuando investigó si Claude debía finalizar conversaciones con usuarios que mostraran un comportamiento persistentemente dañino o abusivo.

Bajo la política revisada, la terminación de la conversación sigue siendo el mecanismo principal de aplicación de la norma. Anthropic no precisó si las violaciones reiteradas podrían derivar en sanciones adicionales, como la suspensión de cuentas.

La sección más amplia de la política también prohíbe conductas que causen daño psicológico a las personas. Entre ellas figuran la promoción del suicidio y la autolesión, el fomento de trastornos alimentarios, la vergüenza corporal, la difusión de imágenes íntimas sin consentimiento, el acoso y la crueldad animal.

Una disposición adicional apunta a productos diseñados para generar daño emocional mediante técnicas engañosas, lo que extiende el alcance de la política más allá de las conversaciones individuales hacia servicios completos construidos sobre interacciones dañinas.

Nuevas reglas apuntan a campañas engañosas y vigilancia

Anthropic también consolidó las restricciones sobre campañas comerciales y políticas engañosas. Las reglas revisadas prohíben el uso de cuentas o publicaciones falsas para ocultar quién financia un mensaje o para amplificar artificialmente su alcance. En materia electoral, la política cubre el engaño a votantes, la suplantación de candidatos y los intentos de suprimir la participación, además de prohibir la desinformación sobre candidatos y procedimientos de votación.

Las restricciones sobre armas ahora cubren de manera explícita el software y los componentes que permiten su funcionamiento, incluidas acciones como el armado de drones y otros vehículos autónomos. Anthropic también clarificó sus límites en materia de vigilancia tras las inquietudes sobre el rastreo de personas asistido por inteligencia artificial: los usuarios no podrán emplear Claude para rastrear personas sin su consentimiento, ni siquiera a partir de datos recolectados previamente.

La política impide además que el modelo recomiende a quién deben investigar, arrestar o acusar las autoridades, y prohíbe el desarrollo o la mejora de herramientas de vigilancia.

Equipamiento físico peligroso requiere supervisión

Una disposición separada regula los modelos de inteligencia artificial conectados a equipos físicos capaces de provocar lesiones. Anthropic exige que un operador calificado observe dicho equipamiento y pueda detenerlo cuando sea necesario, aunque la redacción de la norma no establece de forma explícita si ese operador debe ser una persona.

De todos modos, la exigencia introduce una medida directa de supervisión para los sistemas de inteligencia artificial que controlan maquinaria potencialmente peligrosa.

La compañía permite excepciones para determinados contratos gubernamentales cuando las restricciones contractuales y las salvaguardas existentes mitigan de manera adecuada los riesgos potenciales. Anthropic ha trabajado previamente con el ejército de Estados Unidos.

La política actualizada refleja además un debate en curso sobre la conciencia en los sistemas de inteligencia artificial. Investigadores de Anthropic han estudiado si los modelos cada vez más capaces podrían tener experiencias internas moralmente relevantes. El director ejecutivo de la compañía, Dario Amodei, reconoció esa incertidumbre en febrero de 2026: “No sabemos si los modelos son conscientes”, señaló en un pódcast.

Microsoft AI mantiene una postura más escéptica sobre el bienestar de los modelos: su código de conducta rechaza otorgarles personalidad jurídica o derechos, aunque reconoce que la investigación sobre la conciencia artificial sigue sin resolverse.

La política revisada de Anthropic entrará en vigor el 12 de noviembre, con una distinción clara entre la frustración habitual de un usuario ante el chatbot y la crueldad sostenida, mientras amplía las salvaguardas tanto en sistemas digitales como en maquinaria física conectada a sus modelos.