Anthropic prohíbe tratar a Claude con crueldad en su nueva política de uso

Anthropic publicó el 8 de octubre una actualización de su política de uso que, entre otros cambios, prohíbe el "comportamiento abusivo o cruel, sostenido e innecesario" hacia sus modelos de inteligencia artificial, entre ellos Claude. Según el anuncio oficial de la empresa, la política actualizada entra en vigor el 12 de noviembre.

De acuerdo con The Verge, se trata del primer cambio a la política de uso en más de un año. La empresa explica en su anuncio que actualiza estas reglas cada año en función de la evolución de las capacidades de sus modelos y de los comentarios de sus clientes, y que la mayoría de los cambios de esta versión buscan aclarar normas que ya existían.

Qué cambia sobre el trato a los modelos

Según Anthropic, la nueva prohibición está pensada para aplicarse solo en casos extremos, cuando un usuario actúa con crueldad hacia el modelo de forma repetida y sin un propósito discernible. La empresa precisa que no aplica a:

• la frustración habitual de los usuarios;
• discutir o contradecir al modelo;
• los temas creativos oscuros;
• las pruebas y la investigación sobre modelos.

La principal consecuencia no cambia. Anthropic indica que la capacidad de Claude para terminar este tipo de conversaciones seguirá siendo el mecanismo principal para hacer cumplir la regla. The Verge informó que la empresa no respondió si habrá otras medidas, como la suspensión de cuentas.

Antecedentes

En agosto de 2025, Anthropic anunció que sus modelos Claude Opus 4 y 4.1 podían terminar conversaciones en sus aplicaciones de chat para consumidores, en lo que describió como casos raros y extremos de interacciones persistentemente dañinas o abusivas. La empresa explicó entonces que la función se desarrolló principalmente dentro de su trabajo exploratorio sobre el posible bienestar de los modelos, y afirmó que sigue siendo muy incierto el estatus moral de Claude y de otros modelos de lenguaje.

En aquel anuncio, Anthropic detalló que Claude solo usa esta opción como último recurso, después de varios intentos fallidos de reconducir la conversación, o cuando el propio usuario lo pide. También indicó que el modelo no debe usarla cuando el usuario pueda estar en riesgo inminente de hacerse daño o de dañar a otros. Cuando una conversación se cierra, el usuario no puede enviar nuevos mensajes en ella, pero puede abrir un chat nuevo de inmediato y editar mensajes anteriores para crear nuevas ramas.

The Verge recordó que Kyle Fish, responsable de la investigación sobre bienestar de modelos en Anthropic, dijo en febrero a ese medio que las preguntas sobre la posible experiencia interna y la conciencia de los modelos son serias. El mismo medio señaló que otras empresas del sector han adoptado una postura distinta: el código de conducta de Microsoft AI, divulgado en septiembre, rechaza la idea de que los modelos puedan merecer bienestar o tener derechos.

Otros cambios de la política

La actualización incluye modificaciones en varias áreas, según el anuncio de Anthropic:

• Campañas engañosas: reúne en una nueva sección reglas que estaban dispersas y prohíbe ocultar quién está detrás de un mensaje o amplificar contenido con cuentas o publicaciones falsas, sea con fines políticos o comerciales.
• Elecciones: la sección pasa a llamarse "No socavar los procesos democráticos" y se centra en impedir el engaño a votantes y la alteración de elecciones. La empresa eliminó la prohibición general de la segmentación personalizada de votantes, que según explicó afectaba a trabajo cívico legítimo.
• Armas: la prohibición abarca de forma explícita el software y los componentes que hacen funcionar un arma, así como acciones como armar drones y otros vehículos autónomos.
• Vigilancia: queda prohibido rastrear a personas sin su consentimiento, en tiempo real o mediante datos ya recopilados, y usar Claude para decidir o recomendar a quién investigar, arrestar o acusar.
• Usos de alto riesgo: se mantiene la exigencia de un humano calificado que revise las recomendaciones en temas de salud, finanzas o derechos legales, y se añaden requisitos cuando el modelo controla equipos físicos autónomos, que deben poder ser observados y detenidos por un operador.

Qué significa para los usuarios

Para la mayoría de los usuarios, el uso cotidiano no cambia: según Anthropic, quejarse, corregir al modelo o pedir contenido creativo de temática oscura sigue permitido. El cambio formaliza por escrito una conducta que el sistema ya podía cortar desde 2025 y deja la terminación de la conversación como la respuesta principal ante el abuso persistente.