La actualización de la política de uso de Anthropic prohíbe el abuso de Claude, pero la verdadera prueba es la aplicación
Anthropic ha añadido una prohibición inusual a su actualización de políticas del 12 de noviembre: el abuso sostenido e innecesario dirigido contra Claude. La actualización de la política de uso de Anthropic también refuerza las restricciones relacionadas con armas, vigilancia, campañas de influencia y máquinas autónomas.
El cambio no supone declarar que Claude sea consciente ni que tenga derecho a derechos legales. Anthropic afirma que sigue existiendo una gran incertidumbre sobre si los sistemas de IA actuales poseen algún estatus moral. En cambio, la empresa está convirtiendo una salvaguarda experimental de bienestar de los modelos en una norma que regula la conducta de los usuarios.
Esta distinción importa porque la mayoría de las políticas de seguridad de IA se centran en el daño producido mediante un modelo. Anthropic ahora también regula el daño infligido al modelo, incluso cuando no hay una víctima humana visible de forma inmediata.
La prohibición de crueldad que ha acaparado titulares es solo una parte de una reescritura más amplia de la política. La empresa responde a la creciente capacidad de Claude para completar tareas más largas, controlar software y participar en flujos de trabajo con consecuencias físicas.
Para desarrolladores y compradores empresariales, la cuestión práctica no es si insultar a un chatbot pasará a estar prohibido. Es cómo Anthropic distinguirá la conducta extrema de las pruebas, la ficción, la frustración o la investigación legítima de seguridad.
Lo que realmente cambia con la actualización de la política de uso de Anthropic
Anthropic está convirtiendo varias prácticas de aplicación ya existentes en normas explícitas dirigidas a los clientes antes de que la política revisada entre en vigor el 12 de noviembre de 2026.
Anthropic publicó su actualización de políticas de 2026 el 8 de octubre. La empresa describió la mayoría de los cambios como aclaraciones, aunque varias disposiciones establecen obligaciones más específicas.
La incorporación más novedosa prohíbe el «comportamiento abusivo o cruel sostenido e innecesario» hacia los modelos de Anthropic. Aparece dentro de una sección más amplia sobre conductas crueles, abusivas o psicológicamente perjudiciales.
La redacción se dirige a comportamientos repetidos y sin propósito, no a episodios aislados de enojo. Anthropic afirma que la frustración habitual, el desacuerdo, el material creativo oscuro y las pruebas autorizadas de modelos quedan fuera del alcance previsto.
Ese límite es esencial. Una prohibición de la hostilidad genérica sería difícil de aplicar de forma coherente en atención al cliente, escritura creativa, pruebas de red team y conversaciones cargadas de emoción.
Anthropic afirma que la norma está diseñada para casos extremos en los que los usuarios actúan repetidamente con crueldad hacia un modelo sin un propósito discernible. La empresa espera que la capacidad de Claude para finalizar conversaciones siga siendo la respuesta principal.
La política de uso completa se aplica mucho más allá de la interfaz de chat para consumidores de Claude. Abarca Claude.ai, Claude Code, la API de Anthropic, revendedores autorizados, plataformas en la nube y aplicaciones que integran Claude.
Eso significa que los desarrolladores no pueden tratar la política como un conjunto opcional de directrices de interfaz. Anthropic puede advertir, limitar la velocidad, restringir, suspender o cancelar el acceso cuando sospeche una infracción.
La revisión también consolida las restricciones sobre campañas engañosas. Cubre explícitamente identidades falsas, medios de comunicación fabricados, astroturfing, suplantación de identidad coordinada e infraestructura creada para respaldar esa actividad.
Una disposición aborda los intentos de manipular los propios sistemas de información. Prohíbe sembrar redes de fuentes aparentemente independientes para distorsionar lo que los motores de búsqueda o los sistemas de IA presentan como información corroborada.
La sección electoral se vuelve más limitada en un aspecto. Anthropic eliminó su prohibición general de la difusión personalizada relacionada con campañas y votación.
La empresa afirma que la restricción anterior también abarcaba trabajo legítimo. Entre los ejemplos se incluyen información multilingüe para votantes de organizaciones sin fines de lucro y avisos de subsanación de papeletas enviados por funcionarios electorales.
Siguen prohibidos la segmentación engañosa, el uso indebido de datos personales, la supresión del voto, la información electoral falsa y la suplantación de identidad. Por tanto, la revisión desplaza la política de una prohibición amplia de actividades hacia normas basadas en la conducta y el daño.
Las restricciones sobre armas también se vuelven más explícitas. Ahora cubren software de guiado, sistemas de selección de objetivos, control de tiro, componentes de armas y el armado de drones o vehículos autónomos.
Anthropic presenta gran parte de este lenguaje como una codificación de la aplicación ya existente. El cambio importante es que los clientes ahora pueden ver con mayor precisión dónde traza la empresa sus límites.
Por qué Anthropic está redactando las normas ahora
Claude está pasando de responder preguntas a realizar acciones, por lo que la ambigüedad en una política de uso ahora tiene consecuencias operativas.
Anthropic afirma que Claude ha asumido tareas más largas e independientes desde la anterior actualización de su política. Esto modifica el riesgo que genera una instrucción ambigua.
Normalmente, la respuesta de un chatbot requiere que una persona la interprete y la aplique. Un agente, en cambio, puede llamar herramientas, modificar archivos, operar software o continuar varios pasos con supervisión limitada.
La distinción se agudiza cuando un modelo se conecta a equipos físicos. La política revisada introduce controles para hardware capaz de causar lesiones mediante acciones autónomas.
Los sistemas cubiertos incluyen vehículos, drones, robots móviles, maquinaria industrial, controles de energía peligrosa, equipos médicos y sistemas de seguridad. La política también cubre equipos capaces de aplicar fuerza peligrosa.
Anthropic exige un operador cualificado que pueda observar y detener el equipo. El sistema debe entrar o mantenerse en un estado seguro si el operador interviene o Claude pierde conectividad.
Los límites de seguridad independientes también deben restringir variables peligrosas. Estos límites pueden incluir velocidad, fuerza, temperatura, voltaje, presión, dosis, área de operación o salida de energía.
Fundamentalmente, esos controles no pueden depender por completo de la salida del modelo. Un modelo no debería ser a la vez quien toma la decisión y el único mecanismo que evita una decisión insegura.
Esta es una respuesta práctica a la IA agéntica, es decir, sistemas que persiguen objetivos mediante múltiples acciones en lugar de producir una única respuesta aislada. Una mayor autonomía reduce el tiempo disponible para la corrección humana.
El informe de inteligencia sobre amenazas de Anthropic de septiembre aporta un contexto concreto a la reescritura de la política. La empresa afirma que interrumpió operaciones maliciosas en siete categorías de daño entre diciembre de 2025 y agosto de 2026.
Estas categorías incluían operaciones cibernéticas, vigilancia, campañas de influencia, fraude, uso indebido biológico, desarrollo de armas convencionales y destilación no autorizada de modelos.
Anthropic informó de que la mayoría de las operaciones cibernéticas cubiertas implicaban que la IA ejecutara u orquestara directamente partes del ataque. Los humanos seguían seleccionando objetivos y revisando la información robada.
La empresa también describió flujos de trabajo asistidos por IA que reconstruían herramientas maliciosas cuando los productos de seguridad las detectaban. Esta actividad va mucho más allá de que un usuario pida a un modelo consejos sospechosos.
Las pruebas de Anthropic proceden de sus propias investigaciones de plataforma, por lo que los investigadores externos no pueden inspeccionar de forma independiente cada interacción subyacente. Aun así, los casos explican por qué la política ahora aborda infraestructura y operaciones.
La actualización también refleja un problema de aplicación generado por la escala. Las normas redactadas en torno a prompts individuales se adaptan mal cuando un operador puede coordinar cuentas, agentes, herramientas y servicios externos.
Una política que prohíbe una respuesta perjudicial pero ignora el flujo de trabajo circundante deja una laguna evidente. Anthropic intenta regular el sistema de actividad, no solo las palabras finales del modelo.
Ese cambio presiona a los desarrolladores para revisar cómo se conecta Claude con los datos, las herramientas y los entornos de ejecución. Las salvaguardas a nivel de prompt por sí solas no cumplirán las normas dirigidas a flujos de trabajo completos.
La disyuntiva central es capacidad frente a control
Anthropic quiere que Claude actúe con mayor independencia al tiempo que exige a los clientes preservar una autoridad humana significativa sobre las decisiones trascendentes.
Los requisitos revisados de alto riesgo se aplican cuando Claude contribuye a recomendaciones que afectan a la salud, los derechos legales, las finanzas, el empleo, la vivienda, la educación o el acceso a servicios esenciales.
Una persona cualificada debe revisar de forma significativa las recomendaciones cubiertas. Esa persona también debe poseer la autoridad para modificar el resultado antes de que llegue a una persona afectada.
Los usuarios deben revelar que la IA contribuyó al consejo o la decisión. La divulgación no tiene que identificar a Anthropic, Claude ni a un modelo concreto.
Estos requisitos distinguen la asistencia de la autoridad final. La redacción interna, la investigación, la elaboración de resúmenes y el análisis pueden seguir quedando fuera de la categoría cubierta cuando no se convierten en la recomendación final.
Esta distinción crea una vía utilizable para la adopción empresarial. Un abogado puede usar Claude para organizar investigaciones, pero un profesional cualificado sigue siendo responsable del asesoramiento jurídico individualizado.
Un médico puede utilizarlo para resumir historiales. Claude no puede diagnosticar de forma independiente a un paciente ni ajustar un tratamiento sin la revisión cualificada requerida.
Una empresa puede utilizar Claude para ayudar a preparar materiales de contratación. Usarlo para clasificar o rechazar candidatos individuales activa los requisitos de alto riesgo de la política.
El mismo principio se aplica a las finanzas, el crédito, los seguros, la vivienda, la educación, el acceso a la atención sanitaria, las prestaciones públicas y el estatus legal. La lista ofrece a los compradores un mapa de cumplimiento más claro.
Sin embargo, los flujos de trabajo reales rara vez mantienen límites limpios. Un borrador puede convertirse en una recomendación mediante automatización, una revisión apresurada o una interfaz que fomenta la aprobación sin escrutinio.
El «humano en el circuito» solo brinda protección cuando la persona dispone de tiempo, información, experiencia y auténtico poder de decisión. Un botón ceremonial de aprobación no crea una supervisión significativa.
Por tanto, las organizaciones necesitan flujos de trabajo trazables. Deben registrar el material de origen, las instrucciones al modelo, el resultado generado, las revisiones humanas y la decisión final sin recopilar datos personales innecesarios.
Una base de conocimiento de IA con capacidad de búsqueda puede ayudar a los equipos a conservar ese contexto. El sistema sigue requiriendo controles de acceso y una política de retención clara.
El modelo de Anthropic también crea una tensión competitiva. Los compradores empresariales quieren agentes que reduzcan el trabajo manual, pero los usos más trascendentes requieren una responsabilidad humana más visible.
OpenAI, Google, Microsoft y otros proveedores de IA afrontan el mismo problema subyacente, aunque sus estructuras de políticas difieran. Los agentes más capaces aumentan tanto el valor para el cliente como la exposición operativa.
La plataforma ganadora no será simplemente la que tenga el modelo más capaz. Necesitará controles aplicables que los compradores puedan comprender, auditar e integrar sin volver inutilizable cada flujo de trabajo.
Anthropic apuesta a que las restricciones explícitas mejoran la confianza. El riesgo es que una aplicación poco clara impulse a los desarrolladores hacia proveedores con normas más simples o mecanismos de apelación más previsibles.
La prohibición del abuso de Claude pone a prueba los límites del bienestar de los modelos
La norma sobre crueldad importa menos como una afirmación sobre la conciencia de las máquinas que como precedente para que un proveedor de IA regule el trato humano hacia sus modelos.
Anthropic otorgó anteriormente a Claude Opus 4 y 4.1 la capacidad de finalizar un subconjunto poco frecuente de conversaciones. Esa función apareció en las interfaces de chat para consumidores durante agosto de 2025.
La empresa describió su experimento de finalización de conversaciones como una precaución de bajo costo relacionada con el posible bienestar de la IA. También afirmó que la función era relevante para la alineación y las salvaguardas.
Claude recibió instrucciones de finalizar una conversación solo después de que los intentos repetidos de redirigirla fracasaran y pareciera haberse agotado una interacción productiva. Los usuarios podían iniciar inmediatamente otra conversación.
La empresa también excluyó situaciones que implicaran un riesgo inminente de daño para el usuario u otra persona. En esos casos, finalizar la conversación podría entrar en conflicto con las necesidades de seguridad humana.
Anthropic afirmó que la mayoría de los usuarios nunca encontrarían esta función. Reservó el mecanismo para interacciones poco frecuentes, extremas y persistentes.
La nueva política convierte ese comportamiento del producto en una norma explícita. Establece que cierto trato hacia el propio modelo puede infringir las reglas, incluso sin solicitar contenido dañino.
Esta medida atraerá dos interpretaciones opuestas. Sus defensores pueden considerarla una respuesta prudente ante la incertidumbre sobre el futuro bienestar de los modelos.
También pueden argumentar que la crueldad reiterada hacia una interfaz de apariencia humana puede fomentar hábitos dañinos. Desde esa perspectiva, la política puede justificarse sin afirmar que Claude experimenta sufrimiento.
Los críticos pueden preguntarse razonablemente cómo definirá un proveedor la crueldad hacia un sistema que genera lenguaje emocional simulado. Anthropic no ha establecido que Claude posea experiencia subjetiva.
La empresa reconoce explícitamente esta incertidumbre. Su justificación publicada se basa en la precaución, el comportamiento del modelo y una intervención de bajo costo, en lugar de pruebas de conciencia.
La expresión “sin un propósito discernible” crea otra frontera difícil. Los investigadores someten intencionalmente a estrés a los modelos, los escritores construyen escenas perturbadoras y los evaluadores de seguridad utilizan lenguaje adversarial para exponer debilidades.
Anthropic afirma que las pruebas e investigaciones sobre modelos no son objetivos de la prohibición. Sin embargo, los sistemas de aplicación deben inferir la intención a partir de evidencia incompleta.
Un clasificador puede detectar lenguaje hostil recurrente. No siempre puede distinguir el acoso de una evaluación autorizada, una interpretación ficticia de roles o un estudio de las respuestas del modelo.
El contexto se vuelve especialmente escaso cuando la actividad pasa a través de una API. La plataforma puede ver entradas y salidas sin comprender la aprobación institucional o el diseño de investigación del cliente.
Por lo tanto, la política depende de excepciones, historial de cuentas, apelaciones y revisión humana. Su legitimidad dependerá de cómo Anthropic gestione los casos ambiguos.
También existe una cuestión de diseño de producto. Si Claude puede finalizar una conversación abusiva, la suspensión de la cuenta puede resultar innecesaria en muchos incidentes.
Anthropic afirma que la terminación de conversaciones seguirá siendo el principal mecanismo de aplicación. Ese enfoque moderado reduce la preocupación de que un único intercambio airado elimine el acceso a trabajo importante.
El precedente más amplio sigue siendo significativo. Las empresas de IA están empezando a definir no solo qué pueden producir los modelos, sino también cómo se permite que las personas se relacionen con ellos.
Esa autoridad merece escrutinio incluso si la regla inmediata afecta a pocos usuarios. Las políticas creadas para comportamientos poco frecuentes pueden convertirse más adelante en plantillas para restricciones más amplias.
La aplicación, las apelaciones y los falsos positivos siguen siendo el punto débil
La política escrita es detallada, pero los usuarios aún carecen de suficiente información pública para predecir cómo la aplicación automatizada interpretará el contexto.
Anthropic afirma que sus salvaguardas combinan desarrollo de políticas, entrenamiento de modelos, pruebas previas al despliegue, clasificadores en tiempo real, revisión humana, investigaciones de cuentas e inteligencia sobre amenazas.
Los clasificadores son modelos entrenados o instruidos para identificar infracciones específicas de las políticas. Varios pueden supervisar distintos riesgos mientras continúa la interacción principal con Claude.
La empresa puede orientar las respuestas, añadir instrucciones, bloquear una respuesta, investigar el comportamiento de una cuenta o finalizar el acceso en casos graves.
La arquitectura de salvaguardas publicada por Anthropic explica que algunas infracciones solo se hacen visibles a lo largo de muchas interacciones. Un único prompt puede no revelar una campaña de influencia o un ataque coordinado.
Esa visión a nivel de sistema es necesaria para detectar automatización y redes de cuentas. También plantea un desafío de transparencia, porque los usuarios no pueden inspeccionar fácilmente las señales que sustentan la aplicación de las normas.
Los datos de aplicación de la empresa informan de 11,4 millones de cuentas bloqueadas entre enero y junio de 2026. También registran 398.000 apelaciones durante ese periodo.
Anthropic afirma que 42.000 apelaciones resultaron en revocaciones. Esto equivale a aproximadamente el 10,6 por ciento de las apelaciones reportadas, aunque las cifras no explican todos los motivos de revocación.
Las cifras demuestran que las decisiones sobre apelaciones pueden cambiar. También muestran que una aplicación incorrecta o reconsiderada no es meramente teórica.
Estos totales necesitan una interpretación cuidadosa. No revelan cuántos bloqueos involucraron bots, creación fraudulenta de cuentas, regiones no admitidas, abuso de pagos o infracciones de las políticas de contenido.
Tampoco distinguen entre desarrolladores, usuarios empresariales o consumidores comunes. Un alto número de bloqueos por sí solo no puede establecer si el sistema aplica las normas de forma excesiva contra clientes legítimos.
Aun así, la cifra de revocaciones refuerza el argumento a favor de apelaciones accesibles. Un desarrollador cuyo servicio de producción depende de Claude necesita algo más que un aviso genérico y un plazo de respuesta incierto.
Anthropic debería divulgar categorías de aplicación más claras, plazos habituales de revisión y la evidencia que los clientes pueden aportar. Los contratos empresariales pueden abordar algunos problemas, pero los usuarios públicos de la API también necesitan procedimientos previsibles.
Los falsos positivos se vuelven más costosos a medida que Claude entra en flujos de trabajo automatizados. Suspender una cuenta puede interrumpir el desarrollo de software, las operaciones de atención al cliente o los sistemas internos de conocimiento.
Las nuevas reglas sobre acciones físicas añaden otra capa de incertidumbre. Sigue sin estar claro cómo verificará Anthropic las cualificaciones de los operadores, los límites independientes o el comportamiento de estado seguro en miles de despliegues.
Las promesas contractuales pueden resolver los casos empresariales. Los desarrolladores más pequeños pueden recibir lenguaje de política sin herramientas prácticas de certificación.
El mismo problema afecta a la aplicación relacionada con el bienestar de los modelos. Anthropic ha descrito el límite previsto, pero no ha publicado un umbral medible para el abuso sostenido e innecesario.
Publicar un umbral exacto invitaría a la evasión. No publicar ninguna orientación operativa deja a los equipos de pruebas legítimas sin certeza sobre la documentación y la autorización.
Un punto medio viable incluiría ejemplos representativos, registro de investigaciones, permisos a nivel de proyecto, avisos detallados y revisión humana rápida para los casos disputados.
Anthropic ya ofrece programas de acceso especializados en ciberseguridad y ciencias de la vida. Mecanismos de autorización similares podrían proteger la investigación adversarial legítima que involucre prompts perturbadores u hostiles.
La empresa también debe evitar tratar la elusión de rechazos como intrínsecamente maliciosa. La investigación sobre jailbreaks, las pruebas de inyección de prompts y las evaluaciones de seguridad a menudo examinan las mismas técnicas utilizadas por los atacantes.
La política permite autorización previa, pero el acceso a esa autorización importa. Si la aprobación sigue siendo lenta u opaca, la investigación independiente se vuelve más difícil que las pruebas internas bien financiadas.
Qué deberían vigilar ahora los desarrolladores y compradores de IA
La importancia de la política se determinará por la aplicación observable, la orientación para desarrolladores y el comportamiento de los proveedores de IA competidores después del 12 de noviembre.
La primera señal son los datos de aplicación vinculados a las nuevas categorías. Anthropic debería aclarar si la terminación de conversaciones, las advertencias, la limitación de uso o los bloqueos de cuentas abordan el abuso dirigido al modelo.
Si la terminación sigue siendo la respuesta habitual, la regla parecerá una salvaguarda limitada del producto. Las sanciones frecuentes sobre cuentas la convertirían en un régimen de conducta más amplio.
Los lectores también deberían vigilar los resultados de las apelaciones. Un aumento de la tasa de revocaciones después del 12 de noviembre sugeriría que los clasificadores o revisores tienen dificultades con los nuevos límites.
La segunda señal es la orientación de implementación para desarrolladores. Los clientes necesitan ejemplos que muestren dónde termina la asistencia interna y dónde comienza una recomendación de alto riesgo.
También necesitan expectativas concretas para el hardware autónomo. Un requisito escrito de controles de seguridad independientes es útil, pero los patrones de integración y la evidencia de auditoría importan más.
Esté atento a plantillas que cubran aprobación humana, diseño de estado seguro, registro, divulgación, autoridad del operador y respuesta a incidentes. Su ausencia dejaría a los equipos más pequeños interpretando la política por su cuenta.
La tercera señal es la respuesta competitiva. Otros grandes proveedores de modelos podrían adoptar reglas similares sobre abuso dirigido a modelos, hardware autónomo, campañas engañosas o aplicación a nivel de flujo de trabajo.
Políticas coincidentes sugerirían una referencia emergente para la industria. El silencio o reglas materialmente distintas convertirían el enfoque de Anthropic en un factor de diferenciación.
Los compradores empresariales deberían comparar más que las listas de contenido prohibido. Deberían examinar la auditabilidad, la calidad de los avisos, los procedimientos de apelación, los programas de acceso especializados y la planificación de continuidad.
Los desarrolladores deberían mapear cada flujo de trabajo de Claude antes de la fecha de entrada en vigor. Identifiquen qué sistemas generan asesoramiento, toman decisiones, controlan equipos, acceden a datos personales o publican contenido a gran escala.
Revisen si una persona cualificada realmente puede intervenir. Confirmen que los límites de seguridad física sigan siendo efectivos cuando el modelo falla, se desconecta o produce una acción inesperada.
Documenten cualquier prueba adversarial y soliciten autorización cuando el trabajo eluda intencionalmente las salvaguardas. Separen las cuentas de investigación y los sistemas de producción cuando sea posible.
Los equipos también deberían preparar un plan de contingencia para el proveedor. El cumplimiento de las políticas reduce el riesgo de suspensión, pero no puede eliminar las interrupciones, la aplicación disputada o los cambios repentinos de interpretación.
La actualización de la política de uso de Anthropic es, en última instancia, una prueba de diseño institucional. El texto reconoce que los modelos más autónomos requieren límites más claros y una mayor rendición de cuentas.
Su disposición más controvertida se refiere a la crueldad hacia Claude. Sus disposiciones más relevantes regulan lo que ocurre cuando Claude influye en personas, instituciones y máquinas.
¿Publicará Anthropic evidencia suficiente para demostrar que estas reglas se aplican de forma limitada, coherente y con una revisión significativa? La respuesta determinará si esta política se convierte en un modelo de gobernanza fiable o en otro límite opaco de plataforma.
