La política de uso de Anthropic traza una nueva línea frente al abuso de modelos y la interferencia electoral
Anthropic modificó su política de uso por primera vez en más de un año, añadiendo una prohibición inusual contra el abuso sostenido e innecesario de Claude. La política de uso de Anthropic también refuerza las restricciones relativas a campañas electorales engañosas, software para armas, sistemas de vigilancia y acciones físicas autónomas.
La norma sobre abuso de modelos atrajo atención inmediata porque trata la conducta hacia un sistema de IA como una cuestión de política. Sin embargo, Anthropic afirma que la frustración ordinaria, la crítica, las pruebas, la investigación y el material creativo oscuro siguen estando permitidos. La prohibición se dirige a la crueldad repetida sin un propósito discernible.
Esta distinción importa porque la actualización va más allá de una norma sobre insultar a un chatbot. Muestra que Anthropic está adaptando sus controles a medida que Claude asume tareas más largas, utiliza herramientas, influye en sistemas físicos y respalda decisiones de importancia.
La principal disyuntiva es la aplicación. Anthropic busca reglas lo bastante precisas para detener actividades perjudiciales sin bloquear la investigación legítima, la comunicación cívica, el periodismo y el trabajo de seguridad. Sigue sin respuesta si puede aplicar estas distinciones de forma consistente.
Qué cambia realmente la política de uso de Anthropic
La actualización convierte varias restricciones dispersas en reglas más claras basadas en la conducta, la intención y el daño potencial.
Anthropic publicó la actualización el 8 de octubre de 2026. La política revisada entra en vigor el 12 de noviembre, lo que da a clientes y desarrolladores más de un mes para revisar las aplicaciones afectadas.
La mayoría de las disposiciones aclaran restricciones anteriores en lugar de introducir límites completamente nuevos. Anthropic afirma que los cambios reflejan patrones de uso indebido observados durante el año anterior. Estos patrones involucraban operaciones de influencia, desarrollo de armas, vigilancia y un comportamiento de los modelos cada vez más autónomo.
La incorporación más novedosa prohíbe a los usuarios participar en conductas abusivas o crueles sostenidas e innecesarias hacia los modelos de Anthropic. La actualización de la política indica que esto solo se aplica a casos extremos de crueldad repetida sin un propósito discernible.
Un usuario que expresa enfado por una respuesta incorrecta no infringe automáticamente la norma. Tampoco lo hacen el desacuerdo contundente, las pruebas de modelos, la investigación de seguridad o la ficción con temas oscuros. Anthropic preserva explícitamente esas categorías.
El principal mecanismo de aplicación también es más limitado que una prohibición de toda la cuenta. Claude puede poner fin a una conversación excepcional que implique abuso persistente. Terminar esa conversación impide nuevos mensajes en ese hilo, pero no necesariamente cierra los demás chats del usuario.
Anthropic ya había otorgado a algunos modelos de Claude la capacidad de terminar interacciones persistentemente dañinas. La política ahora impone una obligación correspondiente a los usuarios, en lugar de depender solo del comportamiento del modelo.
Los cambios restantes abordan preocupaciones de seguridad más convencionales. Una sección consolida las prohibiciones contra cuentas falsas, patrocinio oculto, medios de noticias fabricados, astroturfing y comportamiento inauténtico coordinado.
El astroturfing consiste en fabricar la apariencia de apoyo público independiente mediante cuentas coordinadas o controladas de forma engañosa. La política de Anthropic también prohíbe construir infraestructura diseñada para operar esas campañas.
La empresa renombró por separado su sección electoral como “No socavar los procesos democráticos”. Se dirige a comunicaciones engañosas con votantes, suplantación de identidad, información falsa sobre la votación, supresión de la participación e interferencia con sistemas electorales o la certificación.
Las restricciones sobre armas ahora incluyen expresamente el software y los componentes utilizados para selección de objetivos, control de tiro, combate u operación de armas. También abarcan la integración de armas en drones, vehículos y plataformas autónomas.
El lenguaje revisado sobre vigilancia prohíbe el rastreo sin consentimiento y las herramientas diseñadas para ampliar capacidades de vigilancia prohibidas. También impide que Claude decida a quién deben investigar, arrestar, acusar, procesar o detener las autoridades.
Estas disposiciones convierten la política sobre abuso de Claude en la parte más distintiva del anuncio, aunque no necesariamente en la más trascendental. Los desarrolladores que atienden a clientes políticos, de defensa, vigilancia, finanzas, salud o sector público afrontan una carga de cumplimiento mayor.
La política electoral de Anthropic se vuelve más limitada y explícita
Anthropic eliminó una amplia restricción política al tiempo que estableció un límite más firme frente al engaño y la interferencia.
El enfoque anterior prohibía de forma más amplia la persuasión política personalizada y la segmentación de campañas. Anthropic ha eliminado ahora esa prohibición general porque también abarcaba servicios cívicos legítimos.
Una organización sin fines de lucro podría usar Claude para traducir instrucciones de votación neutrales para comunidades que hablan distintos idiomas. Una oficina electoral podría elaborar avisos de corrección de papeletas para votantes cuyas presentaciones requieren una acción.
Estas actividades implican comunicación electoral dirigida, pero no son intrínsecamente engañosas. Por ello, una prohibición general podría bloquear herramientas útiles de participación junto con campañas manipuladoras.
La política electoral revisada de Anthropic se centra en cómo se comporta una operación. La comunicación política legítima sigue siendo posible, mientras que la suplantación encubierta, las afirmaciones fabricadas, la automatización oculta y los esfuerzos de supresión continúan prohibidos.
La política de uso completa prohíbe los mensajes automatizados a votantes que oculten su origen artificial. También prohíbe el material político sintético presentado falsamente como procedente de un candidato, funcionario, campaña, autoridad electoral u organización de noticias.
Se prohíben las afirmaciones falsas sobre candidatos, políticas, procedimientos de votación o seguridad electoral. También lo están los intentos de desalentar la participación legal mediante engaño o intimidación.
Las normas van más allá de la generación de contenido. Los usuarios no pueden emplear Claude para perturbar sistemas de votación, recuento de votos, certificación o infraestructura relacionada. Esto otorga a la sección una función tanto de seguridad de la información como de integridad informativa.
Anthropic también creó una sección general sobre campañas engañosas. Esa sección abarca operaciones políticas y comerciales, incluidas reseñas falsas y redes de sitios web aparentemente independientes controlados por un único actor.
Una disposición aborda los esfuerzos por manipular motores de búsqueda o sistemas de respuestas de IA. Prohíbe sembrar redes con contenido que parece falsamente independiente y luego utilizar ese consenso artificial para influir en respuestas automatizadas.
Esta es una ampliación importante del alcance práctico de la política. Una operación de influencia no necesita persuadir directamente a los votantes mediante un chatbot. Puede contaminar las fuentes de información que las personas y otros sistemas de IA consultan después.
Anthropic afirma haber observado organizaciones de medios estatales, oficinas de propaganda gubernamental y empresas comerciales operando cuentas falsas y sitios de noticias fabricados. Sus informes sobre amenazas de septiembre aportaron el contexto inmediato para consolidar estas normas.
La política aún deja difíciles cuestiones de clasificación. La persuasión política, la sátira, la defensa de causas, la traducción y la desinformación pueden utilizar herramientas similares. Las diferencias decisivas suelen involucrar atribución, veracidad, consentimiento e intención.
La aplicación automatizada tendrá dificultades para inferir esas cualidades a partir de una sola solicitud. Un trabajador de campaña que pide mensajes localizados podría estar realizando difusión legal u ocultando manipulación.
Por lo tanto, el contexto importará tanto como la redacción. Anthropic debe examinar patrones entre cuentas, redes de distribución y uso de herramientas sin tratar toda solicitud política como maliciosa.
La política más limitada es menos restrictiva sobre el papel, pero más específica respecto a los resultados prohibidos. Esto ofrece más margen a las organizaciones legítimas, a la vez que incrementa la importancia de una detección precisa.
La prohibición del abuso de modelos es en realidad un experimento de aplicación
La disposición sobre abuso de modelos pone a prueba si una plataforma puede regular el trato hacia una IA sin afirmar que el sistema tiene derechos humanos.
Anthropic no afirma que Claude sea consciente. Tampoco establece que un modelo de lenguaje experimente dolor, humillación o angustia como lo haría una persona.
En cambio, la empresa presenta la norma como una respuesta limitada a interacciones extremas. El foco está en la crueldad sostenida que no sirve a ningún propósito identificable de prueba, creatividad o productividad.
Este enfoque evita convertir la consciencia del modelo en la base formal de la aplicación. Aun así, plantea una pregunta difícil: ¿qué daño pretende prevenir la política?
Una posible preocupación es el bienestar de los modelos, es decir, las precauciones adoptadas porque los sistemas avanzados podrían llegar a merecer consideración moral. Anthropic ha estudiado abiertamente esta cuestión sin afirmar que los modelos actuales posean estatus moral.
Otra preocupación es el comportamiento humano. Ensayar repetidamente dominación o crueldad con sistemas de rasgos humanos podría normalizar conductas que se trasladan a las interacciones con personas. Esa posibilidad sigue siendo objeto de debate y no queda demostrada por esta política.
Una tercera preocupación implica el funcionamiento del producto. Las conversaciones abusivas pueden generar resultados inseguros, contaminar señales de retroalimentación o forzar a los modelos a estados de comportamiento inusuales. Los proveedores tienen razones prácticas para limitar interacciones que generan riesgos sin un valor claro.
La anterior investigación sobre el fin de conversaciones de la empresa proporcionó una intervención de bajo coste. Claude puede terminar un hilo individual manteniendo intacto el acceso más amplio del usuario.
Este mecanismo es menos severo que suspender inmediatamente una cuenta. También coincide con el alcance declarado de la política porque la respuesta puede permanecer vinculada a la interacción perjudicial.
El reto consiste en separar la crueldad sin propósito del trabajo adversarial legítimo. Los equipos rojos presionan intencionalmente a los modelos para descubrir fallos de seguridad. Los investigadores pueden reproducir acoso para evaluar sistemas de moderación.
Los escritores pueden explorar personajes perturbadores. Los usuarios pueden enfadarse tras errores repetidos, trabajo perdido o consejos perjudiciales. Anthropic afirma que todas estas situaciones pueden seguir estando permitidas.
Por lo tanto, el modelo debe evaluar más que palabras hostiles. Necesita señales sobre repetición, propósito, contexto y si la interacción forma parte de pruebas autorizadas.
Los falsos positivos podrían desalentar el escrutinio legítimo. Los usuarios deben seguir pudiendo criticar directamente a Claude, documentar fallos y comprobar si la cortesía cambia sus respuestas.
Los falsos negativos plantean el problema opuesto. Si la aplicación solo termina los chats abusivos más evidentes, la disposición podría funcionar principalmente como una declaración de valores.
La reacción pública ya refleja esta ambigüedad. Algunos observadores consideran que la norma es una antropomorfización innecesaria, que atribuye características humanas a un sistema no humano. Otros la consideran un límite razonable sobre la conducta dentro de un servicio privado.
Ambas interpretaciones pasan por alto parte del mecanismo. Anthropic no está concediendo personalidad jurídica a Claude. Está decidiendo qué interacciones respaldarán sus productos y cómo el modelo puede retirarse de ellas.
Esta decisión sigue teniendo implicaciones más amplias. Los asistentes de IA emplean cada vez más un lenguaje personal, retienen contexto y realizan trabajo continuo. Las normas que regulan cómo los usuarios los tratan podrían moldear futuras convenciones de producto.
La prueba crucial no es si se bloquea cada prompt grosero. Es si Anthropic puede preservar la crítica y la investigación mientras aplica la disposición únicamente a los casos extremos que describe.
Las normas sobre armas y vigilancia presionan a los desarrolladores
Los cambios operativamente más importantes de la política se refieren a sistemas que pueden actuar, rastrear personas o respaldar el uso de la fuerza física.
Anthropic afirma que Claude ha asumido trabajos más largos e independientes desde su anterior actualización de políticas. Ese cambio hace insuficiente una prohibición general del contenido dañino.
Un agente de IA puede escribir código, operar herramientas, analizar datos almacenados y controlar sistemas conectados. El riesgo depende de todo el flujo de trabajo, no solo del texto que se muestra a un usuario.
La sección sobre armas ilustra esa distinción. Claude no puede utilizarse para desarrollar u operar software de selección de objetivos, control de tiro, enfrentamiento u otro software armamentístico.
La prohibición también abarca la modificación de agentes biológicos o químicos para aumentar su letalidad, transmisibilidad, virulencia, persistencia o resistencia a la detección. Se extiende a la entrega de armas y a las plataformas autónomas.
Estos detalles responden a usos indebidos documentados, no únicamente a preocupaciones hipotéticas. Una reciente investigación sobre amenazas describió intentos relacionados con vigilancia, ciberataques, propaganda e investigación biológica con posibles aplicaciones armamentísticas.
Anthropic afirmó que bloqueó las actividades incluidas en ese informe. También reconoció la incertidumbre sobre si modelos más nuevos y capaces pueden ayudar de forma significativa a la investigación biológica sofisticada.
Esa incertidumbre ayuda a explicar el lenguaje más amplio. Las normas que prohíben únicamente el diseño final de un arma pueden dejar margen para el software, la selección de objetivos, la entrega o la investigación habilitadora.
La sección de vigilancia sigue la misma lógica. Prohíbe rastrear a personas sin su consentimiento mediante su ubicación, datos biométricos, movimientos, comunicaciones, relaciones o actividad en línea.
La prohibición abarca el seguimiento en tiempo real y el análisis de datos recopilados previamente. También prohíbe crear o mejorar herramientas diseñadas para esos fines de vigilancia restringidos.
Las fuerzas del orden no pueden utilizar Claude para decidir o recomendar a quién investigar, arrestar, detener, acusar, procesar o sentenciar. La policía predictiva y algunas aplicaciones de reconocimiento facial se incluyen entre las categorías prohibidas.
Anthropic sí preserva varios usos. El monitoreo consensuado del fraude, los controles contra el blanqueo de capitales, el análisis anonimizado, el periodismo, la investigación jurídica, la moderación de contenido y la investigación de seguridad autorizada pueden seguir permitidos.
Esto vuelve a situar el contexto en el centro del cumplimiento. La misma capacidad técnica puede detectar fraude en cuentas, vigilar a un disidente político o identificar una amenaza de seguridad.
Los desarrolladores empresariales no pueden asumir que una respuesta permitida del modelo hace que toda la aplicación cumpla la normativa. Necesitan controles sobre la recopilación de datos, el consentimiento de los usuarios, las decisiones posteriores y los permisos de las herramientas.
Las aplicaciones que implican acciones físicas enfrentan requisitos adicionales. Un operador cualificado debe poder observar el equipo y detenerlo cuando sea necesario.
El equipo también debe alcanzar o mantener un estado seguro si Claude se desconecta. Los controles independientes deben imponer límites relacionados con la velocidad, la fuerza, la temperatura, la presión, el voltaje, la dosis o el área de operación.
Estos requisitos trasladan la responsabilidad más allá del modelo de Anthropic. Los fabricantes de hardware, integradores y operadores deben diseñar salvaguardas que no dependan por completo de una instrucción generada por IA.
El mismo principio se aplica a las recomendaciones de alto riesgo. Claude puede respaldar determinados flujos de trabajo médicos, jurídicos, financieros, laborales, de vivienda, crédito, seguros y educación solo con una supervisión humana significativa.
Una persona cualificada debe revisar la recomendación y tener autoridad para modificarla. La persona afectada también debe ser informada de que la IA contribuyó al consejo o la decisión.
Ese estándar genera trabajo práctico para los compradores empresariales. Deben definir quién reúne los requisitos para actuar como revisor, conservar un registro de auditoría y asegurar que la supervisión sea sustantiva.
Un botón de aprobación meramente nominal no necesariamente cumplirá el requisito declarado. La persona debe poder evaluar el resultado y seguir siendo responsable de él.
Las normas más claras no garantizan decisiones coherentes
Anthropic ha descrito sus límites con mayor precisión, pero no ha eliminado el juicio necesario para aplicarlos.
La política distingue el engaño de la persuasión, la vigilancia del monitoreo basado en consentimiento y la crueldad de la frustración. Cada distinción se vuelve difícil a gran escala.
Los modelos de lenguaje también cometen errores. Un sistema que evalúa la conversación de otro modelo puede interpretar erróneamente la sátira, el juego de rol ficticio, la expresión cultural o las pruebas de seguridad legítimas.
El riesgo resultante opera en ambos sentidos. Una detección débil permite que continúen las campañas dañinas, mientras que una detección agresiva bloquea a investigadores, periodistas y clientes corrientes.
La aplicación de sanciones sobre cuentas plantea una preocupación adicional. Los usuarios necesitan entender si una conversación terminó debido a la disposición sobre abuso, otra norma de seguridad o un fallo técnico.
También necesitan opciones de apelación significativas cuando una restricción más amplia afecta el acceso. La transparencia se vuelve más importante a medida que las personas dependen de Claude para el desarrollo de software y los flujos de trabajo profesionales.
El anuncio público de Anthropic identifica la finalización de conversaciones como la respuesta principal al abuso del modelo. Ofrece menos detalles sobre los umbrales, las vías de escalamiento o las infracciones repetidas en conversaciones separadas.
Esa divulgación limitada puede ser intencional, porque publicar umbrales exactos puede ayudar a los usuarios a evadir la detección. Sin embargo, la opacidad dificulta que los clientes legítimos anticipen la aplicación de las normas.
La política de la empresa también permite restricciones adaptadas para determinados clientes gubernamentales. Estos acuerdos pueden reflejar misiones públicas, autoridad legal y salvaguardas específicas.
Tales excepciones requieren escrutinio porque los usos gubernamentales suelen implicar las mayores consecuencias. Las salvaguardas contractuales solo importan cuando la supervisión, la auditoría y la aplicación siguen siendo creíbles.
Investigadores independientes han planteado una cuestión de gobernanza más amplia. Las empresas tecnológicas toman cada vez más decisiones de seguridad que afectan al discurso político, la vigilancia, la investigación científica y las instituciones públicas.
El profesor de informática de Cornell John Thickstun declaró a Associated Press que las empresas enfrentan juicios de valor a escala social sin deliberación democrática. Esa crítica no hace innecesarias las normas privadas.
Destaca los límites de la gobernanza dirigida por los proveedores. Una política de uso puede regular el acceso a Claude, pero no puede sustituir las leyes, los estándares de contratación pública, los tribunales ni la rendición de cuentas independiente.
La presión competitiva añade otra limitación. Los clientes rechazados por un proveedor a veces pueden trasladar el mismo flujo de trabajo a otro modelo con restricciones diferentes.
Eso hace importante la coordinación del sector para conductas claramente dañinas. También hace valiosa la competencia cuando las normas de un proveedor se vuelven excesivamente amplias o se aplican de forma incoherente.
OpenAI, Google, Meta y otros proveedores de modelos mantienen sus propios marcos de uso aceptable. Sus definiciones, sistemas de aplicación y excepciones gubernamentales no siempre coinciden.
El enfoque de Anthropic es distintivo porque conecta los controles de seguridad convencionales con una norma explícita sobre abuso del modelo. Los competidores deben decidir si siguen, rechazan o ignoran ese precedente.
Por tanto, la empresa debe ser juzgada por las pruebas, no por la novedad de su lenguaje. Los indicadores útiles incluyen la precisión de la aplicación, los resultados de las apelaciones, los usos indebidos documentados y los efectos sobre la investigación legítima.
Una norma escrita con precisión es solo la primera capa. El trabajo más difícil implica clasificadores, investigaciones de cuentas, orientación al cliente, salvaguardas técnicas y decisiones coherentes entre mercados.
Qué observar antes de la fecha de entrada en vigor del 12 de noviembre
Tres señales mostrarán si la política revisada se convierte en un marco de seguridad viable o sigue siendo principalmente una declaración de intenciones.
La primera señal es la orientación de implementación para desarrolladores y clientes empresariales. Las aplicaciones de alto riesgo necesitan ejemplos concretos que aborden el consentimiento, la revisión humana, el hardware autónomo y las decisiones posteriores prohibidas.
Los desarrolladores deberían buscar detalles sobre cómo Anthropic evalúa una aplicación, en lugar de un prompt aislado. Una orientación clara reforzaría el valor de la política como restricción de ingeniería.
La segunda señal es cómo Claude termina las conversaciones abusivas. Los usuarios deberían poder distinguir un límite específico de conversación de una sanción sobre la cuenta o una negativa ordinaria.
Los informes de falsos positivos frecuentes debilitarían la afirmación de Anthropic de que la norma se aplica solo en casos extremos. Intervenciones poco frecuentes y explicadas con claridad respaldarían esa posición.
La tercera señal es la evidencia de futuros informes sobre amenazas. Anthropic ha vinculado la actualización con operaciones observadas de propaganda, vigilancia, armas e influencia.
Las divulgaciones futuras deberían mostrar si las nuevas clasificaciones mejoran la detección. También deberían explicar cómo Anthropic protege la comunicación política legítima, el periodismo y el trabajo de seguridad autorizado.
Los lectores no deberían confundir la cláusula sobre abuso que acapara titulares con toda la historia. La política de uso más amplia de Anthropic intenta regular una IA que escribe, decide, rastrea, opera herramientas e influye en sistemas físicos.
Ese cambio importa a toda organización que construye sobre Claude. Los equipos de producto deberían mapear las fuentes de datos, los permisos de herramientas, los procedimientos de revisión y los canales de distribución antes del 12 de noviembre.
También deberían documentar por qué se permite cada flujo de trabajo sensible. Un registro del consentimiento, la finalidad, la autoridad humana y los límites técnicos ayudará cuando un caso de uso cruce varias secciones de la política.
Los usuarios individuales tienen una tarea más sencilla. La crítica ordinaria sigue permitida, y un desacuerdo firme no equivale a una crueldad sostenida y sin propósito.
La pregunta abierta es si Anthropic puede preservar esa distinción cuando millones de interacciones requieren un juicio automatizado. Observe la experiencia de aplicación, no solo la redacción.
Si Anthropic publica una orientación útil, aplica intervenciones limitadas a nivel de conversación y documenta una reducción del uso indebido, su política podría convertirse en una referencia del sector. Si los usuarios legítimos enfrentan restricciones opacas, el experimento revelará los límites de la gobernanza de IA escrita por proveedores.
