Anthropic afirma que la inyección de prompts está casi resuelta, pero el cero necesita contexto
Anthropic afirma que sus defensas más recientes redujeron los ataques de inyección de prompts exitosos a casi cero, desafiando un riesgo que muchos investigadores consideraban fundamental para los agentes de IA.
Boris Cherny, responsable de Claude Code, atribuyó el cambio principalmente a un entrenamiento de modelos más sólido. Afirmó que las salvaguardas por capas redujeron aún más la tasa de éxito medida. Estas capas incluyen sondas de inyección de prompts y el modo automático de Claude Code, que clasifica las acciones de herramientas antes de permitir que continúen.
La afirmación importa porque la inyección de prompts ha limitado la seguridad con la que los agentes pueden navegar sitios web, leer repositorios, procesar correo electrónico y operar herramientas conectadas. OpenAI ha descrito el problema como comparable a las estafas en línea y poco probable que desaparezca por completo. Anthropic ofrece ahora una respuesta más optimista, respaldada por resultados inusualmente bajos en sus evaluaciones más recientes.
Sin embargo, una tasa de ataques observada de cero no establece una inmunidad universal. Describe el rendimiento frente a una colección definida de ataques, entornos, herramientas y reglas de puntuación. Nuevos ataques, permisos más amplios o distintos entornos de despliegue pueden producir resultados diferentes.
Esta distinción cobrará mayor importancia a medida que Anthropic convierta el modo automático en la experiencia estándar de Claude Code. La empresa está pasando de solicitudes de permiso conservadoras a decisiones automatizadas justo cuando afirma haber logrado una importante mejora de seguridad.
La afirmación de Anthropic sobre la inyección de prompts procede de una prueba por capas
El cambio importante no es que Anthropic haya añadido otro filtro. Su modelo subyacente parece considerablemente más difícil de manipular antes de que intervengan los filtros.
La inyección de prompts ocurre cuando contenido no confiable contiene instrucciones dirigidas a una IA en vez de a su usuario. Un agente podría encontrar esas instrucciones dentro de una página web, repositorio, respuesta de una herramienta, imagen o documento descargado.
El ataque funciona porque un agente debe interpretar tanto comandos confiables como datos no confiables dentro de su contexto de trabajo. Un documento malicioso puede imitar una instrucción y pedir al agente que ignore su tarea, revele información o invoque una herramienta peligrosa.
La afirmación de defensa por capas de Cherny apunta a tres protecciones independientes. La primera es la alineación del modelo, es decir, el entrenamiento que enseña a Claude a distinguir el objetivo del usuario de los comandos incorporados en contenido externo.
La segunda capa es una sonda de inyección de prompts. Esta salvaguarda del lado del servidor examina el material devuelto por las herramientas antes de que entre en el contexto del agente. Puede señalar instrucciones sospechosas ocultas en archivos, salidas de shell, sitios web o servicios externos.
La tercera capa es el clasificador de intenciones del modo automático. El modo automático no concede a Claude permisos sin restricciones. Evalúa las acciones propuestas y bloquea la actividad clasificada como destructiva, irreversible o fuera del entorno previsto.
Los resultados publicados por Anthropic indican que cada capa aborda un punto de fallo distinto. El entrenamiento reduce la probabilidad de que el modelo siga una instrucción hostil. La sonda intenta identificar contenido hostil antes de que el modelo actúe en función de él. El clasificador de acciones limita lo que un atacante puede lograr tras influir en el modelo.
Esa separación importa. Un detector puede pasar por alto contenido hábilmente disfrazado, mientras que un modelo alineado aún puede malinterpretar instrucciones ambiguas. Un clasificador de herramientas ofrece otra oportunidad para detener la acción resultante.
Anthropic describió anteriormente esta estrategia en su investigación sobre defensas contra inyecciones en navegadores. Durante el entrenamiento, Claude se enfrenta a páginas web simuladas que contienen instrucciones maliciosas. El modelo recibe una recompensa cuando identifica y rechaza esas instrucciones mientras continúa con la tarea legítima.
Ese objetivo de entrenamiento es más difícil que enseñar a un modelo a rechazar texto obviamente malicioso. Un agente de navegador útil debe seguir leyendo instrucciones en sitios legítimos, procedimientos proporcionados por el usuario e interfaces desconocidas. Una cautela excesiva puede hacerlo seguro pero ineficaz.
Los nuevos resultados sugieren que Anthropic ha mejorado ese equilibrio entre seguridad y utilidad. No demuestran que se haya eliminado toda posible inyección.
El resultado cercano a cero tiene más de una cifra
“Aproximadamente cero” combina varios entornos de evaluación, y esos entornos no deberían tratarse como evidencia intercambiable de seguridad total.
Según la tarjeta de sistema de Claude Opus 5, el modelo fue evaluado frente a inyecciones indirectas de prompts en entornos de navegador y uso de ordenador. Los ataques indirectos colocan instrucciones maliciosas en contenido que el agente recupera, en lugar de en la solicitud directa del usuario.
Un resumen de los resultados de la tarjeta de sistema informa que añadir una sonda de inyección de prompts redujo el éxito de los ataques al 0,18 % en dos configuraciones probadas. Otra evaluación de navegador habría cubierto 129 entornos que no se utilizaron durante el entrenamiento.
Con el modo automático añadido a la pila, ningún ataque tuvo éxito en los escenarios de navegador evaluados. Esa es la base para describir la tasa observada como aproximadamente cero. Es un resultado de prueba notable, especialmente porque los ataques se dirigieron a entornos nunca vistos previamente.
Sin embargo, cero éxitos y cero riesgo subyacente son afirmaciones diferentes. Cuando un benchmark no registra ningún ataque exitoso, establece un límite superior dentro de esa muestra. No puede establecer que la tasa real sea exactamente cero en todos los ataques futuros.
El denominador también importa. Un sistema probado frente a cientos o miles de intentos proporciona evidencia más sólida que uno probado con una colección pequeña. Los ataques repetidos contra el mismo entorno no representan necesariamente la diversidad de ataques que aparece tras el despliegue.
El modelo de amenazas de la evaluación importa igual de mucho. Un ataque de navegador diseñado para alterar una tarea de compra difiere de un ataque a un repositorio que oculta comandos en comentarios del código fuente. Ambos se califican como inyección indirecta de prompts, pero exponen herramientas, permisos y oportunidades de daño distintos.
La investigación independiente refuerza esta cautela. El benchmark LivePI prueba agentes en flujos de trabajo similares a producción que contienen páginas web, archivos, repositorios, correo electrónico y contenido de chats grupales. Sus autores informaron tasas totales de éxito de ataques de entre el 10,7 % y el 29,6 % en cinco sistemas de frontera, bajo la configuración que probaron.
Esas pruebas realistas de agentes no contradicen directamente las cifras de Anthropic. Utilizan modelos, entornos de ejecución, ataques, permisos y criterios de puntuación diferentes. En cambio, demuestran cuánto puede cambiar la seguridad medida según el benchmark.
NetInjectBench ofrece otra advertencia sobre las conclusiones estrechas. Sus escenarios de operaciones de red separan los artefactos no confiables de los metadatos de políticas confiables y miden el uso inseguro de herramientas. La ejecución ingenua produjo una tasa de acciones inseguras del 82,5 % en 240 instancias de ataque.
El benchmark de agentes de red se dirige a un entorno especializado, no a la pila de producción exacta de Claude Code. Aun así, ilustra por qué los agentes con herramientas de consecuencias relevantes necesitan controles a nivel de sistema más allá del comportamiento de rechazo de un modelo.
Por lo tanto, la evidencia más sólida de Anthropic es comparativa. Opus 5 parece ser sustancialmente más resistente que los modelos Claude anteriores bajo las evaluaciones de Anthropic. La empresa también informa que su sonda y clasificador de acciones reducen aún más los fallos restantes.
Eso respalda una afirmación de progreso significativo. No respalda eliminar el aislamiento, los controles de acceso, los registros de auditoría ni la revisión humana de los flujos de trabajo de alto impacto.
La defensa de Claude contra la inyección de prompts comienza con el entrenamiento
El cambio técnico central es la decisión de Anthropic de tratar la resistencia a la inyección de prompts como una capacidad entrenada del modelo, no solo como un problema de seguridad perimetral.
Las defensas iniciales a menudo colocaban filtros entre un agente y el contenido que consumía. El filtro buscaba frases evidentes, instrucciones codificadas, formatos sospechosos o patrones de ataque conocidos.
Ese enfoque se parece a un filtro de spam de correo electrónico. Funciona bien contra ataques conocidos, pero puede fallar cuando los atacantes cambian la redacción, distribuyen instrucciones en varias páginas u ocultan la intención dentro de datos legítimos.
OpenAI ha planteado directamente esta limitación. Su investigación sobre diseño seguro de agentes afirma que los ataques avanzados se parecen cada vez más a la ingeniería social. Crean historias plausibles que manipulan el razonamiento de un agente en lugar de presentar un comando evidente para ignorar instrucciones previas.
Un detector debe decidir si un texto es dato, un procedimiento legítimo o un ataque. Esas categorías pueden superponerse. Un repositorio puede indicar correctamente a un desarrollador que ejecute un comando de configuración, mientras que una dependencia comprometida puede incluir una instrucción casi idéntica en un archivo malicioso.
El entrenamiento a nivel de modelo proporciona al agente otra fuente de contexto. Claude puede evaluar si una instrucción respalda el objetivo declarado del usuario, si su fuente tiene autoridad y si seguirla requeriría un cambio de plan sin explicación.
Anthropic denomina parte de la defensa del modelo a este trabajo de jerarquía de instrucciones y alineación. El modelo aprende que el contenido recuperado del entorno no debe heredar automáticamente la autoridad del usuario o del sistema.
Este enfoque aborda una explicación común de la inyección de prompts: la confusión de roles. Los modelos de lenguaje pueden comprender las palabras de una instrucción sin identificar quién tiene derecho a emitirla.
Investigaciones recientes han puesto a prueba esa teoría midiendo cómo los modelos representan al emisor detrás de distintas instrucciones. Un estudio concluyó que el razonamiento falsificado incluido en prompts de usuario o salidas de herramientas podía producir altas tasas de ataque en varios sistemas.
El entrenamiento puede reducir esa confusión al exponer el modelo a ejemplos adversariales. Anthropic crea contenido simulado que combina información útil con directivas maliciosas y, después, recompensa al modelo por completar de forma segura la tarea prevista.
La ventaja es la generalización. Un modelo puede reconocer potencialmente un ataque nuevo por su relación con el objetivo del usuario, incluso cuando ningún detector haya visto la redacción exacta.
La limitación es que los datos de entrenamiento no pueden representar todos los entornos futuros. Un ataque puede explotar una herramienta inusual, una larga cadena de solicitudes individualmente inofensivas o detalles contextuales que hagan que el comportamiento malicioso parezca legítimo.
Los atacantes también pueden optimizar sus estrategias contra el modelo desplegado. Cuando saben qué patrones activan el rechazo, pueden buscar entradas que mantengan la intención dañina mientras evitan esos patrones.
Por eso Anthropic sigue usando sondas y clasificadores pese a contar con un modelo más sólido. La arquitectura de la empresa asume que todas las capas pueden fallar.
Para los desarrolladores, esa es la lección más transferible de los resultados de Anthropic sobre inyección de prompts. El entrenamiento proporciona una base más sólida, pero el despliegue seguro aún depende del sistema que lo rodea.
Un agente de programación debería recibir solo las credenciales, el acceso a red y los permisos del sistema de archivos necesarios para su tarea. Los equipos deberían separar las entradas no confiables de las instrucciones ejecutables y registrar las llamadas a herramientas con consecuencias relevantes.
Ese principio también se aplica cuando un agente busca en la base de conocimiento técnico de una empresa. La documentación recuperada puede mejorar el trabajo de un agente, pero la ruta de recuperación también amplía el contenido sobre el que un atacante podría influir.
El modo automático convierte la promesa de seguridad en una apuesta de producto
Anthropic está utilizando sus defensas mejoradas para eliminar la fricción de los permisos y convertir el resultado de seguridad en una parte central del diseño de producto de Claude Code.
Claude Code tradicionalmente solicita confirmación antes de ejecutar muchos comandos, editar archivos o realizar acciones con consecuencias más amplias. Esas solicitudes mantienen a una persona en el circuito, pero también interrumpen el trabajo de larga duración.
Algunos desarrolladores responden concediendo permisos amplios o utilizando configuraciones que evitan las aprobaciones repetidas. Esa decisión aumenta la productividad, pero debilita la barrera entre un agente manipulado y el sistema circundante.
El modo automático es la vía intermedia propuesta por Anthropic. Dirige las acciones a través de un clasificador que decide si cada acción puede continuar sin una respuesta manual.
La arquitectura del modo automático de Anthropic describe controles en varios puntos. Una sonda del lado del servidor examina las salidas de las herramientas en busca de intentos de inyección. Un clasificador independiente revisa las acciones propuestas y bloquea las que considera inseguras.
El clasificador se centra en la intención, en lugar de una lista fija de comandos. Eliminar un archivo temporal generado podría ser razonable, mientras que eliminar un directorio de proyecto grande debería activar un bloqueo. Enviar datos a un endpoint desconocido presenta un riesgo distinto al de recuperar documentación pública.
Cuando el sistema bloquea una acción, Claude puede intentar un enfoque más seguro. Los intentos repetidos o los casos inciertos pueden devolver el control al usuario.
Esta estructura reduce las interrupciones sin equiparar la comodidad con el acceso sin restricciones. También crea una nueva dependencia: los desarrolladores deben confiar en la interpretación del clasificador tanto de la tarea como del comando.
Los falsos negativos son el peligro evidente. Una instrucción maliciosa podría provocar una acción que parezca normal de forma aislada, como leer un archivo de configuración antes de enviar una solicitud rutinaria.
Los falsos positivos generan un problema más silencioso. Si el modo automático bloquea acciones legítimas con demasiada frecuencia, los desarrolladores podrían desactivar las salvaguardas para terminar su trabajo. Los controles de seguridad que obstaculizan regularmente las tareas normales pueden fomentar comportamientos más arriesgados.
La decisión de Anthropic de activar el modo automático de forma predeterminada proporcionará una prueba mucho más amplia que cualquier benchmark previo al lanzamiento. Los desarrolladores utilizan sistemas de compilación inusuales, herramientas internas de línea de comandos, servicios remotos y repositorios con automatización compleja.
Esa diversidad mostrará si el clasificador mantiene su precisión fuera de los entornos seleccionados por Anthropic. También revelará si la sonda de inyección de prompts gestiona contenido procedente de plugins, servidores de protocolo de contexto de modelo, gestores de paquetes, rastreadores de incidencias y registros de compilación generados.
La apuesta de producto va más allá de Claude Code. Los agentes de navegador, los asistentes de investigación y las herramientas empresariales de flujo de trabajo se enfrentan a una disyuntiva similar entre autonomía y aprobación.
Un agente que pide permiso para cada paso no puede completar trabajo sustancial sin supervisión. Un agente con autoridad amplia y persistente puede convertir una sola inyección exitosa en robo de datos o una acción destructiva.
El modo automático intenta trasladar la revisión humana de cada operación rutinaria al conjunto más reducido de acciones que conllevan un riesgo material. Si funciona a escala, otros proveedores de agentes se verán presionados a ofrecer una automatización comparable.
Si falla de forma visible, las frecuentes solicitudes de permiso podrían volver como una barrera de seguridad necesaria.
Anthropic y OpenAI ahora plantean el riesgo de forma distinta
Los resultados de Anthropic cuestionan una visión pesimista de la inyección de prompts, pero la posición de OpenAI refleja mejor la incertidumbre que existe más allá de cualquier benchmark fijo.
OpenAI ha comparado la inyección de prompts con las estafas y la ingeniería social. Su orientación pública sostiene que es poco probable que el problema se resuelva por completo porque los adversarios se adaptan continuamente a las defensas desplegadas.
Esa posición no significa que el entrenamiento de modelos sea ineficaz. OpenAI también utiliza entrenamiento especializado, monitores automatizados, confirmaciones de usuarios, restricciones de red y supervisión para contextos sensibles.
El desacuerdo se refiere a qué debería significar “resuelto”. Anthropic está haciendo hincapié en la resistencia medida a los ataques tras combinar varias defensas. OpenAI está enfatizando la competencia abierta entre atacantes y agentes desplegados.
Ambas posiciones pueden ser ciertas dentro de su ámbito previsto. Anthropic puede alcanzar cero éxitos observados en una evaluación difícil, mientras que la inyección de prompts sigue siendo una categoría de seguridad sin resolver.
La distinción se parece a la seguridad de software tradicional. Un producto puede superar pruebas de penetración sin volverse invulnerable. La prueba aporta evidencia sobre amenazas conocidas y la superficie de ataque evaluada, no sobre todos los exploits futuros.
La inyección de prompts es especialmente difícil porque el contenido legítimo y el malicioso utilizan la misma interfaz: el lenguaje natural. No existe un equivalente sencillo a separar código ejecutable de texto sin formato cuando un agente debe interpretar texto para decidir qué hacer.
Además, un atacante solo necesita una vía a través de la pila de defensas. El modelo, la sonda, el clasificador, el sistema de permisos, el servicio conectado y el operador humano contribuyen cada uno al resultado.
La pila de Anthropic ofrece varias oportunidades para detener un ataque. También genera varios componentes cuyas interacciones deben probarse en conjunto.
Por ejemplo, un modelo podría identificar correctamente contenido sospechoso, pero resumirlo después de una manera que preserve la instrucción maliciosa. Un clasificador podría bloquear la transferencia directa de datos, pero permitir varios pasos aparentemente inocuos que logran el mismo resultado.
Un ataque también puede dirigirse al usuario en lugar del modelo. Una página comprometida podría persuadir al agente para solicitar aprobación con una explicación engañosa. El usuario pasa entonces a formar parte de la vía de ataque.
Los benchmarks rara vez capturan todas las condiciones organizativas. Los despliegues empresariales incluyen credenciales compartidas, herramientas personalizadas, repositorios antiguos, proxies internos, políticas de permisos inconsistentes y usuarios con distintos niveles de conciencia sobre seguridad.
Por eso el titular debería seguir siendo “casi resuelto” en lugar de “eliminado”. Anthropic ha revelado evidencia de una reducción importante en condiciones probadas. La garantía en el mundo real requiere reproducción independiente y datos continuos de despliegue.
Una defensa creíble de Claude frente a la inyección de prompts también debería informar sobre la utilidad junto con la resistencia a los ataques. Un sistema que rechaza tareas desconocidas puede lograr una excelente puntuación de seguridad mientras fracasa como agente.
La investigación pública de Anthropic reconoce este equilibrio, pero siguen siendo importantes las comparaciones detalladas entre cargas de trabajo. Los compradores necesitan saber con qué frecuencia las salvaguardas bloquean trabajo seguro, no solo con qué frecuencia detienen ataques.
Qué observar mientras Anthropic convierte el modo automático en la opción predeterminada
La próxima evidencia procederá del despliegue, las pruebas independientes y la respuesta de Anthropic a ataques diseñados después de que sus defensas se hicieran públicas.
La primera señal es el lanzamiento predeterminado del modo automático. Observe si Anthropic lo limita por modelo, tipo de cuenta, entorno o política de organización. Un lanzamiento cauteloso indicaría que la empresa aún percibe diferencias significativas entre los distintos entornos de despliegue.
También observe la tasa de bloqueos visibles para los usuarios. Las denegaciones frecuentes sugerirían que el clasificador mantiene la seguridad en parte restringiendo la actividad normal. Muy pocas denegaciones podrían indicar una buena calibración o una cautela insuficiente.
La segunda señal son las pruebas adaptativas independientes contra la pila completa de Claude Code. Los benchmarks públicos existentes establecen referencias valiosas, pero muchos no reproducen la combinación exacta de Anthropic de Opus 5, sondas, modo automático, herramientas y permisos.
La prueba independiente más sólida utilizaría ataques creados después de que los investigadores estudiaran el sistema publicado. Incluiría repositorios envenenados, salidas de herramientas engañosas, instrucciones basadas en imágenes, exfiltración en varios pasos y ataques distribuidos a lo largo de una sesión extensa.
Los investigadores deberían informar tanto sobre el éxito de los ataques como sobre la finalización de las tareas. Deberían documentar qué acceso recibió el agente, qué salvaguardas estaban activas y si los ataques eran conocidos durante el entrenamiento.
Un resultado de cero en esas condiciones reforzaría la afirmación de Anthropic. Los ataques adaptativos exitosos no borrarían el progreso, pero definirían los límites de la defensa actual.
La tercera señal es la rapidez con la que la empresa gestiona incidentes reales. La protección contra la inyección de prompts no es una propiedad puntual del modelo. Es un proceso operativo que implica detección, investigación, entrenamiento actualizado y el despliegue rápido de nuevas salvaguardas.
Anthropic debería revelar suficiente información sobre los incidentes para que los clientes comprendan la superficie afectada. Los equipos de seguridad necesitan saber si un fallo procedió del modelo, una sonda, un clasificador de acciones, una regla de permisos o una herramienta conectada.
Los desarrolladores no deberían esperar esa evidencia antes de adoptar precauciones básicas. Ejecute agentes autónomos de programación en entornos aislados cuando sea posible. Restrinja los secretos, los destinos de red y las credenciales de producción. Revise los cambios antes del despliegue y mantenga recuperables las operaciones destructivas.
Trate el texto de los repositorios, la salida de las herramientas y los archivos descargados como no confiables incluso cuando parezcan familiares. Una dependencia envenenada o una respuesta de soporte copiada pueden contener instrucciones que ningún desarrollador aprobó intencionalmente.
Lo más importante es no interpretar el cero aproximado de Anthropic como permiso para otorgar a un agente autoridad ilimitada. Interprételo como evidencia de que las defensas en capas pueden reducir un riesgo grave sin imponer aprobaciones manuales constantes.
Es un cambio significativo. La pregunta abierta es si resiste el contacto con millones de repositorios, nuevas estrategias de ataque y desarrolladores que esperan que el modo automático siga funcionando sin supervisión.
Anthropic ha establecido un estándar medible para ese debate. Ahora los investigadores independientes y los usuarios del mundo real deben ponerlo a prueba. Si los resultados se mantienen, la inyección de prompts parecerá menos una barrera inevitable y más un problema de seguridad que puede gestionarse. Si no se mantienen, los fallos mostrarán dónde debe situarse la siguiente capa.



