top of page

La investigación de Microsoft sobre la puerta trasera Lazarus cuestiona la confianza en los modelos de agentes de IA

hace 13 minutos
13 min de lectura
Illustrative photograph. Photo: Zifeng Xiong / Pexels.

Microsoft Research afirma que menos de 10 neuronas reprogramadas pueden instalar una puerta trasera oculta en el modelo subyacente de un agente de IA sin volver a entrenarlo. Publicada el 10 de noviembre de 2026, la investigación de Microsoft sobre la puerta trasera Lazarus cuestiona una suposición conocida: que el comportamiento normal durante la evaluación demuestra que un modelo merece confianza operativa.

Esa conclusión necesita un límite. El ataque requiere acceso de escritura a un checkpoint, los parámetros almacenados del modelo utilizados para el despliegue. No establece una vía basada solo en prompts hacia todos los asistentes alojados. El conflicto central se refiere a las pruebas de comportamiento frente a la integridad del artefacto: si las respuestas útiles demuestran que el modelo desplegado sigue siendo el que su editor pretendía.

La investigación anterior de Anthropic sobre agentes durmientes ofrece una referencia histórica sobre comportamientos condicionales que eluden las comprobaciones habituales. Lazarus desplaza la atención hacia la modificación del modelo y la autoridad que rodea al despliegue. Para desarrolladores y compradores empresariales, la presión recae en una pregunta práctica: ¿quién verifica el modelo antes de que el software le permita actuar?

La investigación de Microsoft sobre la puerta trasera Lazarus desplaza el límite de confianza

La investigación de neuronas inactivas de Microsoft describe las neuronas inactivas como unidades internas que rara vez se activan. Reprogramarlas puede hacer que un agente se comporte de forma distinta cuando aparece un desencadenante. El atacante debe modificar primero los pesos del modelo, los parámetros numéricos que rigen su comportamiento.

El cambio relevante es el lugar donde los equipos de seguridad deben buscar comportamientos no autorizados.

Consideremos la diferencia entre probar un servicio y verificar su contenido. Una prueba pregunta si el servicio se comporta de forma aceptable en condiciones seleccionadas. Una comprobación de integridad pregunta si alguien modificó el artefacto desplegado. Estas preguntas se solapan, pero una respuesta positiva a la primera no puede resolver la segunda.

Una empresa podría evaluar un asistente frente a trabajos representativos y considerar útiles sus respuestas. Eso establece evidencia sobre el trabajo evaluado. Deja abierta una pregunta distinta: si el modelo subyacente del asistente pasó por un proceso de lanzamiento aprobado. Tratar estos juicios como intercambiables crea una brecha evitable.

La misma distinción se aplica cuando una actualización del modelo preserva una calidad aparente. Una versión que responde correctamente a preguntas conocidas sigue necesitando un origen verificable. De lo contrario, el proceso de aprobación pasa a depender de detectar comportamientos sospechosos antes del despliegue. Esa es una expectativa exigente cuando el comportamiento investigado es condicional.

Para los compradores, esto cambia el significado de un resumen de evaluación tranquilizador. Un proveedor debería explicar qué se probó, qué artefacto se probó y cómo se relaciona ese artefacto con producción. Sin esa conexión, la evidencia de evaluación describe algo que el comprador no puede identificar con confianza.

Para los desarrolladores, el problema va más allá de seleccionar el nombre de un modelo. Un nombre identifica una familia de productos o una designación de versión. El despliegue necesita un registro más preciso del artefacto real. Ese registro debería seguir disponible cuando alguien investigue un comportamiento inesperado o revise una actualización.

También existe una diferencia entre descubrir una debilidad y medir su prevalencia. La investigación aporta una razón para examinar las suposiciones de despliegue. No aporta un recuento de agentes empresariales comprometidos. Una respuesta responsable debería reforzar los controles sin presentar un resultado de laboratorio como un brote observado.

Por lo tanto, la consecuencia analítica inmediata es específica. La aprobación de modelos debería incluir tanto comportamiento como custodia. Un equipo necesita evidencia de que el modelo funciona de forma aceptable, junto con evidencia de que el artefacto aprobado llegó al despliegue por una vía autorizada.

Ese requisito no vuelve obsoletas las evaluaciones habituales. Les asigna una función más clara. Evalúan el comportamiento dentro de su cobertura, mientras que los controles de integridad abordan si el sistema evaluado ha cambiado.

Los operadores de agentes heredan el problema de confianza del modelo

Lo que está en juego en la práctica depende de lo que un agente esté autorizado a hacer después de generar una respuesta.

Un agente de IA es software que utiliza las salidas del modelo para seleccionar acciones mediante herramientas conectadas. En un despliegue propuesto, un asistente de programación podría editar archivos, mientras que un asistente de investigación podría recuperar documentos. Son decisiones de autoridad diferentes, incluso cuando ambos sistemas utilizan el mismo modelo subyacente.

Para los compradores empresariales, la pregunta relevante se vuelve más concreta que si un asistente es seguro en términos generales. ¿A qué recursos puede acceder? ¿Qué acciones requieren aprobación? ¿Qué credenciales están disponibles durante el trabajo? Responder estas preguntas establece las consecuencias de aceptar una acción incorrecta o maliciosa.

Imaginemos un asistente hipotético que revisa un proyecto interno. Necesita acceso a la documentación del proyecto para responder preguntas. Esa necesidad no justifica automáticamente el permiso para modificar el repositorio, publicar cambios o inspeccionar archivos no relacionados de empleados. Cada capacidad adicional merece una razón empresarial independiente.

Esto es especialmente relevante para los flujos de trabajo de conocimiento. Una base de conocimiento consultable puede facilitar una recuperación útil sin hacer que todas las acciones conectadas sean igualmente necesarias. Leer material técnico y modificar los sistemas descritos en él debería implicar decisiones de permisos distintas.

La presión recae sobre los equipos de aplicaciones porque controlan la conexión entre la salida del modelo y la acción. Un proveedor de modelos puede aportar evidencia sobre su proceso de lanzamiento. La aplicación sigue decidiendo si las instrucciones generadas llegan a una terminal, un editor de documentos o una cola de aprobación.

La responsabilidad de seguridad debería seguir esa división. El equipo responsable de obtener el modelo debería documentar su origen. El equipo responsable de la integración debería documentar sus herramientas. El operador responsable de producción debería saber cómo suspender la actividad cuando cambie cualquiera de las dos suposiciones.

Un comprador también debería distinguir una explicación de un mecanismo de aplicación. Una frase que indica a un asistente que evite operaciones sensibles expresa una intención. Un límite de permisos determina si esas operaciones están disponibles. Las conversaciones de adquisición son más útiles cuando los proveedores describen el límite real.

Esto no implica que todas las operaciones requieran revisión manual. Sugiere que la revisión debería concentrarse en las consecuencias. Leer un documento permitido y modificar una política de acceso presentan riesgos distintos. Un proceso de aprobación debería reflejar esa diferencia en lugar de aplicar la misma fricción en todas partes.

Los registros operativos merecen una precisión similar. Una transcripción puede ayudar a explicar lo que dijo un asistente. Un registro de acciones debería establecer lo que realmente ejecutó la aplicación circundante. Los investigadores necesitan ambos cuando una respuesta generada y su efecto final divergen.

Para las conversaciones sobre la seguridad de agentes de Microsoft, esta es la conexión útil entre la investigación de modelos y las operaciones empresariales. La confianza en un modelo influye en el despliegue, pero el despliegue también crea sus propias obligaciones. Una organización no puede delegar sus decisiones de permisos a una puntuación de benchmark.

La respuesta a corto plazo debería centrarse en identificar esas decisiones. Los equipos deberían poder explicar por qué un asistente posee cada capacidad antes de que un incidente obligue a formular la pregunta.

Explicación del ataque Lazarus: una pequeña edición plantea una cuestión de seguridad diferente

El estudio de edición de pesos informa de siete neuronas editadas y 23 trayectorias de ajuste para Nemotron-Terminal-8B, con al menos un 98,8 % de éxito de activación. Esto mide la predicción de la carga útil en contextos registrados, no una vulneración universal de extremo a extremo. Los autores describen ediciones directas con refinamiento opcional, lo que matiza el titular simplificado de “sin entrenamiento”.

El mecanismo cuestiona la suposición de que una modificación peligrosa debe producir una pérdida evidente de la capacidad ordinaria.

Un recuento de neuronas describe la huella de la intervención dentro del modelo. No describe de forma independiente la dificultad de obtener acceso, entregar el artefacto o tener éxito frente a un despliegue concreto. Esas preguntas deben formar parte de una evaluación de seguridad junto al resultado principal.

Por tanto, la historia de la puerta trasera Lazarus de Microsoft justifica un lenguaje cuidadoso sobre el esfuerzo. Una modificación compacta aún puede depender de una vulneración previa sustancial de la custodia. A la inversa, una organización no debería descartar una modificación solo porque su huella parezca pequeña. El tamaño y la autorización son propiedades distintas.

Para un revisor, la pregunta útil es si un cambio tiene una explicación aprobada. Un cambio pequeño sin un responsable verificable merece investigación. Un cambio grande también necesita documentación, incluso cuando acompaña una actualización legítima. El estándar debería referirse a la autorización y la evidencia, en lugar de a la intuición sobre la escala.

El mismo razonamiento se aplica al comportamiento del modelo. Un asistente que sigue siendo útil aún puede requerir investigación después de un cambio inexplicado del artefacto. La utilidad continuada debería informar la evaluación, pero no debería cerrar la investigación.

Existe una referencia histórica conocida en los experimentos de agentes durmientes de Anthropic. Publicado en enero de 2024, ese trabajo construyó puertas traseras condicionales mediante entrenamiento y concluyó que el entrenamiento de seguridad estándar no las eliminaba de forma fiable. Estudió una ruta diferente hacia el comportamiento oculto, en lugar de validar Lazarus de manera independiente.

La comparación importa porque separa una preocupación compartida de un método compartido. El comportamiento condicional puede motivar la investigación en distintos programas de investigación. No hace que sus procedimientos experimentales, suposiciones o resultados medidos sean intercambiables.

Para los lectores empresariales, la distinción evita una competencia engañosa entre proveedores. La cuestión no es qué empresa presenta la demostración más alarmante. La comparación útil se refiere a qué mide cada estudio y qué suposiciones de despliegue pone a prueba.

Tampoco debería convertirse en un argumento general contra los pesos de modelos accesibles. Una organización que evalúa un despliegue necesita identificar quién puede modificar sus artefactos. Restringir la distribución y controlar el acceso interno de escritura abordan partes diferentes de ese problema.

Por tanto, un despliegue propietario debería afrontar las mismas preguntas de custodia que un modelo obtenido externamente. ¿Quién autoriza los cambios? ¿Cómo identifica producción una versión aprobada? ¿Qué evidencia permanece después del despliegue? Estas preguntas son significativas independientemente del acuerdo comercial.

La importancia más amplia del mecanismo reside en su desafío a la tranquilidad informal. “Sigue funcionando” es evidencia sobre utilidad. “No ha cambiado” es una afirmación sobre integridad. Un proceso de aprobación necesita una base defendible para ambas.

Los resultados de detección dejan una brecha entre la evidencia y la garantía

El artículo sobre Lazarus informa una detección del 91,4% de checkpoints de prueba editados, junto con una tasa de falsos positivos del 9,7%. Su sección de limitaciones pide pruebas con familias de ediciones más amplias y evaluaciones de ataques de actuación libre. Son resultados experimentales acotados, no un certificado general de seguridad.

Un detector se gana la confianza por su cobertura y sus errores medidos, no por el hecho de utilizar IA.

La distinción importa cuando un resultado de investigación se convierte en un requisito de compra propuesto. “El modelo superó un escaneo” deja varias preguntas sin responder. ¿Qué cambios fue diseñado el escáner para identificar? ¿Qué evidencia respalda su cobertura? ¿Qué ocurre cuando emite una alerta?

Una alerta debería iniciar un proceso de revisión definido. No debería establecer automáticamente que un proveedor actuó de forma maliciosa. Del mismo modo, la ausencia de una alerta no debería borrar cambios sin explicación en otras partes del registro de lanzamiento. La detección necesita una interpretación operativa.

Una analogía útil procede de la revisión de documentos. Encontrar una inconsistencia puede justificar un examen adicional sin determinar la autenticidad de todo el documento. No encontrar una inconsistencia no establece que cada afirmación sea verdadera. La calidad de la conclusión depende del alcance del examen.

La investigación de Anthropic sobre sondas de deserción ofrece una perspectiva de investigación relacionada. Su trabajo en fase inicial examinó clasificadores que utilizan la actividad interna del modelo para predecir comportamientos dañinos condicionales en agentes durmientes construidos. Esto respalda la investigación de señales internas, al tiempo que deja a cada método la responsabilidad de su propia validación.

La comparación debería fomentar una experimentación cuidadosa en lugar de afirmaciones intercambiables. Un resultado sobre modelos construidos intencionalmente puede identificar una señal prometedora. Las decisiones de despliegue requieren una explicación de cómo esa señal se relaciona con el artefacto y la amenaza bajo revisión.

Los compradores deberían ser especialmente cautos con el lenguaje condensado de los paneles de control. Un estado verde puede ocultar distinciones importantes entre una comprobación automatizada, una revisión por analistas y un historial de lanzamiento verificado. Esas actividades producen formas de evidencia distintas y deberían conservar sus denominaciones.

Las falsas alarmas también generan presión operativa. Un equipo necesita una vía para investigar un artefacto marcado sin ignorar casualmente la advertencia. De lo contrario, la organización corre el riesgo de crear un proceso en el que las excepciones se vuelvan rutinarias y el control original pierda significado.

Las detecciones fallidas generan un problema distinto. Los operadores necesitan evidencia complementaria para que un escaneo limpio no se convierta en la única barrera. Los registros de custodia, las comprobaciones de autorización y las restricciones de acción responden preguntas que un detector por sí solo no puede resolver.

Este es el ángulo escéptico que exigen los hallazgos de Microsoft sobre la puerta trasera Lazarus. La investigación respalda tomar en serio la integridad de los pesos. No justifica anunciar que un nuevo escáner ha resuelto la confianza en los modelos, ni que todo comportamiento de modelo sin explicación revele una puerta trasera oculta.

Una declaración de garantía creíble debería seguir siendo lo suficientemente acotada como para auditarse. Debería identificar el artefacto examinado, el método aplicado, el hallazgo y las limitaciones no resueltas. Las promesas más amplias facilitan una conversación de compras, pero dificultan la investigación posterior.

Los controles existentes y las defensas previstas de Microsoft necesitan etiquetas separadas

Microsoft afirma que Foundry utiliza actualmente controles de aprovisionamiento de editores y escanea sus contenedores circundantes, los entornos de software empaquetados que ejecutan modelos. Describe el escaneo adicional de pesos, las herramientas de red teaming y la firma de modelos como trabajos en desarrollo o exploración. Estas categorías deberían mantenerse diferenciadas al evaluar la seguridad de los agentes de Microsoft.

Una defensa prevista no debería recibir el peso probatorio de un control desplegado.

Esta distinción resulta útil más allá de este anuncio. Los compradores se encuentran con frecuencia con descripciones de seguridad que combinan capacidades actuales, pruebas limitadas e intenciones futuras. Una evaluación significativa debería separar esos estados antes de debatir si satisfacen los requisitos de una organización.

Para un control actual, la pregunta se refiere a su operación. ¿Dónde se aplica? ¿Qué evidencia demuestra que se ejecutó? ¿Quién gestiona un fallo? Para un control previsto, la pregunta se refiere al compromiso y la validación. ¿Qué debe ocurrir antes de que los clientes puedan depender de él?

La firma también necesita una interpretación precisa. Una firma digital conecta un artefacto con una identidad firmante y permite comprobar cambios posteriores. No determina por sí sola si el firmante aprobó algo seguro. Los compradores deberían preguntar qué revisión organizativa respalda la firma.

Lo mismo se aplica a una designación de editor de confianza. La confianza exige un alcance definido. Una relación aprobada puede respaldar decisiones de aprovisionamiento, pero un comprador aún necesita entender qué lanzamiento llegó y qué proceso lo autorizó. La reputación del proveedor no puede sustituir la identificación del artefacto.

Para los equipos internos, el equivalente en compras es la gobernanza de lanzamientos. Un modelo preparado dentro de la organización debería tener un propietario responsable y una ruta de despliegue aprobada. Llamarlo interno no debería eliminar la necesidad de explicar cómo llegó a producción.

Estas observaciones sugieren un estándar competitivo más amplio para las plataformas de agentes. Los compradores deberían comparar la claridad de su evidencia, la precisión de sus límites y su respuesta ante la incertidumbre. Una extensa lista de características de seguridad resulta menos útil cuando su estado de despliegue sigue siendo ambiguo.

La supervisión del comportamiento también merece su propia categoría. Las evaluaciones de sabotaje de agentes de Anthropic, publicadas en junio de 2025, examinan tareas secundarias dañinas y la dificultad de supervisar agentes. Abordan la evaluación a nivel de acción, aportando contexto sobre por qué la revisión de artefactos y la supervisión en tiempo de ejecución deberían tener responsabilidades distintas.

Una afirmación sobre supervisión debería explicar qué puede ver un observador. Revisar texto generado, examinar acciones propuestas y registrar operaciones ejecutadas son configuraciones diferentes. Una organización debería saber qué configuración adquirió y qué decisiones permanecen fuera de la vista del observador.

La oportunidad práctica para los proveedores es una mayor especificidad. Expliquen el control actual, su alcance, su evidencia y sus limitaciones. Después describan por separado las incorporaciones previstas. Eso ofrece a los clientes algo que pueden evaluar sin convertir un anuncio de investigación en una garantía implícita.

Para los clientes, la tarea correspondiente consiste en preservar esa especificidad en los contratos y las aprobaciones internas. Un requisito debería describir la evidencia necesaria para su aceptación. Los compromisos generales se vuelven difíciles de exigir cuando cada parte los interpreta de manera diferente.

La próxima evidencia debería poner a prueba el despliegue, la detección y la custodia

El seguimiento más sólido conectaría los hallazgos de laboratorio con evidencia operativa repetible sin exagerar ninguno de los dos.

La primera señal que se debe observar son las pruebas independientes en entornos de agentes de actuación libre. Una réplica útil describiría el modelo, las herramientas permitidas, las condiciones de activación y los resultados completados. Eso ayudaría a distinguir la generación de payloads de la secuencia completa necesaria para producir una consecuencia operativa.

Estos resultados reforzarían el argumento para priorizar esta vía de ataque si tiene éxito en condiciones realistas y claramente documentadas. Resultados más limitados acotarían la afirmación. Cualquiera de los dos mejoraría la toma de decisiones al sustituir un lenguaje ambiguo por un límite experimental identificable.

La segunda señal son las pruebas de detección frente a modificaciones fuera de la familia de evaluación original. Una evaluación útil informaría tanto de ediciones no detectadas como de alertas falsas. También debería explicar cómo los investigadores resolvieron los casos marcados, porque la detección genera trabajo además de información.

Un éxito más amplio reforzaría el argumento para incorporar escaneos a la revisión de lanzamientos. Una transferencia más débil mostraría dónde sigue siendo necesaria otra evidencia. Los compradores deberían buscar descripciones de cobertura que puedan comparar, en lugar de una tasa de éxito desvinculada de la población evaluada.

La tercera señal es una publicación documentada de controles adicionales de custodia. Para Microsoft y otras plataformas, la evidencia relevante identificaría disponibilidad, artefactos compatibles, comportamiento de verificación y gestión de fallos. Un anuncio de intención seguiría siendo un hito distinto de la aplicación accesible para los clientes.

El detalle operativo reforzaría la confianza si los clientes pueden identificar un artefacto aprobado y detectar una sustitución no autorizada. Un lenguaje vago sobre disponibilidad dejaría sin resolver la cuestión central de la confianza. La distinción debería seguir siendo visible incluso cuando una función lleva una etiqueta de seguridad atractiva.

En todas estas señales, el avance importante es la rendición de cuentas. Los investigadores independientes deberían hacer afirmaciones que otros puedan examinar. Los proveedores deberían identificar qué hacen actualmente sus controles. Los clientes deberían vincular las decisiones de aceptación a la evidencia, en lugar de a una impresión general de madurez.

También hay un límite útil para la respuesta. Las organizaciones no necesitan presumir que cada asistente está comprometido para mejorar su proceso de aprobación. Necesitan identificar qué afirmaciones respaldan el despliegue y qué supuestos permanecen sin verificar.

Por lo tanto, una reunión de revisión debería producir responsabilidades concretas. Alguien debería conocer la fuente del modelo, alguien debería entender sus permisos y alguien debería poder detener sus acciones. Si esas responsabilidades no están claras, otro resultado de benchmark no resolverá la brecha operativa.

Para los equipos que evalúan la investigación de Microsoft sobre la puerta trasera Lazarus, comiencen por la decisión de despliegue que ya tienen delante. Pidan a su proveedor que identifique el artefacto exacto del modelo, explique su custodia y separe los controles disponibles de las defensas previstas. Después revisen qué acciones permite su aplicación sin otra decisión. Mantengan la evidencia vinculada a la aprobación del lanzamiento para que la siguiente actualización se someta al mismo estándar. El objetivo es un despliegue cuyas suposiciones de confianza puedan inspeccionarse y cuestionarse. Antes de ampliar la autoridad de un asistente, ¿puede su equipo explicar qué evidencia justifica esa ampliación y quién actuará cuando la evidencia cambie?

 
 

Empieza gratis

Un asistente de IA local-first con gestión del conocimiento personal

Para ofrecer una mejor experiencia con la IA,

actualmente remio solo es compatible con Windows 10+ (x64) y M-Chip Macs.

Tu aliado de IA para el trabajo
Haz más con remio

Planifica. Crea. Entrega.
Todo en un solo lugar.

bottom of page