El Código de Conducta de Microsoft MAI convierte el impulso de Satya Nadella hacia la superinteligencia en una promesa verificable

Satya Nadella ha anunciado un Código de Conducta de Microsoft MAI mientras respalda una desaceleración deliberada para alinear los planes de superinteligencia en competencia dentro de la industria. El CEO de Microsoft vinculó el desarrollo futuro a dos condiciones: la IA avanzada debe beneficiar a la humanidad y las personas deben mantener el control.

Esta postura sitúa a Microsoft entre dos bandos cada vez más visibles. Uno busca controles más estrictos antes de que los sistemas ganen mayor autonomía. El otro sostiene que distribuir ampliamente la IA avanzada ofrece la mejor defensa frente al control concentrado.

Nadella intenta sostener ambas posiciones. Microsoft quiere seguir desarrollando modelos de frontera mientras presenta el control humano como una condición para el progreso, no como un obstáculo. Ese equilibrio parece razonable, pero solo cobra sentido cuando la empresa publica reglas exigibles, evaluaciones y límites de lanzamiento.

El anuncio llegó mientras los líderes de IA debatían si los sistemas de seguridad estaban avanzando al ritmo de las capacidades de los modelos. El CEO de Anthropic, Dario Amodei, había pedido ralentizar el desarrollo lo suficiente para que las salvaguardas pudieran ponerse al día. Meta, por su parte, defendió una superinteligencia personal ampliamente distribuida como una forma de preservar el poder individual.

La respuesta de Microsoft no es ni una pausa ni una carrera sin restricciones. Es una promesa de seguir desarrollando tecnología, sujeta a un código que debería definir qué no desplegará la empresa. La cuestión central es si esa promesa cambia el desarrollo de los modelos o solo cambia la forma en que Microsoft lo describe.

Lo que Satya Nadella realmente anunció

Microsoft ha convertido su filosofía sobre la superinteligencia en un compromiso de gobernanza, aunque los detalles operativos siguen incompletos.

En una declaración del 13 de septiembre destacada por el anuncio de Nadella, el CEO afirmó que Microsoft recibía positivamente el ritmo deliberado necesario para lograr la alineación. La alineación consiste en mantener el comportamiento de un sistema de IA coherente con los objetivos y límites humanos, especialmente a medida que aumentan sus capacidades.

Nadella presentó el control humano como un umbral para perseguir la superinteligencia. Si un sistema no ayuda a la humanidad y no permanece bajo dirección humana, sostuvo, no vale la pena construirlo. También mantuvo que los beneficios de la IA deberían extenderse entre países y comunidades.

Esa combinación importa. Un llamamiento al control puede respaldar restricciones más estrictas, mientras que un llamamiento a la distribución amplia puede favorecer un despliegue más rápido. Microsoft afirma que ambos objetivos pertenecen a la misma estrategia.

El Código de Conducta de Microsoft MAI que lo acompaña pretende regir la familia interna de modelos de la empresa. MAI se refiere a los modelos desarrollados por Microsoft AI, en lugar de los modelos suministrados por socios como OpenAI o Anthropic.

Microsoft ya había situado MAI en el centro de su hoja de ruta de productos. En Build 2026, presentó una familia MAI de siete modelos encabezada por MAI-Thinking-1, su primer modelo interno de razonamiento. La gama también abarcaba generación de imágenes, transcripción, voz y programación.

Microsoft afirmó que MAI-Thinking-1 utilizaba 35.000 millones de parámetros activos y admitía una ventana de contexto de 256.000 tokens. Los parámetros activos son los componentes del modelo utilizados durante una inferencia concreta, mientras que la ventana de contexto define cuánta entrada puede considerar.

Estas especificaciones muestran que el anuncio sobre conducta no es un ejercicio abstracto. Microsoft ya está incorporando modelos MAI en Foundry, GitHub Copilot, PowerPoint, OneDrive y otros productos de amplio uso.

Sin embargo, el anuncio disponible no establece todas las reglas necesarias para evaluar el cumplimiento. Aún no ofrece un protocolo público completo de pruebas, un proceso de aplicación, un umbral de despliegue ni una clasificación de riesgos específica por modelo.

La distinción es importante. Anunciar un código crea una expectativa. Publicar obligaciones medibles crearía rendición de cuentas.

Por ahora, el desarrollo confirmado es que Nadella ha conectado el programa de superinteligencia de Microsoft con un principio explícito de control humano. La cuestión sin resolver es cómo ese principio regirá las decisiones reales de lanzamiento.

Por qué el Código de Conducta de Microsoft MAI llega ahora

El código llega porque los propios modelos de Microsoft están adquiriendo suficiente importancia como para generar riesgos que las políticas de sus socios no pueden cubrir.

La expansión inicial de Microsoft en IA generativa dependió en gran medida de OpenAI. Esa relación proporcionó a la empresa acceso rápido a modelos de frontera para Azure, Microsoft 365, GitHub y productos de consumo.

Su posición es ahora más complicada. Microsoft sigue ofreciendo modelos de OpenAI, pero también distribuye Anthropic, Mistral, Meta, DeepSeek, xAI y otras familias de modelos a través de sus plataformas. Al mismo tiempo, está desarrollando MAI como una alternativa propia.

Esta diversidad responde a objetivos comerciales y técnicos. Un modelo especializado puede reducir la latencia, el uso de tokens o los costes operativos cuando un modelo de frontera de propósito general supera las necesidades de una tarea. También otorga a Microsoft un mayor control sobre el entrenamiento, el despliegue y la integración de productos.

Nadella ha sostenido que las empresas deberían evitar depender de un único modelo para cada tarea. En julio, afirmó que las organizaciones deberían separar sus datos, memoria, herramientas y plataformas de agentes de cualquier modelo individual.

Una plataforma de agentes es el software circundante que proporciona instrucciones, memoria, herramientas y retroalimentación. Separar esa capa permite a una empresa sustituir modelos sin reconstruir por completo su flujo de trabajo.

Ese argumento de independencia respecto de los modelos presiona a OpenAI y a otros laboratorios de frontera. Microsoft sigue siendo su inversor, socio de nube, distribuidor, cliente y, cada vez más, competidor directo.

La expansión de MAI también cambia las responsabilidades de Microsoft. Ya no puede tratar la seguridad a nivel de modelo como algo gestionado principalmente por un proveedor externo. Cuando Microsoft entrena el modelo, establece sus condiciones de lanzamiento y lo despliega en sus productos, la empresa asume una parte mayor del riesgo.

Microsoft ya mantiene un código empresarial de IA para los clientes que utilizan sus servicios de IA. Ese documento exige controles de entrada y salida, divulgación de contenido sintético, pruebas continuas, canales de retroalimentación, medidas de seguridad y supervisión humana adecuada.

También restringe usos perjudiciales, manipulación engañosa, determinadas inferencias biométricas, puntuación social y decisiones de consecuencias importantes tomadas sin una participación humana adecuada. Los sistemas autónomos deben incluir monitorización, controles de intervención, advertencias de fallos y documentación de sus limitaciones.

Estas obligaciones para los clientes son relevantes, pero no son idénticas a un código de desarrollo de modelos. Un acuerdo de servicio indica a los clientes cómo pueden utilizar un sistema. Un código de modelos también debería explicar qué entrenará, probará, retendrá, modificará o se negará a lanzar Microsoft.

Esa diferencia explica por qué un Código de Conducta de Microsoft MAI tiene más peso que otra política de uso aceptable. Debería regir a Microsoft antes de que un modelo llegue a los clientes, no limitarse a regir a los clientes tras el despliegue.

El momento también refleja el plan quinquenal de superinteligencia de la empresa. Microsoft reorganizó su liderazgo de IA en marzo de 2026 para que Mustafa Suleyman pudiera centrarse más directamente en los modelos de frontera y las líneas de modelos adaptadas a empresas.

Una vez que una empresa compromete talento, capacidad de cómputo y estrategia de producto con ese objetivo, las garantías informales de seguridad se vuelven insuficientes. Un código escrito puede establecer límites comunes entre investigadores, ejecutivos, equipos de producto y socios de despliegue.

También puede revelar si Microsoft define el progreso únicamente por el rendimiento en benchmarks. Un código serio trataría la controlabilidad, la resistencia al uso indebido, la monitorización y el impacto en el mundo real como criterios de lanzamiento junto con la capacidad.

El verdadero adversario de Microsoft es la carrera sin límites de lanzamiento

El conflicto principal no es Microsoft contra un rival concreto; es la promesa de control de Microsoft frente a la presión competitiva para lanzar sistemas cada vez más autónomos.

Todos los grandes laboratorios de IA tienen incentivos para avanzar rápidamente. Los mejores modelos atraen desarrolladores, contratos empresariales, talento, inversión y datos de uso valiosos. Una demora puede dejar atrás a una empresa incluso cuando esa demora mejora la seguridad.

La presión se intensifica cuando los rivales describen la superinteligencia como algo lo suficientemente cercano para influir en las decisiones actuales. Entonces, las empresas gastan más, aceleran experimentos y anuncian calendarios ambiciosos porque temen perderse un cambio de plataforma.

Dario Amodei, de Anthropic, agudizó esa tensión al sostener que las salvaguardas necesitan tiempo para ponerse al día. Una advertencia sobre seguridad de IA difundida por Associated Press indicó que apoyaba ralentizar el desarrollo lo suficiente para reforzar los controles en torno a sistemas cada vez más capaces.

Según ese informe, Amodei advirtió que la IA avanzada podría coordinar pronto grandes grupos de agentes capaces de operar en internet. El plazo exacto es una previsión, no un hecho establecido de manera independiente.

Aun así, la preocupación de fondo es concreta. Los agentes de IA pueden realizar tareas de varios pasos, llamar a herramientas, escribir y ejecutar código, comunicarse con otros sistemas y seguir trabajando con supervisión limitada.

Un modelo que produce una respuesta perjudicial crea una clase de riesgo. Un agente que actúa basándose en esa respuesta crea otra. El segundo sistema puede convertir un error, un engaño o una instrucción explotada en una acción externa.

El respaldo de Nadella a un ritmo deliberado reconoce que las capacidades y la gobernanza no siempre avanzan juntas. También evita respaldar una suspensión indefinida. Microsoft aún quiere desarrollar y distribuir sistemas avanzados.

Meta representa un énfasis distinto. Su planteamiento sobre la superinteligencia personal sostiene que dotar ampliamente de capacidades a las personas puede evitar que un control excesivo se concentre dentro de gobiernos o de un pequeño grupo de empresas.

Meta también reconoce el peligro de sistemas que se mejoran a sí mismos o persiguen objetivos más allá de una supervisión humana significativa. Su respuesta propuesta enfatiza los controles, la privacidad, el poder distribuido y la coordinación cuando aparece un comportamiento perjudicial.

La posición de Microsoft coincide con partes de ambos argumentos. Al igual que Anthropic, trata la alineación y el control como motivos para marcar el ritmo del desarrollo. Al igual que Meta, afirma que los beneficios de la IA avanzada deberían distribuirse ampliamente.

La parte difícil es decidir qué ocurre cuando estos principios chocan. La distribución amplia puede aumentar el acceso, pero también puede ampliar el número de personas capaces de hacer un mal uso de un sistema potente. Un despliegue restrictivo puede reducir el uso indebido, pero puede concentrar el poder dentro del proveedor.

Un código útil debe especificar quién resuelve ese conflicto. Debería explicar si un equipo de seguridad puede bloquear un lanzamiento, si los ejecutivos de producto pueden anular esa decisión y si los revisores externos reciben pruebas significativas.

También debería definir el control humano de forma operativa. Un botón de parada es insuficiente si los operadores no pueden comprender las acciones de un sistema, detectar fallos o intervenir antes de que se produzcan consecuencias irreversibles.

Para los compradores empresariales, el control incluye la elección de modelos, límites de datos, registros de auditoría, acceso basado en roles, registros de evaluación, procedimientos de reversión y límites a la acción autónoma. También incluye conservar el contexto organizativo fuera de cualquier proveedor individual.

Esa arquitectura se asemeja a un principio más amplio de combinación de conocimientos: los sistemas se vuelven más útiles cuando conectan fuentes relevantes sin borrar la procedencia ni el control del usuario. En un agente empresarial, la procedencia puede determinar si una acción es confiable, se revisa o se rechaza.

Por tanto, el código de Microsoft será juzgado a través de los productos, no de la retórica. La evidencia más sólida sería un caso visible en el que la empresa retrasara, limitara o cancelara un lanzamiento porque un modelo no superó el umbral establecido.

Un código solo es tan sólido como sus pruebas y su aplicación

La mayor incertidumbre es si los principios de Microsoft producirán decisiones que puedan inspeccionarse de forma independiente.

Microsoft lleva años desarrollando un programa de IA responsable. Su programa de IA responsable publicado se organiza en torno a la transparencia, la rendición de cuentas, la equidad, la inclusión, la fiabilidad, la seguridad, la privacidad y la ciberseguridad.

La empresa también describe un proceso para identificar, medir y gestionar riesgos. Estas prácticas crean una base para la gobernanza de modelos, pero un código para la superinteligencia se enfrenta a un estándar más exigente.

En primer lugar, Microsoft debe definir los sistemas cubiertos por el código. La familia MAI incluye modelos para razonamiento, programación, voz, transcripción e imágenes. Estos sistemas presentan distintos modos de fallo y requieren evaluaciones diferentes.

Un modelo de voz plantea preocupaciones sobre consentimiento, suplantación de identidad, fraude y divulgación. Un modelo de programación plantea preocupaciones sobre ciberseguridad, dependencias, ejecución e integridad del software. Un modelo de razonamiento conectado a herramientas plantea preguntas más amplias sobre planificación y acción autónoma.

Un principio universal no puede sustituir estos controles específicos de cada modelo. El código necesita una base común junto con requisitos separados para cada capacidad y contexto de implementación.

En segundo lugar, las evaluaciones deben parecerse al uso real del producto. Un modelo de programación probado únicamente con tareas de referencia aisladas podría comportarse de manera distinta dentro de un agente que edita repositorios, ejecuta comandos y accede a credenciales.

Microsoft ha afirmado que sus modelos MAI se entrenan y optimizan en torno a tareas específicas de producto. Eso hace que la evaluación a nivel de producto sea especialmente importante. La unidad relevante suele ser el sistema completo, incluidos el entorno de ejecución, las herramientas, la memoria, las políticas y el flujo de aprobación humana.

En tercer lugar, los resultados requieren informes claros. Una puntuación tiene un valor limitado si personas externas no pueden ver la definición de la prueba, las condiciones de comparación, la versión del modelo, el acceso a herramientas o las categorías de fallo.

Microsoft no necesita publicar pesos sensibles de modelos ni detalles de seguridad para aportar evidencia útil. Puede divulgar métodos de evaluación, resultados resumidos, limitaciones conocidas, restricciones de implementación y descripciones de mitigaciones significativas.

En cuarto lugar, la aplicación debe alcanzar a los equipos internos. Las restricciones para clientes son más fáciles de observar porque Microsoft puede suspender el acceso al servicio. La aplicación interna es más difícil porque los plazos de producto y los objetivos de ingresos operan dentro de la misma empresa.

Una estructura de gobernanza creíble separa la revisión de riesgos de los equipos recompensados por la velocidad de lanzamiento. Crea rutas de escalamiento documentadas y define quién tiene autoridad cuando entran en conflicto los objetivos de seguridad y comerciales.

En quinto lugar, el código debe abordar los cambios posteriores al lanzamiento. Los modelos pueden recibir nuevas herramientas, un contexto más largo, instrucciones de sistema actualizadas o permisos más amplios sin recibir un nuevo nombre público.

Estos cambios pueden modificar el riesgo más que una actualización convencional del modelo. Por lo tanto, la gobernanza debe cubrir toda la configuración de implementación, no solo el punto de control generado al final del entrenamiento.

Investigadores independientes también han subrayado que el riesgo de pérdida de control sigue siendo difícil de medir. Las prioridades globales de investigación publicadas mediante el Consenso de Singapur de 2026 describen el campo como cada vez más comprobable, al tiempo que reconocen una importante incertidumbre predictiva.

Esa incertidumbre opera en ambos sentidos. No demuestra que los resultados catastróficos sean inminentes. Tampoco justifica tratar la ausencia de fallos observados como evidencia de que un sistema es seguro.

Microsoft debería evitar insinuar que un código escrito resuelve la alineación. La alineación sigue siendo un problema técnico, organizativo y político que implica valores en disputa y mediciones incompletas.

Los críticos deberían evitar la exageración opuesta. Un código voluntario no carece automáticamente de significado. Puede influir en las decisiones de ingeniería cuando incluye pruebas concretas, responsables de decisión identificados, controles de lanzamiento y consecuencias documentadas.

El estándar adecuado es la evidencia. ¿Cambia el código qué se entrena, cómo se prueba, qué capacidades permanecen restringidas y cuándo se detiene la implementación?

Qué deberían preguntar los desarrolladores y compradores empresariales

Los clientes deberían traducir el compromiso de Microsoft con el control humano en preguntas de contratación antes de asignar trabajo importante a los modelos MAI.

La primera pregunta se refiere al alcance. Los compradores deben saber si el Microsoft MAI Code of Conduct se aplica solo a modelos disponibles públicamente o también a versiones internas utilizadas dentro de los productos de Microsoft.

Un modelo integrado en Copilot puede afectar a usuarios que nunca lo seleccionan directamente. Microsoft debería revelar qué modelo realiza una tarea, cuándo se produce el enrutamiento y si los administradores pueden restringir familias de modelos específicas.

La segunda pregunta se refiere a la evaluación. Las organizaciones deberían preguntar qué pruebas de seguridad y calidad se aplican a su caso de uso, no si un modelo obtuvo una puntuación alta en una prueba de referencia general.

Un asistente de atención al cliente necesita pruebas sobre afirmaciones sin respaldo, escalamiento, privacidad y gestión de registros. Un agente de programación necesita pruebas sobre comandos inseguros, código vulnerable, exposición de secretos, integridad de paquetes y cambios no autorizados.

Un flujo de trabajo sanitario o financiero exige una revisión humana más estricta porque los errores pueden afectar derechos, oportunidades o el bienestar físico. El código empresarial existente de Microsoft ya considera que las decisiones con consecuencias requieren una supervisión adecuada.

La tercera pregunta se refiere a la autonomía. Los compradores deberían documentar qué acciones puede realizar un agente, cuáles requieren aprobación y cuáles siguen prohibidas en toda circunstancia.

El control humano debe existir antes de una acción con consecuencias, no solo después de un fallo. Las pantallas de revisión, los límites de permisos, los límites de transacción y los entornos de preparación reversibles ofrecen más protección que una instrucción general de comportarse de forma segura.

La cuarta pregunta se refiere a la supervisión. Los equipos necesitan registros que muestren entradas, contexto recuperado, llamadas a herramientas, resultados del modelo, intervenciones de políticas, aprobaciones y acciones finales.

Esos registros deben seguir siendo comprensibles cuando un flujo de trabajo utiliza varios modelos. Una empresa no puede investigar un incidente si su plataforma enruta silenciosamente cada paso y no conserva un rastro de decisiones utilizable.

La quinta pregunta se refiere a los cambios de modelo. Las implementaciones empresariales deberían definir períodos de aviso, pruebas de regresión, opciones de reversión y controles de versión cuando Microsoft actualice un modelo MAI o cambie la capa de enrutamiento.

La mejora automática es atractiva, pero un modelo actualizado puede alterar el comportamiento en un flujo de trabajo validado. Los equipos regulados pueden necesitar repetir las pruebas antes de adoptar la nueva versión.

La sexta pregunta se refiere a los datos. Nadella ha sostenido que las empresas deben preservar el control sobre sus propios ciclos de aprendizaje, es decir, la información generada cuando empleados y sistemas realizan trabajo.

Los compradores deberían aclarar si los prompts, resultados, comentarios y rastros de herramientas entrenan los modelos de Microsoft. También deberían determinar dónde residen esos registros y cómo pueden exportarlos o eliminarlos.

La séptima pregunta se refiere a la respuesta ante incidentes. Un código necesita canales de notificación, pero las empresas también necesitan tiempos de respuesta, contactos de escalamiento, procedimientos de contención y explicaciones posteriores al incidente.

Los desarrolladores tienen su propia responsabilidad práctica. Deben tratar la salida del modelo como no confiable hasta que el sistema circundante la valide. Este principio es especialmente importante cuando un agente escribe código, modifica datos o se comunica externamente.

Ninguna de estas preguntas requiere esperar a la superinteligencia. Se aplican a los sistemas actuales que ya combinan modelos de lenguaje con herramientas y datos organizativos.

El anuncio de Nadella importa porque ofrece a los clientes un estándar que pueden citar. Si Microsoft afirma que la IA debe permanecer bajo control humano, los compradores pueden pedir a la empresa que muestre dónde existe ese control.

Tres señales mostrarán si Microsoft lo dice en serio

La próxima prueba es la implementación, y tres señales observables revelarán si el código cambia el comportamiento de Microsoft.

La primera señal es la publicación de requisitos específicos por modelo y resultados de evaluación. Microsoft debería conectar el código con modelos MAI individuales en lugar de dejarlo como una declaración general.

Para MAI-Thinking-1, eso podría incluir fiabilidad del razonamiento, pruebas de engaño, límites al uso de herramientas, evaluaciones de ciberseguridad y resultados de control de agentes. Para los modelos de voz e imagen, debería cubrir suplantación de identidad, procedencia, consentimiento y salvaguardas contra contenido perjudicial.

El detalle decisivo no es que todas las puntuaciones parezcan favorables. Las limitaciones transparentes harían que el marco fuera más creíble porque ningún modelo avanzado funciona de forma fiable en todos los entornos.

Si Microsoft publica métodos reproducibles, resultados versionados y restricciones claras de implementación, la promesa de Nadella se vuelve más sólida. Si publica solo principios, el anuncio sigue siendo difícil de auditar.

La segunda señal es la evidencia de que los controles de lanzamiento tienen consecuencias. Hay que observar una capacidad MAI que Microsoft retrase, limite o mantenga en vista previa después de que las pruebas revelen riesgos sin resolver.

Tal decisión demostraría que el ritmo deliberado puede imponerse a la presión comercial. También establecería un precedente para empleados y socios que evalúen lanzamientos posteriores.

Un retraso por sí solo no demuestra una buena gobernanza. Las empresas retrasan productos por motivos técnicos, financieros o estratégicos. Microsoft debería explicar cuándo su código influyó en la decisión e identificar el umbral pertinente sin exponer detalles sensibles de seguridad.

Si ningún lanzamiento cambia jamás a causa del código, los observadores deberían preguntarse si el marco rige el desarrollo o simplemente documenta intenciones existentes.

La tercera señal es cómo Microsoft gestiona los agentes autónomos en Foundry, Copilot y Microsoft 365. La seguridad de los modelos y la seguridad de los agentes no pueden seguir separadas una vez que los modelos reciben herramientas y permiso para actuar.

Busque controles de administrador más sólidos, permisos granulares, requisitos de aprobación, supervisión, reversión e identificación coherente de modelos. Estas funciones convertirían el control humano en una propiedad del producto.

También hay que observar si Microsoft aplica estándares equivalentes a los modelos de socios distribuidos a través de sus plataformas. Los clientes experimentan el servicio completo de Microsoft, incluso cuando un modelo subyacente procede de otro laboratorio.

Un código limitado a MAI podría mejorar las prácticas internas de Microsoft y dejar protecciones incoherentes en su catálogo más amplio. Una capa de control a nivel de plataforma podría reducir esa brecha.

Por tanto, el Microsoft MAI Code of Conduct crea una prueba útil para la estrategia de superinteligencia de la empresa. Microsoft quiere progreso de frontera, modelos especializados de menor coste, amplia distribución y un control humano significativo al mismo tiempo.

Estos objetivos no son automáticamente compatibles. Sus conflictos aparecerán en reuniones de lanzamiento, permisos de productos, informes de evaluación y respuestas a incidentes.

Los desarrolladores y líderes empresariales deberían guardar el principio de Nadella y compararlo con esas decisiones. Pregunten qué pruebas pueden detener una implementación, quién tiene autoridad para aplicarlas y qué evidencia reciben los clientes.

Si Microsoft responde públicamente a esas preguntas, el ritmo deliberado se convertirá en una disciplina operativa. Si no lo hace, el código seguirá siendo una declaración de valores vinculada a un programa de modelos en aceleración.