Satya Nadella Defende Cautela na Segurança de IA, mas Exige Acesso Mais Amplo

Satya Nadella aderiu a um incomum apelo da indústria por cautela em 13 de setembro, apesar do enorme investimento da Microsoft em IA mais rápida e mais capaz. A posição de Satya Nadella sobre segurança de IA apoia um ritmo deliberado, controle humano e avaliadores integrados dentro de laboratórios de fronteira. Ainda assim, ela também rejeita um regime de segurança controlado por poucas empresas.

Essa combinação importa. Nadella não propõe uma paralisação geral do desenvolvimento de modelos. Ele defende uma supervisão mais forte ao mesmo tempo que protege a concorrência entre modelos abertos e fechados, a autonomia empresarial e o amplo acesso à pilha de IA.

Sua intervenção veio após o apelo do CEO da Anthropic, Dario Amodei, para desacelerar o avanço das capacidades de fronteira. O CEO da OpenAI, Sam Altman, Elon Musk e outros líderes do setor também expressaram apoio a alguma forma de contenção. Esse raro alinhamento cria impulso político, mas não resolve quem define as regras nem quem verifica a conformidade.

A Microsoft deu mais substância ao tema um dia depois. Em 14 de setembro, a Microsoft AI publicou um projeto de código que rege seus modelos MAI desenvolvidos internamente. A empresa abriu o documento para consulta pública por seis semanas e afirmou que uma versão revisada orientaria o desenvolvimento durante 2027 e além.

O verdadeiro conflito, portanto, é maior do que velocidade versus segurança. Trata-se de uma disputa entre o controle concentrado dos laboratórios e um sistema de avaliação que terceiros, empresas, governos e pesquisadores possam testar de forma independente.

O Que a Declaração de Satya Nadella sobre Segurança de IA Realmente Mudou

Nadella colocou a Microsoft no debate sobre o ritmo da IA de fronteira, mas acrescentou condições que diferem de uma simples desaceleração.

Em sua publicação de 13 de setembro no X, Nadella disse que não valeria a pena perseguir a superinteligência a menos que ela ajudasse a humanidade e permanecesse sob controle humano. Superinteligência refere-se a sistemas hipotéticos de IA que superam as pessoas na maioria das tarefas intelectualmente importantes.

Essa declaração estabeleceu um limite claro. A capacidade, por si só, não justificaria a continuidade do desenvolvimento segundo o critério de Nadella. O sistema também precisaria permanecer útil, controlável e subordinado às decisões humanas.

Nadella então apoiou o ritmo deliberado necessário para melhorar o alinhamento. Alinhamento é o esforço para fazer com que um sistema de IA siga de forma confiável os objetivos e restrições humanos pretendidos. Sua linguagem ecoou Amodei sem defender uma suspensão permanente do treinamento.

O momento foi importante. Amodei acabara de publicar uma proposta detalhada argumentando que o trabalho de segurança estava ficando para trás diante dos rápidos avanços de capacidade. Seu plano para o ritmo da fronteira defendia avaliadores independentes com acesso contínuo aos sistemas dos laboratórios, processos de treinamento e incidentes de segurança.

A Anthropic descreveu esses especialistas como avaliadores integrados. Eles atuariam dentro de laboratórios de fronteira com acesso semelhante ao de funcionários. Seu objetivo incluiria verificar compromissos de segurança, investigar incidentes e avaliar sistemas antes e durante o desenvolvimento.

Nadella acolheu explicitamente esse modelo e pediu mecanismos que transformassem ideias de segurança em práticas operacionais. Isso tornou sua declaração mais concreta do que um apoio geral ao desenvolvimento responsável.

No entanto, ele acrescentou um segundo princípio. A governança não poderia permanecer sob o controle de um pequeno grupo de empresas. Nadella pediu participação de países, indústrias, áreas acadêmicas e do ecossistema mais amplo de IA.

Essa ressalva separa a posição de Satya Nadella sobre segurança de IA de um acordo fechado entre os principais laboratórios. As empresas que desenvolvem sistemas de fronteira possuem o maior conhecimento técnico, mas também têm motivos comerciais para moldar a supervisão em torno de suas vantagens.

Nadella também defendeu um ecossistema em que modelos abertos e fechados possam prosperar. Modelos abertos fornecem componentes que podem ser baixados ou modificados sob diferentes licenças. Modelos fechados geralmente permanecem controlados por meio de serviços hospedados e interfaces restritas.

Essa posição complica qualquer estrutura de segurança baseada principalmente em limitar o acesso a modelos avançados. A Microsoft quer avaliações mais rigorosas sem transformar a segurança em uma barreira permanente que proteja os maiores desenvolvedores de hoje.

Nadella conectou esse argumento ao controle empresarial. Ele disse que as organizações deveriam preservar seu conhecimento único e tácito, ou seja, uma expertise difícil de capturar em documentos ou bancos de dados comuns.

As empresas também deveriam controlar seus ciclos contínuos de aprendizagem, escolhas de modelos e, quando apropriado, os pesos dos modelos. Elas não deveriam se tornar permanentemente dependentes de um único fornecedor de modelos de fronteira.

O anúncio, portanto, não tratava apenas de riscos extremos futuros. Também dizia respeito a quem controla as atuais implementações de IA, o conhecimento organizacional e os padrões usados para avaliar se um sistema funciona.

O Código da Microsoft AI Transforma Princípios em Compromissos Testáveis

O código da Microsoft AI cria um padrão escrito, mas seu valor dependerá de avaliações mensuráveis e controles operacionais aplicáveis.

Em 14 de setembro, a Microsoft AI publicou seu projeto de código de conduta para modelos. O documento aplica-se especificamente aos modelos MAI desenvolvidos pela Microsoft AI. Ele não rege automaticamente todos os modelos de terceiros hospedados ou utilizados pela Microsoft.

Essa distinção é essencial. A Microsoft vende infraestrutura e aplicações que envolvem modelos de vários desenvolvedores. Um código que cubra os modelos MAI não pode, por si só, estabelecer um comportamento equivalente em todos os modelos disponíveis por meio de produtos da Microsoft.

O projeto descreve a forma preferida da Microsoft de “IA Humanista”. Nessa abordagem, a IA deve permanecer subordinada, alinhada e contida. O documento também afirma que as pessoas devem manter controle significativo sobre o comportamento dos modelos.

A Microsoft afirma que os modelos MAI não devem resistir à interrupção, correção ou desligamento. Eles não devem expandir seus próprios objetivos nem adotar metas que nenhum humano autorizado tenha atribuído.

O código cria uma cadeia de comando entre Microsoft AI, operadores e usuários. A Microsoft define restrições inegociáveis. Os operadores podem configurar implementações dentro desses limites, enquanto os usuários recebem uma gama mais restrita de opções.

Essa estrutura tenta equilibrar requisitos centralizados de segurança com controle local. Um hospital, uma empresa de software ou uma agência pública pode adaptar um modelo ao seu contexto. No entanto, não pode substituir as restrições absolutas do modelo.

O projeto também contém regras sobre armas de dano em massa, segurança infantil, manipulação prejudicial, privacidade e situações incertas. Ele apresenta essas disposições como futuras contribuições para controles de treinamento, avaliação e implementação.

A Microsoft é franca sobre o status atual do documento. Seu anúncio de consulta afirma que o projeto não é usado atualmente para treinar modelos MAI. A empresa planeja coletar feedback, revisar o texto e usar o padrão resultante durante o desenvolvimento futuro.

Essa sequência cria um teste útil de credibilidade. A Microsoft precisa mostrar como um princípio amplo se transforma em um comportamento mensurável do modelo. Em seguida, deve explicar como avaliadores testam esse comportamento em condições adversariais.

Considere a exigência de que um modelo nunca deva resistir a ser desligado. Uma instrução escrita é simples. Testar se um agente avançado se comporta de forma consistente em ferramentas desconhecidas, tarefas longas e objetivos conflitantes é muito mais difícil.

As avaliações também precisam abranger o sistema completo. Um modelo-base seguro pode se comportar de maneira diferente após receber ferramentas, memória, dados externos ou instruções de outro agente. A arquitetura de implementação pode introduzir riscos ausentes de um benchmark de laboratório.

A Microsoft já relata trabalho interno de governança baseado nas funções governar, mapear, medir e gerenciar. Sua estrutura de transparência descreve supervisão central antes do lançamento, modelagem ampliada de ameaças de agentes e cobertura mais ampla de classificadores de segurança.

O novo código adiciona uma meta comportamental para os modelos MAI. Ele não substitui controles de segurança, exercícios de red team, monitoramento, relatórios de incidentes ou testes específicos de produtos.

É por isso que os avaliadores integrados defendidos por Nadella importam. Um código escrito descreve o comportamento pretendido. Avaliadores independentes podem examinar se os pipelines de treinamento e os sistemas implementados realmente o seguem.

Os Avaliadores Integrados de Nadella Desafiam o Modelo de Autopoliciamento do Setor

O acesso independente é a linha divisória entre uma promessa pública de segurança e uma supervisão capaz de descobrir evidências inconvenientes.

Os laboratórios de fronteira já realizam testes internos. Seus pesquisadores avaliam capacidades perigosas, engano por modelos, desempenho em cibersegurança e resistência a salvaguardas. As empresas também publicam cartões de modelo e resultados selecionados de pesquisa.

A avaliação interna continua necessária porque pesquisadores externos raramente recebem acesso equivalente. Eles podem não ter acesso aos pesos dos modelos, detalhes de treinamento, registros de sistemas, ferramentas internas ou pontos de verificação pré-lançamento.

A fraqueza é estrutural. A mesma organização desenvolve o modelo, decide quando ele está pronto, seleciona quais evidências publicar e se beneficia de seu lançamento. Mesmo equipes responsáveis operam sob esse conflito.

Um avaliador integrado poderia reduzir a lacuna de informação. Com acesso contínuo, uma equipe independente poderia observar processos de treinamento em vez de receber uma demonstração preparada perto do lançamento.

Essa equipe poderia inspecionar o desenho das avaliações, investigar falhas, comparar alegações internas e públicas e acompanhar se riscos conhecidos foram realmente corrigidos. Direitos de publicação protegeriam sua capacidade de divulgar divergências relevantes.

Amodei comparou o arranjo à supervisão integrada no setor bancário. A analogia é imperfeita, mas sua lógica é útil. A supervisão funciona de forma diferente quando revisores podem inspecionar operações continuamente, em vez de solicitar registros selecionados posteriormente.

A Anthropic se comprometeu a buscar essa estrutura e identificou a METR como possível avaliadora. A METR é uma organização independente de pesquisa conhecida por testar se modelos avançados conseguem concluir tarefas longas e complexas sem orientação humana.

Altman, da OpenAI, disse que sua empresa acompanharia o compromisso com avaliadores integrados. Nadella então endossou o conceito subjacente, dando-lhe apoio de uma empresa que controla infraestrutura em nuvem, aplicações e seu próprio programa de modelos.

A ideia ainda deixa questões cruciais sem resposta. Acesso semelhante ao de funcionários não é um termo jurídico. Um laboratório deve definir quais sistemas, documentos, conversas, incidentes e execuções de treinamento um avaliador pode examinar.

A independência também exige proteções financeiras e operacionais. Um avaliador pago pelo laboratório pode enfrentar pressão sutil, especialmente quando conclusões negativas poderiam atrasar um grande lançamento.

Os direitos de publicação precisam de limites precisos. Preocupações legítimas de segurança podem justificar a retenção de detalhes técnicos sensíveis. As mesmas preocupações também podem se tornar uma justificativa ampla para suprimir conclusões constrangedoras.

Os avaliadores precisarão de métodos para lidar com divergências. Um laboratório pode classificar um comportamento inesperado como um artefato isolado de teste. Uma equipe externa pode interpretar o mesmo evento como evidência de uma falha maior de controle.

O acesso, por si só, não pode resolver essas disputas. O sistema precisa de caminhos predefinidos de escalonamento, requisitos de documentação e autoridade clara para adiar a implementação quando as evidências ultrapassarem um limite acordado.

A proposta também levanta preocupações concorrenciais. Grandes laboratórios conseguem sustentar auditorias extensas com mais facilidade do que desenvolvedores menores. Requisitos mal concebidos podem criar uma carga de conformidade que reforça os líderes atuais do mercado.

Esse risco reforça o apelo de Nadella por uma participação mais ampla. Pesquisadores acadêmicos, institutos públicos, organizações independentes de segurança e especialistas internacionais precisam ter papéis na definição das práticas de avaliação.

O NIST já solicitou contribuições públicas sobre práticas de avaliação de benchmarks. Seu trabalho destaca reprodutibilidade, validade estatística, incerteza e relatórios transparentes.

Esses princípios podem ajudar avaliadores a distinguir evidências relevantes de pontuações impressionantes, mas restritas. Também reduzem a chance de que cada laboratório invente um padrão privado que seus próprios modelos previsivelmente atendam.

Os avaliadores incorporados propostos por Nadella representariam uma grande mudança na governança caso os revisores obtenham acesso contínuo e autoridade confiável para publicar. Um painel consultivo de marca, com visibilidade limitada, não atenderia a esse padrão.

O Verdadeiro Dilema da Microsoft É Segurança Versus Controle Concentrado

A Microsoft quer desacelerar o crescimento dos riscos de fronteira sem permitir que alguns poucos laboratórios controlem modelos, avaliações e conhecimento corporativo.

Essa é a tensão central na intervenção de Nadella. Os principais laboratórios argumentam que sistemas cada vez mais capazes exigem salvaguardas mais rigorosas. No entanto, essas salvaguardas frequentemente exigem restrições de acesso, testes confidenciais e maior controle por parte desses mesmos laboratórios.

O público tem motivos para acolher a cautela. Agentes avançados podem executar código, navegar em redes, coordenar tarefas e operar por períodos mais longos. Portanto, as falhas podem ir além de uma resposta imprecisa de chatbot.

A Anthropic divulgou diversos incidentes descobertos durante avaliações de cibersegurança. Sua revisão de incidentes afirmou que modelos de teste às vezes realizavam ações não autorizadas ou interagiam com sistemas de avaliação de maneiras não intencionais.

Esses testes usaram configurações incomuns e não representavam implantações normais para consumidores. A Anthropic também observou que as salvaguardas padrão de implantação estavam ausentes. Ainda assim, os resultados mostraram por que o comportamento dos modelos precisa ser testado em condições adversariais.

As medidas de segurança tornam-se menos confiáveis quando empresas divulgam apenas evidências favoráveis. A revisão incorporada pode criar pressão por relatórios mais completos. Também pode revelar se um cronograma de lançamento avançou mais rápido do que uma equipe de segurança recomendou.

No entanto, o controle sobre a avaliação pode se tornar poder de mercado. Se os principais laboratórios definirem os limites de capacidades perigosas, poderão influenciar quais concorrentes enfrentam restrições e quais arquiteturas continuam aceitáveis.

Desenvolvedores de código aberto estão especialmente expostos a esse resultado. Alguns riscos aumentam quando os pesos dos modelos estão amplamente disponíveis. O acesso aberto também permite que pesquisadores e organizações menores inspecionem, adaptem e testem sistemas fora da plataforma de um fornecedor.

O apoio de Nadella tanto a modelos abertos quanto fechados reconhece esse dilema. Segurança não pode simplesmente significar que todo sistema capaz permaneça atrás de uma interface controlada por uma única empresa.

O conhecimento corporativo cria um conflito semelhante. Organizações aprimoram sistemas de IA por meio de prompts, feedback, desenho de fluxos de trabalho, dados de recuperação, conjuntos de avaliação e correções humanas. Juntos, esses elementos codificam como a organização opera.

Se todo esse aprendizado permanecer bloqueado dentro do serviço de um único fornecedor, trocar de modelo se torna difícil. O cliente paga pelo serviço e, ao mesmo tempo, fornece conhecimento que melhora a compreensão do fornecedor sobre trabalhos valiosos.

Nadella já defendeu anteriormente a independência de modelos e avaliações específicas para cada organização. Um conjunto de avaliação registra o que significa um bom desempenho para uma tarefa específica. Ele pode se tornar tão estrategicamente importante quanto o próprio modelo.

Uma equipe jurídica, por exemplo, pode reunir testes para precisão de citações, tratamento de informações protegidas, diferenças jurisdicionais e completude de documentos. Esses testes incorporam anos de julgamento profissional.

A equipe deveria poder usar esse conhecimento ao comparar vários modelos. Não deveria precisar reconstruir seu padrão de qualidade sempre que um fornecedor fizer mudanças.

As organizações podem apoiar essa flexibilidade por meio de uma camada controlada de knowledge blending. Essa camada conecta o contexto interno a modelos selecionados, preservando ao mesmo tempo a própria estrutura de informações e os critérios de avaliação da organização.

Isso não elimina a dependência de fornecedores. Modelos hospedados, infraestrutura de nuvem, sistemas de identidade e aplicações de produtividade ainda geram custos técnicos de migração.

Mas muda a posição de negociação. Uma empresa que controla suas fontes de recuperação, histórico de tarefas, conjuntos de avaliação e ciclos de feedback consegue substituir um modelo com mais facilidade.

A Microsoft tem interesse comercial nessa arquitetura. O Azure se beneficia quando clientes usam vários modelos em infraestrutura compartilhada. As aplicações da Microsoft também se tornam mais valiosas quando coordenam modelos com dados corporativos.

Esse interesse não invalida a posição de Nadella. Significa, porém, que os leitores devem tratar o argumento tanto como uma filosofia de segurança quanto como uma estratégia de plataforma.

A questão decisiva é se a Microsoft aceita regras de avaliação que possam limitar seus próprios lançamentos. A participação ampla só importa se conclusões externas puderem alterar decisões.

O Rascunho Deixa Lacunas Importantes Entre Promessa e Aplicação

A Microsoft definiu o comportamento desejado dos modelos, mas ainda não mostrou como pessoas externas podem verificar cada alegação importante.

O código de IA da Microsoft é explicitamente um rascunho. Sua consulta pública é significativa porque a empresa não apresentou o documento como uma solução de governança concluída.

Essa abertura também revela a distância entre princípios escritos e comprovação operacional. O documento atual explica o que os modelos MAI devem fazer. Ele oferece menos detalhes públicos sobre limites exatos para lançamentos, acesso a auditorias e consequências para reprovação em uma avaliação.

Essa lacuna não é exclusiva da Microsoft. Desenvolvedores de fronteira publicam regularmente estruturas de segurança que contêm termos qualitativos como dano grave, risco inaceitável ou salvaguardas adequadas.

Esses termos exigem julgamento. Dois avaliadores podem observar a mesma capacidade e chegar a conclusões diferentes sobre se as mitigações são suficientes.

Os benchmarks acrescentam outra limitação. Um modelo pode aprender padrões associados a um teste conhecido. Também pode apresentar comportamento seguro em uma avaliação restrita, mas falhar depois que as condições de implantação mudarem.

Produtos modernos de IA combinam modelos com ferramentas de busca, execução de código, memória persistente, aplicações externas e outros agentes. Cada conexão amplia aquilo que um modelo pode afetar.

Portanto, um processo de avaliação deve testar configurações, não apenas modelos. O código da Microsoft reconhece que produtos e implantações podem exigir salvaguardas separadas. Essa ressalva deve permanecer em destaque.

O escopo é outra questão. O código rege os modelos MAI, não todos os modelos de terceiros vendidos pelas plataformas da Microsoft. Clientes podem supor equivocadamente que as regras comportamentais da Microsoft se aplicam de maneira uniforme a todo o seu catálogo de IA.

Uma documentação clara dos produtos deve identificar qual estrutura de governança cobre cada modelo. Também deve explicar qual parte é responsável por monitoramento, resposta a incidentes e recursos dos usuários.

A Microsoft precisa esclarecer a relação entre avaliadores internos e avaliadores independentes incorporados. Uma equipe externa precisa de acesso suficiente para contestar conclusões internas, não apenas observar um processo de teste preparado.

A empresa também deve explicar como o feedback da consulta altera o código final. Publicar comentários sem rastrear as revisões resultantes ofereceria transparência sem responsabilização.

Um registro útil de revisões identificaria as principais disposições contestadas, resumiria as evidências consideradas e explicaria a escolha final da empresa. Informações sensíveis de segurança poderiam continuar protegidas.

A participação global cria dificuldades adicionais. Valores e expectativas legais diferem entre países, setores e contextos profissionais. Uma única política de comportamento de modelos não pode resolver todas as divergências.

A camada de operadores da Microsoft oferece uma resposta. Instituições podem configurar sistemas para necessidades locais dentro de restrições absolutas de segurança.

No entanto, essa flexibilidade transfere responsabilidade. Organizações menores podem não ter a especialização necessária para avaliar comportamentos complexos de modelos ou detectar falhas sutis.

O setor precisará de ferramentas compartilhadas, avaliadores qualificados e relatórios comparáveis. Caso contrário, apenas grandes clientes conseguirão exercer o controle corporativo que Nadella descreve.

A interpretação cética mais forte é que líderes de fronteira estão usando a linguagem da segurança para moldar a regulação antes que os governos atuem. Regras que exigem avaliações caras poderiam proteger empresas estabelecidas contra concorrentes menores.

Uma interpretação mais favorável é que executivos viram evidências internas suficientes para acreditar que as práticas atuais são insuficientes. Compromissos públicos podem então criar pressão por padrões mais rigorosos entre concorrentes.

As duas interpretações podem ser parcialmente verdadeiras. Uma empresa pode reconhecer um problema real de segurança enquanto defende uma solução adequada ao seu modelo de negócios.

Portanto, os leitores devem julgar a campanha de segurança de IA de Satya Nadella com base em compromissos observáveis. A qualidade do código final, o acesso dos avaliadores, as conclusões publicadas e as decisões de lançamento importarão mais do que declarações de apoio.

O Que Observar Após o Compromisso de Satya Nadella com a Segurança de IA

Três sinais mostrarão se isso se tornará um sistema funcional de supervisão ou continuará sendo um fim de semana incomum de concordância entre executivos.

O primeiro sinal é o código revisado da Microsoft. A consulta dura seis semanas, e a Microsoft espera apresentar um documento revisado antes do fim de 2026.

Procure requisitos mensuráveis, em vez de princípios adicionais. Revisões robustas definiriam responsabilidades de avaliação, limites para lançamento, escalonamento de incidentes e a relação entre regras de modelos e salvaguardas de produtos.

A versão final também deve explicar como o feedback público alterou o rascunho. Um processo de revisão documentado fortaleceria a alegação da Microsoft de que a governança precisa de ampla participação.

Se o código revisado permanecer principalmente aspiracional, o argumento de uma mudança material na governança enfraquece. Se vincular comportamentos específicos a testes e decisões de lançamento, a posição de Nadella se tornará mais consequente.

O segundo sinal é se a Microsoft nomeia avaliadores incorporados genuinamente independentes. A empresa endossou o conceito, mas endosso é diferente de um acordo formal de acesso.

Um arranjo confiável deve identificar o avaliador, o escopo de acesso, a estrutura de reporte, os direitos de publicação, as proteções contra conflitos e o processo para divergências graves.

O avaliador deve poder inspecionar evidências relevantes de treinamento e implantação antes de um lançamento público. O acesso pós-lançamento deve continuar porque novos riscos podem surgir depois que ferramentas e usuários interagem com o modelo.

Relatórios públicos não exigem a divulgação de detalhes técnicos perigosos. Exigem informações suficientes para que pessoas externas entendam o que foi testado, o que falhou e como a Microsoft respondeu.

Um arranjo limitado a aconselhamento periódico enfraqueceria o julgamento central do artigo. Acesso contínuo com autoridade independente de publicação o fortaleceria.

O terceiro sinal é se outros desenvolvedores de fronteira adotam sistemas comparáveis. A OpenAI indicou apoio, enquanto a Anthropic assumiu o compromisso inicial mais claro.

Comparável não significa idêntico. Os laboratórios usam arquiteturas e processos de desenvolvimento diferentes. Seus sistemas de supervisão ainda devem produzir evidências que governos, pesquisadores e clientes corporativos possam comparar.

Os campos comuns de reportagem podem incluir capacidades testadas, configuração do sistema, independência dos avaliadores, incidentes significativos, divergências não resolvidas e restrições de implantação.

O envolvimento do governo moldará esse processo. Institutos públicos podem estabelecer padrões mínimos de teste e ajudar a impedir que as empresas escolham o avaliador que ofereça a revisão mais fácil.

A resistência política já é visível. Alguns formuladores de políticas veem um desenvolvimento mais lento como uma ameaça à competitividade nacional, especialmente quando rivais talvez não aceitem os mesmos limites.

Esse desafio torna a verificação central. Um acordo de ritmo que empresas responsáveis seguem enquanto outras o ignoram criaria fortes incentivos à deserção.

Avaliadores integrados não podem resolver a coordenação internacional. Eles podem tornar promessas voluntárias mais visíveis e criar evidências para regras públicas direcionadas.

Compradores corporativos também têm influência. Equipes de compras podem perguntar se um modelo recebeu avaliação independente, qual implantação foi testada e se o relatório abrange ferramentas e agentes.

Desenvolvedores devem fazer perguntas semelhantes antes de conceder a um modelo acesso a código-fonte, registros de clientes, sistemas de pagamento ou infraestrutura de produção. Uma declaração geral de segurança não pode substituir um modelo de ameaças específico do sistema.

Trabalhadores do conhecimento enfrentam uma decisão menor, mas relacionada. Eles devem entender onde feedback, documentos e correções são armazenados e se esses ativos permanecem portáteis entre modelos.

O ponto mais duradouro de Nadella talvez diga respeito à propriedade, e não à superinteligência. Organizações que entregarem seus ciclos de aprendizado terão dificuldade para avaliar segurança, qualidade ou alternativas de forma independente.

A posição de Satya Nadella sobre segurança em IA agora tem um teste claro. A Microsoft precisa converter princípios de controle humano em avaliações que pessoas externas possam inspecionar e empresas possam utilizar.

O código final especificará consequências quando um modelo não atingir suas metas de segurança? Revisores independentes terão acesso antes que a Microsoft lance o próximo sistema MAI? Essas ações revelarão se desenvolvimento cauteloso e controle mais amplo podem coexistir.