A Confiança de Sam Altman na Segurança de IA Enfrenta um Problema de Confiança no Setor

O CEO da OpenAI, Sam Altman, afirma que o setor pode desenvolver inteligência artificial com segurança, embora reconheça que acidentes são inevitáveis e que o medo do público é justificável. Essa posição de Sam Altman sobre segurança de IA soa confiante, mas também impõe uma responsabilidade incomumente pesada às empresas que correm para desenvolver modelos mais poderosos.

Em conversa com o CEO da Salesforce, Marc Benioff, na conferência Dreamforce, em San Francisco, em 15 de setembro, Altman argumentou que os desenvolvedores podem administrar os riscos da tecnologia. Ele defendeu a comunicação transparente de acidentes e disse que as empresas devem desacelerar ou parar quando não puderem avançar com segurança.

Suas declarações ocorreram durante uma mudança mais ampla entre os principais executivos de IA. O CEO da Anthropic, Dario Amodei, o líder da SpaceXAI, Elon Musk, e representantes de outros laboratórios de fronteira têm apoiado recentemente a desaceleração do desenvolvimento em condições perigosas.

Esse consenso emergente é significativo. Mas também expõe a principal fragilidade do argumento de Altman: as empresas que avaliam se o desenvolvimento continua seguro costumam ser as mesmas que competem para acelerá-lo.

A Confiança de Sam Altman na Segurança de IA Vem Com Condições

Altman não afirmou que o desenvolvimento de IA é livre de riscos. Ele argumentou que o setor pode reconhecer o perigo, aprender com falhas e parar antes que essas falhas se tornem intoleráveis.

Segundo um relato de suas declarações na Dreamforce, Altman disse que as pessoas têm razão em temer os riscos da IA. Ele também reconheceu que alguns acidentes são inevitáveis quando setores implementam novas tecnologias.

Essa combinação importa. Ela diferencia sua posição de uma simples alegação de que as salvaguardas existentes já resolveram o problema. Em vez disso, Altman descreveu a segurança como um processo contínuo baseado em detecção, divulgação, correção e contenção.

Ele comparou o sistema desejado à segurança da aviação. A aviação comercial tornou-se mais segura por meio de investigações de acidentes, comunicação obrigatória, lições técnicas compartilhadas e regulação. As falhas se transformaram em evidências capazes de aprimorar aeronaves, procedimentos operacionais e supervisão.

A analogia oferece um modelo prático para a governança de IA. Um laboratório detecta um incidente, preserva as evidências, comunica o caso e ajuda outros desenvolvedores a evitar sua repetição. Reguladores e investigadores independentes avaliam então se a resposta foi adequada.

No entanto, as instituições da aviação foram desenvolvidas ao longo de décadas. Elas incluem órgãos governamentais, regras aplicáveis, sistemas compartilhados de comunicação, investigadores experientes e registros claros de acidentes físicos.

A IA de fronteira tem menos definições consensuais. Um incidente de segurança de IA pode envolver um modelo ajudando um invasor a descobrir uma vulnerabilidade, enganando um avaliador, escapando de um ambiente controlado ou viabilizando pesquisas biológicas nocivas. As empresas podem discordar sobre se o evento ultrapassou o limiar de comunicação.

A posição de Altman, portanto, depende de mais do que boa engenharia. Ela exige que as empresas revelem evidências que poderiam atrasar um produto, prejudicar suas reputações ou ajudar um concorrente a compreender suas pesquisas.

Ele também disse que os desenvolvedores devem estar preparados para desacelerar ou parar se chegarem a um ponto em que o progresso seguro se torne impossível. A OpenAI já ofereceu um exemplo do que isso pode significar.

Em agosto, a empresa informou que havia pausado temporariamente o trabalho de aprendizagem por reforço após incidentes de segurança e avaliações preliminares levantarem preocupações. A aprendizagem por reforço é um método de treinamento que aprimora um modelo com base em feedback sobre seu comportamento.

A OpenAI relatou uma pausa de duas semanas que afetou treinamentos destinados à implementação. Também afirmou que sua maior execução planejada de aprendizagem por reforço de fronteira continuava suspensa enquanto avaliações menores prosseguiam.

Esse histórico dá mais substância às declarações mais recentes de Altman do que uma promessa genérica. A OpenAI descreveu pelo menos um caso em que preocupações de segurança alteraram seu cronograma de desenvolvimento.

Ainda assim, uma pausa voluntária responde apenas à primeira questão. As perguntas mais difíceis são quem verifica o risco, quem decide quando o treinamento pode ser retomado e o que acontece quando outra empresa continua na corrida.

O Setor Promete Contenção Enquanto a Competição se Intensifica

A pressão sobre a OpenAI vem de um conflito entre segurança coletiva e vantagem competitiva individual. Todos os laboratórios se beneficiam se os rivais desacelerarem, mas cada um corre o risco de perder terreno ao parar sozinho.

O desenvolvimento de IA de fronteira envolve competição por pesquisadores, capacidade computacional, clientes empresariais, investimentos e atenção pública. Um modelo atrasado pode afetar todos os cinco.

Essa pressão dificulta a contenção coordenada. Uma empresa pode aceitar que o setor deveria avançar com mais cautela enquanto duvida de que concorrentes seguirão o mesmo padrão.

A competição internacional acrescenta outra camada. Uma pausa limitada a empresas americanas selecionadas não necessariamente restringiria desenvolvedores em outros lugares. Críticos domésticos também poderiam argumentar que desacelerar laboratórios americanos transferiria vantagens estratégicas para concorrentes estrangeiros.

A proposta de Altman, portanto, exige um sistema amplo o suficiente para impedir que participantes conscientes da segurança arquem com todos os custos. Compromissos voluntários podem estabelecer expectativas, mas oferecem proteção limitada contra deserções.

O debate atual é incomum porque executivos rivais demonstraram concordância parcial. Amodei defendeu o controle do ritmo do desenvolvimento de fronteira, enquanto Altman e outros líderes do setor reconheceram circunstâncias que poderiam justificar a desaceleração do trabalho.

Isso não representa consenso sobre uma moratória permanente. Está mais próximo de apoio à contenção condicional quando os modelos se aproximam de limiares específicos de perigo ou quando as salvaguardas não conseguem acompanhar o ritmo.

A distinção importa. Uma pausa ampla exigiria que os participantes concordassem sobre quais modelos, atividades de treinamento, empresas e países estariam dentro de seu escopo. Um sistema baseado em limiares, por outro lado, vincula restrições a capacidades medidas.

O Preparedness Framework da OpenAI segue essa lógica. Ele avalia capacidades avançadas associadas a danos graves e as vincula a salvaguardas. Suas categorias abrangem áreas como cibersegurança, ameaças biológicas, persuasão e autonomia de modelos.

Em maio de 2026, a OpenAI também publicou um framework de governança que alinha partes de seu programa de segurança a requisitos da Califórnia e da Europa. O documento aborda avaliação de riscos, comunicação sobre modelos, segurança, resposta a incidentes e contribuições externas.

Essas políticas mostram que o setor não parte do zero. Laboratórios líderes desenvolveram equipes de avaliação, políticas de comportamento de modelos, programas de red teaming e controles de implementação.

A questão é a consistência. Cada empresa pode definir seus limiares de maneira diferente, usar avaliações distintas, publicar diferentes níveis de detalhe e manter poder discricionário sobre a aplicação das regras.

Essa fragmentação deixa clientes empresariais diante de um problema prático. Um comprador que compara dois modelos avançados não pode presumir que rótulos de segurança semelhantes representem testes equivalentes.

Os desenvolvedores enfrentam a mesma incerteza. Eles podem receber acesso a um modelo com restrições concebidas em torno do framework de risco de um fornecedor e, depois, integrar outro modelo regido por um sistema diferente.

A pressão vai além da OpenAI. Anthropic, Google, SpaceXAI, Meta e desenvolvedores de modelos de pesos abertos enfrentam demandas para explicar como avaliam riscos graves.

Sistemas de pesos abertos, cujos parâmetros de modelo podem ser baixados ou modificados, criam uma disputa adicional. Seus defensores valorizam o acesso, a personalização e a pesquisa distribuída. Críticos argumentam que os desenvolvedores não podem retirar ou atualizar centralmente os pesos do modelo após o lançamento.

Um acordo de segurança liderado por laboratórios de fronteira poderia, portanto, dividir o mercado. Grandes empresas de modelos fechados podem favorecer controles que conseguem implementar internamente. Defensores de modelos abertos podem enxergar os mesmos controles como barreiras que favorecem empresas já estabelecidas.

É por isso que o acordo entre alguns executivos não resolve a questão de política pública. Ele inicia uma negociação sobre quem define as regras e quem arca com seus custos.

A Supervisão Voluntária Tem um Problema de Verificação

O teste central não é se as empresas de IA conseguem redigir frameworks de segurança críveis. É se pessoas de fora conseguem verificar que as empresas seguem esses frameworks quando a conformidade se torna cara.

Um framework voluntário pode influenciar decisões diárias de engenharia. Ele pode exigir avaliações antes da implementação, restringir o acesso interno a modelos e estabelecer procedimentos de escalonamento para capacidades perigosas.

Também pode mudar os incentivos dentro de uma empresa. Pesquisadores que identificam um risco obtêm um caminho documentado para sinalizá-lo, enquanto executivos recebem condições predefinidas para adiar um lançamento.

No entanto, o público normalmente vê o framework, e não as evidências completas por trás de uma decisão. Conjuntos de dados de avaliação podem permanecer confidenciais. Descobertas de segurança podem ser sensíveis demais para publicação. Discordâncias internas podem nunca se tornar visíveis.

Essa lacuna de informação torna a avaliação independente essencial. Especialistas externos podem testar modelos, inspecionar métodos de segurança e questionar pressupostos compartilhados pelas equipes internas.

Estabelecer independência é mais difícil do que parece. A pequena comunidade capaz de avaliar modelos de fronteira frequentemente mantém vínculos profissionais, financeiros ou pessoais com grandes laboratórios. Avaliadores podem receber financiamento, acesso à pesquisa ou recursos computacionais das empresas que avaliam.

Essas relações não invalidam automaticamente seu trabalho. Mas criam um problema de credibilidade quando o público precisa confiar no julgamento de um avaliador sobre um patrocinador.

Reportagens recentes sobre desconfiança no setor identificaram isso como um grande obstáculo. Críticos questionam se organizações ligadas a laboratórios de fronteira podem fornecer supervisão suficientemente independente.

O problema se agrava após um incidente. As empresas controlam o modelo, os registros, a infraestrutura de treinamento e grande parte do conhecimento técnico relevante. Um investigador externo pode depender da empresa para acessar todas as evidências importantes.

A comparação de Altman com a aviação evidencia a instituição que falta. As companhias aéreas não investigam apenas a si mesmas nem decidem em privado o que outros operadores deveriam saber. Investigadores governamentais podem obter evidências, emitir conclusões e exigir ações corretivas.

A IA ainda não possui um sistema global comparável. Autoridades nacionais têm poderes, prioridades e níveis de capacidade técnica diferentes. Nenhuma entidade internacional pode obrigar todos os laboratórios de fronteira a comunicar um resultado perigoso de avaliação.

O International AI Safety Report de 2026 oferece uma avaliação cautelosa do sistema existente. Sua análise concluiu que os frameworks de segurança das empresas variam substancialmente em escopo, limiares e aplicabilidade.

Também citou o cumprimento desigual de compromissos voluntários anteriores. Isso não significa que medidas voluntárias não tenham valor. Significa que uma promessa publicada não pode servir como prova de implementação consistente.

O relatório também identificou lacunas na medição da gravidade dos riscos, da prevalência no mundo real e da eficácia das salvaguardas. Essas incertezas tornam difícil defender um julgamento binário como “seguro” ou “inseguro”.

O risco também muda após a implementação. Usuários descobrem novos fluxos de trabalho, invasores combinam ferramentas e desenvolvedores conectam modelos a software, contas financeiras ou sistemas físicos.

Um modelo que parece controlado em um laboratório pode se comportar de maneira diferente quando recebe tarefas de longa duração, ferramentas externas e acesso a dados sensíveis. Portanto, as avaliações precisam ir além de uma única barreira antes do lançamento.

Relatórios transparentes de incidentes ajudariam. Relatórios compartilhados poderiam revelar padrões recorrentes de falhas e permitir que os laboratórios atualizassem as avaliações antes que a mesma fraqueza se espalhe.

Mas a transparência cria exposição. Um relatório detalhado poderia revelar fraquezas exploráveis, desencadear processos judiciais, atrair escrutínio regulatório ou prejudicar relações comerciais.

Um sistema viável precisa de regras para comunicação confidencial, divulgação protegida, resumos públicos e alertas urgentes. Também precisa de consequências claras quando uma empresa oculta um incidente relevante.

Sem esses elementos, o setor continua sendo simultaneamente participante e árbitro. Esse é o problema de confiança por trás da afirmação de Sam Altman sobre segurança em IA.

A Própria Pausa da OpenAI Mostra Tanto o Modelo Quanto Seus Limites

A decisão da OpenAI de desacelerar treinamentos selecionados demonstra que salvaguardas internas podem afetar o desenvolvimento, mas não prova que controles voluntários se manterão em todo o setor.

O relato da empresa em agosto descreveu duas fontes de preocupação. Uma envolvia um incidente relacionado ao Hugging Face. A outra dizia respeito a evidências preliminares de que um modelo futuro, chamado Astra, poderia atingir o limite crítico de cibersegurança da OpenAI.

Uma capacidade crítica de cibersegurança refere-se ao desempenho de um modelo que poderia auxiliar materialmente ataques sofisticados. Nesse nível, tornam-se necessários contenção mais robusta, monitoramento, controles de acesso e restrições de implantação.

A OpenAI disse que os desdobramentos motivaram uma desaceleração temporária. Sua pausa no treinamento publicada abrangeu o aprendizado por reforço destinado à implantação, enquanto a empresa fortalecia os ambientes de pesquisa e ampliava o monitoramento.

A empresa também afirmou que algumas cargas de trabalho permaneceram pausadas até que pudessem migrar para uma infraestrutura mais segura. Planejava realizar execuções menores de treinamento e avaliações antes de reiniciar seu maior esforço planejado.

Essa sequência se assemelha ao sistema que Altman descreveu na Dreamforce. Surgiu um alerta, a empresa interrompeu o trabalho, investigou as salvaguardas e estabeleceu condições para retomar o desenvolvimento.

É uma evidência relevante de que uma estrutura de segurança pode influenciar as operações. Não é prova independente de que a resposta foi suficiente.

A OpenAI selecionou as avaliações, interpretou os resultados, determinou o escopo da pausa e controlou a explicação pública. Pessoas externas receberam informações úteis, mas não necessariamente o suficiente para reproduzir o julgamento.

O caso também mostra por que limites de capacidade são importantes. “Desacelerar” só se torna acionável quando os desenvolvedores definem a atividade que para, as evidências que desencadeiam a interrupção e as evidências necessárias para reiniciar.

Uma pausa que abrange um método de treinamento não interrompe automaticamente a pesquisa de modelos. Experimentos menores, trabalho de segurança, atualizações de infraestrutura e avaliações podem continuar. As equipes de produto também podem seguir operando sistemas já implantados.

Essa flexibilidade pode apoiar uma investigação responsável. Também pode fazer com que a linguagem pública sobre uma pausa pareça mais ampla do que a mudança operacional subjacente.

As comparações entre empresas são ainda mais difíceis. A Anthropic pode usar um padrão diferente de capacidade, o Google pode aplicar outro conjunto de testes, e um desenvolvedor de pesos abertos pode não dispor de infraestrutura interna equivalente.

A solução não é necessariamente um único benchmark universal. Um teste único poderia se tornar desatualizado ou levar desenvolvedores a otimizar modelos especificamente para aprovarem nele.

Uma abordagem mais robusta combinaria requisitos mínimos comuns com múltiplas avaliações independentes. Também exigiria que os laboratórios explicassem diferenças relevantes entre seus métodos.

A regulação está começando a seguir essa direção. A Califórnia estabeleceu requisitos de transparência e comunicação de incidentes para desenvolvedores de fronteira abrangidos. A União Europeia desenvolveu obrigações para modelos de IA de propósito geral sob a AI Act.

A OpenAI afirma que seu Frontier Governance Framework conecta as práticas da empresa a esses requisitos legais emergentes. Essa conexão é importante porque desloca alguns compromissos de uma política voluntária para uma conformidade exigível.

Ainda assim, as leis permanecem fragmentadas geograficamente. Um modelo pode ser treinado em uma jurisdição, implantado por meio de infraestrutura em outra e usado por clientes no mundo todo.

A fiscalização também depende da expertise dos reguladores. As autoridades precisam de acesso a avaliadores qualificados, ambientes de computação seguros e evidências que as empresas podem considerar altamente sensíveis.

O resultado é um sistema híbrido. As empresas mantêm a capacidade técnica de detectar muitos riscos avançados, enquanto os governos fornecem deveres de comunicação, regras mínimas e consequências para o descumprimento.

Esse modelo híbrido é mais realista do que a autorregulação pura. Também difere da interpretação mais forte de controle pelo setor.

A confiança de Altman é mais defensável quando as empresas atuam como a primeira camada de segurança, não como a única.

O Que as Evidências Atuais Dizem Sobre o Risco da IA de Fronteira

As evidências sustentam uma preparação séria, mas não sustentam certeza nem sobre catástrofe nem sobre segurança. Os maiores riscos continuam difíceis de medir e excepcionalmente ambíguos.

O relatório de segurança de 2026 foi preparado com orientação de mais de 100 especialistas independentes. Ele encontrou sinais iniciais de capacidades relevantes para cenários de perda de controle.

No entanto, o relatório não concluiu que os sistemas atuais possuem capacidades suficientes para provocar uma perda de controle. Descreveu a probabilidade, o momento e a natureza desses resultados como excepcionalmente incertos.

Essa incerteza atua em duas direções. Ela desafia alegações de que a catástrofe é iminente, mas também enfraquece garantias de que os controles existentes são adequados.

Pesquisadores não podem depender apenas de taxas históricas de falha porque os sistemas de fronteira estão mudando. Novas capacidades podem surgir entre gerações de modelos, enquanto o acesso a ferramentas pode transformar modelos de linguagem conhecidos em agentes mais capazes.

Um agente é um sistema de IA que pode perseguir um objetivo por meio de múltiplas ações, frequentemente usando software ou serviços online. Maior autonomia permite trabalho útil, mas amplia o espaço de possíveis falhas.

A cibersegurança ilustra essa troca. Modelos avançados podem ajudar defensores a analisar código, investigar alertas e corrigir vulnerabilidades. As mesmas capacidades podem ajudar invasores a procurar fraquezas ou automatizar partes de uma intrusão.

O risco depende de mais do que o desempenho em benchmarks. Controles de acesso, identidade do usuário, monitoramento, limites de taxa, permissões de ferramentas e o ambiente-alvo afetam o resultado.

O risco biológico tem camadas semelhantes. A capacidade de um modelo de explicar conceitos científicos difere de sua capacidade de ajudar um usuário a concluir um processo perigoso no mundo real.

Avaliações úteis precisam testar todo o caminho, da informação à ação. Também devem considerar se as salvaguardas continuam eficazes quando os usuários reformulam solicitações, combinam modelos ou obtêm ferramentas externas.

A perda de controle é mais difícil de avaliar. Pesquisadores procuram comportamentos como engano, busca persistente de objetivos, resistência ao desligamento, replicação não autorizada e tentativas de adquirir recursos.

Um modelo que exibe um comportamento sob condições experimentais não prova que ele possa escapar ao controle humano. Mas oferece um motivo para melhorar testes e contenção antes de conceder mais autoridade ao sistema.

O debate público frequentemente reduz essas distinções. Um lado trata todo comportamento incomum de um modelo como evidência de uma catástrofe iminente. Outro trata a ausência de uma catástrofe demonstrada como evidência de que o risco é especulativo.

Ambas as posições vão além das evidências disponíveis. A conclusão responsável é que a incerteza deve ser gerida, e não eliminada retoricamente.

Isso torna importante o apoio de Altman a desacelerar ou interromper. Uma empresa não precisa de certeza sobre um desastre antes de pausar um experimento perigoso.

O desafio mais difícil é estabelecer limites sob incerteza. Se a barreira for baixa demais, falsos alarmes podem interromper repetidamente a pesquisa. Se for alta demais, um alerta pode chegar apenas depois que um modelo se tornar difícil de conter.

A pressão comercial pode elevar silenciosamente os limites. Uma empresa que espera um grande lançamento pode exigir evidências mais fortes antes de aceitar um atraso do que exigiria durante um projeto inicial de pesquisa.

A supervisão pública pode contrabalançar esse incentivo, mas os reguladores enfrentam suas próprias limitações. Regras escritas em torno dos modelos atuais podem envelhecer rapidamente, e exigências de divulgação podem expor detalhes sensíveis de segurança.

Portanto, o sistema de governança mais crível precisará de revisões. Testes, limites e procedimentos de comunicação devem mudar à medida que os modelos e as evidências mudam.

A OpenAI reconhece essa necessidade em sua própria estrutura. A questão é se as atualizações permanecem transparentes o suficiente para que especialistas externos as avaliem e se as empresas fazem mudanças antes que um incidente as force.

Três Sinais Testarão a Confiança de Altman

A próxima fase do debate sobre segurança em IA será medida por incidentes divulgados, avaliação independente e coordenação exigível, e não por garantias de executivos.

O primeiro sinal é como a OpenAI lidará com seu trabalho de treinamento pausado. A empresa afirmou que sua maior execução planejada de aprendizado por reforço de fronteira permaneceu suspensa enquanto validava as salvaguardas.

Uma retomada apoiada por métodos de avaliação publicados, testes externos e uma explicação clara dos controles aprimorados fortaleceria o argumento de Altman. Uma retomada silenciosa com evidências limitadas deixaria sem solução o problema central de verificação.

A questão-chave não é se cada detalhe técnico sensível se torna público. É se pessoas externas qualificadas podem examinar evidências suficientes para avaliar a decisão.

O segundo sinal é a criação de um sistema crível de comunicação de incidentes. Altman enfatizou especificamente a comunicação transparente, portanto o setor agora precisa definir o que essa promessa abrange.

Um sistema significativo distinguiria falhas menores de produtos de incidentes graves de fronteira. Identificaria prazos de comunicação, canais protegidos, revisores independentes e circunstâncias que exigem aviso público.

Também abordaria quase acidentes. A segurança da aviação melhorou em parte porque investigadores estudaram sinais de alerta, não apenas acidentes fatais. A governança de IA precisa de uma forma comparável de aprender com avaliações perigosas e falhas contidas.

Um sistema limitado a divulgações voluntárias de relações públicas enfraqueceria o argumento de Altman. Um processo compartilhado respaldado por deveres legais e revisão independente o fortaleceria.

O terceiro sinal é a coordenação além de um pequeno grupo de laboratórios americanos de fronteira. O acordo entre OpenAI, Anthropic, Google e SpaceXAI pode moldar normas, mas não pode governar todo o mercado.

Desenvolvedores de pesos abertos, provedores de nuvem, governos, pesquisadores acadêmicos e laboratórios chineses influenciam como os modelos avançados se disseminam. Seus incentivos e capacidades de segurança diferem.

O recente debate sobre segurança já mostrou como a concorrência, os motivos de lucro e a resistência política complicam a contenção coordenada.

Padrões concretos de avaliação transfronteiriça ou acordos de compartilhamento de incidentes sustentariam a alegação de que a ação do setor pode escalar. Compromissos fragmentados sem fiscalização apontariam na direção oposta.

Para desenvolvedores e compradores empresariais, esse debate afeta decisões comuns sobre produtos. As políticas de segurança determinam quais modelos recebem acesso a ferramentas, quais dados podem entrar em prompts, como incidentes são divulgados e se um provedor pode suspender capacidades.

As organizações devem pedir aos fornecedores resumos de avaliações, procedimentos para incidentes, controles de acesso e limites claros de responsabilidade. Também devem evitar tratar a declaração geral de segurança de um provedor como substituta de seus próprios controles.

Profissionais do conhecimento devem esperar que os sistemas de IA ganhem mais autoridade em pesquisa, comunicação, programação e operações. Essa autoridade torna o design de permissões e a revisão humana ainda mais importantes, mesmo quando os modelos parecem confiáveis no uso rotineiro.

A posição de Sam Altman sobre segurança em IA é, em última análise, uma afirmação testável, não uma conclusão consolidada. A OpenAI e suas rivais agora precisam demonstrar que conseguem divulgar falhas, aceitar escrutínio externo e parar quando continuar seria comercialmente mais fácil.

Observe o que acontece quando o próximo limiar for ultrapassado. O laboratório publica evidências, convida uma revisão confiável e adia a implantação? Ou a segurança permanece uma promessa flexível, controlada pela empresa que busca lançar o produto?

Essas decisões revelarão se a liderança do setor pode servir como a primeira linha de supervisão da IA e se os governos precisam construir uma salvaguarda muito mais robusta.