Pesquisa de Segurança em IA da CTech: A Automação Eleva o Padrão para Pesquisadores Humanos

A pesquisa de segurança em IA da CTech constatou que a automação agora realiza uma parte substancial do trabalho de pesquisa, mas essa mudança está elevando as expectativas sobre as pessoas que a supervisionam. A pesquisa de 18 de setembro reuniu 30 pesquisadores de segurança de empresas israelenses de cibersegurança. Os participantes relataram o uso de IA para análise de logs, revisão de documentação, varreduras iniciais de código e investigações paralelas.

Essa eficiência vem acompanhada de uma inversão importante. Pesquisar mais rápido não torna o julgamento sólido menos relevante. Isso dá a premissas fracas, instruções incompletas e permissões excessivas mais oportunidades de causar danos na velocidade das máquinas.

Por isso, os pesquisadores de segurança estão migrando da investigação manual para a orquestração, a validação e a responsabilização. Seu adversário emergente não é simplesmente um modelo de IA ou um atacante automatizado. É a automação sem julgamento humano confiável.

A mudança vai além das equipes especializadas de pesquisa. As empresas estão preenchendo seus ambientes com agentes, contas de serviço, chaves de interface de programação de aplicações e outras identidades não humanas. Muitas delas podem ler dados sensíveis ou executar ações em sistemas conectados.

Enquanto isso, atacantes podem usar automação semelhante para explorar vulnerabilidades e acelerar a exploração. Os defensores precisam automatizar sem confiar em todas as conclusões geradas. Também precisam proteger os agentes que realizam esse trabalho.

O resultado é um novo e exigente padrão para a profissão. Pesquisadores precisam ter profundidade técnica para questionar um modelo, disciplina operacional para controlar agentes e habilidade de comunicação para definir objetivos precisos.

A Pesquisa de Segurança em IA da CTech Mostra o Que Mudou

A IA absorveu tarefas repetitivas de segurança, deslocando o valor do pesquisador da execução manual para orientação, verificação e julgamento técnico.

A pesquisa com pesquisadores de segurança reuniu respostas de 30 profissionais que atuam no setor israelense de cibersegurança. Não foi um estudo controlado de produtividade. Foi uma visão estruturada de como equipes de pesquisa ativas descrevem a transformação de seu trabalho.

Todas as empresas da pesquisa disseram que a IA assumiu tarefas como análise de logs, revisão de documentação e varredura inicial de código. Um quarto dos participantes descreveu explicitamente a tecnologia como um multiplicador de força para a produtividade individual.

Yuval Barak, engenheiro fundador de pesquisa da Astelia, apresentou a alegação de produtividade mais forte da pesquisa. Ele afirmou que os agentes elevaram a produtividade de cada pesquisador para cerca de dez vezes o nível anterior, ao assumir trabalhos laboriosos.

Esse número reflete a avaliação de um profissional, e não uma referência do setor auditada de forma independente. Ainda assim, a mudança subjacente no fluxo de trabalho apareceu de forma consistente nas respostas.

Antes, um pesquisador precisava reunir logs, buscar documentação, comparar caminhos de código e organizar possíveis descobertas antes de testar uma hipótese. Agora, um agente pode executar várias dessas etapas simultaneamente.

O papel humano começa mais cedo e termina mais tarde. Pesquisadores precisam definir a questão, selecionar ferramentas, restringir acessos, examinar evidências e decidir se uma vulnerabilidade reportada é real.

Roy Itzhaky, pesquisador de segurança na organização do diretor de tecnologia da Linx Security, descreveu esse papel como o de um diretor, e não de alguém que escava. O agente explora diversos caminhos, enquanto o pesquisador mantém esses caminhos alinhados e avalia os resultados.

Essa distinção importa porque a pesquisa não é medida pelo número de pistas que um sistema produz. Uma descoberta confiável precisa ser reproduzível, relevante e sustentada por evidências.

A varredura automatizada pode aumentar o número de hipóteses sem melhorar sua qualidade. Também pode ocultar incertezas por trás de uma prosa confiante ou de artefatos técnicos convincentes.

Um modelo pode identificar código suspeito e propor um caminho de ataque plausível. O pesquisador ainda precisa determinar se o caminho é acessível, se os controles existentes o bloqueiam e se a exploração gera impacto significativo.

O mesmo princípio se aplica ao trabalho com documentação. A IA pode resumir investigações anteriores e revelar descobertas relacionadas. Ela não pode garantir que o contexto esteja atualizado, seja completo ou se aplique a um novo ambiente.

Isso muda a forma como as equipes administram a memória institucional. Barak argumentou que o conhecimento pode se tornar uma propriedade da equipe, em vez de permanecer com pesquisadores individuais.

Esse resultado exige mais do que adicionar um chatbot a uma coleção de documentos. As equipes precisam de evidências organizadas, decisões rastreáveis e controles de acesso que diferenciem descobertas confiáveis de especulações inacabadas.

Uma base de conhecimento pesquisável pode apoiar essa transição quando preserva o contexto da fonte. Sem proveniência, uma recuperação mais rápida pode disseminar premissas antigas tão rapidamente quanto conhecimento válido.

O acontecimento, portanto, é maior do que uma simples história de produtividade. A IA está mudando onde os pesquisadores concentram seus esforços e onde falhas de segurança podem entrar no processo.

O trabalho repetitivo está diminuindo. A carga de especificar, supervisionar e validar o trabalho automatizado está crescendo.

Pesquisas Mais Rápidas Colocam as Equipes de Segurança Sob Pressão

O ganho de produtividade cria uma nova linha de base, obrigando os pesquisadores a entregar resultados validados mais rapidamente enquanto os atacantes obtêm acesso a automação semelhante.

As equipes de segurança enfrentam pressão dos dois lados do fluxo de trabalho. Suas próprias organizações esperam mais resultados, enquanto adversários podem usar IA para reduzir o tempo de reconhecimento e experimentação.

A pesquisa de segurança em IA da CTech mostra quão rapidamente as expectativas internas se ajustaram. Se um agente consegue revisar documentação ou examinar código em minutos, uma longa fila manual se torna mais difícil de justificar.

Ofri Ziv, cofundador e vice-presidente de pesquisa da Tenzai, afirmou que trabalhos que antes permaneciam em pesquisa por meses agora precisam ser avaliados, reforçados e entregues em semanas. Essa mudança conecta diretamente o desempenho da pesquisa à entrega de produtos.

Uma entrega mais rápida pode aprimorar a defesa quando as equipes preservam a validação. Também pode incentivar descobertas prematuras, alertas ruidosos ou controles testados de forma insuficiente.

A pressão é especialmente visível na gestão de vulnerabilidades. As organizações precisam encontrar fraquezas exploráveis, priorizá-las, desenvolver correções e verificar essas correções em ambientes em transformação.

A equipe Mandiant do Google descreveu um modelo operacional semelhante. Sua estrutura de revisão com agentes combina vários agentes com validação estruturada e expertise humana.

A estrutura foi projetada para ajudar especialistas a examinar código-fonte, encontrar caminhos de exploração e testar vulnerabilidades potenciais. Sua organização é importante porque a exploração de modelos sem restrições pode desperdiçar tempo ou produzir conclusões sem respaldo.

A velocidade, por si só, não resolve a desvantagem tradicional do defensor. Um atacante precisa de apenas um caminho viável, enquanto um defensor deve reduzir a exposição em muitos ativos, identidades e aplicações.

A IA pode ajudar os defensores a paralelizar esse trabalho. Ela também ajuda atacantes a automatizar buscas, adaptar técnicas públicas e examinar sistemas expostos com mais frequência.

O Google Cloud relatou que o intervalo entre a divulgação de vulnerabilidades e a exploração ativa caiu de semanas para dias durante a segunda metade de 2025. Essa observação reforça a necessidade de descoberta contínua e validação defensiva mais rápida.

Isso não prova que a IA tenha causado todas as janelas mais curtas de exploração. Mostra, porém, por que o trabalho periódico de segurança está se tornando menos compatível com as condições operacionais atuais.

Um teste de invasão realizado duas vezes ao ano captura uma visão temporária de um ambiente. Novos códigos, permissões, serviços e integrações podem tornar essa visão obsoleta pouco depois da entrega.

Quatro empresas na pesquisa da CTech disseram ter criado hackers de IA proprietários ou ambientes internos de treinamento. Esses sistemas simulam continuamente ataques e testam como fraquezas poderiam surgir em produção.

Os participantes da pesquisa descreveram um padrão de zero falsos positivos para esses programas. Esse padrão é uma aspiração que exige evidências, e não uma propriedade geral das ferramentas de segurança com IA.

Os falsos positivos ainda geram custos reais. Consomem tempo de investigação, interrompem equipes de engenharia e podem ensinar usuários a ignorar alertas futuros.

Os falsos negativos são mais perigosos. Um agente pode deixar de identificar uma técnica nova porque seus dados de treinamento ou ferramentas disponíveis não representam o ataque.

Líderes de segurança devem, portanto, avaliar a automação por meio de resultados validados. Medidas úteis incluem descobertas reproduzíveis, cobertura de detecção, tempo de correção e a taxa de conclusões de agentes rejeitadas.

A resposta exigida dos pesquisadores é clara. As equipes precisam automatizar a descoberta repetitiva enquanto investem mais intensamente em revisão, testes e gestão de evidências.

Essa pressão provavelmente persistirá. Quando uma organização integra a automação ao seu pipeline de pesquisa, retornar a um ritmo manual mais lento se torna difícil.

A questão mais difícil é se as equipes conseguem escalar o julgamento na mesma proporção que a produção gerada. Essa questão define o conflito central que agora enfrenta a pesquisa de segurança.

Pesquisadores de Segurança em IA Estão se Tornando Diretores, Não Escavadores

A principal disputa da profissão é o julgamento humano contra a automação sem supervisão, e não a velocidade humana contra a velocidade das máquinas.

Pesquisadores de segurança em IA já não criam valor ao concluir pessoalmente cada etapa investigativa. Seu valor depende cada vez mais de decidir quais etapas devem ser executadas, sob quais restrições e com quais requisitos de evidência.

Esse papel se assemelha à direção técnica. Um pesquisador pode atribuir a agentes distintos a revisão de código-fonte, a busca em documentação, a inspeção de logs ou o teste de hipóteses concorrentes.

O trabalho paralelo amplia o espaço de busca. Também cria problemas de coordenação que uma única investigação manual poderia evitar.

Agentes podem repetir a mesma premissa equivocada em vários ramos. Podem perder contexto relevante, perseguir teorias atraentes, mas improdutivas, ou produzir conclusões conflitantes.

Itzhaky resumiu o perigo com um contraste incisivo. Antes, um pensamento descuidado consumia uma tarde, mas agora pode enviar uma frota de agentes na direção errada.

A afirmação captura a inversão central. A automação reduz o custo da ação, mas pode multiplicar o custo de um objetivo mal definido.

Um diretor humano precisa traduzir uma meta investigativa em tarefas delimitadas. Cada tarefa precisa de um alvo, ferramentas permitidas, condições de interrupção e um padrão de evidência suficiente.

O pesquisador também precisa decidir o quanto os agentes devem permanecer independentes. Vários agentes repetindo o mesmo padrão de raciocínio não fornecem uma confirmação significativa.

Um projeto melhor separa funções. Um agente pode gerar hipóteses, outro pode contestar premissas, e uma ferramenta controlada pode reproduzir o comportamento suspeito.

Mesmo esse processo precisa de revisão humana. Os modelos compartilham padrões de treinamento, e uma discordância aparente não garante raciocínio independente.

Ofek Haviv, pesquisador de cibersegurança da Terra Security, argumentou que pesquisadores não competem com agentes em velocidade. Seu valor está em definir o padrão que os resultados dos agentes precisam atender.

Esse padrão inclui a verdade técnica, mas também a relevância organizacional. Uma fraqueza teórica pode ter pouco impacto quando os controles tornam o caminho vulnerável inacessível.

Por outro lado, um pequeno erro de configuração pode criar grande exposição quando um agente detém privilégios amplos. O contexto determina se uma descoberta exige ação urgente.

Os pesquisadores também precisam entender as ferramentas por trás das respostas geradas. Uma pessoa que revisa código obtido por engenharia reversa deve reconhecer quando um modelo inventa comportamentos ou interpreta incorretamente um fluxo de controle.

Idan Revivo, chefe de pesquisa de segurança da Island, alertou sobre recém-chegados que conseguem criar prompts para modelos, mas nunca aprenderam a fazer engenharia reversa de software. Sua preocupação não é resistência à automação.

É um alerta sobre a capacidade de verificação. Quando um modelo erra com confiança, alguém precisa ter profundidade técnica suficiente para contestá-lo.

Essa exigência eleva o padrão para pesquisadores juniores. Historicamente, o trabalho de nível inicial oferecia exposição repetida a logs, código, sistemas e modos comuns de falha.

Se os agentes absorverem essas tarefas, novos pesquisadores poderão ter menos oportunidades de desenvolver intuição. As equipes precisam substituir deliberadamente essa prática perdida por laboratórios supervisionados, exercícios de reprodução e revisão adversarial.

A pesquisa constatou que um quinto dos respondentes mencionou o efeito da IA sobre a próxima geração de pesquisadores. Roey Vilnai, diretor de pesquisa cibernética da Axonius, disse que o acesso ao conhecimento elevou as expectativas em todos os níveis de experiência.

Tamir Ishay Sharbat, diretor de pesquisa de segurança da Zenity, apresentou uma visão complementar. Ele entrou na área de cibersegurança sem experiência prévia e agora considera o uso de IA um requisito para pesquisadores.

Juntas, essas perspectivas revelam um desafio de formação. A IA pode ampliar o acesso ao conhecimento ao mesmo tempo que torna mais fácil confundir competência superficial com especialização.

Os processos de contratação precisarão testar tanto o uso de ferramentas quanto o raciocínio independente. Um candidato deve ser capaz de orientar um agente, examinar suas evidências e continuar quando o modelo falhar.

As equipes também devem preservar exercícios manuais para habilidades essenciais. Engenharia reversa, desenvolvimento de exploits, análise de identidade e raciocínio de rede não podem sobreviver como conhecimento puramente teórico.

Os melhores pesquisadores combinarão exploração em escala de máquina com ceticismo técnico fundamentado. Eles saberão quando automatizar, quando restringir o escopo e quando interromper o sistema.

Essa combinação, e não apenas a fluência em prompts, está se tornando o novo patamar básico da profissão.

Identidades Não Humanas Ampliam a Superfície de Ataque

Os agentes que realizam o trabalho de segurança também se tornam identidades privilegiadas que as organizações precisam descobrir, restringir, monitorar e revogar.

Onze empresas na pesquisa da CTech identificaram agentes de IA como uma grande mudança no perímetro de segurança. Os respondentes agruparam esses agentes com chaves de API, contas de serviço e outras identidades não humanas.

Tomer Bar, vice-presidente associado de pesquisa de segurança da Semperis, disse que as identidades não humanas já superam as pessoas em algumas organizações clientes. Ele projetou que a proporção poderia chegar a dez para um nos próximos anos.

Essa projeção é uma previsão de um executivo da empresa, não uma medição de mercado verificada de forma independente. Ainda assim, o problema subjacente de identidade é concreto.

Um agente precisa de acesso a dados, aplicações e ferramentas para realizar trabalho útil. Essas conexões lhe dão uma identidade, um conjunto de permissões ou acesso emprestado por meio de outra conta.

Omer Nissim, pesquisador de segurança da Sweet Security, destacou o perigo de combinar permissões amplas com um processo decisório imprevisível. Ele apontou especificamente para agentes conectados por servidores Model Context Protocol.

Model Context Protocol, ou MCP, é um padrão que permite a sistemas de IA se conectarem a ferramentas externas e fontes de dados. Sua utilidade depende de como essas conexões são autorizadas e restringidas.

Um agente com acesso de leitura ao código-fonte apresenta um nível de risco. Um agente capaz de alterar configurações de nuvem, enviar mensagens ou implantar código apresenta outro.

A OWASP descreve a agência excessiva como uma condição que envolve funcionalidade, permissões ou autonomia excessivas. Saídas inesperadas ou manipuladas do modelo podem então desencadear ações prejudiciais.

O problema central não é necessariamente intenção maliciosa. Uma instrução ambígua, uma conclusão alucinada, uma ferramenta comprometida ou um prompt injetado pode redirecionar um agente que, de outra forma, seria legítimo.

O princípio do menor privilégio continua sendo a principal defesa. Um agente deve receber apenas as ferramentas e permissões necessárias para sua tarefa atual.

O acesso somente leitura é preferível quando o trabalho não exige alterações. Ações de alto impacto devem usar fluxos de aprovação separados e credenciais com escopo restrito.

As organizações também precisam de identidades individuais para os agentes. Compartilhar uma credencial humana com um agente dificulta a atribuição e pode permitir que o sistema se passe por seu operador.

A recente orientação do NIST sobre identidade de agentes recomenda tratar agentes como entidades distintas. Cada um deve ter identificadores, credenciais e direitos vinculados ao usuário ou sistema responsável.

A orientação também destaca riscos de chaves de API estáticas e tokens de portador de longa duração. Quem obtém essas credenciais muitas vezes pode usá-las sem provar que possui uma identidade específica.

Isso torna o armazenamento e a rotação de credenciais parte da segurança de IA. Segredos de agentes podem vazar por arquivos de configuração, logs, armazenamentos de memória, saídas de ferramentas ou registros de depuração.

A aprovação humana não resolve todos os problemas. Solicitações constantes de permissão podem criar fadiga de consentimento, incentivando usuários a aprovar ações sem revisão cuidadosa.

Um projeto mais robusto fornece aos agentes limites operacionais aprovados. Esses limites devem definir recursos acessíveis, ações permitidas, limites de tempo e condições de escalonamento.

O monitoramento deve capturar mais do que a resposta final. As equipes de segurança precisam de registros de chamadas de ferramentas, uso de identidades, dados recuperados, recursos alterados e decisões de aprovação.

Essas evidências apoiam a investigação de incidentes e o controle cotidiano de qualidade. Elas permitem que os pesquisadores reconstruam por que um agente chegou a uma conclusão ou executou uma ação.

A responsabilidade também deve continuar visível. Itzhaky observou que agentes podem ser criados por funcionários, pipelines automatizados ou outros agentes.

Sem um responsável identificável, um agente esquecido pode reter permissões após o fim de sua tarefa original. Esse padrão se assemelha a contas de serviço abandonadas, mas o comportamento autônomo torna a exposição mais difícil de prever.

Portanto, a descoberta deve incluir inventários de agentes, credenciais, ferramentas, acesso a dados e relações entre pai e filho. A revogação deve encerrar tanto o agente quanto qualquer acesso delegado que ele tenha criado.

É aqui que a narrativa de produtividade encontra a narrativa de segurança. Uma organização pode implantar agentes mais rapidamente do que seu programa de identidade consegue governá-los.

A lacuna resultante se torna um novo alvo de pesquisa. As equipes de segurança precisam investigar o comportamento dos agentes enquanto usam agentes para investigar todo o resto.

A Automação Não Pode Substituir a Validação Cética

A pesquisa registra uma mudança real de fluxo de trabalho, mas suas afirmações mais fortes sobre produtividade e precisão ainda exigem medição independente.

A pesquisa da CTech sobre segurança de IA oferece observações diretas valiosas de pesquisadores em atividade. Sua coorte de 30 pessoas continua concentrada no setor israelense de cibersegurança.

O artigo publicado não apresenta uma amostra aleatória, questionário padronizado ou dados de desempenho auditados de forma independente. Os leitores não devem tratar suas proporções como medidas universais da força de trabalho.

A estimativa de produtividade dez vezes maior feita por um respondente pode indicar uma mudança significativa sem provar um aumento de dez vezes em descobertas validadas. A produção pode significar relatórios, hipóteses, revisões de código, experimentos ou vulnerabilidades confirmadas.

Essas categorias têm valores diferentes. Dez vezes mais descobertas iniciais podem gerar mais trabalho se a maioria não puder ser reproduzida.

A mesma cautela se aplica às alegações de zero falsos positivos. Um sistema pode reduzir alarmes falsos ao restringir o que relata, mas essa escolha pode aumentar as vulnerabilidades não detectadas.

As equipes precisam medir ambos os lados. A precisão descreve quantas descobertas relatadas são válidas, enquanto a cobertura descreve quantas fraquezas relevantes o sistema realmente encontra.

Uma ferramenta pode parecer precisa quando relata apenas problemas óbvios. Ainda assim, ela pode deixar passar cadeias de ataque sutis, software desconhecido ou vulnerabilidades que exigem raciocínio contextual longo.

A orientação do Google Cloud sobre vulnerabilidades alerta que agentes podem deixar de perceber silenciosamente técnicas novas ou vulnerabilidades zero-day pouco representadas nos dados de treinamento.

Essa limitação dá à especialização humana um papel específico. Os pesquisadores precisam reconhecer quando a cobertura de uma varredura é estreita demais e projetar testes fora dos padrões familiares ao modelo.

A alucinação é outra preocupação. Um relatório gerado pode citar funções inexistentes, interpretar mal uma dependência ou inferir explorabilidade a partir de código incompleto.

Portanto, a reprodução deve ocorrer em ambientes controlados. Um pipeline confiável deve preservar entradas, versões de ferramentas, prompts, estado do sistema e resultados observáveis.

As saídas dos agentes também exigem modelagem de ameaças. Um invasor pode inserir texto que manipula um modelo, especialmente quando o sistema lê sites, repositórios, tickets ou documentos não confiáveis.

Esse ataque é chamado de injeção indireta de prompt. Instruções maliciosas ficam ocultas no conteúdo recuperado e tentam redirecionar o comportamento do agente.

A defesa não pode depender inteiramente de dizer ao modelo para ignorar instruções ruins. Os sistemas precisam de ferramentas isoladas, permissões com escopo definido, limites de conteúdo e aprovação explícita para ações consequentes.

Os pesquisadores também devem distinguir a confiança do modelo da qualidade das evidências. Explicações fluentes podem fazer uma descoberta fraca parecer completa.

Um processo de revisão robusto faz várias perguntas concretas. O comportamento pode ser reproduzido? O caminho vulnerável é alcançável? Que privilégio a exploração exige? Qual controle a bloqueia ou detecta?

O processo também deve registrar hipóteses rejeitadas. Essas falhas ajudam as equipes a melhorar benchmarks e impedem que agentes futuros repitam o mesmo caminho improdutivo.

Um benchmark de segurança é uma coleção definida de tarefas usada para testar o comportamento de um sistema. Benchmarks internos devem incluir evidências enganosas, acesso parcial, falhas de ferramentas e classes de vulnerabilidade desconhecidas.

O desempenho em produção importa mais do que pontuações de benchmark. As equipes devem comparar as descobertas dos agentes com incidentes posteriores, revisões manuais e testes independentes.

Revisores humanos precisam de proteção contra o viés de automação, que é a tendência de favorecer uma recomendação de máquina simplesmente porque ela foi produzida por um sistema.

Alternar revisores, ocultar a pontuação de confiança de um agente ou solicitar uma reprodução independente pode reduzir esse viés. Descobertas de alto impacto merecem uma separação mais forte entre descoberta e aprovação.

O argumento dos céticos não implica que as equipes devam abandonar a IA. A pesquisa manual também deixa passar vulnerabilidades, segue hipóteses ruins e sofre com documentação inconsistente.

A conclusão mais defensável é mais restrita. A IA amplia a capacidade de pesquisa, mas essa capacidade só se torna útil quando as equipes mantêm uma validação disciplinada.

O novo padrão mais elevado não é a perfeição. É a capacidade de explicar o que o agente fez, verificar o resultado e conter as consequências do erro.

A Segurança Contínua se Torna o Próximo Teste

A próxima fase será julgada pela validação contínua, pela qualidade de pesquisa mensurável e pelo controle aplicável sobre identidades de agentes.

O primeiro sinal a observar é se a avaliação contínua de segurança substitui os testes periódicos nos fluxos de trabalho de produção. Vários respondentes da pesquisa argumentaram que testes de penetração semestrais já não acompanham a velocidade do software e da atividade dos invasores.

A avaliação contínua significa testar ativos à medida que códigos, configurações, identidades e exposições externas mudam. Ela deve complementar revisões humanas mais aprofundadas, em vez de transformar a segurança em um fluxo interminável de alertas de scanners.

O Google descreveu um pipeline de segurança agêntica que examina código, produz provas e cria correções. A empresa afirmou aplicar essa abordagem em centenas de milhões de linhas de código interno.

Esse sistema oferece um indicador útil porque conecta descoberta, reprodução e remediação. A medida crítica é saber se outras organizações conseguem alcançar disciplina semelhante com conjuntos de dados, equipes e infraestrutura menores.

Uma adoção ampla fortaleceria a afirmação central da pesquisa. Ruído persistente de alertas ou taxas baixas de remediação a enfraqueceriam.

O segundo sinal é como as empresas governam identidades não humanas. Inventários de agentes devem se tornar parte da gestão de identidade e acesso, e não um documento isolado de política de IA.

Progresso útil incluiria credenciais exclusivas para agentes, acesso de curta duração, autorização delegada, propriedade claramente definida e registros completos de ações. As organizações também devem conseguir suspender um agente sem desativar seu operador humano.

Observe padrões e produtos que conectem as ações de um agente a um usuário, tarefa e limite operacional aprovado específicos. Essa cadeia sustenta a responsabilização sem compartilhar credenciais pessoais.

Se as implementações continuarem dependendo de chaves de API amplas e contas de serviço genéricas, a produtividade superará a governança. Esse resultado reforçaria as preocupações com administradores paralelos e caminhos de acesso imprevisíveis.

O terceiro sinal é como contratação e treinamento mudam. Pesquisadores juniores ainda precisam de prática direta com código, sistemas, exploração e evidências.

As equipes devem publicar expectativas de competência mais claras para funções assistidas por IA. Entrevistas e programas de treinamento podem testar se os candidatos detectam descobertas fabricadas, questionam pressupostos do modelo e reproduzem resultados manualmente.

Uma transição saudável criará programas estruturados de formação em torno da supervisão de agentes. Pesquisadores experientes podem expor os aprendizes tanto a execuções bem-sucedidas quanto a falhas.

Uma transição prejudicial eliminará o trabalho fundamental sem substituir seu valor educacional. Isso produziria pesquisadores capazes de operar interfaces, mas incapazes de verificar os sistemas por trás delas.

Esses sinais importam tanto para compradores empresariais quanto para profissionais de segurança. O uso de IA por um fornecedor diz pouco sem detalhes sobre permissões, evidências, revisão e tratamento de falhas.

Os compradores devem perguntar quem aprova as descobertas, como os agentes se autenticam, quais dados retêm e se os resultados podem ser reproduzidos. Também devem perguntar como o sistema se comporta quando uma ferramenta falha ou uma entrada contém instruções maliciosas.

Os desenvolvedores devem esperar que as revisões de segurança se aproximem de cada alteração de código. Eles podem receber feedback mais rápido, mas as descobertas automatizadas ainda precisarão de contexto suficiente para orientar uma correção.

Os trabalhadores do conhecimento devem se importar porque problemas de identidade de agentes vão além das ferramentas de cibersegurança. Qualquer assistente conectado a e-mails, documentos, código ou sistemas empresariais pode se tornar uma identidade não humana com privilégios excessivos.

A pesquisa de segurança de IA da CTech, em última análise, descreve uma redistribuição do trabalho, não o desaparecimento dos pesquisadores. As máquinas realizam mais coleta e exploração. Os humanos assumem mais responsabilidade por objetivos, restrições e verdade.

Esse arranjo pode melhorar a segurança quando as evidências permanecem centrais. Pode aumentar o risco quando as organizações confundem atividade gerada com progresso verificado.

A questão prática já não é se a IA pertence à pesquisa de segurança. É se as equipes conseguem tornar a automação responsável antes que sua escala ultrapasse sua capacidade de supervisioná-la.

Peça aos seus fornecedores de segurança e equipes internas uma descoberta completa assistida por agente, incluindo suas permissões, trilha de evidências, revisão humana e desfecho final. Esse registro revelará mais do que uma ampla promessa de produtividade.