Pesquisadores da USC testam suporte adaptativo de IA para reduzir a dependência perigosa

Pesquisadores da USC testaram cinco intervenções adaptativas contra um problema persistente da IA: as pessoas frequentemente confiam demais em conselhos ou os rejeitam quando deveriam ouvi-los. O estudo, destacado pela cobertura no Google News, concluiu que alterar o comportamento de um assistente de acordo com o nível de confiança do usuário melhorou diversos resultados de decisão.

O resultado central não é que as pessoas precisam de mais explicações. Explicações persistentes às vezes pioraram as decisões. Em vez disso, os pesquisadores constataram que o suporte funcionou melhor quando oferecido em momentos específicos de confiança excepcionalmente alta ou baixa.

Essa distinção desafia uma estratégia de produto comum. Muitos sistemas de IA fornecem os mesmos sinais de confiança, explicações e velocidade de interação a todos os usuários. A nova pesquisa argumenta que um suporte à decisão mais seguro exige um alvo móvel: a interface deve responder à forma como a confiança se desenvolve durante interações repetidas.

As conclusões vêm de estudos controlados envolvendo perguntas de ciências, diagnósticos clínicos simulados e um assistente de modelo de linguagem de grande porte. Elas oferecem uma direção prática de design, mas não estabelecem que produtos reais possam inferir a confiança de forma confiável ou reproduzir os resultados em ambientes de trabalho reais.

O que o estudo da USC realmente mudou

Os pesquisadores trataram a confiança do usuário como uma entrada variável para a interface, e não como uma atitude fixa medida após a sessão.

Tejas Srinivasan e Jesse Thomason examinaram como a confiança afeta se as pessoas aceitam recomendações de IA. O artigo deles, Adjust for Trust, apareceu nos anais da Conferência ACM de 2026 sobre Interfaces Inteligentes de Usuário.

A tomada de decisões assistida por IA significa que uma pessoa faz a escolha final após receber uma recomendação de um modelo. A dependência apropriada ocorre quando a pessoa aceita bons conselhos e rejeita maus conselhos.

A dependência inadequada inclui duas falhas opostas. A dependência excessiva ocorre quando alguém aceita uma recomendação incorreta. A dependência insuficiente ocorre quando alguém rejeita um conselho útil que teria corrigido um erro inicial.

Os pesquisadores encontraram fortes relações entre a confiança autorrelatada e o comportamento subsequente. Nas condições testadas, as correlações entre confiança e mudança para a resposta da IA variaram de 0,796 a 0,949.

O padrão tornou-se especialmente importante nos extremos. Participantes da área médica aceitaram 26% dos diagnósticos incorretos da IA quando a confiança era alta, em comparação com 8% quando a confiança era menor.

A baixa confiança produziu o problema inverso. Médicos rejeitaram diagnósticos corretos da IA 68% das vezes durante interações de baixa confiança, em comparação com 40% em outras interações.

Esses resultados importam porque uma única instrução para “verificar a saída da IA” não consegue corrigir ambas as falhas. Um usuário desconfiado precisa de evidências que tornem uma boa recomendação mais fácil de avaliar. Um usuário excessivamente confiante precisa de fricção que torne mais difícil aceitar automaticamente uma recomendação incorreta.

Por isso, o estudo testou intervenções adaptativas à confiança. São mudanças na interface ativadas quando a confiança declarada por um usuário ultrapassa um limite definido.

Quando a confiança estava abaixo de 5 em uma escala de 10 pontos, o assistente podia fornecer uma explicação de apoio. Quando a confiança estava acima de 8, podia fornecer uma contraexplicação descrevendo por que sua recomendação poderia estar errada.

Os pesquisadores também testaram interações mais lentas. Uma intervenção exigia que usuários muito confiantes esperassem 10 segundos antes de enviar uma decisão final. Essa pausa buscava interromper uma mudança imediata para a resposta da IA.

Essas intervenções alteraram o assistente sem mudar sua capacidade preditiva subjacente. O sistema não se tornou mais preciso porque recebeu um modelo melhor. Ele mudou como e quando apresentava informações.

Esse é o principal acontecimento do estudo. O suporte adaptativo à decisão passou de uma proposta geral de design para um teste controlado em várias condições de dependência, incluindo um experimento com modelo de linguagem de grande porte.

O Google News deu à descoberta um público mais amplo por meio da cobertura da Tech Xplore. No entanto, as evidências relevantes vêm do artigo revisado por pares e de seus experimentos relatados, não da camada de agregação de notícias.

Por que os leitores do Google News devem se importar com a confiança calibrada em IA

O estudo transfere a responsabilidade dos usuários isoladamente para as equipes que projetam como os conselhos de IA chegam até eles.

A maior parte das orientações de segurança pede que os usuários permaneçam céticos, verifiquem fontes e mantenham um humano no circuito. Essas práticas continuam importantes. No entanto, elas pressupõem que a vigilância permaneça estável ao longo de uma longa sequência de decisões.

O artigo apresenta a confiança como algo dinâmico. Uma resposta correta pode elevar a confiança no assistente, enquanto um erro visível pode reduzi-la drasticamente. Resultados recentes podem então enviesar a forma como o usuário lida com a próxima recomendação.

Isso pressiona empresas que desenvolvem copilotos, sistemas clínicos, ferramentas financeiras e agentes corporativos. Uma interface estática pode amplificar a experiência de ontem mesmo quando a recomendação de hoje merece uma resposta diferente.

Um usuário que vê várias respostas corretas pode começar a aceitar sugestões posteriores sem escrutínio suficiente. Outro usuário pode encontrar uma falha evidente e, então, ignorar boas recomendações durante o restante da tarefa.

Nenhuma das respostas reflete a confiabilidade real do modelo no caso atual. A interface precisa ajudar o usuário a avaliar cada recomendação sem fingir que a confiança desapareceu do processo.

Explicações de apoio ajudaram quando a confiança era baixa. Nas condições relevantes, o estudo relatou reduções de 13% a 31% na dependência insuficiente. A dependência inadequada total caiu entre 9% e 38%.

A precisão da decisão final melhorou entre 10% e 19% nessas condições de baixa confiança. Os maiores ganhos apareceram quando a IA simulada era excessivamente confiante, um cenário em que os usuários tinham mais motivos para desenvolver baixa confiança.

As contraexplicações abordaram o outro extremo. Quando a confiança era alta, elas reduziram a dependência excessiva em 10% a 23%. A dependência inadequada total caiu entre 19% e 36%, enquanto a precisão final melhorou entre 8% e 20%.

O dado de manchete mais visível é uma redução de até 38% na dependência inadequada. Outro experimento produziu uma melhora de precisão que chegou a 20%.

Essas são melhorias relativas em condições experimentais específicas. Elas não devem ser interpretadas como uma garantia universal de desempenho para interfaces adaptativas.

A pressão também se estende além dos desenvolvedores de modelos. Compradores empresariais precisam decidir se os controles de segurança de um produto são significativos durante o uso real. Um aviso genérico exibido durante a integração inicial diz pouco sobre como o sistema responde depois que a confiança muda.

Gerentes de produto precisam de um plano de medição diferente. Adoção, tempo economizado e aceitação de respostas são métricas incompletas se um sistema recompensa a dependência indiscriminada.

Uma alta taxa de aceitação pode parecer bem-sucedida enquanto oculta o viés de automação, a tendência de seguir conselhos automatizados mesmo quando há evidências contrárias. Uma baixa taxa de aceitação pode ocultar capacidade desperdiçada e trabalho manual desnecessário.

A dependência apropriada oferece um objetivo mais útil. As equipes devem medir se as pessoas distinguem boas recomendações de ruins, e não se concordam com o sistema com maior frequência.

Isso importa para leitores que encontraram a história pelo Google News porque o resultado se aplica ao uso cotidiano de IA, não apenas a software médico especializado. Assistentes de busca, ferramentas de escrita e copilotos de trabalho moldam a confiança ao longo de intercâmbios repetidos.

Profissionais do conhecimento já podem preservar materiais de apoio e comparar respostas de IA com documentos originais. Uma base de conhecimento pessoal pesquisável oferece uma forma de manter as evidências próximas da decisão.

Ainda assim, a disciplina pessoal não pode compensar todas as escolhas de interface. Sistemas que sempre falam com fluência, respondem imediatamente e exibem confiança uniforme podem tornar a avaliação cuidadosa mais difícil do que deveria ser.

O suporte adaptativo supera explicações que nunca são desativadas

O mecanismo importante é a intervenção seletiva, porque explicações podem criar novos erros quando aparecem no momento errado.

A IA explicável frequentemente pressupõe que mais raciocínio produzirá melhor supervisão. O estudo complica essa suposição.

Os pesquisadores compararam explicações adaptativas de apoio com explicações exibidas persistentemente. Exibir sempre uma explicação não trouxe os mesmos ganhos.

Em uma condição de diagnóstico, explicações persistentes pioraram a precisão final. Em outra tarefa, aumentaram a dependência insuficiente durante interações de baixa confiança.

Os autores sugerem que a exposição repetida a explicações enganosas pode reduzir a confiança nas próprias explicações. Uma justificativa com aparência plausível associada a uma resposta incorreta também pode incentivar a aceitação em vez do escrutínio.

Este é o conflito principal por trás da pesquisa: assistência estática versus assistência adaptativa à confiança. Sistemas estáticos fornecem a mesma intervenção independentemente do estado do usuário. Sistemas adaptativos decidem se suporte adicional, contradição ou fricção é apropriado para o momento.

A contraexplicação é especialmente notável. Em vez de acrescentar mais apoio à sua resposta preferida, o sistema apresenta um motivo pelo qual essa resposta pode estar errada.

Esse design rompe com o estilo conversacional de muitos assistentes. Produtos atuais normalmente buscam uma resposta clara respaldada por uma justificativa coerente. A coerência pode tornar a incerteza menos visível, especialmente quando a linguagem do modelo soa mais confiante do que suas evidências justificam.

Uma contraexplicação introduz dúvida estruturada. Ela não diz ao usuário para rejeitar a recomendação. Cria um argumento concorrente que torna a concordância automática menos atraente.

O experimento de pausa forçada buscou o mesmo objetivo sem gerar texto explicativo adicional. Usuários muito confiantes tiveram de esperar 10 segundos antes de fazer sua escolha final.

Esse atraso reduziu a dependência inadequada e melhorou a precisão no cenário testado. O resultado apoia o forçamento cognitivo, uma técnica de interface que exige ação deliberada antes que os usuários possam seguir conselhos automatizados.

Fricção normalmente tem um significado negativo no design de produto. As equipes removem cliques, reduzem esperas e encurtam fluxos de trabalho porque interações mais rápidas frequentemente melhoram a adoção.

O suporte à decisão muda esse cálculo. A velocidade se torna um risco quando o usuário pode aprovar uma recomendação incerta antes de considerar evidências contraditórias.

Uma pausa bem posicionada pode proteger o julgamento. Uma pausa colocada antes de toda ação de baixo risco pode causar fadiga de alertas e incentivar usuários a contornar o sistema.

A abordagem do artigo tenta distinguir esses casos por meio da confiança. Quando a confiança relatada é alta, um curto atraso ou contra-argumento pode desacelerar a aceitação. Quando a confiança é baixa, uma explicação de apoio pode evitar a rejeição reflexa.

O experimento com modelo de linguagem de grande porte acrescenta outra camada. Os participantes usaram um assistente Llama 3.1 para responder a perguntas do AI2 Reasoning Challenge.

Os pesquisadores geraram múltiplos pares de resposta e justificativa. A resposta majoritária serviu como a previsão do modelo, enquanto sua frequência entre as gerações atuou como uma estimativa de confiança.

Quando a confiança era baixa, o sistema exibiu uma justificativa que apoiava a previsão do modelo. Quando a confiança era alta, selecionou uma justificativa que apoiava a resposta alternativa, se alguma existisse entre as amostras geradas.

A precisão das decisões chegou a 67,8% com o LLM adaptativo, em comparação com 58,4% sem intervenção. A dependência inadequada total caiu de 83,5% para 68,2%.

A dependência insuficiente em momentos de baixa confiança caiu de 65,1% para 44,4%. A dependência excessiva em momentos de alta confiança caiu de 56,4% para 42,4%.

Esses resultados fortalecem o mecanismo, mas também revelam sua dependência de raciocínios gerados. Um LLM pode produzir uma explicação persuasiva que contém detalhes inventados ou sem respaldo.

Os autores identificam explicitamente as explicações alucinatórias como uma preocupação em contextos de alto risco. A apresentação adaptativa não pode tornar seguro um raciocínio pouco confiável apenas ao escolher um momento melhor para exibi-lo.

Pesquisas independentes também alertam contra tratar explicações como um remédio universal. Um estudo de 2026 sobre dificuldade de erros de IA constatou que as explicações foram mais úteis para erros moderadamente difíceis que os usuários ainda conseguiam verificar.

Esse limite se encaixa nos achados da USC. O suporte adaptativo funciona ao promover a avaliação. Ele pouco pode ajudar quando a pessoa não tem as informações, a especialização ou o tempo necessários para avaliar a recomendação.

A lição prática é mais restrita do que “personalize toda interface de IA”. As equipes devem primeiro identificar onde a confiança afeta a aceitação e, em seguida, testar uma pequena intervenção em relação a erros de decisão mensuráveis.

A detecção de confiança cria seu próprio problema de segurança

Um assistente não consegue se adaptar com segurança à confiança se não puder estimá-la sem manipular usuários, invadir a privacidade ou confundir confiança com competência.

Os experimentos se basearam em confiança autorrelatada explícita. Os participantes informaram o quanto confiavam no assistente, e limites predefinidos determinavam quando o sistema intervinha.

A maioria das ferramentas comerciais não pede uma pontuação de confiança após cada interação. Pesquisas repetidas tornariam os fluxos de trabalho mais lentos e poderiam mudar o comportamento que está sendo medido.

A estimativa implícita oferece uma alternativa. Um produto poderia inferir a confiança a partir da aceitação de respostas, padrões de edição, tempo de resposta, pedidos de fontes ou substituições repetidas.

Cada sinal é ambíguo. Uma aceitação rápida pode indicar confiança, pressão de prazo, distração ou conhecimento prévio sólido. A rejeição pode refletir ceticismo justificado, preferência pessoal ou mal-entendido.

Assim, o sistema poderia aplicar a intervenção errada. Poderia confrontar um especialista cuidadoso com contra-argumentos desnecessários enquanto tranquiliza um iniciante inseguro com uma explicação frágil.

Essa falha seria mais do que um problema de usabilidade. Um assistente adaptativo à confiança pode influenciar o estado psicológico que afirma medir.

Por exemplo, exibir “a IA está pensando” pode aumentar a percepção de esforço e competência. Uma contraexplicação pode reduzir a confiança mesmo quando a recomendação original é bem fundamentada.

O artigo testou um atraso de “a IA está pensando” durante momentos de baixa confiança e não encontrou o mesmo benefício de uma explicação de apoio. Esperar, por si só, não forneceu as evidências necessárias para reavaliar uma recomendação útil.

A descoberta destaca uma distinção entre fricção produtiva e encenação. Um atraso pode estimular a reflexão quando alguém está se apressando para aceitar. Ele não deve imitar um raciocínio mais profundo quando nenhum raciocínio adicional ocorre.

A privacidade apresenta outro problema. Um modelo detalhado de confiança poderia se tornar um perfil comportamental que abrange hesitação, conformidade, especialização e suscetibilidade à persuasão.

As organizações precisariam estabelecer limites claros para coleta, retenção e uso secundário. Sinais de confiança obtidos para segurança não devem se transformar silenciosamente em pontuações de desempenho ou dados para segmentação.

A aplicação clínica eleva ainda mais os riscos. O estudo utilizou tarefas de diagnóstico simuladas, não cuidados reais com pacientes. Experimentos controlados oferecem consistência interna, mas omitem pressões institucionais, registros incompletos, preocupações com responsabilidade e revisão multidisciplinar.

Os médicos também diferem em especialidade, experiência e familiaridade com um caso. Um limite fixo em uma escala de confiança de 10 pontos não pode capturar todas as fontes relevantes de incerteza.

O artigo reconhece outra limitação: ambientes reais frequentemente não oferecem feedback imediato sobre se uma decisão estava correta. Sem feedback de resultado, nem o usuário nem o sistema conseguem atualizar a confiança em relação a uma verdade de referência confiável.

Muitas decisões empresariais produzem resultados tardios ou contestados. Uma recomendação de contratação, alerta de fraude ou previsão estratégica pode não receber uma classificação clara de correção durante meses.

A calibração da confiança se torna mais difícil nesses contextos. O assistente pode se adaptar a sinais de confiança sem conseguir determinar se essa confiança é justificada.

O estudo também contabiliza dependência insuficiente e dependência excessiva em uma medida combinada de dependência inadequada. No entanto, os custos desses erros variam conforme o domínio.

Um falso negativo na medicina pode ter consequências diferentes de exames desnecessários. Uma instituição financeira pode valorizar a detecção de fraude de modo diferente da redução de falsos alarmes.

Portanto, as equipes de produto precisam de modelos de utilidade que reflitam danos reais. Melhorar uma pontuação combinada pode ocultar um aumento perigoso no tipo de erro mais custoso.

Uma pesquisa publicada na PLOS One propôs anteriormente uma calibração adaptativa de confiança baseada no comportamento de dependência e em sinais cognitivos. O trabalho da USC acrescenta evidências controladas, mas a aplicação no mundo real ainda exige validação além de uma interface de laboratório.

Um estudo separado da Communications Psychology constatou que as pessoas ajustaram sua dependência entre conselheiros artificiais com perfis diferentes. A integração dessas informações permaneceu significativamente abaixo de um ótimo modelado.

Em conjunto, esses estudos sugerem que a adaptação é possível, mas imperfeita. As pessoas respondem à qualidade percebida dos conselheiros. Elas não combinam conselhos de forma consistente para maximizar a precisão.

O risco é que as empresas tratem a adaptação à confiança como mais um recurso de personalização. Alegações de segurança exigem um padrão mais elevado, incluindo avaliações pré-registradas, custos de erro específicos ao domínio e testes contra manipulação.

Os leitores do Google News devem, portanto, interpretar o resultado principal como evidência de uma hipótese de design, não como uma camada de segurança concluída. Os experimentos mostram que intervenções sensíveis ao contexto merecem ser testadas. Eles não mostram que qualquer assistente atual entende quando um usuário específico confia demais nele.

O que vem a seguir para o suporte adaptativo à decisão com IA

A próxima fase depende de três sinais: testes de campo, estimativas confiáveis de confiança e evidências de que interfaces adaptativas protegem habilidades ao longo do tempo.

O primeiro sinal é a replicação no trabalho real. Pesquisadores precisam de estudos de campo nos quais profissionais enfrentem restrições genuínas, feedback tardio e consequências que vão além de pontuações experimentais.

A saúde oferece um caso de teste evidente, mas a implementação deve começar com decisões delimitadas e revisão independente. Pesquisadores devem informar taxas separadas para aceitar conselhos incorretos e rejeitar conselhos corretos.

Se intervenções adaptativas melhorarem ambas as medidas sem aumentar a carga de trabalho ou a fadiga de alertas, a afirmação central do artigo se torna mais forte. Se os ganhos desaparecerem fora de tarefas controladas, o mecanismo precisará de uso mais restrito.

O segundo sinal é um método defensável de estimativa de confiança. Avaliações explícitas são transparentes, mas onerosas. A inferência comportamental é menos intrusiva durante o trabalho, mas mais fácil de interpretar erroneamente.

Um sistema confiável deve mostrar quais sinais acionam uma intervenção. Os usuários devem poder corrigir a estimativa e desativar a personalização sem perder acesso a informações básicas de segurança.

As avaliações também devem testar diferenças demográficas e de especialização. Um detector de confiança que funciona para um grupo pode classificar incorretamente a hesitação, os padrões de linguagem ou a velocidade de interação de outro grupo.

O terceiro sinal são evidências sobre a retenção de habilidades a longo prazo. Experimentos curtos medem escolhas imediatas, enquanto o uso diário de IA pode remodelar a forma como as pessoas pesquisam, verificam e lembram.

Um estudo clínico de 2025 relatou que a detecção não assistida de adenomas por médicos caiu após exposição regular à detecção assistida por computador. Os achados clínicos00139-7) provocaram debate sobre possível perda de habilidades e explicações alternativas, incluindo carga de trabalho.

O suporte adaptativo deve, portanto, ser avaliado em duas escalas de tempo. Ele precisa melhorar a decisão atual sem enfraquecer a capacidade da pessoa de decidir quando o sistema não estiver disponível.

Essa exigência favorece interfaces que mantêm as evidências visíveis e incentivam o julgamento independente. Ela desaconselha ferramentas que apenas adicionam texto persuasivo em torno de uma recomendação.

No trabalho cotidiano baseado em conhecimento, os usuários podem criar sua própria camada de verificação. Salvar material de fonte, documentar por que uma recomendação foi aceita e usar knowledge blending podem facilitar revisões posteriores.

As equipes de produto podem começar com controles igualmente modestos. Elas podem testar contra-argumentos após uma aceitação rápida, solicitar evidências antes de ações de alto impacto e acompanhar se os usuários detectam erros do modelo inseridos deliberadamente.

Elas devem evitar inferir que hesitação equivale a desconfiança ou que concordância equivale a sucesso. O objetivo é a qualidade da decisão, não a conformidade com o assistente.

A atenção do Google News em torno desta pesquisa reflete uma preocupação mais ampla com a dependência de IA. O artigo acrescenta algo mais útil do que outro alerta: um mecanismo testável para mudar interfaces quando a confiança se torna extrema.

Seu resultado mais forte também é o mais cauteloso. Mais explicação nem sempre foi melhor. O suporte melhorou as decisões quando sua forma e seu momento correspondiam ao estado do usuário.

A próxima questão útil não é se as pessoas devem confiar na IA. É se um sistema específico as ajuda a reconhecer quando a confiança é justificada, quando a dúvida é necessária e quando nem o usuário nem o modelo têm evidências suficientes.

Observe produtos que publiquem essas medições em vez de oferecer garantias genéricas. Pergunte se seus prompts de segurança mudam o comportamento, se os usuários podem inspecionar o gatilho e se o desempenho se mantém fora de uma demonstração controlada.

O suporte adaptativo à decisão só conquista credibilidade quando melhora o julgamento sem transformar a própria confiança em mais uma previsão opaca.