Sanções contra Stephen Aarons por ChatGPT transformam testemunhas falsas em crise jurídica

Stephen Aarons recebeu uma sanção de US$ 5.000 depois que seu recurso, elaborado com auxílio do ChatGPT, apresentou depoimentos falsos e testemunhas que nunca compareceram ao julgamento. A Suprema Corte do Novo México também considerou o experiente advogado de defesa em desacato direto. As sanções contra Stephen Aarons por ChatGPT expõem uma falha muito mais grave do que mais uma citação jurídica inventada.

Aarons representava Oscar Renee Sandoval, que recebeu prisão perpétua após uma condenação por homicídio. Segundo o tribunal, o recurso distorceu tanto os registros do julgamento quanto as autoridades jurídicas. Alguns trechos descreviam depoimentos de testemunhas fabricadas, incluindo supostas observações sobre as roupas e a aparência do atirador.

Essa diferença eleva o risco. Sanções anteriores relacionadas à IA frequentemente envolviam casos inexistentes ou citações inventadas. Esta petição teria alterado a narrativa factual de um julgamento criminal, no qual a liberdade do cliente dependia de um registro preciso. Ela transformou um resumo não confiável em suposta prova e levou esse material à mais alta corte estadual.

As sanções contra Stephen Aarons por ChatGPT foram além de uma multa

O tribunal tratou a petição como uma ameaça ao próprio recurso, e não apenas como um constrangedor erro de pesquisa.

A Suprema Corte do Novo México impôs as sanções em 9 de setembro de 2026. Os juízes consideraram Aarons em desacato direto e ordenaram que ele pagasse US$ 5.000 ao Fundo de Proteção ao Cliente da Ordem dos Advogados do Novo México.

O tribunal também encaminhou o caso para processo disciplinar contra o advogado. Aarons não poderá comparecer perante a Suprema Corte estadual enquanto esse processo estiver pendente. Essa restrição diferencia o caso de incidentes resolvidos com advertências ou educação continuada.

Os recursos existentes foram anulados. O recurso de Sandoval foi redistribuído à advogada Kim Chavez Cook, por meio do sistema de defensoria pública do Novo México. O recurso de origem continua pendente, segundo reportagem sobre o caso publicada pela Reuters.

Essas medidas reconhecem duas lesões distintas. A primeira diz respeito ao tribunal, que recebeu uma petição contendo material que não correspondia aos autos. A segunda diz respeito a Sandoval, cujo recurso direto foi atrasado e precisou recomeçar com uma nova defesa.

Sandoval havia se declarado inocente da acusação de assassinar a mãe de seus filhos. Ele foi condenado e sentenciado à prisão perpétua em 2025. Seu recurso capital levantou questões envolvendo provas, divulgação de testemunhas, depoimentos periciais, direitos de confrontação e a efetividade da defesa no julgamento.

A lista de casos do período do Judiciário do Novo México confirma essas questões recursais. Elas exigiam comparações cuidadosas entre os autos do julgamento, as objeções preservadas e a jurisprudência aplicável.

Em vez disso, o tribunal afirmou que o recurso apresentado continha depoimento policial falso e declarações atribuídas a pessoas que não as prestaram. Também incluía descrições imprecisas de autoridades jurídicas.

A distinção entre prova e argumento importa. Um precedente fabricado pode distorcer a regra jurídica que rege um caso. Um depoimento fabricado pode reescrever o que os jurados ouviram, quais testemunhas existiram e por que um veredito deveria ser revertido.

Um resumo factual falso pode então contaminar todos os argumentos construídos sobre ele. Uma alegação de assistência jurídica ineficaz, por exemplo, depende do que o advogado fez e do que os autos realmente continham. Uma testemunha inventada pode criar uma falha que nunca ocorreu.

A resposta do tribunal, portanto, alcançou a petição, o advogado e a representação. Anular os recursos removeu o produto de trabalho contaminado. Nomear uma nova defesa deu ao réu um caminho limpo para seguir adiante. O encaminhamento disciplinar levou as questões profissionais para além do recurso.

Essa estrutura explica por que as sanções contra Stephen Aarons por ChatGPT merecem atenção fora do Novo México. O tribunal não declarou que advogados devem evitar IA generativa. Ele aplicou a regra mais antiga de que um advogado continua responsável por cada afirmação protocolada.

O episódio também testa uma defesa conhecida contra erros de IA. Aarons chamou o incidente de erro honesto e disse que não compreendia até que ponto o ChatGPT podia inventar fatos. O tribunal se concentrou, em vez disso, no documento não verificado que levava sua assinatura.

Uma petição assinada não é uma anotação de brainstorming. É uma representação formal perante juízes, advogados da parte adversa e um cliente. Quando texto gerado entra nesse documento, sua origem não reduz a responsabilidade do advogado.

Um resumo de IA tornou-se uma versão falsa do julgamento

A falha central ocorreu quando uma prosa gerada foi tratada como registro fiel sem verificação linha por linha.

Em uma audiência de 21 de agosto, Aarons descreveu ter fornecido ao ChatGPT uma transcrição gerada por computador e outros materiais do caso. Ele esperava que o sistema produzisse o que chamou de um “resumo à prova de falhas”.

Essa expectativa inverteu o ônus correto da prova. Um modelo generativo produz texto plausível a partir de padrões e contexto. Ele não certifica que cada frase apareça em uma transcrição enviada.

Uma alucinação de IA é uma resposta confiante que não tem respaldo nas provas ou fontes relevantes. O termo pode parecer inofensivo, mas suas consequências dependem de onde a resposta circula. Um resumo incorreto em anotações privadas cria confusão. O mesmo resumo em um recurso torna-se uma representação perante um tribunal.

O recurso teria atribuído declarações a Danny Stanton e Linda Stanton que o tribunal considerou falsas. Também se referiu a Mariah Chavez e Teresa Marquez em descrições sobre as roupas e a aparência do atirador. O tribunal identificou Marquez como uma testemunha fabricada.

Uma passagem aparentemente afirmava que o atirador usava calças escuras e camisa branca. A declaração parecia um detalhe factual comum, o que facilitava sua assimilação na narrativa mais ampla. Ainda assim, o tribunal não encontrou respaldo válido nos autos.

Esse é um problema mais difícil do que detectar uma resposta obviamente absurda. A prosa jurídica gerada frequentemente usa o tom correto, o vocabulário esperado e uma estrutura argumentativa familiar. Essas qualidades fazem detalhes sem respaldo parecerem estabelecidos.

Um advogado que lê rapidamente pode reconhecer a história geral e deixar passar o tecido conjuntivo inventado. Nomes, descrições de roupas, ameaças e observações de testemunhas podem parecer coerentes com o material ao redor. A fluência disfarça a proveniência ausente.

O fluxo de trabalho também confundiu dois documentos diferentes. Uma transcrição registra depoimentos e eventos em tribunal. Um resumo gerado por modelo é um novo texto criado a partir dessa fonte. Ele deve ser tratado como interpretação até que cada alegação material seja rastreada.

Enviar material-fonte não elimina alucinações. Registros extensos podem exceder a capacidade efetiva de atenção de um sistema, conter erros de transcrição ou incentivar sínteses sem respaldo. Um modelo também pode combinar detalhes próximos em uma declaração que nenhuma testemunha fez.

Esse risco aumenta quando as instruções pedem uma narrativa definitiva. Termos como “completo”, “à prova de falhas” ou “abrangente” podem recompensar uma aparente completude em vez de incerteza explícita. A resposta pode preencher lacunas em vez de sinalizá-las.

Um fluxo de trabalho jurídico confiável precisa de proveniência no nível da alegação. Cada frase factual deve apontar para uma página da transcrição, documento juntado, registro do processo ou constatação judicial. Cada citação deve corresponder exatamente à fonte. Cada caso citado deve existir e sustentar a proposição declarada.

Esse processo não pode terminar perguntando ao mesmo chatbot se seu resumo é preciso. Um gerador pode defender sua própria resposta sem respaldo com novas explicações inventadas. A verificação exige retornar ao material-fonte independente.

A lição se aplica além do direito. Pesquisadores, analistas, consultores e executivos usam cada vez mais IA para condensar registros extensos. O perigo cresce quando um resumo se torna a única versão que revisores posteriores veem.

As equipes precisam preservar as provas originais ao lado da síntese gerada. Um fluxo de trabalho estruturado de knowledge blending pode ajudar a conectar anotações a documentos-fonte. No entanto, a recuperação de informações por si só não comprova que toda alegação gerada esteja correta.

A salvaguarda decisiva continua sendo a revisão humana diante de registros oficiais. A IA pode ajudar a localizar passagens, organizar questões e redigir anotações de trabalho. Ela não deve transformar uma inferência não verificada em uma afirmação factual.

A assinatura do advogado, e não o ChatGPT, carregava o dever

O conflito principal está entre a redação delegada e a responsabilidade profissional indelegável.

Aarons disse à Reuters que exercia a defesa criminal havia mais de 40 anos. Ele afirmou que não conhecia a extensão das alucinações de IA quando aceitou o recurso de Sandoval em 2025.

“Estou arrependido, mas espero que o conselho disciplinar leve em conta que foi um erro honesto”, disse ele. Ele caracterizou o episódio como uma lição para profissionais que usam uma tecnologia instável.

O tribunal chegou a uma avaliação mais severa. Sua decisão afirmou que Aarons admitiu não ter verificado as alegações factuais ou autoridades jurídicas antes de assinar e protocolar o recurso. Também afirmou que ele não informou seu cliente sobre essas deficiências.

Os juízes concluíram que ele demonstrou remorso e preocupação insuficientes com Sandoval. A juíza C. Shannon Bacon questionou a alegação de que um advogado poderia permanecer alheio a falhas de IA amplamente noticiadas. Suas perguntas enfatizaram que material jurídico alucinado já havia se tornado uma questão pública recorrente.

Essa tensão não exige tratar o ChatGPT como isento de culpa. O sistema produziu linguagem que, segundo Aarons e o tribunal, incluía material sem respaldo. A OpenAI não forneceu à Reuters uma resposta imediata às sanções.

No entanto, um chatbot não pode se habilitar em um processo, assinar um recurso, aconselhar um cliente ou responder a uma ordem de desacato. Esses deveres pertencem a advogados habilitados. O sistema jurídico atribui responsabilidade à pessoa autorizada a agir.

A American Bar Association chegou à mesma conclusão básica antes deste caso. Sua opinião ética sobre IA afirma que advogados devem compreender os benefícios e os riscos de uma ferramenta generativa.

A Formal Opinion 512 conecta o uso de IA aos deveres existentes relacionados à competência, confidencialidade, comunicação com o cliente, supervisão, franqueza, alegações meritórias e honorários razoáveis. Ela não cria uma exceção de IA para esses deveres.

A orientação também descreve sistemas de texto generativo como ferramentas de previsão. Eles produzem respostas estatisticamente prováveis a partir de padrões nos dados. Esse design difere de uma base de dados que retorna um documento judicial autenticado.

Um advogado pode delegar pesquisa ou redação a associados, paralegais, contratados e software. A delegação muda quem realiza a primeira etapa. Ela não muda quem deve supervisionar o trabalho ou verificar a petição.

Este caso mostra por que a divulgação, por si só, não resolveria o problema. Uma etiqueta dizendo “assistido por IA” poderia alertar o tribunal, mas não tornaria preciso um depoimento fabricado. Juízes não podem se tornar verificadores de fatos para cada petição produzida com software.

Proibições de ferramentas enfrentam limites semelhantes. Um advogado pode introduzir informação falsa por memória falha, ditado descuidado, equipe sem treinamento ou erros comuns de copiar e colar. Os tribunais se preocupam com a precisão da petição assinada, independentemente do método de produção.

A linha divisória mais adequada diz respeito à verificação. A assistência de IA pode continuar útil quando cada alegação material é confrontada com os autos. Ela se torna perigosa quando a fluência substitui essa checagem.

A comunicação com o cliente acrescenta outra camada. Um recorrente criminal deve entender quando uma peça defeituosa colocou seu recurso em risco. Segundo o tribunal, Aarons não informou Sandoval sobre as falsas representações factuais e jurídicas contidas no documento.

Essa omissão importa porque o cliente arca com as consequências práticas. O advogado enfrenta sanções e medidas disciplinares, mas o recorrente vivencia atraso, incerteza e uma relação com seu advogado prejudicada.

A responsabilização profissional deve, portanto, abranger todo o fluxo de trabalho. Ela começa com a escolha de uma ferramenta adequada e a proteção de informações confidenciais. Prossegue com a validação das fontes, a revisão substantiva, a comunicação com o cliente e a certificação final.

Testemunhas Falsas do ChatGPT Cruzaram uma Linha Mais Perigosa

Depoimentos inventados levam as alucinações de IA da pesquisa falha à contaminação dos autos probatórios.

O mais conhecido caso inicial de sanções envolveu Mata v. Avianca. Advogados apresentaram decisões judiciais inexistentes geradas pelo ChatGPT em uma disputa federal por danos pessoais. Um juiz impôs uma multa de US$ 5.000 em 2023.

Esse caso estabeleceu um alerta duradouro. Um chatbot pode inventar nomes de processos, citações, números de autos e fundamentação jurídica. Os tribunais esperam que advogados confirmem essas autoridades por meio de sistemas reconhecidos de pesquisa.

O episódio do Novo México amplia o problema. A petição de Aarons teria incluído testemunhas fabricadas e descrições falsas de depoimentos. Esses erros não apenas deturparam o que outro tribunal havia decidido. Eles criaram fatos dentro do próprio caso do cliente.

Tribunais de apelação geralmente revisam um conjunto de autos já existente. Eles não realizam um novo julgamento nem aceitam acréscimos factuais de um advogado como prova. As peças devem basear suas narrativas em transcrições, provas documentais, decisões e objeções devidamente preservadas.

Um detalhe factual inventado pode influenciar a forma como os juízes compreendem o prejuízo. Pode fazer uma prova excluída parecer mais importante, reforçar um argumento de identificação ou alterar o valor aparente de um contrainterrogatório. Esses efeitos podem persistir mesmo após a correção.

O problema também sobrecarrega a parte adversa. Promotores precisam comparar a peça com os autos e identificar discrepâncias. Juízes e assessores precisam determinar se uma declaração estranha reflete uma passagem real da transcrição ou uma ficção gerada.

Esse custo de verificação se espalha por todo o sistema. Um advogado pode economizar tempo de redação enquanto transfere trabalho de revisão ao tribunal, à parte adversa, ao advogado substituto e ao cliente. As sanções tentam devolver esse custo ao profissional responsável.

Um recurso de homicídio na Geórgia, em 2026, mostrou outra via de contaminação. Em Payne v. State, citações fictícias ou atribuídas incorretamente apareceram em uma petição da acusação e em uma minuta de decisão assinada pelo tribunal de primeira instância.

A decisão Payne anulou a decisão do tribunal de primeira instância e devolveu o caso para uma nova decisão. O episódio demonstrou como erros gerados podem migrar do rascunho de um advogado para um documento judicial.

Esse risco de migração torna a procedência essencial. Documentos jurídicos são frequentemente reutilizados entre petições, minutas de decisões, memorandos internos e recursos. Quando uma passagem sem suporte entra na cadeia, autores posteriores podem presumir que alguém já a verificou.

A petição do Novo México parece ter seguido um atalho semelhante de confiança. Aarons usou o ChatGPT para criar uma representação condensada do processo. Em seguida, baseou-se nessa representação sem retornar plenamente à transcrição.

O documento resultante tinha a forma superficial de uma argumentação recursal. Ele identificava testemunhas, descrevia depoimentos, invocava precedentes e conectava fatos a alegações jurídicas. A forma fazia o conteúdo parecer profissionalmente revisado.

É por isso que “humano no circuito” oferece pouca garantia por si só. Uma pessoa pode olhar rapidamente para um rascunho, corrigir a gramática e ainda assim não perceber uma fabricação factual. A expressão só importa quando o revisor tem tempo, especialização e acesso direto às fontes.

Uma revisão eficaz também precisa de limites visíveis entre o texto-fonte e o texto gerado. Trechos de transcrições citados devem manter referências de página. Resumos devem identificar os trechos que os sustentam. Comentários não fundamentados do modelo devem permanecer fora da exposição factual.

Em questões de alto risco, um segundo revisor deve testar o documento de forma independente. Esse revisor deve amostrar fontes com base no risco e ampliar a checagem quando surgir qualquer discrepância. Nomes fabricados devem desencadear uma revisão de todas as representações factuais.

O mesmo princípio se aplica às autoridades jurídicas. Revisores devem abrir cada decisão citada e confirmar a linguagem citada, a tese firmada, a jurisdição e a relevância. Um caso real citado para uma proposição falsa continua sendo um erro grave.

As sanções relacionadas ao ChatGPT de Stephen Aarons mostram que os tribunais estão indo além da curiosidade sobre qual ferramenta produziu um erro. A questão operacional é se o advogado construiu controles suficientemente fortes para impedir que ficção gerada se transformasse em fato protocolado.

As Sanções Não Provam que a IA Não Tem Lugar no Trabalho Jurídico

A crítica mais forte mira a dependência sem controle, não todo uso de IA generativa por advogados.

Seria fácil tratar este caso como prova de que profissionais do direito jamais deveriam usar o ChatGPT. Essa conclusão vai além das constatações do tribunal e ignora a variedade de tarefas agrupadas sob “uso de IA”.

Um modelo pode ajudar a criar listas de questões, reorganizar anotações redigidas por advogados, comparar estruturas de documentos ou sugerir termos de busca. Esses usos ainda exigem julgamento, mas nem todos trazem o mesmo risco que resumir uma transcrição de um caso de homicídio.

O risco depende da finalidade e do destino da saída. Um esboço privado é provisório. Uma carta ao cliente requer revisão cuidadosa. Uma declaração factual em um recurso criminal exige verificação com base nos autos oficiais.

As ferramentas também diferem. Um chatbot de uso geral produz texto aberto, enquanto alguns sistemas jurídicos recuperam informações de bases de dados delimitadas e exibem as autoridades de apoio. Mesmo sistemas com citações podem citar incorretamente, interpretar mal ou selecionar material irrelevante.

O tribunal do Novo México não realizou uma avaliação científica da confiabilidade do ChatGPT. Ele examinou a conduta de um advogado e uma petição defeituosa. Leitores não devem converter essa constatação em uma taxa universal de erro.

Tampouco o caso prova que a IA causou cada defeito de forma independente. Aarons selecionou os materiais, formulou os comandos ao sistema, usou sua saída e assinou o resultado. As reportagens públicas não fornecem o histórico completo dos prompts nem cada rascunho intermediário.

Essa incerteza importa. Sem o registro completo da interação, observadores não podem reconstruir quais alegações o modelo gerou, quais passagens Aarons editou ou se defeitos na transcrição contribuíram. A decisão do tribunal estabelece responsabilidade, não uma análise técnica completa do incidente.

Ainda assim, essas lacunas não desculpam as inexatidões protocoladas. Elas esclarecem onde permanecem abertas questões sobre produto e processo. Registros melhores poderiam ajudar escritórios a determinar como uma declaração sem suporte entrou em um documento.

Fornecedores de IA jurídica podem reduzir o risco ao anexar referências de fonte a cada frase factual. Podem alertar quando uma resposta não tem evidência, separar citações de resumos e bloquear exportações que contenham citações não resolvidas.

Esses controles ajudariam, mas não podem substituir a revisão substantiva. Um link de fonte pode apontar para um documento real que não sustenta a alegação gerada. A automação pode tornar a verificação mais fácil sem torná-la opcional.

Escritórios de advocacia também precisam de políticas baseadas na sensibilidade da tarefa. Resumir material público de contexto não traz as mesmas consequências que interpretar provas privilegiadas. Redigir uma lista de verificação rotineira é diferente de descrever depoimentos contestados.

Uma política prática deve identificar entradas proibidas, sistemas aprovados, regras de retenção, padrões de revisão e pontos de escalonamento. Deve especificar quem verifica as citações e quem confirma as afirmações factuais com base nos autos.

O treinamento deve ir além de mostrar aos advogados como escrever prompts. Os usuários precisam entender erros apresentados com confiança, limites de contexto, recuperação incompleta, exposição de dados e viés de automação. O viés de automação ocorre quando as pessoas confiam excessivamente em uma saída porque ela foi produzida por um sistema.

A pressão de tempo também merece atenção. A IA promete redação mais rápida, mas a verificação pode eliminar parte desse ganho. Os escritórios devem orçar o tempo de revisão de forma honesta, em vez de supor que o primeiro rascunho fluente está quase concluído.

Supervisores também devem evitar medir o sucesso apenas pela velocidade. Esse incentivo encoraja profissionais a ocultar incertezas e pular verificações de fonte. O trabalho de IA de alto risco precisa de métricas de precisão vinculadas às evidências.

A conclusão cética é, portanto, mais restrita e mais forte. A IA generativa pode auxiliar o trabalho jurídico, mas somente quando os escritórios tratam sua saída como material de redação não verificado. A pessoa que protocola o documento ainda deve comprovar para si mesma cada alegação material.

O Que Tribunais e Equipes Jurídicas Devem Observar a Seguir

O próximo teste é saber se as sanções produzem mudanças verificáveis nos fluxos de trabalho da prática jurídica.

O primeiro sinal virá do processo disciplinar envolvendo Aarons. A comissão do Novo México pode examinar competência, franqueza, comunicação com o cliente e as circunstâncias em torno da petição.

Uma decisão disciplinar pública esclareceria se o tribunal vê o incidente como negligência isolada ou como conduta profissional inadequada mais ampla. Uma penalidade mais severa reforçaria a ordem por desacato direto. Uma medida limitada enfatizaria a remediação e a intenção.

O processo também pode revelar informações ausentes das reportagens. Investigadores podem examinar o processo de redação, as comunicações com Sandoval, o tratamento da transcrição e o momento em que Aarons descobriu os problemas. Esses fatos definirão o valor do caso como precedente.

O segundo sinal será o recurso substituto de Sandoval. O novo advogado deve reconstruir os argumentos a partir dos autos reais depois que as peças anteriores foram anuladas. Esse processo mostrará quanto dano substantivo o material fabricado causou.

Se a peça corrigida apresentar alegações jurídicas semelhantes usando provas autênticas, o episódio parecerá uma grave falha de fluxo de trabalho com um recurso recuperável. Se as alegações mudarem substancialmente, o resumo de IA provavelmente distorceu a teoria do caso.

O tratamento final dado pelo tribunal a Sandoval é igualmente importante. Sancionar o advogado protege a integridade institucional, mas o sistema deve evitar punir o cliente por uma petição defeituosa de seu advogado. A nova representação enfrenta esse risco sem resolver todos os atrasos.

O terceiro sinal será a adoção de controles de redação vinculados a evidências. Tribunais podem exigir certificações, enquanto escritórios podem demandar citações de transcrições para cada declaração factual. Fornecedores podem expor a fonte por trás de cada passagem gerada.

Os controles mais úteis serão auditáveis. Uma caixa de seleção que afirme que alguém revisou o rascunho oferece proteção limitada. Um mapa de alegações que vincula cada afirmação a uma página da transcrição cria evidência de verificação real.

Os tribunais também decidirão se as regras profissionais existentes fornecem alavancagem suficiente. A estrutura da ABA já abrange competência, franqueza, supervisão e confidencialidade. A ordem do Novo México sugere que juízes podem agir sem criar deveres específicos para IA.

Novas regras ainda têm valor potencial quando definem procedimentos. Elas podem exigir divulgação para usos específicos, preservação de rascunhos gerados ou certificação pessoal de citações e referências. No entanto, a divulgação deve apoiar a verificação, e não substituí-la.

O setor jurídico mais amplo deve observar a repetição de fabricação factual em casos criminais. Precedentes falsos já são familiares. Depoimentos inventados representam um desafio mais direto à integridade dos autos recursais.

Para trabalhadores do conhecimento, a ação imediata é simples, mas exigente. Identifique cada alegação factual gerada, reabra a fonte que a controla e registre onde está o suporte. Escale qualquer divergência antes que o texto chegue a um cliente, regulador, executivo ou tribunal.

As sanções contra Stephen Aarons relacionadas ao ChatGPT não são um alerta sobre prosa imperfeita. Elas mostram o que acontece quando um resumo gerado por IA se torna um substituto não documentado para evidências.

Faça uma pergunta antes de confiar em qualquer relato gerado: outro revisor consegue rastrear cada frase relevante até uma fonte autorizada? Se a resposta for não, o rascunho está inacabado. Construa agora a trilha de verificação, preserve os registros originais e dê aos revisores tempo suficiente para contestar uma linguagem fluente. A próxima falha grave de IA provavelmente parecerá plausível antes de parecer falsa.