Por que estamos revisando cada vez menos o que a IA produz

A incorporação da inteligência artificial generativa ao trabalho jurídico vem modificando a forma como os profissionais elaboram e revisam documentos. Rotinas que antes se organizavam em torno da folha em branco, da pesquisa prévia e da redação integralmente autoral vêm sendo substituídas por fluxos em que a inteligência artificial (IA) generativa participa desde as primeiras etapas do raciocínio jurídico.

Como a IA está mudando a prática jurídica

A tarefa de elaboração de documentos jurídicos, por exemplo, vem sendo reformulada. Em conversas com colegas advogados, percebo que muitos já não iniciam a petição do zero, como era usual até pouco tempo atrás. Hoje, um número crescente de profissionais produz peças a partir de áudio, descreve o caso em um prompt e pede uma estrutura inicial ou envia previamente os documentos do caso e pede a elaboração de uma primeira versão da minuta.

Uma das maiores preocupações, a meu ver, não está na elaboração dos documentos por meio de alguma dessas técnicas, mas na ausência ou na redução da revisão, prática que tenho constatado com frequência crescente. Cada vez mais profissionais estão passando a confiar quase cegamente na inteligência artificial, reduzindo o número de revisões ou, em alguns casos, praticamente deixando de revisar o material produzido.

Compreendendo o viés de automação

A psicologia da tecnologia – área que estuda como a mente humana interage com as ferramentas digitais, adapta-se a elas e por elas é afetada, seja em relação a celulares, à internet ou à inteligência artificial – vem associando esse comportamento ao chamado viés de automação, fenômeno que leva as pessoas a atribuírem confiança excessiva a resultados produzidos por sistemas automatizados, mesmo quando possuem conhecimento suficiente para questioná-los.

Na prática, em vez de funcionar apenas como insumo para a decisão, a resposta da tecnologia passa a ser tratada como a resposta presumivelmente correta. A conferência deixa de ser um exame independente do conteúdo e se converte em uma leitura de confirmação, na qual o profissional busca sinais de que está tudo certo, e não indícios de que algo pode estar errado. E isso é perigoso quando se trata de inteligência artificial generativa.

O material produzido por grandes modelos de linguagem (LLMs) reúne exatamente os atributos que desarmam a desconfiança. A redação é fluente, a estrutura é organizada e o vocabulário é técnico. Embora aquilo que se lê com facilidade tenda a ser julgado como mais provavelmente correto, por trás de um texto bem escrito podem existir erros factuais capazes de comprometer o trabalho jurídico como um todo.

É provável que você goste:

ChatGPT, Gemini ou Claude? A resposta começa pelo diagnóstico, não pela ferramenta

Como a confiança excessiva afeta a revisão jurídica

O viés de automação pode produzir dois tipos principais de falha. O primeiro é o erro de comissão, que ocorre quando o profissional aceita e utiliza uma informação incorreta apresentada pelo modelo de linguagem. É o caso de incluir em uma petição um precedente inexistente, uma interpretação equivocada ou um dado que não consta dos documentos, conduta que, aliás, já vem sendo enquadrada como litigância de má-fé pelos tribunais.

O segundo é o erro de omissão, verificado quando o profissional deixa de perceber um problema porque a inteligência artificial não o apontou. É o que ocorre quando uma tese subsidiária deixa de ser suscitada, quando uma preliminar de prescrição passa despercebida ou quando uma contradição entre documentos dos autos não é confrontada. A falha não está no que consta da peça, mas no que deveria constar e não foi “lembrado” pela IA.

Esses dois erros tendem a se agravar com o tempo, em razão de um fenômeno relacionado, chamado complacência diante da automação. À medida que a IA avança e aprimora suas entregas, o usuário que recebe sucessivos resultados satisfatórios reduz seu nível de atenção e passa a conferir menos o que recebe. A revisão continua existindo formalmente, mas se transforma em uma leitura rápida destinada a confirmar o resultado, e não a encontrar suas falhas.

O risco da complacência diante da automação

Todos esses são fenômenos psicológicos relevantes que já afetam a rotina dos profissionais, muitas vezes sem que eles se deem conta. No Direito, um erro pode provocar a necessidade de emendar a inicial, comprometer a admissibilidade de um recurso ou prejudicar a estratégia processual. Além do prejuízo ao cliente, a falha pode gerar constrangimento perante o juízo, perda de credibilidade profissional e até repercussões patrimoniais.

Por isso, é fundamental manter o chamado human in the loop, ou humano no circuito. A IA generativa entrega aquilo que parece mais provável, e não necessariamente aquilo que é correto, de modo que a boa aparência do texto não é garantia de nada. E mesmo quando se adotam camadas agênticas, com a própria IA revisando o que produziu, é indispensável que alguém, em algum ponto do fluxo, olhe o resultado antes que ele produza efeitos.

Parece até óbvio dizer que é necessário haver supervisão humana no processo. Contudo, como observei ao longo do texto, os fenômenos psicológicos que vêm se manifestando na rotina dos profissionais revelam que ter alguém no fluxo não garante que a revisão realmente aconteça. Por isso, deixo o alerta final para que você ative o modo “humano no circuito”, ainda que o resultado entregue pela IA de sua preferência pareça pronto para uso.

---

Siga-me no Facebook, Instagram e LinkedIn e acompanhe conteúdos diários para se manter atualizado.