Perito usa prompt oculto em laudo judicial

A 3ª Câmara Cível do Tribunal de Justiça do Rio Grande do Norte identificou, dentro de um laudo pericial, um prompt oculto que orientava ferramentas de inteligência artificial a concordar com as conclusões apresentadas pelo próprio perito. O caso foi relatado pela juíza convocada Érika de Paiva Duarte Tinôco em julgamento realizado no dia 18 de agosto, e o trecho, escrito em fonte branca sobre fundo branco, permanecia invisível durante a leitura convencional do documento.

A descoberta do que vem sendo reconhecido como prompt injection não partiu de varredura automatizada. Segundo a magistrada, o conteúdo veio à tona depois que um advogado procurou o gabinete e protocolou petição relatando o caso, e a equipe realizou testes para confirmar a existência da instrução. Na sessão, ela classificou o fato como “muito grave”, até porque o perito estava credenciado junto ao Tribunal de Justiça do Rio Grande do Norte:

Você olha o laudo, ele está lá, tudo bonitinho. Se você copiar isso e jogar no Word, que eu fiz e todo o gabinete fez para confirmar, está lá o prompt indicando para a IA a ordem de concordar com as conclusões do perito. Isso sempre vem sendo imputado na imprensa, é um trabalho dos advogados, e nunca se poderia imaginar que poderia ser imputado a um perito nomeado pelo Judiciário e inscrito no cadastro de peritos.

É provável que você goste:

Você ainda conseguiria trabalhar sem IA?

Desdobramentos do prompt injection

O colegiado determinou a certificação da existência do texto oculto e a preservação integral do arquivo original. Determinou, ainda, a expedição de ofício ao Instituto Brasileiro de Atuária, com cópias dos documentos relacionados ao caso, a comunicação à Presidência e à Corregedoria-Geral de Justiça, a remessa de peças ao Ministério Público e a comunicação ao Comitê Nacional de Inteligência Artificial do Judiciário, por intermédio do Conselho Nacional de Justiça.

O comando oculto, no entanto, não interferiu no resultado do julgamento. A relatora explicou que a minuta do voto já havia sido elaborada e apresentava críticas às conclusões da perícia questionada. De todo modo, haverá consequências para o perito, que dificilmente voltará a ser nomeado pelo Judiciário em novos casos depois desse episódio. Ele comprometeu por completo sua posição com essa conduta, e a decisão tende a lhe custar caro.

Compreendendo o prompt injection

A inserção deliberada de comandos ocultos em documentos processuais, destinada a manipular sistemas de inteligência artificial empregados na análise do processo, é uma conduta potencialmente fraudulenta e pode gerar consequências processuais, ético-disciplinares e, conforme as circunstâncias concretas e o enquadramento típico, inclusive penais. Quando identificada, independentemente de quem a tenha praticado, deve ser responsabilizada.

No prompt injection, há ação deliberada para explorar o funcionamento do sistema, e a invisibilidade da instrução só reforça esse elemento intencional. Pouco importa se a tentativa produziu o resultado desejado: a simples utilização consciente do artifício, para interferir na análise da IA, já revela conduta incompatível com padrões éticos e profissionais. Por isso, considero o prompt injection prática inadequada, antiética e passível de responsabilização.

É provável que você goste:

A IA já pode reconstruir visualmente os fatos de um processo?

Prompt oculto é diferente de erro no uso de IA

Por fim, não devemos confundir o prompt injection com a conduta do profissional que deixa de revisar adequadamente conteúdo produzido por IA e acaba apresentando julgados inexistentes ou informações incorretas. Embora também possa haver responsabilidade nesse segundo caso, a natureza da conduta é distinta, e acredito que deve haver gradação na penalidade: começar com advertência e só diante de reiteração cogitar algo mais grave.

O problema não é o uso de IA pelo magistrado

É comum, diante de episódios como esse, surgirem manifestações de advogados no sentido de que o verdadeiro problema estaria no fato de magistrados utilizarem inteligência artificial em suas atividades. Nesse contexto, aparecem críticas como “se o juiz usa IA, então não está lendo o processo”, “se a IA decide, não precisamos de juiz”. Embora esse debate seja legítimo e mereça discussão própria, ele não corresponde ao núcleo do problema aqui analisado.

O ponto central, portanto, não é o uso de IA por magistrados, advogados ou peritos. O progresso tecnológico sempre foi constante e não pode ser simplesmente interrompido. A IA é uma tecnologia que continuará avançando e sendo incorporada às mais diversas atividades. A questão está na inserção deliberada de um comando oculto em um documento com a finalidade de influenciar o comportamento de um sistema de IA e induzi-lo a determinada conclusão.

São questões completamente distintas, portanto. O debate sobre limites, transparência e responsabilidade no uso da inteligência artificial pelo Judiciário é legítimo e necessário. O problema surge quando essa discussão desvia o foco da conduta efetivamente praticada: a inserção intencional de um comando oculto destinado a interferir no processamento automatizado do documento e favorecer determinada conclusão.

Siga-me no Instagram e LinkedIn e acompanhe conteúdos diários para se manter atualizado.