O avanço da inteligência artificial (IA) no Judiciário brasileiro trouxe à tona um problema incômodo: documentos processuais podem ser manipulados não apenas para convencer juízes humanos, mas também para tentar enganar sistemas automatizados. Em setembro de 2026, o Superior Tribunal de Justiça (STJ) julgou os primeiros casos envolvendo a chamada prompt injection, técnica que insere comandos ocultos em petições para influenciar o comportamento da IA. O episódio desafia a crença de que a automação judicial é imune a ataques sofisticados e obriga organizações públicas e privadas a repensar a segurança de seus fluxos documentais.

Prompt injection: o novo vetor de risco nos tribunais

Segundo a edição 902 do Informativo de Jurisprudência do STJ, duas Turmas da Corte analisaram situações em que comandos escondidos em peças processuais tinham o objetivo de manipular sistemas de IA. Em um dos casos, a Segunda Turma classificou a conduta como litigância de má-fé, aplicando multa de 10% sobre o valor da causa e comunicando o episódio a órgãos como a Ordem dos Advogados do Brasil e o Ministério Público Federal. Já a Sexta Turma entendeu que tal prática constitui ato atentatório à dignidade da Justiça.

O material utilizado para enganar a máquina incluía técnicas como texto branco sobre fundo branco e espaçamento irregular, tornando as instruções invisíveis ao leitor humano, mas acessíveis ao sistema automatizado. O objetivo era induzir a IA a considerar determinada tese como vencedora e, assim, influenciar a produção de relatórios ou minutas favoráveis à parte interessada.

Esses julgamentos marcam a consolidação de uma nova preocupação na operação judicial: a integridade dos dados processados por IA. Como destaca a MIT Technology Review Brasil, o risco não se limita à manipulação intencional. Documentos podem carregar instruções adversariais sem que operadores humanos percebam, ampliando o espectro de ameaças para além das tradicionais fraudes documentais.

Da automação à vulnerabilidade: antecedentes e evolução do problema

A preocupação com prompt injection não surgiu do nada. Reportagens da MIT Technology Review Brasil desde 2023 já apontavam para os riscos de modelos de linguagem que acessam ambientes externos e podem ser influenciados por comandos embutidos em conteúdos aparentemente inofensivos. Em experimentos relatados à época, mensagens invisíveis ao olho humano, mas legíveis por sistemas de IA, já demonstravam o potencial de manipulação.

O debate ganhou corpo à medida que o uso de IA no Judiciário se expandiu. Em 2025, magistrados norte-americanos relatavam à MIT Technology Review o uso de modelos generativos para resumir despachos, organizar informações e preparar perguntas com base nos autos. A automação dessas tarefas, embora eficiente, abriu espaço para que erros ou manipulações passassem despercebidos, com consequências potencialmente graves para a tomada de decisão judicial.

O caso do advogado Steven Schwartz, multado nos Estados Unidos por apresentar jurisprudência fabricada por IA, ilustra outro lado do problema: não apenas a máquina pode ser enganada por documentos manipulados, mas também pode gerar informações falsas que acabam sendo usadas por profissionais desavisados. O STJ brasileiro, ao julgar os casos de prompt injection, reconheceu que ambos os vetores de risco, erro da máquina e manipulação do documento, agora coexistem no ambiente judicial.

Reação institucional: governança e segurança adversarial

A resposta do Judiciário brasileiro foi rápida e multifacetada. Em maio de 2026, o Comitê Nacional de Inteligência Artificial do Judiciário aprovou a Manifestação Técnica CNIAJ 1/2026, reconhecendo o risco de comandos ocultos em documentos processuais e criando o Programa de Segurança Adversarial para Sistemas de Inteligência Artificial do Poder Judiciário Brasileiro (Proseg-IA).

Em junho, o Conselho Nacional de Justiça (CNJ) aprovou orientações nacionais que incluem requisitos de ingestão segura de documentos, preservação de metadados visuais e estruturais e registro nos autos quando ferramentas identificarem conteúdo suspeito. A ideia é garantir que sistemas de IA não sejam facilmente manipulados por comandos embutidos e que toda interação entre humanos e máquinas seja auditável e rastreável.

O próprio STJ já havia identificado tentativas de prompt injection em seu acervo antes dos julgamentos de setembro, segundo informou em nota. O tribunal utiliza o STJ Logos, motor de IA generativa lançado em fevereiro de 2025, para tarefas como análise de admissibilidade, geração de relatórios e sugestão de minutas. Embora as decisões finais continuem sob responsabilidade de ministros e equipes, a influência da leitura automatizada sobre a estrutura e o processamento dos documentos é crescente.

Contra-argumentos e limites da automação judicial

Apesar da preocupação crescente, o STJ enfatizou que as decisões judiciais não são produzidas automaticamente por IA. A Sexta Turma ressaltou que há sempre análise humana dos processos, e que ferramentas automatizadas servem apenas de apoio. Esse argumento é relevante para rebater críticas de que o Judiciário estaria terceirizando a função jurisdicional para algoritmos suscetíveis a manipulação.

No entanto, a MIT Technology Review Brasil observa que, mesmo sem decisões automáticas, a influência da IA sobre a triagem, a classificação e a organização dos autos é suficiente para tornar a segurança adversarial uma prioridade. O risco não está apenas na decisão final, mas em todo o fluxo de informação que antecede o julgamento. O debate sobre o equilíbrio entre eficiência e segurança segue aberto, especialmente diante da pressão por digitalização e automação no setor público.

O que ainda não se sabe: incertezas e desafios para empresas e governo

Embora o Judiciário tenha adotado medidas preventivas, persistem dúvidas relevantes. Ainda não há consenso sobre a eficácia das soluções técnicas propostas para detecção de comandos ocultos, nem sobre o impacto dessas medidas no tempo de processamento dos processos. Também não está claro como outros órgãos públicos e empresas privadas, que começam a adotar IA para análise documental, vão se proteger contra ataques semelhantes.

Outro ponto de incerteza é a adaptação dos profissionais do Direito e de TI às novas exigências de governança e auditoria. A exigência de resumos estruturados e a preservação de metadados podem aumentar a complexidade operacional, exigindo investimentos em infraestrutura, capacitação e revisão de fluxos internos. Para organizações que atuam em ambientes regulados ou de alta criticidade, como o Polo Industrial de Manaus, a exposição a riscos de manipulação digital pode representar não apenas prejuízos reputacionais, mas também sanções legais e perdas financeiras.

Implicações práticas para a infraestrutura digital das organizações

O caso do STJ evidencia que a segurança de sistemas de IA não é apenas uma questão de código, mas de todo o ecossistema de ingestão, processamento e auditoria de documentos. Empresas e órgãos públicos que automatizam fluxos críticos devem revisar suas políticas de ingestão de dados, implementar monitoramento contínuo e garantir que qualquer conteúdo processado por IA passe por validação humana e técnica. A experiência do Judiciário brasileiro serve de alerta para quem acredita que a automação elimina riscos: ela os transforma e, muitas vezes, os amplifica.

À medida que a IA se torna parte da infraestrutura decisória, a fronteira entre segurança da informação, governança documental e compliance regulatório se torna cada vez mais tênue. O desafio é construir fluxos digitais resilientes, capazes de identificar e neutralizar tentativas de manipulação antes que causem danos à operação ou à reputação da organização.

O julgamento do STJ sobre prompt injection marca o início de uma nova era na relação entre tecnologia e Justiça. Para quem lidera operações críticas, o recado é claro: a robustez da infraestrutura digital e a vigilância sobre o que a IA pode ler são agora elementos centrais da gestão de risco e da tomada de decisão.