# STJ julga tentativas de manipulação de IA judicial por meio de prompt injection > STJ julga prompt injection em IA judicial e define punições. Risco de manipulação digital desafia governança e segurança de dados no setor público. Publicado em 12/10/2026 · Atualizado em 12/10/2026 · IA ATLAS · Tech & Business Review, portal editorial da Upnetix · https://atlas.upnetix.com.br/stj-julga-tentativas-de-manipulacao-de-ia-judicial-por/ --- O avanço da inteligência artificial (IA) no Judiciário brasileiro trouxe à tona um problema incômodo: documentos processuais podem ser manipulados não apenas para convencer juízes humanos, mas também para tentar enganar sistemas automatizados. Em setembro de 2026, o Superior Tribunal de Justiça (STJ) julgou os primeiros casos envolvendo a chamada prompt injection, técnica que insere comandos ocultos em petições para influenciar o comportamento da IA. O episódio desafia a crença de que a automação judicial é imune a ataques sofisticados e obriga organizações públicas e privadas a repensar a segurança de seus fluxos documentais. ![Juiz brasileiro em tribunal analisando documentos físicos e digitais com sistema de IA judicial.](https://upnetix.com.br/wp-content/uploads/2026/10/post46434-img1-intro.webp) STJ julga casos que evidenciam tentativas de manipulação de sistemas de inteligência artificial no Judiciário por meio de prompt injection. ## Prompt injection: o novo vetor de risco nos tribunais Segundo a edição 902 do Informativo de Jurisprudência do STJ, duas Turmas da Corte analisaram situações em que comandos escondidos em peças processuais tinham o objetivo de manipular sistemas de IA. Em um dos casos, a Segunda Turma classificou a conduta como litigância de má-fé, aplicando multa de 10% sobre o valor da causa e comunicando o episódio a órgãos como a Ordem dos Advogados do Brasil e o Ministério Público Federal. Já a Sexta Turma entendeu que tal prática constitui ato atentatório à dignidade da Justiça. O material utilizado para enganar a máquina incluía técnicas como texto branco sobre fundo branco e espaçamento irregular, tornando as instruções invisíveis ao leitor humano, mas acessíveis ao sistema automatizado. O objetivo era induzir a IA a considerar determinada tese como vencedora e, assim, influenciar a produção de relatórios ou minutas favoráveis à parte interessada. Esses julgamentos marcam a consolidação de uma nova preocupação na operação judicial: a integridade dos dados processados por IA. Como destaca a MIT Technology Review Brasil, o risco não se limita à manipulação intencional. Documentos podem carregar instruções adversariais sem que operadores humanos percebam, ampliando o espectro de ameaças para além das tradicionais fraudes documentais. ## Da automação à vulnerabilidade: antecedentes e evolução do problema A preocupação com prompt injection não surgiu do nada. Reportagens da MIT Technology Review Brasil desde 2023 já apontavam para os riscos de modelos de linguagem que acessam ambientes externos e podem ser influenciados por comandos embutidos em conteúdos aparentemente inofensivos. Em experimentos relatados à época, mensagens invisíveis ao olho humano, mas legíveis por sistemas de IA, já demonstravam o potencial de manipulação. O debate ganhou corpo à medida que o uso de IA no Judiciário se expandiu. Em 2025, magistrados norte-americanos relatavam à MIT Technology Review o uso de modelos generativos para resumir despachos, organizar informações e preparar perguntas com base nos autos. A automação dessas tarefas, embora eficiente, abriu espaço para que erros ou manipulações passassem despercebidos, com consequências potencialmente graves para a tomada de decisão judicial. ![Documento processual com técnicas de prompt injection: texto branco sobre fundo branco e espaçamento irregular.](https://upnetix.com.br/wp-content/uploads/2026/10/post46434-img2-meio-1.webp) Técnicas de prompt injection usadas para esconder comandos que manipulam sistemas de IA judicial, como texto branco sobre fundo branco e espaçamento irregular. O caso do advogado Steven Schwartz, multado nos Estados Unidos por apresentar jurisprudência fabricada por IA, ilustra outro lado do problema: não apenas a máquina pode ser enganada por documentos manipulados, mas também pode gerar informações falsas que acabam sendo usadas por profissionais desavisados. O STJ brasileiro, ao julgar os casos de prompt injection, reconheceu que ambos os vetores de risco, erro da máquina e manipulação do documento, agora coexistem no ambiente judicial. ## Reação institucional: governança e segurança adversarial A resposta do Judiciário brasileiro foi rápida e multifacetada. Em maio de 2026, o Comitê Nacional de Inteligência Artificial do Judiciário aprovou a Manifestação Técnica CNIAJ 1/2026, reconhecendo o risco de comandos ocultos em documentos processuais e criando o Programa de Segurança Adversarial para Sistemas de Inteligência Artificial do Poder Judiciário Brasileiro (Proseg-IA). Em junho, o Conselho Nacional de Justiça (CNJ) aprovou orientações nacionais que incluem requisitos de ingestão segura de documentos, preservação de metadados visuais e estruturais e registro nos autos quando ferramentas identificarem conteúdo suspeito. A ideia é garantir que sistemas de IA não sejam facilmente manipulados por comandos embutidos e que toda interação entre humanos e máquinas seja auditável e rastreável. O próprio STJ já havia identificado tentativas de prompt injection em seu acervo antes dos julgamentos de setembro, segundo informou em nota. O tribunal utiliza o STJ Logos, motor de IA generativa lançado em fevereiro de 2025, para tarefas como análise de admissibilidade, geração de relatórios e sugestão de minutas. Embora as decisões finais continuem sob responsabilidade de ministros e equipes, a influência da leitura automatizada sobre a estrutura e o processamento dos documentos é crescente. ## Contra-argumentos e limites da automação judicial Apesar da preocupação crescente, o STJ enfatizou que as decisões judiciais não são produzidas automaticamente por IA. A Sexta Turma ressaltou que há sempre análise humana dos processos, e que ferramentas automatizadas servem apenas de apoio. Esse argumento é relevante para rebater críticas de que o Judiciário estaria terceirizando a função jurisdicional para algoritmos suscetíveis a manipulação. ![Advogado brasileiro revisando documentos e sistemas de IA judicial em escritório moderno.](https://upnetix.com.br/wp-content/uploads/2026/10/post46434-img3-meio-2.webp) O risco duplo de manipulação: documentos processuais adulterados e geração de informações falsas por IA, evidenciado em casos como o do advogado Steven Schwartz nos EUA. No entanto, a MIT Technology Review Brasil observa que, mesmo sem decisões automáticas, a influência da IA sobre a triagem, a classificação e a organização dos autos é suficiente para tornar a segurança adversarial uma prioridade. O risco não está apenas na decisão final, mas em todo o fluxo de informação que antecede o julgamento. O debate sobre o equilíbrio entre eficiência e segurança segue aberto, especialmente diante da pressão por digitalização e automação no setor público. ## O que ainda não se sabe: incertezas e desafios para empresas e governo Embora o Judiciário tenha adotado medidas preventivas, persistem dúvidas relevantes. Ainda não há consenso sobre a eficácia das soluções técnicas propostas para detecção de comandos ocultos, nem sobre o impacto dessas medidas no tempo de processamento dos processos. Também não está claro como outros órgãos públicos e empresas privadas, que começam a adotar IA para análise documental, vão se proteger contra ataques semelhantes. Outro ponto de incerteza é a adaptação dos profissionais do Direito e de TI às novas exigências de governança e auditoria. A exigência de resumos estruturados e a preservação de metadados podem aumentar a complexidade operacional, exigindo investimentos em infraestrutura, capacitação e revisão de fluxos internos. Para organizações que atuam em ambientes regulados ou de alta criticidade, como o Polo Industrial de Manaus, a exposição a riscos de manipulação digital pode representar não apenas prejuízos reputacionais, mas também sanções legais e perdas financeiras. ## Implicações práticas para a infraestrutura digital das organizações O caso do STJ evidencia que a segurança de sistemas de IA não é apenas uma questão de código, mas de todo o ecossistema de ingestão, processamento e auditoria de documentos. Empresas e órgãos públicos que automatizam fluxos críticos devem revisar suas políticas de ingestão de dados, implementar monitoramento contínuo e garantir que qualquer conteúdo processado por IA passe por validação humana e técnica. A experiência do Judiciário brasileiro serve de alerta para quem acredita que a automação elimina riscos: ela os transforma e, muitas vezes, os amplifica. À medida que a IA se torna parte da infraestrutura decisória, a fronteira entre segurança da informação, governança documental e compliance regulatório se torna cada vez mais tênue. O desafio é construir fluxos digitais resilientes, capazes de identificar e neutralizar tentativas de manipulação antes que causem danos à operação ou à reputação da organização. ![Diagrama realista do fluxo de governança e segurança contra manipulação de IA judicial.](https://upnetix.com.br/wp-content/uploads/2026/10/post46434-img4-fechamento.webp) Resposta institucional do Judiciário brasileiro implementando governança e segurança adversarial para proteger a integridade dos documentos processuais e sistemas de IA. O julgamento do STJ sobre prompt injection marca o início de uma nova era na relação entre tecnologia e Justiça. Para quem lidera operações críticas, o recado é claro: a robustez da infraestrutura digital e a vigilância sobre o que a IA pode ler são agora elementos centrais da gestão de risco e da tomada de decisão. Fonte: https://atlas.upnetix.com.br/stj-julga-tentativas-de-manipulacao-de-ia-judicial-por/ · ATLAS, portal editorial da Upnetix (Manaus, Brasil) · uso com citação obrigatória.