Se você é advogado ou opera no sistema judiciário brasileiro, um novo risco digital acaba de ganhar o radar do STJ: a manipulação de inteligência artificial por meio de petições. O Superior Tribunal de Justiça (STJ) iniciou uma apuração sobre tentativas de manipulação de sistemas de IA usando a técnica conhecida como "prompt injection" em petições judiciais. Segundo o tribunal, os casos foram identificados nas últimas semanas e bloqueados pelas camadas de segurança do STJ Logos, plataforma de IA generativa desenvolvida pela Corte e lançada em fevereiro de 2025.
O STJ apura tentativas de manipulação de seus sistemas de inteligência artificial por meio de prompt injection em petições judiciais. A técnica insere comandos ocultos em documentos para influenciar respostas da IA. Os casos foram bloqueados pelo STJ Logos, plataforma lançada em fevereiro de 2025. O tribunal registra as tentativas nos autos e avalia sanções.
O que é prompt injection e como ele ameaça petições
O "prompt injection" é uma técnica usada para tentar manipular modelos de IA generativa, especialmente os chamados LLMs (Large Language Models). Na prática, instruções são escondidas em textos aparentemente comuns, como petições, recursos ou documentos processuais, para induzir a IA a ignorar regras internas ou produzir respostas favoráveis a determinada parte. Esse tipo de ataque vem sendo debatido mundialmente devido ao avanço do uso de inteligência artificial em ambientes corporativos, acadêmicos e institucionais.
O que o STJ está fazendo contra a manipulação
De acordo com o presidente do STJ, Herman Benjamin, todas as ocorrências estão sendo mapeadas para possível responsabilização dos envolvidos nas esferas processual, administrativa e criminal. A prática consiste na inserção de comandos ocultos em documentos jurídicos com o objetivo de influenciar ou alterar respostas produzidas por sistemas de inteligência artificial utilizados pelo Judiciário.
Medidas adotadas pelo tribunal
Além da investigação, o tribunal determinou que as tentativas de manipulação sejam registradas oficialmente nos autos dos processos. A medida permitirá que ministros avaliem eventual aplicação de sanções processuais. O STJ também informou que poderá haver instauração de inquérito policial e procedimentos administrativos para apuração das responsabilidades, incluindo a oitiva de advogados e escritórios eventualmente envolvidos.
Como o STJ Logos protege o sistema
Segundo o tribunal, o STJ Logos conta com diferentes níveis de segurança para impedir a execução de comandos maliciosos inseridos em documentos processuais. Entre as medidas adotadas estão:
- filtragem e separação de instruções suspeitas durante o pré-processamento dos documentos;
- limitação de contexto para impedir que comandos externos se sobreponham às regras do sistema;
- revisão final das respostas geradas pela IA para garantir conformidade com protocolos de segurança.
O que isso significa para advogados e escritórios
O tema ganhou repercussão nacional após relatos semelhantes envolvendo o Tribunal Regional do Trabalho da 8ª Região no início de maio. Para quem atua com petições eletrônicas, o recado é claro: tentar burlar sistemas de IA pode gerar consequências graves. O STJ já sinaliza que não vai tolerar a prática, e a responsabilização pode atingir tanto o advogado quanto o escritório.
Repare nesse detalhe: a técnica de prompt injection não é nova no mundo da segurança digital, mas sua aplicação em petições judiciais representa um novo front de risco. Vale ou não vale o espaço incluir verificações de segurança nos seus documentos? Se você usa IA para auxiliar na redação de peças, o cuidado precisa ser redobrado para não ser usado como vetor de ataque.
Perguntas Frequentes
O que é prompt injection em petições judiciais?
É uma técnica que insere comandos ocultos em documentos jurídicos para manipular sistemas de IA generativa, fazendo com que ignorem regras ou produzam respostas favoráveis a uma das partes.
Quais as consequências para quem tentar manipular a IA do STJ?
O STJ pode aplicar sanções processuais, instaurar inquérito policial e procedimentos administrativos, incluindo a oitiva de advogados e escritórios envolvidos.
O STJ Logos é seguro contra esse tipo de ataque?
Segundo o tribunal, a plataforma conta com filtragem de instruções suspeitas, limitação de contexto e revisão final das respostas geradas pela IA.
A manipulação de IA já foi detectada em outros tribunais?
Sim, o tema ganhou repercussão após relatos semelhantes envolvendo o Tribunal Regional do Trabalho da 8ª Região no início de maio.
O que advogados devem fazer para evitar envolvimento?
Revisar petições antes de enviar, evitar incluir comandos ocultos e garantir que sistemas de IA usados na redação estejam configurados com segurança adequada.