Alucinação de IA no processo penal
A máquina não mente: ela completa. E completa com a forma certa — número de acórdão bem formatado, ementa convincente, artigo que parece existir. Atualizado em julho de 2026.
Alucinação é a produção de informação falsa com aparência de verdadeira. Num escritório criminal, ela deixa de ser curiosidade técnica no momento exato em que uma referência inexistente é protocolada — e o custo não é a referência: é a credibilidade de tudo o mais que aquela peça afirma.
Por que a IA inventa
Um modelo de linguagem é otimizado para produzir o texto mais plausível, não o mais verdadeiro. Ele aprende a forma das coisas: como se parece um número de processo, como soa uma ementa, como se escreve uma citação doutrinária. Quando não dispõe da informação, ele não para — completa com algo que tem exatamente essa forma.
Isso explica a característica mais perigosa do fenômeno: a saída não vem sinalizada como incerta. Um humano que não sabe hesita, ressalva, diz que vai conferir. A máquina entrega a invenção com a mesma fluência com que entrega o acerto. Não há, no texto, pista de qual é qual.
Por que a próxima versão não resolve
A geração de texto plausível é o mecanismo da tecnologia, não um defeito acoplado que será removido depois. Versões melhores tendem a errar menos — e a errar de forma mais difícil de perceber, o que em alguns casos aumenta o risco prático, porque reduz a desconfiança de quem lê. A contramedida, por isso, não pode ser esperar: precisa ser estrutural, no fluxo de trabalho.
As cinco formas que ela assume numa peça criminal
- Julgado que não existe. Número bem formatado, órgão plausível, relator verossímil. Some quando se procura no tribunal.
- Julgado que existe, mas não diz aquilo. Mais difícil de pegar: a referência é real, e o que se afirmou sobre ela não é.
- Dispositivo trocado. Artigo de numeração próxima, com conteúdo diferente do invocado. É o erro que passa por revisão apressada.
- Ementa remontada. Trechos de decisões diferentes costurados num parágrafo coerente, que nenhuma decisão isolada sustenta.
- Resumo que omite. A mais silenciosa. O resumo de autos não inventa nada — apenas deixa de fora exatamente o detalhe que sustentaria a defesa. Não há o que conferir: só quem leu o documento original percebe.
As quatro primeiras são detectáveis por conferência. A quinta não é — e é por isso que resumo automático nunca substitui leitura em ponto decisivo do caso.
O que está em jogo quando uma citação inventada é protocolada
Há a dimensão ética e disciplinar, regida pelo Código de Ética e Disciplina da OAB (Resolução 02/2015-CFOAB), que exige do advogado atuação diligente e verdadeira. Mas o efeito processual é mais imediato e mais duro: uma vez demonstrado que uma referência da peça não existe, todas as demais afirmações passam a ser lidas com desconfiança.
Em matéria criminal isso é especialmente caro, porque boa parte do trabalho da defesa consiste justamente em disputar a confiabilidade da prova alheia — apontar a falha na cadeia de custódia, o vício no reconhecimento, o limite do laudo. Quem faz essa disputa não pode ser a parte cuja própria peça contém afirmação inverificável.
A alucinação, nomeada em acórdão
Isto deixou de ser vocabulário técnico. Ao julgar o HC 1.059.475/SP em 7 de abril de 2026, a Quinta Turma do Superior Tribunal de Justiça — relator o Ministro Reynaldo Soares da Fonseca — consignou que "um dos riscos inerentes à utilização da inteligência artificial generativa é a alucinação, que consiste na apresentação de informações imprecisas, irreais ou fabricadas, porém com aparência de fidedignidade".
O acórdão registra também a razão do fenômeno, e ela coincide com o que está descrito acima: não há consulta às bases de dados em tempo real, mas estruturação de respostas com base em padrões estatísticos extraídos do período de treinamento. O caso — em que um relatório produzido por IA foi usado contra a conclusão da perícia oficial — é tratado em prova produzida por IA no processo penal.
O protocolo de conferência
A regra é simples de enunciar e trabalhosa de cumprir: abrir a fonte primária de cada referência antes de protocolar.
- o inteiro teor do julgado, não a ementa reproduzida pela ferramenta;
- o texto oficial do dispositivo, não a transcrição;
- o documento dos autos, não o resumo dele;
- a edição e a página da doutrina, não a menção solta ao autor.
Referência que não puder ser aberta e lida não entra na peça. Não há exceção por urgência — prazo apertado é precisamente a circunstância em que a conferência costuma ser sacrificada, e por isso é quando a regra mais importa.
Sinais de que uma citação merece checagem primeiro
Número de processo em formato correto que não retorna resultado na busca do tribunal; ementa que responde bem demais à tese que se queria sustentar; doutrina citada sem edição, página ou editora; dispositivo cujo número existe mas cujo conteúdo não corresponde ao afirmado. Nenhum desses sinais substitui a conferência — eles apenas dizem por onde começar.
O caso específico do material técnico e da investigação defensiva
Numa peça, a citação falsa tende a ser impugnada pela parte contrária. Num relatório de investigação defensiva o efeito é outro: uma afirmação inventada pode direcionar a diligência para o lugar errado, consumir o tempo útil da defesa e, no limite, ser reproduzida adiante como se fosse achado próprio do trabalho investigativo.
A disciplina que resolve isso não é nova — é a mesma que o Provimento CFOAB n.º 188/2018 já impõe à investigação defensiva: método declarado, diligência documentada, autoria identificada. Material técnico assistido por IA precisa permitir que cada afirmação seja rastreada até a fonte, exatamente como se exige de um laudo alheio.
A assimetria que não se sustenta
Este é o ponto que organiza todo o Centro de IA deste escritório: quem exige da acusação o método por trás de um resultado automatizado precisa poder responder à mesma pergunta sobre o que produziu. Se a defesa pede a documentação do método alheio, a defesa documenta o seu. Não por elegância — porque é a única posição que se sustenta quando a pergunta volta.
Perguntas frequentes
O que é alucinação de inteligência artificial?
É a produção de uma informação falsa com aparência de verdadeira. Um modelo de linguagem é otimizado para gerar o texto mais plausível, não o mais verdadeiro; quando não dispõe da informação, ele completa com algo que tem a forma certa — um número de acórdão bem formatado, uma ementa convincente, um artigo que parece existir. A saída não vem sinalizada como incerta, e é justamente isso que a torna perigosa.
A próxima versão do modelo vai resolver isso?
Não do modo como se costuma esperar. A geração de texto plausível é o mecanismo da tecnologia, não um defeito acoplado a ela. Versões melhores erram menos e erram de forma mais difícil de perceber, o que em alguns casos aumenta o risco prático. Por isso a contramedida não pode ser esperar uma versão melhor: precisa ser estrutural, no fluxo de trabalho.
Que formas a alucinação assume numa peça criminal?
As mais comuns são: julgado que não existe; julgado que existe mas não diz o que se afirma; dispositivo legal trocado por outro de numeração próxima; ementa remontada a partir de pedaços de decisões diferentes; e a mais silenciosa de todas, o resumo de autos que omite justamente o detalhe que sustentaria a defesa. As quatro primeiras são detectáveis por conferência; a última só aparece para quem leu o documento original.
O que acontece se uma citação inventada for protocolada?
O problema não se esgota naquela citação. Além da eventual repercussão ética e disciplinar, o efeito processual mais grave é contaminar a credibilidade das demais afirmações da peça: uma vez demonstrado que uma referência não existe, todo o restante passa a ser lido com desconfiança. Em matéria criminal, onde a defesa muitas vezes disputa exatamente a confiabilidade da prova alheia, esse é um custo desproporcional.
Qual é o protocolo mínimo de conferência?
Abrir a fonte primária de cada referência antes de protocolar: o inteiro teor do julgado, não a ementa reproduzida; o texto oficial do dispositivo, não a transcrição; e o documento dos autos, não o resumo. Referência que não puder ser aberta e lida não entra na peça. É uma regra simples de enunciar e trabalhosa de cumprir, e não admite exceção por urgência.
A alucinação também é problema em relatório técnico e investigação defensiva?
Sim, e com consequência distinta. Numa peça, a citação falsa é impugnada pela parte contrária. Num relatório de investigação defensiva ou em material técnico, uma afirmação inventada pode direcionar a diligência para o lugar errado, consumir o tempo útil da defesa e, no limite, ser reproduzida como se fosse achado próprio. Por isso todo material técnico assistido por IA precisa declarar o método e permitir que cada afirmação seja rastreada até a fonte.
Como identificar uma citação alucinada antes de usar?
Sinais recorrentes: número de processo com formato correto mas que não retorna resultado na busca do tribunal; ementa que responde bem demais à tese que se queria sustentar; citação de doutrina sem edição, página ou editora; e dispositivo cujo número existe mas cujo conteúdo não corresponde ao que foi afirmado. Nenhum desses sinais substitui a conferência na fonte — eles apenas indicam onde olhar primeiro.
Nota de método: esta página não cita estatísticas, e cita um único julgado — o HC 1.059.475/SP (STJ, Quinta Turma, rel. Min. Reynaldo Soares da Fonseca, julgado em 07/04/2026, trânsito em julgado em 12/05/2026), cujos trechos entre aspas foram transcritos do inteiro teor do acórdão, e não de notícia sobre ele. O critério é o mesmo que a página defende: num texto cuja tese é que a IA produz referência inexistente com aparência correta, cada citação precisa ter sido aberta e lida na fonte oficial. As demais normas mencionadas são as já utilizadas e conferidas em outras páginas deste portal.
Sobre o advogado responsável
Gabriel Bulhões
Advogado criminalista, fundador da GB Advocacia Criminal e Investigação Defensiva e professor de pós-graduações. Coautor do Provimento OAB n.º 188/2018, norma que regulamentou a investigação defensiva no Brasil. Mestre e doutorando em Ciências Criminais pela PUC/RS, pós-graduado em Ciências Criminais pela UCAM/RJ e em Direito Penal Econômico pelo IBCCRIM em parceria com a Universidade de Coimbra. Vice-Presidente da Comissão Nacional de Investigação Defensiva do CFOAB e Presidente da comissão equivalente na ABRACRIM. Coordenador Adjunto da Coordenação Regional do IBCCRIM no Distrito Federal (2025-2026) e coordenador dos seus Grupos de Estudos Avançados (GEAs), entre eles o grupo interestadual (DF e SC) sobre erros judiciários na investigação defensiva. Head dos projetos Defenda-me e ETHOSBrasil.org, Diretor Jurídico da APECOF e presidente, na mesma associação, da Comissão de Investigação Defensiva. Autor do Manual Prático de Investigação Defensiva e de outros dois livros, sobre cadeia de custódia e blockchain e sobre o controle da atividade policial. O acervo do escritório treina inteligência artificial especializada na plataforma Criminal Player, ao lado dos acervos de Aury Lopes Jr. e Alexandre Morais da Rosa.
OAB/RN n.º 13.096 · OAB/SP n.º 526.786