Por que a IA não sabe se está certa
O sistema escolhe a próxima palavra por probabilidade, não por verificação. Disso decorre que ele não tem como sinalizar o próprio erro — e que o ônus de conferir é de quem assina. Atualizado em julho de 2026.
A pergunta mais útil sobre inteligência artificial na advocacia não é o que ela consegue fazer. É por que ela não consegue avisar quando errou — porque é dessa limitação, e não da taxa de acerto, que decorre tudo o que um escritório precisa organizar para usá-la sem risco.
O que o sistema faz quando "responde"
Ele estima qual é a continuação mais provável do texto que recebeu, e a escreve. Depois repete a operação. Não há, entre uma etapa e a seguinte, uma consulta a algo que funcione como acervo de verdades a ser checado — o que existe é uma estimativa sobre forma, alimentada pelo que apareceu no material de treinamento.
Isso explica algo que parece contraintuitivo: o sistema é muito bom em forma e indiferente a referente. Ele aprendeu como se parece um número de processo, como soa uma ementa, como se escreve uma citação doutrinária — sem que "parecer-se com" tenha qualquer relação com "existir".
A consequência que organiza todas as outras
Se a produção do texto e a verificação do texto fossem etapas distintas, seria possível pedir ao sistema que sinalizasse a segunda. Elas não são. A ausência de informação não se manifesta como silêncio — manifesta-se como frase bem construída. Não existe um lugar interno onde estivesse guardado "isto eu não sei" e que pudesse ser exposto ao usuário.
Daí decorre a regra prática inteira: a conferência não pode ser delegada ao sistema, porque não é uma função que ele deixou de oferecer — é uma função que o mecanismo não tem.
Fluência não é fundamento
Quem trabalha com texto aprendeu a ler segurança como sinal de domínio. Um parecerista que hesita, ressalva e promete conferir está informando algo sobre o próprio grau de certeza. Uma saída automatizada não informa nada disso: o tom é constante, idêntico no acerto e na invenção.
Procurar hesitação no texto, portanto, é procurar um sinal que não é emitido. O leitor experiente fica em desvantagem justamente por ser experiente — o hábito que o protegia passa a enganá-lo.
Dois erros que não se resolvem do mesmo modo
| Erro de redação | Erro de conteúdo | |
|---|---|---|
| O que é | Concordância, clareza, repetição, estrutura | Referência inexistente, dispositivo trocado, dado que não está nos autos |
| Como se detecta | Lendo com atenção | Abrindo a fonte primária |
| Quem costuma pegar | Qualquer revisor | Só quem conferiu |
| Custo se passar | Baixo | A credibilidade de toda a peça |
A confusão entre as duas colunas é o que produz a situação mais comum e mais perigosa: uma peça revisada e não conferida. Ela lê bem. É isso que a torna arriscada.
O reconhecimento judicial do mecanismo
Isto deixou de ser descrição técnica. Ao julgar o HC 1.059.475/SP, a Quinta Turma do Superior Tribunal de Justiça — relator o Ministro Reynaldo Soares da Fonseca — consignou que esses sistemas não fazem consulta às bases de dados em tempo real, e sim estruturam respostas a partir de padrões estatísticos extraídos do período de treinamento, e que disso decorre o risco de alucinação: informação "imprecisa, irreal ou fabricada, porém com aparência de fidedignidade".
O caso, em que um relatório produzido por IA foi usado contra a conclusão da perícia oficial, está detalhado em prova produzida por IA no processo penal.
Por que o ônus recai inteiro sobre quem assina
Porque não há a quem transferi-lo. A ferramenta não tem inscrição na OAB, não responde por falsidade e não pode ser inquirida sobre o que fez. O Código de Ética e Disciplina da OAB (Resolução 02/2015-CFOAB) exige do advogado atuação diligente e verdadeira, e essa exigência não conhece a distinção entre o que ele escreveu e o que ele apenas subscreveu.
As formas concretas que o erro assume numa peça criminal — e o protocolo de conferência que as neutraliza — estão em alucinação de IA no processo penal.
Perguntas frequentes
Por que a IA não avisa quando não sabe?
Porque não há, no mecanismo, uma etapa de verificação separada da etapa de escrita. O sistema produz a continuação mais provável do texto, e uma continuação inventada é tão provável quanto uma correta desde que tenha a mesma forma. Não existe um lugar interno onde ficaria guardado "isto eu não sei": a ausência de informação não se manifesta como silêncio, e sim como texto plausível.
Então a fluência da resposta não diz nada sobre a correção dela?
Não diz. É a inversão que mais engana profissionais de texto, acostumados a associar escrita segura a domínio do assunto. Numa saída automatizada, a segurança do tom é constante — ela é a mesma no acerto e no erro, porque não vem de conhecimento, vem do modo de produzir frase. Ler procurando hesitação é procurar um sinal que o sistema não emite.
Qual é a diferença entre erro de redação e erro de conteúdo aqui?
Erro de redação é o que a revisão de texto pega: concordância, clareza, repetição. Erro de conteúdo processualmente relevante é a referência que não existe, o dispositivo trocado, o dado do caso que não está nos autos. O primeiro se resolve lendo com atenção; o segundo só se resolve abrindo a fonte. Confundir os dois é o que faz uma peça sair com revisão feita e conteúdo não conferido.
Isso melhora com um modelo mais novo?
Tende a melhorar em frequência e a piorar em detectabilidade. Um sistema que erra menos, mas erra de forma mais verossímil, reduz a desconfiança de quem lê — e é a desconfiança que estava fazendo o trabalho de contenção. Por isso a contramedida não pode ser esperar a próxima versão: precisa estar no fluxo de trabalho, como etapa obrigatória.
O Judiciário já reconheceu esse mecanismo?
Sim. Ao julgar o HC 1.059.475/SP, a Quinta Turma do STJ registrou que esses sistemas estruturam respostas com base em padrões estatísticos extraídos do período de treinamento, e não por consulta às bases de dados em tempo real, e que disso decorre o risco de alucinação — informação imprecisa, irreal ou fabricada, porém com aparência de fidedignidade. O reconhecimento do mecanismo está em acórdão, não apenas em literatura técnica.
O que isso significa na prática para o advogado?
Que a assinatura transfere para ele, integralmente, o ônus de conferir cada afirmação, citação e referência. Não é uma cautela adicional recomendável: é a consequência de assinar. O Código de Ética e Disciplina da OAB (Resolução 02/2015-CFOAB) exige atuação diligente e verdadeira, e nada nessa exigência muda porque o rascunho veio de uma máquina.
Nota de método: esta página cita o Código de Ética e Disciplina da OAB (Resolução 02/2015-CFOAB) e um único julgado, o HC 1.059.475/SP (STJ, Quinta Turma, rel. Min. Reynaldo Soares da Fonseca, julgado em 07/04/2026, trânsito em julgado em 12/05/2026), cujos trechos entre aspas foram transcritos do inteiro teor do acórdão. Nenhuma medida de desempenho de qualquer sistema é afirmada.
Sobre o advogado responsável
Gabriel Bulhões
Advogado criminalista, fundador da GB Advocacia Criminal e Investigação Defensiva e professor de pós-graduações. Coautor do Provimento OAB n.º 188/2018, norma que regulamentou a investigação defensiva no Brasil. Mestre e doutorando em Ciências Criminais pela PUC/RS, pós-graduado em Ciências Criminais pela UCAM/RJ e em Direito Penal Econômico pelo IBCCRIM em parceria com a Universidade de Coimbra. Vice-Presidente da Comissão Nacional de Investigação Defensiva do CFOAB e Presidente da comissão equivalente na ABRACRIM. Coordenador Adjunto da Coordenação Regional do IBCCRIM no Distrito Federal (2025-2026) e coordenador dos seus Grupos de Estudos Avançados (GEAs), entre eles o grupo interestadual (DF e SC) sobre erros judiciários na investigação defensiva. Head dos projetos Defenda-me e ETHOSBrasil.org, Diretor Jurídico da APECOF e presidente, na mesma associação, da Comissão de Investigação Defensiva. Autor do Manual Prático de Investigação Defensiva e de outros dois livros, sobre cadeia de custódia e blockchain e sobre o controle da atividade policial. O acervo do escritório treina inteligência artificial especializada na plataforma Criminal Player, ao lado dos acervos de Aury Lopes Jr. e Alexandre Morais da Rosa.
OAB/RN n.º 13.096 · OAB/SP n.º 526.786