IA: Fundamentos e Limites

É a produção de uma informação falsa com aparência de verdadeira. Um modelo de linguagem é otimizado para gerar o texto mais plausível, não o mais verdadeiro; quando não dispõe da informação, ele completa com algo que tem a forma certa — um número de acórdão bem formatado, uma ementa convincente, um artigo que parece existir. A saída não vem sinalizada como incerta, e é justamente isso que a torna perigosa.

Não do modo como se costuma esperar. A geração de texto plausível é o mecanismo da tecnologia, não um defeito acoplado a ela. Versões melhores erram menos e erram de forma mais difícil de perceber, o que em alguns casos aumenta o risco prático. Por isso a contramedida não pode ser esperar uma versão melhor: precisa ser estrutural, no fluxo de trabalho.

As mais comuns são: julgado que não existe; julgado que existe mas não diz o que se afirma; dispositivo legal trocado por outro de numeração próxima; ementa remontada a partir de pedaços de decisões diferentes; e a mais silenciosa de todas, o resumo de autos que omite justamente o detalhe que sustentaria a defesa. As quatro primeiras são detectáveis por conferência; a última só aparece para quem leu o documento original.

O problema não se esgota naquela citação. Além da eventual repercussão ética e disciplinar, o efeito processual mais grave é contaminar a credibilidade das demais afirmações da peça: uma vez demonstrado que uma referência não existe, todo o restante passa a ser lido com desconfiança. Em matéria criminal, onde a defesa muitas vezes disputa exatamente a confiabilidade da prova alheia, esse é um custo desproporcional.

Abrir a fonte primária de cada referência antes de protocolar: o inteiro teor do julgado, não a ementa reproduzida; o texto oficial do dispositivo, não a transcrição; e o documento dos autos, não o resumo. Referência que não puder ser aberta e lida não entra na peça. É uma regra simples de enunciar e trabalhosa de cumprir, e não admite exceção por urgência.

Sim, e com consequência distinta. Numa peça, a citação falsa é impugnada pela parte contrária. Num relatório de investigação defensiva ou em material técnico, uma afirmação inventada pode direcionar a diligência para o lugar errado, consumir o tempo útil da defesa e, no limite, ser reproduzida como se fosse achado próprio. Por isso todo material técnico assistido por IA precisa declarar o método e permitir que cada afirmação seja rastreada até a fonte.

Sinais recorrentes: número de processo com formato correto mas que não retorna resultado na busca do tribunal; ementa que responde bem demais à tese que se queria sustentar; citação de doutrina sem edição, página ou editora; e dispositivo cujo número existe mas cujo conteúdo não corresponde ao que foi afirmado. Nenhum desses sinais substitui a conferência na fonte — eles apenas indicam onde olhar primeiro.

Não é essa a questão prática. A IA processa volume e devolve estrutura; ela não assume responsabilidade. Quem responde pela tese, pela peça e pela decisão estratégica continua sendo quem assina — e assina com registro na OAB. O que muda de verdade é o custo de organizar um acervo grande: o que antes inviabilizava uma linha de defesa por tempo passa a ser possível.

Depende inteiramente da ferramenta e do que ela faz com o que recebe. Autos criminais contêm dados sensíveis de clientes e de terceiros, protegidos pelo sigilo profissional e pela LGPD. Antes de subir qualquer coisa é preciso saber se o serviço usa o conteúdo para treinar, onde ele armazena, por quanto tempo e quem tem acesso. Escritório que usa IA precisa de política interna escrita sobre isso — não de bom senso individual.

Porque um modelo de linguagem é otimizado para produzir texto plausível, não para dizer a verdade. Quando não tem a informação, ele completa com algo que tem a forma certa: número de acórdão bem formatado, ementa convincente, artigo que parece existir. Esse comportamento não é um defeito que será eliminado com a próxima versão — é da natureza da tecnologia. A contramedida é estrutural: só usar saída de IA como ponto de partida e conferir toda citação na fonte primária.

Sim, como apoio à organização e ao levantamento de hipóteses — nunca como produtora de prova. A investigação defensiva é regulada pelo Provimento CFOAB n.º 188/2018 e se documenta em Autos de Investigação Defensiva. A IA pode ajudar a mapear o que já se tem, cruzar informações e sugerir diligências; a diligência em si, a entrevista, a perícia e o registro continuam sendo atos humanos, documentados e atribuíveis.

Pode quebrar, e essa é a questão mais subestimada do tema. Os arts. 158-A a 158-F do Código de Processo Penal exigem rastreabilidade do vestígio, do reconhecimento ao descarte. Uma análise feita por ferramenta que não registra o que fez, ou que altera o material, compromete a integridade. A regra prática é trabalhar sempre sobre cópia, com registro da operação — e ser capaz de explicar depois, em juízo, exatamente o que foi feito.

A pergunta útil não é qual ferramenta, é qual tarefa. A mesma tarefa jurídica pede tipos diferentes de ferramenta, e o produto específico muda de mês para mês. Por isso este Centro organiza a escolha por tarefa e por risco — pesquisa, triagem, cronologia, análise de vestígio, redação, atendimento — e não por ranking de produto, que envelheceria antes de ser lido.

Usa, com escopo definido e sob supervisão: organização de acervo, apoio à construção de cronologias e dossiês de investigação defensiva, controle de prazos e gestão de conhecimento. As decisões jurídicas, a estratégia e as peças são de responsabilidade dos advogados. O parque de sistemas próprios está descrito no Ecossistema Digital GB.

Os dois, com uma ordem deliberada: primeiro o que a tecnologia é e onde ela falha, depois como aplicá-la sem violar sigilo, cadeia de custódia ou dever profissional. Conteúdo que só ensina atalho de produtividade envelhece junto com a ferramenta; o que permanece é o critério de quando usar, quando não usar e como responder por isso.

Porque a produção do texto envolve escolha entre continuações possíveis, e essa escolha não é fixa. Duas execuções sobre a mesma entrada podem percorrer caminhos distintos e chegar a formulações distintas — às vezes equivalentes no conteúdo, às vezes não. Não é defeito nem instabilidade do produto: é a forma de operar.

Não invalida o uso como apoio; invalida o uso como fonte de afirmação. Se a resposta serve para localizar onde ler, a variação é irrelevante — o que importa é o endereço, que se confere no documento. Se a resposta serve como fundamento de algo que vai aos autos, a variação é decisiva, porque significa que o percurso que produziu aquele fundamento não pode ser reconstituído.

Que uma conclusão só é demonstração quando outra pessoa, partindo do mesmo material e do mesmo procedimento, chega ao mesmo resultado. Se isso não é possível, a conclusão deixa de ser demonstrada e passa a valer pela autoridade de quem a apresenta. Em matéria probatória, essa diferença é a diferença entre exame e opinião.

Sim. Ao julgar o HC 1.059.475/SP, a Quinta Turma do STJ consignou que a ausência de transparência quanto aos critérios de formação das respostas, aliada à impossibilidade de reprodução controlada dos resultados, impede que tais relatórios sirvam como base para inferências racionais. A não reprodutibilidade foi tratada como razão de inadmissibilidade, não como inconveniência técnica.

Guardar o texto preserva o que foi dito, não o percurso que o produziu. É útil e insuficiente: permite mostrar o que se leu, não permite que alguém verifique como aquilo foi gerado. Para trabalho de defesa, a consequência prática é que o registro do que importa deve ser da fonte primária conferida, não da saída da ferramenta.

Deslocando o que se guarda. Em vez de arquivar a resposta, arquiva-se o endereço que ela apontou e a conferência que se fez nele. Assim, o que sustenta a afirmação passa a ser o documento dos autos — que é reproduzível por qualquer pessoa — e não uma saída que não voltará igual se a pergunta for repetida.

Porque não há, no mecanismo, uma etapa de verificação separada da etapa de escrita. O sistema produz a continuação mais provável do texto, e uma continuação inventada é tão provável quanto uma correta desde que tenha a mesma forma. Não existe um lugar interno onde ficaria guardado "isto eu não sei": a ausência de informação não se manifesta como silêncio, e sim como texto plausível.

Não diz. É a inversão que mais engana profissionais de texto, acostumados a associar escrita segura a domínio do assunto. Numa saída automatizada, a segurança do tom é constante — ela é a mesma no acerto e no erro, porque não vem de conhecimento, vem do modo de produzir frase. Ler procurando hesitação é procurar um sinal que o sistema não emite.

Erro de redação é o que a revisão de texto pega: concordância, clareza, repetição. Erro de conteúdo processualmente relevante é a referência que não existe, o dispositivo trocado, o dado do caso que não está nos autos. O primeiro se resolve lendo com atenção; o segundo só se resolve abrindo a fonte. Confundir os dois é o que faz uma peça sair com revisão feita e conteúdo não conferido.

Tende a melhorar em frequência e a piorar em detectabilidade. Um sistema que erra menos, mas erra de forma mais verossímil, reduz a desconfiança de quem lê — e é a desconfiança que estava fazendo o trabalho de contenção. Por isso a contramedida não pode ser esperar a próxima versão: precisa estar no fluxo de trabalho, como etapa obrigatória.

Sim. Ao julgar o HC 1.059.475/SP, a Quinta Turma do STJ registrou que esses sistemas estruturam respostas com base em padrões estatísticos extraídos do período de treinamento, e não por consulta às bases de dados em tempo real, e que disso decorre o risco de alucinação — informação imprecisa, irreal ou fabricada, porém com aparência de fidedignidade. O reconhecimento do mecanismo está em acórdão, não apenas em literatura técnica.

Que a assinatura transfere para ele, integralmente, o ônus de conferir cada afirmação, citação e referência. Não é uma cautela adicional recomendável: é a consequência de assinar. O Código de Ética e Disciplina da OAB (Resolução 02/2015-CFOAB) exige atuação diligente e verdadeira, e nada nessa exigência muda porque o rascunho veio de uma máquina.

Que a informação situada no meio de um material extenso tende a ser sub-representada na resposta, em comparação com o que está no começo e no fim. Não é que ela seja ignorada por regra: é que a probabilidade de ser recuperada e refletida na saída cai. O efeito prático é uma resposta que parece completa e cuja cobertura, na verdade, é desigual.

Não é mentira, é ausência de sinalização. A resposta não vem acompanhada de um aviso de que a cobertura foi parcial, porque o sistema não tem como medir a própria lacuna. Você recebe um texto com a mesma aparência de completude que teria se tudo tivesse sido considerado — e é essa indiferenciação que cria o risco.

Quando se pede um resumo de peça longa ou de inquérito inteiro e se trabalha a partir dele. O elemento favorável à defesa raramente está na primeira página, onde fica a narrativa da acusação, nem na última, onde ficam os pedidos. Ele costuma estar exatamente no meio: num depoimento intermediário, num anexo, numa folha de diligência que não foi destacada por ninguém.

Reduz a frequência e não muda a natureza do problema. Um material maior continua tendo meio, e a distribuição desigual de atenção continua existindo em alguma escala. Além disso, a melhora tem um efeito colateral conhecido: quanto mais raro o defeito, menor a desconfiança de quem lê — e é a desconfiança que estava fazendo o trabalho de contenção.

Não pedir cobertura, pedir localização. Em vez de "resuma o inquérito", perguntar onde está determinado elemento e exigir que a resposta venha com o trecho e a página. Uma resposta com endereço é conferível; um resumo não é. Fatiar o material e percorrer as partes deliberadamente, em vez de pedir o todo de uma vez, também expõe o meio à leitura.

Pela única via que existe: abrindo o material. É a razão pela qual a leitura humana permanece indispensável nos pontos que decidem o caso. O que a assistência automatizada pode fazer é dirigir essa leitura para onde ela rende mais — não substituí-la onde ela é decisiva.

Porque produz a continuação mais provável a partir do que viu escrito. Uma posição que aparece com muita frequência no material de treinamento é, por definição, mais provável de ser reproduzida do que uma posição minoritária — mesmo que a minoritária seja tecnicamente mais sólida. A ferramenta não avalia qualidade de argumento: ela reflete frequência.

Não, e é importante não confundir. A concordância aparece quando você apresenta a sua tese e recebe reforço. A inclinação majoritária aparece quando você não apresenta tese nenhuma e pergunta em aberto: a resposta gravita para a posição mais frequente. São dois vieses independentes, com correções diferentes, e conhecer só um deles dá falsa segurança.

Por uma assimetria estrutural do material disponível: decisões, ementas, manuais e peças de acusação são produzidos e publicados em volume muito maior do que a sustentação de teses defensivas minoritárias, que muitas vezes não chegam a virar texto público. A defesa trabalha com frequência justamente na posição menos representada — e é exatamente essa posição que a ferramenta tende a devolver enfraquecida.

É o risco mais concreto, e ele opera cedo. Quando a primeira formulação de uma linha de defesa vem de uma saída automatizada, ela já nasce puxada para o centro. O advogado então trabalha a partir daí, refinando uma tese que nunca foi realmente sua. Por isso a ferramenta rende mais depois de a hipótese estar formulada — para testá-la — do que antes, para gerá-la.

Pode sugerir, e a sugestão não é confiável para esse fim específico. Afirmar que determinada posição é majoritária é uma afirmação empírica sobre o estado da jurisprudência ou da doutrina, e exige levantamento verificável, não impressão estatística de um gerador de texto. Se essa informação vai integrar uma peça, ela precisa ser apurada e citada como qualquer outro dado.

Porque cálculo jurídico não é aritmética: é aplicação encadeada de norma a fato, em que cada etapa depende de uma qualificação correta da anterior. Um gerador de texto produz a sequência mais plausível de números e de passos, o que é diferente de executar a regra. Quando a premissa está errada — a data considerada, o marco aplicável, a pena de referência — o resultado sai igualmente bem formatado, e a formatação é o que engana.

É o problema específico deste tipo de tarefa: a saída parece uma conta, e conta se confere refazendo. Só que refazer exige reconstruir as premissas jurídicas, que é exatamente o trabalho que se tentou economizar. Conferir a aritmética de um cálculo cuja premissa está errada confirma o erro com mais confiança do que antes.

Acertar sem método verificável não resolve o problema, porque não se sabe se o acerto se repete no caso seguinte. Um resultado correto obtido por caminho não auditável tem, para fins profissionais, o mesmo valor de um resultado incorreto: nenhum dos dois pode ser sustentado perante alguém que pergunte como se chegou ali.

Tem, e agravado. A dosimetria envolve valoração — atribuir peso a circunstâncias concretas do caso e da pessoa — e valoração não é operação aritmética. Uma saída automatizada apresenta uma pena com aparência de resultado calculado, quando o que houve foi a reprodução de um padrão frequente em textos semelhantes. É valoração disfarçada de cálculo.

Não é inútil: é imprópria para produzir o resultado. Ela ajuda a organizar a informação de que o cálculo depende — reunir as datas relevantes com indicação de onde cada uma está nos autos, listar o que precisa ser verificado, apontar o que falta nos autos para que o cálculo seja possível. O cálculo em si é feito por quem responde por ele, com a norma aberta.

Nos dois temas, o erro tem consequência direta sobre liberdade e sobre prazo. Um marco considerado errado pode levar a deixar de arguir algo no momento em que era possível, ou a arguir o que não cabia. É por isso que essas duas tarefas ficam do lado indelegável da fronteira: passam nos testes da valoração e da liberdade.