O cérebro que mora fora: sobre IA na prática jurídica

Por Vinicius Abrantes — Consultor Jurídico

O segundo cérebro é cérebro enquanto alguém o comanda, e vira muleta quando o dono não sabe o que pedir nem o que recusar.

Quem decorou o telefone de dez amigos? Quase ninguém, e ninguém acusa a agenda de roubar a memória. A pergunta que o modelo de linguagem recoloca é a da agenda em escala maior: onde termina o pensamento de alguém e onde começa a ferramenta?

Confesso o preconceito que me ocorre primeiro. Pensar, diz o senso comum, é o que se faz sem ajuda, e o resto é trapaça. Defendo a tese contrária. Pensar sempre foi trabalho misto, de cabeça, papel, conversa e planilha. A filosofia da mente formulou o princípio de paridade: se uma função exercida fora do crânio fosse chamada de cognição caso exercida dentro, a função externa também é cognição. O princípio vale para a agenda, vale para a calculadora e vale para o modelo de linguagem (Claude, GPT, Mistral, Copilot etc.).

Vale com condições. Uma ferramenta merece o nome de segundo cérebro quando passa por quatro testes: a) está sempre por perto; b) responde sem esforço; c) merece confiança; e d) tem origem conhecida, isto é, o dono sabe de onde veio a informação e a aprovou (auditável, transparente, explicável). O modelo de linguagem (LLM) passa nos dois primeiros com folga. O terceiro depende de conferência do usuário. O quarto é o mais frágil, porque o modelo escreve o que o dono não escreveu.

Explico o que o segundo cérebro faz bem. Segura o fio de dez hipóteses enquanto o dono examina a décima primeira. Lê um calhamaço de documentos e devolve um mapa (sumário, resumo, inferências). Confronta a tese com a melhor objeção, a pedido. Rascunha, e o dono descobre o que pensa ao ler o que não pensou. Responde, e a resposta provoca. Nada disso substitui o pensamento, nem a responsabilidade. O trabalho de lembrar e transcrever se desloca para o de escolher e recusar, de modo informado e sob a sua responsabilidade pessoal.

Os limites são concretos. O modelo desconhece o que o dono (usuário) sabe e o que o dono omitiu. Responde com a mesma fluência quando acerta e quando erra. Não responde pelo que escreve, e a assinatura continua a ser do dono (compliance e accountability). Convém ainda saber para onde vai o que se digita, sobretudo quando o assunto é relevante, com impacto em terceiros, especialmente no domínio jurídico. Ainda mais quando sigiloso.

Spacca

Imagine um leitor que pede ao modelo o resumo de um livro que nunca abriu. O resumo vem limpo, organizado, com ar de leitura feita, completa e refletida. Dali em diante o leitor cita o livro, e a citação carrega um erro que só quem abriu o livro perceberia. Pois é: o segundo cérebro herdou a lacuna do primeiro e a vestiu de certeza.

Andy Clark, em Extending Minds with Generative AI (Nature Communications, 2025), sustenta que a IA generativa continua a prática humana de estender a mente, e põe uma condição: habilidades metacognitivas para saber quando confiar em qual recurso, sob o risco de aceitar sem crítica o que o sistema oferece. Sparrow, Liu e Wegner (Science, 2011, relato da Universidade Columbia) concluíram que lembramos menos a informação e mais o lugar onde achá-la. Uma pesquisa de Microsoft Research e Carnegie Mellon com 319 trabalhadores do conhecimento (CHI 2025, relatada pelo The Register) associou a confiança na IA a menos esforço de pensamento crítico, e a autoconfiança na tarefa a mais. O esforço, dizem os autores, passa de coletar informação para verificá-la.

Verificar exige saber o que olhar. Quem tem repertório percebe a dissonância, a frase que soa certa e destoa do que conhece, estabelecendo mecanismos de salvaguarda cognitiva. Quem não tem repertório [competências: conhecimentos, habilidades ou experiência], recebe uma resposta e a sensação ingênua de saber, e a sensação basta para assumir como se fosse verdadeiro, muitas vezes assinando sem conferir. Que maravilha: o modelo escreve com a segurança de quem estudou, e o leitor sem repertório lê com a segurança de quem entendeu. É a receita da tragédia digital.

Três hábitos separam o cérebro auxiliar da muleta

Em primeiro lugar, formar a resposta provável antes de perguntar, para medir a distância entre o esperado e o recebido. Em segundo lugar, pedir ao modelo a melhor objeção à própria resposta. Em terceiro lugar, conferir no que se conhece o ponto em que a resposta apoia a conclusão.

Em suma, o segundo cérebro (modelos de linguagem) amplia quem já tem o que ampliar. Logo, serve de suporte em apoio. A agenda guarda o telefone; o modelo propõe o telefone. O modelo precisa de uma camada necessária: a conferência superveniente de quem o acionou. Mas se quem pediu, não sabe conferir, então, amplia o risco do desastre cognitivo. Se o segundo cérebro pensa depressa e o primeiro cérebro não sabe ou desaprende a conferir, quem, afinal, comanda? Inteligência artificial generativa serve de segundo cérebro, não de primeiro. O usuário sem capacidade de reflexão crítica ou de métodos eficazes de conferência, caminha em direção à tragédia. Estabelecer os limites e possibilidades do uso de IAGenerativa no jurídico é um desafio mundial. Embora todos corram riscos, amadores ficam mais expostos. Longe de abandonar o uso, a tarefa atual é o letramento digital. Boa sorte.

P.S.: Hoje é aniversário de Gisela. Um beijo de seu irmão Alexandre.

O post O cérebro que mora fora: sobre IA na prática jurídica apareceu primeiro em Consultor Jurídico.

Fonte: Consultor Jurídico