Alucinação de IA: por que o ChatGPT inventa coisas

Um advogado precisava reforçar uma petição e pediu ajuda ao ChatGPT. A ferramenta entregou seis jurisprudências: números de processo, nomes de partes, trechos de decisões, tudo formatado do jeito que tribunal gosta. Ele colocou na petição e protocolou.

As seis eram inventadas. Tudo plausível. Tudo falso. O juiz verificou, o advogado foi multado, e o caso rodou o mundo como o exemplo perfeito do fenômeno que você veio entender. Alucinação de IA é isso: o modelo gera informação falsa com total fluência e total confiança, sem nenhum sinal visível de que está inventando. Nomes, números, datas, citações, leis, estudos científicos: tudo pode sair fabricado, embrulhado no mesmo tom seguro das respostas corretas.

E aqui vai a parte que a maioria dos textos sobre o assunto erra: alucinação não é um defeito que uma atualização vai consertar. É consequência direta de como a ferramenta funciona. Entender o motivo muda seu jeito de usar IA pra sempre, então vamos ao motivo.

Por que o ChatGPT inventa, se ele “leu a internet inteira”?

O ChatGPT gera texto prevendo a próxima palavra provável, com base nos padrões de tudo que processou no treinamento. Detalhei essa mecânica no artigo sobre como o ChatGPT funciona por dentro, mas a frase que resume é esta: o objetivo do treinamento é gerar texto coerente. Verdadeiro não faz parte do objetivo. Coerente e verdadeiro costumam coincidir, porque a maior parte do que ele processou é razoavelmente correta. Mas quando a informação exata não está bem gravada nos padrões, o modelo não para nem avisa. Ele preenche a lacuna com o que soa certo.

Pensa no que aconteceu com o advogado. O modelo processou milhares de petições e decisões, então sabe perfeitamente a cara de uma jurisprudência: o formato do número, o estilo da ementa, o tom da linguagem jurídica. Na hora de citar uma decisão específica que sustentasse aquela tese, ele gerou a jurisprudência mais provável estatisticamente. Uma que poderia existir. Só que não existia.

O modelo não mentiu, porque mentir exige saber a verdade e esconder ela. Ele fez exatamente aquilo pra que foi construído: produzir o texto mais plausível possível. A falha foi de quem tratou um gerador de texto plausível como fonte de fatos.

Eu vivi a mesma armadilha construindo produto de verdade. Na Movestax, a empresa que fundei e depois vendi pro Magalu, usávamos IA pesado no desenvolvimento, e num desses dias ela me recomendou uma biblioteca de código com toda a segurança do mundo: nome plausível, função descrita em detalhe, até exemplo de uso. A biblioteca não existia. Nunca existiu. Era o caso do advogado em outro terreno: o modelo conhecia perfeitamente o padrão de uma biblioteca, e gerou uma que deveria existir. Quem já foi mordido uma vez desenvolve o reflexo de conferir. Este artigo existe pra você desenvolver o reflexo sem precisar da mordida.

“Mas e se a IA buscar na internet antes de responder?”

Boa objeção, e ela tem fundamento parcial. Os modelos atuais conseguem pesquisar na web, e isso reduz bastante o problema pra fatos recentes e verificáveis. Reduz. A frase que uso desde o meu livro continua valendo: a internet não cura alucinação, porque o modelo pode buscar a coisa errada e não perceber. Ele pode ler uma fonte ruim e resumir com confiança, pode misturar dois assuntos parecidos, pode citar a página certa e extrair o dado errado dela.

Minha regra prática: busca na web transforma a IA de “inventora ocasional” em “estagiário apressado que pesquisou no Google”. É melhor? Muito melhor. É confiável sem conferência? Nem perto. Escrevi um guia inteiro sobre quando dá pra confiar no ChatGPT que desenvolve esse ponto.

E desconfie de quem prometer o contrário: qualquer fornecedor que disser que o sistema dele não alucina está mentindo. A trajetória, pra ser justo, é de melhora real. As taxas de invenção caíram bastante de uma geração de modelo pra outra, e os melhores sistemas hoje citam fontes por padrão. Só que melhora de taxa muda a frequência do problema, e seu método de proteção precisa funcionar pra frequência que sobrar. Zero, nenhuma ferramenta séria promete.

A pergunta certa não é “a IA alucina?”

É: “quando ela alucinar, o que acontece?” Porque ela vai alucinar. A questão útil é o custo do erro em cada uso, e é essa conta que separa uso inteligente de uso ingênuo.

Brainstorm de nomes pra campanha? Custo do erro: zero. Alucinação nem faz sentido como conceito aqui, você só descarta as ideias ruins. Resumo de um relatório interno que você mesmo vai reler? Custo baixo, o original está na sua mão. Número que vai pra proposta de cliente, dosagem de remédio, jurisprudência em petição? Custo alto ou altíssimo. Nesses casos, cada fato passa por verificação humana, sem exceção.

Repara que a resposta nunca é “então abandone a ferramenta”. A resposta é dosar a confiança pelo estrago que um erro causaria. O advogado da história poderia ter usado o ChatGPT tranquilamente pra estruturar o argumento da petição, e conferido as seis jurisprudências em dez minutos no site do tribunal. A ferramenta era a mesma. O método é que faltou.

Como se proteger na prática

Quatro hábitos que uso todo dia. Uma: separe mentalmente o que a IA gera em duas pilhas, “texto e estrutura” numa, “fatos e números” na outra. A primeira pilha você edita; a segunda, você confere na fonte. Dois: peça as fontes e abra os links, porque link inventado quebra na hora, e essa é a verificação mais barata que existe. Três: quando o assunto for crítico, pergunte à própria IA “o que nessa resposta pode estar errado ou desatualizado?”, que ela mesma aponta fragilidades com frequência surpreendente. Uso esse pedido antes de qualquer material que sai com meu nome, e ele já me segurou de repassar estatística envelhecida mais de uma vez. Quatro: nunca repasse adiante um fato gerado por IA que você não conseguiria defender se alguém perguntasse “de onde você tirou isso?”.

Esse último hábito é o que separa profissional de amador no uso de IA. A ferramenta gera; a responsabilidade pelo que sai com o seu nome continua sendo sua, inteira.

Faça isso agora

Teste de dez minutos pra vacinar você de vez. Abra o ChatGPT e peça: “Liste 5 livros do autor brasileiro [escolha um autor de nicho, conhecido mas sem fama nacional] com ano de publicação e editora.” Depois confira os títulos numa busca rápida.

Dependendo do autor, você vai encontrar de tudo: livros reais, anos trocados, editoras erradas e às vezes um título que nunca existiu, descrito com a maior naturalidade. Guarde a sensação de ler aquela lista confiante sabendo que parte dela é fabricada. É essa memória que vai te salvar no dia em que a informação inventada for importante. E compartilhe o teste com alguém do seu time: essa vacina funciona melhor aplicada em grupo.

A alucinação é o motivo número um pelo qual eu insisto em método em vez de mágica. No IA sem Enrolação, o fluxo de trabalho já vem com as etapas de verificação embutidas, pra você extrair velocidade da IA sem assinar bobagem com seu nome. Quando fizer sentido, o material está em ia.thiagocaserta.com/comprar.