RAG explicado: IA que responde com os SEUS dados

Imagina a cena: um cliente entra no chat da sua loja e pergunta se a garantia cobre defeito na bateria do produto que ele comprou em março. O chatbot responde certinho, citando a política de garantia da sua empresa, o prazo específico daquele produto e até o procedimento pra abrir o chamado. Pergunta que deveria te incomodar: como, se o ChatGPT nunca leu a política de garantia da sua empresa e não faz ideia de quem você é?

A resposta é uma técnica chamada RAG, e se você pesquisou o que é RAG, aqui vai a explicação sem sigla pelo meio: RAG é um sistema em que a IA, antes de responder, busca a informação nos seus documentos e escreve a resposta com base no que encontrou ali. O chatbot do exemplo consulta o catálogo e a política de garantia, não a memória do treinamento. A sigla vem de Retrieval-Augmented Generation, “geração aumentada por busca”, e essa é a última vez que a sigla importa neste texto.

A analogia que sempre funciona: a IA sozinha faz prova de memória fechada, respondendo com o que absorveu no treinamento, com data de corte e sem nada sobre a sua empresa. O RAG transforma a prova em consulta com o livro aberto na página certa.

Por que a IA não conhece a sua empresa?

Dois motivos, e entender os dois evita frustração cara.

Primeiro, o treinamento é congelado no tempo. O modelo aprendeu com uma montanha de textos públicos até uma certa data e parou. Seus contratos, seus preços, sua política de RH e seu histórico de clientes nunca passaram por lá, e ainda bem, porque são seus.

Segundo, a memória de conversa é finita. Você até pode colar documentos no chat, e pra volumes pequenos isso resolve, mas existe um limite de quanto cabe de cada vez, o que eu explico em janela de contexto. Quando sua base é o manual de 400 páginas mais dez anos de chamados de suporte, colar deixa de ser opção. É esse buraco que o RAG preenche.

Como o RAG funciona, sem jargão

O fluxo tem três passos, e você vai ver que não tem mágica nenhuma.

Passo um: preparação. Seus documentos (manuais, contratos, políticas, atas, o que você decidir) são quebrados em trechos e organizados num índice que permite busca por significado. Buscar por significado quer dizer que a pergunta “posso devolver o produto?” encontra o trecho sobre “política de trocas e arrependimento” mesmo sem nenhuma palavra em comum.

Passo dois: busca. Quando alguém pergunta algo, o sistema procura nesse índice os trechos mais relacionados com a pergunta. Uns cinco ou dez pedaços de texto, os mais relevantes.

Passo três: resposta. Esses trechos são entregues pra IA junto com a pergunta e uma instrução do tipo “responda usando apenas o material abaixo”. A IA escreve a resposta ancorada naquilo, e o sistema bem feito mostra de qual documento cada informação saiu.

É como dar um manual pra um atendente novo e ensinar ele a procurar a página certa antes de abrir a boca. O atendente continua sendo quem conversa; o manual é a fonte da verdade.

O que o RAG resolve e o que não resolve

Resolve três dores reais. A informação fica atualizada: mudou a política, atualizou o documento, a resposta muda junto, sem retreinar nada. As respostas ganham fonte: dá pra clicar e conferir o documento original, o que muda o jogo em ambiente corporativo. E a invenção de fatos cai bastante, porque a IA responde com o texto na frente em vez de puxar da memória. Cai bastante. Não desaparece, e leia alucinação de IA antes de prometer o contrário pro seu chefe.

Agora, o que ninguém te conta no anúncio: RAG em cima de base ruim produz resposta ruim com aparência de oficial. Se os seus documentos estão desatualizados, se existem três versões conflitantes da mesma política, se metade do conhecimento da empresa vive na cabeça das pessoas, o sistema vai buscar e encontrar exatamente essa confusão. Dado ruim, resultado ruim. Na minha experiência, a maior parte do trabalho de um projeto sério de RAG é arrumar e curar os documentos, e a menor parte é a tecnologia.

Você precisa de RAG ou de algo mais simples?

Opinião de operador, contra o interesse de quem vende projeto grande: a maioria das pessoas que chega perguntando de RAG precisa de algo mais simples primeiro.

Se a sua base cabe em algumas dezenas de documentos, o NotebookLM (gratuito, do Google) já faz busca com fontes citadas sem uma linha de código. Se o que você quer é um assistente com o contexto do seu negócio pra uso individual ou de um time pequeno, um Projeto ou GPT personalizado resolve, e o caminho completo está em como criar um assistente de IA da sua empresa.

RAG de verdade, com índice próprio e integração aos seus sistemas, entra quando o volume é grande, a informação muda com frequência e várias pessoas ou clientes precisam consultar ao mesmo tempo. Base de conhecimento de suporte, biblioteca de contratos, histórico técnico de engenharia. Nesse cenário ele deixa de ser luxo e vira infraestrutura. Sobre custo, a régua honesta: as opções prontas vão de zero a algumas centenas de reais por mês, e o projeto sob medida entra na casa das dezenas ou centenas de milhares, mais a manutenção. Entre um extremo e outro existe um mundo, e é por isso que a ordem certa é testar barato antes de assinar caro.

As quatro perguntas pra fazer a quem vende RAG

Se você chegar ao ponto de conversar com fornecedor, leve estas perguntas, porque as respostas separam quem sabe do que fala de quem decorou o pitch.

Uma: “como o sistema mostra a fonte de cada resposta?”. Se a demonstração não exibe de qual documento e trecho a informação saiu, agradeça e encerre, porque sem fonte não existe auditoria.

Duas: “o que acontece quando a resposta não está na base?”. A resposta certa é alguma versão de “o sistema diz que não encontrou”. Qualquer fornecedor que garantir que o sistema nunca inventa está mentindo, e essa frase eu sustento em qualquer mesa.

Três: “como os documentos são atualizados e quem faz isso?”. Base de conhecimento é coisa viva, muda toda semana; se a atualização depende de abrir chamado pro fornecedor, o custo real do projeto está escondido na manutenção.

Quatro: “onde ficam os meus dados e quem tem acesso?”. Seus documentos vão ficar em algum servidor; o contrato precisa dizer qual, com que proteção e com que garantia de que não treinam modelo de ninguém.

Faça isso agora

Teste o conceito hoje, de graça, em vinte minutos. Pegue cinco documentos reais do seu trabalho (política interna, manual, contrato padrão), suba no NotebookLM e faça as perguntas que seu time responde toda semana. Repare em duas coisas: a qualidade das respostas com fonte citada e, mais revelador, os buracos que aparecerem, porque pergunta sem resposta boa denuncia documento que não existe ou está confuso. Esse teste de vinte minutos te diz mais sobre a sua necessidade de RAG do que qualquer reunião com fornecedor.

Se o teste te convencer e a conversa virar projeto, com escopo, fornecedor e arquitetura na mesa, eu ajudo empresas a tomar essa decisão sem comprar complexidade desnecessária, em consultoria e mentoria. Escreve pra contato@thiagocaserta.com contando qual base de conhecimento você quer destravar.