RAG, LLM e IA generativa explicados para quem decide: o que cada um faz e quanto custa

Atualizado em 13 de novembro de 2026. Os preços de modelos mudam em semanas; todos os valores abaixo trazem fonte e data.

RAG, LLM e IA generativa aparecem juntos em quase toda proposta de IA para empresas, e costumam ser tratados como sinônimos. Não são. A IA generativa é a categoria; o LLM (grande modelo de linguagem) é o motor que escreve as respostas; o RAG é a técnica que consulta os dados da empresa antes de o modelo responder. Cada camada tem um custo diferente, e a mais cara quase nunca é o modelo.

Este guia é para CTOs, CIOs e líderes de tecnologia que precisam explicar o tema à diretoria ou avaliar propostas de fornecedores. Ele define cada termo, mostra como se conectam e apresenta a conta, com preços datados, premissas declaradas e fontes. O mercado já move cifras altas: o Gartner prevê US$ 28,3 bilhões em gastos com modelos de IA generativa em 2026, alta de 117% sobre 2025 (uma previsão de gasto, não um resultado medido).

O que é IA generativa?

IA generativa é a categoria de inteligência artificial que cria conteúdo novo (texto, código, imagem, áudio) a partir de padrões aprendidos em dados de treinamento. A McKinsey a descreve como algoritmos, como o ChatGPT, capazes de criar novos conteúdos; nos modelos de texto, o treinamento é auto-supervisionado: o sistema lê grandes volumes de texto e aprende a prever o que vem a seguir.

Nas empresas, os usos típicos são resumir documentos, redigir rascunhos, gerar código e responder perguntas (exemplos ilustrativos, não um levantamento). Duas ressalvas valem para qualquer decisão: nem toda IA generativa trabalha com texto (há modelos de imagem e de áudio), e gerar um conteúdo plausível não é o mesmo que gerar um conteúdo correto.

O que é um LLM?

Um LLM (Large Language Model, ou grande modelo de linguagem) é um modelo de IA treinado em grandes volumes de texto para prever e gerar linguagem; é o motor de chatbots e assistentes de texto. Segundo a Fast Company Brasil, a base técnica é a arquitetura transformer, apresentada em 2017; o texto é dividido em tokens (palavras, partes de palavras ou caracteres), e o modelo calcula, a cada passo, qual é o próximo termo mais provável.

Para quem decide, três limites importam:

• Conhecimento congelado: o modelo sabe o que viu até a data do treinamento.
• Ignorância sobre a empresa: ele não conhece seus contratos, políticas, produtos ou sistemas.
• Alucinação: pode produzir respostas fluentes e erradas.

Treinar um modelo do zero está fora do alcance da maioria das empresas: a McKinsey cita uma estimativa de terceiros segundo a qual o GPT-3 foi treinado com cerca de 45 TB de texto, a um custo de alguns milhões de dólares. Por isso, as empresas usam modelos prontos e pagam por uso, via API (interface que permite acessar o modelo por software).

O que é RAG?

RAG (Retrieval-Augmented Generation, em português, geração aumentada por recuperação) é uma técnica que busca trechos relevantes em uma base de dados e os entrega ao LLM como contexto antes da resposta, em vez de depender só do que o modelo aprendeu no treinamento. A ideia vem de um artigo de Lewis e colegas, de 2020; o Google Cloud a descreve como a combinação de sistemas de recuperação de informação (busca, bancos de dados) com modelos generativos.

O fluxo tem quatro etapas, repetidas a cada pergunta:

1. Indexar: os documentos da empresa são limpos, divididos em trechos e convertidos em vetores numéricos (embeddings).
2. Recuperar: a pergunta do usuário é convertida do mesmo modo, e o sistema busca os trechos mais próximos em significado.
3. Montar o contexto: a pergunta e os trechos escolhidos formam o pedido enviado ao modelo.
4. Gerar: o LLM escreve a resposta com base nesse material, idealmente citando a fonte.

Onde fica a base: o banco de dados vetorial

O banco de dados vetorial armazena os trechos em forma de vetores, o que permite buscar por significado, não só por palavra exata. É um componente de infraestrutura, e a escolha entre as opções de mercado costuma pesar menos do que a qualidade dos dados que entram nele.

A recuperação decide a qualidade

Em RAG, o modelo só responde bem se o trecho certo chegar até ele. Em testes da Anthropic sobre Contextual Retrieval, a taxa de falha na recuperação dos 20 primeiros trechos caiu de 5,7% para 3,7% com embeddings contextuais, para 2,9% com a adição de busca por palavra-chave (BM25) e para 1,9% com a etapa de reranking (reordenação dos resultados). O ganho veio de melhorar a busca, sem trocar o modelo.

Um detalhe conceitual: o RAG não funciona sozinho. Ele apenas encontra a informação; quem redige a resposta é o LLM. Como resume o blog da Perplexity, dá para usar um modelo sem RAG, mas não dá para usar RAG sem um modelo.

Como os três se encaixam

A tabela resume o papel de cada peça (o agente de IA entra como o passo seguinte):

Uma analogia para a diretoria: o LLM é um redator experiente que leu muito, mas não conhece a sua empresa; o RAG é o arquivo que ele consulta antes de escrever; o agente é esse mesmo redator com permissão para também executar tarefas nos sistemas. Quando o modelo, além de consultar os dados, passa a agir, o nome é agente de IA (veja [LINK: post “Agentes de IA para empresas”]).

Quanto custa

O modelo é a parte mais barata e a que mais muda; o custo está em dados, integração e operação. A conta se divide em quatro camadas.

1. Modelo (tokens)

Paga-se por milhão de tokens, com preços separados para entrada (o que você envia) e saída (o que o modelo devolve). A faixa é ampla: de US$ 0,01 a US$ 30 por milhão de tokens de entrada, e de US$ 0,02 a US$ 180 de saída, segundo o G2 (jun/2026). A mediana de 177 modelos acompanhados pelo BenchLM (29/09/2026) é de US$ 0,95 na entrada e US$ 3,75 na saída, e os preços dos modelos de ponta estão 81,3% abaixo do nível de março de 2023. Como preços de lista de referência, o Hora de Codar (26/10/2026) informa US$ 2 (entrada) e US$ 10 (saída) para o Claude Sonnet 5.5, e US$ 4 e US$ 20 para o Opus 5.5.

2. Dados e indexação

Limpar documentos, dividi-los em trechos, gerar embeddings e manter o índice atualizado consome de 40% a 50% do esforço de engenharia de um projeto de RAG, segundo a RaftLabs (empresa que vende esse serviço). Para melhorar a recuperação, a técnica de Contextual Retrieval teve custo estimado pela Anthropic em cerca de US$ 1,02 por milhão de tokens de documento, uma vez só, com cache de prompt (estimativa feita com o modelo da época, segundo o Hora de Codar).

3. Construção

As faixas abaixo são estimativas de fornecedores de serviço, em dólar, e variam sobretudo com a complexidade dos dados; não são preços de mercado.

Os prazos informados vão de 2 a 22 semanas, conforme o escopo. Boa parte do trabalho é engenharia de software comum: integração, autenticação, controle de acesso e testes. Para equipes sem capacidade interna nessa etapa, a NextAge oferece squads full-stack dedicados em Projetos de software.

4. Operação

A RaftLabs estima de US$ 300 a US$ 2.500 por mês de operação (hospedagem, monitoramento, reindexação), e indica que, em cerca de 10.000 consultas mensais, a maioria dos casos fica entre US$ 400 e US$ 800. Acima de 100.000 consultas por mês, ou de 1 milhão de trechos indexados, a faixa sobe para US$ 2.000 a US$ 5.000.

A conta por consulta, com premissas

O custo de uma consulta depende dos tokens enviados e recebidos:

custo por consulta = (tokens de entrada × preço de entrada + tokens de saída × preço de saída) ÷ 1.000.000

Como exemplo, suponha 3.000 tokens de entrada (a pergunta mais os trechos recuperados), 500 tokens de saída e 10.000 consultas por mês, a preços de lista, sem desconto. É um cálculo da NextAge com base nas fontes acima, não um dado de pesquisa:

Para comparar: colocar uma base inteira de 200.000 tokens no prompt a cada pergunta, no Sonnet 5.5, custa US$ 0,40 de entrada por consulta (US$ 4.000 por mês); com leitura de cache a US$ 0,20 por milhão de tokens, cai para US$ 0,04 (US$ 400 por mês), sem contar a saída nem a escrita do cache. É por isso que o RAG tende a sair mais barato por pergunta quando a base é grande.

O que levar à diretoria: o gasto com o modelo é pequeno e previsível; o orçamento a defender é o de dados, integração e operação.

RAG, contexto longo ou fine-tuning

Há três formas de fazer um modelo responder com os dados da empresa. Segundo o Hora de Codar (26/10/2026), a disputa real hoje é entre RAG e contexto longo; o fine-tuning (reajuste do modelo com dados próprios) ficou como ferramenta de nicho, para tom e formato.

Fonte: Hora de Codar (26/10/2026), adaptada. Confirme as condições vigentes na documentação de cada fornecedor.

Riscos que o RAG não resolve

Alucinação. O RAG reduz o problema, não o elimina. Um estudo da Stanford, publicado no Journal of Empirical Legal Studies (2025), testou ferramentas jurídicas comerciais baseadas em RAG e encontrou respostas incorretas em 17% a 33% das consultas, abaixo do GPT-4 usado sem recuperação, mas longe de zero. O estudo é do domínio jurídico dos EUA; o resultado não se transfere automaticamente a outros setores, mas mostra que a qualidade da recuperação e dos dados define o resultado.

Dados pessoais e confidenciais. O trecho recuperado vai ao modelo; por isso, é preciso definir onde o modelo roda, controlar o acesso por usuário e registrar o uso. Dados pessoais exigem base legal e os cuidados previstos na LGPD (Lei 13.709/2018).

Segurança. Documentos recuperados podem conter instruções maliciosas capazes de desviar o comportamento do modelo (prompt injection).

Dez perguntas para fazer ao fornecedor

1. Quais fontes de dados entram, e quem mantém a atualização?
2. Como são feitas a divisão dos documentos e a recuperação (busca híbrida, reranking)?
3. Como a qualidade das respostas é medida (conjunto de perguntas de teste, taxa de acerto)?
4. A resposta cita a fonte?
5. Onde o modelo roda, e para onde vão os dados?
6. Como o acesso é controlado por usuário?
7. Qual o custo por consulta, e com quais premissas?
8. O que acontece com o custo se o volume dobrar?
9. Como trocamos de modelo sem refazer o sistema?
10. Quem opera, monitora e responde por incidentes?

Do RAG ao agente de IA

Um RAG responde perguntas. Quando a empresa quer que o sistema também aja (abrir chamados, conferir faturas, atualizar o CRM), entra o agente de IA: um modelo com acesso a ferramentas e sistemas, dentro de limites de autonomia definidos. A diferença entre agente, workflow e RPA está em Agentes de IA para empresas.

Na NextAge, os agentes de IA são integrados a ERP, CRM e sistemas internos, e a base de conhecimento (RAG) é uma das frentes do trabalho, junto com orquestração, monitoramento e governança. O projeto começa pela identificação dos gargalos e pela definição das métricas de retorno antes da implementação.

Perguntas frequentes

O que é RAG?

RAG (Retrieval-Augmented Generation) é uma técnica que busca trechos relevantes em uma base de dados da empresa e os entrega a um LLM como contexto antes de ele responder. Assim, a resposta usa informação atual e própria, não só o que o modelo aprendeu no treinamento.

Qual a diferença entre LLM e IA generativa?

IA generativa é a categoria; LLM é um tipo de modelo dentro dela, especializado em linguagem. Nem toda IA generativa é um LLM (há modelos de imagem e áudio), mas os assistentes de texto usados nas empresas são baseados em LLMs.

RAG elimina as alucinações da IA?

Não: reduz, mas não elimina. Um estudo da Stanford (2025) com ferramentas jurídicas que usam RAG encontrou respostas incorretas em 17% a 33% das consultas, menos que no GPT-4 puro. A qualidade da recuperação e dos dados define o resultado.

Quanto custa implementar RAG?

Estimativas de fornecedores, em dólar: de US$ 10.000 a 25.000 para um RAG básico e de US$ 25.000 a 60.000 para um de produção, mais US$ 300 a 2.500 por mês de operação (Scalacode; RaftLabs). O maior custo está em dados e integração, não no modelo. Peça proposta com as premissas.

Quanto custa usar um LLM por API?

Cobra-se por milhão de tokens, de US$ 0,01 a US$ 30 na entrada, conforme o modelo (G2, jun/2026). Com 3.000 tokens de entrada e 500 de saída por consulta, um modelo a US$ 2 e US$ 10 custa cerca de US$ 0,011 por consulta (cálculo da NextAge).

Quando usar RAG, fine-tuning ou contexto longo?

Contexto longo serve a bases pequenas e estáveis; RAG, a bases grandes, que mudam ou exigem citar a fonte; fine-tuning, a ajustar tom e formato. Em geral, não é a forma de ensinar fatos novos ao modelo.

RAG é seguro para dados confidenciais e a LGPD?

Depende da arquitetura: defina onde o modelo roda, controle o acesso por usuário e registre o uso. Dados pessoais exigem base legal e cuidados previstos na LGPD (Lei 13.709/2018). Recomenda-se revisão jurídica antes de produção.

Próximo passo

Se você já tem um caso de uso em mente, fale com um especialista da NextAge para desenhar o plano.