Arquitetura de Agentes

Como criar uma Base de Conhecimento (RAG) que não alucina

Por Edson Gatto · · 12 min de leitura

O Problema das Alucinações

Você implementou RAG. Conectou seus documentos. E a IA continua inventando informação.

Frustrante? Sim. Evitável? Também.

Por Que RAG Falha

1. Chunking Errado

Cortar documentos em pedaços arbitrários destrói contexto.

  • Parágrafo cortado no meio = informação incompleta
  • Chunk muito grande = ruído demais
  • Chunk muito pequeno = sem contexto

2. Embedding Genérico

Usar embedding padrão para domínio específico é receita para erro.

  • Termos técnicos não são bem representados
  • Sinônimos do seu negócio são ignorados
  • Contexto semântico se perde

3. Retrieval Burro

Buscar os 3 chunks "mais similares" não significa buscar os mais úteis.

  • Similaridade ≠ Relevância
  • Chunks repetitivos desperdiçam contexto
  • Informação crítica fica de fora

A Arquitetura Que Funciona

Passo 1: Chunking Inteligente

Documento → Seções Lógicas → Chunks com Overlap → Metadados

  • Respeite a estrutura do documento
  • Use overlap de 10-20% entre chunks
  • Adicione metadados: fonte, data, categoria

Passo 2: Embedding Especializado

  • Fine-tune ou escolha modelo adequado ao domínio
  • Teste com queries reais do seu caso de uso
  • Avalie precision e recall, não só similaridade

Passo 3: Retrieval Híbrido

  • Combine busca semântica + keyword
  • Use reranking para priorizar relevância
  • Implemente filtros por metadados

Passo 4: Prompt com Guardrails

"Responda APENAS com base no contexto fornecido. Se a informação não estiver no contexto, diga 'Não encontrei essa informação na base.'"

Métricas de Qualidade

Não confie no "parece bom". Meça.

  • Faithfulness: Resposta é fiel ao contexto?
  • Relevance: Contexto recuperado é relevante?
  • Groundedness: Resposta está fundamentada nos documentos?

Conclusão

RAG não é "conectar documentos e torcer".

É engenharia de conhecimento. Cada etapa importa.

Faça certo ou não faça.