PT
RAG

O que é RAG? Explicação simples e RAG vs fine-tuning

Neurotrack8 min de leitura
Esquema de um sistema RAG: pergunta, pesquisa nos documentos e resposta
Índice
  1. O que é RAG, explicado de forma simples
  2. Como funciona o RAG em 4 passos
  3. Onde o RAG ajuda uma empresa
  4. RAG vs fine-tuning: qual escolher
  5. O RAG pode enganar-se?
  6. O RAG é seguro para os seus dados?
  7. Quanto custa um sistema RAG e quanto tempo demora
  8. Vamos analisar o seu caso
  9. Fontes

O RAG é uma forma de fazer com que um assistente de IA procure a resposta nos documentos da sua empresa antes de responder. Responde com base nas suas políticas, contratos e base de conhecimento, e não de memória ou com o que está na internet. Para um negócio, isto significa menos respostas inventadas e um chatbot a quem pode confiar clientes e colaboradores.

A seguir explicamos o que é RAG em linguagem simples, como funciona, onde ajuda e qual a diferença entre RAG vs fine-tuning. Sem fórmulas nem jargão.

O que é RAG, explicado de forma simples

RAG é a sigla de Retrieval-Augmented Generation, ou seja, «geração aumentada por pesquisa». Dito de forma simples: primeiro procura, depois responde. O sistema pesquisa os seus documentos e só então escreve a resposta.

Um chatbot comum baseado num modelo de linguagem (como o ChatGPT) só sabe o que viu durante o treino. Nunca viu as suas regras internas. Por isso, quando lhe perguntam pela sua empresa, pode inventar uma resposta com toda a confiança. A essas invenções chama-se «alucinações».

Pense num colaborador acabado de chegar. É inteligente e expressa-se bem, mas ainda não conhece as vossas regras. Pode formá-lo durante meses. Ou pode entregar-lhe o manual da empresa e combinar uma coisa: antes de responder a um cliente, encontra a página certa. O RAG é a segunda opção.

O que isto traz na prática:

  • Respostas baseadas nos seus documentos. O sistema mostra de que documento e secção vem cada resposta.
  • Conhecimento fácil de atualizar. Muda uma política e o bot passa a responder de outra forma. Não é preciso voltar a treinar o modelo.
  • Menos respostas inventadas. O modelo responde com o que encontrou, e não de memória.

A abordagem foi descrita por investigadores da Facebook AI em 2020. Desde então, é uma forma habitual de as empresas ligarem a IA aos seus próprios dados.

Como funciona o RAG em 4 passos

Vejamos um exemplo. Um colaborador pergunta ao bot: «Como peço dias de férias?»

  1. Preparar os documentos. Reúnem-se as fontes: a política de RH, manuais, contratos, a base de conhecimento. Servem PDF, folhas de cálculo e páginas web. O sistema divide os documentos longos em excertos curtos, como fichas num arquivo. Assim encontra o parágrafo de que precisa, e não a política inteira.
  2. Pesquisar pelo sentido. O sistema não procura palavras iguais, procura o mesmo sentido. Para isso, converte cada excerto e a própria pergunta num vetor, uma espécie de «impressão digital» numérica do significado. Textos com sentido parecido têm impressões parecidas. Por isso, «como peço dias de férias» encontra a secção «Direito a férias anuais», mesmo com palavras diferentes.
  3. Passar o que encontrou ao modelo. O sistema junta à pergunta os excertos mais próximos. O modelo recebe uma instrução do género: «Esta é a pergunta e estes são excertos da política. Responde só com base neles».
  4. Obter uma resposta com a fonte. O modelo escreve uma resposta curta e clara: «Submeta o pedido de férias no portal de RH; a sua chefia aprova-o». Ao lado aparece uma ligação para a secção da política. Qualquer pessoa pode confirmar com um clique.
A pergunta é convertida num vetor, o sistema encontra os excertos mais próximos nos documentos da empresa e o modelo de linguagem escreve a resposta, indicando a fonte.

Onde o RAG ajuda uma empresa

O RAG é útil sempre que a resposta deve vir dos seus próprios documentos e não de conhecimento geral.

  • Apoio ao cliente. Um cliente pergunta: «Quais são as condições de entrega para a minha cidade?» Um chatbot baseado na base de conhecimento responde com as condições em vigor. Resolve sozinho as perguntas simples e passa as complexas a uma pessoa.
  • Apoio aos colaboradores. Férias, acessos, configuração do portátil, procedimentos internos. Cada um pergunta por palavras suas e recebe a resposta com uma ligação para a norma. Sem esperar que um colega responda no chat.
  • Vendas. Um comercial pergunta por especificações, compatibilidades ou condições de fornecimento em vez de percorrer tabelas de preços.
  • Contratos. Uma diretora pergunta: «Que contratos preveem penalizações por atraso no pagamento?» O sistema encontra as cláusulas certas em muitos contratos. A decisão continua a ser de uma pessoa.
  • Relatórios e documentos. Carrega um relatório ou uma especificação e faz perguntas em linguagem corrente. Isto combina bem com a automatização documental.

RAG vs fine-tuning: qual escolher

Há três formas habituais de adaptar a IA ao seu trabalho.

  • Prompt engineering é escrever com cuidado o prompt, a instrução que dá à IA no próprio pedido. Como um briefing detalhado a um fornecedor: rápido e barato, mas só vale para essa conversa.
  • RAG significa que a IA procura a resposta nos seus documentos sempre que alguém pergunta. Como um colaborador com o manual aberto em cima da secretária.
  • Fine-tuning (ajuste fino) é treinar um pouco mais o modelo com os seus exemplos. Como uma formação longa: a pessoa interioriza um estilo e uma forma de trabalhar, mas regras novas obrigam a nova formação.

Como se comparam:

CritérioPrompt engineeringRAGFine-tuning
Atualidade dos dadosSó o que coloca no pedidoSempre atual: atualiza os documentos e as respostas mudamCongelados no momento do treino
CustoO mais baixoModerado (pesquisa mais armazenamento)Mais alto (preparação de dados mais computação)
Tempo até ao lançamentoHoras–diasDias–semanasSemanas (recolha e anotação de dados)
Proteção contra respostas inventadasBaixaAlta: as respostas têm ligação às fontesMédia: melhora o estilo, mas pode inventar factos
Privacidade dos dadosDepende do fornecedor do modeloOs dados podem ficar no seu perímetroOs dados de treino deixam rasto no próprio modelo

Quando usar cada um:

  • Prompt engineering para tarefas simples e pontuais: reescrever um texto, redigir um email, testar uma ideia depressa.
  • RAG quando as respostas têm de vir dos seus documentos, esses documentos mudam com frequência e é preciso ver a fonte. Por exemplo, um bot de apoio ou uma pesquisa em contratos.
  • Fine-tuning quando precisa de um tom, um formato ou uma tarefa específica sempre iguais. Por exemplo, responder sempre com a voz da marca ou classificar pedidos por tipo.

RAG vs fine-tuning numa linha: o RAG controla o que a IA sabe e o fine-tuning controla como responde. Muitas vezes combinam-se na mesma solução.

O RAG pode enganar-se?

Pode. O RAG reduz as respostas inventadas, mas não as elimina por completo. Eis o que convém prever antes do lançamento:

  • Qualidade dos documentos. Documentos desatualizados ou contraditórios dão respostas desatualizadas ou contraditórias. Elimine primeiro duplicados e versões antigas.
  • Qualidade da pesquisa. Se o sistema não encontrar o excerto certo, a resposta será fraca. Isto afina-se e verifica-se com um conjunto de perguntas de teste.
  • Permissões de acesso. O bot não deve mostrar a um colaborador o que ele não pode ver. As permissões definem-se por documento.
  • Atualizações. Os documentos novos têm de ser acrescentados à pesquisa com regularidade.
  • Revisão humana. Nas decisões importantes, a última palavra é de uma pessoa. Um bom sistema diz «não sei» quando faltam dados.

O RAG é seguro para os seus dados?

Para muitas empresas, a grande questão é para onde vão os documentos. O RAG não obriga a enviá-los para a nuvem de terceiros.

O sistema pode funcionar nos seus próprios servidores (chama-se on-premise), com modelos que correm localmente. Assim, nem os documentos nem as perguntas saem da empresa. Isto conta em finanças, saúde, setor público e serviços jurídicos.

Mais sobre como protegemos os dados na página de segurança e dados.

Quanto custa um sistema RAG e quanto tempo demora

O preço depende do volume de documentos, do número de cenários, das integrações e dos requisitos de segurança. As soluções mais simples custam a partir de 2000 $ e ficam prontas em até 2 semanas. Veja a orientação por pacote na página de preços.

O mais sensato é começar com um piloto num só cenário, como um bot de apoio ou um assistente interno. Verifique as respostas com perguntas reais. Depois, alargue a outras áreas.

Vamos analisar o seu caso

Fale-nos dos seus documentos e objetivos, e sugerimos por onde começar e mostramos como funcionaria no seu caso. Marque uma consulta gratuita.

Fontes

Perguntas frequentes

O que é RAG, explicado de forma simples?

É uma IA que procura a resposta nos seus documentos antes de responder. Mostra a fonte ao lado de cada resposta, para que a possa confirmar.

O que significa RAG em inteligência artificial?

RAG é a sigla de Retrieval-Augmented Generation. A IA começa por recuperar os excertos relevantes dos seus documentos e depois gera a resposta com base neles.

RAG vs fine-tuning: qual me convém?

Se precisa de factos atuais dos seus documentos, escolha RAG. Se precisa de um tom ou formato constantes, o fine-tuning ajuda. Muitas vezes combinam-se.

É possível usar RAG sem enviar dados para a nuvem?

Sim. Um sistema RAG pode ser instalado nos seus próprios servidores com modelos locais, e os dados não saem da empresa.

O RAG pode cometer erros?

Pode, se os documentos estiverem desatualizados ou se não encontrar o excerto certo. Fontes limpas, perguntas de teste, ligações às fontes e revisão humana reduzem o risco.

Quanto tempo demora a implementar RAG?

As soluções mais simples ficam prontas em até 2 semanas. As mais complexas dependem do volume de documentos e das integrações.

Consulta gratuita

Vamos falar das suas necessidades

Conte-nos sobre o seu negócio e propomos-lhe a melhor solução de IA para os seus objetivos. A primeira consulta é gratuita.

O que vai obter na consulta

Análise do seu negócioIdentificamos os processos onde a IA terá maior impacto.
Recomendações de especialistasQue tipo de solução se adequa: produto, solução pronta ou desenvolvimento.
Apresentação das possibilidadesMostramos como funciona, com exemplos.
Plano de lançamento claroEtapas, prazos e resultado esperado.