Retrieval-Augmented Generation (RAG) is een AI-framework dat twee technieken combineert: het ophalen van relevante informatie uit externe of interne kennisbronnen en het genereren van tekst door een groot taalmodel (LLM). Het uitgangspunt is dat een taalmodel niet alleen afgaat op de kennis die tijdens training is opgeslagen, maar actief aanvullende informatie opvraagt voordat het een antwoord formuleert. Bij RAG wordt eerst een zoekopdracht uitgevoerd in een kennisbasis, waarna de gevonden documenten of passages als context aan het taalmodel worden meegegeven. Zo kan het model nauwkeurigere en actuele antwoorden geven, ook over onderwerpen die buiten de trainingsdata vallen. RAG wordt ingezet door bedrijven die generatieve AI willen verbinden met interne gegevens, zoals bedrijfsdocumenten of klanteninformatie, zonder het model opnieuw te hoeven trainen.
is geschikt voor vragen waar het antwoord in documenten staat
“RAG is uitstekend voor vragen waar het antwoord ergens in jouw documenten staat.”Een AI-chatbot op je eigen data (RAG): wat komt erbij kijken
vermindert hallucinaties flink, maar bant ze niet helemaal uit hallucinaties
“RAG vermindert hallucinaties flink, maar bant ze niet helemaal uit.”Een AI-chatbot op je eigen data (RAG): wat komt erbij kijken
is zo goed als de documenten die je erin stopt
“RAG is zo goed als de documenten die je erin stopt.”Een AI-chatbot op je eigen data (RAG): wat komt erbij kijken
faalt zelden op techniek
“RAG faalt zelden op de techniek. Het faalt op de details eromheen”Een AI-chatbot op je eigen data (RAG): wat komt erbij kijken
vereist vier onderdelen: bronnen, embeddings, vectordatabase en een taalmodel
“RAG klinkt magisch, maar het is opgebouwd uit vier nuchtere onderdelen.”Een AI-chatbot op je eigen data (RAG): wat komt erbij kijken
is een techniek waarbij het model antwoordt op basis van eigen informatie in plaats van een gok
“Het model schrijft dan een net antwoord, gebaseerd op jouw informatie in plaats van op een gok.”Een AI-chatbot op je eigen data (RAG): wat komt erbij kijken
bestaat uit twee stappen: retrieval en generation
“Het bestaat uit twee stappen: Retrieval (ophalen) en Generation (genereren).”Een AI-chatbot op je eigen data (RAG): wat komt erbij kijken
Gartner
CIO
