Begrip
RAG
RAG, retrieval-augmented generation, eist dat het model specifieke passages ophaalt voordat het antwoord geeft. De retrieval is hierbij het kernproduct; de generatie vormt slechts de laatste stap. Als je niet kunt inzien welke chunk is gebruikt, heb je geen RAG. Je hebt simpelweg een taalmodel met extra context in de prompt gepropt. Een vectordatabase is slechts een onderdeel. GRAIN is de loop die het antwoord controleerbaar houdt. Het toevoegen van embeddings maakt nog geen afgewerkt systeem. Het benoemen van de passage wel.
Wanneer je dit inzet
Pas dit toe wanneer een team roept dat een vectordatabase een kant-en-klaar systeem is. Als niemand de exacte chunk achter een zin kan openen, heb je alleen generatie opgeleverd en geen retrieval.
Verwar dit niet met
Niet zomaar "het model heeft onze documentatie gelezen". RAG is ophalen en dan pas genereren met een benoemde passage. GRAIN is de controleerbare loop. De RAG-engineer is nu verkrijgbaar in het Engels en het Nederlands als paperback, hardcover en Kindle.