RAG (Retrieval-Augmented Generation)
RAG (retrieval-augmented generation) er en metode der et system henter relevant informasjon fra eksterne kilder og gir den til en generativ modell som grunnlag for svaret. Kildene kan oppdateres uten at modellen trenes på nytt.
Hva er RAG?
I RAG søkes først aktuelle passasjer fra dokumenter, intranett eller andre kilder. Deretter sendes spørsmålet sammen med hentet kontekst til en LLM, som genererer svaret.
RAG kan gi tilgang til virksomhetsdata og ferskere informasjon enn det modellen lærte under trening. Det er en teknisk metode. AEO handler om å gjøre innhold nyttig og synlig i svarsystemer; RAG er derfor ikke en egen AEO-oppskrift.
Et eksempel fra B2B
Tenk deg en intern assistent som svarer på spørsmål om pris- og leveransevilkår. Den henter relevante avsnitt fra godkjente retningslinjer før den svarer.
Assistenten viser hvilke retningslinjer svaret bygger på. Selgeren kontrollerer kilde, dato og tolkning før vilkårene brukes i et tilbud. Tilgang til kilder hindrer ikke alle feil.
Hva bør dere passe på?
- Å indeksere utdaterte eller feil dokumenter.
- Å tro at RAG fjerner alle hallusinasjoner.
- Å hoppe over tilgangsstyring: feil person skal ikke hente sensitivt innhold.
Nard
Test kildene og svarene
Test om søket finner de riktige kildene, og om svaret følger dem. Ta også med spørsmål systemet ikke kan besvare. HITL er relevant når en feil kan få store følger.
Les hvordan vi jobber med agenter →Kilder
Ofte spurt
Nei. Finjustering endrer modellens vekter. RAG lar modellen hente ekstern kontekst ved kjøring, uten å trene den på nytt for hver kunnskapsoppdatering.
Den reduserer risikoen når kildene er gode, men modellen kan fortsatt feiltolke eller feilsitere. Kontroller viktige svar.
Det er vanlig, men ikke eneste mulighet. Poenget er et søk som finner relevante passasjer. Implementeringen varierer.