Hvad er RAG og hvorfor taler alle i tech om det?

Problemet RAG løser

ChatGPT ved ikke hvad jeres returpolitik er, hvad jeres produkter koster, eller hvem der er kontaktperson for Firma X. RAG giver AI’en adgang til den viden.

En generel AI har trænet på milliarder af tekster fra internettet. Den kan forklare kvantemekanik, skrive digte og oversætte sprog. Men den kender ikke jeres interne dokumenter, jeres prislister eller jeres kundehistorik. Når en kunde spørger om leveringstiden på varenummer 47382, kan AI’en kun gætte.

RAG står for Retrieval Augmented Generation. Teknikken henter relevant information fra jeres egne kilder og fodrer den til AI’en lige før den svarer. Pludselig har modellen kontekst den ellers ikke ville have.

Vi så det i praksis da vi hjalp en webshop med produktimport fra leverandørdata til WooCommerce. AI’en fik adgang til leverandørens filer og kunne automatisk oprette færdige produkter med korrekte priser, beskrivelser og lagerstatus. Uden RAG ville den ikke ane hvad der stod i leverandørens CSV fil.

Problemet er ikke at AI’en er dum. Problemet er at den mangler jeres data.

RAG lukker det hul. Det betyder, at en kundeservice chatbot kan slå op i jeres faktuelle vilkår. At en intern søgemaskine kan finde frem til den rette kollega i den rette afdeling. At jeres AI assistent kan besvare spørgsmål baseret på faktisk viden frem for generelle antagelser.

Sådan virker det (forklaret med analogi)

Forestil dig at du sidder til eksamen. Uden RAG skal du svare udelukkende ud fra det, du kan huske i øjeblikket. Med RAG har du dine noter med, og du må slå op før du svarer. AI’en gør præcis det samme. Den søger i jeres data, finder det relevante indhold og bruger det som grundlag for sit svar.

Forskellen er markant. En standard AI gætter baseret på sin træningsdata. Den ved ikke, at jeres returneringspolitik ændrede sig i marts. Den kender ikke jeres nyeste priser. Den har ikke læst jeres interne dokumenter. Med RAG får AI’en adgang til præcis den viden, den har brug for i situationen.

Det betyder færre fejl og mere præcise svar.

Processen foregår i to trin. Først sker der en søgning i jeres data. AI’en finder de dokumenter, der matcher spørgsmålet bedst. Derefter genererer den et svar baseret på det, den fandt. Det er derfor metoden hedder Retrieval Augmented Generation. Retrieval betyder at hente. Augmented betyder at supplere.

Generation betyder at skabe.

Vi har bygget en løsning til lead research der fungerer på samme måde. Når en ny lead kommer ind, slår AI’en op i virksomhedens data, analyserer leadets profil og skriver en personlig mail inden for 2 minutter. Uden RAG ville mailen være generisk. Med RAG er den baseret på faktisk viden om både afsender og modtager.

For at det virker skal jeres data være tilgængelige og strukturerede. Det kan være dokumenter i SharePoint, artikler i et CMS, produktdata i en database eller emails i en mailbox. Jo bedre data er organiseret, desto mere præcise bliver svarene.

Teknisk (men forståeligt)

Sådan fungerer det i praksis: Jeres dokumenter bliver først delt op i mindre bidder. Hver bid konverteres til et embedding, som er et matematisk fingeraftryk af indholdet. Fingeraftrykkene gemmes i en særlig database, der kan finde ligheder på tværs af tekster. Når nogen stiller et spørgsmål, finder systemet de bidder, der ligner spørgsmålet mest. AI’en bruger derefter disse bidder som kontekst til at formulere et præcist svar.

Et embedding er ikke selve teksten, men en række tal der beskriver mening og sammenhæng. To tekster der handler om det samme, får fingeraftryk der ligger tæt på hinanden i det matematiske rum. Det betyder, at systemet kan finde relevant information selvom ordene er forskellige.

Det er denne teknik der gør forskellen mellem en AI der gætter og en der ved.

Vi har brugt præcis denne tilgang i casen om lead research og personlig mail til B2B SaaS. Systemet søgte automatisk gennem virksomhedsprofiler, nyheder og brancheinformation for at finde relevant kontekst om hver lead. Denne kontekst blev brugt til at skrive personlige mails på 2 minutter per lead til første svar. Uden opdeling i bidder og embedding ville AI’en ikke have haft adgang til den viden der gjorde hver mail personlig og relevant.

Resultatet er en AI der arbejder med jeres faktiske indhold, ikke bare dens generelle viden fra træningen.

Forskellen på RAG og finetuning

RAG er som at give AI’en en bog at slå op i. Finetuning er som at sende AI’en på kursus. Den ene slår op i realtid, den anden har lært det udenad.

Med RAG (Retrieval Augmented Generation) forbinder du AI’en til en database, et dokumentbibliotek eller en hjemmeside. Når brugeren stiller et spørgsmål, søger systemet i din videnbase, finder de relevante afsnit og sender dem med som kontekst til AI’en. Svaret genereres ud fra det aktuelle indhold, og du kan opdatere kilderne uden at røre ved selve AI’en.

Finetuning går den modsatte vej. Her træner du en eksisterende model på dine egne tekster, så den lærer dine formuleringer, tone og faglige viden. Modellen internaliserer mønstrene og kan efterfølgende generere tekst der ligner din stil. Problemet er, at viden bliver en del af modellens vægte. Skal du rette en faktuel fejl eller tilføje nyt materiale, skal du træne modellen forfra.

RAG er billigere i drift. Du betaler kun for de API kald der sker i øjeblikket, og du kan skifte indhold ud fra dag til dag. Finetuning kræver computing tid til træning, og hver opdatering koster både penge og teknisk arbejde.

De fleste virksomheder starter med RAG. Det giver mening når din viden ændres hyppigt, når du har mange kilder, eller når du vil kunne dokumentere hvor et svar kommer fra. Finetuning bliver relevant først når du har brug for en helt specifik skrivestil, eller når latency og omkostninger ved hvert API kald bliver afgørende.

Hvornår RAG giver mening

RAG løser problemet når medarbejdere eller kunder skal finde præcis information i store mængder intern dokumentation uden at læse det hele selv.

Intern videndeling er et oplagt sted at starte. Når en virksomhed har års erfaring gemt i PDF rapporter, projektbeskrivelser og procesdokumenter, kan RAG gøre den viden søgbar. Medarbejderen stiller et spørgsmål på almindeligt dansk og får et svar baseret på faktisk indhold fra jeres egne filer.

Det eliminerer tiden brugt på at lede i mapper og spørge kollegaer.

Kundeservice baseret på jeres FAQ fungerer bedst når svarene kommer fra dokumentation I selv står inde for. I stedet for at chatbotten gætter baseret på generel viden, trækker den citater fra jeres vejledninger og produktmanualer. Kunden får præcis information om jeres specifikke returpolitik eller garantibetingelser.

Dokumentsøgning i juridiske kontrakter, tekniske specifikationer eller forskningsrapporter bliver markant hurtigere. Systemet finder de relevante afsnit og præsenterer dem med kontekst.

Produktinformation kan opdateres dynamisk.

Det kræver én ting for at fungere: jeres kildemateriale skal være struktureret og vedligeholdt. RAG er ikke tryllekunst. Det er et værktøj der organiserer den viden I allerede har.

I kundeservice reducerer RAG svartiderne markant når kunder spørger ind til komplekse produktdetaljer. Systemet trækker automatisk de relevante afsnit fra jeres tekniske dokumentation og præsenterer dem for medarbejderen eller sender dem direkte til kunden. Det sikrer at informationen altid er ajourført og ensartet uanset hvem der håndterer henvendelsen.

Når produktdata opdateres i jeres kernesystemer afspejles ændringerne øjeblikkeligt i alle svar uden manuel redigering af skabeloner.

Ved onboarding af nye medarbejdere fungerer RAG som et internt søgeværktøj der giver præcise svar om firmaets procedurer og historiske projektdata. I stedet for at forstyrre kollegaer med basale spørgsmål kan den nye medarbejder finde information om alt fra ferieregler til specifikke kundehistorikker via en simpel chatgrænseflade.

Det frigør tid hos både nye og erfarne medarbejdere og sikrer at viden ikke forsvinder når nøglepersoner skifter job.

Juridiske og tekniske afdelinger bruger RAG til at navigere i omfattende kontraktarkiver og specifikationsdokumenter. Systemet kan identificere specifikke klausuler eller tekniske krav på sekunder frem for timer og angiver altid kildehenvisninger så I kan verificere svarene.

Denne sporbarhed er afgørende i regulerede brancher hvor dokumentation for beslutninger er påkrævet.

For webshops og produktkataloger muliggør RAG dynamiske produktbeskrivelser der trækker på strukturerede data. Kunden får svar på specifikke spørgsmål om mål, materialer eller kompatibilitet baseret på jeres faktiske produktdatabase frem for generelle beskrivelser. Det reducerer fejlkøb og returneringer når kunderne præcis kan afgøre om varen passer til deres behov.

Salgsteamet sparer tid på tekniske forespørgsler der nu besvares automatisk mens de fokuserer på rådgivning.

Hvornår RAG IKKE giver mening

RAG er ikke altid det rette valg, og der findes klare situationer hvor opsætningen bliver unødvendig tung eller direkte fejlplaceret.

Når du har under ti dokumenter, er RAG overkill. En simpel kontekstprompt med de få dokumenter indsat direkte i systembeskeden giver samme resultat uden vektordatabase, embedding og retrieval pipeline. Kompleksiteten stiger, værdien gør ikke.

Skal AI’en skabe noget nyt, er RAG en hindring.

Retrieval Augmented Generation er designet til at hente fakta, ikke til at generere originale idéer. Hvis opgaven er kreativ skrivning, markedsføringskoncepter eller strategisk rådgivning, begrænser RAG snarere end det hjælper. Modellen får en snæver korridor at bevæge sig i, når den i stedet skal have frie hænder.

Real, time data kræver andre løsninger.

RAG bygger på indekserede dokumenter, og selv med hyppige opdateringer er der altid forsinkelse. Har du brug for aktuelle lagerbeholdninger, valutakurser eller vejrdata, skal du koble direkte til API’er eller databaser. Her er funktionskald og live integrationer langt mere pålidelige end en vektordatabase der aldrig helt er ajour.

Pointen er at vælge værktøj efter opgave. RAG er stærk til vidensarbejde med stabile kilder. Til alt andet findes der bedre veje.

Ofte stillede spørgsmål

Er RAG dyrt at køre?

Nej, ikke nødvendigvis. For en mid, size Azure, løsning ligger initial opsætning på ca. 5.100 kr. (687 USD) for dokumentbehandling. Daglig drift koster omkring 38 kr. (5,20 USD) for container, hosting og søgetjenester. Cloud, management tilføjer ca. 370 kr. om måneden (370 kr. (50 USD)), men kan elimineres ved at konsolidere til én udbyder.

Hvor meget data skal vi have for at RAG virker?

Der er intet minimum. Du kan starte med få tusinde dokumenter og skalere op. Kvalitet slår kvantitet for dårlige data giver dårlige svar uanset mængde. De fleste enterprise, løsninger håndterer millioner af vektorer; pgvector fungerer fint op til 5 millioner, mens Qdrant håndterer 100+ millioner.

Kan vi bruge PDF’er og Word, filer i RAG?

Ja, det er standard. PDF og Word (.doc/.docx) understøttes af alle større platforme. De fleste systemer håndterer også PowerPoint, Excel, tekstfiler og OpenDocument, formater. Nogle løsninger fra 2025 understøtter endda lyd og video. Bemærk at scannede PDF’er kræver OCR for at fungere optimalt.

Hvad med GDPR når vi bruger RAG?

Du skal lave en Data Protection Impact Assessment (DPIA) og have lovligt grundlag for behandling. Dataminimering er central brug kun nødvendige persondata og slet logs efter plan. EU AI Act supplerer GDPR for high, risk systemer med krav om menneskelig kontrol og logging. Hold data i EU og overvej pseudonymisering.

Skal vi have AI, eksperter for at implementere RAG?

Ikke nødvendigvis. Mange cloud, platforme tilbyder managed RAG, tjenester med færdige integrationer. Teknisk team skal forstå dokument, opdeling (chunking), vektordatabaser og prompt engineering. Start med et pilotprojekt på én afdeling før fuld rollout det afslører praktiske udfordringer uden stor risiko.