nardNard
Book et møte →
Ordbok

Hallusinasjon

En AI-hallusinasjon, også kalt KI-hallusinasjon, er et svar fra generativ kunstig intelligens som inneholder oppdiktede eller feilaktige opplysninger, eller som ikke har dekning i kildematerialet.

Hva er hallusinasjon?

Språkmodeller lager tekst ut fra mønstre de har lært og konteksten de får. Et språklig overbevisende svar kan derfor inneholde sitater, rapporter eller produktdetaljer som ikke finnes. Kontroller påstandene mot faktiske kilder.

Hallusinasjoner kan reduseres med bedre instruksjoner, RAG, tilgang til relevante kilder og menneskelig kontroll via HITL. Ingen metode fjerner risikoen helt for kritiske bruksområder.

Et eksempel fra B2B

Tenk deg et markedsteam som ber en modell om tre nylige bransjerapporter med lenker. Svaret lister overbevisende titler og forfattere. Ved manuell sjekk finnes ingen av rapportene.

Teamet innfører en regel: alle siterte kilder må verifiseres, og interne fakta hentes fra godkjente dokumenter via RAG. Slike oppgaver krever godkjenning før publisering.

Hva kan du gjøre?

  • Krev kilder og sjekk dem manuelt for viktige påstander.
  • Bruk interne dokumenter som kontekst i stedet for å be modellen huske.
  • Avklar hvilke oppgaver som aldri skal kjøres uten menneskelig godkjenning.

Vanlige feil

  • Å stole på selvsikker tone som bevis på riktighet.
  • Å bruke modellen til juridiske spørsmål eller regeletterlevelse uten fagperson.
  • Å sende AI-genererte tilbud eller kontraktstekst uten at noen har lest dem.

Kilder

Ofte spurt

Modellen er trent til å produsere plausibel tekst, ikke til å innrømme usikkerhet hver gang. Den kan fylle hull med det som virker riktig språklig.