Hallusinasjon
En AI-hallusinasjon, også kalt KI-hallusinasjon, er et svar fra generativ kunstig intelligens som inneholder oppdiktede eller feilaktige opplysninger, eller som ikke har dekning i kildematerialet.
Hva er hallusinasjon?
Språkmodeller lager tekst ut fra mønstre de har lært og konteksten de får. Et språklig overbevisende svar kan derfor inneholde sitater, rapporter eller produktdetaljer som ikke finnes. Kontroller påstandene mot faktiske kilder.
Hallusinasjoner kan reduseres med bedre instruksjoner, RAG, tilgang til relevante kilder og menneskelig kontroll via HITL. Ingen metode fjerner risikoen helt for kritiske bruksområder.
Et eksempel fra B2B
Tenk deg et markedsteam som ber en modell om tre nylige bransjerapporter med lenker. Svaret lister overbevisende titler og forfattere. Ved manuell sjekk finnes ingen av rapportene.
Teamet innfører en regel: alle siterte kilder må verifiseres, og interne fakta hentes fra godkjente dokumenter via RAG. Slike oppgaver krever godkjenning før publisering.
Hva kan du gjøre?
- Krev kilder og sjekk dem manuelt for viktige påstander.
- Bruk interne dokumenter som kontekst i stedet for å be modellen huske.
- Avklar hvilke oppgaver som aldri skal kjøres uten menneskelig godkjenning.
Vanlige feil
- Å stole på selvsikker tone som bevis på riktighet.
- Å bruke modellen til juridiske spørsmål eller regeletterlevelse uten fagperson.
- Å sende AI-genererte tilbud eller kontraktstekst uten at noen har lest dem.
Kilder
Ofte spurt
Modellen er trent til å produsere plausibel tekst, ikke til å innrømme usikkerhet hver gang. Den kan fylle hull med det som virker riktig språklig.
Nei. RAG kan redusere feil når kildene er gode, men modellen kan fortsatt misforstå eller blande passasjer.
En hallusinasjon beskriver innholdet i modellens svar. En programvarefeil er en feil i hvordan et system er laget eller fungerer. En modell kan hallusinere selv om programvaren rundt kjører som planlagt. Begge typer feil må undersøkes og håndteres.