LLM (stor språkmodell)
En LLM (Large Language Model) er en AI-modell trent på store mengder tekst for å forstå og generere språk. Den er grunnlaget for tjenester som chatboter, AI-assistenter og AI-søk.
Hva er en LLM?
En stor språkmodell lærer mønstre gjennom trening på store datamengder. Ved tekstgenerering beregner den sannsynligheter for neste token, en tekstbit som kan være et ord, en del av et ord eller et tegn. Dette brukes blant annet til å svare på spørsmål, oppsummere og oversette.
Google beskriver språkmodeller som modeller som anslår sannsynligheten for neste ord eller tekstbit i en sekvens. Mange moderne LLM-er bygger på en arkitektur kalt transformer. Modellene kan ta feil og finne på ting som høres riktige ut. Derfor trenger de ofte tilgang til kilder og menneskelig kontroll.
Et eksempel fra B2B
Tenk deg et salgsteam som bruker en AI-assistent til å oppsummere lange anbudsdokumenter. Assistenten bygger på en LLM. Den finner hovedkravene og lager en liste over spørsmål teamet må avklare.
En selger går gjennom oppsummeringen mot originaldokumentet før den brukes. Teamet sparer tid, men ansvaret for innholdet ligger fortsatt hos dem.
Hva bør dere passe på?
- Modellen kan finne på fakta. Kontroller tall, navn og kilder.
- Ikke del konfidensiell informasjon uten å vite hvordan tjenesten behandler data.
- Tekst fra en LLM kan bli generisk. Bruk egne erfaringer og eksempler.
Nard
LLM-er i markedsarbeidet
Vi bruker språkmodeller i eget arbeid, med tydelige regler for kvalitetskontroll. LLM-er driver også AI-søk, så kunnskap om hvordan de bruker kilder er en del av AEO. Les også om AI-agenter og human in the loop.
Les hvordan vi jobber med agenter →Kilder
Ofte spurt
En LLM er selve språkmodellen. En AI-agent bruker ofte en LLM, men kan i tillegg planlegge, bruke verktøy og utføre oppgaver i flere steg.
De genererer tekst ut fra sannsynlighet, ikke ut fra en faktadatabase. De kan lage feil også når kilder er tilgjengelige, for eksempel ved å misforstå eller feilaktig gjengi dem.
Det må vurderes ut fra oppgaven og dataene. Sjekk databehandling og avtaler, bruk tjenester godkjent av virksomheten og kontroller det som skal brukes i beslutninger eller sendes til kunder.