Den gjetter neste ord

En AI-modell er et program som er trent på enorme mengder tekst. Den har lært hvordan ord pleier å følge hverandre.

Når du skriver noe, regner den ut hva som mest sannsynlig kommer etterpå. Så gjør den det samme igjen, med det nye ordet med. Og igjen. Å skrive et brev, sammenfatte en rapport og svare på en e-post er den samme gjettingen, gjentatt så raskt at det ser ut som mer.

Det forklarer feilen alle snakker om. Den finner på ting. Ikke fordi den lyver, men fordi den ikke har noen bryter som skiller «dette vet jeg» fra «dette ser riktig ut». Mangler den noe, fyller den ut med det som ligner mest.

Tenk på en flervalgsprøve der blanke svar gir null poeng. Da gjetter du. Modellene er laget og målt på samme måte, så gjetting lønner seg.

Derfor høres den like sikker ut hele tiden. Et oppdiktet paragrafnummer ser nøyaktig ut som et ekte. En lov, et navn og et tall kan alle komme i samme rolige tone, enten de stemmer eller ikke.

Du kan be den være ærligere om hva den er usikker på. Det hjelper litt, ikke alltid.

Hva du gjør med dette i praksis, kommer i delen om å sjekke arbeidet. Her er det nok å vite at gjettingen er måten den virker på, ikke en feil som en dag blir rettet.

Den slår ikke opp svaret. Den regner ut hvordan et svar pleier å se ut.