Hvordan fungerer AI-detektorer? Slik leser de teksten

Hva er en AI-detektor?

En AI-detektor er et program som leser en tekst og anslår om den er skrevet av et menneske eller av en språkmodell som ChatGPT, Claude eller Gemini. På norsk kalles den også KI-detektor, der KI står for kunstig intelligens. Resultatet er som regel en prosent, eller en fargekode per avsnitt.

Ordet «anslår» er nøkkelen. En detektor ser ikke hvem som skrev teksten. Den har ingen tilgang til ChatGPT-loggen din. Den ser bare på selve teksten og sammenligner den med mønstre den har lært. Tallet du får, er en sannsynlighet, ikke et bevis.

Slik fungerer en AI-detektor

Detektorene på markedet bruker ulike metoder, men de fleste bygger på to målinger. En tredje metode er på vei.

Forutsigbarhet

En språkmodell skriver ved å velge det neste ordet som passer best, om og om igjen. Derfor blir AI-tekst forutsigbar: ordene er de mest sannsynlige, gang på gang. En detektor kjører teksten gjennom en egen språkmodell og måler hvor overrasket den blir av hvert ord. Lite overraskelse gir høy AI-score. På engelsk kalles dette målet perplexity.

Variasjon i setningene

Mennesker skriver ujevnt. En lang setning med mange innskudd følges av en kort. Så en ny lang. AI-tekst har ofte setninger med omtrent samme lengde og rytme hele veien. Detektorene måler denne variasjonen, som på engelsk kalles burstiness.

Klassifiserere og vannmerker

Mange kommersielle detektorer trener i tillegg en egen modell på store mengder tekst merket som «menneske» eller «AI». Den lærer seg å kjenne igjen typiske ord og vendinger. Noen AI-selskaper eksperimenterer også med usynlige vannmerker i selve ordvalget, for eksempel Googles SynthID. Slike vannmerker kan bare leses av den som har laget dem, og de blir svakere jo mer teksten skrives om.

Hvorfor AI-detektorer tar feil

Begge målingene har samme svakhet: mange mennesker skriver også forutsigbart. Tenk på en saklig rapport, en standard jobbsøknad eller en eksamensbesvarelse der du følger malen læreren ga deg. Klar og korrekt tekst ligner på AI-tekst, fordi AI er trent på nettopp slik tekst.

Feilene går begge veier. Falske positiver er tekst skrevet av mennesker som blir merket som AI. De er de mest alvorlige, fordi de rammer folk som har gjort alt riktig. Falske negativer er AI-tekst som slipper gjennom, ofte bare fordi noen har endret noen få ord.

Studien fra Stanford viser også hvem som rammes hardest: de som skriver på et språk som ikke er morsmålet deres. De bruker et enklere og mer forutsigbart ordforråd, og det er nettopp det detektorene reagerer på.

AI-detektorer og norsk tekst

De fleste AI-detektorer er utviklet og testet på engelsk. Norsk er et lite språk i treningsdataene, og nynorsk er enda mindre. Det gjør vurderingen mer usikker av flere grunner:

• Detektoren har sett færre eksempler på hvordan nordmenn skriver, og har et svakere bilde av hva som er normalt.
• Sammensatte ord gjør at norsk ordstatistikk ser annerledes ut enn engelsk, som detektoren er trent på.
• Mange norske tekster følger faste maler, som søknader, rapporter og oppgaver, og det trekker scoren opp.

Et høyt tall på en norsk tekst bør derfor tas med en ekstra klype salt. Det betyr ikke at detektoren alltid tar feil, men at et tall alene sier lite. Det er også grunnen til at vi merker vår egen kommende AI-detektor tydelig som et anslag, ikke en fasit.

Hva gjør du hvis du blir mistenkt?

Det verste du kan gjøre, er å bli defensiv uten dokumentasjon. Det beste er å vise hvordan teksten ble til.

1. 1

   Spør hva mistanken bygger på

   Spør hvilket verktøy som ble brukt, og hvilke avsnitt som ble merket. En prosent uten forklaring er et svakt grunnlag for en anklage, og det vet de fleste lærere og sensorer.
2. 2

   Vis versjonshistorikken

   Word, Google Dokumenter og de fleste skriveprogrammer lagrer tidligere versjoner. En tekst som har vokst fram over flere dager, med rettelser og omskrivinger, er det sterkeste beviset du har.
3. 3

   Ta med notater og kilder

   Notater, disposisjoner, bøker med understrekninger og søkehistorikk viser hvordan du jobbet.
4. 4

   Forklar teksten muntlig

   Tilby å gå gjennom oppgaven i en samtale. Den som har skrevet en tekst, kan forklare valgene i den. Mange studiesteder bruker nettopp en samtale for å avklare slike saker.

Slik bruker du en AI-detektor fornuftig

En AI-detektor kan være nyttig som et speil, men ikke som en dommer. Se på hvilke avsnitt som får høy score, og spør deg selv hvorfor. Ofte er det avsnittene der du har fulgt en mal, brukt faste fraser eller latt et verktøy formulere seg for deg.

• Test enkeltavsnitt, ikke bare hele teksten. Da ser du hvor mønsteret sitter.
• Test en tekst du vet at du skrev selv. Får den også høy score, sier det mye om detektoren.
• Se etter kjennetegnene på AI-tekst, og omformuler de delene med egne ord.
• Stol aldri på ett enkelt tall.