Hur AI fungerar

AI-detektor: kan man avslöja text skriven av AI?

·

En AI-detektor är ett verktyg som uppskattar sannolikheten att en text är skriven av en språkmodell. Det är alltså ännu ett exempel på maskininlärning, inte ett system som kan se vem som satt vid tangentbordet eller avgöra ursprung med säkerhet.

Det viktiga att förstå är att detektorn själv är en statistisk modell. Den letar efter mönster som ofta finns i AI-genererad text, men samma mönster kan också finnas i mänsklig text. Därför blir resultatet en gissning, inte ett bevis.

I korthet

  • En AI-detektor försöker skilja människotext från AI-text genom statistiska signaler.
  • Vanliga signaler är perplexity, alltså hur förutsägbar texten är, och burstiness, alltså hur mycket texten varierar.
  • Det är svårt att upptäcka AI-text säkert, särskilt om texten är kort, redigerad eller skriven på ett annat språk än engelska.
  • Falska positiva förekommer. Människotext kan flaggas som AI, särskilt enkel eller formell text och text av andraspråksskribenter.
  • Använd aldrig ett detektorresultat som enda bevis. Titta på process, utkast, versionshistorik och samtal kring texten.

Hur fungerar en AI-detektor?

De flesta verktyg för AI-detektering fungerar som en klassificerare. Det betyder att modellen får en text och ska lägga den i en kategori, ungefär som ett skräppostfilter som gissar ”skräppost” eller ”inte skräppost”. Här är kategorierna ofta ”troligen människa” eller ”troligen AI”. Det som ska upptäckas är ofta text från generativ AI, alltså system som skapar ny text genom att räkna sannolikheter.

Samla exempel

Utvecklaren samlar många texter som märkts som människoskrivna eller AI-skrivna.

Träna modellen

Sedan tränas modellen med övervakad inlärning, alltså lärande från exempel med facit. Tänk på en elev som övar med rätt svar bredvid.

Räkna signaler

När en ny text kommer in räknar verktyget på mönster i ord, meningar och hur förutsägbar texten är.

Ge en sannolikhet

Resultatet blir en uppskattning, till exempel att texten verkar sannolikt AI-skriven. Det är inte samma sak som ett säkert svar om författarskap.

Vilka signaler tittar verktygen på?

Två vanliga ord här är perplexity och burstiness. Perplexitet betyder hur förutsägbar en text är för en språkmodell. Om du skriver ”Solen går upp i …” är nästa ord lätt att gissa. Då blir perplexiteten låg. Burstiness betyder hur mycket texten varierar. En text där alla meningar är ungefär lika långa och lika släta har låg variation. En text som blandar korta, långa, enkla och mer oväntade meningar har högre variation.

GPTZero beskriver just dessa signaler som viktiga. Tanken är att AI-text ofta blir jämnare och mer statistiskt förutsägbar än mänsklig text. Om du först läser om hur en språkmodell väljer nästa ord blir det lättare att se varför en slät text kan se misstänkt ut för en detektor.

Men det här är inte identitetstest. En människa kan skriva mycket förutsägbart, till exempel i en instruktion eller labbrapport. En språkmodell kan också ge mer varierad text. Om orden känns nya finns fler korta förklaringar i vår ordlista.

Varför är det så svårt att upptäcka AI-text?

  • Människotext och AI-text överlappar. Språkmodeller tränas på stora mängder mänsklig text och efterliknar därför vanliga skrivmönster.
  • Små ändringar kan räcka. Om AI-text skrivs om, parafraseras eller översätts blir signalerna svagare.
  • Korta texter ger för lite data. Några få meningar räcker ofta inte för en stabil bedömning.
  • Språk och genre spelar roll. Verktyg som tränats mycket på engelska eller på en viss typ av texter kan fungera sämre på svenska, mejl, rapporter eller elevsvar.
  • Många texter är medvetet enkla. Instruktioner, ansökningar och skoluppgifter har ofta rak stil. Det kan statistiskt likna maskinskriven text.

I en studie från 2023 sjönk DetectGPT:s träffsäkerhet kraftigt när AI-text först skrevs om med ett omformuleringsverktyg. Det visar vad som faktiskt testas: inte ett dolt fingeravtryck från modellen, utan mönster i just den formulering som råkar stå på sidan.

Forskning pekar också på en mer grundläggande gräns. Ju mer AI-text liknar vanlig människotext, desto svårare blir uppgiften. Till slut närmar sig även bra detektorer ren gissning.

Hur vanliga är falska positiva?

Ett falskt positivt resultat betyder att människoskriven text felaktigt flaggas som AI. Det här är ett av de största problemen. För en lärare, redaktör eller arbetsgivare kan ett sådant fel få stora följder om resultatet tolkas för säkert.

En Stanford-studie av Liang med flera testade sju AI-detektorer på engelska uppsatser. I genomsnitt flaggades 61,3 procent av TOEFL-uppsatser skrivna av personer med engelska som andraspråk felaktigt som AI-skrivna. För uppsatser av amerikanska högstadieelever låg siffran runt 5 procent. En viktig förklaring var att detektorerna lutade sig mot låg perplexitet. Andraspråksskribenter använder oftare enklare och mer förutsägbara ord, vilket verktygen kan misstolka.

Det här är ett tydligt exempel på algoritmisk bias. Problemet handlar inte om att modellen kan avgöra vem som skrivit, utan att den lär sig mönster som råkar slå hårdare mot vissa grupper. Även formell, enkel eller hårt redigerad text kan ge falsklarm.

Vad säger kända verktyg och tester?

Det tydligaste exemplet är OpenAI:s egen AI Text Classifier. Verktyget lanserades den 31 januari 2023 och stängdes den 20 juli 2023 på grund av låg träffsäkerhet. I OpenAI:s egen test hittade det bara 26 procent av AI-skriven text och märkte människoskriven text som AI i 9 procent av fallen.

OpenAI skrev också att verktyget var mycket opålitligt för texter under 1 000 tecken, sämre på andra språk än engelska och inte borde användas som primärt beslutsunderlag. Det är viktigt, eftersom många verkliga texter just är korta eller flerspråkiga.

Turnitins AI-detektering säger själva att resultatet inte är ett bevis och ska vägas ihop med annan information. Även en låg felprocent blir många felaktigt misstänkta när tusentals texter kontrolleras. Om du vill förstå sådana ord bättre kan du läsa om att mäta hur bra modellen är.

Finns det bättre alternativ än vanlig AI-detektering?

MetodHur den fungerarStyrkaSvaghet
KlassificerareTränas på exempel på människotext och AI-text och gissar kategori för ny text.Kan fungera som ett första filter.Ger falsklarm och missar lätt nyare modeller, andra språk och omskriven text.
Perplexitet och burstinessMäter hur förutsägbar och jämn texten är.Går snabbt att räkna på stora mängder text.Säger inget säkert om vem som skrev. Människor kan skriva lika förutsägbart.
Vattenmärkning, till exempel SynthIDSjälva språkmodellen lägger in en statistisk signal när texten skapas.Kan ge starkare spår om modellen och nyckeln är kända.Fungerar bara för modeller som använder metoden. Signalen kan försvagas av omskrivning, översättning och kort text.
Metadata eller proveniensInformation följer med filen om var den skapats och hur den redigerats, ungefär som ett digitalt kvitto.Kan vara användbart när hela arbetsflödet stöder det från början.Försvinner ofta när text kopieras mellan system. Bevisar inte i sig vem som skrev innehållet.

Vattenmärkning försöker märka texten när den skapas i stället för att gissa i efterhand. Ett känt forskningsförslag låter modellen oftare välja ord ur en hemlig ”grön lista”. Då kan den som har nyckeln senare testa om mönstret finns där. Google DeepMinds SynthID använder en liknande princip: signalen läggs in medan texten skapas och kan sedan sökas efter. SynthID Text släpptes som öppen källkod i oktober 2024.

Metadata, eller proveniens, betyder information om ursprung och redigering. Det kan till exempel vara uppgifter om vilket verktyg som skapade en fil och vilka steg som hänt på vägen. Det är nyttigt när hela kedjan stöder det, men vanlig kopierad text i ett mejl eller dokument tappar ofta sådana spår. Och även om spåret finns säger det mer om arbetsflödet än om vem som faktiskt formulerade texten. För bild, ljud och video finns andra frågor, som vi tar upp kort i artikeln om deepfakes.

Hur bör skolor, redaktioner och arbetsgivare använda resultaten?

Den säkra grundregeln är enkel: använd aldrig ett resultat från en AI-detektor som enda bevis. Se det högst som en signal om att något kan behöva följas upp.

  • Be om utkast, versionshistorik och anteckningar.
  • Jämför med personens tidigare texter, men dra inga snabba slutsatser.
  • Ställ frågor om innehållet och be skribenten förklara val i texten.
  • Titta på sammanhanget. Har texten skrivits under tidspress, med mall eller på ett andraspråk?
  • I skolan är uppgiftsdesign viktig. Uppgifter som kräver egna exempel, lokala källor eller muntlig uppföljning är svårare att lämna över helt till en språkmodell.

Testa själv

1. Ta en text som du själv skrev för länge sedan, innan du använde textgeneratorer.

2. Klistra in samma text i två olika gratis AI-detektorer.

3. Jämför resultaten. Om de skiljer sig åt ser du poängen: det här är sannolikhetsgissningar, inte bevis.

Om din större fråga gäller när svar från sådana verktyg alls går att använda, läs också kan man lita på AI.

Så vad är en rimlig slutsats?

En AI-detektor kan vara användbar som grov sortering. Den kan ibland hitta texter som är värda att titta närmare på. Men den kan inte avslöja författaren med säkerhet, och den kan inte avgöra om en text är AI-genererad i någon stark juridisk eller mänsklig mening.

Det viktiga är därför samma tes som för andra AI-verktyg: även detektorn är en modell som räknar på mönster i data. Den vet inte vem som skrev. Den uppskattar bara vad texten liknar mest.

Vanliga frågor

Kan man avslöja ChatGPT-text säkert med en AI-detektor?

Nej, inte säkert. En AI-detektor kan bara uppskatta hur mycket en text liknar sådant den har lärt sig att kalla AI-skrivet. Kort text, omskriven text och ovanliga genrer gör resultatet ännu osäkrare.

Fungerar en AI-detektor på svenska lika bra som på engelska?

Det varierar, men ofta sämre. Många verktyg är mest testade på engelska, och OpenAI skrev själva att deras gamla klassificerare fungerade sämre på andra språk än engelska. Svensk text kan därför ge mer osäkra resultat.

Är GPTZero eller Turnitins AI-detektering tillförlitliga?

De kan vara användbara som första filter, men inte som bevis. GPTZero beskriver signaler som perplexitet och burstiness, och Turnitin skriver själva att deras resultat måste vägas ihop med annan information. Samma text kan också få olika bedömning i olika verktyg.

Går det att lura en AI-detektor?

Ja, ofta räcker det med redigering, parafrasering eller översättning för att göra upptäckten svårare. Det beror på att verktyget mest reagerar på mönster i formuleringen, inte på ett oföränderligt ursprungsspår.

Vad bör en lärare eller arbetsgivare göra i stället för att lita blint på ett verktyg?

Titta på processen runt texten. Utkast, versionshistorik, anteckningar, muntliga följdfrågor och jämförelse med tidigare arbeten ger ofta bättre underlag än en ensam detektorsiffra. I skolan hjälper också uppgifter som kräver egna exempel och stegvis arbete.

Källor

Skriven av AI-redaktionen · Granskad av Linus Pierre. Texten är researchad och faktakontrollerad mot källorna ovan, som en del av maskinlarning.se – en sajt som byggs med AI och granskas av en människa.

Senast uppdaterad: 2 november 2026

Granskad av

Linus Pierre

15 november 2026

Linus har arbetat med AI sedan ChatGPT lanserades i november 2022 – först för att skriva innehåll snabbare, sedan allt mer med automatisering. Han vill göra det enkelt för fler att komma igång med de här kraftfulla verktygen, oavsett om du driver eget eller är anställd och vill automatisera delar av jobbet för att få mer tid till familj, vänner och fritid.

Mer om Linus och hur guiderna granskas

Ser du något som är fel eller har blivit inaktuellt? Hör av dig så rättar vi.