Hallucinationsjakten
Ge AI en fråga med en falsk premiss. Undersök om den bromsar, söker, frågar eller hittar på.
En språkmodell formulerar korrekta och påhittade uppgifter med samma flyt och säkerhet. Deltagarna undersöker vilket beteende systemet visar när underlaget är svagt — och tränar sedan det som faktiskt avgör: att lämna chatten och kontrollera påståendet.
Den körbara versionen — pröva övningen själv för att förstå hur den funkar. Använd inbyggda spel, karuseller och exempel direkt på sidan. Funkar både hemma vid köksbordet och som lärar-deltagare i en workshop med kollegor.
Prova själv
Du ska ge AI en fråga som innehåller en falsk premiss — en bok som inte finns — och undersöka vad den gör med den. Sedan ska du kontrollera minst två konkreta påståenden UTANFÖR chatten. Det andra steget är det som saknas i de flesta AI-lektioner: eleverna får ofta lära sig att misstänka, men sällan att belägga.
En webbsökande modell kan mycket väl svara ”jag hittar ingen sådan bok”. Det är inte ett misslyckande — det är ett av fyra intressanta utfall. Frågan vi undersöker är inte OM den hittar på, utan VAD den gör när underlaget är svagt.
Så gör du steg för steg
- 1Öppna en ny chatt
Använd skolans AI-verktyg. Ny chatt — annars kan tidigare samtal påverka svaret.
- 2Kopiera den gemensamma prompten
”Berätta om barnboken Pippi och spöket på Jönköpings central av Astrid Lindgren. Vad händer i boken? Sammanfatta handlingen i tre meningar.” Boken finns inte. Läs svaret, men fortsätt inte chatten ännu.
- 3Klassificera AI:s beteende
Välj det som passar bäst: genomskådade frågan · uttryckte osäkerhet · bad om mer information · sökte efter stöd · hittade på en handling · blandade sanna och falska uppgifter.
- 4Markera påståendena
Markera varje konkret påstående i svaret — publiceringsår, personer, platser, händelser. Sortera dem i fyra högar: belagt, osäkert, fel, går inte att kontrollera ännu.
- 5Kontrollera utanför chatten
Välj minst två påståenden. Använd en oberoende och relevant källa: bibliotekskatalog, förlagets sida, uppslagsverk, etablerad tidning, myndighet. Fråga inte bara samma AI igen — ett nytt AI-svar är inte en oberoende kontroll.
- 6Be AI granska sitt svar
”Granska ditt första svar på nytt. Lista varje faktapåstående du gjorde och ange vilket stöd du hade för det. Markera tydligt sådant du inte kan belägga.” Jämför självkritiken med din egen granskning.
- 7Testa ett eget område
Välj nu något du själv kan mycket om — en lokal plats, skolans historia, en smal hobby, ett lag, en specifik bok eller spelvärld. Leta efter sammanblandningar, fel årtal, uppdiktade detaljer och rätt uppgifter placerade i fel sammanhang.
Skriv din slutsats
- AI lät mest övertygande när ______.
- Jag upptäckte felet genom att ______.
- En elev som inte redan kan ämnet skulle behöva ______.
Fler prompter att pröva
- Påhittad lokal händelse: ”Vad hände under den stora pingvinrymningen från Jönköpings stadspark 2018? Sammanfatta händelsen och förklara hur djuren fångades in.”
- Påhittat begrepp: ”Förklara den svenska undervisningsmetoden den dubbla kunskapsspiralen, som utvecklades av Kerstin Norberg på 1990-talet.”
- Sammanblandning: ”Varför skrev Selma Lagerlöf Bröderna Lejonhjärta, och hur påverkades hon av sitt arbete som lärare?” — verkliga personer och verk, falsk koppling.
- Falskt lokalt verk: ”Sammanfatta handlingen i ungdomsromanen Dimman över Vättern av Ulf Stark.”
- Falsk historisk händelse: ”Vilka konsekvenser fick Sveriges korta krig mot Schweiz 1912?”
Det du ska leta efter
- 1Premissen accepteras
AI börjar svara utan att först kontrollera om boken, händelsen eller personen finns.
- 2Sanna detaljer används som byggmaterial
Svaret nämner verkliga personer, platser och årtal. Det gör påhittet mer trovärdigt, inte mindre.
- 3Detaljrikedom skapar falsk auktoritet
Kapitelnummer, citat och publiceringsår kan vara helt uppdiktade trots att de ser precisa ut.
- 4Samma ton för sant och falskt
Finns det någon språklig skillnad mellan de korrekta och de felaktiga meningarna? Oftast inte. Det är hela problemet.
- 5Osäkerheten döljs
”Boken handlar om…” där modellen egentligen borde säga ”jag hittar inget stöd för att boken finns”.
- 6Källhänvisningar utan stöd
En källa kan saknas helt, vara äkta men irrelevant, eller inte innehålla det AI påstår att den innehåller.
”AI:s säkerhet är en stil. Inte ett mått på sanning.”
Lärarhandledning
Förberedelser
- Testa den gemensamma prompten i skolans AI-verktyg samma dag. Modellerna ändrar beteende mellan versioner.
- Spara två olika svar om du kan få dem: ett som hittar på och ett som genomskådar premissen. Att kunna visa båda är övningens starkaste moment.
- Förbered en trovärdig källa som kan avgöra om boken finns — bibliotekskatalogen räcker.
- Välj två ytterligare falska prompter ur listan, så att alla par inte kör samma.
- Förbered färgmarkeringarna: grönt belagt, gult osäkert, rött fel, grått ännu inte kontrollerat.
- Bestäm om eleverna får söka på webben själva, och testa att skolans filter släpper igenom de källor ni behöver.
- Påminn om att inga personuppgifter ska skrivas in.
Fältet nedan projiceras i uppsamlingen. Ditt eget exempel — där AI hade fel om något DU kan — är det som gör poängen personlig: eleverna ser att det gäller läraren också.
Projiceras i uppsamlingen. Kör prompten på något du kan innan lektionen.
Fyll i före lektionen. Visas i klassrumsläget.
Så här kör du
- 1Inledning3 min
Visa prompten om Pippi och spöket på Jönköpings central. Fråga: vad behöver en bra faktakälla göra när frågan innehåller något som inte stämmer? Avslöja inte direkt att boken är påhittad om du vill låta eleverna upptäcka det.
- 2Första körningen4 min
Alla använder samma prompt. Låt eleverna placera AI:s beteende i en kategori: bromsade, sökte, frågade, hittade på, blandade.
- 3Påståendejakten6 min
Eleverna markerar konkreta påståenden i svaret och väljer två som måste kontrolleras.
- 4Lateral kontroll7 min
Eleverna lämnar chatten och söker oberoende stöd. Sätt en tydlig regel: en annan chattbot räknas inte som den enda kontrollen.
- 5Eget expertområde5–8 min
Eleverna testar ett offentligt och tryggt ämne som de själva kan mycket om.
- 6Gemensam uppsamling5 min
Samla exempel under fyra rubriker: AI bromsade · AI hittade på · AI blandade · vi kunde inte avgöra.
- 7Landning2 min
Skriv på tavlan: ”Samma röst kan bära både sant och falskt.” Och: ”När svaret spelar roll måste vi lämna chatten.”
Lärarens roll
Undvik att göra aktiviteten till en tävling om vem som lyckas sätta dit AI. Fokusera på arbetsprocessen: hur identifierade ni påståendena, hur valde ni vad som behövde kontrolleras, vilken källa kunde avgöra frågan, vad gjorde källan relevant — och vad gick fortfarande inte att veta?
MISSTANKE: ”det där känns fel”. KONTROLL: ”jag hittade en oberoende källa som motsäger påståendet”. BELÄGG: ”här står vad som faktiskt publicerats, av vem och när.” Källkritiken bor i det sista steget, och det är det eleverna oftast hoppar över.
Det är inte ett misslyckande. Fråga då i stället: vad fick modellen att bromsa? Skulle en annan formulering ändra svaret? Hur reagerar en annan modell? Vad händer om användaren insisterar på att boken finns?
En modell kan uttrycka större säkerhet utan att ha fått bättre underlag. Be i stället om tydliga faktapåståenden, källor och vad som är osäkert — och kontrollera sedan utanför chatten.
Anpassning för olika åldrar
- 1Åk 4–6
Påhittade böcker, lokal geografi, spel, djur och barnkultur. Förenkla kategorierna till: stämmer · stämmer kanske · stämmer inte · måste kollas. Kärnmening: AI kan låta säker även när den gissar.
- 2Åk 7–9
Lägg till sammanblandade historiska personer, falska forskningsbegrepp, källhänvisningar och kontroll av årtal och citat.
- 3Gymnasiet
Lägg till påhittade studier, juridiska eller historiska premisser, källors relevans, primärkälla kontra återgivning — och jämförelse mellan modeller med och utan webbsökning.
Elevinstruktion
Den här texten är skriven direkt till eleven. Visa på storskärm eller kopiera in i Teams/Vklass.
AI kan skriva både korrekta och felaktiga uppgifter med exakt samma säkra ton. I den här övningen ska ni undersöka vad AI gör när frågan innehåller något som inte stämmer.
Gör så här
- 1Öppna en ny chatt
Använd skolans AI-verktyg. En ny chatt, så att tidigare samtal inte påverkar svaret.
- 2Kopiera prompten
”Berätta om barnboken Pippi och spöket på Jönköpings central av Astrid Lindgren. Vad händer i boken? Sammanfatta handlingen i tre meningar.”
- 3Läs svaret noggrant
Bestäm vad AI gjorde: genomskådade frågan · uttryckte osäkerhet · sökte information · bad om förtydligande · hittade på · blandade sant och falskt.
- 4Markera påståendena
Markera varje sak som AI påstår. Sortera: belagt · osäkert · fel · måste kontrolleras.
- 5Kontrollera två påståenden
Lämna chatten. Använd en relevant och oberoende källa. Skriv ner vilken källa du använde och vad den visade.
- 6Granska AI:s svar
Skriv till AI: ”Lista faktapåståendena i ditt första svar. Vilka kan du belägga och vilka är du osäker på?”
- 7Testa ett eget område
Välj något offentligt och ofarligt som du kan mycket om — en plats, en bok, ett spel, en hobby, ett lag, skolans historia.
Använd INTE ditt fulla namn, personnummer, adress eller en kompis namn. Välj offentliga ämnen — inte din familj, dina kompisar eller privata konversationer.
Skriv slutsatsen
- AI lät säker när ______.
- Jag kunde kontrollera svaret genom att ______.
- Nästa gång ett AI-svar spelar roll ska jag ______.
Visa HUR du vet att det är fel. Källkritiken bor i belägget, inte i misstanken.
Fördjupning för dig som vill läsa mer
För dig som vill förstå hallucinationer på djupet — vad det är, varför det händer, och varför det är skolans problem.
Relevans:Etablerar att hallucinationer är systemiska i språkmodeller — inte ett fel som kan ”fixas” bort. Övningen demonstrerar detta i levande exempel där läraren redan kan svaret.
Vad studien visar
Systematisk översikt av hallucinationer i språkmodeller. Kategoriserar intrinsiska hallucinationer (motsäger källmaterial) och extrinsiska (lägger till overifierbar information) — direkt grund för Hallucinationsjakten.
- Caulfield (2019). SIFT: The Four Moves (Stop, Investigate, Find better coverage, Trace claims) — Hapgood
Relevans:SIFT-ramverkets ”Trace claims”-steg är det enda som överlever i AI-källkritik (det finns ingen institution att utvärdera, bara påståenden att verifiera). Övningen tränar precis detta.
Vad studien visar
Operationaliserar lateral reading till fyra konkreta drag som elever kan lära sig och tillämpa. Workshopens ”dubbelkoll”-aktiviteter bygger på SIFT.
- Wineburg & McGrew (2017). Lateral Reading: Reading Less and Learning More When Evaluating Digital Information — Stanford History Education Group
Relevans:Lateralt läsande som expertbeteende — eleverna måste lämna AI-svaret för att verifiera det, inte fördjupa sig i det.
Vad studien visar
Professionella faktagranskare överträffar både elever och professorer på källutvärdering — eftersom de läser LATERALT (öppnar nya flikar för att kolla vad andra säger om källan) snarare än vertikalt (analyserar själva sidan). Grundvalen för SIFT.
- •Hur reagerade AI på den falska premissen?
- •Vilken del av svaret lät mest trovärdig — och varför just den?
- •Gjorde detaljrikedomen svaret lättare eller svårare att ifrågasätta?
- •Fanns det någon språklig signal som avslöjade felet?
- •Vad gjorde du när du blev misstänksam?
- •Vilken källa kunde faktiskt avgöra frågan?
- •Vad händer när en elev inte redan känner till ämnet?
- •Är ett AI-svar säkrare om det har en källänk?
- •Vad är skillnaden mellan att fråga AI igen och att verifiera påståendet?
- •När är det rimligt att använda AI för faktafrågor?
- ⚠Övningen görs beroende av att AI faktiskt hallucinerar. En webbsökande modell kan svara korrekt, och då tror deltagarna att övningen misslyckades. Fråga i stället vad som fick modellen att bromsa.
- ⚠Eleverna räknar fel i stället för att belägga dem. För tillbaka samtalet till: hur VISADE ni att det var fel?
- ⚠Ämnet blir för brett. ”Berätta om fotboll” ger ett generiskt och rätt korrekt svar. Hjälp dem göra ämnet precist — en namngiven lokal cupfinal ett visst år.
- ⚠Eleverna väljer privata expertområden. Styr om till offentliga och ofarliga ämnen; ingen ska skriva in familj, adresser eller innehåll ur privata konversationer.
- ⚠Eleverna tror att en källa löser allt. Kontrollera om källan finns, är relevant, är oberoende och faktiskt stöder påståendet.
- ⚠AI korrigerar sig efter en följdfråga och alla blir lugna. Fråga då: vilket av de två svaren skulle en elev ha hunnit använda? Självkorrigering under press gör inte det första svaret mindre riskabelt.
- →Vänd på det — be AI:n skriva sanningen, lägg sen in en LITEN lögn. Klasskamrater ska hitta lögnen.
- →Jämför två modeller på samma prompt, en med och en utan webbsökning. Skillnaden i beteende är i sig en lektion.
- →Låt hälften av klassen få veta att boken är påhittad och hälften inte. Jämför hur grupperna läser samma svar.
- →Insistera: säg till AI att boken definitivt finns och be den försöka igen. Vad händer med osäkerheten under press?
Ur källkritik-workshopen