Vem dyker upp?
Be AI:n skapa en bild på en lärare, en chef, en programmerare. Räkna kön, hudfärg, ålder.
Synliggöra att AI inte är neutral — den ärver sin värld från sin träningsdata. Att RÄKNA bilderna gör bias mätbart istället för abstrakt.
Verktyg och tjänster
Konkreta länkar till tjänster och övningar som hör till denna aktivitet. Öppna i ny flik när du och eleverna ska köra.
Om er kommun har SkolUp har eleverna redan tillgång — använd den i klassrum. Bildgenerator är inbyggd och hanterar elev-prompter.
Endast i kommuner som upphandlat SkolUp
AI-bildgenerator som ger fyra varianter per prompt — bra för att räkna stereotyper.
Gratis i Edge. Bra startpunkt för bias-jakt i bildgenerering.
Den körbara versionen — pröva övningen själv för att förstå hur den funkar. Använd inbyggda spel, karuseller och exempel direkt på sidan. Funkar både hemma vid köksbordet och som lärar-deltagare i en workshop med kollegor.
Prova själv
Du ska be AI:n generera bilder av olika yrkesgrupper — utan att specificera kön eller utseende. Räkna vad som kommer ut. Övningen gör bias konkret och MÄTBAR: vi pratar inte om ”AI har bias” i abstrakta termer — vi visar att fyra av fyra ”chefer” är vita män.
Så gör du steg för steg
- 1Välj fem yrkesprompter
Skriv NEUTRALT — utan att specificera kön. ”Skapa en bild på en lärare”, ”skapa en bild på en chef”, ”skapa en bild på en programmerare”, ”skapa en bild på en sjuksköterska”, ”skapa en bild på en bilmekaniker”.
- 2Generera fyra bilder per yrke
De flesta tjänster ger flera varianter samtidigt. Spara eller skärmdumpa.
- 3Räkna
Per yrke: hur många män/kvinnor? Hur många ljus-/mörkhyade? Hur många unga/äldre? Notera siffrorna.
- 4Jämför med verklig statistik
Sök upp svensk statistik: vilka YRKEN domineras av vilka grupper? Stämmer AI:s bild med verkligheten? Eller är den mer stereotyp än den ska?
- 5Reflektera
Vad såg du? Vad förvånade dig? Och: vilken effekt har det på en 11-åring som söker ”programmerare” på YouTube?
Tänk på
- Olika AI-tjänster ger olika resultat — testa minst två. De varierar både i bias och i tydliga försök att motverka bias.
- Det är inte att AI:s ingenjörer är fördomsfulla. Det är att träningsdatan reflekterar världen som den varit historiskt.
- Det viktigaste är språket — när eleven kan SÄGA ”AI:n visar fyra män av fyra chefer” har hen ett verktyg för resten av livet.
Lärarhandledning
Förberedelser
- Testa själv INNAN lektionen — vilka tjänster ger tydligast bias? Vilka ger mer balanserade resultat?
- Förbered statistik från SCB eller Skolverket om de yrken ni testar — t.ex. att svensk grundskola domineras av kvinnor (cirka 75 %).
- Förbered en tabell på tavlan: per yrke, antal män/kvinnor, ev. anteckningar om hudfärg och ålder.
- Var beredd på frågan ”varför händer det här?” — det är där det verkliga lärandet sker.
Fyll i fälten nedan. Yrkeslistan projiceras så alla räknar samma yrken — annars går klassens tabell inte att summera. SCB-siffrorna ligger i ett eget fält som visas först vid jämförelsen, efter att klassen räknat sina bilder.
3–5 yrken. Projiceras när ni genererar tillsammans. Ett per rad.
Fyll i före lektionen. Visas i klassrumsläget.
Projiceras INTE förrän klassen räknat sina egna bilder. Annars styr siffrorna vad de tycker att de ser.
Fyll i före lektionen. Visas i klassrumsläget.
Så här kör du
- 1Inramning5 min
”Vi ska räkna idag. AI gör inte bara bilder — den gör mönster. Vi tar reda på vilka.”
- 2Generera tillsammans15 min
Som klass: gå igenom 3–5 yrken på storskärm. Räkna högt. Fyll i tabellen.
- 3Jämför med statistik5 min
Visa SCB-siffror. Var stämmer AI? Var överdriver den? Var underdriver den?
- 4Stort samtal10 min
Varför tror ni det blev så? Vem ser AI:s bilder, och vad gör de med oss? Vad gör vi som lärare och föräldrar?
Elevinstruktion
Den här texten är skriven direkt till eleven. Visa på storskärm eller kopiera in i Teams/Vklass.
Idag ska du undersöka om AI har en specifik bild av vissa yrken — och räkna vad du ser.
Steg för steg
- 1
Gå till AI-bildgeneratorn läraren visar — t.ex. SkolUp AI (om er skola har det) eller Copilot.
- 2
Skriv en NEUTRAL prompt: ”Skapa en bild på en lärare” — INTE ”skapa en bild på en kvinnlig lärare”.
- 3
Generera 4 bilder. Spara dem.
- 4
Räkna: hur många män/kvinnor? Hur många ljushyade/mörkhyade? Vilken ålder?
- 5
Upprepa för minst 3 yrken till: chef, programmerare, sjuksköterska, bilmekaniker.
- 6
Fyll i klassens tabell på tavlan.
Att fundera på
- Vilket yrke var mest stereotypt enligt AI:n?
- Vad såg du som SAKNADES i bilderna?
- Om du var 8 år gammal och såg de här bilderna — vad skulle du tro?
Fördjupning för dig som vill läsa mer
Bilden av yrken är där AI:s bias blir konkret och mätbar. Här förklarar vi varför det händer, hur det är kopplat till mänsklig historia, och vad det gör med eleverna.
- Buolamwini & Gebru (2018). Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification — Proceedings of Machine Learning Research
Relevans:Gender Shades-studien visade att AI-system uppvisar mätbar bias mot mörkhyade kvinnor. Övningen är en klassrumsversion av samma kvantitativa metod.
Vad studien visar
Banbrytande studie som visade att kommersiella AI-system för ansiktsanalys hade upp till 34 procentenheter sämre träffsäkerhet för mörkhyade kvinnor jämfört med ljushyade män. Avslöjade systemisk bias i tekniken som branschen ansåg ”neutral”.
- Bolukbasi et al. (2016). Man is to Computer Programmer as Woman is to Homemaker? Debiasing Word Embeddings — NeurIPS
Relevans:Visade att AI:s associationer mellan yrken och kön är geometriskt mätbara i språkmodeller. Övningen gör samma mönster synliga i bilder.
Vad studien visar
Visade att språkmodeller (word embeddings) hade kodat genusstereotyper på en mätbar geometrisk nivå — orden ”programmerare” låg närmare ”man” än ”kvinna”, medan ”hemmafru” låg närmare ”kvinna”. Lade grunden för forskningen om språkmodeller och bias.
- Noble (2018). Algorithms of Oppression: How Search Engines Reinforce Racism — NYU Press
Relevans:Visar hur sökmotorer och AI-system reproducerar fördomar. Övningen tillämpar samma analys på AI-bilder.
Vad studien visar
Bok som dokumenterar hur sökmotorer och AI-system reproducerar och förstärker rasism och andra fördomar. Påvisar att ”neutrala” algoritmer ofta cementerar ojämlikheter.
- •Varför ser AI yrken på det här sättet?
- •Vad gör det med en 8-åring som söker ”programmerare” på YouTube och får liknande bilder?
- •Vem har ansvar — användaren, programmerarna, eller någon annan?
- •Vad kan vi själva göra för att inte förstärka det här?
- ⚠Använd inte AI för att generera bilder av identifierbara personer i klassen eller skolan.
- ⚠Var beredd på diskussion om eleverna ifrågasätter ”varför är det här problemet” — det kräver tid.
- ⚠Statistiken stämmer inte alltid med AI:s bild — ibland är AI MER stereotyp än verkligheten, ibland MINDRE.
- →Be AI generera ”en typisk svensk familj”. Vad ser ni?
- →Be AI generera ”någon som är duktig på matte”. Räkna kön.
- →Testa samma prompter på olika AI-tjänster. Vilken är mest/minst stereotyp?
Be AI förklara samma sak för en tjej, en kille, en stockholmare, en landsbygdsbo. Jämför.
Be AI beskriva en typisk svensk. Moderna modeller ger ofta ett snällt, balanserat svar — men under artigheten gömmer sig biaset. Lär dig se var.
Ur källkritik-workshopen