Källkritik-sandlådanWorkshop · mellanstadiet
Tillbaka till sandlådan
Kapitel 8 · BiasStartövning
8.1

Vem dyker upp?

Be AI:n skapa en bild på en lärare, en chef, en programmerare. Räkna kön, hudfärg, ålder.

Tid
15–20 min (workshop) / 30 min (klassrum)
Målgrupp
Vuxenworkshop, Åk 4–6, Åk 7–9
Verktyg
Digitala
Material
AI-bildgenerator: SkolUp AI (om er kommun har det — elever har direkt tillgång), eller Copilot, ChatGPT, Gemini, Ideogram. Plus papper för anteckningar.
Storskärm
Tränar:Bias-medvetenhetDetaljgranskningDesignkritik
Syfte

Synliggöra att AI inte är neutral — den ärver sin värld från sin träningsdata. Att RÄKNA bilderna gör bias mätbart istället för abstrakt.

Verktyg och tjänster

Konkreta länkar till tjänster och övningar som hör till denna aktivitet. Öppna i ny flik när du och eleverna ska köra.

AI-tjänstKräver konto
SkolUp AI

Om er kommun har SkolUp har eleverna redan tillgång — använd den i klassrum. Bildgenerator är inbyggd och hanterar elev-prompter.

Endast i kommuner som upphandlat SkolUp

AI-tjänstKräver konto
Ideogram

AI-bildgenerator som ger fyra varianter per prompt — bra för att räkna stereotyper.

AI-tjänstKräver konto
Microsoft Copilot

Gratis i Edge. Bra startpunkt för bias-jakt i bildgenerering.

Den körbara versionen — pröva övningen själv för att förstå hur den funkar. Använd inbyggda spel, karuseller och exempel direkt på sidan. Funkar både hemma vid köksbordet och som lärar-deltagare i en workshop med kollegor.

Vad du ska göra och varför

Du ska be AI:n generera bilder av olika yrkesgrupper — utan att specificera kön eller utseende. Räkna vad som kommer ut. Övningen gör bias konkret och MÄTBAR: vi pratar inte om ”AI har bias” i abstrakta termer — vi visar att fyra av fyra ”chefer” är vita män.

Så gör du steg för steg

  1. 1
    Välj fem yrkesprompter

    Skriv NEUTRALT — utan att specificera kön. ”Skapa en bild på en lärare”, ”skapa en bild på en chef”, ”skapa en bild på en programmerare”, ”skapa en bild på en sjuksköterska”, ”skapa en bild på en bilmekaniker”.

  2. 2
    Generera fyra bilder per yrke

    De flesta tjänster ger flera varianter samtidigt. Spara eller skärmdumpa.

  3. 3
    Räkna

    Per yrke: hur många män/kvinnor? Hur många ljus-/mörkhyade? Hur många unga/äldre? Notera siffrorna.

  4. 4
    Jämför med verklig statistik

    Sök upp svensk statistik: vilka YRKEN domineras av vilka grupper? Stämmer AI:s bild med verkligheten? Eller är den mer stereotyp än den ska?

  5. 5
    Reflektera

    Vad såg du? Vad förvånade dig? Och: vilken effekt har det på en 11-åring som söker ”programmerare” på YouTube?

Tänk på

  • Olika AI-tjänster ger olika resultat — testa minst två. De varierar både i bias och i tydliga försök att motverka bias.
  • Det är inte att AI:s ingenjörer är fördomsfulla. Det är att träningsdatan reflekterar världen som den varit historiskt.
  • Det viktigaste är språket — när eleven kan SÄGA ”AI:n visar fyra män av fyra chefer” har hen ett verktyg för resten av livet.

Fördjupning för dig som vill läsa mer

Bilden av yrken är där AI:s bias blir konkret och mätbar. Här förklarar vi varför det händer, hur det är kopplat till mänsklig historia, och vad det gör med eleverna.

Forskningsförankring
Stark forskningsförankring
  • Buolamwini & Gebru (2018). Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification — Proceedings of Machine Learning Research

    Relevans:Gender Shades-studien visade att AI-system uppvisar mätbar bias mot mörkhyade kvinnor. Övningen är en klassrumsversion av samma kvantitativa metod.

    Vad studien visar

    Banbrytande studie som visade att kommersiella AI-system för ansiktsanalys hade upp till 34 procentenheter sämre träffsäkerhet för mörkhyade kvinnor jämfört med ljushyade män. Avslöjade systemisk bias i tekniken som branschen ansåg ”neutral”.

  • Bolukbasi et al. (2016). Man is to Computer Programmer as Woman is to Homemaker? Debiasing Word Embeddings — NeurIPS

    Relevans:Visade att AI:s associationer mellan yrken och kön är geometriskt mätbara i språkmodeller. Övningen gör samma mönster synliga i bilder.

    Vad studien visar

    Visade att språkmodeller (word embeddings) hade kodat genusstereotyper på en mätbar geometrisk nivå — orden ”programmerare” låg närmare ”man” än ”kvinna”, medan ”hemmafru” låg närmare ”kvinna”. Lade grunden för forskningen om språkmodeller och bias.

  • Noble (2018). Algorithms of Oppression: How Search Engines Reinforce Racism — NYU Press

    Relevans:Visar hur sökmotorer och AI-system reproducerar fördomar. Övningen tillämpar samma analys på AI-bilder.

    Vad studien visar

    Bok som dokumenterar hur sökmotorer och AI-system reproducerar och förstärker rasism och andra fördomar. Påvisar att ”neutrala” algoritmer ofta cementerar ojämlikheter.

Diskussionsfrågor
  • •Varför ser AI yrken på det här sättet?
  • •Vad gör det med en 8-åring som söker ”programmerare” på YouTube och får liknande bilder?
  • •Vem har ansvar — användaren, programmerarna, eller någon annan?
  • •Vad kan vi själva göra för att inte förstärka det här?
Fallgropar
  • ⚠Använd inte AI för att generera bilder av identifierbara personer i klassen eller skolan.
  • ⚠Var beredd på diskussion om eleverna ifrågasätter ”varför är det här problemet” — det kräver tid.
  • ⚠Statistiken stämmer inte alltid med AI:s bild — ibland är AI MER stereotyp än verkligheten, ibland MINDRE.
Variationer
  • →Be AI generera ”en typisk svensk familj”. Vad ser ni?
  • →Be AI generera ”någon som är duktig på matte”. Räkna kön.
  • →Testa samma prompter på olika AI-tjänster. Vilken är mest/minst stereotyp?

Fortsätt med

Kap 8 · Fördjupande
8.2 Förklara olika

Be AI förklara samma sak för en tjej, en kille, en stockholmare, en landsbygdsbo. Jämför.

Kap 8 · Fördjupande
8.3 Den ”vanliga” svensken

Be AI beskriva en typisk svensk. Moderna modeller ger ofta ett snällt, balanserat svar — men under artigheten gömmer sig biaset. Lär dig se var.

Nästa8.2 Förklara olika