UNDERSÖKNINGL2

Bias-detektiven

Varför gjorde AI:n fel? Hitta orsaken i träningsdatat.

10 minLärdom: Bias är inte AI:s fel. Det är data. Du upplever kausalkedjan: ensidig data → snedvridna gissningar → balanserad data → bättre gissningar.

FALL 1 / 3 · REKRYTERING · 2014–2018

STEG 1 / 4

Amazons CV-AI

Amazon byggde en AI som skulle välja ut bra jobbsökanden från CV:n. Den straffade systematiskt CV som nämnde ord som 'kvinnornas schackklubb' eller 'damidrottsföreningen'. Den blev skrotad 2018.

AI:n var inte programmerad att vara orättvis. Ingen kodade in 'misshandla kvinnor'. Ändå blev resultatet det. Varför?

AI:S NUVARANDE UTFALL

Sökande #4221: 'Damidrottsföreningens lag-kapten 2019–22, Stockholm.'

→ AI: STARKT NEJ (sannolikhet att lyckas: 11%)