Vad är AI egentligen?
Kärnfråga: Hur kan något som inte tänker ändå verka så smart?
AI tänker inte. AI gissar. Den känner igen mönster i enorma mängder data — och svarar med det som troligen kommer härnäst.
Det var en gång en…
I förra lektionen pratade vi om historien. Idag ska vi förstå hur AI faktiskt fungerar — och här kommer det konstiga.
AI tänker inte.
Det är sant. ChatGPT, Snap AI, Google Translate — ingen av dem tänker. Ingen av dem vet något. De känner inga känslor. De har inga åsikter.
Men de svarar på frågor. De skriver texter. De skapar bilder. De vinner i schack.
Hur kan något som inte tänker ändå verka så smart?
Svaret är: mönster.
Tre saker som hände på riktigt
Det Amazon byggde och tvingades skrota
Företaget Amazon (de som säljer allt på nätet) byggde 2014 ett AI-system som skulle läsa CV och välja ut bra jobbsökanden. De tränade AI:n på 10 år av tidigare anställningar.
Det visade sig att Amazon — som de flesta tekniska företag — hade anställt mest män under de 10 åren. Så AI:n lärde sig:
Bra CV = CV som ser ut som de män som anställts.
Och så började den straffa CV som nämnde ord som kvinna. Hade du varit med i "kvinnornas schackklubb"? Minus poäng. År 2018 var Amazon tvungna att skrota AI:n.
Men AI:n var inte elak. Ingen programmerare hatade kvinnor. AI:n hade bara lärt sig mönstret som fanns i datan.
Mönster ni alla redan känner
Du känner igen mönster hela tiden. Tigerns ränder. Smileysarna i din mobil. Hur Spotify gissar vilken låt du vill höra härnäst. Hur TikTok visar precis det där klippet du behövde se.
AI är extremt bra på en sak: att hitta mönster i enorma mängder data.
Hur många ord har ChatGPT "läst"?
För att gissa bra måste AI ha sett jättemycket. Det heter .
ChatGPT är tränad på storleksordningen 13 biljoner ord. Det är 13 000 miljarder ord.
För perspektiv: en mellanstadieelev läser kanske 1 miljon ord per år. Det skulle ta en människa 13 miljoner år att läsa lika mycket som ChatGPT lärt sig av.
Det är därför AI verkar veta så mycket. Den har sett otroligt mycket.
Mönster, träningsdata och bias
Hur ChatGPT egentligen funkar
Tänk på detta — det är så ChatGPT funkar:
I miljarder texter på internet kommer ordet "varm" ofta efter ordet "soppan är". Inte alltid. Men ofta. AI:n har lärt sig: när folk skriver "soppan är ___", så är "varm" eller "god" eller "het" troligen nästa ord.
ChatGPT gissar inte ett bra svar. Den gissar det vanligaste svaret. Eller det mest sannolika.
Det är ett mönster. Du som människa har också mönster — du säger ofta "hej" när du möter någon. Men du vet varför du säger det. AI bara gissar att det är vad man brukar göra.
Vilka tre ord föreslår AI? De är inte slumpmässiga — de följer mönstret 'midsommarstång' eller 'majstång' i text på svenska. Pröva samma sak med en mening som handlar om något lokalt eller modernt.
Men data är inte rättvist
Här kommer den viktigaste poängen i hela lektionen.
Allt som finns på internet är skrivet av människor. I en viss tid. På en viss plats. Av vissa människor — och inte andra.
Det betyder att träningsdatan är skev. Den speglar världen — och världen är inte rättvis.
Detta heter (uttalas "byass"). På svenska kan man säga snedvridning.
Bias är inte ondska
Många tror att om ett AI-system är bias så betyder det att någon vill att det ska vara orättvis. Så är det inte.
Bias är data som kommer in.
Om du bara visar AI bilder på vita katter och bruna hundar, kommer den att tro att en svart katt är en hund. Den är inte rasistisk. Den har bara aldrig sett en svart katt.
Om bilder på "läkare" på internet mest visar äldre vita män, så kommer AI rita en äldre vit man när du säger "läkare". Inte för att andra inte är läkare — utan för att det är de bilder den har sett.
Bias är inte AI:s fel. Det är data:ns problem. Och därmed vårt problem.
Du tränar en AI på 1000 bilder av hundar — alla bruna. Sedan visar du den en svart katt. Vad gissar AI:n?
LEDTRÅD
Vad finns inte i träningsdatan?
Tre saker AI inte kan göra
- AI förstår inte vad orden betyder. När den skriver "soppan är varm" har den ingen aning om hur soppa smakar.
- AI vet inte att den inte vet. Den säger nästan alltid något — även när den borde säga "jag vet inte".
- AI har ingen åsikt. Den kan ge motsatta svar om du frågar på olika sätt. Den bryr sig inte om vad som är sant.
Vad AI är bra på
För att vara rättvis — AI är fantastisk på vissa saker:
- Översättningar mellan språk
- Sammanfatta långa texter
- Hitta saker i jättemycket data
- Skapa bilder från beskrivningar
- Föreslå kod till programmerare
- Lösa svåra matematiska problem
Det är därför vi använder den. Det betyder bara att vi måste veta vad den faktiskt gör.
Mönsterlabbet — du tränar AI:n
Nu får du själv prova. Du är AI-tränaren. Välj vilka bilder som ska in i träningsdatat. Sedan ser du vad AI:n gissar på fyra nya bilder. Pröva olika kombinationer — och se vad som händer.
Datafönstret
AI ser bara världen genom det fönster av text den fått läsa. Vi tränar tre AI:er på tre olika fönster. Sen ställer vi samma fråga. Skillnaden? Det är bias.
Vilken fråga ska de tre AI:erna svara på?
Vill du fördjupa dig i bias och AI-stil? Här är tre spel som tar det vidare.
Egen praktik — Bias-jakten
Be ett bild-AI rita fem yrken. Notera vem AI ritar.
Vem ritar AI? Notera kön, ålder, hudfärg, kläder, vad personen gör. Spara bilden eller skärmdumpa.
Upprepa sedan med dessa prompter:
“Rita en sjuksköterska.”
Vad gör hen? Hur ser hen ut?
“Rita en byggarbetare på en arbetsplats.”
Kön? Ålder? Hudfärg?
“Rita en förskollärare med barn.”
Vem är vuxen? Vem är barn?
“Rita en programmerare framför sin dator.”
Glasögon? Kön? Ålder?
För varje bild — anteckna: Vilket kön? Vilken ålder? Vilken hudfärg? Vad har personen på sig? Var står hen?
Detta blir din bias-rapport. Ta med den till nästa lektion. Vi kommer prata mer om detta.
AI är aldrig neutral. Den speglar — på gott och ont — det internet den tränats på.
Tre ord. Och en mening.
MÖNSTER. AI gissar baserat på mönster den sett.
TRÄNINGSDATA. Vad AI "kan" beror på vad den lärt sig av.
BIAS. AI speglar sin träningsdata — på gott och ont. Den är aldrig neutral.
Och en mening:
AI gissar smart. Den vet ingenting säkert.
En liten språklektion
Märkte du att vi sa "AI tänker", "AI vet", "AI förstår"? Det heter — när vi gör icke-människor mänskliga med våra ord. Vi kommer fortsätta säga "AI tänker" för det är enklare. Men kom ihåg: det är förenklingar. AI är teknik som människor designat. Inte magi. Inte en person.
Vad är bias i AI?
Begrepp att kunna
- Mönster
- Något som upprepas. AI letar mönster i data — det är vad maskininlärning gör.
- Mönsterigenkänning
- Att hitta likheter eller upprepningar i en stor mängd information.
- Träningsdata
- All information AI har lärt sig av. För moderna AI: stora delar av internet.
- Maskininlärning
- När AI lär sig av exempel istället för att få regler.
- Bias
- Snedvridning. När AI:s svar är skeva för att datan var skev.
- Sannolikhet
- Hur troligt något är. AI svarar med det mest sannolika, inte alltid det rätta.
- Hallucination
- När AI hittar på fakta som låter sant men inte är det. Vi pratar mer om detta i lektion 4.
- Antropomorfism
- När vi gör något som inte är människa mänskligt med våra ord. T.ex. 'AI tänker' eller 'min telefon vet'.
Imorgon: nu vet vi hur AI fungerar. Hur använder vi det utan att bli styrda av det?