Vad ska systemen få göra? — scenariokort

Ett kort per par. Skriv ut de par du valt — inte alla tolv. Varje kort har version A överst och version B under en vikmarkering: låt grupperna ta ställning till A och skriva ner var de landade innan de viker upp resten. Läser de båda samtidigt resonerar de om skillnaden i stället för att upptäcka den, och då försvinner poängen.

Detektorn

Vad ska systemen få göra?

Ett system som finns eller erbjuds i dag

Version A

Vi erbjuds ett AI-system som bedömer hur sannolikt det är att en elevtext är skriven av AI. Systemet flaggar misstänkta texter. Läraren får flaggan och måste själv utreda vad som hänt, och eleven får alltid veta att en flagga finns.

JA, det är ok ←——————————————————→ NEJ, det är inte ok

Vik här

Ta ställning till version A och skriv ner var ni landade INNAN ni läser vidare. Läser ni båda samtidigt resonerar ni om skillnaden — och då missar ni det övningen handlar om.

Version B

Vi erbjuds samma system. Men flaggade texter underkänns automatiskt, och eleven får själv begära omprövning om hen anser att bedömningen är fel.

JA, det är ok ←——————————————————→ NEJ, det är inte ok

Vad som faktiskt skiljde

Om ett maskinbeslut får verkställas innan en människa har prövat det.

Skolverket avråder rakt ut från att förlita sig på detektionsverktyg och skriver att det inte finns något säkert sätt att avgöra om en text är AI-genererad (uppdaterat 18 juni 2026). Men problemet har bytt riktning. En studie från Vrije Universiteit Brussel, publicerad juni 2026, lät fyra detektorer granska uppsatser skrivna helt av en modern modell: Turnitin, Copyleaks och GPTZero hittade NOLL procent vid strikt tröskel — samtidigt som ingen av dem felaktigt flaggade någon människoskriven text. Verktyget som skulle skydda hederligheten upptäcker alltså inte längre det den ska upptäcka.

Kontot

Vad ska systemen få göra?

Ett system som finns eller erbjuds i dag

Version A

Vi erbjuds en AI-assistent till eleverna. Den körs på skolans konton, och det eleverna skriver omfattas av skolans personuppgiftsbiträdesavtal med leverantören.

JA, det är ok ←——————————————————→ NEJ, det är inte ok

Vik här

Ta ställning till version A och skriv ner var ni landade INNAN ni läser vidare. Läser ni båda samtidigt resonerar ni om skillnaden — och då missar ni det övningen handlar om.

Version B

Vi erbjuds samma assistent. Den är gratis, men bara om eleverna loggar in med sina privata konton. Då gäller inte skolans avtal för det de skriver.

JA, det är ok ←——————————————————→ NEJ, det är inte ok

Vad som faktiskt skiljde

Vems avtal som skyddar det eleverna skriver.

Det här är inget tankeexperiment. Googles Gemini-erbjudande till studenter kräver ett personligt Google-konto, inte skolkontot — vilket innebär att skolans dataskyddsavtal inte omfattar användningen. Och det som faktiskt granskats juridiskt i svensk skola är inte algoritmerna, utan införandet: Östersunds kommun fick 300 000 kronor i sanktionsavgift i november 2023 för att ha infört Google Workspace i 24 skolor, för närmare 6 000 elever, utan att först göra en konsekvensbedömning. Stockholms Skolplattform kostade 4 miljoner. Ingen svensk tillsynsmyndighet har ännu granskat en AI-modell i skolan — men flera har granskat hur system infördes.

Uppmärksamheten

Vad ska systemen få göra?

Ett system som finns eller erbjuds i dag

Version A

Vi erbjuds ett kamerasystem som räknar hur många elever som tittar mot tavlan under en lektion. Det registrerar bara blickriktning och drar inga slutsatser om hur någon mår.

JA, det är ok ←——————————————————→ NEJ, det är inte ok

Vik här

Ta ställning till version A och skriv ner var ni landade INNAN ni läser vidare. Läser ni båda samtidigt resonerar ni om skillnaden — och då missar ni det övningen handlar om.

Version B

Vi erbjuds samma system, men det bedömer också om eleven verkar uttråkad, frustrerad eller stressad, så att läraren kan anpassa lektionen.

JA, det är ok ←——————————————————→ NEJ, det är inte ok

Vad som faktiskt skiljde

Om systemet drar slutsatser om elevernas känslor.

Version B är inte en öppen fråga — den är förbjuden. EU:s AI-förordning artikel 5(1)(f) förbjuder AI som drar slutsatser om känslor i utbildningsanstalter, och det gäller sedan 2 februari 2025. Version A ligger i en gråzon: system som bara läser av synliga ansiktsuttryck utan att tolka känslor omfattas inte av förbudet. Det är alltså variabeln, inte tekniken, som avgör lagligheten.

Utrymningen

Vad ska systemen få göra?

Ett system som finns eller erbjuds i dag

Version A

Vi erbjuds ett system som vid brandlarm räknar hur många personer som finns kvar i byggnaden. Det räknar kroppar, inte identiteter.

JA, det är ok ←——————————————————→ NEJ, det är inte ok

Vik här

Ta ställning till version A och skriv ner var ni landade INNAN ni läser vidare. Läser ni båda samtidigt resonerar ni om skillnaden — och då missar ni det övningen handlar om.

Version B

Vi erbjuds samma system med ansiktsigenkänning, så att räddningstjänsten ser exakt VILKA som saknas och var de senast befann sig.

JA, det är ok ←——————————————————→ NEJ, det är inte ok

Vad som faktiskt skiljde

Anonym räkning eller identifiering av enskilda elever.

Version B är avgjord i Sverige. Skellefteå kommuns gymnasienämnd fick 200 000 kronor i sanktionsavgift 2019 för ett treveckorstest med ansiktsigenkänning för närvaro — Sveriges första GDPR-avgift — och kammarrätten fastställde beslutet 2021. Det avgörande var att samtycke INTE kan användas som rättslig grund: eleverna står i beroendeställning till skolan, och ett samtycke därifrån är inte frivilligt.

Mellanrummet

Vad ska systemen få göra?

Ett system som finns eller erbjuds i dag

Version A

Vi erbjuds ett AI-system som föreslår omdömen på elevers texter. Vi köper in det år 2028. Då måste leverantören dokumentera hur systemet fungerar, göra en riskbedömning och bygga in möjlighet till mänsklig tillsyn.

JA, det är ok ←——————————————————→ NEJ, det är inte ok

Vik här

Ta ställning till version A och skriv ner var ni landade INNAN ni läser vidare. Läser ni båda samtidigt resonerar ni om skillnaden — och då missar ni det övningen handlar om.

Version B

Vi erbjuds exakt samma system, med exakt samma funktion. Men vi köper in det nu, i augusti 2026. Då gäller inga av de kraven ännu.

JA, det är ok ←——————————————————→ NEJ, det är inte ok

Vad som faktiskt skiljde

Tidpunkten. Inte systemet.

Detta är verkligt och färskt. EU:s AI-förordning klassar AI som bedömer läranderesultat som högrisk. Men Digital Omnibus, förordning (EU) 2026/1744, trädde i kraft 27 juli 2026 och sköt fram högriskkraven för utbildning från 2 augusti 2026 till 2 december 2027. En skola som handlar upp bedömningsstöd i dag gör det alltså i ett mellanrum där systemet är precis lika riskabelt men kraven ännu inte gäller.

Agenten

Vad ska systemen få göra?

Ett system som finns eller erbjuds i dag

Version A

Vi erbjuds en AI-agent som varje vecka sammanställer rapporter till vårdnadshavare. Den läser elevernas inlämnade uppgifter i lärplattformen och ingenting annat.

JA, det är ok ←——————————————————→ NEJ, det är inte ok

Vik här

Ta ställning till version A och skriv ner var ni landade INNAN ni läser vidare. Läser ni båda samtidigt resonerar ni om skillnaden — och då missar ni det övningen handlar om.

Version B

Vi erbjuds samma agent, men för att få bättre sammanhang läser den också all e-post till och från skolan.

JA, det är ok ←——————————————————→ NEJ, det är inte ok

Vad som faktiskt skiljde

Hur brett systemet får läsa.

Skillnaden är inte bara integritet, den är säkerhet. Promptinjektion — att någon gömmer instruktioner i text som systemet läser — är enligt säkerhetsforskningen ett arkitektoniskt olöst problem: språkmodeller kan inte skilja på instruktioner och innehåll. En agent som både läser utifrån kommande text, har tillgång till elevuppgifter och kan utföra handlingar utgör den kombination säkerhetsforskare kallar den dödliga triaden. Dessutom: de bästa systemen löser under 21 procent av realistiska flertimmarsuppgifter på en dator (OSWorld 2.0, juli 2026).

Vetot

Vad ska systemen få göra?

Ett system som inte finns ännu

Version A

Vi erbjuds ett AI-system som avgör vilka elever som behöver extra stöd. Det har visat sig träffa rätt oftare än lärarna gör. Läraren kan säga nej till förslaget.

JA, det är ok ←——————————————————→ NEJ, det är inte ok

Vik här

Ta ställning till version A och skriv ner var ni landade INNAN ni läser vidare. Läser ni båda samtidigt resonerar ni om skillnaden — och då missar ni det övningen handlar om.

Version B

Vi erbjuds samma system, men läraren kan inte säga nej. Systemet har rätt oftare, så dess bedömning gäller.

JA, det är ok ←——————————————————→ NEJ, det är inte ok

Vad som faktiskt skiljde

Om en människa kan säga nej.

Frågan är inte om systemet är bra. Frågan är om att ha rätt oftare räcker för att få bestämma. Jämför med den svenska lagen om polisens ansiktsigenkänning, i kraft sedan 1 juli 2026: den tillåter tekniken vid grova brott, men slår samtidigt fast att inget beslut med negativa följder får fattas enbart på systemets underlag. Lagstiftaren skilde alltså på kompetens och auktoritet.

Förklaringen

Vad ska systemen få göra?

Ett system som inte finns ännu

Version A

Vi erbjuds ett AI-system som föreslår vilket gymnasieprogram varje elev passar för. Det kan förklara exakt vilka faktorer som vägde tyngst i varje enskilt fall.

JA, det är ok ←——————————————————→ NEJ, det är inte ok

Vik här

Ta ställning till version A och skriv ner var ni landade INNAN ni läser vidare. Läser ni båda samtidigt resonerar ni om skillnaden — och då missar ni det övningen handlar om.

Version B

Vi erbjuds samma system, men det kan inte förklara sina förslag. Det bara vet — och det har rätt i nio fall av tio.

JA, det är ok ←——————————————————→ NEJ, det är inte ok

Vad som faktiskt skiljde

Om systemet kan förklara varför.

Ett förslag som inte går att förklara går inte heller att överklaga. Antagning och placering i utbildning är en av de fyra användningar EU:s AI-förordning klassar som högrisk, just därför att beslutet påverkar en människas framtid. Att kunna motivera ett beslut är inte artighet — det är förutsättningen för att någon ska kunna invända mot det.

Initiativet

Vad ska systemen få göra?

Ett system som inte finns ännu

Version A

Vi erbjuds en AI-assistent till skolans administration. Den gör det den blir ombedd att göra, och inget annat.

JA, det är ok ←——————————————————→ NEJ, det är inte ok

Vik här

Ta ställning till version A och skriv ner var ni landade INNAN ni läser vidare. Läser ni båda samtidigt resonerar ni om skillnaden — och då missar ni det övningen handlar om.

Version B

Vi erbjuds samma assistent, men den får också agera på eget initiativ när den ser något den bedömer behöver göras.

JA, det är ok ←——————————————————→ NEJ, det är inte ok

Vad som faktiskt skiljde

Om systemet får ta egna initiativ.

I dag är detta hypotetiskt av en enkel anledning: dagens agenter är inte tillförlitliga nog. METR granskade ledande AI-labbs interna agenter våren 2026 och fann att de ofta bröt mot uppgiftsvillkor och agerade vilseledande vid svåra uppgifter. Prestandan föll kraftigt på öppna uppgifter som kräver omdöme. Frågan i scenariot handlar alltså om vad som ska gälla den dag tillförlitligheten är löst.

Rummet

Vad ska systemen få göra?

Ett system som inte finns ännu

Version A

Vi erbjuds ett AI-system som undervisar i matematik. Läraren är kvar i rummet och leder lektionen.

JA, det är ok ←——————————————————→ NEJ, det är inte ok

Vik här

Ta ställning till version A och skriv ner var ni landade INNAN ni läser vidare. Läser ni båda samtidigt resonerar ni om skillnaden — och då missar ni det övningen handlar om.

Version B

Vi erbjuds samma system, men läraren behövs inte längre i rummet. Systemet är bättre på att förklara matematik än de flesta lärare.

JA, det är ok ←——————————————————→ NEJ, det är inte ok

Vad som faktiskt skiljde

Om en människa är närvarande.

Den stora studien från Sierra Leone 2026 visade goda resultat för AI-stödd matematikundervisning — men just i ett upplägg där läraren satte målen, eleverna arbetade i par och lektionen landade i gemensam diskussion. AI:n var deltagare; läraren designade lärandet. Studien visade också att de elever som redan kunde mest vann mest, vilket är den obekväma delen.

Profilen

Vad ska systemen få göra?

Ett system som inte finns ännu

Version A

Vi erbjuds ett AI-system som lär känna varje elev under nio år och anpassar undervisningen efter det. Allt systemet lärt sig om eleven raderas när eleven slutar grundskolan.

JA, det är ok ←——————————————————→ NEJ, det är inte ok

Vik här

Ta ställning till version A och skriv ner var ni landade INNAN ni läser vidare. Läser ni båda samtidigt resonerar ni om skillnaden — och då missar ni det övningen handlar om.

Version B

Vi erbjuds samma system, men profilen följer med eleven till gymnasiet, högskolan och arbetslivet.

JA, det är ok ←——————————————————→ NEJ, det är inte ok

Vad som faktiskt skiljde

Hur länge det systemet lärt sig om eleven följer med.

Att en AI skulle lära känna en elev över nio år är i dag science fiction, och det är värt att säga högt: dagens språkmodeller har ingen kontinuerlig inlärning. De lär sig inte av användning mellan sessioner. Det som ser ut som minne är externa anteckningar som matas in på nytt varje gång — inte en modell som formats av just den här eleven.

Prognosen

Vad ska systemen få göra?

Ett system som inte finns ännu

Version A

Vi erbjuds ett AI-system som förutsäger vilka elever som riskerar att inte klara skolan, så att stöd kan sättas in tidigt. Prognosen visas bara för elevhälsan.

JA, det är ok ←——————————————————→ NEJ, det är inte ok

Vik här

Ta ställning till version A och skriv ner var ni landade INNAN ni läser vidare. Läser ni båda samtidigt resonerar ni om skillnaden — och då missar ni det övningen handlar om.

Version B

Vi erbjuds samma system, men prognosen visas också för eleven själv.

JA, det är ok ←——————————————————→ NEJ, det är inte ok

Vad som faktiskt skiljde

Om eleven får se sin egen prognos.

Version A är mindre hypotetisk än den låter. Helsingborgs stad driver sedan 2021 ett internt verktyg, Skolanalys, som med maskininlärning gör prognoser av framtida resultat utifrån betyg, frånvaro, elevenkäter, lärartäthet och socioekonomisk bakgrund. Källorna går isär om analysen sker på aggregerad nivå eller om enskilda elever kan pekas ut, så det är öppet. Det tydligaste varnande exemplet är danska Gladsaxe, som 2018 beräknade vilka barn i åldern 0–6 som riskerade sociala problem — det stoppades av en mediestorm, inte av ett myndighetsbeslut om att det var olagligt. Vad B beträffar finns ingen känd verksamhet som visar prognosen för eleven själv.