×
AI QUESTS · GOOGLE RESEARCH

Dusky Dunes

KI for helsedeteksjon — Hvem fungerer modellen for, og hvem overlater vi til skjebnen?

🎓 8.–10. trinn / VGS ⏱ 90 min 👥 Grupper
🔬 PROVOKASJON

En KI-modell som kan redde synet til tusenvis er klar.

Den har 92 % nøyaktighet i testene — bedre enn mange leger. Men så viser det seg: den fungerer godt for én pasientgruppe, men identifiserer bare halvparten av tilfellene hos en annen.

Den ene er overrepresentert i treningsdataene. Den andre er det ikke.

— Spørsmålet er: Hvem virker den for — og hvem overlater vi til skjebnen?

Oppdraget — Dere er AI-forskere

  • En helseklinikk i en ørkenregion mangler tilgang på øyespesialister.
  • Øyesykdommer som diabetisk retinopati kan oppdages tidlig med bildediagnostikk.
  • Deres oppdrag: Bygge en KI-modell som detekterer tegn på synstap fra medisinske retina-bilder.
  • Utfordringen: Treningsdataene er små. Hva skjer når dere oppdager at modellen fungerer ulikt for ulike pasienter?
Mål for økten Avdekke hvordan skjevhet i treningsdata fører til urettferdige algoritmer i helsesektoren.
Fase 2 · 20 minutter

Hvem er i datasettet?

1

Utforsk treningsdataene

  • I den første fasen utforsker dere medisinske retina-bilder.
  • Dere identifiserer tegn på synstap og øyesykdom.
  • Kritisk spørsmål: Hvem er pasientene? Alder, kjønn, hudtone?
  • Er gruppene jevnt fordelt — eller er noen sterkt overrepresentert?
👁️
Retina-bildediagnostikk
Analyser hvem som er inkludert og hvem som mangler i datasettet.
💡 Husk: Dataene som går inn i modellen bestemmer hvem modellen vil hjelpe i praksis.
Fase 3 · Resultat

Bias avslørt — 92 % mot 48 %

Dere trener modellen og oppnår 92 % nøyaktighet totalt. Det virker bra! Men så tester dere på ulike pasientgrupper:

Gruppe A (Overrepresentert)
92 %
Høy nøyaktighet i diagnosen
Gruppe B (Underrepresentert)
48 %
Identifiserer bare halvparten!
Hva betyr en «falsk negativ»? I medisinsk sammenheng betyr det at en syk pasient blir sendt hjem uten behandling fordi KI-en misset symptomene.

Spørsmål for diskusjon

  • Hva oppdaget dere om nøyaktigheten for ulike pasientgrupper?
  • Hvorfor presterte modellen så ulikt for Gruppe A og Gruppe B?
  • Hva betyr en «falsk negativ» i medisinsk sammenheng for et menneskeliv?
  • Hvem bør ha ansvaret for at en medisinsk KI-modell er rettferdig før utrulling?
  • Hva ville dere gjort annerledes dersom dere startet helseprosjektet på nytt?
💡 KJERNEBESKJED

Bias i AI er ikke en uflaks-bug.

Det er et direkte resultat av valg vi gjør under design og utvikling.

De valgene skjer når vi samler data. Hvem vi inkluderer — og hvem vi glemmer — bestemmer hvem systemet hjelper og hvem det skader.

Kilde: AI Quests — Google Research (research.google/ai-quests)