Hvordan undervise om KI-bias og rettferdighet i helse-KI?
Elever bygger en KI-modell for tidlig deteksjon av synstap i en simulert økenregion med begrenset helsetilgang. Når modellen trenes på ikke-representativ data, presterer den ulikt for ulike pasientgrupper — og elever møter direkte hva det betyr at treningsdata former hvem KI-en hjelper. Opplegget dekker bildeklassifisering, datasett-bias og etikk i helse-KI.
Forberedelse: Test at https://research.google/ai-quests fungerer i skolens nettverk og at Dusky Dunes-quest-en er tilgjengelig Gjennomgå quest-en selv — vær særlig forberedt på diskusjonen om bias og rettferdighet i fase 4 Les bakgrunnen om datasett-bias i helsetjenester (relevant for tverrfaglige temaer i læreplanen) Forbered diskusjonsspørsmålene — skriv dem på tavla eller vis på presentasjonen Minn elevene på å ta med ørepropper — spillet har lyd og fortellerstemme
«En KI-modell som kan redde synet til tusenvis av mennesker er klar til å rulles ut. Den har 92 % nøyaktighet i testene — det er bedre enn mange menneskelige leger. Men så viser det seg: modellen fungerer godt for én pasientgruppe, men identifiserer bare halvparten av tilfellene hos en annen gruppe. Den ene gruppen er overrepresentert i treningsdataene. Den andre er ikke det.
Etter å ha lest: Still spørsmålet til klassen: «Er det riktig å bruke en modell som fungerer bedre for noen grupper enn andre — hvis alternativet er ingen modell i det hele tatt?» La elevene diskutere 2–3 minutter i grupper, deretter start quest-en.
Hva elevene gjør: De møter quest-en. De er AI-forskere. De møter et helseteam i en økenregion som mangler øyehelsetilgang. Problemet presenteres: vi trenger en modell for tidlig deteksjon av synstap.
Din rolle: Observer første gang. Gi konteksten energi. «Dere skal nå bygge noe som faktisk kan hjelpe pasienter. Og det starter med data.»
Hva elevene gjør: De utforsker treningsdatasettet. De ser medisinske retina-bilder. De identifiserer tegn på synstap (eksem.: blødninger, eksudater, etc.). De begynner å lage en mental modell av «hva er normalt?» og «hva er tegn på sykdom?»
Kritisk moment: De skal også oppdage demografien i dataene. Hvem er pasientene? Alder, kjønn, hudtone? Er det jevnt fordelt?
Din rolle: Sirkuler. Spør: «Hvem ser dere mye av? Hvem ser dere lite av? Hva betyr det for en modell som lærer fra akkurat disse bildene?»
Hva elevene gjør: De trener modellen på datasettet. Quest-en viser prosessen: loss-kurve, metrikkene øker. Etter trening: «Nøyaktighet: 92 %.» Det ser bra ut!
Vendepunktet: De tester modellen på ulike pasientgrupper. Nøyaktigheten viser seg ikke å være 92 % for alle. For en gruppe: 92 %. For en annen gruppe: 48 %. Elevene ser grafer eller tabeller som gjør dette tydelig.
Din rolle: La elevene oppdage det selv. Når de uttrykker overraskelse eller forvirring: «Akkurat. Hva forklarer denne forskjellen?» — og pek tilbake til fase 2-dataene.
Hva elevene gjør: Quest-en presenter dem med et valg: kan du lansere denne modellen? Hva gjør du? Elevene må reflektere og begrunne sitt svar. Quest-en lar dem utforske konsekvenser av ulike valg.
Etikk-kjernen: En «falsk negativ» (modellen sier ingen synstap når det er det) kan føre til blindhet. En pasientgruppe med høyere falsk-negativ-rate blir systematisk skjøvet fra hjelp.
Din rolle: Forbered klassediskusjonen. «Hva ville dere gjort? Hadde dere lansert modellen? Hvorfor / hvorfor ikke?»
Dette hjørnet er kun for deg — bakgrunn, differensiering og begrepene du trenger å være trygg på før du går inn i klasserommet.