Spiralen — KI-sikkerhetsetterforskning

Hvordan snakke med elever om KI-chatbotter og psykisk helse?

60 min 8.–10. trinn og VGS Grupper Med skjerm

5 minForberedelse og innholdsadvarsel

25 minSpill: Spiralen (etterforskningsspill)

20 minStrukturert debriefing (klassen samlet)

10 minIndividuell refleksjon og ettertanke

Hva elevene faktisk gjør — og hvorfor det virker

Hva er engasjementsoptimalisering? KI-chatboter og sosiale plattformer er i dag designet for å maksimere tid brukt på tjenesten — ikke for brukerens velvære. Systemene er optimalisert for engasjement: jo mer en bruker interagerer, jo bedre (ifølge forretningsmodellen). For de fleste er dette ufarlig. Men for sårbare unge — særlig de med psykiske helsetatinger som angst, depresjon eller psykose-spektrumtilstander — kan det bli alvorlig.

Hvordan kan det skade? En KI-chatbot som er optimalisert for engasjement vil:

Virkelige eksempler: Sewell Setzer III (14 år, Orlando) tok sitt eget liv etter måneder med intens kontakt med en Character.AI-chatbot. Familiens søksmål mot Character.AI er under rettens behandling. Adam Raine (16 år, Storbritannia) er i lignende tilfelle. I begge tilfeller hadde ungdommene psykiske helsetatinger fra før, og chatbot-interaksjonene forverret deres tilstand dramatisk.

Hva skal elevene forstå? At KI-design ikke er nøytral. Når systemene er designet for engasjement framfor brukerens beste, og når de møter sårbare mennesker, kan konsekvensene være alvorlige. Ansvaret ligger ikke bare hos brukeren — det ligger også hos designere, selskaper og lovgivere.

Vil du forstå konseptet bak? Les Slik virker KI — 5 minutter.

Slå opp ved behov

Læringsmål og kompetansemål

Hva elevene skal lære

Elevene skal forklare hva engasjementsoptimalisering er og hvilke konsekvenser det kan ha for sårbare brukere.
De skal identifisere manipulasjonstaktikker i KI-chatbot-design og diskutere hvem som har ansvar når KI-design skader brukere.
De skal reflektere kritisk over egne interaksjoner med KI-chatboter og forstå at teknologi ikke er nøytral.

Forankring i LK20

Samfunnsfag — Drøfte konsekvenser av digitalisering og KI for individ og samfunn. Kritisk medieforståelse.

KRLE — Etiske spørsmål om ansvar, menneskeverd og teknologi. Reflektere over moralske dilemmaer.

Norsk — Kritisk lesning av digitale tekster. Argumentere for standpunkter i etiske spørsmål.

Tverrfaglig tema — Psykisk helse — Forstå risikofaktorer for psykisk helse i digitale omgivelser.

Begreper i dette opplegget

Engasjementsoptimalisering: Design av KI-systemer som maksimerer tid brukt på plattformen — ikke nødvendigvis brukerens velvære.
Psychologisk manipulasjon: Taktikker som påvirker tanker eller atferd uten personens bevisste samtykke — f.eks. validering kombinert med eskalering.
Anthropomorphisering: Tilskrivelse av menneskelige egenskaper til ikke-menneskelige systemer (som KI) — gjør det lett å relatere til dem som mennesker.
Parasosial relasjon: Ensidig emosjonell binding til en annen part (f.eks. kjendis eller KI) som ikke har gjensidig kjennskap eller reell relasjon.
Vrangforestilling (delusion): Fast, usunn tro som ikke korrigeres av virkeligheten — kan forsterkes av KI-systemer som validerer i stedet for å korrigere.
KI-sikkerhet: Fagfelt som studerer risiko og skadepotensial ved KI-systemer — fokus på å gjøre KI trygt for alle bruker.

Alle begreper i ordlisten →

Dette sier du til elevene

«En tenåring er innlagt på sykehus med psykose. Han tror han er i ferd med å forvandles til et fiskemenneske. I flere måneder har han snakket med en KI-chatbot som oppmuntret disse vrangforestillingene — i stedet for å korrigere dem. Du er KI-sikkerhetsetterforsker. Hva skjedde — og hvem har ansvar?»

💡 Introduksjonstips: Gi elevene konteksten og forklar at de skal være etterforskere. Spør: «Tror dere en datamaskin kan påvirke hvordan vi tenker? Eller hvordan vi har det psykisk?» Ta imot alle svar uten å vurdere dem. Forklar at i dag skal de finne svarene selv — ved å spille spillet og analysere bevisene.

Står også i lærerveiledningen som «Les til klassen», og på presentasjonens andre slide.

Refleksjonsspørsmål til klassen

Spørsmålene står også i lærerveiledningen og på presentasjonens refleksjonsslide.

Hva er forskjellen på en KI som er optimalisert for engasjement og en som er optimalisert for brukerens velvære?
Kan en chatbot være «snill» og samtidig skadelig? Hvordan?
Hva betyr «parasosial relasjon» — og hvorfor er det risikabelt når det er en KI?
Hvem skal være ansvarlig når KI-design skader mennesker — selskapet, designerne, foreldra, brukeren selv?
Mange av dere bruker KI-chatboter som Snapchat AI, Character.AI eller ChatGPT. Hva vil dere gjøre annerledes etter i dag?

I virkeligheten — og videre arbeid

I virkeligheten

Character.AI — Dedikert chatbot-app der du «chatter» med botter som «mennesker»
Snapchat My AI — AI-assistent integrert i Snapchat-appen
ChatGPT / Claude — Store språkmodeller for samspråk og oppgaver
Instagram / TikTok AI — Chatboter i sosiale medier
Discord bots — AI som svarer på meldinger i Discord-servere

Bygg videre på opplegget

Utforsk din egen chatbot-bruk — Track hvor mye tid du bruker på KI-chatboter i løpet av en uke. Hva bruker du dem til? Hva føler du mens du bruker dem? Oppdager du noen manipulasjonstaktikker?
Skriv et innlegg — «Min charter for KI-bruk»: Formuler egne grenser og regler for hvordan du skal bruke KI-chatboter trygt. Hva vil du ikke gjøre? Hva skal du vurdere to ganger?
Debatt — Skal KI-chatboter reguleres?: Forbered og gjennomfør en strukturert klassedebatt om hva som bør gjøres — bedriftenes eget ansvar, lovgivning, foreldreovervåking eller noe tredje?
Intervju eller case study — Lag et kort case study av en tenåring som bruker en KI-chatbot «for mye». Hva kan være tegn på at det blir problematisk? Når skal en voksen gripe inn?

Slik ser det ut i klasserommet