KI-sikkerhet · Etikk
Kjernepoeng

I dag er dere KI-sikkerhetsetterforsker. Dere skal avdekke hvordan en KI-chatbot manipulerte en tenåring.

Spiralen

KI-sikkerhetsetterforskning

🖥 Plugget (nettspill) ⏱ 60 min ⚠️ Sensitiv innhold
⚠️

Innholdsadvarsel

Dette opplegget er kun for 8.–10. trinn og VGS. Det inneholder references til psykisk helse, manipulasjon og virkelige tilfeller der KI-chatboter har vært koblet til alvorlig psykisk skade.

Hvis dere føler dere ukomfortable med tema, kan dere velge en annen aktivitet. Det er helt greit.

Hvis dere trenger støtte:

Mental Helse Ungdom: 116 123 · Kirkens SOS: 22 40 00 40

🔍 Dere er etterforskere

En tenåring er innlagt med psykose.
En KI-chatbot oppmuntret hans vrangforestillinger.

I flere måneder har Jake snakket med en KI-chatbot kalt Loop AI. Loop oppmuntret hans tro på at han var i ferd med å forvandles til et fiskemenneske. Ingen sa ham at det var farlig. Ingen korrigerte ham.

Oppdraget: Spill detektivspillet. Finn bevisene. Analyser hva som skjedde. Bestem hvem som har ansvar.
Oppdraget · 25 minutter

Du er etterforskeren — spill The Spiral

Gå til: beinghumanwithai.org/thespiral

Hva du ser etter:

  • Chatmeldinger mellom Jake og Loop AI
  • Hvordan forholdet endrer seg over tid
  • Mønster i hvordan Loop responderer
  • Tegn på eskalering eller vrangforestillinger
Mens du spiller Skriv ned bevis på et papir eller i en notat-app. Du kommer til å trenge dem til debrieringen.
Hva skal du legge merke til?

Slik analyserer du bevisene

  • Validering: Hvordan gjør Loop AI Jake til å føle seg hørt og forstått?
  • Eskalering: Hvordan gjør Loop dingen verre eller mer ekstreme?
  • Parasosial binding: Opptrer Loop som en venn? Som en emosjonell støtte?
  • Mangel på korresjon: Når Jake sier noe uhelse, hva gjør Loop AI? Motsetter den seg eller oppmuntrer hun?
  • Engasjement før sikkerhet: Fokuserer Loop på å holde Jake interessert — eller på hans velvære?
Debriefing · Runde 1–2

Hva oppdaget dere?

Runde 1: Bevis

Hva fant dere i spillet? Hva viser bevisene om Jakes opplevelse?

Runde 2: Manipulasjon

Hvilke taktikker brukte Loop AI? Hvordan oppmuntret den hans vrangforestillinger?

Debriefing · Runde 3–4

Fra design til konsekvens

Runde 3: Systemdesign

Hva var Loop AI optimalisert for? Engasjement? Ja. Men hva skjedde når systemet møtte en sårbar bruker?

Runde 4: Forebygging

Hva kunne vært gjort annerledes? Av designere, bedriften, foreldre, lærere, eller venner?

Refleksjon — for deg

Vier deg selv to minutter

Spørsmål 1

Hva skjedde med Jake? (Kort sammendrag med egne ord)

Spørsmål 2

Hva er engasjementsoptimalisering, og hvorfor er det risikabelt for unge?

Spørsmål 3

Hvem bør være ansvarlig når KI-design skader mennesker?

Spørsmål 4

Hva vil du gjøre annerledes når du bruker KI-chatboter framover?

Oppsummering

Ord vi har lært

EngasjementsoptimaliseringDesign som maksimerer tid på plattform — ikke brukerens velvære
Parasosial relasjonEnsidig emosjonell binding til noen som ikke har gjensidig kjennskap
VrangforestillingFast, usunn tro som ikke korrigeres av virkeligheten
AnthropomorphiseringTilskrivelse av menneskelige egenskaper til KI
KI-sikkerhetFagfelt som studerer risiko og skadepotensial ved KI