Kan vi stole på det KI sier?

Troverdig er ikke det samme som sant

En språkmodell skriver flytende, selvsikkert og grammatisk plettfritt — også når den tar feil. Det er kjernen i tillitsproblemet. AILit-rammeverket beskriver kompetansen som trengs som evnen til å vurdere om KI-svar skal aksepteres, revideres eller forkastes. Bak den ligger fire kunnskaper: KI simulerer forståelse, men mangler følelser, etisk resonnement, kritisk tenkning og kontekst. Store språkmodeller kan gjøre fakta og fabrikkering vanskelig å skille, noe som øker risikoen for feil- og desinformasjon. Samme spørsmål kan gi ulikt svar fra gang til gang. Og systemene varierer i hvor åpne de er om hvordan svarene blir til.

Fenomenet har fått et eget navn: hallusinasjon — at KI-algoritmer finner opp informasjon som høres troverdig ut, men ikke er faktisk. Definisjonen er verdt å pakke ut. Modellen lyver ikke; den har ikke noe forhold til sannhet i det hele tatt. Den genererer det som er statistisk sannsynlig å skrive, og som oftest er det sannsynlige også riktig. Men når det ikke finnes godt dekning i treningsdataene, fyller modellen hullet med noe som ligner et svar — komplett med oppdiktede titler, årstall og kilder. AILit-rammeverket påpeker at kritisk tenkning blir stadig viktigere nettopp fordi KI genererer innhold som virker overbevisende, men kan være feil, skjevt eller manipulerende.

Udirs råd setter to norske stolper i bakken. Den første er ansvaret: «Eleven er ansvarlig for innholdet i besvarelsen, uavhengig hvilke kilder eller verktøy som benyttes.» Det gjelder like fullt for deg — svaret du bruker, er ditt. Den andre er mer ubehagelig og viktigere: god kildekritikk forutsetter at «eleven kan stoffet godt, og kan skille mellom fakta, kunnskap og feilinformasjon». Kildekritikk er altså ikke en generisk ferdighet man kan anvende på stoff man ikke kan. Uten fagkunnskap har man ingenting å sjekke mot — den som kan minst, er mest utsatt. Det snur rekkefølgen i undervisningen: fagkunnskapen er ikke det KI-en skal erstatte, den er forutsetningen for å bruke KI trygt.

Svaret på modulens spørsmål blir dermed: stol på KI slik du stoler på en velformulert fremmed — det an går an å lytte, men du sjekker før du bygger noe på det. Og du lærer elevene at selvsikker form aldri er et sannhetstegn.

Merk til slutt at dette er en kompetanse som holder seg. Modellene blir bedre, hallusinasjonene færre, og eksemplene dine vil eldes — men prinsippet om at troverdig form aldri garanterer sant innhold, gjelder uansett modellgenerasjon. Det gjaldt for reklame og propaganda lenge før KI, og det vil gjelde for teknologier vi ennå ikke har sett. Investerer du i denne dømmekraften nå, hos deg selv og elevene, har du bygget noe som overlever neste oppdatering.