Til Malthe-Sørenssen-utvalget,
Jeg vil spille inn et konkret teknisk perspektiv på bruk av KI til sensur og annen beslutningsstøtte i høyere utdanning.
Diskusjonen om ansvarlig KI handler ofte om forklarbarhet, bias, menneskelig kontroll og etterprøvbarhet. Dette er nødvendig, men dekker ikke selve handlingsgrensen: Hvordan hindrer vi teknisk at et KI-system fatter eller effektuerer en konsekvensbærende beslutning når riktig hjemmel, mandat, formål, kontekst eller fersk autoritet ikke er til stede?
Et KI-system kan godt være i stand til å foreslå en karakter uten dermed å ha rett til å fastsette den. Vi mener derfor at styring bør ligge utenfor modellen og håndheves ved beslutningsøyeblikket.
En mulig arkitektur er:
Autoritative kilder → verifisert Authority State → fersk evaluering rett før handling → deterministisk beslutningskontrakt → kontrollert effekt → etterprøvbart receipt/evidensspor.
Poenget er at modellen kan analysere og foreslå, mens en separat teknisk kontroll avgjør om den konkrete handlingen faktisk er tillatt akkurat da. Manglende eller foreldet hjemmel, delegasjon, mandat, evidens eller kontekst skal gi stopp, utsettelse eller krav om menneskelig godkjenning – ikke bare en advarsel i etterkant.
Dette er særlig relevant dersom utvalget vurderer forsøk med automatisert sensur. Rettssikkerhet bør da ikke bare beskrives som et krav til modellen, men implementeres som en håndhevbar egenskap ved selve beslutnings- og effektgrensen.
VALO Research arbeider med denne typen execution governance og commit-time authorization for autonome og KI-støttede systemer. Jeg bidrar gjerne med en kort teknisk gjennomgang eller et konkret referanseoppsett dersom det er nyttig for utvalgets videre arbeid.
Innspillet kan publiseres.
Med vennlig hilsen
Njål Solland
VALO Research
Vedlegg: .