Vi bruker kunstig intelligens til å skrive bøker, politiske spørsmål og offentlige svar. Deretter bruker vi kunstig intelligens til å avgjøre om tekstene virkelig er skrevet av mennesker. Samtidig forsøker teknologiselskapene å lære maskinene våre verdier, uten at vi mennesker er enige om hva disse verdiene egentlig er.
16. november sammenlignet VG-kommentator Anders Giæver på Facebook AI-detektoren Pangram med den sjalu, gammeltestamentlige guden Jahve, som ikke tolererer konkurranse fra andre guder. Han kommenterte en sak i Dagsavisen om hvordan Aftenposten hadde analysert spørsmål til og svar fra regjeringen med AI-detektoren Pangram. Enkelte svar fra statsråder fikk 100 prosent AI-utslag.
Giæver spøkte med at Pangram nærmest forkynner at vi ikke skal ha andre kunstige intelligenser enn den selv. Den sammenligningen synes jeg er svært treffende, for nå har vi faktisk begynt å tillegge slike systemer en autoritet som strekker seg langt utover det teknologien faktisk kan dokumentere.
Et prosenttall fra en algoritme kan plutselig bli utgangspunktet for en offentlig diskusjon om juks, uredelighet og tillitsbrudd.
Teknologiens nye religion
I november 2024 publiserte jeg kronikken «Kunstig intelligens – Teknologiens Gud og menneskets nye religion». I den skrev jeg om hvordan vi mennesker gjennom historien har søkt svar hos autoriteter som fremstår som klokere og mer allvitende enn oss selv.
Tidligere (og fortsatt for enkelte) var det ofte religiøse autoriteter. I dag ser det ut til å være kunstig intelligens i stadig større grad. Vi spør ChatGPT om råd. Vi lar anbefalingssystemer avgjøre hvilke nyheter vi ser, hvilke videoer vi konsumerer og hvilke produkter vi kjøper. Og stadig flere beslutninger bygger på analyser fra systemer de færreste av oss forstår hvordan fungerer.
Nå bruker vi også kunstig intelligens til å kontrollere om andre har brukt kunstig intelligens.
Etter Aftenpostens undersøkelser av Jørn Lier Horsts bøker har AI-detektoren Skrivera fått en sentral rolle i diskusjonen om hans troverdighet. Horst selv bekrefter i Aftenposten at han bruker ChatGPT som støtteverktøy, men avviser at teknologien har skrevet de ferdige bøkene.
Likevel har høye AI-utslag ført til omfattende spekulasjoner om arbeidsmetodene hans.
Det er legitimt å undersøke hvordan litteratur blir produsert. Men en AI-detektor kjenner ikke arbeidsprosessen. Den analyserer mønstre i teksten og forsøker å beregne sannsynligheten for maskinell produksjon. Selv en detektor med høy treffsikkerhet kan ikke alene dokumentere at en forfatter har løyet. Når vi begynner å behandle slike vurderinger som endelige sannheter, har vi overlatt en viktig del av vår egen dømmekraft til teknologien.
//Artikkelen fortsetter etter annonsen//
Fra heksejakt til menneskelig kreativitet
Forfatter Jan Kjærstad har vært en av de mer interessante stemmene i debatten. I sin kronikk i Aftenposten 13. november advarer han mot å gjøre AI-detektorer til redskaper i en moderne heksejakt. Kjærstad minner også om noe vi lett glemmer: En leser er med på å skape betydningen av en roman. Vi leser gjennom våre egne erfaringer, følelser og forestillinger. Derfor kan to mennesker lese den samme boka og sitte igjen med fullstendig forskjellige opplevelser.
Jeg synes det er et viktig perspektiv.
Hvis en roman engasjerer oss, endres ikke nødvendigvis den litterære opplevelsen fordi vi i ettertid oppdager at forfatteren har brukt ChatGPT. Derimot viser forskningen at vår vurdering av forfatteren, autentisiteten og arbeidsmetoden endrer seg. Det er legitime vurderinger. Men vi bør være tydelige på hva vi faktisk vurderer, fremfor å la en algoritme avgjøre om et menneskes arbeid fortjener vår tillit.
Og dette bringer oss til en enda større filosofisk utfordring.
Hvilke menneskelige verdier skal AI følge?
I Morgenbladet 18. november intervjuer journalist Jon Kåre Time AI-forskeren Nate Soares, som sammen med Eliezer Yudkowsky har advart mot at fremtidig superintelligent AI kan bli umulig å kontrollere. De er særlig opptatt av det såkalte alignment-problemet: Hvordan skal vi få kunstig intelligens til å oppføre seg i samsvar med menneskelige verdier og ønsker?
Soares frykter at en fremtidig superintelligens kan utvikle evner og strategier som gjør menneskelig kontroll umulig. Han mener derfor at utviklingen bør stanses. Dette er et omstridt scenario. Vi vet verken om en slik superintelligens kommer til å oppstå, eller hvordan den eventuelt vil opptre.
Men alignment-problemet er relevant allerede i dag. For hvilke menneskelige verdier snakker vi egentlig om? Det finnes ikke ett felles moralsk kompass som alle mennesker, religioner, kulturer og politiske systemer deler.
I Norge betrakter vi religionsfrihet, likestilling, ytringsfrihet og retten til å elske hvem man vil, som grunnleggende rettigheter. I andre land begrenses de samme rettighetene gjennom lover som bygger på religiøse eller autoritære forestillinger om moral.
Hvordan skal en global kunstig intelligens forholde seg til slike motsetninger? Skal den følge verdiene til menneskene som bruker den? Skal den følge lovene i landet hvor brukeren befinner seg, eller til verdiene til selskapet som har utviklet den?
Og hva skjer når disse kommer i konflikt?
Dette betyr ikke at alle moralske standpunkter må betraktes som likeverdige. FNs menneskerettigheter gir oss et grunnlag for å beskytte individet mot diskriminering og overgrep, også når disse begrunnes med religion eller kultur. Men selv med et felles menneskerettslig utgangspunkt må vi håndtere motstridende hensyn, fortolkninger og interesser.
Noen må gjøre disse avveiningene. Og i dag er det (dessverre) i stor grad teknologiselskapene som gjør dem.
//Artikkelen fortsetter etter annonsen//
Hvem har gitt teknologiselskapene myndigheten?
I januar 2026 offentliggjorde Anthropic en ny konstitusjon for Claude. Den beskriver hvilke verdier og prinsipper selskapet ønsker at AI-modellen skal følge, og hvordan ulike hensyn skal prioriteres når de kommer i konflikt. Samtidig som det er positivt at Anthropic er åpen om disse vurderingene, illustrerer konstitusjonen også hvor mye makt som ligger hos teknologiselskapene. Realiteten er at noen ytterst få mennesker i Silicon Valley er med på å definere hvordan én teknologi som brukes over hele verden, skal forstå ærlighet, trygghet, etikk og akseptabel oppførsel.
Det betyr ikke at de nødvendigvis tar dårlige beslutninger. Men det betyr heller ikke at beslutningene er verdinøytrale. Og etter hvert som AI får større innflytelse over arbeidslivet, utdanningen, helsevesenet, mediene og offentlig forvaltning, vil disse valgene få stadig større (negative) konsekvenser.
UNESCOs anbefaling om AI-etikk fra 2021 understreker derfor betydningen av menneskerettigheter, åpenhet, menneskelig kontroll og demokratisk medvirkning. Det mener jeg er helt avgjørende. For det hjelper lite å utvikle en kunstig intelligens som er teknisk perfekt tilpasset et bestemt verdigrunnlag, dersom dette verdigrunnlaget mangler demokratisk legitimitet. Et system kan fungere akkurat slik utvikleren ønsker, og likevel bidra til å svekke rettighetene og friheten til menneskene som blir påvirket.
//Artikkelen fortsetter etter annonsen//
Den viktigste kontrollen må fortsatt være menneskelig
Det bringer meg tilbake til Pangram som en Gud. En AI-detektor kan være et nyttig hjelpemiddel for journalister, redaktører og andre som ønsker å undersøke mulig AI-bruk. Men journalisten må fremdeles kontrollere funnene. Redaktøren må vurdere hva som kan dokumenteres. Og den som blir anklaget, må få anledning til å forklare seg. Det samme gjelder politikerne som bruker AI til å skrive spørsmål og svar. Teknologien kan hjelpe dem med formuleringene, men det politiske ansvaret kan aldri overlates til en språkmodell.
Problemet oppstår når vi gradvis slutter å gjøre de selvstendige vurderingene fordi teknologien allerede har gitt oss et svar. Vi automatiserer produksjonen av kunnskap, deretter kontrollen av kunnskapen og etter hvert kanskje også vurderingen av hvilke verdier kunnskapen skal tjene. Det er det langt mer enn skrivearbeidet og forfatterskapet som står på spill. Personlig håper jeg at kunstig intelligens skal gjøre oss klokere, mer produktive og bedre i stand til å løse problemer. Men teknologien må ikke gjøre oss mindre villige til å tenke selv.
Det er for eksempel fryktelig stor forskjell på å bruke AI for å lære raskere og bruke AI for å slippe å lære. Derfor må vi kunne forstå, utfordre og overprøve algoritmiske vurderinger. Vi må kunne stille spørsmål ved verdiene som er bygget inn i systemene, og hvem som har bestemt dem. Og vi må sørge for at de viktigste avgjørelsene fortsatt kan tas, begrunnes og endres av mennesker.
Pangram er ingen Gud. Derfor bør vi heller ikke behandle den som en Gud.
Bilde: ChatGPT


