En AI-generert etterretningsrapport konkluderte feilaktig med at et kinesisk fartøy fraktet komponenter til et atomvåpenprogram, og amerikanske styrker rakk å klargjøre en bording før noen oppdaget feilen. Historien, avslørt av CNN i september 2026 og siden gjengitt av blant andre Engadget og The New Republic, viser hvor fort menneskelig dømmekraft kan kobles ut når fart blir viktigere enn kontroll. Dette handler om hvem som egentlig har hånden på rattet når militæret lener seg på AI i sanntid.
Claude har gjort research og skrevet utkastet, mens Hans-Petter har verifisert, kontrollert, redigert og publisert.
Et fartøy, en feilslutning og fly i luften
Ifølge CNNs kilder brukte en etterretningsanalytiker i det amerikanske spesialstyrkemiljøet en AI-basert chatbot til å vurdere lasten på et kinesisk skip i Midtøsten tidligere i år. Verktøyet kombinerte åpne kilder med gradert etterretning og landet på en konklusjon om at fartøyet fraktet materiale knyttet til et atomvåpenprogram.
Det er alvorlig nok i seg selv, men det som virkelig bør få oss til å sette fra oss morgenkaffen et par minutter, er hvor langt saken rakk å gå før noen stanset den. Amerikanske styrker gjorde klar en operasjon for å borde skipet, og fly var allerede i luften, før noen i kommandokjeden stilte det ene avgjørende spørsmålet, nemlig om dette faktisk var verifisert av et menneske, eller om det bare var en maskin som hadde gjettet svært selvsikkert.
En kilde beskrev rapporten for CNN som «entirely false».
Bakteppet gjør saken enda mer talende. Forsvarsminister Pete Hegseth lanserte tidligere i 2026 programmet GenAI.Mil, som skulle gi militært personell tilgang til generativ AI for research og dokumentanalyse, som en del av Pentagons uttalte «AI-first»-strategi.
Intensjonen kan ha vært god, nemlig mer effektiv etterretning i en verden med enorme datamengder. Men i praksis fjernet reformen et lag med menneskelig kvalitetssikring som tidligere var standard prosedyre, og det var akkurat i det laget denne feilen glapp gjennom.
//Artikkelen fortsetter etter annonsen//
Friksjonen som forsvant, og friksjonen som kom tilbake
Det er fristende å tenke på AI i etterretningsarbeid som en ren effektiviseringsgevinst. Analytikere som tidligere brukte dager på å sile gjennom rapporter, kan nå få et utkast på minutter, og den friksjonen er reell og betydningsfull for en sektor som drukner i data.
Men denne saken viser oss friksjonen som kommer tilbake når vi fjerner den gamle, nemlig usikkerheten om hvor mye av beslutningsgrunnlaget som faktisk er menneskelig etterprøvd. Når et system kan produsere en overbevisende og veldokumentert utseende konklusjon på sekunder, blir fristelsen til å stole på den større enn evnen vår til å kontrollere den.
Det er sjelden teknologien i seg selv som er problemet i slike saker, det er at vi lar den overta en beslutning uten å bygge inn nok menneskelig kontroll rundt den.
Makten flyttet seg, uten at noen bestemte det
Det som slår meg mest med denne saken, er hvor lite dramatisk selve maktforskyvningen så ut mens den skjedde. Ingen tok en formell beslutning om at en chatbot skulle få avgjøre om USA skulle borde et kinesisk skip. Det skjedde gradvis, gjennom en serie fornuftige effektiviseringsgrep, helt til makten over en svært konsekvenstung vurdering hadde havnet hos et system ingen fullt ut forsto rekkevidden av.
Jeg skriver om nettopp dette i «Mennesket vs Maskinen»: vi velger sjelden bevisst å gi fra oss kontroll, vi outsourcer den bare bit for bit, helt til vi en dag oppdager at ingen lenger sitter med det fulle bildet.
Det samme mønsteret gikk igjen i noe jeg skrev om på CW.no i kommentaren «Nysgjerrighet uten dømmekraft er dårlig teknologiledelse», der poenget var at nysgjerrighet på ny teknologi, uten et bevisst apparat for dømmekraft rundt den, fort blir kostbart for dem det gjelder.
//Artikkelen fortsetter etter annonsen//
Fem spørsmål jeg alltid stiller til ny teknologi
Når jeg skal vurdere en sak som dette, bruker jeg fem spørsmål som et fast filter, hentet fra det jeg kaller en teknologihumanistisk linse på teknologiutvikling.
- Det første er hvilket menneskelig problem teknologien faktisk prøver å løse, og her var svaret et etterretningsmiljø som drukner i data og trenger raskere analyser.
- Det andre er hvilken friksjon den fjerner, og hvilken ny friksjon den skaper i stedet, og her byttet vi tiden brukt på manuell verifisering mot en ny og langt farligere usikkerhet om hvor mye av grunnlaget som faktisk var menneskelig kontrollert.
- Det tredje er hvem som får mer makt, data og kontroll, og i denne saken gled den makten stille fra analytikeren over til modellen og leverandørene bak den, uten at noen tok et bevisst valg om at det skulle skje.
- Det fjerde er hva som skjer med menneskelig dømmekraft, kompetanse og ansvar, og svaret her var at et helt lag med kvalitetssikring forsvant da GenAI.Mil fjernet kravet om grundig menneskelig gjennomgang.
- Det femte, og kanskje det viktigste i akkurat denne saken, er hvem som svarer for det når systemet tar feil.
//Artikkelen fortsetter etter annonsen//
Hvem svarer når systemet tar feil?
Verken Pentagon eller de involverte teknologileverandørene har foreløpig svart offentlig på det femte spørsmålet, altså hvem som sto ansvarlig for at en AI-generert vurdering fikk lov til å gå så langt i beslutningskjeden.
Så lenge det spørsmålet forblir ubesvart, er dette ikke bare et amerikansk forsvarsproblem. Det er en påminnelse til enhver leder, i offentlig som privat sektor, om at fart uten et tydelig definert ansvarspunkt før beslutningen tas, er en oppskrift på at noen til slutt betaler prisen for maskinens selvtillit.
Hva vi bør ta med oss?
Denne saken bør ikke gjøre oss redde for å bruke AI i etterretning eller forsvar. Teknologien løser et reelt menneskelig problem, nemlig å håndtere datamengder intet analytikerkorps i verden kunne klart manuelt.
Men den bør gjøre oss langt mer bevisste på hvor vi legger inn menneskelig kontroll i kjeden, og hvor tydelig vi definerer hvem som har det siste ordet før noe blir irreversibelt. Det gjelder like mye en norsk kommunedirektør som vurderer et AI-basert beslutningsstøttesystem, som det gjelder Pentagon.
Målet må være at teknologien blir mektigere uten at mennesket mister grepet, ikke at vi lar farten alene avgjøre hvor mye kontroll vi er villige til å gi fra oss.
Kilder:
- CNN: Exclusive: US military had close call after using AI for false intelligence report, sources say
- Engadget: AI almost led the US military to start a war with China, report says
- The New Republic: U.S. Nearly Started a War Because Military Used AI to Write a Report
- CW.no: Nysgjerrighet uten dømmekraft er dårlig teknologiledelse
