Vi har trøstet oss med at så lenge vi har et «human in the loop» og godkjenner det som kunstig intelligens produserer, beholder vi kontrollen. For kort tid siden leste jeg om utvikleren som gjorde nettopp det; godkjente hvert eneste steg, og likevel satt igjen med et system hun ikke forsto. Kontroll handler ikke om å være til stede i loopen, men om å lede den.
Rett før sommerferien holdt jeg et foredrag for de unge konsulentene i Accenture om kunstig intelligens og fremtidens arbeidsliv. Et av poengene mine traff en nerve hos dem. Jeg sa at «human in the loop», mennesket som en kontrollpost teknologien passerer gjennom, ikke lenger er godt nok. Vi må over på «human in the lead».
Vi må lede arbeidet, ikke bare godkjenne det.
For kort tid siden fikk jeg den beste illustrasjonen på hvorfor jeg mener det, servert av virkeligheten selv. I et leserinnlegg på kode24 forteller konsulent Henriette Kopstad hvordan hun brukte sommeren på å bygge et stort, personlig kunnskapssystem sammen med en av de nyeste språkmodellene. Hun leste planene. Hun svarte på spørsmål. Hun trykket «godkjenn» så mange ganger at hun spøkte om å ha satt rekord. Hun var, med andre ord, en samvittighetsfull person i loopen. Likevel endte hun opp med et system hun ikke skjønte, med stille feil som aldri ropte om hjelp, og hun måtte bruke nesten tre ganger så lang tid på å forstå det hun hadde bygget som på å bygge det.
Konklusjonen hennes er verdt å feste på veggen i ethvert konsulenthus og ethvert lederrom: å bygge noe med kunstig intelligens må være menneskeledet, ikke menneskevurdert.
En mestringsfølelse som kommer for tidlig
Dette er ikke en historie om en enkelt utvikler som gikk seg vill i en sommerferie. Det er et bilde på noe langt større. I den påfølgende artikkelen jeg skrev etter foredraget hos Accenture, «Konsulentbransjens juniorproblem», handler det om det jeg mener er tidens farligste yrkesparadoks. De unge skal lære faget samtidig som teknologien automatiserer nettopp de oppgavene man tradisjonelt lærte faget gjennom.
Man får godt språk før man har god forståelse. God struktur før man har tenkt gjennom problemet. Høy produktivitet før man har utviklet modenhet. Kunstig intelligens gir oss en følelse av mestring før mestringen faktisk er på plass.
Nå har vi tall som forteller at følelsen sprer seg.
Det ferske Arbeidslivsbarometeret fra YS viser at andelen under tretti år som opplever at spesialkunnskapen deres er nyttig, har falt fra 65 prosent i 2021 til 50 prosent i 2026. Andelen unge som føler at kompetansen deres blir verdsatt, har falt fra 63 prosent i 2019 til 43 prosent.
Det skjer samtidig som arbeidsplassene tar i bruk stadig mer kunstig intelligens. En tillitsvalgt setter fingeren på det avgjørende: dersom vi lar maskinene ta alle de enklere oppgavene, mister vi påfyllet av kompetanse vi trenger den dagen dagens erfarne folk pensjonerer seg.
Vi effektiviserer bort selve stigen folk klatret opp i.
//Artikkelen fortsetter etter annonsen//
Konsekvensen av å bli sittende i loopen
Tenk den linjen litt lenger enn til neste kvartalsrapport. Hvis produksjonen blir gratis, men forståelsen forvitrer, sitter vi om noen år med organisasjoner fulle av innhold ingen egentlig eier, beslutninger ingen helt kan forklare, og en generasjon som aldri fikk bryna dømmekraften sin på motstanden som skaper den. Det er en menneskelig og økonomisk risiko, ikke bare en teknologisk risiko, og den rammer bredt; fra det private næringslivet til offentlige tjenester der feil koster tillit, ikke bare penger.
Kopstad sitt system feilet uten å si fra. Det rapporterte at alt gikk bra mens det egentlig leste tomme filer. Slike stille feil er ufarlige i en privat sommerhobby. De er alt annet enn ufarlige i en kommune som saksbehandler søknader, i en bank som vurderer kredittrisiko eller i et sykehus som prioriterer pasienter.
Faren er ikke at kunstig intelligens gjør åpenbare tabber vi fanger opp, men at den gjør oss selvsikre mens vi tar feil, og at ingen i loopen lenger har den dype forståelsen som skal til for å oppdage det.
Fra humans in the loop til humans in the lead
Så hva bør vi gjøre. Ikke bremse teknologien. Jeg er en varm tilhenger av kunstig intelligens brukt klokt, og jeg tror den kan løfte mennesker høyere opp i verdikjeden enn noen gang. Men vi må for all del hindre at vi mennesker ender opp som en godkjenningsknapp og påse at vi forblir ledere i slike AI-prosjekter.
Forskjellen er ikke kosmetisk. En person i loopen spør «ser dette riktig ut» og trykker ja. En person i ledelsen spør noe helt annet.
- Hva forsto jeg egentlig her?
- Hva vurderte jeg selv, og hva stolte jeg blindt på?
- Hvilke alternativer forkastet modellen på mine vegne uten at jeg merket det?
- Hva ville jeg gjort annerledes uten hjelp?
Dette er de samme spørsmålene jeg mener enhver leder nå må stille sine unge medarbeidere, ikke bare «er leveransen ferdig», men «hva har du lært». Det kan høres mykt ut, men dette handler om hard kjernekompetanse i en økonomi der intelligens kan skaleres, mens ansvar ikke kan det.
I boken «Mennesket vs Maskinen» skriver jeg om kampen om arbeid, mening og kontroll i algoritmenes tidsalder. Dette er den kampen i praksis. Vi kan bruke kunstig intelligens til å gjøre oss skarpere, eller vi kan bruke den til å gjøre oss passive, avhengige og mindre reflekterte.
Å være mennesket i ledelsen er å velge det første bevisst, hver dag, også når det er mer strevsomt enn å trykke «godkjenn». Ekte forståelse kan ikke delegeres bort til en maskin uten at vi mister noe av oss selv i prosessen.
//Artikkelen fortsetter etter annonsen//
Resultatet, hvis vi tør å lede
Gjør vi dette riktig, blir ikke de unge ofrene for teknologien, men den første generasjonen som får lære raskere, teste flere hypoteser og komme tidligere inn i det virkelig verdiskapende arbeidet, forutsatt at de bruker kunstig intelligens til å utvikle dømmekraft og ikke bare til å levere fortere.
Fremtidens fagperson blir således mindre en produsent og mer en dirigent. En fagperson som leder arbeid på tvers av mennesker, teknologi, prosesser og ansvar.
Henriette Kopstad brukte tre uker ekstra på å forstå sitt eget system. Så skrev hun at hun endelig følte seg «in the loop» på ordentlig. Jeg vil påstå at hun da hadde beveget seg et viktig hakk videre. Hun hadde tatt ledelsen. Hun var «in the lead».
Det er dit vi må, alle sammen, fordi et menneske som bare godkjenner, ikke lenger vet hva det godkjenner.
Teknologien blir mektigere. Mennesket må fortsatt lede.
Bilde: ChatGPT
