Hva skjer når teknologien vokser raskere enn vår evne til å forstå, regulere og leve med konsekvensene? I et sjeldent ærlig essay advarer Anthropic-sjef Dario Amodei mot en AI-utvikling som har kommet i puberteten før samfunnet har blitt voksent nok til å håndtere den. Dette står i skarp kontrast til Silicon Valleys naive teknologioptimisme, og tvinger oss til å erkjenne en ubehagelig sannhet: Teknologi er ikke nøytral, og den former oss raskere enn vi rekker å forme den.
Anthropics toppsjef, Dario Amodei, sitt lange essay (69 PDF-sider) The Adolescence of Technology traff meg hardere enn jeg hadde forventet. Ikke fordi han sier noe radikalt nytt om teknologiens kraft, men fordi han, som toppsjef i et av verdens ledende AI‑selskaper, for en gangs skyld setter ord på noe Silicon Valley altfor ofte ignorerer: at teknologien har kommet i puberteten før vi har utviklet den voksenrollen som trengs for å håndtere den.
Amodei beskriver teknologiutviklingen i sitt essay som et barn i voldsom vekst: enormt kraftfull, impulsiv, mangelfullt regulert og i stor grad styrt av strukturer som belønner fart, makt og skalering, ikke modenhet, ansvar eller konsekvenstenkning. Det er et bilde som harmonerer urovekkende godt med både min egen bok Mennesket vs Maskinen og mitt Manifest for en menneskevennlig digital fremtid.
Samtidig står Amodeis resonnement i skarp kontrast til det Marc Andreessen beskrev i The Techno‑Optimist Manifesto fra 2023, som jeg blant annet omtalte som det beste eksempelet på teknologisjåvinisme. Marc skriver om et ideologisk maktskifte og hevder at teknologi er fundamentalt god, moralsk nøytral og i praksis selvregulerende gjennom markedet.
Les denne teksten her som et forsøk på å sette disse tre verdensbildene (mitt, Amodei og Marc) opp mot hverandre, og samtidig ta et tydelig standpunkt som handler om at teknologi ikke er nøytral, men politisk, psykologisk, økonomisk og kulturelt ladet. Denne teknologien former oss i dag raskere enn vi er i stand til å håndtere den.
//Artikkelen fortsetter etter annonsen//
Amodei: Teknologiens pubertet og menneskets umodenhet
Kjernen i Amodeis essay er enkel, men dypt urovekkende: Vi har bygget systemer med større kognitiv, økonomisk og samfunnsmessig kraft enn vi har institusjoner, normer og reguleringer til å kontrollere. AI, og spesielt generativ AI, er ikke bare et nytt verktøy. Det er en forsterker av intensjon, makt og feil. Amodei peker på flere sentrale utfordringer:
- Teknologi utvikles raskere enn samfunnets evne til å forstå konsekvensene
- Insentivstrukturene belønner skalering fremfor sikkerhet
- Reguleringene er enten fraværende, fragmenterte eller reaktive
- Menneskelig psykologi, ikke rasjonell fornuft, er fortsatt systemets svakeste ledd
Det viktigste poenget hans er at vi ikke lenger kan late som om teknologisk fremgang automatisk er samfunnsmessig fremgang. Og i teksten hans nærmer han seg et ståsted jeg selv har formulert i flere år. Nemlig at vi har gått fra operasjonell- til eksistensiell teknologi. Når systemene påvirker hvordan vi lever, leker, lærer og jobber, i tillegg til hvordan vi føler og knytter oss til andre mennesker, da holder det ikke lenger å snakke om “innovasjon” isolert fra etikk, psykisk helse, demokrati og makt.
Andreessen: Teknologioptimisme som ideologi
Marc Andreessens manifest er på mange måter det diametralt motsatte av Amodeis tekst. Der Amodei uttrykker tvil, modenhet og ansvar, leverer Andreessen et ideologisk kamprop for uhemmet teknologisk akselerasjon. I Andreessens verdensbilde er:
- Teknologi i praksis alltid løsningen
- Markedet er den ultimate moralske regulator
- Regulering er stagnasjon
- Kritikk av teknologi er bakstreversk pessimisme
- Mennesket er og forblir “master of the machine”
Problemet er ikke at Andreessen er optimist. Problemet er at optimismen hans er historieløs, psykologisk naiv og maktblind. Han hevder for eksempel at teknologi alltid skaper flere jobber enn den ødelegger, at markedet automatisk fordeler verdier rettferdig, og at mennesker vil tilpasse seg enhver teknologisk endring bare raskt nok.
Dette er påstander som i økende grad står i konflikt med empirien:
- Produktivitetsgevinster tilfaller i økende grad kapitaleiere, ikke arbeidstakere
- Plattformøkonomien konsentrerer makt hos noen få aktører
- Psykisk uhelse, ensomhet og kognitiv overbelastning øker
- Demokratisk tillit svekkes i takt med algoritmisk polarisering
Andreessen forveksler teknologisk potensial med samfunnsmessig realitet. Det er ikke teknologien som er problemet i seg selv, men fraværet av bremser, verdier og ansvar.
//Artikkelen fortsetter etter annonsen//
Mennesket vs Maskinen: Teknologiens to ansikter
I boken Mennesket vs Maskinen beskriver jeg teknologiens grunnleggende dobbelthet. Den er både frigjørende og undertrykkende, både effektiviserende og utmattende, både demokratisk og autoritær. Der Andreessen ser en lineær fremgangshistorie, ser jeg, i likhet med Amodei, et vippepunkt:
- Når AI blir sjef, ikke kollega
- Når effektivitet trumfer mening
- Når overvåking kamufleres som personaloppfølging
- Når kognitiv avlastning blir kognitiv svekkelse
Teknologiens største løfte er ikke økt produktivitet, men økt menneskelig kapasitet. Men det løftet innfris kun hvis vi aktivt velger å bruke teknologien til å styrke autonomi, dømmekraft og fellesskap. Ikke til å maksimere profitt, klikk, tempo og kontroll. Her er Amodei langt nærmere mitt ståsted enn Andreessen, selv om han skriver fra innsiden av teknologimakten.
//Artikkelen fortsetter etter annonsen//
Teknologi er ikke nøytral. Den er designet
Et av de mest seiglivede argumentene i teknologioptimismen er påstanden om at teknologi er nøytral, og at det kun er bruken som avgjør utfallet. Dette er rett og slett feil. Teknologi:
- bygges på bestemte verdier
- optimaliseres etter konkrete mål
- belønner spesifikke handlinger
- former atferd over tid
Når forretningsmodellen er oppmerksomhet, blir menneskelig distraksjon et mål. Når effektivitet er eneste KPI, blir menneskelig friksjon et problem. Når skala er viktigere enn tillit, taper fellesskapet. Dette er grunnen til at jeg i mitt eget teknologimanifest argumenterer for at mennesket må være eksplisitt designpremiss, ikke et implisitt håp.
Hvis Amodei har rett i at teknologien er i puberteten, da trenger vi et teknologisk voksenliv, noe som blant annet innebærer:
- Tydelig regulering før kriser. Ikke etter
- Åpenhet rundt algoritmer og AI‑bruk
- Ansvar for psykisk helse og demokratisk påvirkning
- Politisk mot til å utfordre teknologigigantene
- En nytt samfunnskontrakt mellom menneske og maskin
Det betyr ikke teknologipessimisme. Det betyr teknologisk ansvarlighet. Der Andreessen roper “hastighet”, roper jeg “retning”. Der han dyrker styrke, dyrker jeg balanse. Der han ser markedet som et moralsk kompass, ser jeg behovet for verdier som ikke bør automatiseres.
Fremtiden er fortsatt et valg
Amodeis essay er viktig nettopp fordi det bryter med den naive selvtilfredsheten som lenge har dominert teknologidebatten. Men det er ikke nok å erkjenne problemet. Vi må også velge side. Spørsmålet er ikke om teknologien vil vinne. Det gjør den uansett. Men vil mennesket fortsatt ha kontroll, eller bare underkaste seg til å bli kontrollert av den?
Fremtiden formes ikke av teknologi alene, men av hvilke verdier vi koder inn i den, eksplisitt eller implisitt.
Og det valget kan vi ikke utsette lenger (Hører dere, kjære politikere).
Bilde: OpenAI og Clipdrop
