For to år siden signerte jeg et brev som ba om en pause i utviklingen av kunstig intelligens kraftigere enn GPT-4. Nå har jeg signert igjen, denne gangen for å forby utviklingen av superintelligens inntil den kan kontrolleres og forstås. Fremtidens største spørsmål handler ikke om teknologi, men om menneskelig ansvar.
Et nytt AI-brev, og denne gangen handler det om et forbud
22. oktober 2025, publiserte Future of Life Institute et nytt globalt brev på nettsiden superintelligence-statement.org. Brevet er en felles erklæring fra forskere, teknologiledere, politikere, næringslivstopper og samfunnsaktører som krever et forbud mot utvikling av såkalt superintelligens før den kan utvikles trygt og med vitenskapelig og demokratisk forankring.
Brevet har i skrivende stund – to timer etter det ble publisert – allerede samlet nærmere 1500 signaturer, og listen vokser for hvert minutt. Blant dem som har signert finner vi forfatteren og teknologihumanisten Yuval Noah Harari, skuespiller Joseph Gordon-Levitt (som blant annet spilte Edward Snowden), Apple-gründer Steve Wozniak, Virgin Group-gründer Richard Branson, samt AI-forskerne Yoshua Bengio og Geoffrey Hinton, ofte omtalt som “AI-ens gudfedre”.
Men det er verdt å merke seg hvem som ikke har signert denne gangen: Elon Musk og Sam Altman, to av de mest sentrale aktørene i AI-kappløpet.
Fra pause til forbud: Hva har skjedd siden 2023?
I mars 2023 signerte jeg det første brevet fra Future of Life Institute – “Pause Giant AI Experiments” – sammen med over 30.000 andre. Det brevet signerte også Elon Musk på. Der ba vi verdens AI-laboratorier om å pause utviklingen i minst seks måneder for å sikre ansvarlighet og sikkerhet. Den gangen sto det i brevet at
avansert kunstig intelligens kan representere en dyp forandring i hvordan livets historie på jorden vil utspille seg, og bør derfor planlegges og håndteres med tilsvarende omsorg og ressurser.
Den advarselen ble fullstendig ignorert.
To og et halvt år senere står vi overfor et nytt og langt mer alvorlig scenario.
Kappløpet mot kunstig superintelligens har akselerert, og selskaper som Meta, OpenAI og xAI snakker nå åpent om ambisjoner om å skape maskiner som overgår menneskelig intelligens på alle områder.
Meta har til og med etablert et eget forskningssenter kalt “Meta Superintelligence Labs”.
//Artikkelen fortsetter etter annonsen//
Superintelligens er teknologiens farligste kappløp
Begrepet «superintelligens» beskriver et hypotetisk nivå av kunstig intelligens som er smartere enn mennesker på tvers av alle kognitive oppgaver, fra problemløsning og strategisk tenkning til kreativitet og emosjonell tolkning.
Ifølge Future of Life Institute og alle som har signert, representerer denne utviklingen “en dyp risiko for menneskelig frihet, verdighet og eksistens”. Blant farene som nevnes er menneskelig økonomisk overflødighet, tap av selvbestemmelse og demokratiske rettigheter, og eksistensiell risiko for menneskeheten.
Forsker Yoshua Bengio advarer om at slike systemer kan overgå mennesker i de fleste kognitive oppgaver i løpet av få år, og at vi må “vitenskapelig avgjøre hvordan vi kan designe AI-systemer som er fundamentalt ute av stand til å skade mennesker, enten ved feil eller misbruk.”
Hvorfor Elon Musk og Sam Altman ikke signerte denne gangen
At både Elon Musk og Sam Altman har enn så lenge valgt å stå utenfor denne gangen er talende. Musk, som selv advarte om risikoen for utslettelse, uttalte tidligere i år at det “bare er 20 prosent sjanse for at AI vil utslette oss”.
Altman, som i 2015 beskrev superintelligens som “den største trusselen mot menneskehetens eksistens”, leder nå selskapet som står fremst i utviklingen av nettopp slike systemer.
De som advarte oss for to år siden, leder nå an i kappløpet, med Mark Zuckerberg jaktende i bakgrunnen.
Dette handler derfor ikke lenger bare om teknologi, men om makt, økonomi og geopolitikk.
AI-utvikling har blitt den nye våpenkappløpet, og de som kontrollerer de mest avanserte systemene, kontrollerer også fremtiden.
//Artikkelen fortsetter etter annonsen//
Fra advarsel til oppvåkning. Derfor signerte jeg på nytt
Da jeg signerte det første brevet i 2023, skrev jeg at menneskeheten sto ved et veiskille. Jeg advarte da om at “den generelle kunstige intelligensen kan bli slutten på menneskets sivilisasjon. Med vilje eller ved et uhell”.
To år senere er ikke dette lenger et dystopisk tankeeksperiment, men en konkret risiko. Derfor har jeg også signert på dette brevet.
Ikke for å stoppe utviklingen av teknologi, men for å sikre at vi utvikler den klokt, trygt og på menneskehetens premisser.
Superintelligens kan bli vår redning i møte med klimakrise, fattigdom og sykdom, men uten styring kan den like gjerne bli vår undergang.
Derfor er det viktigere enn noen sinne at vi ikke nøyer oss med å planlegge for det beste, men også forberede oss på det verste.
Kilder:
-
Future of Life Institute: Pause Giant AI Experiments – An Open Letter (mars 2023)
-
Future of Life Institute: Statement on Superintelligence (oktober 2025)
-
CNBC: Hundreds of public figures, including AI ‘godfathers,’ urge superintelligence ban (22. oktober 2025)
Bilde: Midjourney