fbpx
kunstig intelligens

Grunn til bekymring for utviklingen av kunstig intelligens?

Menneskehetens kollektive kunnskap og intelligens er i ferd med å blekne sammenlignet med den generelle kunstige intelligensen. Da er det kanskje riktig å ikke bare planlegge for det beste, men forberede oss litt mer på det verste. 

For kort tid siden skrev jeg at jeg tror 2023 vil gå ned i historien da den kunstige kunnskapsalderen tok over for informasjonsalderen. Isolert sett høres det spennende ut. Men etter å ha tenkt meg litt om og satt det hele opp i mot den eksponentielle hastigheten vi har vært vitne til hva gjelder utviklingen av store språkmodeller i løpet av den siste tiden, synes jeg det blir mindre spennende og mer skremmende. 

Samfunnsmessig transformasjon

Det jeg tror vi nå er vitne til er en samfunnsmessig transformasjon. En transformasjon hvor menneskehetens kollektive kunnskap og intelligens er i ferd med å blekne sammenlignet med den generelle kunstige intelligensen aktører som OpenAI er i ferd med å utvikle, og som Microsoft er i ferd med å distribuere ut i en global skala. Og det uten å ta tilsynelatende hensyn til hvorvidt det er trygt, ansvarlig og bærekraftig. Det viktigste er derimot å skaffe seg den såkalte “first move advantage”. Sekundært å ta over stafettpinnen til Google, og så tjene penger. Masse penger. Alt for aksjen og aksjonærene. Ikke like mye (kanskje) for menneskeheten. 

Imponerende og skremmende

På den ene siden lar vi oss imponere av hvor menneskelignende samtalene våre har blitt med teknologien, hvor den generative kunstige intelligensen i form av GPT-4 viser tegn til generell kunstig intelligens. Det er også spennende når vi ser på hvordan de helt nye tjenestene og applikasjonene som har dukket opp, men ikke minst alt som ennå ikke har det, vil gi oss som mennesker og individer muligheter til å skape den beste og mest kreative utgaven av oss selv. 

Samtidig er det også skremmende, hvis vi legger til menneskets iboende destruktive natur og den makten både individer, selskaper, institusjoner og politiske systemer vil kunne tilegne seg til formål som ikke vil være til det beste for verken for mennesker, nasjoner og kloden som sådan. Kombiner det med den kraften generell kunstig intelligens kan få, som kan ende med slutten for menneskets sivilisasjon, med vilje eller ved et uhell. 

Burde vi være bekymret nå?

I 2016 stilte jeg det retoriske spørsmålet om vi burde være bekymret. Bekymret for hvilken retning vår verden utvikles i, som følge blant annet av global oppvarming, digitalisering, globalisering og manglende politisk lederskap til å sette alt som skjer i sammenheng. 

Da skrev jeg at

 

– Digitaliseringen – anført av roboter og kunstig intelligens – ville «ta livet» av en tredjedel av alle norske arbeidsplasser i løpet av de neste 15 årene. I Sverige trodde man da at halvparten av arbeidsplassene vil forsvinne på like kort tid, og tilsvarende nivåer har man kalkulert for USA. 

 

Syv år senere snakkes det nå om at alle arbeidsplasser og arbeidsoppgaver som ikke krever fysisk tilstedeværelse, vil bli påvirket og at så mange som 300 millioner arbeidsplasser – tilsvarende 10 prosent av alle jobber i verden – kan bli automatisert bort av kunstig intelligens. På den andre siden betyr det også at 300 millioner arbeidstakere kan øke deres egen produktivitet hinsides det som hadde vært menneskelig mulig, uten hjelp fra kunstig intelligens. 

Hvor raskt de 300 millionene jobbene skal automatiseres bort sier rapporten til Goldman Sachs ingenting om, og det er kanskje ikke så rart. For mye av den kunstige intelligensen vi ser nå i dag, trodde man for kun to år siden ikke ville være tilgjengelig før i 2030. 

Overvurderer først, undervurderer deretter

Historisk sett har vi hatt en tendens til å overvurdere effektene av ny teknologi på kort sikt, og undervurdere på lang. 

Nå står vi ved et veiskille hvor vi er ferdig med å undervurdere de langsiktige konsekvensene. Hvor realiteten av den kraftfulle kunstige intelligensen er i ferd med å innhente oss. Et veiskille hvor vi ikke lenger kun kan planlegge for det beste, men også forberede oss på det verste. Derfor ber blant annet Elon Musk, Steve Wozniak, Yuval Noah Harari, Christopher Reardon fra Meta, en rekke forskere fra Microsoft og godt over 1000 andre teknologi-eksperter, at man tar en seks måneders pause fra kunstig intelligens-utvikling mer kraftig enn GPT-4. I brevet heter det blant annet at 

 

– Kunstig intelligens-systemer med menneskelig konkurransedyktig intelligens kan utgjøre stor risiko for samfunnet og menneskeheten, noe omfattende forskning viser til

 

Videre heter det i brevet at

– avansert kunstig intelligens kan representere en dyp forandring i hvordan livets historie på jorden vil utspille seg, og bør derfor planlegges og håndteres med tilsvarende omsorg og ressurser. Dessverre skjer ikke denne planleggingen og styringen, selv om vi har vært vitne til et kunstig intelligens-kappløp som er ute av kontroll i jakten på å utvikle og distribuere stadig kraftigere kunstig intelligens som ingen – ikke engang deres utviklere – kan forstå, forutsi eller pålitelig kontrollere.

 

Ingen tro på en AI-pause

Jeg har ingen tro på at det vil være politisk vilje eller kraft til å sette utviklingen av kunstig intelligens på pause i et halvt år. Ikke minst vil ikke hele verden bli med på en slik “menneskelig dugnad”. Aller minst Kina. Samtidig er det viktig å understreke at det skal mye til, etter hva jeg forstår, at noen er i stand til å utvikle en kraftigere språkmodell enn GPT-4, på seks måneder. Ikke minst skaffe seg tilstrekkelig med datakraft til å kjøre den på. 

I 2019 skrev jeg om etisk kunstig intelligens. Den teksten ble faktisk skrevet med hjelp av kunstig intelligens, noe ingen oppdaget. Ikke før jeg selv informerte om det. Fire år senere har verktøy som ChatGPT, Eleven Labs og Midjourney ført til at stadig flere er skeptisk til om det de leser, hører eller ser er ekte eller syntetisk. Om det er fakta eller falsk. 

Trygg, ansvarlig og bærekraftig

I 2019 begynte jeg også å etterlyse politiske reguleringer relatert til utviklingen av kunstig intelligens. Enn så lenge har vi mest av alt lest at politikerne er engstelige. Samtidig er det viktig å påpeke at EU har kommet godt i gang, For EU har, kanskje ikke overraskende, satt seg mål om å bli verdens ledende superregulator innen kunstig intelligens. På den andre siden av atlanteren har hyper-kommersielle USA mest av alt økonomiske ambisjoner, anført av OpenAI som ser ut til å være hardt presset av Microsoft som ønsker å ta over plassen til Google. Et Google som ser ut til å forte seg sakte, og vente til deres KI er trygg og ansvarlig

Og så har du Kina, som sammen med Russland og med tette bånd til blant annet Saudi-Arabia, har andre planer. Planer om å bli verdens største økonomi og supermakt. Og da kommer utvikling av kunstig intelligens uten personvern og menneskerettigheter, og med verdens største hav av data, godt med. 

Planlegg for det beste. Forbered på det verste

Det er også det som gjør utviklingen av kunstig intelligens i et globalt perspektiv ekstra skummelt. Fordi teknologien utvikles av mennesker med helt forskjellige syn på personvern, menneskerettigheter, menneskeverd, økonomisk vekst og makt. Mennesker med makt som har et helt annet moralsk og etisk kompass. Disse individene, virksomhetene og nasjonene vil bry seg enda mindre om “pause-oppropet” fra Elon Musk og vennene hans. Om ikke annet vil de ble ytterligere motivert til å akselerere egen innsats mot den generelle kunstige intelligensen. Den menneskeskapte kunstige intelligens som på ett eller annet tidspunkt vil bli smartere enn den kollektive menneskelige kunnskapen og intelligensen. Hvor lang tid det vil ta, og hvor store konsekvensene vil bli av at reguleringer og lovgivninger vil ha løpt for sakte bak utviklingen, i frykt blant annet for å miste egen politisk makt, vil tiden vise. 

Jeg har sagt det før og jeg sier det igjen; planlegg for det beste, men forbered deg på det verste. Og med tanke på hvordan verden henger sammen nå, tror jeg det vil være best å fokusere litt mer på det siste. 

For jeg frykter det verste. 

 

Artikkelen sto først på trykk i Kampanje.com