Mark Zuckerberg sier fremtiden er for alle. Jeg tror ikke på ham

Mark Zuckerberg vil at vi skal tro at Meta åpner kunstig intelligens for å spre makt fra noen få selskaper og institusjoner til vanlige mennesker. Etter snart to tiår med Facebook og Meta ser jeg liten grunn til å ta ham på ordet. Historikken tilsier at vi bør følge makten, pengene og forretningsmodellen langt tettere enn manifestene hans.

10. august publiserte Mark Zuckerberg et manifest på rundt 6.500 ord om hvordan kunstig intelligens bør utvikles videre. Med tittelen «The Future is for Everyone» er budskapet at superintelligens ikke må kontrolleres av noen få selskaper eller myndigheter, men gjøres tilgjengelig for alle, slik at enkeltmennesket får mer makt over sitt eget liv. Samtidig lanserte Meta den åpne AI-modellen Muse Glimmer, som kan lastes ned og kjøres på vanlige datamaskiner.

To dager senere, 12. august, startet juryutvelgelsen i Oakland i en føderal rettssak der California, Colorado, Kentucky og New Jersey anklaget Meta for å ha designet Facebook og Instagram for å holde barn og unge på plattformene lengst mulig, samtidig som selskapet skal ha villedet offentligheten om risikoen. Åpningsprosedyrene er berammet til 18. august. Ifølge Meta selv kan måten delstatene beregner sanksjonene på, i ytterste konsekvens gi krav på 1.400 milliarder dollar. Det er et krav, ikke en ilagt bot, og Meta bestrider både anklagene og beregningen.

Timing kan være tilfeldig, men kontrasten er vanskelig å overse.

På den ene siden ber Zuckerberg oss stole på Meta som en garantist mot for stor teknologisk makt. På den andre siden forsvarer selskapet seg mot anklager om at nettopp jakten på vekst, engasjement og profitt har skadet en generasjon unge mennesker.

Jeg vet hvilken av de to historiene jeg legger mest vekt på.

//Artikkelen fortsetter etter annonsen//

«The future is private»

Jeg har hørt store løfter fra Zuckerberg før. 30. april 2019 sto han på scenen under Facebooks F8-konferanse foran skjermen med ordene «The future is private». Zuckerberg beskrev selv satsingen som en fundamental endring i hvordan selskapet skulle bygge produkter og drive virksomheten videre.

Det er viktig å være presis på kronologien. Bare noen måneder senere inngikk Facebook et forlik med amerikanske Federal Trade Commission på fem milliarder dollar, men saken gjaldt handlinger som i stor grad lå før Zuckerberg holdt talen. FTC mente Facebook hadde brutt et tidligere personvernforlik og gjentatte ganger villedet brukerne om hvor stor kontroll de faktisk hadde over personopplysningene sine. FTC skrev blant annet at selskapet hadde satt sine finansielle interesser foran personvernløftene til brukerne.

Hadde «The future is private» blitt starten på et grunnleggende oppgjør med denne kulturen, kunne historien sett annerledes ut. Det gjorde den ikke.

I 2022 ga det irske datatilsynet Meta en bot på 405 millioner euro etter en undersøkelse av hvordan Instagram behandlet personopplysninger om barn. Blant forholdene som ble undersøkt var offentliggjøring av barns telefonnumre og e-postadresser og at kontoer for barn kunne være offentlige som standard.

Året etter kom en bot på 1,2 milliarder euro etter at det irske datatilsynet konkluderte med at Meta hadde fortsatt å overføre personopplysninger om europeiske Facebook-brukere til USA på en måte som brøt GDPR.

Og historien stopper ikke med personvern.

//Artikkelen fortsetter etter annonsen//

I juli i år konkluderte EU-kommisjonen foreløpig med at Facebook og Instagram bryter Digital Services Act gjennom det Kommisjonen omtaler som avhengighetsskapende design. Etterforskningen omfatter blant annet infinite scroll, autoplay, pushvarsler og sterkt personaliserte anbefalingssystemer. Kommisjonens foreløpige vurdering er at Meta ikke i tilstrekkelig grad har vurdert eller redusert risikoen disse mekanismene utgjør for fysisk og psykisk helse, også for mindreårige og sårbare voksne. 

Bare dager før Zuckerbergs nye manifest ble publisert, ble Meta dessuten pålagt å betale totalt 942 millioner dollar etter en rettssak i New Mexico om skadevirkningene Facebook og Instagram har hatt på barn. 375 millioner dollar kom fra en tidligere juryavgjørelse, mens ytterligere 567 millioner dollar skal finansiere tiltak for å redusere skadevirkningene. Meta har varslet at selskapet vil anke.

Når Zuckerberg nå forteller meg at fremtiden er for alle, er det derfor umulig å ikke lese teksten uavhengig av historikken. Tillit skapes ikke gjennom manifester. Den skapes gjennom handling over tid. 

Etter min vurdering har Meta brukt opp det som er av tillit.

Følg forretningsmodellen, ikke festtalene

Jeg mener heller ikke vi trenger å gjette oss frem til hvorfor Meta ønsker åpne AI-modeller. Zuckerberg har allerede forklart store deler av forretningslogikken selv.

I juli 2024 publiserte han teksten «Open Source AI is the Path Forward», der han argumenterte for at åpne modeller ville hindre maktkonsentrasjon og gjøre AI tilgjengelig for flere. Det høres idealistisk ut, helt til man leser videre hvordan Zuckerberg forklarer hvor viktig det er for Meta å unngå å bli låst inne i konkurrentenes økosystemer. Han brukte Apple som eksempel og beskrev hvordan Apples kontroll over plattformen begrenser hva Meta kan bygge og hvordan selskapet kan distribuere produktene sine. Deretter skrev han at Meta ønsker å investere i økosystemet som skal bli den langsiktige standarden, og at Llama måtte utvikle seg til et komplett økosystem av verktøy, optimaliseringer og integrasjoner.

Enda mer avslørende er det at Zuckerberg selv understreket at salg av tilgang til AI-modeller ikke er Metas forretningsmodell. Dermed kan selskapet åpne modellene uten å sage over grenen det sitter på, slik en modellleverandør som lever av å selge API-tilgang risikerer å gjøre. Meta har også tidligere tjent på å gjøre teknologi åpen fordi åpenheten har bidratt til at andre standardiserer rundt teknologi selskapet selv er avhengig av. 

Dette er den delen av historien jeg stoler på, fordi den beskriver insentivene. Meta trenger ikke tjene penger på selve AI-modellen dersom selskapet kan tjene langt mer på alt som bygges rundt den. Hvis modellen blir en råvare, flyttes verdien til infrastrukturen, distribusjonen, brukerrelasjonen, dataene, annonsene, enhetene og økosystemet.

Der står Meta allerede usedvanlig sterkt.

//Artikkelen fortsetter etter annonsen//

Zuckerberg gir ikke fra seg makt. Han forsøker å flytte den

Her ligger den delen av Metas strategi jeg mener fortjener langt større oppmerksomhet.

Zuckerberg fremstiller valget som en kamp mellom sentralisert og distribuert AI. Enten lar vi noen få selskaper kontrollere fremtidens intelligens, eller så åpner vi teknologien og gir makten til alle. Det er en behagelig fremstilling for Meta, fordi den får selskapet til å fremstå som en motvekt til maktkonsentrasjon fremfor å være en av verdens største maktkonsentrasjoner.

Virkeligheten er derimot langt mer komplisert. En åpen modell kan gjøre det enklere for en norsk virksomhet å kjøre AI lokalt, beholde kontroll over egne data og redusere avhengigheten av lukkede modellleverandører. Det er reelle fordeler, og det skal vi ta på alvor. For et Europa som har gjort seg svært avhengig av amerikansk digital infrastruktur, kan åpne modeller være en viktig del av arbeidet med større teknologisk selvstendighet.

Men åpen tilgang til modellen betyr ikke automatisk åpen makt.

Internett demokratiserte publisering, mens distribusjonsmakten etter hvert samlet seg hos noen få plattformer. Sosiale medier ga milliarder av mennesker en stemme, samtidig som noen få selskaper fikk en historisk sterk posisjon til å styre hvilke stemmer som faktisk ble hørt. Smarttelefonen ga oss tilgang til enorme mengder teknologi, samtidig som Apple og Google fikk kontroll over operativsystemene, appbutikkene og store deler av den digitale økonomien.

AI kan følge nøyaktig den samme utviklingen. Millioner av mennesker kan få tilgang til åpne modeller, mens den virkelige makten konsentreres et annet sted i verdikjeden.

Det er derfor jeg mener Zuckerberg ikke først og fremst gir fra seg makt ved å åpne AI. Han forsøker å flytte den til et område der Meta har langt bedre forutsetninger for å vinne.

//Artikkelen fortsetter etter annonsen//

Fra å kontrollere feeden til å kontrollere assistenten

Zuckerbergs visjon fra juli 2025 gjør dette enda tydeligere.

I «Personal Superintelligence» beskrev han en fremtid der alle mennesker skal ha sin egen personlige superintelligens. Den skal kjenne oss dypt, forstå målene våre og hjelpe oss med å oppnå det vi ønsker. Zuckerberg fremhevet smarte briller som et særlig viktig grensesnitt fordi de kan se det vi ser, høre det vi hører og forstå situasjonen vi befinner oss i gjennom dagen.

Les den beskrivelsen én gang til, men glem et øyeblikk ordene «personal empowerment».

Meta ønsker å bygge en AI som kjenner deg dypt:

• Den skal forstå målene dine.
• Den skal se det du ser.
• Den skal høre det du hører.
• Og den skal følge deg gjennom dagen.

Dette kommer fra selskapet bak Facebook, Instagram, WhatsApp, Threads og Messenger, og fra en forretningsmodell som gjennom mange år har vært bygget rundt det å forstå mennesker godt nok til å holde på oppmerksomheten deres og selge målrettet annonsering.

Da mener jeg mistillit er en langt mer rasjonell reaksjon enn begeistring. Dagens sosiale medier konkurrerer om å påvirke hva vi ser. Morgendagens personlige AI-agent kan få innflytelse over hva vi gjør.

Forskjellen er enorm.

En feed anbefaler hvilken video du bør se. En personlig agent kan etter hvert anbefale hva du bør kjøpe, hvor du bør reise, hvem du bør kontakte, hvordan du bør trene, hvilke nyheter du bør lese, hvilke valg du bør prioritere og hvordan du bør bruke tiden din.

Hvis vi samtidig lar én aktør kontrollere store deler av kommunikasjonen, den personlige AI-assistenten og brillene som fungerer som grensesnitt mellom mennesket og den digitale verden, snakker vi ikke lenger bare om kampen om oppmerksomheten.

Da nærmer vi oss kampen om menneskelig handlingsrom, noe jeg skriver om i fremtidens forbruker 2034.

//Artikkelen fortsetter etter annonsen//

Dette er den virkelige makten i AI-alderen

Jeg har i mange år argumentert for at vi må slutte å vurdere teknologi utelukkende etter hva den gjør for oss på kort sikt. Vi må også forstå hva vi gir fra oss når teknologien blir mer effektiv, enklere og mer integrert i livet vårt.

Det er denne mekanismen jeg forsøker å beskrive i min kommende spenningsroman, Friksjonsindeksen. Jo mer friksjon teknologien fjerner, desto mer attraktiv blir den. Samtidig kan avhengigheten øke, kompetanse forsvinne og kostnaden ved å velge teknologien bort bli større.

En AI-agent som kjenner kalenderen min, vennene mine, kommunikasjonen min, bildene mine, interessene mine, arbeidsmønsteret mitt, kjøpshistorikken min og omgivelsene mine, vil kunne bli utrolig nyttig. Nettopp derfor kan det også bli utrolig vanskelig å forlate den.

Den viktigste makten i AI-alderen kan derfor vise seg å bli langt mer subtil enn eierskapet til selve språkmodellen. Den virkelige makten kan ligge i relasjonen mellom mennesket og agenten:

• Hvem kjenner deg best?
• Hvem tolker verden for deg?
• Hvem foreslår neste handling?
• Hvem eier konteksten agenten trenger for å være nyttig?
• Og hvor lett er det å ta med seg hele dette digitale livet dersom man ønsker å bytte leverandør?

Det er spørsmål Zuckerberg bruker langt mindre plass på enn hvor fantastisk fremtiden kan bli dersom alle får tilgang til (hans) superintelligens.

2026 burde gjøre oss mer skeptiske, ikke mindre

Det rettslige oppgjøret Meta nå står midt oppe i, bør også påvirke hvor villige vi er til å overlate enda mer av livene våre til selskapet. Meta opplyste selv til amerikanske børsmyndigheter tidligere i år at saksøkere i pågående saker har varslet krav som i enkelte tilfeller går opp i flere titalls milliarder dollar. Selskapet opplyste samtidig at advokater for mer enn 100.000 individuelle kravstillere har sendt inn voldgiftskrav knyttet til påstått «social media addiction» og relaterte skadevirkninger fra Instagram.

I saken som nå har startet i Oakland har fire amerikanske delstater lagt opp til en beregning som Meta mener kan resultere i 1.400 milliarder dollar i sanksjoner dersom delstatene vinner frem. Det er et ekstremt scenario og slett ingen avgjort sum, men størrelsesordenen forteller noe om hvor omfattende det juridiske oppgjøret med sosiale mediers forretningsmodell er i ferd med å bli.

Samtidig står altså Zuckerberg frem og presenterer Meta som selskapet som skal hindre at den neste teknologiske epoken blir dominert av for mye makt. Det regnestykket går rett og slett ikke opp. 

//Artikkelen fortsetter etter annonsen//

Åpen AI kan være bra, men Mark fortjener ikke vår tillit

Det finnes et åpenbart motargument til hele resonnementet mitt: Åpne modeller er fortsatt åpne modeller, uavhengig av Zuckerbergs motiver.

Det er riktig.

Hvis Meta investerer milliarder av dollar i teknologi som norske gründere, universiteter, offentlige virksomheter og selskaper kan bruke til å bygge egne løsninger, trenger vi ikke avvise teknologien fordi vi mistror selskapet som utviklet den. AI basert på åpen kildekode kan bidra til større konkurranse, lavere kostnader, mer forskning og mindre avhengighet av lukkede amerikanske tjenester. Vi kan gjerne ta imot gaven, men vi må ikke svelge historien som følger med gavepapiret. Det er det avgjørende skillet for min del. 

Norge og Europa bør bruke åpne modeller til å bygge større egen kapasitet, ikke til å erstatte én form for amerikansk teknologiavhengighet med en annen. Det innebærer investeringer i europeisk regnekraft, kompetanse, datasentre, energi, modeller og tjenester, samtidig som offentlige og private innkjøpere må stille langt strengere spørsmål om hvor dataene befinner seg, hvem som kontrollerer infrastrukturen, hvor lett løsninger kan flyttes og hvilke reelle alternativer som finnes dersom leverandøren endrer betingelsene.

Digital suverenitet innebærer ikke at all teknologi må være europeisk, men at vi må ha et reelt valg. 

Meta bør bedømmes etter hva selskapet gjør når interessene kolliderer

Jeg tror det er dette hele historien til Meta har lært oss. Det interessante er ikke hva selskapet lover når hensynene til brukerne og hensynene til forretningsmodellen peker i samme retning. Den virkelige testen kommer når de peker i hver sin retning.

• Hva skjer når bedre personvern reduserer muligheten til å samle data?
• Hva skjer når mindre avhengighet betyr mindre engasjement?
• Hva skjer når sterkere beskyttelse av barn betyr færre timer på plattformen og færre annonser?
• Hva skjer når menneskelig autonomi kommer i konflikt med plattformens økonomiske interesser?

Historikken gir meg ikke den tryggheten jeg skulle ønske at den ga. Derfor har jeg sluttet å bedømme Zuckerbergs store visjoner etter hvor gode de høres ut på scenen eller hvor vakre de er formulert i et manifest. Jeg ser på insentivene, forretningsmodellen, historikken og hvilken makt Meta får dersom strategien lykkes.

Gjør vi det med «The Future is for Everyone», fremstår prosjektet langt mindre altruistisk. Meta kan gjøre selve AI-modellen åpen og samtidig forsøke å kontrollere det langt mer verdifulle laget over modellen: relasjonen mellom mennesket og teknologien.

Det er der jeg tror den egentlige kampen om AI-makten vil stå.

//Artikkelen fortsetter etter annonsen//

Jeg vil ikke ha Zuckerberg mellom meg og verden

I «Tilkoblet og til stede» skrev jeg om behovet for å ta tilbake kontrollen over oppmerksomheten vår. I «Mennesket vs Maskinen» har jeg vært opptatt av hva som skjer med menneskelig autonomi, dømmekraft og verdi når stadig mer kapasitet flyttes fra mennesket til maskinen.

Metas nye strategi kobler disse to utviklingstrekkene sammen. Selskapet som har vært med på å industrialisere kampen om oppmerksomheten vår, ønsker nå å bli leverandøren av den personlige intelligensen som skal hjelpe oss å navigere virkeligheten.

Jeg er teknologioptimist nok til å se hvor nyttig en slik AI kan bli, men jeg er ikke naiv nok til å overse hvem som ønsker å kontrollere den. Zuckerberg skal dog ha rett i én ting: Fordelingen av makt blir avgjørende for om kunstig intelligens utvikler seg til et gode for samfunnet.

Det er nettopp derfor jeg ikke vil overlate definisjonen av «makt til folket» til Mark Zuckerberg.

Han fortalte oss en gang at fremtiden var privat. Nå forteller han oss at fremtiden er for alle.

Jeg stoler ikke lenger på slagordene.

Og fremtiden er ikke for alle dersom Meta ender opp med å eie grensesnittet mellom mennesket og den.

Bilde: Grok