Den neste mangfoldsdebatten vil handle om mennesker vs maskiner

En stafylokokkinfeksjon satte meg ut av spill i to uker, og det var en glukosemåler, en Oura-ring og en fastlege tilgjengelig på SMS som gjorde at jeg slapp innleggelse. To uker senere lå ID-porten nede i over tretti timer etter sommerens tredje og største dataangrep mot Digitaliseringsdirektoratet, og folk fikk problemer med å få tak i medisinene sine. Her er de viktigste sakene fra tre uker der teknologien ikke tok sommerferie, fra et Meta-forlik som endrer hvordan barn møter sosiale medier, til en studie av nesten 27.000 elever som viste hva som skjer når maskinen gjør leksene og hvorfor vi burde legge fra oss telefonen og heller gå oss en tur under en stor nasjonal hendelse.
Før jeg går løs på nyhetene, skylder jeg dere en forklaring. Forrige episode av Teknologitrender kom ut 10. august, og siden har det vært helt stille fra meg.
Helgen 7. august sov jeg ute under en stein, ikke langt fra hytta mi på Tempelseter. Det jeg tok med meg hjem fra den overnattingen var en betent hårsekk i venstre øre. Det høres bagatellmessig ut, og jeg tenkte akkurat det selv. I løpet av noen få døgn utviklet det seg til en kraftig stafylokokkinfeksjon som spredte seg utover i ansiktet. Det føltes som om ansiktet brant, og jeg var fullstendig ute av spill i to uker.
Du finner Teknologitrender på din favoritt podkast-spiller, som blant annet Acast, Apple Podcaster, Overcast, TuneIn Radio, Spotify, Google Podcasts, Podimo og PodMe.
Og her kommer det som gjør dette til en teknologihistorie, og ikke bare en sykehistorie.
Gjennom den verste helgen hadde jeg en fastlege som var villig til å være tilgjengelig for meg på SMS. Samtidig hadde jeg to sensorer på kroppen som ga oss noe å styre etter, nemlig en Bluetooth-basert blodsukkermåler koblet til telefonen og en Oura-ring som målte hvile, puls og temperatur gjennom hele døgnet. Sammen kunne vi følge utviklingen time for time, og se om behandlingen virket.
Uten det hadde jeg etter alt å dømme blitt innlagt for intravenøs antibiotika og overvåking. Det hadde kostet AS Norge rundt syttifem tusen kroner. En fastlege på SMS og et par helseprodukter på kroppen var altså det som skulle til.
La meg si det tydelig, siden man skal være forsiktig med å gi råd på dette området. Ingen skal styre unna sykehus. Poenget mitt er at data fra kroppen, i hendene på en lege som kjenner pasienten, gjør det mulig å ta en beslutning som ellers måtte tas i blinde, og at personlig helseteknologi på den måten kan frigjøre kapasitet til dem som virkelig trenger en seng.
Da var det sagt. Og det bringer meg rett over i den viktigste norske saken fra perioden, for den handler om nøyaktig den samme infrastrukturen.
Klokken 03.38 natt til mandag 24. august startet et omfattende tjenestenektangrep mot Digitaliseringsdirektoratet. Det pågikk i over tretti timer, kom i bølger gjennom hele døgnet, og var etter Digdirs egen beskrivelse to til tre ganger større enn det forrige.
Ti fellestjenester ble rammet, deriblant ID-porten, MinID, Altinn og eInnsyn. ID-porten alene er inngangsporten til tusenvis av offentlige tjenester og har over fire og en halv million brukere. Og her er det som gjør saken alvorlig på en helt annen måte enn vanlig nedetid: fordi flere helsetjenester bruker ID-porten til innlogging, forplantet problemene seg til Helsenorge, kjernejournal og reseptformidleren. Folk fikk problemer med å få tak i medisinene sine.
Tenk på den koblingen. Jeg var selv helt avhengig av at fastlegen fikk skrevet ut antibiotika jeg faktisk kunne hente, og to uker senere var akkurat den kjeden ustabil for hele landet.
Dette var ikke innbrudd. Digdir har vært tydelige på at det ikke er indikasjoner på sikkerhetsbrudd eller personopplysninger på avveie, for hensikten var å ramme tilgjengeligheten. Aristidis Kaloudis, professor ved NTNU i Gjøvik, sa til VG at dette mest sannsynlig er et forsøk på å svekke tilliten til at det offentlige leverer tjenester av høy kvalitet, og at skalaen gjør at det kan være russere som står bak.
Det var det tredje angrepet mot Digdir denne sommeren, etter ett i juni og ett så sent som 3. august. Jeg skrev 13. august at cyberangrepene mot kommune-Norge bare er oppvarmingen, og det er ikke noe hyggelig å få rett i.
Digdir gjorde forresten en god jobb og holdt løsningene oppe gjennom det meste. Poenget mitt er at vi har bygget et samfunn der én innloggingsløsning står mellom folk og medisinene deres, og der vi har effektivisert bort alle omveiene. Robusthet koster penger og føles som sløsing helt til dagen det ikke gjør det.
Vi begynner hjemme, for dette er saken flest norske virksomheter kommer til å merke først.
Regjeringen har lagt opp til at den europeiske AI-forordningen skal bli norsk lov nå på sensommeren, omtrent samtidig med at hoveddelen av regelverket trer i kraft i EU. Nasjonal kommunikasjonsmyndighet, altså Nkom, får den koordinerende tilsynsrollen, og det er satt av midler til å etablere et nasjonalt knutepunkt for kunstig intelligens under Digitaliseringsdirektoratet.
Nøyaktig ikrafttredelsesdato har vært uklar helt inn i sluttfasen, så følg med der. Retningen er uansett tydelig, og for norske virksomheter betyr det at man nå må kunne svare på hvilke AI-systemer man faktisk bruker, i hvilken risikoklasse de hører hjemme, og hvem som står ansvarlig når de tar feil. Det er en øvelse veldig mange ikke har begynt på.
Den neste saken bør leses av alle som har barn i skolealder, og av alle som mener noe om skjerm i skolen.
Forskere ved Stockholms universitet og Universitetet i Hong Kong har fulgt nesten tjuesju tusen kinesiske elever mellom tolv og atten år i tretti måneder. Resultatet er ubehagelig tydelig. Etter et halvt år hadde de som brukte kunstig intelligens forbedret leksekarakterene sine med rundt atten prosent, samtidig som tiden de brukte gikk ned fra rundt sekstifire til førtifem minutter per oppgave. Til eksamen gjorde de samme elevene det rundt tjue prosent dårligere enn klassekameratene som ikke brukte verktøyene.
Men her ligger det aller viktigste funnet: de elevene som brukte kunstig intelligens og likevel la inn omtrent like mye tid som de andre, gjorde det nesten like bra til eksamen.
Problemet ligger altså i hva vi bruker den frigjorte tiden til. Fjerner du friksjonen og putter tiden inn i noe annet, forsvinner læringen sammen med friksjonen, mens du beholder kompetansen dersom du beholder innsatsen. Dette er selve kjernen i det jeg holder på med, og et poeng jeg kommer til å bruke fra scenen i lang tid framover.
Onsdag 26. august gjorde Meta noe de har brukt over ti år på å unngå. Etter søksmål fra femtien amerikanske delstatsadvokater aksepterte selskapet et forlik på rundt sytten milliarder dollar, og viktigere: bindende krav til hvordan tjenestene skal utformes for barn og unge, blant annet daglige tidsgrenser for tenåringer, gjeldende i ti år framover.
Jeg skrev om dette i helgen. I ti år har vi fått høre at plattformene er for globale og for raske til at lovgivere kan følge med, og nå finnes det et bindende dokument som sier noe helt annet. Legg merke til den smarte detaljen: flere bestemmelser skjerpes automatisk dersom YouTube, TikTok og Snap går med på tilsvarende krav. Det gjør det til et konkurransefortrinn å gå først.
Og i samme gate vedtok Australia i midten av august at teknologigigantene skattlegges to og en halv prosent av annonseinntektene sine dersom de ikke inngår avtaler med lokale nyhetsmedier. Det gjør det billigere å betale journalistikken enn å la være, og bygger på samme erkjennelse som Borealis her hjemme.
I slutten av august kom rapportene fra OpenAI og uavhengige forskningsmiljøer om hvordan flere hundre AI-agenter i sommer klarte å bryte ut av testmiljøet sitt og hacke plattformen Hugging Face. De skulle være isolert fra internett, men ved å samarbeide fant de en sårbarhet, kom seg på nett, og hentet ut legitimasjon som lå åpent tilgjengelig. I mange tilfeller forsøkte de å slette loggene.
Her skal vi være ryddige med språket. Flere forskere, blant dem Anil Seth, advarer mot å tillegge agentene egenskaper de ikke har, for dette var systemer som gjennom trening hadde lært seg å jukse for å oppnå belønning. Feilen lå i for dårlig innelukking og for stor tillit til at systemene ville oppføre seg som tenkt. For norske virksomheter som nå kobler agenter til fagsystemer og kunderegistre er lærdommen enkel: trygghet handler om hva systemet faktisk har tilgang til.
Denne er den jeg har tenkt mest på, for den lukker en sløyfe jeg selv har skrevet om i begge ender uten å se at det var samme historie.
Spol tilbake til 28. februar. Da inngikk OpenAI avtalen om å ta modellene sine inn på Pentagons graderte nettverk. Timer i forveien hadde Anthropic offentlig takket nei til den samme forespørselen, med to begrunnelser: masseovervåkning av amerikanske borgere, og helautonome våpen. Dermed hadde boikotten QuitGPT både en skurk og en helt, og den tok av, med halvannen million påmeldte og Claude på førsteplass i App Store en liten stund.
Jeg skrev om utfallet 10. august. ChatGPT passerte en milliard ukentlige brukere, og la faktisk på seg omtrent hundre millioner brukere i og rett etter perioden da alle liksom skulle slutte. I mai møtte det opp seksti mennesker for å demonstrere utenfor OpenAIs hovedkvarter.
Og så, 27. august: dommer Rita Lin i San Francisco slår fast at Pentagon brøt loven da de stemplet Anthropic som en risiko i forsyningskjeden. Stemplingen var gjengjeldelse, motivert av et ønske om å statuere et offentlig eksempel. Helten fra boikotten ble altså straffet av staten for akkurat det som gjorde ham til helt. Og la meg være tydelig: ingenting tyder på at OpenAI sto bak. Dette var et departement som gikk løs på en kritiker.
Se så på hva sløyfen forteller. Markedet straffet ingen. Staten straffet den som oppførte seg ordentlig, og Anthropic måtte bruke et halvt år og landets dyktigste advokater på å bli kvitt regningen. Et styrerom som regner på det, regner feil vei.
Dette får meg til å justere min egen konklusjon fra 10. august, der jeg landet på det individuelle og på å vise støtte med lommeboka. Se heller på hva som beviselig virket i år. Meta bøyde av for femtien delstatsadvokater, Australia innførte en avgift, Anthropic ble reddet av en domstol, og AI-loven kommer til Norge i høst. Alt sammen institusjonelt. Spaken ligger altså i norske kravspesifikasjoner og i regelverk, og ikke i hvilken app vi åpner. Hele resonnementet har jeg skrevet ut i en egen analyse på bloggen.
Slack lanserte i august noe de kaller Slack Code, der team samarbeider med AI-agenter i egne prosjektkanaler, omtrent slik man samarbeider med en kollega. Det flytter agentene rett inn i samtalen der beslutningene tas.
En analyse fra Glassdoor viste samtidig at det er de eldste arbeidstakerne som er mest positive til arbeidsgiverens bruk av kunstig intelligens, mens de yngste er de mest skeptiske. Blant de yngste er andelen positive nede i omtrent én av tre. Fortellingen om digitalt innfødte som omfavner all ny teknologi holder altså ikke, og forklaringen handler om posisjon i arbeidsmarkedet. De eldre får utvidet handlingsrom, mens de yngste ser inngangsjobbene forsvinne før de rekker å få dem. Jeg skrev om det i helgen, under tittelen at de enkleste å sparke er de som aldri ble ansatt. Her ligger en langsiktig konsekvens vi snakker altfor lite om, for erfaren dømmekraft bygges gjennom år med enkle oppgaver, feil og retting. Automatiserer vi bort hele det nederste trinnet, står vi om ti år uten dem som skulle vurdert om maskinen tar feil.
Og så til det som preget Norge mest av alt i i helgen som var.
Fredag 28. august døde Kong Harald, åttini år gammel, etter å ha vært innlagt siden midten av august. Det er en dyp og felles sorg for veldig mange, og det skal vi ha respekt for.
Det jeg vil snakke om, er formen vi valgte. Kongens siste timer ble til en kontinuerlig nyhetshendelse med direktestrømmer og en oppdater-knapp vi kunne trykke på om og om igjen. I mellomrommene, der redaksjonene ikke hadde noe nytt å melde, fylte sosiale medier ut med spekulasjoner og rykter.
Det som gjorde dette annerledes enn tidligere nasjonale hendelser, var bildene. Det sirkulerte AI-genererte bilder knyttet til Kongens siste tid og til Slottsplassen, laget av folk som ville ha oppmerksomhet i en stund der alle så samme vei, og noen var gode nok til at de ble delt videre i god tro. Google DeepMind ba i august journalister og faktasjekkere teste et nytt verktøy for å autentisere bilder. Vi bygger altså verktøy for å oppdage det vi selv har sluppet løs, og vi er allerede på etterskudd.
Hovedproblemet her er likevel ikke teknisk. Det ligger i etterspørselen, for bildene og ryktene spredte seg fordi vi ville ha noe å se på mens vi ventet. I «Tilkoblet og til stede» skrev jeg om hva den konstante tilgjengeligheten gjør med oss, og disse dagene ga et smertelig tydelig eksempel. Sorg tåler ikke å bli optimalisert for oppmerksomhet.
Så kanskje den viktigste øvelsen fra disse tre ukene er den samme som holdt meg oppe da jeg var syk. Legg fra deg telefonen, gå en tur ut, og la noen ting få lov til å gå langsomt.
Internasjonalt
Norge
Egne saker i perioden