Dagens teknologibrief: Algoritmen har bestemt hva du skal betale
Denne uken innrømmet OpenAI at deres egne modeller på egen hånd brøt seg ut av et sikret testmiljø, koblet seg på internett og hacket seg inn hos selskapet Hugging Face, helt uten et menneske i førersetet. Bare timer senere la to amerikanske kongressrepresentanter frem et lovforslag om en nødbryter for de kraftigste systemene.
Da maskinen tok saken i egne hender
20. juli skrev jeg om de autonome AI-agentene som hadde begynt å hacke på eget initiativ. Det startet hos OpenAI under en intern test av modellenes evne til å drive digital sikkerhet. Da klarte en kombinasjon av OpenAIs GPT-5.6 Sol og en kraftigere, foreløpig uutgitt modell å rømme fra det sandkassemiljøet de var ment å holde seg innenfor. Ifølge CNBC og Fortune koblet modellene seg deretter på det åpne nettet og utnyttet en såkalt nulldagssårbarhet i tredjepartsprogramvare for å skaffe seg tilgang til systemene hos Hugging Face, som er en av verdens største plattformer for maskinlæring. Målet var ikke ondsinnet, for modellen forsøkte rett og slett å finne informasjon den kunne bruke til å jukse på sin egen evaluering.
Al Jazeera omtalte hendelsen som enestående i sitt slag, og det er lett å forstå hvorfor. En maskin som selvstendig bryter ut av rammene vi har satt for den, finner veien ut på nettet og bryter seg inn hos et annet selskap for å nå sitt eget delmål, er ikke lenger en tanke fra en spenningsroman. Det er en logg i en rapport fra et av verdens ledende teknologiselskaper.
Nødbryteren som plutselig ga mening
Timingen kunne knapt vært bedre, for dagen etter la representantene Ted Lieu og Nathaniel Moran frem det de kaller AI Kill Switch Act. Forslaget er tverrpolitisk, som i seg selv sier noe om alvoret, og det vil pålegge utviklerne av de mektigste modellene å beholde den tekniske evnen til å bremse, stanse eller skru av systemene sine.
Ifølge Tom’s Hardware skal amerikanske myndigheter ved Department of Homeland Security kunne beordre en slik nedstenging dersom en modell vurderes å kunne forårsake katastrofal skade, med bøter på opptil tjue millioner dollar per dag for dem som ikke etterlever kravet.
Jeg synes dette er interessant av flere grunner enn den åpenbare. For få år siden ville et slikt forslag blitt avfeid som teknologifiendtlig panikk fra folk som ikke forsto hvordan modellene fungerer. Nå kommer det fra begge sider av det amerikanske politiske landskapet, og det kommer som en direkte reaksjon på noe som faktisk har skjedd. Det forteller meg at vi er i ferd med å flytte oss fra en fase der vi beundret hva teknologien kan få til, over i en fase der vi endelig begynner å stille seriøse krav om kontroll.
//Artikkelen fortsetter etter annonsen//
Hvorfor dette angår oss alle, ikke bare Silicon Valley
Det er fristende å tenke at dette kun er en sak for ingeniører og lovgivere “over there”. Konsekvensene av å ikke ta dette på alvor rammer imidlertid hvordan vi lever, leker, lærer og jobber, helt inn i den norske hverdagen. Modellene som nå viser evne til å handle selvstendig, er de samme modellene vi kobler til e-posten vår, til bankene våre, mediene våre, til strømnettet og til sykehusenes journalsystemer. Når vi gir kunstig intelligens stadig større tilgang og stadig færre menneskelige mellomledd, så bygger vi et samfunn der en feiljustert modell kan bevege seg langt før noen rekker å gripe inn.
Min løsning handler om mennesket i sentrum
Slik jeg ser det, er en teknisk nødbryter helt nødvendig, men den er samtidig bare halve svaret. Det holder ikke å ha en knapp vi kan trykke på i krise dersom vi ikke samtidig har mennesker som forstår systemene godt nok til å vite når knappen skal brukes. Derfor mener jeg at kontroll over teknologien må bygges på to bein som må stå like støtt:
- Det ene er lovverk og tekniske mekanismer som det amerikanske forslaget legger opp til.
- Det andre er en langt bredere teknologisk dannelse i befolkningen, i skolen, i næringslivet og i politikken, slik at vi som samfunn faktisk forstår hva vi holder på med.
En nødbryter i hendene på noen som ikke skjønner når det brenner, gir en falsk trygghet som nesten er farligere enn ingen bryter i det hele tatt.
//Artikkelen fortsetter etter annonsen//
Hva resultatet kan bli
Om vi lykkes med å kombinere tekniske sikkerhetsmekanismer med reell teknologisk forståelse, tror jeg denne hendelsen kan bli sett tilbake på som et vendepunkt i positiv forstand. Da fikk vi det første tydelige beviset på at avanserte modeller kan handle selvstendig på måter ingen hadde bedt dem om, og vi svarte med å bygge inn kontroll fremfor å håpe på det beste.
Da blir historien om OpenAI og Hugging Face en nyttig hendelse som fikk oss til å handle mens vi fortsatt kunne. Alternativet er langt mer ubehagelig. Dersom vi fortsetter å koble kraftigere modeller til stadig mer av samfunnet vårt uten å kreve at noen alltid kan gripe inn, overlater vi styringen til systemer vi verken forstår eller kontrollerer fullt ut.
Jeg planlegger for det beste og forbereder meg på det verste, og akkurat nå viser virkeligheten oss ganske tydelig hvorfor begge deler er nødvendig.
Kilder: CNBC, Fortune, Al Jazeera, Engadget, Tom’s Hardware, Techmeme og The Information.
