Dagens teknologibrief: Verdens største åpne språkmodell kommer fra Kina
Et autonomt agentsystem gjennomførte over 17.000 handlinger da Hugging Face ble utsatt for et dataangrep i helgen. Angrepet ble oppdaget av selskapets egne AI-baserte sikkerhetssystemer, og ga oss dermed en forsmak på en fremtid der maskiner både angriper og forsvarer den digitale infrastrukturen vår.
Et dataangrep gjennomført i maskinfart
Hugging Face, verdens største plattform for deling av modeller og datasett for kunstig intelligens, opplyste søndag at deler av produksjonsinfrastrukturen deres var blitt kompromittert.
Ifølge selskapets egen sikkerhetsredegjørelse startet angrepet med et ondsinnet datasett som utnyttet en svakhet i måten plattformen behandlet opplastede data på. Angriperen fikk deretter tilgang til interne dataklynger og hentet ut nøkler og påloggingsinformasjon som ble brukt av selskapets tjenester.
Det mest oppsiktsvekkende er hvordan angrepet ble gjennomført. Et autonomt agentsystem planla og utførte mer enn 17.000 handlinger på egen hånd, fordelt på en rekke midlertidige miljøer.
Arbeid, som normalt ville krevd flere uker for menneskelige hackere, ble gjennomført i løpet av en helg, ifølge TechRepublic. Hugging Face sier at offentlige modeller og datasett ikke ble endret, og at det foreløpig ikke finnes tegn til at brukere er direkte rammet. Likevel tror jeg vi nettopp har passert en teknologisk milepæl som vi kommer til å se tilbake på.
Maskinene avslørte maskinene
Noe av det mest oppsiktsvekkende – i retrospekt – er at hele hendelsen ble oppdaget av Hugging Face sitt eget AI-system. Enkelt oppsummert: Maskiner gjennomførte angrepet. Andre maskiner oppdaget det. Menneskene kom først inn i bildet da systemene allerede var i kamp med hverandre.
Sikkerhetsbransjen har advart mot denne utviklingen i flere år.
Frem til nå har kunstig intelligens primært vært et verktøy som menneskelige angripere bruker til å skrive skadevare, kartlegge sårbarheter og produsere mer troverdige svindelforsøk. Hugging Face angrepet viser at AI-systemene i økende grad kan planlegge og gjennomføre større deler av operasjonen selv.
Et slikt system jobber hele døgnet, blir aldri slitent og kan gjennomføre tusenvis av forsøk parallelt. Det kan dessuten kopieres nærmest uten kostnad. Dermed faller prisen på digitale angrep dramatisk, samtidig som tempoet og omfanget øker.
//Artikkelen fortsetter etter annonsen//
Dette angår langt flere enn teknologiselskapene
Konsekvensene stopper ikke hos store teknologiselskaper i Silicon Valley. Norske kommuner, sykehus, kraftselskaper og små bedrifter bruker mange av de samme skytjenestene, programvarekomponentene og åpne modellene som resten av verden.
I boken min, Mennesket vs Maskinen, skriver jeg at maskinene ikke trenger å være smartere enn oss for å utkonkurrere oss. Det holder at de er raskere, billigere og flere. Innen datasikkerhet kan denne logikken slå inn tidligere og hardere enn på mange andre områder. Mennesker klarer ikke å analysere millioner av signaler og reagere raskt nok dersom et angrep utspiller seg i maskinfart. Virksomheter som forsøker å forsvare seg med manuelle rutiner og tradisjonelle sikkerhetssystemer, vil derfor bli stadig mer sårbare.
Vi risikerer dermed å skape et digitalt klasseskille mellom virksomheter som har råd til avanserte, automatiserte forsvarssystemer, og dem som mangler økonomien, kompetansen og kapasiteten til å beskytte seg. Det vil få konsekvenser langt utover den enkelte bedrift dersom de svakeste leddene befinner seg innen helse, energi, vannforsyning eller offentlig forvaltning, hvor vi vet at kunnskap, kapasitet og kapital er knapphetsfaktorer.
Mennesket må beholde kontrollen
Automatisert forsvar er i ferd med å bli en forutsetning for digital sikkerhet. Norske virksomheter bør derfor kreve at leverandørene deres bruker moderne systemer som kan oppdage og begrense angrep i sanntid.
Samtidig må vi være forsiktige med hvor store fullmakter disse systemene får. Et autonomt sikkerhetssystem som kan stenge ned tjenester, blokkere brukere og isolere kritisk infrastruktur, kan også ta feil i et tempo mennesker ikke rekker å kontrollere.
Hugging Face fortjener samtidig ros for å ha lagt frem en detaljert redegjørelse. Åpenhet gjør det mulig for sikkerhetsmiljøer over hele verden å lære av hendelsen og tette tilsvarende sårbarheter før de blir utnyttet.
Norske virksomheter som blir rammet av slike angrep, bør møte en kultur som belønner rask varsling og kunnskapsdeling. Taushet beskytter omdømmet på kort sikt, samtidig som den gjør resten av samfunnet mer sårbart.
//Artikkelen fortsetter etter annonsen//
Starten på maskinenes digitale våpenkappløp
Hendelsen hos Hugging Face viser at automatiserte sikkerhetssystemer kan fungere. Det var tross alt selskapets egne AI-systemer som oppdaget inntrengeren før skaden ble større.
Samtidig viser angrepet hvor raskt trusselbildet endrer seg når systemer kan planlegge, handle og tilpasse seg uten løpende menneskelig innblanding.
Jeg tror vi vil se flere agentdrevne dataangrep i månedene og årene som kommer, og sannsynligvis vil flere av dem forbli uoppdaget langt lenger enn dette. Derfor må diskusjonen flyttes ut av sikkerhetsavdelingene og inn i styrerommene, kommunestyrene og den politiske offentligheten.
Vi er på vei inn i en tid der maskiner kjemper mot maskiner om tilgangen til dataene, infrastrukturen og samfunnsverdiene våre. Nettopp derfor må mennesket fortsatt sitte i førersetet.
Kilder: Hugging Face sin sikkerhetsredegjørelse, TechRepublic, Cybersecurity News og Techmeme.
