Sam Altman sa denne uken at OpenAI er villig til å senke tempoet i utviklingen av de mest avanserte modellene, og at han håper konkurrentene følger etter. Så måtte selskapet spørre Kongressen om det i det hele tatt er lov å bremse sammen. Når de som bygger teknologien er usikre på om de har anledning til å la være å bygge den fortere, sier det mer om hvem som egentlig har kontrollen enn noen bekymringsrapport er i stand til.
Claude har gjort research og skrevet utkastet, mens Hans-Petter har verifisert, kontrollert, redigert og publisert.
Fredag 11. september meldte Bloomberg at Altman i et allmøte fortalte de ansatte at OpenAI kan komme til å moderere tempoet i frontier-utviklingen, gjerne i takt med flere andre laboratorier, selv om han regnet med at ikke alle ville være med.
Selskapet har ifølge samme kilde allerede stanset enkelte interne trenings-runder og skalert ned deler av modellarbeidet av hensyn til sikkerheten. Bakgrunnen er et innlegg fra sjefsforsker Jakub Pachocki 6. september, der han argumenterte for at fagfeltet bør koordinere en nedbremsing frem til det finnes felles sikkerhetsterskler å måle seg mot.
Samme uke fortalte Wired at OpenAI har henvendt seg til medlemmer av Kongressen med et ganske oppsiktsvekkende spørsmål:
Vil en bransjeomfattende avtale om å utvikle saktere være ulovlig etter amerikansk konkurranselovgivning?
Bekymringen er reell nok juridisk sett, fordi koordinering mellom Google, Anthropic og OpenAI om å begrense utviklingstakten i prinsippet kan leses som at konkurrenter avtaler å begrense produksjonen. Amerikanerne har en forordning som skal hindre at selskaper holder igjen på varer for å presse prisene opp, og ikke for å regulere hvor fort verden skal få tilgang på maskiner som resonnerer.
Der har vi bildet i et nøtteskall. De har bygget et rammeverk som gjør det juridisk risikabelt å være forsiktig i fellesskap, mens ingen har problemer med å konkurrere i full fart hver for seg.
Matematikerne beskriver problemet best
Samme dag publiserte Terence Tao, en av vår tids mest anerkjente matematikere, en erklæring undertegnet av 25 Fields-medaljører. Tittelen er «A Severe Misalignment of AI in Mathematics», og signaturene spenner fra medaljeklasser på syttitallet til årets prisvinnere, med navn som Peter Scholze, Maryna Viazovska og Maxim Kontsevich.
Innvendingen deres er verdt å lese nøye, fordi den ikke handler om at AI er ubrukelig i matematikk. Den handler om hva som går tapt når selskapene bruker uløste matematiske problemer som utstillingsvindu for modellenes kapasitet. Bevis blir produsert raskere enn fagmiljøet klarer å verifisere dem, uten ordentlig attribusjon, og uten den skrivingen, fagfellevurderingen og videreformidlingen som forvandler et løst problem til noe menneskeheten faktisk forstår.
Verdien i matematikk ligger i innsikten som følger av beviset, og ikke i at en påstand er merket sann. Matematikerne beskriver med andre ord et verifikasjonsgap. Produksjonstakten har løpt fra kontrolltakten, og det som forvitrer i mellomrommet er forståelsen.
//Artikkelen fortsetter etter annonsen//
Det samme gapet finnes i ditt styrerom
Her blir det interessant for alle oss som ikke driver med algebraisk geometri. Nøyaktig den samme mekanismen er i ferd med å etablere seg i vanlige norske virksomheter.
En analyse som før tok en saksbehandler tre dager, kommer nå ut av en modell på tre minutter. Beslutningsgrunnlaget ser ferdig ut, det er velformulert, og det er som regel i nærheten av riktig. Utfordringen oppstår i det øyeblikket noen skal gå det etter i sømmene, fordi kontrollen tar omtrent like lang tid som den alltid har gjort. Enten bruker organisasjonen de tre dagene likevel og realiserer ingen gevinst, eller så lar den være og aksepterer stille en risiko den ikke har målt.
De fleste velger det siste, og i begynnelsen går det stort sett bra. Erosjonen kommer over tid. Kompetanse bygges nemlig gjennom å gjøre arbeidet, og når inngangsoppgavene automatiseres bort, forsvinner også opplæringsløpet som produserer folk med nok erfaring til å kjenne igjen at noe ser feil ut.
Dette skrev jeg om i «De enkleste å sparke er de som aldri ble ansatt», og det er den samme logikken jeg har beskrevet fra en annen kant i «Vi har effektivisert oss inn i en ny sikkerhetsrisiko». En organisasjon som slutter å trene dømmekraft, mister evnen til å oppdage at den har mistet den.
I boken min, «Mennesket vs Maskinen», beskriver jeg dette som forskjellen mellom å bruke maskinen som forsterker og å bruke den som erstatning. Forsterkeren gjør et kompetent menneske raskere. Erstatningen gjør organisasjonen avhengig av et system ingen lenger er kvalifisert til å overprøve.
Ansvar er det som skaper tillit
I Washington forhandler senatorene John Thune, Ted Cruz og Amy Klobuchar samtidig om et lovforslag som ifølge Reuters vil pålegge utviklerne av de mest avanserte modellene en juridisk aktsomhetsplikt. Selskapene skal designe produktene med sikte på å forhindre katastrofale risikoer, myndighetene skal kunne stanse lanseringen av modeller som vurderes som utrygge, og selskapene skal kunne prøve den avgjørelsen for føderal domstol.
Uansett hva man mener om innretningen, er retningen riktig av en grunn som er lett å overse: Aktsomhetsplikt flytter sikkerhet fra frivillig løfte til rettslig ansvar, og ansvar som kan plasseres er selve grunnlaget for tillit. Vi stoler ikke på broer fordi ingeniørene lover at de er trygge, men fordi noen navngitte kan holdes til ansvar hvis de faller sammen.
AI-selskapene har til nå levert løftene og latt ansvaret være uavklart.
Kontrasten var tydelig samme dag, da president Trump avviste advarslene om at AI kan true menneskehetens eksistens, med henvisning til at USA ligger et år foran Kina og vil havne i en svært dårlig posisjon om landet ikke vinner. Der ser vi hvor kort veien er fra sikkerhets-debatt til geopolitisk kappløp, og hvor raskt argumentet om nasjonal konkurransekraft spiser opp ethvert forsøk på å sette ned farten.
//Artikkelen fortsetter etter annonsen//
Hva norske ledere bør gjøre med dette
Torgeir Micaelsen overtok fredag som digitaliseringsminister etter Karianne Tung. Han arver et departement som har brukt mye energi på tempo, adopsjonsrate og ambisjonsnivå, og betydelig mindre på hvem som skal kontrollere resultatene når de kommer. Det er en ubalanse som går igjen i norsk offentlighet, der debatten stort sett handler om vi henger med, og sjelden om vi klarer å følge med.
For den enkelte virksomhet er øvelsen mer konkret enn frontier-politikken, og den lar seg gjøre allerede på mandag.
Gå gjennom de beslutningene AI nå bidrar til i egen organisasjon:
- Kartlegg for hver av dem hvem som faktisk verifiserer resultatet,
- hvor lang tid den verifiseringen tar, og
- hva som skjer med den kompetansen om fem år gitt dagens bemanningsplan.
- Deretter identifiserer du de beslutningene der menneskelig dømmekraft ikke kan delegeres uansett hvor god modellen blir, og der skriver du ned et navn. Ikke en rolle, ikke en avdeling, men et navn.
Det høres gammeldags ut i en tid der alt skal skaleres. Poenget er at ansvar er den eneste mekanismen vi kjenner som faktisk holder systemer ærlige over tid, og den fungerer bare når den peker på noen som kan svare for seg.
Bremsen finnes fortsatt
Det oppmuntrende med denne uken som nå går mot slutten, er at motforestillingene nå kommer innenfra:
- Sjefsforskeren i verdens mest kjente AI-selskap ber om koordinert nedbremsing.
- 25 av verdens fremste matematikere sier fra om at hastighet uten forståelse er et tap.
- Amerikanske senatorer fra begge partier diskuterer ansvar fremfor løfter.
Det betyr at vi fortsatt er i den fasen der valgene tas av mennesker.
Den fasen varer så lenge nok av oss insisterer på å forstå hva vi tar i bruk, før vi tar det i bruk, og så lenge vi bygger organisasjoner som fortsatt produserer folk med dømmekraft nok til å si ifra. Teknologien blir mektigere uansett hva vi mener om det. Kontrollen er derimot noe vi må velge, om og om igjen, og som regel når det er minst beleilig.
Kilder:
- OpenAI Considers Slowing Advanced AI Development, Sam Altman Tells Employees (Bloomberg, 11. september 2026)
- OpenAI Wants to Know if an AI Industry Slowdown Would Even Be Legal (Wired, 11. september 2026)
- A Severe Misalignment of AI in Mathematics (Terence Tao, 11. september 2026)
- US Senate negotiators consider requiring AI firms to mitigate known major risks (Reuters, 11. september 2026)
- Trump rejects warnings that AI may lead to human extinction (Bloomberg, 11. september 2026)
- Torgeir Micaelsen blir ny digitaliseringsminister (Computerworld, 11. september 2026)
- De enkleste å sparke er de som aldri ble ansatt (HansPetter.info)
- Vi har effektivisert oss inn i en ny sikkerhetsrisiko (Computerworld)
- Mennesket vs Maskinen (HansPetter.info)
