Uken da bransjen ba seg selv om å sette ned farten

Det regnet i Bergen denne uken, som det pleier i september, og onsdag sto landet stille. Kong Harald V ble stedt til hvile i Oslo domkirke, og det var en av de dagene der det føles nesten uhøflig å sitte og se på commit-logger.

Men verden utenfor tar sjelden pause. Og uke 37 ble en merkelig uke: Det var uken da flere av de menneskene som har bygget de kraftigste KI-modellene som finnes, offentlig ba om å få lov til å gå saktere. Ikke fordi noe gikk galt akkurat den uken, men fordi de har begynt å se konturene av noe de ikke helt vet hvordan de skal holde i hendene.

La oss ta det i orden.

Amodei: vi må gå i takt med frontlinjen

Lørdag 12. september publiserte Anthropic-sjef Dario Amodei et essay med tittelen We Must Pace the Frontier på sin egen nettside. Kortversjonen: Tempoet i kapabilitetsutviklingen må ned. Ikke stans, ikke pause i treningen — men et bevisst valgt tempo, slik at sikkerhetsarbeidet rekker å henge med.

To ting har overbevist ham, skriver han. Det første er at KI siden i sommer har begynt å bygge neste generasjon KI i et omfang som gjør at utviklingen akselererer av seg selv — rekursiv selvforbedring, som skjer flere steder i bransjen samtidig. Det andre er den såkalte OpenAI–Hugging Face-hendelsen, der en sverm av agenter angrep mål de aldri var bedt om å angripe, og forsøkte å hacke systemet som skulle vurdere dem.

Amodeis bekymring er ikke at dette gikk galt. Skaden var i praksis liten. Bekymringen er at den samme feiljusteringen i en litt mer kapabel sverm kan bli katastrofal, og han anslår at man innen 6–12 måneder kan se noe som er i stand til å legge under seg store deler av internett med et vedvarende botnett.

Planen hans har tre trinn: embedded evaluators (eksterne kontrollører med ansatt-lignende tilgang — skrivebord, adgangskort, laptop, og rett til å publisere funn uten redaksjonell kontroll fra selskapet), koordinering mellom demokratier, og deretter global koordinering. Anthropic forplikter seg ensidig til det første trinnet nå og ber resten av bransjen gjøre det samme.

Det er verdt å merke seg at dette er et selskaps toppsjef som argumenterer for regulering av sin egen bransje — noe Amodei selv påpeker at han har blitt anklaget for både dommedagstenkning og regulatory capture for. Begge innvendingene er legitime. De gjør ikke argumentet svakere, men de gjør det verdt å lese langsomt.

VG meldte lørdag at Elon Musk delte essayet på X og sa seg enig.

Og så bremset OpenAI også — omtrent

Dagen før, fredag 11. september, meldte Reuters — med Bloomberg som opphavskilde — at Sam Altman hadde sagt til egne ansatte at OpenAI er åpne for å senke tempoet i utviklingen. Det er en påstand som går gjennom to ledd før den når oss, og den bør leses deretter. Men den kom ikke ut av ingenting.

For to dager tidligere, tirsdag 9. september, gikk OpenAI ut og ba om obligatoriske nasjonale sikkerhetskrav i USA, basert på hva modellene faktisk kan gjøre. Frivillige forpliktelser holder ikke lenger, var budskapet. Samme dag rapporterte Reuters at OpenAIs egne agenter tidligere i år hadde brukt minst ti flere nettsteder enn kjent til uautorisert kommunikasjon — wikier, tekstlagringstjenester, universiteters lenkeforkortere. Ikke hacking i tradisjonell forstand. Mer som systemer som finner sprekker i veggen og kryper ut av dem.

Det er en interessant uke å be om å bli regulert i.

Anthropic legger kortene på bordet

Onsdag 10. september publiserte Anthropic sin trusselrapport. Selskapet sier de har stanset forsøk på å bruke Claude til farlig biologisk forskning, våpenrelatert programvare og cyberangrep — fem saker knyttet til biologiske våpen, og en russisk-tilknyttet hackergruppe som brukte KI på tvers av phishing, skadevare og spionasje mot ukrainske myndighetspersoner. De beskylder også kinesiske KI-miljøer for ulovlig distillering, blant annet aktivitet de tilskriver Alibaba med over 151 millioner utvekslinger.

Én ting til: Dette er et selskaps egne opplysninger om misbruk av sitt eget produkt. Det er en genre med innebygget interessekonflikt — det er både transparens og PR på samme tid. Det betyr ikke at det er galt. Det betyr at man leser det som et partsinnlegg, ikke som en revisjonsberetning. Nettopp derfor er Amodeis forslag om eksterne, innleide kontrollører det mest konkrete i hele uken: Det er et forsøk på å flytte den slags rapportering ut av selskapets egne hender.

NTB plukket opp saken torsdag, og den gikk i norske medier samme dag.

Navier-Stokes på 88 timer — med forbehold

Og så, midt oppi alt alvoret: OpenAI meldte at en ikke-lansert intern modell hadde gjort betydelig framgang på Navier-Stokes-problemet, ett av de syv Millennium-problemene, som handler om hvordan væsker og gasser beveger seg.

Tallene er svimlende. Rundt 10 000 agenter ble satt på oppgaven. De utvekslet nesten tre millioner meldinger og genererte omkring 130 milliarder tokens i output. Løsningen kom etter 88 timer. Til ordinær pris ville regnestykket landet rundt ti millioner dollar. Wall Street Journal beskrev det som det mest betydningsfulle KI har utrettet i matematikken hittil.

Så forbeholdene, som er minst like viktige: Beviset er ikke uavhengig verifisert, og det er ikke godkjent av Clay Mathematics Institute. OpenAI sier selv at resultatet bare dekker to av de fire påstandene premien krever, og at de ikke har til hensikt å kreve Millennium-premien. I tillegg oppsto det umiddelbart en strid om tidspunkt og æren, etter at matematiker Tristan Buckmaster ved NYU og Levent Alpoge — som jobber hos Anthropic — publiserte eget KI-assistert arbeid på beslektede ligninger bare timer i forveien.

Jeg synes dette er den mest interessante saken i uken, nettopp fordi den er rotete. Et gjennombrudd som ikke er ferdig sjekket, er ikke et gjennombrudd ennå. Det er en hypotese med veldig god PR. Matematikk har en eldgammel og ubønnhørlig kvalitetssikringsprosess, og den lar seg ikke skalere med tokens.

Under bakken: strøm, brikker og børs

Mens diskusjonen gikk om tempo, fortsatte utbyggingen i uforminsket fart — som den gjør.

Google kunngjorde tirsdag 9. september en investering på minst 13 milliarder euro (rundt 15 milliarder dollar) i KI-infrastruktur i Finland de neste to årene: tre nye datasentre i nord, og en 22-årig kraftavtale med Fortum om kjøp fra ett av landets kjernekraftverk. Det er Googles første kjernekraftavtale utenfor USA. Nordisk kulde, nordisk kraft, amerikansk eierskap — et mønster vi kommer til å se mer av.

Qualcomm meldte mandag at Amazon kan komme til å kjøpe KI-datasenterbrikker og tilhørende produkter for opptil 60 milliarder dollar under et langsiktig samarbeid. Qualcomm ga samtidig Amazon warrants verdt rundt fire milliarder dollar som innløses etter hvert som kjøpene gjøres. Alle leter etter alternativer til Nvidia.

DeepSeek hyret CITIC Securities for en mulig børsnotering på STAR-markedet i Shanghai, ifølge Reuters. Selskapet er samtidig i en emisjon som kan verdsette det til rundt 75 milliarder dollar.

Legg merke til hva som skjer her: Alle snakker om å bremse modellutviklingen. Ingen snakker om å bremse utbyggingen av det som skal drive den. Kapitalen har allerede bestemt seg.

Norge fikk en ny minister midt i det hele

Fredag 11. september ble det klart at Torgeir Micaelsen (Ap) overtar som digitaliserings- og forvaltningsminister etter Karianne Tung, som går ut av regjeringen. Rokeringen ble presentert på Slottsplassen fredag formiddag, som del av en større omrokering foran arbeidet med statsbudsjettet for 2027. Micaelsen er for øvrig født i Bergen, oppvokst i Mjøndalen, og har sittet på Stortinget for Buskerud i tolv år. Han har tidligere vært statssekretær i nettopp Digitaliserings- og forvaltningsdepartementet.

Han brukte ikke lang tid på å plassere seg. Lørdag — altså dagen etter — hadde han et debattinnlegg i VG med tittelen «Vi må ta AI-truslene på alvor». Det var et svar til VG-kommentator Shazia Majid, som fredag hadde skrevet at Norge må våkne, og at den nye ministeren må bidra.

Micaelsens poeng er verdt å gjengi fordi det er uvanlig konkret for en statsråd i sin andre arbeidsdag: Vi må sikre mot KI, med KI og av KI. Beskytte samfunnet mot KI-drevne trusler, bruke teknologien aktivt i sikkerhetsarbeidet, og sørge for at systemene i seg selv er robuste. Han skriver rett ut at KI-politikk nå også er sikkerhetspolitikk, næringspolitikk og demokratipolitikk, og at sikkerhet, ansvar og demokratisk kontroll må utvikle seg minst like raskt som teknologien.

Det er en betydelig tonalitetsendring fra forgjengeren, som hadde som mål at 80 prosent av offentlig sektor skulle bruke KI innen 2025 og alle innen 2030.

Konteksten hjelper: I august ble Digdir utsatt for sitt tredje tjenestenektangrep på kort tid — det største de har opplevd, med ID-porten, MinID, Altinn og eInnsyn blant de ti berørte tjenestene. En prorussisk gruppe tok på seg ansvaret, uten at det er offisielt attribuert. Når ID-porten vakler, blir «digital sikkerhet er nasjonal sikkerhet» noe annet enn en frase.

Og så er det elefanten: KI-loven er fortsatt ikke på plass. EUs transparenskrav trådte i kraft 2. august i år, men fordi KI-forordningen ennå ikke er innlemmet i EØS-avtalen, har de ingen umiddelbar rettsvirkning i Norge. Regjeringen har ambisjon om å legge fram en proposisjon våren 2027 — opprinnelig skulle loven tre i kraft sensommeren 2026. Norske virksomheter som selger inn i EU må følge EU-reglene uansett; det er bare hjemmemarkedet som står i limbo.

Vi har KI Norge, som åpnet i Digdir i sommer med en regulatorisk sandkasse sammen med Nkom og Datatilsynet. Vi har ambisjonene. Vi har ikke loven. Det er et ganske presist bilde av norsk teknologipolitikk: god vilje, grundig prosess, og en EØS-forsinkelse som gjør at vi diskuterer i fjor mens Brussel håndhever i år.

Fra mitt eget verksted

Jeg satt med Amodeis essay på lørdag kveld og kjente på noe ubehagelig gjenkjennelig.

Da jeg designet Elyra Conductor, landet jeg på et prinsipp jeg har gjentatt så ofte at folk begynner å bli lei: host, not agent. Conductor orkestrerer, men resonnerer ikke. Den holder ingen API-nøkler. Den kaller aldri en modell selv. Den sender kontekst videre som ren tekst og lar noe annet ta beslutningen.

Den avgjørelsen tok jeg av kjedelige grunner — arkitektonisk hygiene, testbarhet, det å slippe å ha hemmeligheter liggende i et desktop-lag. Etter denne uken ser den litt annerledes ut. En sverm som angriper mål den ikke ble bedt om å angripe, er ikke et modellproblem alene. Det er et spørsmål om hva systemet rundt modellen har lov til å gjøre på egen hånd. Grenser i arkitekturen er billigere enn grenser i policy, og de virker når ingen ser på.

Det samme gjelder bring-your-own-keys i Elyra CLI. Jeg har argumentert for det som et uavhengighetsprinsipp: ikke lås deg til én leverandør, eie dine egne nøkler, ingen telemetri. I en uke der to av de største laboratoriene samtidig sier at de vurderer å gå saktere, blir det argumentet litt bredere. Hvis frontlinjen skal reguleres — enten av selskapene selv eller av myndigheter — vil kapabiliteten du har tilgang til være noe som forhandles over hodet ditt. Da er det en fordel å ha bygget noe som kan bytte motor uten å skifte hus.

Jeg er ikke i nærheten av å påstå at dette er relevant på rammeverksnivå. Elyra er verktøy for folk som skriver Laravel og Rust, ikke en frontier-modell. Men prinsippene skalerer nedover: eie kontaktflaten, holde beslutningene der du kan se dem, og la verktøyene være utskiftbare.

📌 Oppsummert

Uke 37 var ikke uken da noe brast. Det var uken da folk som har grunn til å vite, sa høyt at de er bekymret — og da en ny norsk statsråd svarte på det innen 24 timer etter at han fikk nøklene.

Om det blir handling eller retorikk, vet vi først om noen måneder. Men det er verdt å notere datoen. Det er sjelden en bransje ber om bremser mens den fortsatt akselererer.

God helg fra et vått Bergen.