AI presser cloudregningen op, og nu går jagten ind på spildet

Mange virksomheder taler om mangel på GPU-kapacitet, men en stor del af regningen kommer fra noget mere kedeligt: dårlig udnyttelse. TechCrunch skriver, at ScaleOps har rejst 130 mio. dollar til software, der automatisk flytter og styrer compute-ressourcer i realtid. Selskabet siger selv, at kunder kan skære cloud- og AI-infrastrukturudgifter med op til 80 procent.

💡 Nøgletal fra sagen ScaleOps har rejst 130 mio. dollar i en Series C til en værdiansættelse på 800 mio. dollar. Virksomheden oplyser, at platformen kan reducere cloud- og AI-omkostninger med op til 80 procent. TechCrunch skriver, at kunderne tæller Adobe, Wiz, DocuSign, Salesforce og Coupa.

Det gør historien relevant langt uden for startup-verdenen. I danske virksomheder er det sjældent modelprisen alene, der vælter budgettet. Det er reserverede ressourcer, overdimensionerede klynger, jobs der står stille, og platformteams der manuelt prøver at holde trit med skiftende belastning. Når AI-arbejdslaster kommer oveni, bliver de gamle Kubernetes-standarder hurtigt for stive.

ScaleOps' pointe er enkel. Mange teams har masser af observability, men for lidt handling. Man kan godt se, at en GPU står ubrugt, eller at en applikation er sat for højt, uden at man har et sikkert system til at rette det løbende. Resultatet er højere regninger og lavere tillid til nye AI-initiativer.

For danske it-afdelinger er den praktiske lære ikke, at man skal købe endnu et værktøj i dag. Det er, at AI-styring og FinOps skal tættere på hinanden. Hvis platformteamet sidder med drift, mens forretningen bestiller nye AI-funktioner uden ansvar for omkostningerne, kommer regningen altid for sent. Offentlig sektor kender samme mønster fra store dataplatforme og integrationsmiljøer, hvor kapacitet bliver lagt på for en sikkerheds skyld og sjældent justeret ned igen.

Mandag morgen er et godt sted at starte med tre tal: faktisk GPU-udnyttelse, tomgang i klynger og pris pr. vellykket workload. Hvis de tal ikke er synlige for både teknik og ledelse, er det svært at styre AI økonomisk. Det er præcis den blinde vinkel, denne historie peger på.