AI-styring er blevet et driftskrav i finans

Et nyt indlæg hos AI News beskriver, hvordan banker og andre finansvirksomheder er gået fra at se AI som et effektiviseringsværktøj til at behandle det som et styrings- og licensspørgsmål. Det er en vigtig forskydning. Pointen i artiklen er, at generativ AI og mere komplekse modeller har gjort det uholdbart at godkende løsninger ud fra løfter om høj præcision alene. Hvis en model bruges i kredit, rådgivning eller risikovurdering, skal virksomheden kunne forklare, overvåge og stoppe den.

💡 Hårdeste krav i artiklen Ved en låneafvisning skal banken i princippet kunne spore beslutningen tilbage til de konkrete vægte og historiske datapunkter, der førte til udfaldet. Det sætter en høj standard for dokumentation.

Artiklen peger også på det kedelige, men vigtige fundament: data. Mange finansmiljøer sidder stadig med kundedata på gamle mainframes, transaktioner i public cloud og risikoprofiler i særskilte databaser. Ifølge artiklen er det netop den opsplitning, der gør compliance næsten umulig. Løsningen er ikke bare en bedre model, men metadata, data lineage, versionsstyring og overvågning af concept drift, så systemet kan stoppes, hvis adfærden glider væk fra det godkendte.

💡 Truslerne stopper ikke ved bias Artiklen fremhæver data poisoning, prompt injection og model inversion som reelle angrebsformer. Derfor skal sikkerhed flyttes ind i selve ML- og agent-pipelinen, ikke lægges ovenpå bagefter.

Det er direkte anvendeligt i Danmark, også uden for finans. Kommuner, styrelser og større virksomheder står med de samme grundproblemer, hvis de vil bruge AI til sagsbehandling, økonomi, kontrol eller borgerservice. Hvis man ikke ved, hvor data kommer fra, hvilken version af instruktionerne der var aktiv, og hvem der kunne ændre modellen, er man allerede bagud.

Der er også et organisatorisk budskab, som mange overser. Artiklen beskriver, at skellet mellem udvikling og compliance skal brydes ned. Jurister, risikoansvarlige, sikkerhed og produktfolk skal ind tidligt, fordi regler og etik former selve arkitekturen. Det er dyrere at opdage det sent.

Det mest nyttige skridt nu er derfor ikke at skrive endnu en AI-politik. Det er at etablere et revisionsspor i drift: log prompts og værktøjskald, versionsstyr instruktioner, brug kortlivede legitimationsoplysninger og test aktivt, om løsningen kan manipuleres. Når AI flytter ind i kritiske processer, er governance ikke en bremse på arbejdet. Det er selve forudsætningen for at kunne sætte det i drift.