AI-agenter virker kun, hvis data ikke sejler

Når snakken falder på AI-sikkerhed, ender den tit ved modellen. Det er forståeligt. Men den nye udvikling peger et andet sted hen: Hvis en AI-agent skal hente data, træffe valg og sætte handlinger i gang uden tæt opsyn, er det datagrundlaget, der afgør, om den bliver nyttig eller farlig. Det er hovedpointen i en ny gennemgang fra AI News med Denodo som eksempel.

💡 Nøgletal AI-agenten bliver ikke bedre end de data, den får lov at arbejde med. Kilden peger på fragmenterede datakilder, manglende opsyn og svage sporingsmuligheder som de største problemer.

I praksis er problemet velkendt. Store organisationer har data spredt ud over fagsystemer, cloudtjenester, interne databaser og tredjepartsløsninger. Resultatet er datasilomiljøer, hvor to afdelinger kan sidde med hver sin version af sandheden. Det er til at leve med, når en medarbejder selv dobbelttjekker. Det er noget andet, når en AI-agent svarer en borger, sender et udkast til en kontrakt eller starter et workflow i økonomisystemet.

Denodo fremhæves, fordi virksomheden arbejder med et lag, der samler adgang til data uden at flytte alt over i et nyt lager. Pointen er ikke kun teknik. Pointen er styring. Hvis adgangsregler, compliance-krav og brugsvilkår kan lægges samme sted, bliver det lettere at sikre ens regler på tværs af systemer. Kilden fremhæver også audit trails, altså logning af hvilke data agenten spørger efter, og hvad den får tilbage.

💡 Det praktiske greb Hvis flere AI-løsninger bruger samme styrede datalag, falder risikoen for modstridende svar. Samtidig bliver det lettere at forklare, hvorfor et svar eller en handling opstod.

For danske virksomheder og offentlig sektor er det her den kedelige del, som ofte bliver sprunget over. Men det er også den del, der gør, at noget faktisk kan bruges mandag morgen. Før man giver en agent lov til at handle, bør man få styr på tre ting: hvilke datakilder den må bruge, hvilke rettigheder den har, og hvilke logs man kan se bagefter. Uden det ender AI hurtigt som hurtige svar oven på rodet data.

Konklusionen er enkel. Næste trin i AI handler mindre om flere smarte funktioner og mere om kontrol med det, der ligger under dem. Hvis data sejler, gør agenten det også.