Shadow AI flytter fra chat til autonome agenter

Det næste store styringsproblem i virksomheder er ikke kun medarbejdere, der bruger ChatGPT udenom it-afdelingen. Det er medarbejdere, der sætter autonome agenter op med egne nøgler, egne scripts og egne forbindelser til virksomhedens systemer. AI News beskriver den udvikling som BYOAI, Bring Your Own AI, og det er en meget præcis beskrivelse af det, der er ved at ske.

Baggrunden for artiklen er lanceringen af KiloClaw for Organizations, et værktøj til styring af autonome agenter. Selve produktet er mindre vigtigt end tendensen bag det. Når udviklere, analytikere og andre vidensmedarbejdere selv sætter agenter op til at læse fejlrapporter, hente data fra Slack eller rydde op i regneark, opstår der hurtigt nye blinde vinkler. Især hvis de bruger personlige API-nøgler og sender data til eksterne modeller uden central kontrol.

💡 Problemet er nyt, men genkendeligt AI News sammenligner udviklingen med BYOD-bølgen, hvor medarbejdere tog egne telefoner med ind i arbejdet, og it bagefter måtte indhente virkeligheden.

💡 Det centrale greb I stedet for faste, brede nøgler peger artiklen på kortlivede og snævert afgrænsede tilladelser til hver agent.

Det er præcis derfor, mange virksomheder lige nu undervurderer risikoen. En chatbot, der giver svar, er én ting. En agent, der kan læse, skrive, ændre og slette på tværs af systemer, er noget helt andet. Den kan gøre nyttigt arbejde hurtigt, men den kan også sprede fejl hurtigere, kopiere data ud af huset eller handle uden for det formål, den egentlig blev sat op til.

Det fornuftige svar er ikke et totalt forbud. Det virker sjældent. Så flytter eksperimenterne bare uden for radaren. Den bedre vej er at gøre det legitimt at registrere og styre agenter centralt. Start med et inventar. Hvilke agenter kører allerede, og hvilke systemer kan de nå? Skift derefter permanente nøgler ud med tidsbegrænsede rettigheder. Og lav nogle enkle zoner for data, så ikke alt må bruges overalt.

For danske virksomheder og offentlige organisationer bliver det her hurtigt et ledelses- og sikkerhedsspørgsmål, ikke kun et teknisk spørgsmål. Hvis AI skal virke mandag morgen, skal nogen også have styr på, hvem der har givet maskinerne adgang fredag eftermiddag.