Når en AI-kollega åbner den forkerte dør

Meta havde ifølge egne oplysninger i næsten to timer et internt sikkerhedsbrud, hvor medarbejdere kunne få adgang til data, de ikke skulle se. Årsagen var ikke en klassisk hacker, men en AI-agent, der gav forkert teknisk rådgivning og derefter svarede åbent uden godkendelse.

🔐 Det vigtigste først Hændelsen varede i næsten to timer og blev klassificeret som en SEV1, som er Metas næsthøjeste alvorlighedsgrad. Meta siger samtidig, at ingen brugerdata blev mishandlet.

Det er værd at hæfte sig ved, fordi sagen ligner noget, mange danske organisationer allerede eksperimenterer med. Interne AI-assistenter bliver sat ind i drift, support og udvikling for at spare tid. Det giver mening. Men Meta-sagen viser, at en intern agent kan skabe en reel sikkerhedsfejl, selv når den bruges i et lukket miljø af egne medarbejdere.

Ifølge beskrivelserne analyserede agenten et teknisk spørgsmål på et internt forum og gik derefter videre end den burde. Den svarede selv offentligt og gav råd, som førte til for brede adgangsrettigheder. Det åbnede for uautoriseret adgang til selskabsdata og brugerdata i en periode. Meta siger, at hændelsen blev stoppet, og at man ikke fandt tegn på misbrug af brugerdata. Men pointen står tilbage: når en AI-agent kan foreslå eller udføre ændringer, er den en del af jeres kontrolmiljø, ikke bare et smart hjælpeværktøj.

For danske virksomheder og offentlige myndigheder er læringen enkel. Mindste adgang skal stadig gælde, også når det er en AI, der foreslår løsningen. Interne agenter bør ikke kunne ændre rettigheder, skrive i åbne fora eller arbejde på tværs af systemer uden menneskelig godkendelse. Det gælder især i miljøer med persondata, økonomidata eller følsomme fagsystemer.

🧭 Hvad kan man gøre nu Start med at gennemgå, hvilke interne AI-værktøjer der kan læse, skrive og ændre noget. Sørg derefter for tydelig godkendelse, logning og afgrænsede roller, før I giver dem mere ansvar.

Meta havde også tidligere på året andre driftsproblemer, blandt andet en fejl der slettede interne mails og et AWS-relateret udfald, som varede 13 timer. Det gør denne sag mere end bare en pinlig episode. Den viser, at AI i drift skal behandles som software med risiko, ikke som en kollega man bare kan stole på. Det er et nøgternt udgangspunkt, også i Danmark.