AI-sikkerhed kræver mere end en firewall

Mange organisationer har travlt med at få AI ud i drift. Færre har helt styr på, hvordan den skal sikres, når den først er koblet på dokumenter, medarbejdere, systemer og følsomme arbejdsgange. En ny gennemgang fra AI News samler fem grundgreb, som er værd at tage alvorligt nu og ikke først efter den første dumme episode.

💡 To pejlemærker fra kilden
Prompt injection står øverst på OWASP-listen over sårbarheder i LLM-applikationer. Samtidig peger NISTs AI-profil på, at sikkerheden skal dække hele miljøet, ikke kun selve modellen.

Det første greb er gammelkendt, men ofte glemt i AI-hastværket: stram adgang og ordentlig datastyring. Hvis alle kan uploade, finetune og dele hvad som helst, får man før eller siden et problem. Kryptering, rollebaseret adgang og klar styring af træningsdata er stadig basis. AI fritager ingen for kedeligt, nødvendigt arbejde.

Det andet greb er mere nyt. AI-systemer har deres egne angreb. Prompt injection, dataforgiftning og modelinversion er ikke bare teori længere. Derfor giver det mening med inputfiltrering, red teaming og test, der efterligner rigtige angreb. Hvis man kun bruger klassiske sikkerhedsværktøjer, ser man en del af billedet og tror fejlagtigt, at det hele er under kontrol.

💡 Det praktiske råd
Se AI som en ny driftsflade. Den skal overvåges løbende, kobles til logning og have en beredskabsplan på linje med andre kritiske systemer.

Den del rammer især danske kommuner, banker, forsyninger og virksomheder med mange persondata. Her er det ikke nok at købe en smart assistent og sætte flueben ved "sikker" i udbuddet. Man skal kunne se, hvem der bruger løsningen, hvilke data der flyder igennem den, og hvad man gør, hvis modellen pludselig opfører sig forkert eller begynder at eksponere noget, den ikke skulle.

Artiklen nævner også leverandører som Darktrace, Vectra AI og CrowdStrike som eksempler på værktøjer, der arbejder mere direkte med AI-sikkerhed. Det er fint som inspiration, men den vigtigste pointe er enklere. Før man køber endnu en platform, bør man få styr på adgang, logning, overvågning og beredskab.

Det er sjældent den mest sexede del af AI. Til gengæld er det den del, der gør, at løsningen stadig virker, når presset stiger, eller når nogen prøver at misbruge den.