Sikkerhed for kunstig intelligens kræver mere end en firewall

Mange organisationer har travlt med at få kunstig intelligens ud i drift. Færre har helt styr på, hvordan den skal sikres, når den først er koblet på dokumenter, medarbejdere, systemer og følsomme arbejdsgange. En ny gennemgang fra Nyheder om kunstig intelligens samler fem grundgreb, som er værd at tage alvorligt nu og ikke først efter den første dumme episode.

💡 To pejlemærker fra kilden
Prompt injection står øverst på OWASP-listen over sårbarheder i LLM-applikationer. Samtidig peger NISTs kunstig intelligens-profil på, at sikkerheden skal dække hele miljøet, ikke kun selve modellen.

Det første greb er gammelkendt, men ofte glemt i kunstig intelligens-hastværket: stram adgang og ordentlig datastyring. Hvis alle kan uploade, finetune og dele hvad som helst, får man før eller siden et problem. Kryptering, rollebaseret adgang og klar styring af træningsdata er stadig basis. kunstig intelligens fritager ingen for kedeligt, nødvendigt arbejde.

Det andet greb er mere nyt. systemer med kunstig intelligens har deres egne angreb. Prompt injection, dataforgiftning og modelinversion er ikke bare teori længere. Derfor giver det mening med inputfiltrering, red teaming og test, der efterligner rigtige angreb. Hvis man kun bruger klassiske sikkerhedsværktøjer, ser man en del af billedet og tror fejlagtigt, at det hele er under kontrol.

💡 Det praktiske råd
Se kunstig intelligens som en ny driftsflade. Den skal overvåges løbende, kobles til logning og have en beredskabsplan på linje med andre kritiske systemer.

Den del rammer især danske kommuner, banker, forsyninger og virksomheder med mange persondata. Her er det ikke nok at købe en smart assistent og sætte flueben ved "sikker" i udbuddet. Man skal kunne se, hvem der bruger løsningen, hvilke data der flyder igennem den, og hvad man gør, hvis modellen pludselig opfører sig forkert eller begynder at eksponere noget, den ikke skulle.

Artiklen nævner også leverandører som Darktrace, Vectra kunstig intelligens og CrowdStrike som eksempler på værktøjer, der arbejder mere direkte med sikkerhed for kunstig intelligens. Det er fint som inspiration, men den vigtigste pointe er enklere. Før man køber endnu en platform, bør man få styr på adgang, logning, overvågning og beredskab.

Det er sjældent den mest sexede del af kunstig intelligens. Til gengæld er det den del, der gør, at løsningen stadig virker, når presset stiger, eller når nogen prøver at misbruge den.