Svindelmails uden stavefejl: “onde” sprogmodeller gør cyberangreb mere skalerbare

Sikkerhedsforskere hos Palo Alto Networks’ Unit 42 peger på en voksende udfordring: Tekstværktøjer med kunstig intelligens kan – i hænderne på kriminelle – gøre phishing, direktørsvindel og afpresning både hurtigere og mere overbevisende. Det ændrer især spillereglerne for danske virksomheder, der stadig læner sig op ad “dårligt sprog” som advarselstegn.

Kort fortalt

Kriminelle bruger særlige sprogmodeller (store tekstmodeller), hvor sikkerhedsbegrænsninger er fjernet

Det gør det lettere at masseproducere troværdige phishing-mails, direktørsvindel og afpresningsbreve

Dårlig grammatik er ikke længere et pålideligt tegn på svindel

Fokus for ledere bør være klare regler, adgangskontrol og kontrolpunkter – ikke et totalforbud mod teknologien

Hvad handler nyheden om?

Unit 42 beskriver, hvordan “onde” varianter af sprogmodeller bliver markedsført i kriminelle miljøer – blandt andet med navne som WormGPT og KawaiiGPT. Pointen er ikke, at teknologien er ny, men at den gør angreb mere skalerbare: En angriber kan hurtigt tilpasse budskaber til bestemte virksomheder, roller og situationer (f.eks. “hasteregning”, “ny bankkonto”, “opdatering af betalingsoplysninger”) og samtidig skrive i et fejlfrit, troværdigt dansk.

For danske SMV’er, økonomifunktioner, revisionshuse og offentlige arbejdspladser betyder det, at de klassiske “mavefornemmelser” bliver mindre værd: Et svindelforsøg kan ligne en helt almindelig intern mail – og komme i mange varianter, så filtre har sværere ved at fange dem.

Typisk misbrug	Hvad det ligner i praksis	Hvad der virker som modtræk
Direktørsvindel	“Kan du lige overføre… det haster”	To-personers godkendelse + bekræftelse via telefon
Phishing i fejlfrit dansk	Troværdig mail med link til “login”	Skærpet mailbeskyttelse + træning med nye eksempler
Afpresning	Standardiserede trusselsbreve i virksomhedens tone	Plan for hændelser + hurtig eskalering og dokumentation

Det kan du gøre nu

Indfør to-personers godkendelse ved ændring af bankoplysninger og større betalinger – og kræv bekræftelse via en anden kanal end mail.
Opdater jeres træning, så medarbejdere ikke leder efter stavefejl, men efter adfærd: hast, pres, “gør det i hemmelighed”, ændrede kontonumre.
Stram adgange og logning: Hvem må bruge hvilke værktøjer med kunstig intelligens – og hvor gemmes data og historik?
Indberet mistænkelige mails til Center for Cybersikkerhed: phishing@cert.cfcs.dk.
Hav styr på beredskab og jura: Ved brud på persondatasikkerheden kan der være krav om anmeldelse inden for 72 timer.

Kilder

Palo Alto Networks, Unit 42: The Dual-Use Dilemma of AI: Malicious LLMs (25. november 2025)
https://unit42.paloaltonetworks.com/dilemma-of-ai-malicious-llms/
Center for Cybersikkerhed: Indberet phishing-mails
https://www.cfcs.dk/da/handelser/indberet-phishing-mails/
OWASP: Top 10 for Large Language Model Applications (sikkerhedstjekliste for løsninger med store sprogmodeller)
https://owasp.org/www-project-top-10-for-large-language-model-applications/