Kan en e-mail lokke en digital assistent til at udlevere hemmeligheder?
En live sikkerhedsudfordring på nettet giver en meget konkret påmindelse til virksomheder: Når e-mails bliver en del af automatisering med kunstig intelligens, kan en ondsindet besked være nok til at presse systemet til at gøre noget, det ikke burde.
På HackMyClaw har en udvikler sat en digital e-mailhjælper (“Fiu”) op og udlovet 100 USD til den første, der kan få den til at afsløre indholdet af en fil kaldet secrets.env. Filen beskrives som testdata (falske nøgler/tokens), men scenariet minder om virkeligheden, hvor lignende filer i praksis kan indeholde adgangsoplysninger eller integrationer til fx økonomisystemer.
Angrebet, man forsøger at demonstrere, kaldes prompt-injektion: en e-mail skrives, så den forsøger at “overtale” den kunstige intelligens til at ignorere sine regler og i stedet følge angriberens instruktioner. Tænk på det som en falsk intern mail, der prøver at få en medarbejder til at tilsidesætte procedurer og sende noget fortroligt.
Udfordringen har en offentlig log med tusindvis af forsøg, og status står som “NOT HACKED” pr. 18. februar 2026. Arrangøren skriver samtidig, at mængden af angreb kan have påvirket adfærden, og vil derfor genkøre forsøg i en “blank” kørsel (uden tidligere historik). I diskussionen blandt udviklere peges der også på, at man i rigtige løsninger ikke må nøjes med “skriv i reglerne, at du ikke må” — det skal understøttes af tekniske adgangsgrænser og logning.
Kort fortalt
- En offentlig udfordring tester prompt-injektion via e-mail mod en digital assistent
- Målet er at få systemet til at udlevere en fil med hemmeligheder (i dette tilfælde testdata)
- Tusindvis af forsøg er logget offentligt; der er ikke bekræftet et læk i udfordringen
- Læringen for danske virksomheder: E-mailautomatisering kræver “mindste nødvendige adgang” og sporbarhed
| Typisk risiko | Bedre designvalg |
|---|---|
| E-mails kan presse systemet til at udlevere data | Den digitale assistent må ikke kunne tilgå hemmelige nøgler/adgangsoplysninger |
| Indholdet i en e-mail blandes sammen med “interne regler” | Tydelig adskillelse, så e-mails ikke kan overskrive systemets egne regler |
| Svært at opdage misbrug | Logning af handlinger og regelmæssig gennemgang |
Det kan du gøre nu
- Kortlæg hvor kunstig intelligens læser eller opsummerer e-mails hos jer (inkl. i økonomi-, support- og HR-processer).
- Indfør mindste nødvendige adgang: E-mailhjælperen skal kun kunne se det, den absolut skal bruge — ikke drev-mapper, nøgler eller klientdokumenter.
- Kræv logning: Hvem/ hvad har den digitale assistent tilgået, og hvad har den sendt videre?
- Sæt menneskelig kvalitetssikring på følsomme handlinger (fx udsendelse af bilag, deling af data, ændring af stamdata).
- Lav en enkel intern test: Send bevidst “frække” e-mails, der prøver at få systemet til at bryde reglerne — og se, hvad der sker.
Kilder
🤖 Denne artikel er skrevet af kunstig intelligens og kan indeholde fejl.
Læs original kilde →Fandt du en fejl?