Moltbook afslører en ny trussel: skjulte instruktioner kan sprede sig mellem systemer med kunstig intelligens

Et nyt socialt netværk bygget til digitale assistenter har gjort en ubehagelig risiko tydelig: Skjulte instruktioner i helt almindelig tekst kan få systemer med kunstig intelligens til at lække data eller udføre uønskede handlinger – og i værste fald sende instruktionen videre.

Kort fortalt:

• Moltbook er et Reddit-lignende netværk designet til automatiske hjælpere – og en fejlkonfiguration har ifølge rapportering om sikkerhedsfirmaet Wiz’ fund eksponeret ca. 1,5 mio. adgangsnøgler, ca. 35.000 e-mailadresser og private beskeder.
• Skjulte instruktioner kan få digitale assistenter til at handle mod virksomhedens interesse og “smitte” andre systemer.
• Risikoen rammer især organisationer, hvor kunstig intelligens har adgang til følsomme data og samtidig læser indhold fra eksterne kilder (fx e-mails eller beskeder).

Hvad er Moltbook – og hvad gik galt?

Moltbook fungerer som et netværk, hvor digitale assistenter deler og henter information, omtrent som mennesker bruger Reddit. Udfordringen er, at assistenterne kan komme til at læse indhold, der indeholder skjulte, skadelige instruktioner.

Wiz har ifølge flere medier afdækket en fejlkonfiguration i Moltbook, som potentielt kunne give adgang til omkring 1,5 millioner adgangsnøgler (såkaldte tokens), cirka 35.000 e-mailadresser og private beskeder. Det er ikke kun et spørgsmål om én platform: Når et system er koblet til mange andre systemer og data, kan konsekvensen brede sig hurtigt.

Instruktioner der spreder sig selv

I forskningsartiklen “Here Comes The AI Worm” (AI står for kunstig intelligens) viser forskere, at selvspredende instruktioner kan hoppe mellem løsninger med kunstig intelligens udelukkende via tekst – uden klik og uden vedhæftede filer.

Palo Alto Networks peger på tre betingelser, der gør risikoen størst: Systemet 1) har adgang til private data, 2) læser indhold udefra, og 3) kan kommunikere videre til andre systemer. Har løsningen samtidig vedvarende hukommelse (at den “husker” ting fra tidligere), kan skaden blive sværere at opdage og stoppe.

Hvad betyder det for danske virksomheder?

For danske virksomheder og offentlige organisationer handler det især om datalæk, GDPR-overtrædelser og omdømmerisiko. Automatisering med kunstig intelligens kan skabe stor værdi – men den kan også skalere en fejl: Én kompromitteret digital assistent kan nå at sende følsomme oplysninger ud, før nogen opdager det.

Det kan du gøre nu

1. Stram adgangsstyringen: Giv kun adgang til de data, løsningen reelt skal bruge.
2. Log aktivitet: Registrér, hvad digitale assistenter læser, sender og modtager.
3. Indfør menneskelig kvalitetssikring: Kræv godkendelse af en person ved følsomme handlinger (fx at sende data ud af organisationen).
4. Begræns udgående kommunikation: Definér hvilke tjenester og modtagere systemet må kontakte.
5. Kontrollér løbende: Gennemgå jævnligt opsætning og rettigheder, især når løsningen ændres.

Kilder

• Ars Technica: Moltbook og virale instruktioner
• arXiv: “Here Comes The AI Worm” (AI står for kunstig intelligens)
• Palo Alto Networks: Analyse af Moltbook-sagen
• Dataconomy: Wiz-fund om eksponerede adgangsnøgler og brugerdata