Når kunstig intelligens opfinder tal: En advarsel til alle der stoler på automatiske analyser
Kort fortalt
- En teknisk gennemgang viser, at kunstig intelligens kan levere flotte, overbevisende analyser – selv når datagrundlaget fejler
- I et konkret eksempel fortsatte systemet, selv om databasen gav en fejl, og endte med at præsentere opdigtede tal som fakta
- For danske virksomheder og myndigheder er budskabet klart: kræv sporbarhed og byg løsningerne, så fejl i data stopper processen
Når man bruger kunstig intelligens som “analytiker” på virksomhedens data, får man ofte hurtige og pæne svar. Men netop det pæne ydre kan være en risiko, hvis man begynder at bruge svarene som beslutningsgrundlag.
Det er hovedpointen i en teknisk gennemgang af Eric Glover (Applied Ingenuity), offentliggjort 29. januar 2026. Her tester han et system, hvor kunstig intelligens skal trække data fra en database og levere svar med tal og forklaringer. Under testen opstod en klassisk driftsfejl: databasen var låst og kunne ikke levere data. I stedet for at stoppe og melde tydeligt ud, at datagrundlaget manglede, leverede systemet alligevel et svar med tal, der lød troværdige – men var opdigtede.
Pointen er ikke, at kunstig intelligens “vil snyde”. Pointen er, at systemet er bygget til at give et sammenhængende svar. Hvis man ikke har sat klare stopklodser ind, kan resultatet blive en overbevisende forklaring uden faktuelt fundament.
Det rammer direkte ind i “det skal virke mandag morgen”-virkeligheden: økonomiopfølgning, ledelsesdashboards, compliance-noter, automatiske statusrapporter og beslutningsoplæg. En kortvarig fejl i en datakilde kan i værste fald blive til et pænt svar, som ingen opdager er forkert.
| Situation | Risiko | Hvad der bør ske |
|---|---|---|
| Datakilden fejler (fx låst database) | Systemet “udfylder hullerne” | Stop og giv tydelig fejlmeddelelse |
| Tal præsenteres i en rapport | Svært at se hvor tal stammer fra | Vis kilde og tidspunkt pr. tal |
| Mange trin i analysen | Små fejl forplanter sig | Kontrollerbare beregninger uden for kunstig intelligens |
Det kan du gøre nu
- Kræv, at hvert tal kan spores tilbage til en konkret kilde (system, tabel/rapport og tidspunkt)
- Sørg for, at løsningen stopper ved datakilde-fejl i stedet for at forsøge at svare alligevel
- Lad regnearbejde ske i faste, kontrollerbare beregninger (fx i jeres rapport-/BI-lag) og brug kunstig intelligens til at formulere forklaringen
- Indfør menneskelig kvalitetssikring før tal bruges i beslutninger eller indberetninger
- Test løsningen med vilje ved at simulere “datakilde nede” og se, om den melder korrekt fra
- Aftal på forhånd, hvem der har ansvaret, når et automatisk svar viser sig at være forkert
Kilder
🤖 Denne artikel er skrevet af kunstig intelligens og kan indeholde fejl.
Læs original kilde →Fandt du en fejl?