Når software begynder at forbedre sig selv – med menneskelig kvalitetssikring

En ny retning i softwareudvikling handler ikke om at skrive kode hurtigere, men om at gøre systemer bedre i drift – løbende. Ifølge et nyt essay om “at lukke kredsløbet” kan kunstig intelligens hjælpe software med selv at opdage fejl, beskrive dem og foreslå rettelser.

Kort fortalt:

Kunstig intelligens kan koble driftsdata og brugerfeedback direkte til konkrete forslag til forbedringer.

Forslagene skal stadig igennem automatiske tests og menneskelig kvalitetssikring, før noget ændres for brugerne.

For danske virksomheder er gevinsten især færre driftsproblemer, hurtigere fejlrettelser og bedre prioritering af udvikling.

Fra “vi hørte det i supporten” til tidlig varsling

I mange organisationer starter fejlrettelse, når en bruger klager, eller når nogen internt opdager, at noget er gået i stykker. Den nye idé er at gøre processen mere automatisk: Når systemet kører, kan det indsamle signaler som logfiler (hændelser i systemet), fejlsporing og simple målinger af svartider. De signaler kan et automatisk system analysere og omsætte til en fejlrapport – og i nogle tilfælde et konkret forslag til en ændring, der kan gennemgås af en udvikler.

For danske virksomheder er det især relevant, fordi mange har forretningskritiske selvbetjeningsløsninger og integrationer, som “bare skal virke” – også når der er travlt. Tænk fx en kommune med en selvbetjeningsportal eller en SMV med kundeportal: Hvis mange brugere pludselig falder fra på samme trin, kan overvågningen opdage mønsteret, oprette en sag og pege på den sandsynlige årsag, før problemet bliver en supportstorm.

	Traditionel vedligehold	Kontinuerlig forbedring med kunstig intelligens
Fejl opdages af	Brugere/medarbejdere	Automatisk overvågning
Fejlrapport	Manuelt	Automatisk udkast med data og forslag
Styring	Ofte ad hoc	Klare “stopklodser” og godkendelse

Risikoen: automatisering uden ansvar

Jo mere automatisk, desto større krav til styring. Driftsdata kan indeholde personoplysninger, så GDPR skal tænkes ind fra starten. Og hvis et system kan foreslå ændringer, skal adgangen være stramt afgrænset (mindst mulige rettigheder) og alt skal kunne spores (hvem godkendte hvad – og hvornår).

Det kan du gøre nu

Få styr på driftsdata: Har I logfiler, fejlsporing og simple målinger, der faktisk kan bruges til at forstå problemer?
Indfør klare godkendelsestrin: Ingen ændringer bør nå brugerne uden gennemgang af en person.
Start i lav risiko: Vælg et internt system eller en mindre del af en portal og test tilgangen dér.
Stil krav til leverandører: Spørg hvordan de opdager fejl, prioriterer forbedringer og dokumenterer ændringer.
Overvej en fælles standard: OpenTelemetry er en åben standard til at samle driftsdata på tværs af systemer, så I ikke bliver afhængige af én leverandør.

Kilder

Benedict Brady: Closing the Software Loop (jan. 2026) – https://www.benedict.dev/closing-the-software-loop?utm_source=tldrnewsletter
OpenTelemetry (åben standard for driftsdata) – https://opentelemetry.io/
EU’s forordning om kunstig intelligens (AI Act), artikel om menneskelig kontrol – https://eur-lex.europa.eu/legal-content/DA/TXT/?uri=CELEX:32024R1689