Når software bliver skrevet og testet automatisk, strammer ansvaret til

Automatiske systemer drevet af kunstig intelligens kan i stigende grad både skrive kode, lave test og klargøre en ny version til drift. En ny juridisk analyse fra Stanford Law Schools innovationsmiljø CodeX rejser et ubehageligt, men helt praktisk spørgsmål: Hvem står med ansvaret, når fejl opstår i software, som i høj grad er udviklet og kvalitetssikret automatisk?

Kort fortalt

Automatiseret udvikling kan give fart – men også en risiko for “cirkulær” kvalitetssikring, hvor systemet i praksis godkender sig selv

I EU er det stadig virksomheden, der bringer løsningen på markedet eller sætter den i drift, som typisk kommer til at hæfte

Dokumentation, uafhængig kontrol og klare roller er det, der afgør, om du kan forsvare dine valg, når noget går galt

Et konkret eksempel kommer fra StrongDM, som beskriver en “softwarefabrik”, hvor både kode og test bliver produceret automatisk og afprøvet mod digitale tvillinger – altså kopier af eksterne systemer i et testmiljø, så man kan afprøve mange situationer hurtigt. Det kan være effektivt, men udfordringen er tillid: Hvis de samme typer automatiske systemer både bygger og tester, kan de overse de samme fejlmønstre.

For danske virksomheder lander konsekvensen især i jura og ledelse: EU’s nye produktansvarsdirektiv (2024/2853) gør det tydeligere, at software også kan være et “produkt”, og at ansvaret kan blive placeret hos den, der udbyder løsningen. Samtidig stiller EU’s forordning om kunstig intelligens (2024/1689) krav til blandt andet dokumentation, logning og kvalitetsstyring for systemer i de mest følsomme kategorier (fx sundhed, kritisk infrastruktur og visse HR- og finansanvendelser). Med andre ord: Hvis noget går galt, bliver “vi testede automatisk” sjældent et stærkt forsvar uden sporbarhed.

Hvor risikerer det at gå galt?	Hvad du bør kunne vise bagefter
Automatisk test giver falsk tryghed	Uafhængige test, klare acceptkriterier og test-rapporter
Uklar leverandørkæde	Hvem leverer hvad, og hvem godkender hvad (kontrakt og bilag)
Manglende sporbarhed	Logfiler, ændringshistorik og beslutningsnoter

Det kan du gøre nu

Kræv menneskelig kvalitetssikring ved release af kritiske funktioner (særligt sikkerhed, betaling, persondata)
Opdatér kontrakter: få skrevet ind hvem der har ansvar, og hvilke krav der er til dokumentation og test
Indfør et minimum af “bevispakke” pr. release: ændringslog, testresultater, godkendelse og plan for tilbagerulning
Tjek forsikringsdækning (cyber/erhvervsansvar), hvis softwaren kan give driftstab eller skade

Kilder

Stanford Law School / CodeX (omtale via aggregator): https://intrecht.de/en/inform/blogs-podcasts/?tx_sbbfidrechtrss_fidrechtrssblog%5Bsubcategory-id%5D=19
StrongDM: automatiseret “softwarefabrik”: https://factory.strongdm.ai/
Uafhængig teknisk gennemgang: https://simonwillison.net/2026/Feb/7/software-factory/
EU Produktansvarsdirektiv 2024/2853: https://eur-lex.europa.eu/eli/dir/2024/2853/oj/eng
EU Forordning om kunstig intelligens 2024/1689: https://eur-lex.europa.eu/eli/reg/2024/1689/oj