Den billige demo kan blive dyr: Skjulte omkostninger ved prototyper med kunstig intelligens

Det er blevet let at lave en overbevisende prototype med kunstig intelligens. Udfordringen opstår, når en “hurtig demo” pludselig skal være et rigtigt arbejdsredskab i drift – i en kommune, et revisionshus eller en SMV, hvor fejl, persondata og manglende ejerskab hurtigt bliver dyrt.

Kort fortalt

• En prototype kan vise potentiale, men mangler ofte det, der kræves for stabil drift i hverdagen
• De skjulte omkostninger ligger typisk i data, integration til eksisterende systemer, ansvar og løbende kvalitet
• Teknisk gæld (smutveje der gør senere ændringer og fejlretning dyrere) opstår tidligt, hvis prototypen bygges som “engangsarbejde”
• Vælg tilgang ud fra formålet: Skal idéen testes – eller skal den kunne leve videre i drift?

Demonstrationen imponerer — driften kræver noget andet

En demo kan fungere fint med udvalgte testeksempler og en person, der “holder den i hånden”. I drift skal løsningen derimod kunne håndtere variationer, fejl og undtagelser – og nogen skal eje den, når der kommer nye regler, nye datakilder eller nye behov.

Fiktiv mini-case: Regnskab, der skulle automatiseres “på tre uger”

Eksemplet er fiktivt, men realistisk.

Et mindre revisionskontor lavede en prototype, hvor kunstig intelligens skulle foreslå konteringer ud fra fakturatext. Demoen imponerede. Da man ville bruge den i hverdagen, ramte virkeligheden: fakturaer så forskellige ud fra kunde til kunde, undtagelser fyldte mere end forventet, og der opstod tvivl om, hvem der havde ansvaret, når systemet foreslog forkert. Samtidig skulle man have styr på persondata og dokumentation. Resultatet blev, at prototypen måtte bygges om, før den kunne bruges sikkert og stabilt.

Hvad det betyder for danske virksomheder

Hvis du arbejder med regnskab, sagsbehandling eller kundeservice, er fristelsen stor: En hurtig prototype kan vise store tidsgevinster. Men uden en plan for drift kan du ende med at betale to gange – først for demoen og derefter for oprydning, kvalitet og forankring i den daglige arbejdsgang.

Det kan du gøre nu

1. Beslut formålet skriftligt: “Idé-test” eller “klar til drift” – og hvad der skal være sandt, før I går videre
2. Udpeg ejerskab: Hvem har ansvar for fejl, opdateringer og prioriteringer efter demoen?
3. Tjek dataklarhed: Hvilke data bruges, hvor kommer de fra, og hvem kan forbedre kvaliteten?
4. Afklar GDPR tidligt: Lav en databeskyttelseskonsekvensvurdering (DPIA – vurdering af risiko ved behandling af persondata), hvis løsningen skal håndtere persondata
5. Lav en exit-/sunset-plan: Hvornår stopper I, og hvordan lukker I prototypen ned uden at efterlade “skjult rod”?

Kilder

• TLDR-nyhedsbrev: henvisning til emnet
• Adaline Labs: Byg produkter – ikke kun prototyper
• MIT Sloan: Skjulte omkostninger ved generativ kunstig intelligens
• Eric Brown: Den skjulte pris ved eksperimenter med kunstig intelligens