Spring til indhold
Tilbage til nyheder
Den skjulte prisspiral: Når historik gør kunstig intelligens dyrere

Den skjulte prisspiral: Når historik gør kunstig intelligens dyrere

Kunstig intelligensØkonomiImplementering

En ny analyse fra exe.dev peger på en omkostningsfælde, som mange overser, når de bygger digitale assistenter med kunstig intelligens: Driftsregningen kan vokse meget hurtigere end forventet, når systemet hele tiden sender mere historik og flere dokumenter med i hver forespørgsel.

Kort fortalt

  • Jo mere “kontekst” (historik og dokumenter) du sender med, desto dyrere bliver hver ny forespørgsel.
  • I automatiske systemer, der løser opgaver i mange delskridt, bliver den samme historik ofte “læst igen” igen og igen.
  • I et eksempel fra analysen udgjorde genlæsning af historik 87 % af den samlede udgift mod slutningen af et langt forløb.

Hvorfor det bliver dyrt

“Kontekst” er den historik og de dokumenter, systemet sender med, så den kunstige intelligens kan forstå sagen og svare rigtigt. Problemet opstår, når et automatisk system arbejder trin-for-trin: For hvert trin bliver historikken længere, og systemet betaler i praksis for at få læst en stadig større mængde tekst igen.

Tænk på det som at fotokopiere en sagsmappe: Første gang er mappen tynd. Efterhånden som du lægger flere sider i, bliver det dyrere at kopiere hele mappen — især hvis du kopierer den for hvert eneste lille spørgsmål.

En forenklet illustration af effekten (ikke priser, kun “hvor meget historik der genlæses”):

Antal delskridtHistorik, der genlæses samlet (illustration)
515
1055
20210

Hvad betyder det for danske virksomheder?

For danske virksomheder og offentlige enheder kan det give ubehagelige overraskelser: Et pilotprojekt med korte opgaver ser ofte billigt ud, men når løsningen kommer i drift med lange kundesager, regnskabsmateriale, udbudstekster eller sagsforløb, kan forbruget løbe fra budgettet.

Budskabet er ledelsesmæssigt: Designvalg (hvor meget der sendes med, og hvor mange delskridt systemet tager) er ikke “tekniske detaljer” — de er økonomistyring.

Det kan du gøre nu

  • Bed om en pris- og forbrugsmodel for korte vs. lange forløb (ikke kun “pris pr. forespørgsel”).
  • Indfør en fast regel om, at lange forløb opsummeres undervejs, så historikken ikke bare vokser.
  • Sørg for, at systemet kun henter de relevante afsnit fra dokumenter i stedet for at sende hele dokumenter hver gang.
  • Sæt et loft for, hvor mange delskridt løsningen må tage, før den stopper og beder om menneskelig kvalitetssikring.
  • Følg forbruget ugentligt de første måneder efter go-live og justér, før vanerne sætter sig.

Kilder

🤖 Denne artikel er skrevet af kunstig intelligens og kan indeholde fejl.

Læs original kilde →

Fandt du en fejl?