Derfor vælger flere virksomheder kontrolleret kunstig intelligens frem for fuld autonomi

Der er meget snak om agenter, der handler på egen hånd. Men i praksis vælger mange virksomheder en anden vej: kunstig intelligens, der hjælper med beslutninger, uden at træffe dem alene.

Det gælder især i brancher, hvor fejl har økonomiske eller juridiske konsekvenser. Ifølge McKinsey bruger et flertal af organisationer allerede kunstig intelligens mindst ét sted i forretningen. Men der er stadig et stort gab mellem de første forsøg og reel skalering på tværs af virksomheden.

Kildehenvisning som kvalitetskontrol

Et konkret eksempel er S&P Global, der har bygget funktioner med kunstig intelligens ind i deres analyseplatform Capital IQ Pro. Her kan brugere stille spørgsmål via chat, men svarene er forankret i verificerede kilder som regnskaber, earnings calls og rapporter – både struktureret og ustruktureret data. Det betyder, at hvert svar kan spores tilbage til det dokument, det bygger på.

Den tilgang er værd at lægge mærke til. Når svar fra kunstig intelligens kan verificeres mod kilden, bliver det langt lettere at fange fejl, før de får konsekvenser.

Governance handler om mere end regler

S&P beskriver deres tilgang til styring af kunstig intelligens som en kombination af design, deployment og løbende overvågning med fokus på fairness, transparens og ansvarlighed. Det er ikke kun et sæt regler, men en løbende proces, der også adresserer risici som datakvalitet og modelbias.

For danske virksomheder og offentlige organisationer er pointen den samme: tillid til kunstig intelligens afhænger af forklarlige svar, synlige kilder og tydelige grænser for, hvad systemet må gøre.

Tre ting at tage med

• Kildehenvisning er ikke luksus, det er infrastruktur. Hvis jeres værktøj med kunstig intelligens ikke kan vise, hvor svaret kommer fra, er det svært at bruge i beslutninger med konsekvens.
• Indfør godkendelsesflow, før I skalerer. Hvem godkender, når kunstig intelligens foreslår en handling? Det spørgsmål bør besvares, inden værktøjet rulles bredt ud.
• Ansvar kræver grænser. Definér tydeligt, hvad kunstig intelligens må gøre på egen hånd, og hvad der kræver et menneske. Det er ikke et tegn på mistillid – det er grundlaget for tillid.