Når kunstig intelligens møder kunden, skal det være tydeligt

En chatbot på en hjemmeside kan efterhånden mere end at finde åbningstider. Den kan slå en ordre op, samle oplysninger fra flere systemer og hjælpe med at få kundens problem løst. For kunden kan den ligne den samme lille firkant nede i hjørnet, som har ligget der i årevis.

Fra 2. august 2026 finder gennemsigtighedsreglerne i artikel 50 i AI-forordningen anvendelse. Den korte version er, at mennesker skal kunne se, når de taler direkte med kunstig intelligens, eller når de bliver præsenteret for bestemte typer indhold, der er lavet eller ændret med kunstig intelligens.

Det lyder hurtigt som endnu en stor mappe med regler. EU-Kommissionens nye vejledning gør heldigvis skellet mere konkret. For en almindelig virksomhed begynder arbejdet med at finde ud af, hvilken rolle man faktisk har.

Hvem har bygget løsningen

Reglerne skelner mellem en udbyder og en idriftsætter.

Udbyderen er den virksomhed eller organisation, der udvikler et system med kunstig intelligens, eller får det udviklet, og sætter det på markedet under sit eget navn eller mærke. Idriftsætteren er den, der bruger systemet i sit arbejde.

Hvis en virksomhed køber en færdig chatløsning hos en leverandør og bruger den på sin hjemmeside, vil virksomheden typisk være idriftsætter. Hvis den får bygget sin egen løsning og sætter sit eget navn på, kan den ende med at være udbyder. Den konkrete vurdering afhænger af opsætningen og aftalen med leverandøren.

Det er udbyderen, der efter artikel 50, stk. 1, skal sørge for, at systemer, som taler direkte med mennesker, er designet sådan, at folk får at vide, at de taler med kunstig intelligens. Oplysningen skal komme tydeligt fra begyndelsen, medmindre det allerede er indlysende i situationen.

Det betyder ikke, at en virksomhed bare kan lukke øjnene, hvis chatten kommer fra en anden. Den ejer stadig mødet med kunden. Et ganske praktisk tjek er derfor at åbne chatten som kunde og se, hvad der faktisk står ved den første besked. Derefter kan virksomheden spørge leverandøren, hvem der har ansvaret for oplysningen, og hvordan det er dokumenteret.

Den interne medarbejder er en anden situation

En digital medarbejder, der arbejder i baggrunden, er noget andet end en kundevendt chat. Den kan finde en ordre, gennemgå kundens besked og samle et svar til medarbejderen, uden selv at tale med kunden. EU-Kommissionens vejledning siger direkte, at systemer, som kun arbejder i baggrunden eller kommunikerer fra maskine til maskine, falder uden for netop oplysningspligten om direkte samtaler.

Her kan agentarbejdet godt køre over flere trin. Den digitale medarbejder kan hente de relevante oplysninger, kontrollere dem mod virksomhedens regler og aflevere sagen til et menneske. Hvis der skal sendes et svar, gives en refundering eller ændres noget i kundens ordre, kan den stoppe og bede om godkendelse.

Den arbejdsgang er også nyttig af en anden grund. Man kan se, hvem der har gjort hvad, og hvor et menneske faktisk har taget ansvar.

Tekst skal vurderes efter, hvad den bruges til

Artikel 50 indeholder også en regel for virksomheder og organisationer, der offentliggør tekst lavet eller ændret med kunstig intelligens. Den regel gælder tekst, som udgives for at informere offentligheden om spørgsmål af offentlig interesse.

EU-Kommissionen nævner blandt andet offentlig administration, sundhed, sikkerhed, miljø og økonomiske eller videnskabelige udviklinger, der kan blive genstand for offentlig debat. Det er altså en bestemt type offentlig information. Reglen er ikke en generel besked om, at hvert tilbud, hver produktbeskrivelse og hver intern note skal have et mærkat efter artikel 50.

Der findes samtidig en vigtig undtagelse. Oplysningen om, at teksten er lavet eller ændret med kunstig intelligens, er ikke påkrævet efter denne bestemmelse, når indholdet har fået reel menneskelig gennemgang eller redaktionel kontrol, og en fysisk eller juridisk person har det redaktionelle ansvar for udgivelsen.

Reel gennemgang er mere end at rette kommaer. Kommissionens vejledning beskriver en faglig vurdering af selve indholdet. Den ansvarlige skal kunne faktatjekke, vurdere kilderne og beslutte, om teksten skal godkendes, ændres eller afvises.

Det passer egentlig meget godt til arbejdet med en digital medarbejder. Mennesket sætter målet og vurderer resultatet. Hvis noget er forkert eller uklart, får medarbejderen feedback og arbejder videre, til opgaven er løst. Den person, der godkender offentliggørelsen, skal stadig forstå stoffet og tage ansvaret.

To steder at begynde

Det første sted er den kundevendte flade. Åbn chatten, telefonsystemet eller den digitale figur, som en kunde møder. Kontrollér om det er tydeligt, at kunden taler med kunstig intelligens, og få afklaret skriftligt, om leverandøren eller virksomheden selv er udbyder af løsningen.

Det andet sted er publiceringen. Vælg de tekster, billeder, lydklip og videoer, der går ud af huset. Aftal hvem der gennemgår indholdet, hvad vedkommende skal kontrollere, og hvem der bærer det redaktionelle ansvar. Ved deepfakes og tekst om spørgsmål af offentlig interesse er det særlig vigtigt at læse den konkrete vejledning.

Der kan være andre regler, som også gælder for den samme løsning. Persondata, markedsføring og branchespecifikke krav forsvinder jo ikke, fordi artikel 50 er blevet aktuel. Er systemet vigtigt for ansættelser, kredit, sundhed eller andre følsomme beslutninger, skal det vurderes bredere.

For de fleste er det stadig et jordnært sted at begynde. Åbn chatten, som om du var kunde. Tag derefter den seneste tekst, som en digital medarbejder har hjulpet med, og find den person, der faktisk kan godkende indholdet. Så er ansvaret synligt, før der skal løses større ting.