AI-indkøb i staten kræver klare røde linjer på papir

Sagen mellem Anthropic og Pentagon er amerikansk, men den peger direkte ind i et problem, som også danske myndigheder og offentlige leverandører kender: et AI-indkøb går skævt, når krav, røde linjer og beslutningsgrundlag ikke er tydelige hele vejen fra forhandling til endelig godkendelse. TechCrunch beskriver, at Anthropic har indleveret to erklæringer under ed til en føderal domstol i Californien som svar på Pentagons påstand om, at virksomheden udgør en uacceptabel national sikkerhedsrisiko.

💡 Fakta fra sagen Dagen efter at Pentagon formelt fastsatte en supply-chain risk-vurdering, skrev en højtstående embedsmand ifølge sagen, at parterne var very close på de to stridspunkter. De to emner var autonome våben og masseovervågning af amerikanere. Regeringen afviste senere Anthropics forklaring i et svar på 40 sider.

Det er en vigtig detalje. Hvis parterne var tæt på hinanden den 4. marts, men endte i en hård konflikt kort efter, tyder det på, at beslutningsspor, godkendelseslag og kravstyring ikke har været stærke nok. TechCrunch gengiver også, at Anthropic sidste sommer fik en Pentagon-kontrakt på 200 millioner dollar. En af virksomhedens erklæringer peger desuden på, at folk med amerikansk sikkerhedsgodkendelse faktisk har bygget de modeller, som skulle køre i klassificerede miljøer. Virksomheden hævder samtidig, at denne risikomærkning er den første, der er givet til en amerikansk virksomhed af den type.

For danske myndigheder er læringen enkel. AI-leverandører skal ikke kun vurderes på modelkvalitet og pris. De skal vurderes på dokumenterede begrænsninger, brugspolitik, trænings- og driftsmiljø, ejerforhold, bemanding, adgangsstyring og eskalationsveje. Hvis en myndighed vil bruge en model i sager med følsomme data, skal det stå klart, hvilke anvendelser der er tilladt, og hvilke der stopper samarbejdet. Det gælder især overvågning, automatiske beslutninger og militære eller politi-lignende formål.

🛠️ Gør det nu Skriv røde linjer og forbud ind i kontrakten, ikke kun i mødenoter. Kræv et fælles beslutningslog med datoer, ansvarlige og ændringer. Lav en exit-plan før første pilot, så et stop ikke lammer driften.

Den offentlige sektor har brug for leverandører, der kan levere hurtigt. Den har mindst lige så meget brug for, at uenigheder kan spores, testes og håndteres, før de bliver til retssager.