Pentagon vil lade AI lære af klassificerede data

USA's forsvarsministerium forbereder ifølge The Decoder og MIT Technology Review et nyt skridt i brugen af generativ AI: modeller skal ikke kun kunne læse klassificeret materiale i lukkede miljøer, men trænes på det. Det er en vigtig skillelinje. Når en model lærer af dataene, bliver viden om domænet bygget ind i selve systemets adfærd og ikke kun hentet frem ved opslag.

💡 Det nye i planen Træningen skal ske i akkrediterede datacentre, hvor modellen møder de klassificerede data, mens Pentagon bevarer ejerskabet og kun giver adgang til personale med sikkerhedsgodkendelse.

For danske myndigheder, forsvarsleverandører og andre organisationer med følsomme data er nyheden værd at tage alvorligt. Den viser, at næste fase af AI ikke bare handler om chat over dokumenter. Den handler om, hvordan man tilpasser modeller inde i lukkede miljøer uden at miste kontrol med data, adgang og ansvar. Pentagon vil efter planen starte med uklassificerede datasæt for at måle effekten, før man går videre til det mest følsomme materiale. Det er en sund rækkefølge.

💡 Hvorfor det også er relevant herhjemme Hvis modeller skal bruges i lukkede zoner, bliver akkreditering, ejerskab, audit og separation mellem leverandør og dataejer centrale designvalg.

Det er let at se fristelsen. En model, der er trænet på et specialiseret datagrundlag, kan blive langt skarpere på interne begreber, arbejdsgange og vurderinger. Til gengæld stiger kravene hurtigt. Hvem må se vægtene? Hvordan dokumenteres datagrundlaget? Kan modellen afmonteres eller gentrænes, hvis kravene ændrer sig? Og hvordan sikrer man, at leverandøren ikke får indsigt, som organisationen ikke vil dele?

Nyheden er amerikansk, men problemet er universelt. Når danske offentlige organisationer taler om suveræn AI, sikre zoner eller brug af modeller på beskyttede data, er det de samme spørgsmål, der kommer først. Derfor er Pentagons rækkefølge værd at kopiere: test på åbne data, mål effekten, byg kontrolmiljøet, og flyt først derefter ind i de mest følsomme domæner. AI bliver ikke mindre nyttig af den disciplin. Den bliver mere brugbar.