Meta vil lade AI tage mere af moderationen, men beholder mennesker ved de svære sager

Meta er begyndt at rulle mere avancerede AI-systemer ud til indholdsmoderation på tværs af sine apps. Ifølge TechCrunch skal de nye systemer håndtere områder som terror, seksuel udnyttelse af børn, narkotika, svindel og scams, samtidig med at Meta vil skære ned på brugen af eksterne leverandører. Selskabet siger, at teknologien først bliver bredt taget i brug, når den slår de nuværende metoder stabilt.

🧪 De tal, der gør nyheden praktisk Meta siger, at de nye systemer i tidlige tests kan finde dobbelt så meget indhold om voksen seksuel solicitation som review-holdene og samtidig sænke fejlprocenten med over 60 procent. Meta siger også, at systemerne kan afværge omkring 5.000 scamforsøg om dagen.

Det gør historien relevant langt ud over sociale medier. Mange danske virksomheder og offentlige organisationer sidder med store mængder gentagne kontroller: supporthenvendelser, dokumentgennemgang, misbrugsrapporter, adgangssager og simple svindelmønstre. Her er pointen ikke, at alle skal bygge deres egen Meta-løsning. Pointen er, at AI begynder at være god nok til at tage den ensformige del af arbejdet, hvis man samtidig holder fast i menneskelig kontrol på de sager, hvor konsekvensen er høj.

TechCrunch fremhæver netop den arbejdsdeling. Meta skriver, at eksperter fortsat skal designe, træne, overvåge og evaluere systemerne. De svære beslutninger, som klager over lukkede konti eller sager til politiet, bliver hos mennesker. Det er en god tommelfingerregel for enhver organisation, der vil bruge AI til kontrolarbejde. Lad maskinen sortere og prioritere. Lad mennesker afgøre det, der kan koste rettigheder, omdømme eller tillid.

Der er samtidig en advarsel i nyheden. Meta ruller systemerne ud, mens selskabet også har lempet andre moderationsregler og står midt i sager om skade på børn og unge. Det betyder, at gode måltal på ét område ikke automatisk gør helheden tryg. For danske organisationer er det vigtigt, fordi automatisering hurtigt kan se flot ud i et dashboard, mens fejlene først dukker op hos borgeren eller kunden.

TechCrunch skriver også, at Meta lancerer en 24/7 Meta AI-supportassistent globalt på Facebook og Instagram, også i desktop-helpcentret. Det viser, at automatiseringen ikke stopper ved moderation. Den breder sig til support og sagsflow.

🤝 Det kan I gøre nu Del opgaverne i to bunker. Én til gentagne sager med lav risiko, én til sager med høj konsekvens. Mål derefter både tempo og fejl, før I beslutter, hvor meget AI reelt skal overtage.

Det er den mest brugbare læsning af Meta-nyheden. AI er ved at blive god til at rydde op i store mængder støj. Men ansvaret for de svære afgørelser forsvinder ikke. Det bliver faktisk mere synligt.