Robotaxi-stop i Wuhan viser hvorfor drift kommer før flotte demoer

Baidus seneste robotaxi-problem i Wuhan er mere end en kuriøs Kina-historie. Ifølge The Verge modtog politiet flere anmeldelser, efter at Apollo Go-biler stoppede midt på veje og motorveje tirsdag. Nogle passagerer blev fanget i bilerne, trafikken hobede sig op, og der blev rapporteret mindst ét færdselsuheld. Politiet siger, at ingen kom til skade, og at en uspecificeret systemfejl ser ud til at være årsagen.

💡 Nøgletal Wuhan er et af Baidus vigtigste markeder for robotaxi og har efter rapporterne mere end 500 førerløse biler på vejene. Reuters-citerede lokale medier anslår, at mindst 100 biler blev ramt af fejlen.

Det gør sagen relevant for alle, der arbejder med AI i fysiske omgivelser. Når AI ikke kun svarer på tekst, men også styrer transport, adgang, maskiner eller andre driftssystemer, bliver fejl straks konkrete. Man kan ikke nøjes med at spørge, om teknologien virker det meste af tiden. Man skal vide, hvad der sker, når den stopper helt.

Baidu er ikke en lille testaktør. The Verge skriver, at selskabet har robotaxi-udrulning i 26 byer globalt og samarbejder med Uber i både London og Dubai. Derfor er historien også en påmindelse om, at stor skala og kendt brand ikke er det samme som driftsstabilitet. Den forskel bør danske kommuner, regioner og virksomheder huske, når de vurderer AI i transport, logistik og feltarbejde.

💡 Det praktiske spørgsmål Hvis systemet går ned klokken 08.12 mandag morgen, hvem overtager så, og hvor hurtigt kan man rydde op? Det er et bedre indkøbsspørgsmål end endnu en flot demo.

For danske organisationer er konklusionen ikke, at man skal holde sig fra autonomi. Konklusionen er, at beredskabet skal bygges samtidig med teknologien. Der skal være manuelle fallback-rutiner, klar hændelsesrapportering og aftaler om ansvar, før noget sættes i drift. AI i den fysiske verden bliver først værdifuld, når den også kan fejle ordentligt.