Når AI møder virkeligheden: Systematics forsvars-AI støtter militære beslutningstagere i kritiske situationer
AI kan være lidt af en distanceblænder. Derfor skal de løsninger, Systematics AI-team udvikler, fungere på ikkeideelle, ’beskidte’ data, før de går videre fra prototype til færdig funktionalitet.
AI ser ofte flot ud ’på afstand’. Men virkeligheden kan komme på tværs, og det er et problem. Ikke mindst når det gælder teknologi til Forsvaret, hvor der kan være menneskeliv på spil.
"Det er ikke nok, at det fungerer i laboratoriet," siger AI-arkitekt Søren Løfquist Stiil. Han er ph.d. i matematisk datalogi fra Aarhus Universitet og del af Systematics AI-gruppe på omkring 12 personer, der arbejder på Systematics kommando-/kontrolsystem SitaWare, og især systemets data- og analyseværktøj SitaWare Insight.
Insight er en slags militær version af en kommerciel søgemaskine, specialudviklet til at skabe overblik over de mange datakilder, som militære beslutningstagere har til rådighed. AI-gruppen består af dataloger plus eksperter i test og validering og MLOps (rammeværk for kvalitetsstyring af AI-systemer, red.).
Genkendelse af kampvogne
AI og billedgenkendelse er nogle af de områder, Søren Løfquist Stiil fremhæver, når han skal nævne udfordringer i arbejdet med udvikling af forsvarssoftware. Selv om AI-baseret billedgenkendelse performer godt på åbne datasæt hentet på internettet, klarer teknologien sig knap så fint, når den udsættes for militære data, f.eks. fotos af kampvogne taget ude i felten.
"Der er for mange nuancer i billedmaterialet. Selv hvis du havde et komplet foto-kartotek over alle kampvogne i verden og havde trænet den perfekte AI-model til at genkende dem, så kan kampvogne ude i felten se helt anderledes ud. Mandskabet spænder alt muligt udstyr fast på dem lige fra skovle til nogle særlige net, der skal beskytte mod droner og antikampvognsmissiler," forklarer han.
Jo mere virkelighedsnære og ’beskidte’ data er, jo større er, ifølge Søren Løfquist Stiil, risikoen for, at AI’en tager fejl, hvis den kun er testet og trænet på ’ideelle’ data, som ikke er repræsentative for det miljø. AI’en skal køre i. Som modsvar mod AI’ens indbyggede svagheder fokuserer Systematics AI-team derfor på test og kvalitetsstyring, på at kunne gentræne modeller over tid på virkelighedsnære data og på at optimere samspillet mellem AI-algoritmerne og den øvrige software, de indgår i.
Mistænkelig skibstrafik
AI-teamet har allerede integreret en række nye AI-drevne funktionaliteter i SitaWare Insight. Det er bl.a. detektering af uregelmæssigheder i skibstrafik, automatisk genkendelse af tekst på billeder, som er specialudviklet til en militær kontekst, og søgning i dokumenter på tværs af sprog.
“Men faktisk er selve AI’en kun en forsvindende lille del af det at få AI-baserede services op at køre i produktionssystemer som SitaWare. Det handler meget mere om de rammer, man sætter op omkring AI’en, og om at skabe et optimalt samspil med den øvrige software, den indgår i," forklarer Søren Løfquist Stiil.
Talk to your data
I øjeblikket arbejder Systematic også med at udvikle talk to your data-løsninger, der gør det muligt for operatører at interagere med systemerne via et chatinterface. Desuden kigger man på retrieval-augmented generation, der gør det muligt for sprogmodeller at reagere på data, de ikke er trænet på.
“Vi har især fokus på beslutningsstøtte og optimering af workflows. Det handler om at støtte soldaterne i at træffe de rigtige beslutninger på baggrund af de data, systemerne bearbejder. Det skal altid være et menneske og ikke AI’en, der tager den endelige beslutning.”
