Moderne militære operasjoner har blitt mer og mer data-sentriske, og krever i høyere grad enn før evnen til å integrere store mengder data til et koherent operasjonsbilde. Klarer man dette er fordelen enorm: Man får økt situasjonsforståelse, økt operasjonstempo, og økt koordinering og synkronisering.
For å behandle slike store datamengder må Forsvaret bruke godt egnet programvare, og vurderer nå anskaffelsen av "Maven Smart System" fra det amerikanske teknologiselskapet Palantir. Programvaren bruker kunstig intelligens til å samle og analysere enorme mengder ulik data for å gi en helhetlig oversikt over slagmarken og mulige mål. Den sammen programvaren er allerede i bruk i NATO, og har de siste årene blitt brukt av DNV, Tolletaten og Politiet (selv om sistnevnte faser ut bruken neste år.)
Palantir er et ganske kontroversielt selskap. Nok har blitt sagt andre steder om de etiske og politiske sidene ved selskapet, samt eierne Peter Thiel og Alex Karp. Jeg ønsker her heller å fokusere på lærdommer man kan ta fra det fiktive universet og den fiktive teknologien som selskapet tar sitt navn fra, nemlig Palantírene fra J. R. R. Tolkiens litterære univers.
Jeg prøver ikke å si at fiktive univers skal legge føringer for Forsvarets anskaffelser. Men, skjønnlitteratur kan brukes som et effektivt tankeeksperiment, og fiktiv refleksjon rundt bruk og utnyttelse av teknologi og informasjon kan lære oss noe om dagens militære utfordringer.
Palantírene
J. R. R. Tolkien var veteran fra den første verdenskrigen, og utviklet i de etterfølgende årene et litterært univers med mye inspirasjon fra sine opplevelser under krigen. Tolkien var sambandsoffiser, noe som i skyttergravene under slaget ved Somme var svært utfordrende – spesielt i hans virke før telegrafen Fullerphone ble standard. Kanskje ledet Tolkiens kunnskap og kompliserte forhold til kommunikasjonsteknologi nettopp til Palantírene.
I Tolkiens litterære univers er Palantírene magiske kuler laget av alvene, og kan brukes til å kommunisere på tvers av store avstander. De er telepatiske, i den forstand at kulene lar to personer eller vesener kommunisere direkte med tankene til hverandre. Noen av de kunne også brukes til å se inn i fortiden.
Peter Thiel oppkalte selskapet Palantir etter Tolkiens teknologi av to hovedgrunner: Han er en stor fan av bøkene, og den fiktive Tolkien-teknologien er representativ for det han ønsker med selskapet, nemlig å kunne se lengre og observere bredere.
Teknologiavhengighet
Den første lærdommen er at en av disse Palantírene var en slags "master-stone". De fleste steinene kunne bare kommunisere med én annen stein om gangen. Men, det var en stein som hadde tilgang til alle de andre samtidig, og kunne observere det som skjedde ved alle de andre.
Poenget og lærdommen man kan trekke fra dette er tofoldig. For det første er det ikke sikkert at man alltid har fullstendig kontroll på dataen, bruken og flyten av informasjon selv om det kanskje tilsynelatende ser slik ut.
For det andre er det en stor makt å sitte på kontrollen over, og bestemmelsene rundt et informasjonssystem som man er avhengig av. Dette er mye diskutert gjennom fokuset på amerikansk teknologiavhengighet, og bruk av Palantirs system faller midt i denne problemstillingen. Ekstra utfordrende blir det når selskapet selv har et syn på demokrati, teknologi og samfunnsutvikling som ikke samfaller med vårt eget.
Beslutningsfeilslutninger
Den andre og mer subtile lærdommen er at teknologi kan danne situasjoner der man får bekreftet sine egne bias istedenfor å skape en objektiv virkelighetsforståelse. Når en av karakterene, Pippin, ved et uhell benytter en av palantírene til å kommunisere med den mørke fyrsten Sauron tror Sauron at Pippin er ringbæreren.
Dette er en feilantagelse Sauron selv gjør i sitt egoistiske konsumerende søk etter ringen, og som til slutt gjør at Sauron sender ut styrkene sine for å skaffe ringen og den ekte ringbæreren, Frodo, kan vandre nesten uhindret til vulkanen for å ødelegge ringen. Saurons feil var altså ikke hvilken informasjon han hadde, men at denne informasjonen ble tolket gjennom et verdensbilde som ødela verdien.
Mer data er altså ikke alltid bedre, det kan også forsterke dine egne svakheter. Dette kan påvirke Forsvaret på mange måter, for eksempel gjennom å skape falske tryggheter eller en falsk tro på kognitiv overlegenhet ovenfor motstanderen. Som skrevet av blant annet forfatter Anaïs Nin: "Vi ser ikke ting som de er, vi ser dem som vi er."
Kontrollbehov
Den siste lærdommen jeg ønsker å trekke frem representeres av trollmannen Sarumann. Sarumann brukte en av palantírene til å søke mer og mer kunnskap, og til å prøve å kommunisere med den mørke fyrsten Sauron. Han ble over tid sikrere og sikrere på at han kunne være smartere enn Sauron, og ta kontrollen og makten selv. Han var besatt av kontroll og makt, og trodde han kunne utnytte palantíren og annen teknologi til å få mer makt og mer kontroll uten selv å bli formet og endret av den.
Tolkien var kritisk til ideen om at teknologi alltid styrker brukerens formål med å bruke den. Han brukte historiene sine mye til å vise hvordan teknologi i seg selv ofte ikke er "ond", og fokuserte heller på at søken etter mer og mer informasjon, mer og mer oversikt, mer og mer kontroll over verden rundt oss gjennom teknologi, ikke alltid gjør at vi tar bedre beslutninger eller gjør oss klokere.
Gjennom å bruke en slik muliggjørende teknologi blir vi også mer og mer avhengige av den og hvilket situasjonsbilde den kan gi oss. Teknologien bruker oss like mye som vi bruker den.
Avslutning
Disse tre utfordringene er selvsagt ikke et problem kun ved bruk av Palantirs "Maven Smart System". Det er et problem i alle lignende teknologier som lover bedre situasjonsforståelse ved hjelp av større prosesseringsevner, slik som det nylig testede franske Arcadia.1
Forsvaret trenger ikke nødvendigvis å vurdere om bruk av Palantirs eller andres KI-systemer vil gi bedre og mer informasjon. Det er relativt åpenbart at det gjør dette. Fra Tolkien kan vi lære at vi også må vurdere hvordan Forsvarets beslutningsstruktur og beslutningskultur vil endre seg over tid ved å benytte slike systemer.
Palantírene lærer oss at mer informasjon ofte kun er mer informasjon, ikke mer visdom. Bare fordi man kan se langt, betyr ikke det at man forstår det man ser.
FOTNOTER
1 Ettersom denne artikkelen handler om å spekulere i navngiving kan det nevnes at dette navnet kanskje stammer fra den greske regionen Arkadia, som i den greske mytologien var hjemmet til naturguden Pan. Gjennom renessansen ble regionen et utopisk symbol på et harmonisk, selvforsynt og selvstendig samfunn. En alternativ bakgrunn kan være det latinske uttrykket «et in Arcadia ego» («også i Arkadia er jeg»), som brukes for å huske dødens nærvær selv i et ideelt samfunn – et såkalt «memento mori». Dersom dette er referansene, vil det signalisere en klar kontrast til Palantir. Det franske systemet Arcadia handler da mer om fellesskap, orden og autonomi, med en underliggende påminnelse om de dødelige kostnadene slike systemer kan bringe med seg.
Foto: Salvador Rios
