Autonomi er et omdiskutert konsept i den offentlige debatten rundt moderne krigføring. Militærteknologi som baserer seg på kunstig intelligens (KI) blir i økende grad drøftet i akademia og i internasjonale medier. Jeg mener derfor at det er viktig med en presis definisjon av autonomi i krigføring. Dette kan vi oppnå ved at de forskjellige grenene i Forsvaret kommer sammen, med innspill fra den sivile sektoren. Dette vil være med på å sikre at vi diskuterer det samme temaet og ikke bare beslektede problematikker. Dette kan være et springbrett på veien videre til policy-making innenfor autonome militære våpen og system.
Bakgrunn
I akademia skriver forskere og fagfolk om noe som ikke ennå eksisterer, nemlig systemer og våpen som opererer helt autonomt ved bruk av kunstig intelligens. Som om det ikke er problematisk nok i seg selv å spekulere om teknologiske system som ennå ikke har blitt utviklet, har vi også til felles at det er vanskelig å sortere i den informasjonen som allerede er tilgjengelig. Grunnen til dette er at det er sterk mangel på konsensus rundt én definisjon, som videre preger tilgangen til informasjon og skaper forvirring i forskingsfeltet. I tillegg blir begrepet autonome systemer benyttet til å beskrive systemer som kun har et element eller en funksjon som er autonomt. Dette kommer jeg tilbake til i neste seksjon.
Det blir vanskelig å få igjennom en tydelig argumentasjon når det som diskuteres ikke er avklart. Det er derfor helt nødvendig for forskere, akademikere og andre fagfolk som vil diskutere denne nye teknologiske trenden å kunne begrense diskusjonen ved å forholde seg til én konkret definisjon.
Definisjonsproblematikk er gjengående i mange forskningsfelt. Det kan være fruktbart å skape sin egen definisjon og spesifisere dette i introduksjonen av en artikkel for å skape et unikt argument. Jeg mener derimot at det er gunstig for Forsvaret å kunne forholde seg til en felles betegnelse når det kommer til autonomi. På denne måten vil man kunne redegjøre, innad i egen forsking eller argumentasjon, for hvilken type/grad av autonomi det er snakk om. Dette vil være med på å skape en mer nyansert diskusjon rundt autonomi i en militær sammenheng. På denne måten vil Forsvaret og forskere kunne ha utgangspunkt i samme forståelse, samtidig som at man har friheten til å danne sitt eget konsept i en spesifikk kontekst.
Tidligere forsøk på definisjoner
I dag eksisterer det ingen offisiell informasjon om hvorvidt et helautonomt system, eller våpen, har blitt utviklet. Det finnes derimot forskjellige funksjoner og kapabiliteter som er autonome, slik som for eksempel innenfor mobilitet: takeoff and landing og navigasjonsfunksjoner – se F-35. En annen autonom funksjon kan være sensorer og/eller datainnhenting – se Hugin. Iron Dome er et annet godt eksempel på et militært system med autonome funksjoner. Dette israelske luftvernsystemet kan søke, oppdage, spore, engasjere og skyte inntreffende missiler. I Norge omtales ofte Joint Strike Missil (JSM) som et autonomt system i media og akademiske tekster. JSM vil være programmert av en menneskelig operatør, til å oppdage et mål innenfor et definert målområde, men vil selv kunne ‘velge’ å ikke gjennomføre angrepet om ikke kriteriene for angrepet stemmer[1].
Det jeg ønsker å avgrense er derimot problemstillingen som oppstår når maskinen ved bruk av KI blir beslutningstageren og kan selv bestemme målet. Dette er en udefinert form for autonomi som diskuteres, men som ikke er avgrenset. Det er først og fremst ofte uklart hvilken type autonomi det er snakk om i forskjellige kontekster. Det finnes flere forslag til definisjoner blant fagfolk. Paul Scharre, en sentral profil innenfor debatten om autonome systemer, har gjort et forsøk på å dele konseptet inn i tre kategorier:
- Det symbiotiske forholdet mellom mennesket-maskin kommando-kontroll
- Graden på hvor avansert maskinens beslutnings-prosess er
- Hvilke beslutninger og funksjoner som blir gjort autonome
Innenfor Scharre’s andre kategori har akademikere, og blant annet Elon Musk, forholdt seg til Society of Automotive Engineers (SAE) skalaen som består av fem nivåer av autonomi innenfor sivile kjøretøy. Det første nivået på denne skalaen består av et menneske som styrer og opererer kjøretøyet, men at det finnes funksjoner som kan assistere med kjøringen; det siste nivået regnes som helautonomt – altså hvor kjøretøyet kjører uten sjåfør og opererer etter egne evner. Denne skalaen kan være gunstig for å avgrense og filtrere ut ubemannede og semi-autonome system – også i militær kontekst.
The International Committee of the Red Cross (ICRC) har definert autonome våpensystemer som:
‘Weapons that can independently select and attack targets, i.e. with autonomy in the ‘critical functions’ of acquiring, tracking, selecting and attacking targets. Any weapon system with autonomy in its critical functions – that is, a weapon system that can select or search for, detect, identify, track or select and attack or use force against, neutralize, damage or destroy, targets without human intervention’.
USA er den eneste nasjonen som offisielt har inkludert en definisjon av autonomi og fremgangsmåten sammen med tidsfrister på utviklingen av disse systemene. USA definerer autonome våpen systemer i ‘The Unmanned Systems Integrated Roadmap FY2012-2038’ som:
‘weapon system(s) that, once activated, can select and engage targets without further intervention by a human operator’.
I Norge, har FFI beskrevet autonomi basert på den generelle betydningen: ‘Autonomi betyr uavhengig. Autonome systemer er maskiner som opererer på egenhånd. De dukker opp overalt i samfunnet, i industrien, i varhendelen, i trafikken og på internett’. NATO har derimot ennå ikke adoptert en definisjon, men har hevdet at de ikke kommer til å utvikle autonomi til høyere grad en nivå 2 på SAE skalaen.
En felles betegnelse for disse definisjonene, er at avgjørelser blir tatt av en maskin og ikke et menneske – altså avgjørelser uten menneskelig inngrep. JSM som blir programmert og verifisert av mennesker er derfor, ut ifra disse definisjonene, ikke et autonomt våpensystem, men kan til dels beskrives som et system med autonome funksjoner – dette er en viktig distinksjon.
Hvis man velger å basere en definisjon av autonomi på graden er kunstig intelligens – blir det også viktig å huske på at KI er et konsept som heller ikke er definert – dette blir derfor muligens første punkt i prosessen. Media og noen NGOs omtaler disse våpensystemene som ‘killer robots’ og spår fremtidens krigføring som svært dystopisk og helt uten ‘the human in the loop’. Kunstig intelligens som ikke er definert i seg selv, kan allikevel bli delt opp i to kategorier. Den ene er ‘weak AI’ og den andre er Artificial General Intelligens (AGI), eller ‘strong AI’. Den første kategorien er paraplybetegnelsen på KI, mens den siste er den fullstendige selvlærende versjonen, som potensielt vil kunne utvikle seg selv - uten at menneske vil kunne gripe inn. Den siste formen for KI eksisterer ikke i dag og er sterkt omdiskutert i forskingsfeltet fordi mye tyder på at fundamentale teknologiske utfordringer vil hindre AGI i å noen gang bli produsert.
Oppfordring
Forskere og praktikere innenfor dette fagfeltet burde komme sammen og finne ut av en mulig definisjon som kan fungere for Forsvaret som helhet. I tillegg er utviklingen av KI og autonomi i fartøy primært ledet av det sivile samfunn og det lønner seg derfor å skape et samarbeid mellom sivil og militær sektor for å kunne skape en definisjon og en riktig terminologi.
Å skape én felles og presis definisjon vil være et viktig første skritt på veien til politikk og regulering rundt autonome (våpen) system i Norge. Teknologien har en tendens til å utvikle seg fortere en lovverket og derfor blir det desto viktigere i en militær kontekst å handle raskt for å holde seg innenfor etiske prinsipper og juridiske rammeverk.
Jeg mener at ved å filtrere bort AGI, ubemannede og semi-autonome systemer, vil vi kunne avgrense debattene, som igjen vil føre til enklere tilgang på informasjon og vil forbedre diskusjonene rundt autonomi i det militære domenet. Som Andrew William påpeker, må man velge om man terminologien skal beskrive et ‘autonomt system’ eller et ‘system med autonome funksjoner’. Det gjelder i tillegg å skille mellom autonomt og automatisert og avgrense hvilket nivå av autonomi som blir diskutert.
Forslag til definisjoner
Avslutningsvis legger jeg ved to forslag på ulike definisjoner og oppfordrer med dette til debatt.
- Et system med autonome militære funksjoner som anvender kunstig intelligens for å kunne ta en selvstendig vurdering av en trussel og eventuelt utføre et angrep - uten menneskelig påvirkning.
Eller
- Et autonomt våpensystem hvor noen bestemte ledd i beslutningsprosessen utøves av et system eller en funksjon som styres av kunstig intelligens.
Foto: NSM skyting fra Skjold-klasse korvett (Forsvaret)
Referanser
- Boulanin, Vincent og Verbruggen, Maaike (2017). Mapping the development of autonomy in weapon systems. Stockholm International Peace Research Institute (SPIRI).
- Department of Defence (2014). The Unmanned Systems Integrated Roadmap FY2012-2038. Tilgjengelig via: https://apps.dtic.mil/dtic/tr/fulltext/u2/a592015.pdf
- Fongen, Sigurd (2014). Derfor er ikke JSM et ‘autonomt våpen’. Forsvarsdepartementet – Kampflybloggen. Tilgjengelig via: Derfor er ikke JSM et “autonomt våpen” – Kampflybloggen (regjeringen.no)
- Forsvarets Forskningsinstitutt. Autonomi: Hvordan forsker FFI på autonomi?
- ICRC (2014). Autonomous weapon systems, technical, military, legal and humanitarian aspects.https://www.icrc.org/en/document/report-icrc-meeting-autonomous-weapon-systems-26-28-march-2014
- Lang, Johannes, Schott, Robin May og Van Munster. Rens (2018). Failure to define killer robots means failure to regulate them. Danish Institute for International Studies.
- Scharre, Paul (2014) Autonomy, ‘Killer Robots’, and Human Control in the Use of Force – Part 1. Just Security. Tilgjengelig via: Autonomy, “Killer Robots,” and Human Control in the Use of Force – Part I - Just Security
- Scharre, Paul, Horowitz, M. (2015) An Introduction to Autonomy in Weapon Systems. Centre for a New American Security. Tilgjengelig via: An Introduction to Autonomy in Weapon Systems (ethz.ch)
- Society of Automotive Engineers (2018). SAE International Releases Updated Visual Chart for Its ‘Level of Driving Automation’ Standard for Self-Driving Vehicles. Tilgjengelig via: SAE International Releases Updated Visual Chart for Its “Levels of Driving Automation” Standard for Self-Driving Vehicles
- Stop Killer Robots. Less autonomy. More humanity. Tilgjengelig via: Stop Killer Robots
· Williams, Andrew P. og Scharre, Paul (2020). Autonomous Systems - Issues for Defence Policymakers. Side: 27-59. Tilgjengelig via: (PDF) Autonomous Systems: Issues for Defence Policymakers (researchgate.net)
- Young People in Foreign Policy Brussels (2021). NATO: Autonomous weapon systems (Online Video). Tilgjengelig via: NATO: Autonomous weapons systems - YouTube
[1] Derfor er ikke JSM et “autonomt våpen” – Kampflybloggen (regjeringen.no)
