Sikkerhetsfaglig råd - et motstandsdyktig Norge (web)

Det foregår en geopolitisk konkurranse om teknologisk herredømme., Nye teknologier kan i økende grad – og uten særlig forvarsel – tas i bruk av en rekke land. Teknologiutviklingen gir ofte banebrytende og verdiskapende muligheter. Her ligger samtidig kimen til nye sårbarheter og trusler. Utfordringene handler om infrastrukturen teknologien er helt avhengig av, dataene teknologien baserer seg på, og delvis også om selve anvendelsen av teknologien. 

Én og samme teknologi kan ha både sivil og militær anvendelse, såkalt «flerbruksteknologi». Det fører til at det ikke kun er vitenskapelige og kommersielle interesser som driver utviklingen, men også autoritære stater med geopolitiske ambisjoner. Disse kan bruke teknologien til å øke egen militær kapasitet. Spredning av avansert teknologi kan også bli lettere tilgjengelig for ikke-statlige trusselaktører.

Fremvoksende teknologi er en viktig driver for utviklingen av Forsvarets operative kapasiteter. Teknologiutvikling er helt nødvendig for at Forsvaret fortsatt skal være relevant i et moderne og høyteknologisk stridsmiljø. Kommersialiseringen betyr også at skillet mellom militær og sivil teknologi blir stadig mindre. Forsvarets avhengighet av teknologiene og kommersielle aktører introduserer nye verdier og verdikjeder utenfor den tradisjonelle forsvarsindustrien. 

Sikkerhetsutfordringer 

Innsamlet data for andre formål kan utnyttes og true nasjonal sikkerhet

Den økende graden av digitalisering og bruk av internettbaserte tjenester medfører at både kjente og ukjente aktører i vesentlig større grad enn tidligere sitter på store mengder innsamlet informasjon. Det er data om personer, virksomheter og infrastruktur, inklusive lokasjons- og posisjonsdata. Tilgang til og analyser av slike mengder informasjon etterspørres av kommersielle og kriminelle aktører samt fremmede staters etterretningstjenester. 

Trusselaktører bruker informasjonen som grunnlag for sammensatt virkemiddelbruk som cyber- og påvirkningsoperasjoner, innsidevirksomhet, økonomisk virkemiddelbruk og sporing av enkeltindivider.  

Digitalisering gir trusselaktører flere angrepsflater

Mer digitalisering og økt bruk av internett innebærer en betydelig økning i antall digitale enheter, systemer og andre angrepsflater. Disse kan trusselaktører utnytte for å få uautorisert tilgang til norske verdier. Fysiske prosesser i virksomheter og infrastruktur blir i økende grad sårbare mål for manipulasjon og sabotasje fra trusselaktører i cyberdomenet. De fysiske prosessene kan rammes direkte gjennom den operasjonelle teknologien (OT) eller indirekte via informasjonsteknologien (IT). Ofte er funksjonalitet og kommersialisering – ikke sikkerhet og standardisering – de fremste driverne for utviklingen av både tingenes internett (IoT) og de industrielle tingenes internett (IIoT).

Økende elektrifisering innebærer dessuten at utstyr, virksomheter og infrastruktur i enda større grad blir sårbare for både tilsiktede og utilsiktede elektromagnetiske forstyrrelser. Slike forstyrrelser kan føre til at elektronikk og elektronisk utstyr får dårligere ytelse, fungerer annerledes eller blir ødelagt. Det kan også føre til at datasignaler og datainnhold forstyrres, endres, manipuleres eller saboteres. 

Utvikling av kvanteteknologi påvirker sikkerhetsløsningene

Kvanteteknologien springer ut av kvantemekanikk og -fysikk, som handler om partiklenes minste bestanddeler. En kvantedatamaskin er en maskin som utfører logiske operasjoner basert på kvantemekaniske prosesser. Den benytter seg av kvantebits istedenfor bits slik at bestemte typer problemer, som faktorisering av store tall, kan løses mye raskere enn med vanlige datamaskiner.

Kvanteteknologi vil gi bedre og mer effektive tjenester og produkter innenfor de fleste samfunnsområder, også for sikkerhetstiltak. Teknologien vil samtidig bringe med seg nye verktøy, kapasiteter og metoder for trusselaktører som man ikke kjenner rekkevidden av.

Kvanteteknologien er forventet å kunne bryte gjennom nåværende krypteringsløsninger om få år – noen spår allerede rundt år 2030. Eksisterende kryptering, som nå beskytter blant annet banktransaksjoner og mobilkommunikasjon, vil være utdatert sikkerhetsteknologi mot kvantebaserte datamaskiner. 

Det innebærer også at kryptert informasjon innsamlet av fremmede etterretningstjenester opp gjennom årene står i fare for å bli kompromittert. Aktører som tidlig behersker kvanteteknologier, vil ha store kommersielle og militære fordeler. Norge er kun i startgropen på dette området.

Trusselaktører bruker bioteknologiutvikling til militære formål

Bioteknologiutviklingen kan gi høyere menneskelig ytelse i militær sammenheng, men kan også brukes destruktivt for å skade motstandere. Eksempler på destruktiv bruk er bruk av genmanipulasjon som påvirker fysiske funksjoner, som balanse og hukommelse, eller energipåførte cellemutasjoner. Trusselaktørers bruk av forskning på bioteknologi til militære formål er en sikkerhetsutfordring.

Bioteknologi kan misbrukes til å identifisere genetiske sårbarheter i en befolkning. Det er også mulig å utvikle bakterier, virus eller andre skadelige mikroorganismer som kan rettes mot eksempelvis en befolkning eller matforsyningen. 

Kunstig intelligens har stor sikkerhetsmessig innvirkning 

Systemer basert på kunstig intelligens favner fra autonome våpensystemer og medisinsk diagnostisering til finansiell stabilitet og en rekke andre bruksområder. Både de menneskelige og de ikke-menneskelige bidragene i slike systemer har stor sikkerhetsmessig innvirkning – og dermed et stort skadepotensial. Systemene og de styrende algoritmene er alltid prisgitt sårbarhetene og svakhetene som påvirker både den menneskelige programmeringen av systemene og merkingen av data. Menneskelige «feil» gjenspeiles i teknologien, og de kan skape alvorlige konsekvenser. For eksempel har kombinasjonen av algoritmer og tastefeil ved flere anledninger ført til plutselige verdifall, såkalte «flash crash», på amerikanske og europeiske børser.

Økende kompleksitet i systemer basert på kunstig intelligens gir redusert transparens i systemene. Det gjør menneskets forståelse av – og kontroll med – den ikke-menneskelige maskinlæringsprosessen vanskelig, i mange tilfeller umulig. Komplekse algoritmer kan med andre ord gjøre det vanskelig å avdekke hva systemer og maskiner basert på kunstig intelligens egentlig har lært. Det reduserer evnen til å forstå, forutsi og kontrollere handlingene til ikke-menneskelige systemer og maskiner. 

Våpensystemer som Lethal Autonomous Weapons Systems (LAWS) gir både etiske og sikkerhetsmessige utfordringer, ettersom det bruker kunstig intelligens til å gjenkjenne mål: venn eller fiende, sivil eller militær, truende eller defensiv. EUs GDPR-lovgivning, og dermed også den norske personopplysningsloven, sier at borgerne har krav på å vite hvordan automatiserte beslutninger påvirker dem. Utfordringen er at beslutninger basert på kunstig intelligens ikke alltid kan forklares.

Virkeligheten blir manipulert

Virtuell virkelighet (virtual reality - VR) er en tredimensjonal, fullstendig datasimulert virkelighet det er mulig å interagere med og lære fra, for eksempel til å bli bedre sjåfører, piloter eller soldater. Der virtuell virkelighet erstatter den virkelige verden, bidrar utvidet virkelighet (augmented reality - AR) eller blandet virkelighet (mixed reality - MR) til å forsterke oppfatningen av den virkelige verden. Det skjer ved å blande synsinntrykk fra den virkelige verden med datagrafikk. Sikkerhetsutfordringen er at denne teknologien i økende grad kan bli utnyttet av trusselaktører for å manipulere individers oppfatning av verden. Slik kan de påvirke både holdninger og beslutninger.

En annen form for manipulert virkelighet er såkalt deepfake, evnen til å produsere svært realistiske, men falske videoer der personer sier og gjør ting de aldri har sagt eller gjort. Teknologier som virtuell eller blandet virkelighet og deepfake bidrar til økt usikkerhet om hva som er ekte og falskt. Det kan føre til at alle, fra enkeltpersoner til stater, påvirkes til å ta beslutninger på feil grunnlag. Sikkerhetsutfordringene øker i takt med at teknologien som manipulerer virkeligheten, blir bedre, billigere og lettere tilgjengelig. 

Droner og autonome våpensystemer truer befolkning og infrastruktur gjennom hele krisespekteret 

Krigen i Ukraina fra 2022 har vist sikkerhetsutfordringene med at droner blir brukt som plattformer for informasjonsinnhenting eller våpen med stor effekt og presisjon. Dronene er operatørstyrte eller opererer autonomt uten menneskelig styring mot mål. De opptrer enkeltvis eller i svermer og er vanskelige å oppdage grunnet størrelse, design eller lavtflyvende egenskaper.

Selv små, kommersielt tilgjengelige utgaver blir brukt til rekognosering, utvelgelse av mål og dokumentasjon. Sensorer montert på kommersielt tilgjengelige droner blir benyttet til innhenting av etterretningsinformasjon, også i Norge. De kan kartlegge status, detaljer, rutiner og sårbarheter ved sentrale norske skjermingsverdige områder og objekter. I Norge har NSM, politiet, Avinor og Forsvaret i samarbeid testet ut systemer for å oppdage droner ved ulike lokasjoner og til ulike årstider. Det er avdekket betydelig høyere droneaktivitet enn forventet på stedene hvor systemene har vært utplassert.

Utfordringene med land-, sjø- og luftbårne autonome våpensystemer er at beslutninger som får konsekvenser for liv og død blir overlatt til ikke-menneskelige selvstendige maskiner. Systemene kan også være sårbare for hacking og manipulasjon fra ondsinnede cyberaktører. Slike våpensystemer vil dessuten være potente våpen i hendene på både statlige og ikke-statlige aktører. Selve bruken av et autonomt, ikke-styrt våpen mot individer, folkemengder eller infrastruktur vil gi trusselaktører store muligheter for å benekte bruk og fraskrive seg ansvar.

Mangel på sjeldne metaller og digitale komponenter medfører sikkerhetstruende avhengigheter

Den økende digitaliseringen og mer bruk av elektrisitet forutsetter mer bruk av sjeldne jordmetaller og nødvendige komponenter, blant annet mikroprosessorer. Hele digitaliseringen og elektrifiseringen – inkludert sikkerhetsløsninger – er avhengig av dem. Disse helt avgjørende komponentene utvinnes eller produseres i hovedsak av noen få aktører utenfor Europa. Manglende tilgang til og leveranser av sjeldne jordmetaller og komponenter kan utgjøre alvorlige sikkerhetsutfordringer langt forbi 2030.  

Anbefalinger 

Kompetanse og nasjonale initiativer må akselereres i møte med fremvoksende teknologier 

Et innovasjonssenter for sensitive teknologier bør sørge for at Norge utvikler og tar i bruk sikkerhetsløsninger som ligger i forkant av teknologiutviklingen. Senteret er en videreutvikling av det nasjonale senteret for anvendt kryptologi som etableres i NSM i 2023. Innovasjonssenteret samler interessenter fra myndigheter, akademia og industri og stimulerer til kompetanse og industriutvikling på viktige teknologiområder som kvanteteknologi, bioteknologi og kunstig intelligens. 

Det må etableres et frittstående, rådgivende organ som bidrar til demokratisk kontroll av utvikling og bruk av kunstig intelligens 

Organet skal vurdere samfunnsmessige, etiske og andre prinsipielle problemstillinger ved utvikling og bruk av ny teknologi. Dette kan for eksempel gjøres etter modell fra Bioteknologirådet. Hensikten er å gi råd til norske myndigheter, for i større grad å sikre demokratisk kontroll over teknologi som utvikler seg raskt. Kompetansen i organet bør være tverrsektoriell.

Norske myndigheter bør være pådriver for å etablere grunnleggende sikkerhetsprinsipper for utvikling av kunstig intelligens nasjonalt og internasjonalt. Det må utvikles standarder som forhindrer ikke-kontrollerbare, sikkerhetstruende kunstig intelligens-systemer. 

Norge må forsterke mekanismer for å beskytte flerbruksteknologi 

Myndigheter og virksomheter må ha kontroll over hvilken teknologi og forskning som ikke bør deles med andre land av hensyn til nasjonal sikkerhet. Mekanismene må sikre at flerbruksteknologi og -kompetanse er beskyttet mot uønsket tilgang i hele prosessen fra kunnskapsutvikling og forskning til ferdige produkter. 

Det må etableres en nasjonal ambisjon og evne til å avdekke, forhindre og håndtere sikkerhetstruende bruk av droner 

Det bør

• utredes regulering av ulike typer droner og droneteknologi
• etableres et nasjonalt nettverk av systemer som oppdager droner ved prioriterte områder og objekter i Norge
• utvikles metoder og kapasiteter for å motvirke sikkerhetstruende droneaktivitet 
• vurderes hjemmelsgrunnlag for anvendelse av anti-dronekapasiteter
• pekes ut en myndighet med samordningsansvar, som ivaretar felles situasjonsbilde og koordinerer håndtering av sikkerhetstruende droneaktivitet

Tilgang til sjeldne metaller og komponenter for fremtidens digitalisering og elektrifisering må sikres 

Det er avgjørende å sørge for tilgang til mikroprosessorer og andre nødvendige komponenter. Det bør inngås avtaler med andre land for å sikre at Norge og allierte har tilstrekkelig tilgang. Der Norge har aktuelle naturressurser, bør selvforsyning vurderes. Politikkutvikling innen miljø-, industri-, handels- og sikkerhetspolitikk må samvirke for å redusere de sikkerhetstruende avhengighetene.

Figur 6: Manipulert virkelig blir brukt til ulike formål.