2019-10-01

Nye utfordringer når verdier skal sikres i et globalisert marked

Hvorfor ligger Norge bak i kappløpet om utvikling av kunstig intelligens?

Leonora Onarheim Bergsjø
Leonora Onarheim Bergsjø Forsker, Det teologiske fakultet, UiO

En viktig faktor er at vi har noen etiske verdier som, omsatt til lovverk, hindrer utviklingen. Vil vi justere prinsippene våre for å få noen teknologiske fordeler, eller holde fast ved de etiske verdiene slik de er i dag? Vi tar alle stilling til disse verdispørsmålene, bevisst eller ubevisst. Diskusjon om etikk kan hjelpe oss å ta bevisste og gode, veloverveide avgjørelser.

Etikk i et globalisert marked

Det er ingen global enighet om etiske grunnprinsipper og dette gjenspeiles i teknologiutviklingen. For eksempel hindrer ideer om personvern ikke kinesiske bedrifter og styresmakter. De kan samle inn personopplysninger og bruke dem uten samtykke. Derfor har de gode muligheter til å trene maskiner og utvikle digitale oppskrifter, algoritmer. Vi vet at algoritmer trent med data fra en million datapunkter blir bedre enn algoritmer trent med tusen datapunkter.

Hvorfor får styresmaktene i Kina opptre så uetisk? Når vi snakker om kinesisk etikk er det en vestlig konstruksjon. Det vi kaller etikk ble utviklet av greske filosofer. Kinesiske tenkere var opptatt av andre emner og andre verdier. Generelt sett kan vi si at mens vestlig filosofi har fokus på enkeltmenneskets beste, har østlig filosofi fokus på fellesskapets beste. Det er fra kinesisk perspektiv om fellesskapets beste at bedrifters og myndigheters innsamling og bruk av data uten samtykke kan forsvares.

Hos oss i Norge er det foreløpig omvendt. For å beskytte enkeltmenneskets rett til frihet, selvbestemmelse og privatliv – verdier vi setter høyt – begrenser lovverk og personvernforordning (GDPR) datainnsamling og bruk. Norge er kjent for å ha gode datasett av høy kvalitet for eksempel innenfor helse. Får vi brukt potensialet som ligger i dette materialet og samtidig ivaretatt enkeltmennesket? Dette er blant spørsmålene Håkon Bergsjø og jeg tar opp i boken Digital etikk. Big data, algoritmer og kunstig intelligens (2019).

Digital etikk og datasikkerhet

Spørsmål om hvilke verdier som står på spill i møte med ny teknologi diskuteres innenfor digital etikk. Digital etikk er å undersøke hva ny teknologi er, hvilken sosial påvirkning den kan ha, og hvordan den bør utvikles og brukes. For eksempel kan digital etikk hjelpe oss å forstå hvorfor praksis rundt datainnsamling og bruk er så forskjellig omkring i verden, og til å ta stilling til hvordan vi selv vil ha det.

Hva er forholdet mellom digital etikk og datasikkerhet? Nye tekniske løsninger må være sikre i både teknisk og sosial forstand, ifølge EUs rammeverk for utvikling av pålitelig kunstig intelligens. Teknologi kan gi verdifulle bidrag til individer og samfunn, men medfører også risiko. Selv når intensjonen er god kan ny teknologi føre til uintendert skade. Gode risikovurderinger kan forebygge skade.

Foreløpig er det all grunn til å tro at arbeidet med datasikkerhet vil fortsette med hovedvekt på kjente standarder, som NSMs grunnprinsipper for IKT-sikkerhet og andre rutiner beskrevet i for eksempel Datasikkerhet for ledere (2018) Det er ikke servere og maskiner, men programvare som endres av ny teknologi. Endringen som kommer med nye algoritmer og kunstig intelligens ligger ikke i hvordan det sikres, men hva som skal sikres. Hva er for eksempel integritet når maskinvaren læres opp til å endre seg selv? Og hva er verdi? Dette blir et av temaene i den nye boken Datasikkerhet, som kommer våren 2020.

Sikkerhet som samfunnsoppdrag

Datasikring har et viktig samfunnsoppdrag i et digitalisert, globalisert samfunn. Med teknologiske løsninger som er sikre i teknisk og sosial forstand, og som er lovlige og etiske, skal europeiske virksomheter kunne hevde seg i det teknologiske kappløpet. Dette er i hvert fall EU-kommisjonens visjon for fremtiden, og middelet de foreslår for å sikre et samfunn med høy tillit til nye teknologiske løsninger.

God teknologisk utvikling kan imidlertid ikke sikres gjennom én gjennomgang, én sjekkliste. Kontinuerlig arbeid er nødvendig, likesom innenfor sikkerhet. En virksomhets produkter og tjenester bør være digital-etisk risikovurdert. Alt fra bedriftens innkjøps- og sikringsrutiner til dens overordnede visjon bør gjennomgås med tanke på hvilke verdier som skal sikres. På kort sikt handler virksomhetens digital-etiske arbeid om omdømme, men på lengre sikt handler det om de samfunnene virksomheten er en del av og relaterer seg til.