Åpenhetens dilemma

Ved Institutt for informasjonssikkerhet og kommunikasjonsteknologi (IIK) utøves forskning og utdanning innen cybersikkerhet, informasjonssikkerhet, kommunikasjonsnettverk og nettverkstjenester.

NTNU IIK tilbyr studieprogrammer på doktor-, master-, og bachelorgradsnivå innen informasjonssikkerhet og kommunikasjonsteknologi. NTNUs Center for Cyber and Information Security, NTNU CCIS, er et nasjonalt senter for forskning, utdanning og kompetanseutvikling i cybersikkerhet. Her forskes det på hvordan offentlig og privat sektor kan stå best mulig rustet under et cyberangrep.

Samarbeid er nøkkelen og senteret har per i dag 43 samarbeidspartnere fra ulike sektorer og 120 forskere, inklusive ansatte PhD-studenter, tilknyttet. Forskerne tar også del I undervisningen av 800 NTNU studenter innenfor disse fagfeltene på Gjøvik og i Trondheim.

Samarbeid med næringslivet

Tre av disse studentene er Vilde Nylund Johnsen, Karianne Kjønås og Thea Erbe Thomassen, som har gått bachelor i IT-Drift og Informasjonssikkerhet ved NTNU i Gjøvik. Disse har skrevet en bacheloroppgave om «Åpenhetens dilemma», i samarbeid med Nasjonal sikkerhetsmyndighet, NSM. «Åpenhetens dilemma» ser på hva bedriftene vi har intervjuet tar av vurderinger rundt det å skulle være åpen om at en IT-sikkerhetshendelse har inntruffet. Hvem skal man være åpen med, hva skal man dele og når skal informasjonen deles?

De forteller at oppgaven ga tre sentrale funn, der det første er at lovverk legger store føringer for hvordan bedrifter løser de overnevnte spørsmålene.

Det andre er en sterk delingskultur innad i sikkerhetsbransjen, hvor bedriftene er enige om at man ikke konkurrerer på sikkerhet og derfor gjerne vil hjelpe hverandre å ha de sikreste løsningene.

Det siste er at bedrifter ikke opplever direkte omdømmetap etter å ha delt med media at de har hatt en it-sikkerhetshendelse, men bedrifter frykter at media kommer med feilinformasjon som setter hendelsen i dårligere lys enn nødvendig. Dette skyldes ofte fordi journalistene ikke har høyt nok kunnskapsnivå om tematikken, og derfor misforstår hva som blir lagt frem.

Et innblikk i arbeidslivet

Jentene sier videre at det å kunne skrive en bacheloroppgave i samarbeid med en bedrift gir en mer glidende overgang til arbeidslivet og man får muligheten til å få et innblikk i hva arbeidslivet har å by på. Det at NTNU har gode etablerte kontakter med bedrifter som jobber med det studentene utdanner seg til, er en viktig faktor for at vellykket samarbeid mellom studenter og bedriftene.

Det gir også gode muligheter etter ferdige studier og flere har fått fast ansettelse etter et slikt samarbeid.

– Vi oppsøkte NSM og Roar Thon spesifikt fordi det vi så på som interessant å skrive om, var direkte relatert til det de jobber med. Vi fikk god respons, og fikk i samarbeid laget en meget interessant oppgave. Vi opplevde også at de bedriftene vi intervjuet under oppgaven, allerede hadde positiv kjennskap til utdanningsstedet NTNU og studieretningen vi gikk. Det var med på å etablere seriøsiteten ved vår forespørsel om intervjuene, og dermed også resultatet av bacheloroppgaven.

Kompetanse og samarbeidsprosjeket AI4citizens

Samarbeid skjer på alle nivåer og nylig ble prosjektet AI4citizens etablert. Prosjektleder er Lasse Øverlier, som er førsteamanuensis ved Institutt for informasjonssikkerhet og kommunikasjonsteknologi.

Prosjektet samler forskere innen samfunns- og databehandling, for eksempel FNs forskningsinstitutt for kriminalitet og rettferdighet (UNICRI), NTNU, UiA og BI. Prosjektmedlemmer representerer også et bredt spekter av borgere, og politi, for eksempel Oslo City Kommune, Nordic Edge Smart City Innovation, Oslo & Øst politidistrikt.

Kriminalitetsforebygging

Utviklingen innen kunstig intelligens (AI) har gjort det mulig å integrere smarte løsninger i teknologi som kan benyttes innen kriminalitetsforebygging og økt effektivitet. Men de nåværende teknologiske løsningene har fremdeles to viktige utfordringer: personvern og innbyggernes bekymring for potensielt misbruk av teknologien.

AI4citizens har som mål å takle de samfunnsmessige og teknologiske utfordringene knyttet til overvåkingsteknologi ved å se på tre teknologiske forskningsområder, samtidig som vi ser på etiske, samfunns- og personvernrelaterte spørsmål. Prosjektet vil bidra til å øke nøyaktigheten, potensialet og hastigheten i politietterforskning med videokilder fra offentlige områder, og samtidig bidra til å takle de algoritmiske skjevhetene som AI-teknologien kan vise mot utsatte grupperinger av innbyggere, som for eksempel minoriteter. Prosjektet skal også se på utfordringene i å formidle og forstå bekymringene som finnes mot smarte overvåkingsteknologier.

Fire hovedområder

AI4citizens tar for seg følgende fire områder for å se på hvordan bruk av ansvarlig AI kan eksistere i et samfunnssikkerhetsperspektiv: 

1. Anonymisering av overvåkingsdata. Vil undersøke hvordan anonymisering av personer i video kan gjøres ved hjelp av ansvarlig AI uten å redusere personvernet eller resultater.    

2. Anonym hendelsesovervåkin. Vil se på hvordan ansvarlig AI kan benyttes til å automatisere både påvisning og identifisering av uvanlige hendelser i folkemengder og mulighetene for å forbedre dette med kontinuerlig læring.

3. Objektsøk i video. Vil se på politiets utfordringer ved den store mengden manuelt arbeid som kreves for å se igjennom videoer etter bestemte objekter eller hendelser i forskjellige sammenhenger.

4. Samfunnsmessig effekt og etiske konsekvenser av anonymisert overvåking. Vil undersøke effekten av ansvarlige AI-løsninger på sosiale ulikheter ved å se på hvordan forskjellige sosiale grupper oppfatter og veier fordeler og kostnader ved bruk av ansvarlig AI i forbedring av samfunnssikkerhet.

Dette kan det leses mer om på https://prosjektbanken.forskningsradet.no

Prisbelønnet arbeid

Nylig vant en av fakultetes PhD-studenter en anerkjent pris.

PhD-student Gunnar Alendal ved Institutt for informasjonssikkerhet og kommunikasjonsteknologi i Gjøvik vant denne prestisjeprisen ved prisutdelingen Pwnie Awards. Pwnie Awards er en årlig prisutdeling som anerkjenner prestasjoner i sikkerhetssamfunnet.

Alendal fikk tildelt prisen «Best Client-Side Bug» for å ha funnet en sårbarhet i en chip som er laget for å beskytte de mest sensitive dataene på nyere Samsung-mobiltelefoner.

Ifølge Alendal beskytter chippen nøkler som i sin tur beskytter alle brukerdata.

– Jeg har skrevet en artikkel om mine funn, hvor jeg viser at jeg kan bruke denne sårbarheten til å forbigå sikkerhetsmekanismene på telefonen og få tilgang til brukernes data, uten å kjenne til låsekoden på forhånd.

Alendal er PhD-student ved IIK og forsker på digital forensics, om hvordan en nettopp kan forbigå slike sikkerhetsmekanismer.

– Prisen har jeg fått, om jeg skal tippe, er en kombinasjon av at jeg har gjort et bra stykke arbeid, samt at den sårbarheten jeg har funnet ikke burde eksistere på denne chippen. Dette er fordi den er designet for å holde de mest ressurssterke angripere ute blant annet ved at den er sikkerhetssertifisert med ganske høy grad.

Dette er et flott eksempel på det tette og gode samarbeidet mellom politiet og NTNU CCIS fasiliteter for fremragende forskning, metodeutvikling og operative gjennombrudd.

Tekst: NTNU CCIS