Del 1. Hvem skal ha tilgang til data om deg?

Tidsbruk: 30-40 minutter

Kunstig intelligens starter med data. Store mengder med data. Vi lever i en verden der mer og mer informasjon om oss blir samlet inn og analysert på systematiske og ikke-systematiske måter. Stordata blir ofte definert gjennom tre egenskaper: Volum (mengden av data); innsamlingshastighet (hvor fort nye data genereres) og heterogenitet (hvor mange forskjellige typer data som samles inn). I første delen av dette opplegget skal vi derfor snakke om data.

På venstre siden finner du ulike data om deg. Dette er informasjon som sier noe om deg og ditt liv.

På høyre siden av arket finner du ulike dataforvaltere, som i dag sitter på mengder med informasjon. Denne informasjonen brukes til ulike formål av dataforvaltere.

Runde 1 [15 minutt]

Skriv ut Vedlegg A

Individuell: Hvem skal ha data om deg? Gå gjennom hver av datapunktene på venstre side og tegn en strek til hvem av dataforvaltere som skal kunne ha tilgang til denne typen data om deg.

I gruppe: Sammenlign deres vurderinger og diskuter. Hvorfor har dere valgt ulikt?

Runde 2 [10-15 minutt]

Diskuter i grupper og skriv ned stikkord

• Hva kan dataforvalterne gjøre med data om deg? (Lagre? Dele? Lage statistikk? Bruke i analyser?)
• Hva bør de gjøre med informasjonen og hvorfor?  
• Når bør dataforvaltere få tilgang til denne informasjonen (Alltid? I spesielle tilfeller? Når noe uventet har skjedd? Når de har en mistanke om at du har gjort noe feil?)
• Case: Trine har nylig snakket med vennene sine om et dataspill hun har lyst på. Et par dager etter samtalen med vennene ser hun reklame for dataspillet på Facebook tidslinjen sin. Hva har skjedd? Har dere hatt lignende opplevelser? Er dette problematisk? Diskuter

Runde 3 [5-10 minutt]

Diskuter i grupper og skriv ned stikkord

Hvilke to kategorier på venstre side må jeg kombinere for å få forstå hvem du er og hvorfor? Hva sier kategoriene om hvem du egentlig er?

DEL 2: Hva er kunstig intelligens? [Plenum]

Tidsbruk: 40-50 minutter

Denne delen gjøres i plenum, men kan også jobbes med i grupper om det er ønskelig

Først et generelt spørsmål: Hva tenker du på når du hører ordet ‘kunstig intelligens’? Hvor møter du kunstig intelligens i din hverdag?

Når vi tenker på kunstig intelligens, tenker vi ofte på science fiction. Men kunstig intelligens er allerede her. Det finnes ingen allmenn definisjon for kunstig intelligens i dag. Begrepet omfavner ulike metoder og teknologier som viser noen form for autonomi og tilpasningsevne. Den norske regjeringen definerer kunstig intelligens slik:

Kunstig intelligente systemer utfører handlinger, fysisk eller digitalt, basert på tolkning og behandling av strukturerte eller ustrukturerte data, i den hensikt å oppnå et gitt mål. Enkelte KI-systemer kan også tilpasse seg gjennom å analysere og ta hensyn til hvordan tidligere handlinger har påvirket omgivelsene.

Dette er en ganske komplisert definisjon. I bunn og grunn handler kunstig intelligens om å sortere data og løse problemer gjennom teknologi som ellers krever menneskelig intelligens. Vi finner kunstig intelligens i alt fra Google søkemotoren, til selvkjørende biler og Alexa. Den mest vanlige formen for kunstig intelligens, som brukes i dag kalles maskinlæring. Kunstig intelligens blir ofte brukt for å kategorisere informasjon og forutse fremtidige hendelser. Kan vi for eksempel lære opp en maskin til å gjenkjenne dine preferanser og presentere relevant reklame til deg på Youtube? Eller kan vi mate kunstig intelligens med gamle vitnemål for å forutse hvilke karakterer du kommer til å få i år?

Det er mye matematikk og statistikk involvert i kunstig intelligens.  Store mengder med data brukes for å trene maskinene, slik at disse kan gjenkjenne mønster i dataene. Kunstig intelligens handler om læring og autonomi, altså at maskinene ikke må bli fortalt hver gang hva de skal gjøre og at de ofte blir bedre over tid. 

Se videoen fra Researcher’s night 
 

Det er spennende å se på hvordan vi som samfunn bruker og lager kunstig intelligens i dag og hvem som egentlig lager teknologien. Når vi lager kunstig intelligens, er det masse valg en må treffe undervegs og disse valgene påvirker teknologien. Vi må for eksempel velge hvor vi bruker det, hva slags data som blir brukt, hvilken modell som er best og hva vi skal gjøre med informasjonen vi får fra kunstig intelligens. 
 

Et tankeeksperiment [Gruppearbeid]

Diskuter i grupper og lag stikkord

Norges regjering har nylig lansert en strategi for kunstig intelligens. Her etterspør regjeringen at flere starter å utvikle og bruke kunstig intelligens. Dere jobber i Trøndelag fylkeskommune. Trøndelag fylkeskommune har lest strategien og vurderer nå å utvikle kunstig intelligens.

Problemet dere skal løse: 30 prosent av alle videregående elever dropper ut av videregående skole. Kan vi identifisere elever som har en høy risiko for å droppe ut av skolen ved hjelp av kunstig intelligens? Her kan vi bruke data fra tidligere elever for å regne ut risikoen for at noen dropper ut.

Steg 1: Data

Maskiner kan ikke lære av seg selv. Kunstig intelligens trenger store mengder med data for å læres opp. Kunstig intelligens finner mønster i data, som algoritmen/modellen bruker for å kunne behandle ny informasjon. Hva slags data kan vi bruke for å lære opp algoritmen? Hva er eventuelt problematisk med dette? Tror du at dette hadde fungert bra? Hvorfor?

• Gamle vitnemål fra ungdomsskoleelever
• Adresse
• Kjønn
• Utdanningen til foreldrene dine
• Din betalingshistorikk
• Andre typer data?

Steg 2: Algoritmen

Nå skal dere velge algoritme! Skal det være en veldig kompleks modell/algoritme som nesten aldri tar feil, men er vanskelig å forstå for utenforstående? Eller skal det være en enkel modell/algoritme, som vi tydelig kan se hva beslutningen baserer seg på? Hvorfor velger dere deres løsning.

Hvordan skal resultatet se ut? Skal elevene bli delt ut i 3 grupper: Høy, middels og lav risiko? Eller skal vi beregne en akkurat risiko-score for hver av elevene?

Steg 3: Hva skjer egentlig med resultatet?

Dere har nå utviklet kunstig intelligens. Men når skal dette brukes? 

• Skal for eksempel alle nye elever bli klassifisert?
• Hvem skal se resultatet? Læreren? Eleven? Foreldre? Hvorfor?
• Hva gjør vi med resultatet? Skal elever som har høy risiko for å droppe ut få ekstra hjelp? Eller skal vi heller bruke ressurser på elevene som uansett kommer til å klare seg?
• Er det rettferdig at en maskin vurderer hvordan elever kommer til å gjøre det på videregående skole? Hvorfor er det rettferdig/urettferdig?
• Forestill deg at du har blitt klassifisert til å «ha høy risiko for å droppe ut av videregående skole». Hvordan hadde dette påvirket deg?

Når alle grupper har diskutert dette, avslutter vi denne delen i plenum. Nå skal læreren svare: Hva tenker læreren deres om en slik maskin? Hva hadde læreren gjort med informasjonen om sannsynlighet for å droppe ut? Hvordan hadde dette påvirket lærerens arbeidshverdag?

DEL 3: Teknologi, samfunn og demokrati [30 minutt]

Utvikling og bruk av kunstig intelligens i dag fremmer mange spørsmål om teknologiens rolle i samfunnet. Innenfor samfunnsvitenskapen er det i grove trekk to måter å tenke på dette forholdet på:

Teknologideterminisme: Her ser man på teknologi som en uavhengig kraft i samfunnet, som påvirker oss uten at vi kan gjøre noe med det. Teknologien endrer samfunnet.

Sosial konstruert teknologi: Her ser man på teknologi som noe som lages av mennesker og dermed blir påvirket av våre verdier og normer. Det er samfunnet og menneskene som endrer teknologien.

Her skal vi diskutere en tredje vei. Teknologi blir laget av mennesker. Teknologien påvirker så vårt samfunn. Men hva kan vi egentlig gjøre for å påvirke teknologien både når den lages og når den er ferdig? Vi vet at kunstig intelligens har en del problematiske utfall, så hvordan kan vi sørge for at den gagner samfunnet?

Velg en av gruppeoppgavene, diskuter og skriv ned stikkord

Gruppeoppgave A

Les artikkelen om IB algoritmen

https://www.nrk.no/norge/ib-elevar-fortvilar-over-karakterar-1.15091563

• Hva har skjedd her? Diskuter
• Hvordan hadde du reagert hvis det hadde skjedd med deg?
• Hva er problematisk med bruken av algoritmer i dette tilfelle?

Gruppeoppgave B

Les artikkelen skrevet av Teknologirådet.

• Hva legger vi i begrepene ekkokammer og polarisering?
• Hvorfor er dette problematisk for vårt samfunn?
• Har dere noen eksempler på ekkokammer eller persontilpassing fra deres hverdag?