En verden styrt av algoritmer

En stor del av det livet vi lever i den digitale virkeligheten er påvirket av, og også i noen tilfeller styrt av, algoritmer. Selve begrepet algoritmer brukes om en rekke forskjellige fenomener, men i denne sammenheng er det algoritmenes rolle i å analysere ønsker og atferd på Internett som er det interessante. Når Youtube, Netflix eller Spotify foreslår hva du kan du høre eller se senere, så tar disse forslagene utgangspunkt i beregninger av hva du og de som ligner på deg tidligere har sett. Den nøyaktige formelen bak disse beregningene er ikke kjent, men vi vet hva konsekvensene er: Våre valg blir påvirket av hva algoritmene foreslår for oss.

Kanskje mindre merkbart, men mer alvorlig er at søkemotorer som Google også bruker denne metoden for å hjelpe oss å finne frem. Resultatene du får opp i en søkemotor er påvirket av hvem du er, og hva du har søkt på før. Det betyr at hvis du, en medelev og læreren din søker på det samme begrepet i Google vil dere til dels få forskjellige svar. Dette er i utgangspunktet designet for å hjelpe oss å finne frem, og er et nyttig verktøy for akkurat det, men samtidig gjør det at vi finner frem til det algoritmen tror vi vil finne, noe som ikke alltid er det vi faktisk vil finne eller bør finne.

Algoritmer blir også brukt mer og mer for å forenkle rutineoppgaver i både det private og det offentlige. Det er en økende trend at søknadsprosesser i arbeidslivet skjer via nettbasert kommunikasjon og med hjelp av algoritmer. Ved hjelp av algoritmer, kan datasystemet velge ut hvilke jobbsøknader som ikke er aktuelle og hvilke som kan bli vurdert av arbeidsgiveren. Arbeidsgivere kan legge inn ulike kriterier og kvalifikasjoner som de ser etter, og så vil datasystemet finne de rette kandidatene. Da har vi et system hvor datasystemer gjør den første utvelgelsen av søknader, uten hjelp av mennesker.

Dette er positivt for arbeidsgivere ved at de ikke behøver å bruke ressurser på arbeidssøkere som ikke er kvalifisert, og de kan konsentrere seg om de mest aktuelle søkerne. Gjennom at datasystemer gjør selve utvelgelsen er meningen at det skal bli en mer rettferdig utvelgelse og at en ikke kan legge vekt på utenforliggende hensyn, som for eksempel etnisitet, alder og kjønn.

At vi bruker datasystemer og algoritmer i en søknadsprosess er ikke nødvendigvis en garanti for at dette ikke skjer. Kriteriene som legges til grunn for at en søknad skal kunne vurderes av arbeidsgiveren, kan gi falskt inntrykk av rettferdighet og åpenhet. Dersom et befolkningsområde er bosatt med høy prosentandel av personer som arbeidsgiver ikke ønsker å ansette, kan han stille inn datasystemet på at det ikke skal mottas søknader fra dette området. Slik er det fremdeles mulig for en arbeidsgiver å gjøre forskjellsbehandling i strid med gjeldende regelverk om likestilling og diskriminering.

En utvikling hvor flere og flere prosesser blir styrt av algoritmer er nesten umulig å unngå. I mange tilfeller er det nyttige verktøy som forenkler hverdagen, men samtidig er det viktig å vite hva det brukes til og hvordan det fungerer. Det er stor forskjell på å bruke algoritmene som et verktøy til å ta gode avgjørelser og å overlate algoritmene til å ta avgjørelser for oss.

Oppgave: Hva er sannhet?

Algoritmer kan ha stor påvirkning på de valgene vi tar, på måter vi ikke nødvendigvis legger merke til eller forstår. Vedlagt ligger en diskusjon om sannheten i den digitale verdenen er truet. Se opptaket og drøft følgende spørsmål:

Hvordan fungerer algoritmene på sosiale medier?
Hvor får algoritmene data fra?
Er virkelig sannheten i den digitale verdenen truet?

tv.nrk.no

Oppgave: Falske profiler

Stordata og algoritmer kan brukes til mange ting, en mulighet er å lage mennesker som ikke finnes. Store mengder fotografier blir brukt som grunnlag for å lage bilder av mennesker som ikke finnes, og for å gi ansikt til falske profiler - såkalte deep fakes. Ta utgangspunkt i denne artikkelen fra New York Times og diskuter følgende spørsmål:

Hva brukes alle disse falske profilene til?
Hvordan fungerer teknologien som lager alle disse bildene?
Hva er tipsene for å skille falske fra ekte bilder?