Ting 8 Algoritmer og filterbobler

Algoritmer

En algoritme er enkelt forklart en beskrivelse av hva som skal foregå, steg for steg, for å løse en oppgave. Sånn sett kan en matoppskrift, eller et valg mellom å ta buss eller taxi til et bestemt sted, være en algoritme. Vi legger igjen digitale spor etter oss i søk, i apper og i sosiale medier. De store aktørene på Internett  bruker algoritmer til å sette sammen informasjon om hver enkelt av oss basert på disse sporene. Ut fra dette kan de kjenne igjen mønstre og sammenhenger mellom det du gjør eller ikke gjør og dermed forutse og påvirke aktiviteten vår. Dette brukes igjen til å sende deg tilpasset reklame, men kan også brukes til å prøve å påvirke deg politisk og til å sende deg målrettet propaganda.

Se en film fra NDLA om algoritmer.

Det finnes mange typer algoritmer som prognosealgoritmer, filtreringsalgoritmer, anbefalingsalgoritmer med flere, men i denne tingen skal vi se nærmere på algoritmer i forbindelse med søk.

Filterbobler

Det kalles filterbobler når algoritmene styrer hvilken informasjon du får se. SNL beskriver filterbobler som «… en systematisk, individuelt tilpasset avgrensing av informasjon og opplevelser på nettet som kan føre til ensretting og stagnasjon hos enkeltbrukere eller grupper. En filterboble oppstår når en algoritme på en nettside sorterer informasjon en bruker søker etter, basert på informasjon om brukeren. Som et resultat av dette vil vi som brukere i stadig økende grad få bekreftet våre egne synspunkt, mens vi samtidig blir utestengt fra informasjon som ikke stemmer med våre egne oppfatninger.»

Søkemotorenes algoritmer er deres forretningshemmeligheter. De er omfattende, i stadig endring og de styrer hvilke søkeresultat hver enkelt bruker får opp ut fra søkespørsmålet. Googles rangering av resultatlister bestemmes av algoritmer, PageRank. I tillegg besitter Google mye informasjon om dine tidligere søk og annen aktivitet og dette påvirker hva Google mener er relevant for deg. Googles godt tilpassede trefflister er på en annen side kanskje grunnen til at de fleste av oss velger nettopp Google framfor andre søkemotorer. Det er uansett lurt å være oppmerksom på hvilken informasjon Google besitter om deg. Data Detox-kit viser hvordan du kan begrense Googles tilgang på informasjon om deg i «Avgooglifiser livet ditt».

Søkemotorenes algoritmer brukes til å finne og sette sammen informasjon om oss når vi bruker søketjenestene. De finner ulike mønstre som hvordan vi søker, hva vi søker etter, hva vi klikker inn på, når vi bruker søketjenester, hvor lenge vi søker og mye mer. Disse mønstrene avslører mye om våre vaner og adferd, hva vi liker og ikke liker. Denne informasjonen kan brukes til å lage psykologiske profiler på hver enkelt av oss som beskriver hvem vi er, hva vi har behov for, hva vi er er redde for og hvordan vi sannsynligvis vil reagere og oppføre oss i ulike situasjoner. En av modellene for vurdering av personlighet kalles Femfaktormodellen og er basert på fem personlighetstrekk:

• Åpenhet – hvor åpen du er for nye opplevelser.
• Planmessighet – hvor perfeksjonistisk du er.
• Ekstroversjon – hvor utadvendt og sosial du er.
• Medmenneskelighet – hvor hensynsfull og samarbeidsvillig du er.
• Nevrotisme – hvor irritabel, impulsiv eller depressiv du er.

NRKbeta beskriver hvordan denne typen profilering ble brukt blant annet i det amerikanske presidentvalget i 2016.

Tarleton Gillespie skrev følgende i artikkelen «The relevance of algorithms»: «The algorithmic assessment of information, then, represent a particular knowledge logic, one built on specific presumptions about what knowledge is and how one should identify its most relevant components. That we are now turning to algorithms to identify what we need to know is as momentous as having relied on credentialed experts, the scientific method, common sense or the word of God».

Professor Safyia Umoja Noble ga i 2018 ut en bok om hvordan søkemotorenes algoritmer faktisk kan vise rasistiske holdninger: «Algorithms of Oppression : How Search Engines Reinforce Racism». Omtalen av boka beskriver hvordan rasistiske søkeforslag og resultat påvirker folks holdninger. Blant Nobles eksempler var søk på bilder av «Michelle Obama» blitt assosiert med aper og automatiske søkeforslag på søk etter «black women» kunne være «why are black women so angry/loud/mean». I boka anklager Noble søkemotorene for å bidra til undertrykkelse fordi algoritmene er laget av mennesker med sine fordommer og motiver. Under lanseringen uttalte hun: «Google keeps an advertising algorithm not an information retrieval algorithm» og siktet til hvordan reklamebransjen blir påvirket av penger. Hun sa også at vi har mer data og teknologi enn noensinne og at den sosiale, politiske og økonomiske ulikheten og urettferdigheten bare øker som en konsekvens av det. Det er viktig å påpeke at søkemotorenes algoritmer er endret etter dette og gir ikke de samme søkeforslagene og resultatlistene i dag.

Eli Pariser introduserte begrepet filterbobler i boka «The Filter Bubble» i 2011. Det er algoritmer som bestemmer hvilket innhold hver enkelt av oss blir presentert for. Disse algoritmene er basert på hva vi tidligere har klikket mest på, lest og brukt tid på, likt eller hoppet over. Det medfører at vi får stadige bekreftelser på informasjon og synspunkter som vi allerede har, men sjeldnere utsettes for tilgang til ny innsikt. Eric Schmidt, tidligere CEO i Google, spådde dette i et intervju i The Guardian i 2010: «The power of individual targeting – the technology will be so good it will be very hard for people to watch or consume something that has not in som sense been tailored for them».

• Les hvordan søkemotorene finner det de tror passer for deg.
• Personvernbloggen til Datatilsynet har en artikkel om søkemotorer, personvern og filterbobler.
• Logg inn på Google og sjekk hva Google har lagret om deg ut fra aktiviteten din. Finn et søk du gjorde for to uker siden.
• Gå inn på innstillinger i Google  og se hvem Google tror du er.
• Hør podkast fra Arendalsuka 2022 og diskusjon om hvordan hindre diskriminering når algoritmene saksbehandler.
• Les hvordan NRK bruker anbefalingsalgoritmer for å formidle program og hvordan de virker. Les også hvorfor algoritmene av og til feiler.
• Se professor Safyia U. Nobles forelesning om algoritmer.
• Se film om «Algorithmic citizenship» av James Bridle.

• Les artikkel i Forskning.no om søkemotorer og kunstig intelligens
• Artikkelen Relativ tilgjengelighet (Tallerås, Colbjørnsen og Øfsti, 2019) ser på algoritmisk tilgjengelighet blant annet i forbindelse med anbefalingsalgoritmer. Om du abonnerer på strømmetjenester, reflekter hvordan nettopp dine anbefalinger blir formet.
• Les om Youtubes anbefalingsalgoritmer.
• Danah Boyd, forsker i Microsoft Research forteller i dette foredraget på konferansen re:publica 2018 om hvordan algoritmene kan undergraves av nettroll og andre for å fremheve sine saker.
• Les hvordan dine data kan brukes i eksemplene i denne artikkelen fra Data Detox-opplæringen.
• Folkehelseinstituttet (FHI) har en side om appen Smittestopp, for å bekjempe pandemien Korona, Covid 19. Les hvordan Datatilsynet vurderer personvernet ved bruk av appen.

T. Gillespie (2014). The Relevance of Algorithms. I T. Gillespie, P. Boczkowski & K. Foo (Red.) Media technologies: Essays on communication, materiality, and society (s. 167-194).

MIT. Dahle, L.G. (2016, 21. desember). Slik finner søkemotorene det de tror passer for deg. https://forskning.no/partner-informasjonsteknologi-universitetet-i-stavanger/slik-finner-sokemotorene-det-de-tror-passer-for-deg/376015

Deans, J. (2010, 18. august). Google chief warns on social networking dangers. The guardian. https://www.theguardian.com/media/2010/aug/18/google-facebook

Dvergsdal, H. & Orgeret, K. S. (2019, 18. februar). filterboble. I Store norske leksikon. https://snl.no/filterboble

Grytli, D.M. (2019, 14. februar). Søkemotorveien videre. https://www.personvernbloggen.no/2019/02/14/sokemotorveien-videre/

Pariser, E. (2011). The filter bubble: What the Internet is hiding from you. Viking/Penguin Press.

Tallerås, K., Colbjørnsen, T. & Øfsti, M. (2019). Relativ tilgjengelighet. Norsk medietidsskrift, 26(1)1-20. https://doi.org/10.18261/ISSN.0805-9535-2019-01-02