Kjenner du din datadobbeltgjenger? Ikke vi heller. Men det gjør makthaverne, skriver Camilla F. Lamprecht.
Ditt virtuelle subjekt

Klyngen av overvåkningspraksiser skaper datadobbeltgjengere av oss alle

Ja, det er grunn til bekymring, skriver Camilla Lamprecht.
Saken er Algoritmene blir bare feitere og feitere. Saken ble først publisert 19. mars 2018.

Det betyr: Kroppen din er ikke lengre kun fysisk og psykisk, men også virtuell i den forstand at algoritmene har laget en slags datakopi av deg selv, som nettgigantene stadig kommuniserer med, fordi de er enklere å samarbeide med. De har fått navnet data double, som vi kanskje kan oversette til datadobbeltgjenger på norsk.

Din datadobbeltgjenger er rett og slett en stor ansamling av informasjon om deg og dine preferanser, bare langt mer underbevisst og mindre kritisk. En særdeles illojal følgesvenn, men som finnes ute på webben i den flytende klyngen av forskjellige overvåkningspraksiser.

Algoritmer på «fatcamp»

Likerklikkene dine på Facebook dras ut av kontekst og brukes til målrettet markedsføring av relevante produkter. Det er en kjent og gammel sak, men nå som algoritmene tar stadig større steg – for å vokse i kraft, bruksområder og størrelser – kan tiden være inne for å bli bedre kjent med datadobbeltgjengeren din.

Storebror, som man ofte kaller de som overvåker oss, gjør det allerede. Og han konkluderer gjerne med å tro at de kjenner oss bedre enn vi kjenner oss selv. Det er jo ikke så rart, all den tid det menneskelige minnet er sterkt begrenset, i forhold til lagringskapasiteten og -effektiviteten som vokser innenfor computerteknologien.

Algoritmer, et sett med regler som opererer i en bestemt rekkefølge, og som oftest er dataprogrammerte, kan bestemme vår hverdag ned til minste detalj. De mates og lever av våre likerklikk, og vi lærer dem – ganske eller fullstendig underbevisst – om våre preferanser. gjennom aktivitet på internett. Googlesøk og likerklikk har fôret algoritmene til å bli feitere enn noensinne, og det ser ikke ut til at de vil slanke seg med det første.

Vi lever i en verden der valgene vi tar får større konsekvenser enn vi oftest er klar over, fordi vi ubevisst skaper data, forbindelser og preferanser. Alt vi gjør kan bli til data. Da er det plutselig bare etiske retningslinjer og lover som hindrer oss i å være data. Derfor er det så viktig å snakke om det.

Keiserens nye intelligens

Vi lar oss styre av algoritmer og påvirkes i stor grad ubevisst i det daglige, når vi sitter med smarttelefonen vår og sluker informasjon, reklame og nyheter. For samtidig som vi sluker den, deler vi informasjon om oss, når vi reagerer forskjellig på de ulike innleggene. Det man ofte tror er enveis-kommunikasjon, er tosidig. Det er liten grunn til å tro at Facebook ikke teller sekunder når vi leser forskjellige kommentarfelt, for å måle interessene våre.

Neue Zürcher Zeitung skrev 6.mars om likerklikk-funksjonen. De trekker paralleller til Kinas utvikling og det såkalte «social credit»-systemet som skal være fullt implementert innen 2020. Verdens mest folkerike land skal i større grad benytte seg av dataene som allerede produseres gjennom apper, og føre dem sammen i et system som vil basere seg på konsekvensene av det som ikke alltid er gjort bevisst.

Systemet skal måle troverdigheten hos Kinas 1.3 milliarder innbyggere, basert på deres datadobbeltgjengere. Folk med lav «rating» vil blant annet få tregere internett, begrenset tilgang til restauranter og miste retten til å reise til visse steder, ifølge Wired

I tillegg ønsker Kina å være ledende på kunstig intelligens innen 2030.

Lydige og føyelige kropper

Michel Foucault skrev på slutten av 70-tallet om «Panopticon» (1977), en fengselsmodell utviklet av Jeremy Bentham, men som aldri ble gjennomført i praksis.

Vakten skulle ha fullt tilsyn på alle fanger, gjennom plassering i midten av fengselet. I cellene rundt skulle fangene sitte på andre siden av en speilvegg som kun var gjennomsiktig fra fengselsvaktens side. På den måten ville du aldri være vitne om de ble overvåket eller ikke. Dette skulle føre til selvkontroll og -disiplinering, fordi de i teorien alltid kunne være overvåket.

«Docile bodies», de føyelige kropper, er mer aktuelt og virkelighetsnært enn noensinne. Selv om selvdisiplineringen er mer skjult og bortgjemt i en forkledning av Facebook, Google, Snapchat og Uber, blir vi daglig føyet i den retning de datamektige ønsker at vi skal.

Hvilke konsekvenser vil det få, at vi i teorien alltid kan lyttes til, gjennom alltid å være så nær en smarttelefon?

Ditt virtuelle subjekt

Algoritmer har ulike funksjoner. Noen baserer seg for eksempel på preferanser innen reise, bilder eller mat. Andre har mer politiske funksjoner, som til bruk ved dronekrigføring, eller noe helt annet: En såkalt «algorithmic war», som handler om å stoppe fienden før angrepet har skjedd.

PST sin årlige kartlegging av Norges sikkerhetstrussel er også basert på algoritmer. Det de har til felles er det proaktive, å stoppe skaden før den har skjedd, eller i det hele tatt er påbegynt. På engelsk heter det «preemption».

Ved å «rate» et utested, en restaurant eller en flytur, bidrar du, sammen med alle andre som gjør det samme, til å si noe om produktet du anmelder. Men du sier også mye om din egen smak. Algoritmene jobber på spreng i alle retninger for å finne ut hvem du er og hva du liker.

Basert på informasjonen vi gir gjennom sosiale medier, spesielt med funksjonen «liker», bygger algoritmene opp en profil som de tror er deg – vår såkalte «data double».

De ulike formene for overvåkning blir nå så mange og store at det gir mening å snakke om «The surveillant assemblage», en teori om overvåkning som legger til vårt virtuelle subjekt – vår datadobbeltgjenger, skapt av klyngen av overvåkningspraksiser som flyter rundt – som et tillegg til vår fra før av kjente fysiske og psykiske kropp.

Apper som Facebook. TripAdvisor, SAS, Uber, og så videre – ja, nesten alle – samarbeider gjerne daglig med din dstadobbeltgjenger uten at du selv nødvendigvis trenger å være klar over det.

Fra populærkultur til virkelighet

Dette er gammelt nytt. Men det vi aldri får snakket nok om, er hvilken makt dette kommer med.

Det skremmende med Kina sin utvikling, er at ting vi har sittet og sett på Netflix, som Black Mirror sin episode «Nosedive» i sesong 3, ikke lengre er populærkultur, men virtuell og faktisk realitet i Kina.

Dette gir nye rom for å kontrollere, styre, påvirke og observere menneskelig handling og væremåte som ikke har vært mulige tidligere. Algoritmene blir feitere og feitere, og relevansen vi tilbys av informasjon til stadighet – ekkokamrene – kan gjøre oss avhengige av aksept.

Dataene lagres, brukes og utvikles, men verst av alt: De tas ut av kontekst og blir brukt til helt andre formål som for eksempel kampen mot terror, som David Lyon skriver i «Surveillance Studies: An Overview».

Michel Foucaults dystopiske «Panopticon» forble en dystopi, men den gjennomsyrende overvåkningen i alle former for hverdagsliv og institusjoner er langt forbi det han kunne forestille seg.

Den er til de grader implementert i institusjoner, hverdagsliv og over en kaffe der vi liker profilbilder og gir vurdering av stedet der vi akkurat drakk dobbel latte.

Blir vi i det hele tatt overrasket dersom Kinas utvikling implementeres i Europa i nær fremtid? Jeg tror vi ville vært ganske så bekymret dersom vi før Facebook hadde større anelse om hva det var i ferd med å bli. Ikke fordi at de store sosiale mediene ikke har gjort mye nok bra. Men fordi at baksiden er minst like stor.