Overvågningskapitalismen. »Systemerne er skabt til at svække den menneskelig handlekraft. De frarøver os vores individuelle suverænitet.« Den bogaktuelle, amerikanske professor Shoshana Zuboff om kampen mod vor tids altfortærende, digitale økonomi.

En skærm, der ser os

En skærm, der ser os

Overvågningskapitalisme, kalder Shoshana Zuboff fænomenet i sin nye bog; et ord, som med den amerikanske professor nu er gledet ind i sproget.

»Jeg havde en meget specifik motivation, da jeg skrev bogen. Nemlig at navngive en markedsform, der endnu ikke havde et navn. Jeg ville løfte kølerhjelmen og skille motoren ad for virkelig at forstå, hvordan den er sat sammen. Jeg ønskede at give folk et ordforråd, så vi kan påbegynde diskussionen,« siger Shoshana Zuboff over telefonen fra sit hjem i Maine, USA. Hun fortæller, at hun netop er kommet hjem for to uger siden efter at have rejst rundt i forbindelse med promoveringen af sin bog siden januar.

Den 67-årige professor emerita ved Harvard Business School er en eftertragtet taler. Hendes arbejde har været syv år undervejs og er endt i mammutværket Overvågnings­kapitalismens tidsalder – Kampen for en menneskelig fremtid ved magtens nye frontlinje, som udkom på Informations Forlag i går. Det er historien om en ny økonomi baseret på data. På de mest intime detaljer om menneskers tilværelse. I den digitale tidsalder siges det, at data er det nye olie, og for en art moderne oliebaroner på den amerikanske vestkyst har det siden årtusindskiftet været en milliardforretning. Techgiganter som Google, Facebook, Microsoft og deres artsfæller har gjort det til deres levebrød at forudsige vores handlinger og med tiden også påvirke dem.

Zuboffs værk om kapitalismens seneste mutation og dens mange børnesygdomme har affødt sammenligninger med Karl Marx’ Kapitalen og den franske økonom Thomas Pikettys Kapitalen i det 21. århundrede. Fænomenet overvågnings­kapitalisme har da også en hel del fælles­træk med tidligere stadier af kapitalismen, forklarer hun. Kapitalismen har lige fra begyndelsen udviklet sig ved at tage områder uden for markedet og gøre dem til handelsvarer. Det så man, da menneskets daglige gøremål blev omdannet til arbejdskraft, og man så det igen, da naturen blev til jord og ejendom.

»I tilfældet overvågningskapitalisme gør det samme mønster sig gældende, men med et nyt dystert tvist. Overvågnings­kapitalismen gør krav på den hele menneskelige tilværelse. Det sker ikke bare på arbejdspladsen, det sker i vores intime hverdagsliv. Det, vi kalder privatlivet,« forklarer hun.

En moderne aforisme lyder: Hvis du ikke betaler for produktet, er du selv produktet. Det er dog en forsimpling, ifølge Zuboff. Det egentlige produkt er forudsigelser af menneskelig adfærd. En vare, der sælges til erhvervs­kunder, der ønsker så stor sikkerhed som overhovedet muligt for, at vi køber deres varer. Vi er derimod maskinens råmateriale. Vores personoplysninger, kommunikation, interageren og generelle adfærd i den digitale sfære er brændstof for maskinintelligens, der med stadig større nøjagtighed kan påvise mønstre i den menneskelige adfærd.

Den totale vished

Overvågningskapitalismen opstod hos Google. I kølvandet på it-boblens brist ved årtusindskiftet blev der længere og længere mellem de villige investorer. Det stod ikke længere klart, hvor indtjeningen fra de digitale services skulle komme fra. Men i afmagtens time viste folkene hos Google sig snarrådige. Man havde indtil da været meget betænkelig ved at gøre annonce­markedet til virksomhedens primære forretning. Men i takt med at de økonomiske genvordigheder voksede sig stadig større, gik man på kompromis med det idealistiske udgangspunkt.

Man opdagede et overskud af data om brugernes adfærd, når de brugte virksomhedens tjenester, der indtil da havde ligget stort set uudnyttet hen. Oplysninger om tidspunkter for søgninger, og hvor folk havde tendens til at klikke sig hen. Opdagelsen kunne bruges til at forudsige den enkeltes færden på nettet, og det blev startskuddet til målrettet annoncering. Et marked for forudsigelser af den menneskelige adfærd var skabt, og siden da har målet været at forfine disse forudsigelser.

Det første skridt mod den totale vished om vores ageren var at skaffe data i enorme mængder. Siden da har fokus været på at få varieret data. Her har vores mobiltelefoner og såkaldt smarte enheder i dagligdagen gjort det muligt at få et indblik i vores tilværelse uden for den digitale verden. På gaden, i indkøbs­centeret. Sågar i hjemmet.

»Siden da er den samme logik blevet overført fra tech-sektoren til den gængse økonomi. Nu om dage ser vi den i forsikringsbranchen, i detailhandlen, i sundhedssektoren og i finansverdenen. Nu er logikken blevet overtaget af alle mulige virksomheder i deres fremstilling af produkter. Når du støder på en smart-enhed eller en personliggjort service, udspringer de produkter af den her logik,« forklarer Zuboff.

– Så når nogen sælger en bil, kan det egentlige motiv faktisk være at skaffe data?

»For nylig sagde direktøren i Ford Motor Company i et interview, at man er løbet ind i strukturelle problemer, fordi folk ikke længere køber lige så mange biler, som de gjorde tidligere. Her kom han ind på, at Ford kan drage nytte af, at mange millioner mennesker kører rundt i deres biler. Idéen var at bruge data fra bilerne til at opbygge en database. Så her ser vi, hvordan de gamle markeder nu også bliver overtaget af den her logik. Det er der en smuk ironi i.«

Det stopper dog ikke her, forklarer Zuboff:

»I takt med at konkurrencen skærpes yderligere, er vi gået ind i en tredje fase. Her er tanken, at den bedste måde at bruge data til at forudsige adfærd rent faktisk er at lære, hvordan man manipulerer med handlinger. Hvordan man skaber dem. På den måde kommer man tættere på en vished om den menneskelige adfærd, som er det, de sælger til deres kunder. Når man gør sig i at sælge vished, giver det mening at influere handlinger, fordi det på den måde er nemmere at forudsige dem.«

Envejsspejl

Overvågningskapitalismens udvikling over årene har været svøbt i permanente røgslør og tvetungede erklæringer fra virksomhederne i centrum. Ofte er virksomhedernes seneste påfund først kommet til offentlighedens kendskab, længe efter at de har været sat i søen, og det er sjældent sket med virksomhedernes gode vilje.

»Lige fra begyndelsen forstod de, at denne tilraning af vores data blev nødt til at ske i al hemmelighed. Med andre ord blev det nødt til at blive gjort gennem et envejsspejl. De kan se, hvad du foretager dig, men du kan ikke se dem. Det er derfor, jeg kalder det overvågningskapitalisme. Det er skam ikke bare for at provokere,« siger hun.

Denne nye markedsform stiller os derfor over for en helt ny type udfordringer. Vrangforholdet mellem brugernes og virksomhedernes viden om hinanden udgør ifølge professoren et demokratisk problem.

»Det er systemer, der er skabt til at svække menneskelig handlekraft. Fordi de er designet til at være udechifrerbare og uigennemskuelige, frarøver de os retten til at vælge. De frarøver os vores selvbestemmelse, vores autonomi og individuelle suverænitet. Det er kvaliteter, som vi traditionelt forbinder med frihed. Det er byggestenene i vores samfund. Uden dem er det umuligt at forestille sig et fungerende demokrati.«

Kampen for demokratiet og individets selvbestemmelse kommer dog ikke til at forløbe uden modstand. Overvågnings­kapitalisterne vil på trods af imødekommende tilkendegivelser ikke opgive deres dyrebare data uden kamp, og de skyr ingen midler.

»Når først man forstår den økonomiske logik, går det op for en, at deres handlinger er et udslag af overvågnings­kapitalismens imperativ. Det er ikke, fordi de er onde. Det er folk, der føler sig så forpligtet over for et økonomisk maskineri, der afkræver bestemte metoder. Hvis ikke de følger de metoder, vil maskinen simpelthen stoppe med at fungere.«

Persona non grata

For ganske nylig blev Zuboff bekræftet i, at målet helligede endda meget grove midler for de her virksomheder. Financial Times kunne i starten af juni afsløre, at Microsoft i al hemmelighed slettede en database, der indeholdt mere end 10 millioner billeder af knap 100.000 personer. Databasen, der blev oprettet tilbage i 2016, var angiveligt verdens største database til brug for ansigtsgenkendelse. Den gik under navnet MS Celeb og bestod, som navnet antyder, overvejende af offentlige personer. Blandt de gængse hollywoodstjerner og sportspersonligheder gemte sig også en række højlydte kritikere af de digitale virksomheders indtjeningsmetoder.

»Et af de ansigter tilhørte Julie Brill, tidligere leder af Federal Trade Commission (den amerikanske pendant til Konkurrence- og Forbrugerstyrelsen, red.), som har kæmpet for forbrugernes privatliv. Der var ansigter på kritiske journalister. Mit ansigt var der også,« siger hun og ler forbløffet.

Jeg spørger til hendes reaktion på at finde ud af, at hun på den måde er blevet en persona non grata hos overvågnings­kapitalisterne. Hun tøver et øjeblik og virker til at famle efter et godt sted at begynde. Videnskabskvinden i hende nægter at drage forhastede konklusioner. Hun understreger, at hun stadig er i gang med at undersøge de nærmere omstændigheder, men medgiver, at det nok ikke er tilfældigt, at hun og andre kritikere er en del af databasen. Hun vægter sine ord, som var de genstand for en fagfælles bedømmelse.

»Det udstiller tydeligt, hvor langt disse firmaer går for at styre uden om en diskussion om vores fremtid og den effekt, de har på vores samfund, hvis ansatte i et firma som Microsoft kan føle sig så truede af folk som mig selv, Julie Brill og hårdt­arbejdende journalister – mennesker, der bare gør deres arbejde og prøver at bidrage til en fælles samtale. På en måde viser det validiteten af vores kritiske analyser. Det her er ikke den form for svar, man forventer fra en virksomhed, der er i stand til at reflektere over sin indflydelse på samfundet. Det er en aggressiv og vred reaktion. Det er ikke en reaktion, man håber på at få fra virksomheder, der er blevet så righoldigt belønnet af det samfund, de udnytter.«

– Blev du overrasket over, at de valgte at reagere på den måde?

»Jeg kan ikke påstå, at jeg blev overrasket, men det gjorde mig alligevel bedrøvet. Jeg så jo gerne, at de kom med nogle mere modne og eftertænksomme svar, der kommer kritikken af deres metoder i møde. Jeg kommer dog ikke til opgive håbet om, at der kan ske forandringer.«

Data og organer

Vi kan dog ikke længere fæstne lid til virksomhederne. Deres gentagne løfter om bod og bedring har vist sig ikke at holde vand.

»Forandringerne kommer ikke til at udgå fra overvågnings­kapitalisterne selv. Vi lever ikke længere i en tid, hvor vi kan have oprigtig tro på, at de er i stand til at regulere sig selv. Den økonomiske maskine er alt for kraftfuld til, at vi kan håbe på, at de kommer på bedre tanker. Den tid er ovre, hvis den nogensinde har eksisteret.«

Ifølge Zuboff skal løsningerne findes på tre fronter. Først og fremmest skal vores demokratiske institutioner træde i karakter. Hun vurderer, at der må drastiske midler til.

»Vi bliver nødt til at forbyde markeder, der lukrerer på forudsigelser af menneskelig adfærd. Vi forbyder jo andre markeder, der har skadelige effekter. Tænk bare på markedet for menneskelige organer.«

Hvis man forbyder det marked, vil det også skabe rum for en større konkurrence, hvor nye aktører kan skabe digitale løsninger uden de samme negative konsekvenser. Sidst, men ikke mindst, er vi som borgere nødt til at organisere os og tale de magtfulde virksomheder midt imod, forklarer hun.

– Men som du selv påpeger i bogen, er vi leverandører af råmateriale. Vi er hverken forbrugere eller arbejdere og har derfor ikke nogen økonomisk magt at slå igen med?

»Jeg tror, at vi vil se noget, der minder om det, der skete i Storbritannien i 1830rne, da en ny arbejderklasse tog form ud af ingenting. De begyndte at organisere sig på måder, man ikke havde set før. Jeg tror på, at noget lignende kan ske i dag. At vi skaber nye former for kollektiv handling. Vi ser byer, der siger fra over for nye idéer om smart cities. Folk nægter at lade privat kapital få kontrol over vores data og vores lokalmiljøer.«

Tidligere tiders kapitalisme har haft lignende startvanskeligheder, påpeger hun. Det kan tage årtier at få implementeret den rette lovgivning. Første skridt er dog at forstå, hvad det er for en størrelse, man står over for.

»En af grundene til, at jeg er optimistisk, er, at overvågnings­kapitalismen blot er 19 år gammel. Hvis vi havde brugt hvert et minut de sidste 19 år på at bekæmpe dem med love og regulering uden succes, ville jeg være pessimistisk. Men de sidste 19 år har vi dårligt forstået, hvad der var ved at ske. Vi er ikke kommet i gang for alvor, men det skal vi.«

Side 6