»En digital steppebrand.« Det var en gribende metafor World Economic Forum fandt frem, da de i 2013 skulle præsentere deres årlige rapport om de store globale trusler.
Det er urmenneskeligt at frygte ilden, der breder sig ukontrollabelt og truer med at indhente og omslutte os. Men i den digitale steppebrand er det ikke en ubetænksom turists cigaret, der antænder det visne græs. Det er i stedet et rygte eller ondsindet misinformation, der spreder sig ukontrollabelt med det verdensomspændende internet til de naive masser, der antændes af de fejlagtige oplysninger som knastør vegetation.
Når 10erne passerer revy med billederne af Trump, russisk propaganda, vaccinepanik og klimaskeptikere, er man tilbøjelig til at tro, at profetien er gået i opfyldelse: De enfoldige masser er blevet forført af konspirationsteorier og fake news.
Men er mennesket virkelig så godtroende, eller er det hele bare en forførende fortælling, vi har bundet hinanden på ærmet? Det spørgsmål stiller den franske kognitionsforsker Hugo Mercier i bogen Not Born Yesterday: The Science of Who We Trust and What We Believe, der udkommer på Princeton University Press i slutningen af januar.
Sammen med sin tidligere ph.d.-vejleder Dan Sperber har Mercier det sidste årti vakt opsigt i kognitionsvidenskaben med deres såkaldt interaktionistiske teori om menneskets forstand. Den præsenterede de i deres bog The Enigma of Reason fra 2017, der høstede ros fra internationale medier som Science, The New Yorker og Financial Times – og fra sværvægtere i psykoloigen som Steven Pinker og Jonathan Haidt.
Der en en lang historisk tradition i den vestlige tænkning fra Platon til Marx for at male et billede af mennesket som udpræget godtroende, og det seneste årti har prominente nobelprismodtagere som psykologen Daniel Kahneman og økonomerne George Akerlof og Robert Shiller peget på bias og genveje i vores tænkning, som kan føre til fejlslutninger eller udnyttes.
Menneskets evne til at tænke logisk alene lader ganske rigtigt noget tilbage at ønske. Det skyldes, at vores forstand slet ikke er udviklet til at søge de bedste svar på egen hånd, indvender Mercier og Sperber. Ifølge deres teori er vores rationelle tænkning en social evne, der er opstået som reaktion på menneskers unikke tilbøjelighed til at samarbejde og kommunikere med hinanden.
Der har igennem historien været store fordele ved at kunne dele oplysninger med vores artsfæller, men dialogen indebærer også en risiko for, at andre bevidst fortæller noget forkert. Vi kan altid bedst stole på os selv. For ikke at blive taget ved næsen må mennesket derfor have udviklet et kognitivt forsvarsapparat målrettet bedrag og løgne, og denne evne er netop kernen i Merciers argumentation mod idéen om det godtroende menneske.
»Når jeg fremførte det her synspunkt for forskere fra forskellige felter, var mønsteret, at de på deres eget område godt vidste, at folk ikke var specielt lette at påvirke. Men mange var overbeviste om, at folk generelt er godtroende,« siger Hugo Mercier, der er forsker ved den franske forskningsinstitution Institut Jean Nicod tilknyttet institut for kognitionsvidenskab ved Ecole normale supérieure i Paris.
»Alle havde på en måde en brik til puslespillet, men troede alligevel på, at folk på andre områder var godtroende. Så det handlede bare om at lægge al den evidens sammen.«
Brikkerne til puslespillet samler Hugo Mercier møjsommeligt i sin bog, hvor han gennemgår forskningen i de ikoniske fortællinger om manipulation, propaganda og den letpåvirkelige pøbel.
I nogle tilfælde viser historierne sig at være det pure opspind. Det gælder for eksempel idéen om, at man underbevidst kan manipulere folk til at købe Coca-Cola, hvis man i en biograf viser et glimt af et billede med en besked om at drikke Coca-Cola.
»Det er der absolut intet bevis for. Det samme gælder idéerne om hjernevask og forestillingen om, at folkemasser er gale og paniske. Det viser sig mest af alt at være gode historier, som folk gerne vil høre, fordi det er skræmmende og interessant. Der har aldrig været evidens for, at det skulle være tilfældet,« siger Hugo Mercier.
Andre fortællinger om massepåvirkning kan fremstå mere plausible. Der bruges uhyrlige summer på reklamer og politiske kampagner, og religiøse bevægelser gør sig store anstrengelser for at omvende folk. Ville man bruge så meget energi på at overbevise folk, hvis ikke de var til at forføre?
Ved nærmere eftersyn minder mange af de klassiske eksempler på massemanipulation langtfra om en steppebrand. Når det overhovedet lykkes at overbevise nogen, er der snarere tale om, at hvert græsstrå slidsomt blev antændt et efter et.
Siden 1940erne har man vidst, at propaganda ikke lader til at have den store effekt i demokratiske samfund, og et studie fra 2018, der samlede en mængde felteksperimenter med politiske kampagner, fandt generelt kun en overbevisende effekt i ganske sjældne tilfælde – en effekt, der var væk, inden man nåede til valgdagen. Heller ikke i autoritære regimer som i Nazityskland, Sovjet, Kina eller Nordkorea lader propaganda til at omvende mange, og selvom religiøse bevægelser og reklamekampagner måske kan rykke folk en lille smule, lader de hovedsageligt til at få folk til at gøre ting, de alligevel ville have gjort.
Mange af de tilfælde, der på overfladen ligner succesfulde eksempler på massemanipulation, handler ved nærmere eftersyn om andre ting. Folk i diktaturstater opfører sig ganske vist som overbeviste proselytter, men ifølge Mercier er årsagen ikke regimets propaganda, men snarere truslen på dissidenters liv.
Projektøren rettes ofte mod det forkerte, når vi frygter, at fake news og misinformation forfører befolkningen, argumenterer Mercier. Manipulationen er sjældent kilden til folks rabiate synspunkter og handlinger. I stedet fungerer konspirationsteorierne som en måde at retfærdiggøre allerede eksisterende synspunkter og ønsker:
»Når demagoger og populister har succes, er det ofte, fordi de siger de ting, som folk allerede er enige i. Hvis man kigger på Trump, har han ikke overbevist folk om, at immigranter er en dårlig ting. Han taler til nogle følelser, der allerede eksisterede i det amerikanske samfund, men som ingen politikere for alvor repræsenterede,« siger Hugo Mercier.
Hvis ingen for alvor besnakkes af manipulationsforsøgene, hvorfor bliver demagoer og svindlere så ved?
»Bare fordi nogen gør noget, betyder det ikke nødvendigvis, at det virker efter hensigten. Og selvom det måske fungerer i en eller anden grad, behøver det ikke virke på den måde, vi går og forestiller os.«
De berygtede Nigeriabreve er en interessant illustration af Merciers pointe. I det legendariske fupnummer sendes e-mails med et tilbud om at få del i en stor pengesum mod først at sende et mindre beløb. Ordlyden i brevene, der ofte har en nigeriansk prins som afsender, er absurd og vil virke komisk for de fleste mennesker.
»Når man ser dem, tænker man, at folk må være ekstremt godtroende, siden det kan betale sig at sende nogle så absurde breve afsted. Men for nogle år siden kom et interessant studie, der argumenterede for, at brevene faktisk bevidst var utroværdige.«
Studiet peger på, at det store arbejde ikke består i at sende de første mails ud til en masse mennesker, men i stedet i den efterfølgende korrespondance med dem, der svarer. Derfor handler det for fupmagerne om at minimere andelen, som svarer på den første mail, men alligevel ender med ikke at sende penge.
»Det kan man gøre ved kun at gå efter dem, der temmelig sikkert ikke kan gennemskue den slags fupnumre. Hvis man tror på, at en nigeriansk prins sender en e-mail og gerne vil dele ud af sine penge, er man nok ikke særligt velinformeret, og så er der en god chance for, at man også falder for resten.«
Mange løgne har ifølge Mercier slet ikke til hensigt at overbevise folk. Saftige rygter, skræmmende fortællinger og absurde teorier har i stedet en social funktion. De kan få folk til at fremstå interessante, og rabiate udsagn kan tjene til at manifestere et tilhørsforhold til ekstreme grupper.
»Siger man noget tilstrækkeligt dumt eller ondsindet, vil resten af samfundet afvise dig, og den omkostning er så stor, at den sender et stærkt signal til de andre i den ekstreme gruppe om, at man gerne vil være en del af den,« siger Hugo Mercier, der forklarer, at der kan opstå en selvforstærkende bevægelse i yderligtgående grupper, der kan forklare nogle af de mest groteske udsagn.
»Hvis alle i gruppen har de samme ekstreme holdninger, vil man gerne sige noget, der er mere absurd. Politologen Xavier Márquez taler om hyldestinflation, hvor folk smigrer en diktator på stadig mere groteske måder, fordi de gerne vil vise deres hengivenhed.«
Det kan virke ekstremt irrationelt, at absurde udsagn ligefrem kan give anerkendelse. Hvilken interesse har en gruppe i, at medlemmerne konkurrerer om virkelighedsfjerne synspunkter?
Ifølge Mercier er det centralt at forstå, at de tossede meninger ofte ikke har den store betydning for, hvordan folk handler. Det skyldes, at mennesket har to forskellige typer overbevisninger – det, som Merciers kollega Dan Sperber har kaldt henholdsvis intuitive og refleksive overbevisninger. Vi er intuitivt overbeviste om, at det er farligt at hoppe ud fra en skrænt. De refleksive overbevisninger er derimod uforpligtende hjernegymnastik, som man sagtens kan tro ganske fast på, men som man ikke nødvendigvis ville handle efter i de tilfælde, hvor de strider mod ens intuitive overbevisning. Selvom nogle folk i Nordkorea eksempelvis siger, at Kim Jong-un kan kontrollere vejret, ville de nok blive chokerede, hvis det skete i virkeligheden. Den ultimative test er ifølge Mercier, om folk handler, som man skulle forvente, hvis de virkelig troede på de absurde teorier:
»Der eksisterer mange konspirationsteorier om den amerikanske efterretningstjeneste, men tror man virkelig, at NSA og CIA overvåger os alle og slår amerikanske statsborgere ihjel, vil man jo aldrig sige det højt. Man vil tie stille og blive i sin kælder, fordi man er bange for at blive dræbt,« siger Hugo Mercier.
Andre fejlopfattelser handler folk imidlertid i overensstemmelse med. Det mest håndgribelige eksempel er vaccineskeptikere, der vælger ikke at vaccinere deres børn. Ifølge Mercier skyldes vaccineskepsis formodentlig ikke godtroenhed, men snarere menneskets uvillighed til at revidere sit intuitive syn på verden.
»Vaccination er ekstremt kontraintuitivt for folk, fordi folk opfatter det som at injicere sygdom i en rask baby. Her er standardreaktionen at være skeptisk, og det er kun, fordi læger og forskere siger, at det er en god ide, at folk med tiden ændrer holdning.«
Men hvad med internettet? Den vind, der spreder den digitale steppebrand i ukontrollabelt tempo. Er vores ældgamle menneskehjerne bygget til at modstå det pres? Problemet i den nuværende situation er ifølge Mercier ikke, at vi ukritisk godtager for meget information, men snarere, at vi accepterer for lidt.
I psykologien taler man om den såkaldte bekræftelsesbias, hvor vi leder efter oplysninger, som bekræfter vores eksisterende holdninger. Det bliver gerne betragtet som en fejl i tænkeapparatet, men er måske i virkeligheden et bolværk mod bedrag.
»De mennesker, der afviser den videnskabelige konsensus om klimaforandringer, er ikke blevet hjernevasket af klimabenægtere. Det er snarere den intuitive reaktion at være skeptisk over for påstanden om, at mennesket skulle være i stand til at ødelægge klimaet, fordi det umiddelbart er så kontraintuitivt. Det er først, når man sætter sig ind i al det videnskabelige arbejde, og hvordan klimamodellerne fungerer, at man kan ændre sit syn på det, og den slags oplysninger er der mange, der ikke har,« siger Mercier.
Hvis problemet ikke er folks blinde tillid, men deres overdrevne skepsis, betyder det omvendt, at vi ikke skal forvente at kunne modvirke ekstreme holdninger og handlinger ved at bremse misinformationen.
Mercier mener snarere, at vi skal fokusere på at sprede de rigtige oplysninger. Det er imidlertid en meget sværere opgave, fordi vi instinktivt er skeptiske over for oplysninger, der ikke passer ind i vores eksisterende verdensbillede. Det bedste middel mod denne skepsis er ifølge Mercier gode argumenter og høj troværdighed:
»Når fortællingen om de godtroende mennesker er så populær, skyldes det blandt andet, at det er en måde at skubbe ansvaret fra sig. Vi tænker, at alt ville være fint, hvis bare russerne ikke forsøgte at manipulere os. Men man har færre konspirationsteorier de steder, hvor regeringer er mere gennemsigige og mindre korrupte,« siger Hugo Mercier. »I Frankrig har man endda forsøgt at gennemføre en lov, som gør det ulovligt at sprede misinformation. Det er i høj grad et vildspor. Der er mange problemer i fransk politik, men hvis institutionerne var mere pålidelige, ville vi nok have færre problemer. Det er bare et meget sværere problem at løse end at forbyde misinformation.«
