Klumme. Skal en selvkørende bil ofre en pensionist for at redde et spædbarn? Skal den slå chaufføren ihjel, hvis det kan redde tre fodgængere? Og hvad nu, hvis fodgængerne gik over for rødt? Svarene afhænger af, hvor i verden man befinder sig.

Den moralske maskine

Den moralske maskine

Vi står foran en tid, hvor maskiner i højere og højere grad kommer til at løse opgaver – eller træffe beslutninger, om man vil – der har direkte indflydelse på menneskers liv og død. En teknologi, der i den forbindelse har tiltrukket sig stor opmærksomhed, er selvkørende biler. Bilproducenter og politikere står over for den gevaldige opgave at skulle bestemme, hvordan der bør prioriteres i tilfælde, hvor det er uundgåeligt, at nogen bliver påkørt, og hvor spørgsmålet derfor er: Hvem skal ofres?

Det er let at se, at et svar på det spørgsmål langtfra er en enkel sag. Antag for eksempel, at en selvkørende bils bremser er defekte, og at der enten er mulighed for at påkøre nogle fodgængere længere fremme på vejen eller at lave en undvigemanøvre ved at køre bilen ind i en mur. Spørgsmålet er nu, om bilen bør programmeres til at sikre passagererne ved at fortsætte kørslen, eller om det i stedet er passagererne, der må ofres, ved at lave den undvigelse, der sikrer fodgængerne.

Læs også om et overset aspekt ved elløbehjul: »Høj surf på databølgen«

Ved nærmere eftersyn er det klart, at et svar kan afhænge af mange faktorer. Et oplagt spørgsmål er for eksempel, hvilken rolle antallet af ofre bør spille. Hvis der er én passager i bilen, mens der er to fodgængere, der bliver påkørt, bør bilen så prioritere at skade det mindste antal? Og hvad nu, hvis valget står mellem børn og voksne? Er det mere vigtigt at redde et barn end en midaldrende? Og hvad med en gravid? Eller hvad hvis fodgængeren selv har begået en forseelse ved at gå over for rødt lys? Har man mindre krav på beskyttelse – og er det dermed mere acceptabelt, at ens liv ofres – hvis man har forbrudt sig mod loven?

Hvordan i alverden svarer man på den type dilemmaer? Det har et hold forskere bestående af økonomer og psykologer fra Harvard, MIT og universitetet i Toulouse givet et bemærkelsesværdigt bud på. Deres svar er nyligt publiceret i det videnskabelige top-tidsskrift Nature.

Antagelsen bag studiet er, at det ikke rækker, at filosoffer eller andre teoretikere tænker over, hvad der etisk set udgør de mest rimelige rationaler bag en prioritering. For at selvkørende biler skal kunne fungere i praksis, må der være en vis konsensus i befolkningen om, hvordan de skal programmeres til at prioritere, når uheldet er ude. Men er der en sådan konsensus?

For at besvare det spørgsmål har forskerne designet en online platform kaldet den »moralske maskine«. Her har almindelige borgere kunnet givet deres bud på, hvad de synes, er rimelige prioriteringer i en række forskellige scenarier, hvor en selvkørende bil uundgåeligt kommer til at slå nogen ihjel. Den mulighed har rigtig mange benyttet sig af. Faktisk er studiet endt som det største af sin art nogensinde. Forskerne har samlet ikke mindre end 40 millioner svar fra borgere fordelt over 233 lande og territorier. Svarene viser blandt andet, at der er betydelige geografiske og kulturelle forskelle på de essentielle spørgsmål.

Ud fra de mange svar viste der sig at være tre etiske vurderinger, der har en særlig bred tilslutning. Den første og meste udbredte er, at mennesker bør prioriteres højere end dyr. Sidstnævnte kan naturligvis også komme til skade, hvis en selvkørende bil har en defekt, men opfattelsen er altså ikke overraskende, at de altid bør ofres før mennesker.

Den vurdering, der samlede det næststørste flertal, er, at antal har betydning. Det er bedre at ofre færre liv frem for flere. Endelig er det også en udbredt opfattelse, at alder bør spille en rolle i en prioritering. Det er mere vigtigt at redde et ungt menneske end et ældre. Givet den brede tilslutning er forskernes forslag, at disse tre vurderinger bør udgøre en slags basale byggesten i regelsæt for prioritering for selvkørende biler.

Læs også om et totalt overvåget samfund, hvor kameraer former folks adfærd: »Sjælens ingeniører«

For endvidere at kunne få overblik over, hvilke variationer der hersker mellem folks vurderinger, inddelte forskerne de 100 lande, hvorfra der var indkommet flest besvarelser, i tre overordnede kulturelle zoner. En vestlig zone (USA og Europa), en østlig zone (Mellem- og Fjernøsten) og en sydlig zone (Central- og Sydamerika). Ved nærmere analyse viste der sig flere forskelle mellem disse zoner.

For eksempel viste det sig, at den moralske præference for at spare unges liv var mindre udtalt i lande i den østlige zone og mest fremherskende i landene i den sydlige zone. Omvendt var der en mindre udtalt prioritering af mennesker frem for dyr i den sydlige zone frem for i de to andre. Endvidere viste der sig at være en lidt større præference for at spare kvinders liv frem for mænds i den sydlige zone – en skævhed, der ikke fandtes i de andre zoner.

Den yderligere analyse af forskelle på tværs af geografiske og kulturelle områder viste i øvrigt, at præferencen for at tildele antallet af ofre betydning var betydeligt mere udtalt i såkaldt individualistisk-orienterede lande frem for i lande, der anses for mere kollektivistiske. I kollektivistiske lande var man til gengæld mindre tilbøjelige til at prioritere unge frem for ældre. Et andet nævneværdigt resultat var, at svarene fra mere fattige lande (målt ud fra BNP per indbygger) viste en mindre tendens til at tillægge det betydning, om en fodgænger havde forbrudt sig mod loven, end det var tilfældet i rigere lande.

I hvor høj grad kan en sådan undersøgelse så hjælpe dem, der skal skrive lovene og programmere bilerne?

Selvom det er interessant at uddestillere etiske vurderinger på tværs af lande, er det også klart, at studiet ikke når så langt i forhold til virkelige prioriteringer. For eksempel kan forskellige forhold – antal, alder, skyld med mere – jo tænkes kombineret på utallige måder. Hvad der i så fald bør prioriteres, bliver hurtigt uklart.

For det andet bygger studiet på den stipula- tion, at man ved, at nogen dør. Men virkeligheden er jo mere kompleks. Der kan være tilfælde, hvor nogen påføres skader af større eller mindre alvor. Og endelig ser studiet helt bort fra sandsynligheder – et forhold man ved, vi mennesker ofte har svært ved at håndtere intuitivt. Hvis selvkørende biler virkelig skal finde anvendelse i gadebilledet, så er der nok stadig brug for, at man også tænker dybere over, hvad der udgør de mest rimelige principper for prioritering – hvilket forskerne da heller ikke afviser.

 

Læs også om opgøret mellem EU-Domstolen og de europæiske stater om brug af teledata: »Den store privatlivskrig«

Side 62