De store bilproducenter er ikke i tvivl: Førerløse biler er fremtiden, og det er en fremtid fyldt med forbedringer. Med robotter i stedet for mennesker ved rattet bliver det slut med hasarderede overhalinger, spritkørsel og distræte chauffører, der kører galt, fordi de lige skal tjekke mobilen. Førerløse biler kan skabe ro, rationalitet og sikkerhed på vejene, og forskere spår, at en fuldt udrullet park af selvkørende biler vil kunne reducere antallet af dødsulykker i trafikken med hele 90 procent.
Der er bare et lille men. For selvom den førerløse fremtid tegner betydeligt mere sikker end i dag, er vejen dertil brolagt med ubehagelige dilemmaer. Det er nemlig ikke altid, at kørslen vil forløbe så gnidningsfrit som beskrevet ovenfor, og sidste måneds massivt mediedækkede Uber-ulykke i Arizona gjorde det klart for alle, at også førerløse biler kan slå ihjel. Er vi som samfund klar til at acceptere robotter som dødsbilister – og hvordan skal bilerne programmeres til at reagere, hvis en ulykke er uundgåelig, og valget står mellem flere scenarier med dødelig udgang?
»Et af de grundlæggende spørgsmål er, om vi skal programmere bilerne til at minimere den samlede skade og redde flest mulige liv, eller om de skal beskytte deres egne passagerer og så se stort på resten,« fortæller filosofiprofessor ved University of Massachusetts Lowell, Nicholas Evans, til Weekendavisen.
Evans modtog sidste år et forskningsstipendiat fra National Science Foundation til at bygge »etiske algoritmer«, som skal hjælpe til at kontrollere og guide de selvkørende bilers adfærd. Sammen med sit team af filosoffer og ingeniører forsøger han ved hjælp af risikoberegninger at opstille modeller for, hvordan forskellige filosofiske teorier vil påvirke udfaldet i en lang række scenarier, hvor en ulykke er uundgåelig.
Lad os tage et eksempel: En førerløs bil kommer kørende ad en landevej. Pludselig løber et barn ud foran bilen. Der er ikke tid til at bremse, og bilen står nu over for et skæbnesvangert valg. Hvis den fortsætter ligeud, rammer den barnet. Afviger den, vil den ramme et vejtræ og sætte passagerens liv på spil. Hvad skal den gøre? Og vil beslutningen ændre sig, hvis det i stedet for ét barn, var tre børn?
Denne type dilemmaer er inden for etikken kendt som »trolley-problemet« og har givet filosoffer hovedbrud i årtier. Men modsat filosofiens abstrakte tankeeksperimenter bliver de i spørgsmålet om førerløse biler særdeles konkrete. For bilen skal gøre noget, og det valg, den træffer, vil afhænge af de algoritmer, der er kodet ind i bilens kunstige intelligens.
Er bilens algoritme eksempelvis baseret på en utilitaristisk (nytteorienteret) filosofi, vil målet være at beskytte flest mulige mennesker – også hvis det indebærer at slå bilens egen passager ihjel. Andre filosofiske skoler vil omvendt fastholde, at det er fuldt forsvarligt at beskytte sig selv mod skade, og at bilen derfor har ret til at sætte passagerens liv over andres i trafikken.
Evans’ forskningsprojekt har ikke til opgave at afgøre, hvilken teori der er den bedste eller rigtigste, men derimod at synliggøre konsekvenserne ved de forskellige etiske tilgange. Selvkørende biler bliver allerede testet på landevejene i flere amerikanske stater af selskaber som Ford, Tesla og Waymo, men der er ifølge Evans behov for at udforske de etiske implikationer, før de førerløse modeller kan komme på markedet.
»Hver gang en maskine tager en beslutning, der er baseret på risikoberegning, træffer den en moralsk beslutning. Vores mål er at gøre disse moralske mellemregninger tydelige,« fortæller Evans.
Spørgsmålet er, om filosofiske mellemregninger som disse er tilstrækkelige til at få befolkningen til at omfavne den førerløse teknologi. Mens både bilindustrien og myndighederne presser på for at gøre bilerne førerløse, så er forbrugerne langtfra overbeviste. En undersøgelse foretaget af American Automobile Association sidste år viste, at 78 procent af de adspurgte var bange for at sætte sig ind i en førerløs bil, og kun 19 procent stolede på teknologien bag.
Ifølge Jean-François Bonnefon, som er psykolog og seniorforsker ved Toulouse School of Economics, er der i befolkningen en række »psykologiske barrierer«, som gør det svært at acceptere de førerløse biler. En af dem er spørgsmålet om sikkerhed, hvor rationelle argumenter har trange kår.
»Det er afgørende, at du som forbruger har tillid til, at bilen er sikrere end dig selv. Problemet er, at fire ud af fem mener, de selv kører mere sikkert end den gennemsnitlige billist. For at acceptere en førerløs bil, skal den være mere sikker end den ideelle version af dig selv – og det skaber nogle helt urealistiske forventninger,« siger Bonnefon til Weekendavisen.
En anden af de psykologiske barrierer er ubehaget ved, at de selvkørende biler kan slå mennesker ihjel i trafikken. Som eksempel nævner Bonnefon dødsulykken i Arizona, hvor en førerløs Uber-bil dræbte en kvinde, der var i færd med at krydse vejen med sin cykel. En hændelse, der skabte kolossal medieopmærksomhed til trods for, at mere end 40.000 mennesker dør i trafikken i USA hvert år.
»Vi er vant til, at mennesker kan fejle, men vi bliver bange, når en ulykke forårsages af en robot. Vi antager, at det vil ske igen og igen, fordi maskinen er kodet sådan. Det store problem er, at vi ikke forstår, hvordan maskinen fungerer, og hvorfor den gør, som den gør,« fortæller Bonnefon til Weekendavisen.
Det er da heller ikke nogen enkel sag at forstå den teknologi, der opererer i de førerløse biler. Én ting er bilens »sanseapparat« med censorer, kameraer og LIDAR-teknologi, som med lysets hastighed genererer et lasergenereret 3D-kort over bilens omgivelser. En anden ting er de komplicerede processer, som styrer bilens beslutningsproces.
»Denne type kunstig intelligens er ekstremt kompleks og gennemfører millioner af matematiske operationer, hver gang den træffer en beslutning. Det gør det meget vanskeligt for almindelige mennesker at gennemskue, hvordan det foregår,« fortæller Kate Saenko, som forsker i kunstig intelligens ved Boston University, til Weekendavisen.
Saenko arbejder på at udvikle en type algoritmer til såkaldt machine learning, som gør det lettere for computeren af forklare sine beslutninger til brugerne. Målet er at nedbryde forståelseskløften mellem menneske og maskine ved at gøre maskinens »tænkning« synlig og forståelig for almindelige mennesker.
»Hvis kunstintelligens-teknologien bliver mere forståelig og intuitiv, vil folk hurtigere føle sig trygge, og den vil hurtigere kunne indoptages. Det vil også gøre det lettere at forstå og udbedre fejl,« siger Saenko.
Indtil videre er det kun de færreste, der kan forstå, hvad der egentlig foregår i den selvkørende bils elektroniske baghoved. Til gengæld ved vi en del om, hvad der forårsager ulykker, når det er mennesker, der fører bilerne. Og måske burde det være argument nok til at overlade rattet til de komplekse computere. Det mener i hvert fald Nicholas Evans, som gerne ser, at vi lader maskinerne varetage biltransporten.
»90 procent af trafikulykker er forårsaget af menneskelige fejl og ting som for høj fart eller spritkørsel. Hvis alle biler kan blive udstyret med en chauffør, som ikke bliver træt eller fuld, vil vi kunne vinde meget i det lange løb,« siger Evans.
Holdningen deles af Jean-François Bonnefon, som ser rigelig grund til allerede nu at have mere tillid til førerløse biler end til mennesker. For det første overgår deres reaktionsevne langt de menneskelige reflekser, hvilket gør det muligt at bremse og afvige meget hurtigere og mere præcist. For det andet kan en etisk programmering bruges til at forbedre de ting, der ikke fungerer i en presset situation, når det er et menneske, der sidder bag rattet.
»Mennesker handler per refleks og instinkt, ikke etisk, men her har vi muligheden for at tænke dybt over, hvad vi burde gøre og programmere bilerne derefter. Vi vil netop ikke have bilerne til at reagere som mennesker; vi vil gerne have dem til at køre bedre end mennesker!« siger Bonnefon.
Så hvordan bør bilerne handle? Mens Evans angriber problemstillingen ved hjælp af filosofiske teorier, har Bonnefon undersøgt, hvad helt almindelige mennesker tænker. Sammen med forskere fra MIT, Harvard og University of Califormia står han bag projektet »Moral Machine« – en online simulator, hvor fire millioner mennesker fra mere end 100 lande indtil videre har tilkendegivet deres moralske præferencer i en række forskellige trolley-dilemmaer, der involverer førerløse biler.
Den moralske konsensus er slående. Langt hovedparten af de adspurgte mener i tråd med den utilitaristiske etik, at bilen skal minimere det samlede antal døde eller tilskadekomne, uafhængigt af om der er tale om passagerer eller fodgængere. Når de bliver spurgt, om de selv ville købe en bil, som følger denne etik, er svaret imidlertid et rungende nej. Vi vil tilsyneladende gerne have andre til at køre rundt i selvopofrende biler, men vores egen skal helst sætte passagerens liv i højsædet.
Denne divergens mellem moralske idealer og den enkeltes behov for selvbeskyttelse ligner på papiret et uløseligt dilemma. Og den etiske dimension i debatten om førerløse biler rejser en lang række nye komplicerede spørgsmål: Hvordan skal de etiske algoritmer i praksis håndteres af den enkelte bilproducent? Bliver der krav om en fælles standard for alle, eller kan man som forbruger selv vælge, hvilken etik bilen skal følge? Har lovbrydere, der kører stærkt eller hasarderet, samme krav på beskyttelse som lovlydige trafikanter? Og hvem skal stilles til ansvar, hvis en fodgænger bliver kørt ned af en bil med en etik, der vælger at beskytte passageren for enhver pris?
Der er nok at overveje for både lovgivere og bilproducenter, før de førerløse biler kan rulle ud på vejene i større tal. Chefen for Toyota Canada, Larry Hutchinson, udtalte ved Talk Auto-konferencen i Toronto i november, at det kan blive mere tidskrævende at løse udfordringerne omkring »etik, regulering, infrastruktur og social parathed«, end det tager at udvikle teknologien.
»Disse spørgsmål er væsentlige, og der bliver behov for en stor, fælles indsats fra myndigheder, forsikringsselskaber, bilproducenter og organisationer at besvare dem,« sagde Hutchinson.
Tiden vil vise, om vi som samfund i det hele taget er klar til at udskifte vores bilpark med kørende robotter og give dem license to kill, når det er påkrævet. Forskere og bilproducenter lokker med komfort, trafiksikkerhed og gavnlige effekter på miljøet, men om de mentale vejspærringer og de etiske dilemmaer er til at overvinde, er stadig et åbent spørgsmål.
