Kultursidan Västerbottens-Kuriren 150616
Det finns moralfilosofiska problem som ständigt gäckar filosoferna. Och oss andra. Sådana problem berör ofta våra mest grundläggande värderingar om människor. Ibland förblir moralfilosofiska problem effektiva tankefigurer och diskussionsämnen. Ibland övergår de till praktiska problem som med nödvändighet måste lösas.
The Trolley Problem är ett sådant. Det kan spåras tillbaka till en essä av Philippa Foot, som 1967 företog en moralfilosofisk undersökning av skillnaden mellan intentionella handlingar och handlingars oönskade effekter.
En trolley är en vagn av något slag, i detta fall en järnvägsvagn. Föreställ dig att denna vagn skenar längs en järnvägsräls, där spåret delar sig i två spår längre fram. På det vänstra spåret står fem järnvägsarbetare, på det högra spåret står en järnvägsarbetare. Där spåret delar sig finns en spårväxel.
Spårväxeln är inställd så att vagnen kommer att ta det vänstra spåret. Du står vid spårväxeln, men har inte möjlighet att varna arbetarna på spåren. Du har dock möjlighet att växla spår innan den skenande vagnen kommer till den plats där spåren delar sig.
Om du inte växlar spår, kommer fem personer att dö av den skenande vagnen. Om du växlar spår, kommer en person att dö av den skenande vagnen. Vad gör du?
En variant av problemet är The Fat Man Problem. Föreställ dig en vagn som skenar längs ett järnvägsspår som inte delar sig. Längre fram står fem järnvägsarbetare på spåret. Du står på en bro invid spåret och bredvid dig står en synnerligen tjock man, tillräckligt stor för att stoppa vagnen om han skulle hoppa ned på spåret framför vagnen.
Själv är du för lätt för att stoppa vagnen, men om du knuffar mannen ned på rälsen kommer vagnen att stoppas, de fem järnvägsarbetarna att överleva, men den tjocke mannen dör. Om du inte knuffar den tjocke mannen ned på rälsen kommer de fem personerna att bli överkörda av vagnen och dö. Vad gör du?
I en stor enkätundersökning från 2013 riktades ett stort antal frågor som berör filosofi till 1 972 filosofer världen över. En av frågorna gällde The Trolley Problem. Vad skulle en filosof göra? Låta vagnen ha sin gång så att fem dör eller växla spår så att en dör?
Cirka 68% svarade att de skulle växla spår. Endast 8% svarade att de skulle låta vagnen ha sin gång. Övriga svarade inte, eller underkände frågan. En majoritet skulle alltså aktivt växla spår så att fem liv räddas till priset av ett.
Filosoferna fick inte frågan om The Fat Man Problem, men från andra studier kan man se att betydligt färre kan tänka sig att knuffa mannen framför spåret för att rädda fem personer.
En förklaring skulle kunna vara att den majoritet som växlar spår värderar människoliv numerärt, så att fem liv är mer värda än ett, vilket rättfärdigar att växla spår. Det förklarar dock inte varför en mindre andel väljer att knuffa den tjocke mannen. Värderar man inte människoliv på samma sätt i de bägge fallen?
Den förklaring som Philippa Foot undersökte handlar inte om värdering av människoliv, utan om att dessa två handlingar är fundamentalt olika. Intentionen med att växla spår är inte att döda en person, utan att rädda fem personer. Att en person råkar dö under räddningsaktionen är en olycklig, icke avsedd konsekvens. Att knuffa den tjocke mannen framför spåret är en intentionell handling, där hans död inte är en sidoeffekt, utan en avsedd konsekvens.
Många människor tycks mena att det är tillåtet att utföra en god handling (rädda fem liv) även om det går att förutse dåliga konsekvenser (en person dör), men att det inte är tillåtet att utföra en ond handling (döda en tjock man) för att åstadkomma goda konsekvenser (fem liv räddas).
Snart är problem likt dessa något annat än tankefigurer och underlag för moraldiskussion. Google var först, men även vanliga biltillverkare arbetar intensivt med att utveckla och testa självkörande bilar, det vill säga automatiska IT-baserade system som agerar i sociala miljöer.
En självkörande bil är en bil med avancerad datorutrustning som samlar in data från sin omgivning, från sensorer, gps-data, ljud och rörelser via mikrofoner och kameror på bilen, och som med avancerade algoritmer kan styra, gasa och bromsa bilen i realtid.
Problemet med automatiska system i allmänhet är att de inte är automatiska, utan måste göras automatiska. Det innebär att vi på förhand måste bestämma hur en självkörande bil ska agera i givna situationer.
Föreställ dig att du åker i en självkörande bil på en bra, relativt rak väg i 90 km/h. Till vänster om vägen finns en bergvägg. Till höger om vägen finns en djup ravin. En bit framför bilen springer fem barn efter en boll. Den självkörande bilen uppfattar barnens närvaro framför bilen, men de är för nära bilen för att den ska hinna bromsa.
Den självkörande bilens algoritmer måste ha någon av följande tre handlingar programmerad för en situation som denna. Den första är att bromsa och köra rakt fram, vilket leder till att barnen blir påkörda och dör. Den andra är att svänga tvärt vänster in i bergväggen, vilket leder till att du dör. Den tredje är att svänga tvärt höger ner i ravinen, vilket också leder till att du dör.
Hur ska bilen programmeras?
Den majoritet som i The Trolley Problem svarade att de skulle växla spår med konsekvensen att en dör för att rädda fem, måste här välja något av alternativen två eller tre. Intentionen är att rädda fem barn, inte att döda dig som åker i bilen. Det är enbart en dålig konsekvens.
Till detta moralfilosofiska problem avkrävs vi inte något ställningstagande när vi manuellt kör bil. Vad du väljer om du hamnar i ovanstående situation är inte förutbestämt, utan situationsbundet. Jag håller dock för sannolikt att vi värderar våra egna liv högst.
Med självkörande bilar måste vi dock förhandsbestämma ett handlingsalternativ, som även gäller när vi själva åker i bilen.
Det finns emellertid ett ytterligare alternativ: Att alls inte tillåta självkörande bilar. Men då får vi heller inte veta vilken lösning av The Trolley Problem vi skulle enats om i skarpt läge.
Inga kommentarer:
Skicka en kommentar