Programmerad att döda

Lasse Zernell Chefredaktör

Lasse Zernell Chefredaktör

Alla stora biltillverkare och en del andra företag, exempelvis Google, experimenterar med förarlösa bilar. Frågan är inte om de kommer, utan när. Men är vi beredda?
Flera forskare har påpekat att den stora svårig­heten med förarlösa bilar inte handlar om tekniken. Bilarna kan snart köra mycket säkrare än människor och tekniken kan göras lika tillförlitlig som exempelvis bromsarna på en helt vanlig bil. Så rent tekniskt är det inga problem – gör bilarna förarlösa så minskar antalet dödade i trafiken drastiskt.
Problemet är istället moraliskt: vem ska den ­förarlösa bilen döda?
Hur man än gör, så kommer det alltid att uppstå situationer där det inte finns någon lycklig utgång. Det händer att gasen hänger sig och bilar kör in i folkmassor, eller att det uppstår någon osanno­lik trafiksituation som ingen kunnat förutse. ­Ibland inträffar det helt enkelt saker som vare sig ­människa eller dator kan hantera utan att någon får sätta livet till.
Så vad ska då en förarlös bil programmeras att göra i en omöjlig situation? Ska den med berått mod köra in i en folkmassa och döda ett antal människor – eller ska den styra ut för ett stup och döda sin passagerare? Ska bilen programmeras att agera så att så få som möjligt dör, eller ska den till varje pris rädda sin passagerare?
Och frågeställningen slutar inte där; ska bilen rädda så många människor som möjligt, eller så många levnadsår som möjligt? Alltså ta hänsyn till åldern på dem som kommer att dö.
En människa kan komma undan med att köra rakt in i en folkmassa när bromsarna slutar fungera­ eller gasen hänger sig eftersom det handlar om snabba och desperata beslut. Att handla irrationellt i ett sådant läge är mer regel än undantag.
Men den som programmerar en bils beteende kan inte komma undan. Där finns det gott om tid att verkligen besluta vem som ska leva och vem som ska dö.
En lösning som har diskuterats är att bygga in en slumpfunktion som gör att bilen ibland prioriterar passagerare och ibland människor utanför bilen. På något sätt känns ett sådant lotteri mer mänskligt, men samtidigt har det lite av en nödlösning över sig.
I slutet av oktober i år publicerades en uppmärksammad studie där tre forskare (i ekonomi, psykologi och människa-dator-interaktion) försökte få allmänhetens svar på dessa frågor. Några hundra människor tillfrågades, och de flesta svarade att en förarlös bil borde prioritera att rädda så många liv som möjligt även om det innebär att passagerarna måste offras. Gjordes frågeställningen lite mer konkret – det är du som är passageraren som kommer att offras för att spara ett större antal andra liv – så tyckte många att det fortfarande var okej. Men med ett viktigt förbehåll; de skulle inte ge sig ut i trafiken med en sådan bil så länge det finns mänskliga förare därute. Bara om alla andra bilar i trafiken är förarlösa och programmerade att agera på samma sätt, så är det okej.
Det finns fler intressanta problem som man kan fundera över – till exempel vem som är ansvarig när något händer. Och om det går att hacka programmen som styr bilens prioritering av människoliv? Kanske genom att få att bilen att tro att den är full med barn och på så sätt prioritera sina passagerare framför de där människorna som står vid busshållplatsen ...
De här moraliska frågorna är inte nya, men med diskussionen om förarlösa bilar har de blivit obehagligt konkreta. Tidigare var det mest teoretiska, filosofiska resonemang där man försökte ta reda på hur människor fungerar. Nu är det en praktisk fråga om liv och död. Och det gör det hela mycket mer spännande.

Material från
Allt om Vetenskap nr 11 - 2015

Mest lästa

Fler nyheter

Fler nyheter