Driven towards a moral crash

Abstract

Abstract: Accidents will survive the outbreak of driverless cars, but their moral implications will suffer substantial changes. The decision made today by a human in a fraction of a second will eventually be replaced by an algorithm subject to moral scrutiny. This not only raises the question of how the algorithm should work, or whether alternatives solutions are indeed comparable, but also changes the essence of the problem: from ascertaining liability to defining desired outcomes. In this paper, I first contest two possible approaches to resolving the driverless car dilemma – which I call statistical and nominal – to conclude that neither is morally sound. I then propose an alternative solution based on “time-relative equality”, or always sparing younger people. This follows from seeking (i) an egalitarian solution, that is (ii) the least intrusive – a position I defend from a possible ageist critique.

Keywords: Driverless Cars; Accident; Algorithm; Age-relative Equality

Condotti verso un incidente morale

Riassunto: Vi saranno incidenti anche dopo la diffusione delle auto a guida autonoma, ma le loro implicazioni morali subiranno mutamenti sostanziali. Le decisioni prese oggi in una frazione di secondo dagli esseri umani saranno alla fine sostituite da un algoritmo soggetto a controllo morale. Sorge non solo il problema di come dovrebbe funzionare questo algoritmo – o se vi siano soluzioni alternative comparabili –, ma cambia anche la sostanza del problema: dall’accertamento dell’imputabilità alla definizione dell’esito auspicato. In questo lavoro discuterò due possibili approcci per risolvere il dilemma – che chiamerò “statistico” e “nominale” –, per concluderne che non sono moralmente corretti. Proporrò quindi una soluzione alternativa, basata sulla “eguaglianza tempo-relativa”, il principio per cui bisogna sempre salvare il più giovane. Questo segue dal cercare (i) una soluzione egalitarista, che sia (ii) la meno intrusiva – una posizione che difenderò da una possibile critica che la vede come discriminatoria verso gli anziani.

Parole chiave: Automobili a guida automatica; Incidenti; Algoritmo; Eguaglianza relativa all’età