This paper shows that the law, in subtle ways, may set hitherto unrecognized incentives for the adoption of explainable machine learning applications. In doing so, we make two novel contributions. First, on the legal side, we show that to avoid liability, professional actors, such as doctors and managers, may soon be legally compelled to use explainable ML models. We argue that the importance of explainability reaches far beyond data protection law, and crucially influences questions of contractual and tort liability for (...) the use of ML models. To this effect, we conduct two legal case studies, in medical and corporate merger applications of ML. As a second contribution, we discuss the trade-off between accuracy and explainability and demonstrate the effect in a technical case study in the context of spam classification. (shrink)

Das Überleben moderner Gesellschaften hängt davon ab, ob es ihnen gelingt, Strategien zur Lösung von wicked problems wie der Übernutzung natürlicher Ressourcen, Zerstörung der Biossphäre oder Flucht und Vertreibung zu entwickeln. In einer demokratietheoretischen Analyse zum Verhältnis von Demokratie und Ethik zeigt Sven Grundmann, dass ein solches Projekt nur auf Grundlage eines agonistischen, streitbaren, widerstandsfähigen Demokratiemodells gelingen kann. Die notwendige Resilienz lässt sich durch progressiv-inkrementelle Wandlungsprozesse erzielen, die wiederum institutionalisierte Formen ethischer Reflexion in der politischen Entscheidungsvorbereitung und -findung voraussetzen.