Interprétabilité et explicabilité pour l’apprentissage machine : entre modèles descriptifs, modèles prédictifs et modèles causaux. Une nécessaire clarification épistémologique

Actes de la Conférence Nationale En Intelligence Artificielle - CNIA 2019 (2019)
  Copy   BIBTEX

Abstract

Le déficit d’explicabilité des techniques d’apprentissage machine (AM) pose des problèmes opérationnels, juridiques et éthiques. Un des principaux objectifs de notre projet est de fournir des explications éthiques des sorties générées par une application fondée sur de l’AM, considérée comme une boîte noire. La première étape de ce projet, présentée dans cet article, consiste à montrer que la validation de ces boîtes noires diffère épistémologiquement de celle mise en place dans le cadre d’une modélisation mathématique et causale d’un phénomène physique. La différence majeure est qu’une méthode d’AM ne prétend pas représenter une causalité entre les paramètres d’entrées, qui peuvent être de plus de haute dimensionnalité, et ceux de sortie. Nous montrons dans cet article l’intérêt de mettre en œuvre les distinctions épistémologiques entre les différentes fonctions épistémiques d’un modèle, d’une part, et entre la fonction épistémique et l’usage d’un modèle, d’autre part. Enfin, la dernière partie de cet article présente nos travaux en cours sur l’évaluation d’une explication, qui peut être plus persuasive qu’informative, ce qui peut ainsi causer des problèmes d’ordre éthique.

Links

PhilArchive

External links

Setup an account with your affiliations in order to access resources via your University's proxy server

Through your library

Similar books and articles

Théorie, Réalité, Modèle.Franck Varenne - 2012 - Paris, France: Editions Matériologiques.
Explaining Explanations in AI.Brent Mittelstadt - forthcoming - FAT* 2019 Proceedings 1.
Conscience et physique quantique.Pierre Uzan (ed.) - 2012 - Paris, France: VRIN.
The Convergence of Ricoeur’s and Von Wright’s Complex Models of History.Linda L. Cox - 2014 - Études Ricoeuriennes / Ricoeur Studies 5 (1):95-114.
Mutations des frontières de la connaissance à l'heure du Web 2.0.Lionel Barbe - 2012 - Hermès: La Revue Cognition, communication, politique 63 (2):, [ p.].

Analytics

Added to PP
2019-09-30

Downloads
233 (#51,507)

6 months
72 (#11,111)

Historical graph of downloads
How can I increase my downloads?

Author's Profile

Franck Varenne
University Of Rouen

Citations of this work

Add more citations

References found in this work

Causality.Judea Pearl - 2000 - Cambridge University Press.
From Models to Simulations.Franck Varenne - 2018 - London, UK: Routledge.
Prédire n'est pas expliquer.René Thom - 1992 - Revue Philosophique de la France Et de l'Etranger 182 (2):262-265.

View all 7 references / Add more references