Actes de la Conférence Nationale En Intelligence Artificielle - CNIA 2019 (2019)

Authors
Franck Varenne
University Of Rouen
Abstract
Le déficit d’explicabilité des techniques d’apprentissage machine (AM) pose des problèmes opérationnels, juridiques et éthiques. Un des principaux objectifs de notre projet est de fournir des explications éthiques des sorties générées par une application fondée sur de l’AM, considérée comme une boîte noire. La première étape de ce projet, présentée dans cet article, consiste à montrer que la validation de ces boîtes noires diffère épistémologiquement de celle mise en place dans le cadre d’une modélisation mathématique et causale d’un phénomène physique. La différence majeure est qu’une méthode d’AM ne prétend pas représenter une causalité entre les paramètres d’entrées, qui peuvent être de plus de haute dimensionnalité, et ceux de sortie. Nous montrons dans cet article l’intérêt de mettre en œuvre les distinctions épistémologiques entre les différentes fonctions épistémiques d’un modèle, d’une part, et entre la fonction épistémique et l’usage d’un modèle, d’autre part. Enfin, la dernière partie de cet article présente nos travaux en cours sur l’évaluation d’une explication, qui peut être plus persuasive qu’informative, ce qui peut ainsi causer des problèmes d’ordre éthique.
Keywords artificial intelligence  machine learning  interpretability  explainability  causality  descriptive models  predictive models  explanative models
Categories (categorize this paper)
Options
Edit this record
Mark as duplicate
Export citation
Find it on Scholar
Request removal from index
Translate to english
Revision history

Download options

PhilArchive copy

 PhilArchive page | Other versions
External links

Setup an account with your affiliations in order to access resources via your University's proxy server
Configure custom proxy (use this if your affiliation does not provide a proxy)
Through your library

References found in this work BETA

Causality.Judea Pearl - 2000 - Cambridge University Press.
From Models to Simulations.Franck Varenne - 2018 - London, UK: Routledge.
Transitions.[author unknown] - 1996 - Business Ethics: The Magazine of Corporate Responsibility 10 (6):12-12.

View all 6 references / Add more references

Citations of this work BETA

No citations found.

Add more citations

Similar books and articles

Théorie, Réalité, Modèle.Franck Varenne - 2012 - Paris, France: Editions Matériologiques.
Explaining Explanations in AI.Brent Mittelstadt - forthcoming - FAT* 2019 Proceedings 1.
Conscience et physique quantique.Pierre Uzan (ed.) - 2012 - Paris, France: VRIN.
Quelques Aspects de L’Œuvre de Jean-Marie Legay.Franck Varenne - 2012 - Natures Sciences Sociétés 20 (4):461-463.
The Convergence of Ricoeur’s and Von Wright’s Complex Models of History.Linda L. Cox - 2014 - Études Ricoeuriennes / Ricoeur Studies 5 (1):95-114.

Analytics

Added to PP index
2019-09-30

Total views
104 ( #99,715 of 2,433,567 )

Recent downloads (6 months)
29 ( #27,086 of 2,433,567 )

How can I increase my downloads?

Downloads

My notes