PRADELLE (Dominique), « Sur l'infini mathématique. Genèse des concepts et hétéronomie des mathématiques », Louis Couturat (1868-1914). Mathématiques, langage, philosophie, p. 15-44 DOI : 10.15122/isbn.978-2-406-05762-8.p.0015 La diffusion ou la divulgation de ce document et de son contenu via Internet ou tout autre moyen de communication ne sont pas autorisées hormis dans un cadre privé. © 2017. Classiques Garnier, Paris. Reproduction et traduction, même partielles, interdites. Tous droits réservés pour tous les pays. © Classiques Garnier RÉSUMÉ – Situé historiquement au confluent de l 'arithmétisation de l 'analyse et de l 'élaboration de la théorie des nombres transfinis, De l 'infini mathématique s'attache à reconnaître à l 'infini le statut de véritable objet mathématique ; mais le problème véritable, une fois mise en évidence l 'insuffisance de la genèse arithmétique et algébrique des concepts et principes mathématiques, réside dans la possibilité de leur fondation philosophique sur des notions et principes rationnels et extramathématiques. SUR L'INFINI MATHÉMATIQUE Genèse des concepts et hétéronomie des mathématiques Notre objet est ici d'analyser et comprendre les enjeux fondamentaux de l'ouvrage de Couturat intitulé De l'infini mathématique. Historiquement, il admet un double ancrage dans l'histoire des mathématiques : d'une part, dans le mouvement d'arithmétisation de l'analyse, c'est-à-dire de construction du continu arithmétique (de l'ensemble des nombres réels) par Cantor et Dedekind ; d'autre part, dans l'élaboration par Cantor de la théorie des ordinaux et cardinaux transfinis, qui tend à pluraliser le concept d'infini – lequel cesse de désigner un singulare tantum. Par cette double thématisation du continu et de l'infini, ce dernier concept acquiert le statut de véritable objet mathématique et échappe aux antinomies, ainsi qu'à l'impossibilité de toute domination théorétique. On ne saurait cependant réduire les enjeux de l'ouvrage à une pure et simple traduction de ces deux moments de l'histoire de la mathématisation de l'infini ; se dégagent en effet des questions beaucoup plus générales, relatives à l'essence de la philosophie et à son rapport avec les sciences, qui dépassent la seule considération de l'infini mathématique ; dans cette mesure, il est nécessaire de présenter la préface et l'introduction qui ouvrent le livre, de manière à en préciser les perspectives. LA PHILOSOPHIE COMME RÉFLEXION MÉTASCIENTIFIQUE Couturat pose d'abord une question, puis énonce une thèse sur la nature et la fonction de la philosophie. Quelles sont en effet l'essence et la finalité de l'activité philosophante ? Conformément à l'interprétation © 2017. Classiques Garnier. Reproduction et diffusion interdites. 16 DOMINIQUE PRADELLE néokantienne de Kant, sa thèse est que la philosophie est fondamentalement théorie de la science ou critique de la connaissance scientifique – c'est-à-dire non une connaissance directe du monde et des phénomènes intra-mondains, mais une connaissance médiate ou de second degré, à savoir une connaissance réflexive de la connaissance scientifique du monde1 ; ce n'est pas une élucidation objectiviste des faits et lois de la nature, mais une inspection subjectiviste des « lois de l'esprit », laquelle procède non par réflexion directe sur les opérations de l'esprit – comme le préconisera quelques années plus tard la phénoménologie husserlienne – mais, conformément à la doctrine néokantienne, par la considération critique de ses produits (à savoir le corpus scientifique)2. La tâche spécifique de la philosophie est de rendre compte des concepts et principes fondamentaux de la science, et de rendre raison des succès de leur application à la connaissance de la nature3. De là découlent une deuxième question, ainsi qu'une deuxième thèse : quels sont la méthode, la faculté fondamentale et les principes propres à cette critique de la science ? La thèse est la suivante : la méthode d'investigation des principes ne saurait être scientifique, c'est-à-dire empruntée à la science ; vu que toute connaissance scientifique est fondée sur les lois de l'esprit, seule une élucidation métascientifique peut la penser, la science n'étant pas capable de penser sa propre activité de connaissance4 ; en outre, la science a son fondement dans des notions et principes extraou suprascientifiques5. Il reste cependant à déterminer à quelle dimension appartiennent ces notions et principes, et quelle est la faculté qui permet de les connaître : « Les problèmes critiques ne relèvent ni de la logique ni de l'expérience, mais de la raison6 » ; si l'esprit que l'on connaît (scientifique et objectivé) est la conscience comme théâtre de la phénoménalité, en revanche l'esprit qui connaît (métascientifique) est le moi pensant ou raison, cette dernière 1 1896b, p. v : « La philosophie n'a pas pour objet immédiat les phénomènes et leurs lois, mais la Science elle-même, qui étudie ces phénomènes et ces lois. » 2 1896b, p. vi et xi. 3 1896b, p. vii. 4 1896b, p. ix. On reconnaît là une future thèse de Heidegger, preuve s'il en est que des ponts peuvent parfois relier des doctrines philosophiques a priori situées aux antipodes. 5 1896b, p. xii : « Toute science s'appuie sur des principes ou des notions suprascientifiques. » 6 1896b, p. x. © 2017. Classiques Garnier. Reproduction et diffusion interdites. SUR L'INFINI MATHÉMATIQUE 17 se définissant par sa tâche essentielle et son opération fondamentale. Sa tâche se laisse préciser en référence à une thèse de Cournot qui sert d'inspiration et de soubassement à l'ouvrage entier : « Choisir, entre plusieurs enchaînements de concepts également logiques, le plus rationnel7 », à savoir celui qui satisfait aux critères d'unification, d'harmonie et de simplicité ; en droite ligne kantienne, la raison possède donc pour Couturat la fonction régulatrice d'unification des connaissances de l'entendement. Quant à son opération propre, il s'agit d'une intuition intellectuelle des objets purement intelligibles, dont la portée transcende le domaine de l'expérience sensible : « Ses principes synthétiques [scil. de la raison] reposent sur une intuition intellectuelle pure » ; « son rôle n'est pas seulement "régulateur" mais " constitutif" [...] il est permis d'en faire un usage transcendant8 ». Appliquons à présent ces thèses générales au thème de l'infini en arithmétique. Il en découle tout d'abord que l'élucidation de l'infini doit procéder par voie métamathématique, c'est-à-dire ici méta-arithmétique : en déployant une thématisation réflexive des opérations, concepts et principes de la pensée arithméticienne qui traite de l'infini – thématisation qui, pour les atteindre, doit régresser à partir du corpus des théories arithmétiques. On s'attend en outre à ce que ces concepts et principes soient supra-arithmétiques, et qu'ils renvoient à une intuition intellectuelle ou rationnelle ; quelle est alors la nature d'une telle intuition ? Est-ce celle de la grandeur géométrique en tant que continue ? Celle des grandeurs en général ? Celle de l'infini théologique, comme chez Descartes ? La réponse à cette question est donnée dans l'Introduction de l'ouvrage. Quelle est la question fondamentale de la critique de la science ? C'est celle (kantienne encore) du rapport entre physique et mathématique, ou de l'applicabilité des mathématiques à la physique9 ; elle se laisse à son tour reconduire à celle du rapport entre mathématique pure et mathématiques appliquées, ou de l'application de l'algèbre à la géométrie, ou encore de celle des nombres aux grandeurs10 : à quelles conditions les grandeurs sont-elles mesurables par le nombre, le calcul infinitésimal 7 1896b, p. x. 8 1896b, p. xiv. 9 1896b, p. xvii. 10 1896b, p. xix. © 2017. Classiques Garnier. Reproduction et diffusion interdites. 18 DOMINIQUE PRADELLE est-il applicable à la physique, et les idées d'infini et de continu ont-elles une existence positive11 ? Aussi l'ouvrage est-il tout entier focalisé sur l'origine respective des idées de nombre et de grandeur, ainsi que sur leurs rapports : cette origine est-elle a priori ou a posteriori ? L'une des deux notions est-elle fondatrice pour l'autre, qui aurait alors en elle sa provenance ? Est-elle le fondement général de l'Analyse12 ? Les thèses centrales de Couturat sont les suivantes : l'Analyse ne repose pas, selon nous, sur l'idée de nombre [...] mais sur l'idée universelle de grandeur : or cette idée rationnelle ne peut se construire au moyen du nombre, même généralisé ; elle est au contraire la raison d'être de la généralisation du nombre, et le fondement intuitif des jugements synthétiques a priori qui constituent la mathématique pure13 ; le domaine de la grandeur dépasse infiniment celui du nombre14. Tout est ici centré sur « le contraste du nombre et de la grandeur », sur « le conflit de ces deux idées primitives, irréductibles l'une à l'autre », ou sur « leur disproportion et leur radicale hétérogénéité15 ». D'une part, le concept intellectuel de nombre est radicalement distinct de l'idée rationnelle de grandeur, cette dernière étant ancrée dans la raison et donnée à une intuition rationnelle de généralité idéale ; d'autre part, le concept mathématique de nombre a son fondement dans l'idée supramathématique de grandeur, qui constitue le fondement des généralisations successives de la notion de nombre (à savoir le passage des entiers naturels aux relatifs, puis aux rationnels, puis aux réels, enfin aux complexes). Ainsi, non seulement il s'agit de reconnaître une distinction de principe entre les notions de grandeur et de nombre, qui fonde la différence entre l'Analyse et l'algèbre (ou l'arithmétique) ; mais encore, le centre du projet est d'élucider l'origine rationnelle des différents concepts de nombre (entiers naturels, relatifs, rationnels, réels et complexes) à partir de l'idée supramathématique et rationnelle de grandeur. L'essence des nombres est en effet d'être des « symboles de grandeurs16 », et les extensions 11 1896b, p. xx. 12 Nous écrivons Analyse avec une majuscule lorsque le terme désigne la discipline mathématique. 13 1896b, p. xx-xxi (nous soulignons). 14 1896b, p. 131. 15 1896b, p. xxiv. 16 1896b, p. 130-132. © 2017. Classiques Garnier. Reproduction et diffusion interdites. SUR L'INFINI MATHÉMATIQUE 19 successives de l'ensemble des nombres trouvent leur raison d'être dans « l'application du nombre à la grandeur17 », c'est-à-dire le passage des mathématiques pures aux mathématiques appliquées ; l'élucidation rationnelle des extensions de l'ensemble des nombres consiste à mettre en évidence leur « intérêt », leur « raison d'être », leur « utilité spéculative18 » ou « valeur rationnelle19 » – qui, dans une quête de leur origine, les rapporte au « champ d'intuition où ils ont poussé20 » et, dans une recherche de leur finalité, leur assigne la fonction de représentation symbolique de grandeurs concrètes. Les divers concepts de nombre ont par conséquent une origine intuitive – non dans l'intuition sensible, mais dans l'intuition rationnelle de la grandeur – et une fonction représentative – à savoir le rôle de représenter les grandeurs physiques et géométriques. Au fondement de ces thèses se trouve par conséquent une conception instrumentaliste des mathématiques qui identifie l'archè et le telos, l'origine des concepts mathématiques et leur utilité fonctionnelle pour la connaissance physicienne ; conception qui, à son tour, a son fondement dans celle de l'hétéronomie des mathématiques, lesquelles se réduisent à un simple organon dépourvu de consistance intrinsèque. Une telle thèse demeure-t-elle cependant tenable quelques années plus tard, lorsque Couturat se convertit au logicisme russellien et écrit les textes qui composent Les principes des mathématiques ? Peut-il alors conserver cette conception instrumentaliste des mathématiques, qui assigne pour fonction au continu arithmétique de représenter le continu géométrique, seul accessible à l'intuition ? Ou la récusation de l'idée de continu géométrique intuitif le conduit-il à mettre en question le primat de l'idée de grandeur, au profit de notions purement structurales comme celle de l'ordre ? 17 1896b, p. 131. 18 1896b, p. 72. 19 1896b, p. 134. 20 1896b, p. 72. © 2017. Classiques Garnier. Reproduction et diffusion interdites. 20 DOMINIQUE PRADELLE EXPOSÉ CRITIQUE DE LA GÉNÉRALISATION ARITHMÉTIQUE DU NOMBRE (TANNERY, KRONECKER) L'économie générale de l'ouvrage se réduit à une présentation critique des différentes théories de l'origine des divers concepts de nombre : sont successivement passées en revue et critiquées les conceptions formaliste, algébrique, empiriste – et ce, afin d'établir la thèse de l'origine rationnelle des concepts de nombre, c'est-à-dire de leur fondation sur l'intuition rationnelle des divers types de grandeur. La première théorie examinée est celle de la généralisation arithmétique du nombre, dont le principe fondamental est celui de la réductibilité de tous les concepts de nombres à celui des seuls nombres entiers naturels, c'est-à-dire de la fondation de l'arithmétique tout entière sur la seule notion de nombre entier et la seule opération d'addition des entiers21. Elle est donc fondée sur le postulat de l'existence exclusive des nombres entiers22, et tente de reconstruire sur leur fondement l'Analyse tout entière (y compris le calcul infinitésimal) – « sans jamais faire appel aux notions d'infini et de continu, ni à aucune intuition géométrique », et en dégageant la théorie des ensembles de nombres « de la considération des grandeurs concrètes23 » (à l'exact opposé de la thèse défendue par Couturat). Considérons, à titre d'exemple, la théorie formaliste des nombres fractionnaires. Ces derniers s'y définissent comme des paires ordonnées de deux entiers dont le second est non nul ; l'égalité de deux fractions (a, b) et ( a', b') s'y définit formellement par l'égalité ab' = a'b, 21 1896b, p. 1. Couturat cite à l'appui un passage de l'ouvrage de Tannery intitulé Introduction à la théorie des fonctions d'une variable : « On peut constituer entièrement l'Analyse avec la notion de nombre entier et les notions relatives à l'addition des nombres entiers ; il est inutile de faire appel à aucun autre postulat » (préface, Paris, Hermann, 1886, p. viii). La doctrine de Tannery correspond exactement à celle de Kronecker, exposée dans la note III, « Sur la théorie des nombres algébriques de Kronecker », qui commence ainsi : « Pour l'illustre algébriste, le nombre entier est le fondement solide et unique sur lequel doit reposer tout l'édifice de l'Arithmétique et de l'Algèbre » (p. 603). Les deux théories étant équivalentes, nous ne les distinguerons pas dans la suite de cet exposé. 22 Ibid. 23 1896b, p. 2. © 2017. Classiques Garnier. Reproduction et diffusion interdites. SUR L'INFINI MATHÉMATIQUE 21 et l'addition, par la formule purement formelle (a, b) + (c, d) = (ad + bc) / bd, ce qui la rend commutative et associative ; le zéro fractionnaire y est introduit comme élément neutre de l'addition, et défini comme étant la fraction de numérateur nul. À partir de là, il est nécessaire de justifier l'identification que l'on opère spontanément entre les fractions de dénominateur égal à 1 et les entiers correspondant au numérateur : à cette fin, il faut montrer que les relations entre les fractions de dénominateur égal à 1 (à savoir =, < et >) correspondent bien aux relations éponymes entre les entiers, et que les opérations entre ces fractions (à savoir +, − et ×) se réduisent bien aux opérations analogues sur les entiers ; il devient ainsi possible d'intercaler dans la suite des fractions les entiers (désormais identifiés aux fractions de dénominateur 1), donc de ranger par ordre de grandeur un ensemble quelconque d'entiers et de fractions. Or il s'agit là d'un cas paradigmatique qui est représentatif de toutes les extensions de la notion de nombre (entiers relatifs, nombres fractionnaires, réels puis imaginaires). Quelles conséquences faut-il tirer d'un tel paradigme ? D'une part, on a là une création opératoire « des êtres mathématiques au moyen de constructions arbitraires24 », concevable d'après le paradigme ludique du jeu d'échecs25 : en effet, ce qui distingue les unes des autres les diverses espèces de nombres n'est pas la forme des symboles employés, mais les définitions conventionnelles ou les règles opératoires de l'égalité, de l'addition et de la multiplication de ces symboles ; on ne trouve pas ici de définition directe des nouveaux nombres en eux-mêmes, par leur essence spécifique, mais seulement une définition indirecte par fixation des règles d'emploi des signes26. 24 1896b, p. 49. 25 Le jeu d'échecs a constitué un paradigme constant pour les pensées formalistes de l'arithmétique, qui assimilaient la fixation des règles opératoires de l'usage des signes primitifs à celle de règles du jeu conventionnelles. On le trouve chez Thomae, avant qu'il ne soit critiqué par Frege, puis par Husserl, avant d'être remis à l'honneur par Wittgenstein ; M. Caveing met en évidence les limites de la pertinence de ce paradigme ludique (Le problème des objets dans la pensée mathématique, Paris, Vrin, 2004, p. 120-125). 26 Ce motif de la définition implicite, qui remonte à Gergonne, a été souligné dans les mêmes années par Poincaré dans La Science et l'Hypothèse (1902, Paris, Flammarion, 19682, p. 76). © 2017. Classiques Garnier. Reproduction et diffusion interdites. 22 DOMINIQUE PRADELLE D'autre part, dans chaque cas d'élargissement, on trouve une assimilation entre les éléments de l'ensemble inférieur qui sert de base à la création et une partie des éléments de l'ensemble supérieur qui vient à être créé – celle des entiers relatifs positifs aux entiers naturels, celle des fractions de dénominateur égal à 1 aux entiers relatifs, celle des réels rationnels avec les nombres fractionnaires, enfin celle des complexes à partie imaginaire nulle avec les nombres réels. Or quelle est la nature de cette assimilation ? Est-ce à proprement parler une identification ? Est-elle légitime ? Et dans l'affirmative, quel est le fondement de cette légitimité ? En ce qui concerne la nature de cette opération, il ne s'agit pas là d'un élargissement extensionnel de l'ancien ensemble, qui serait réalisé par une simple adjonction de nouveaux nombres à l'ancien ensemble (à savoir l'adjonction des entiers négatifs aux entiers naturels, des fractions non réductibles aux entiers, des nombres irrationnels aux rationnels, enfin des nombres imaginaires aux réels) ; à l'inverse, on opère une réduction des nombres de l'ensemble inférieur à un simple cas particulier des nombres de l'ensemble supérieur qui est créé27 (celle des entiers naturels aux entiers relatifs positifs, de ces derniers aux rationnels de dénominateur égal à 1, etc.). Par conséquent, cette assimilation est en toute rigueur « illégitime » puisqu'elle confond des essences numériques distinctes, mais elle s'avère cependant « naturelle », « commode » ou « utile28 » : car, grâce à l'analogie entre le opérations fondamentales définies sur les différents ensembles, les opérations effectuées au sein des ensembles inférieurs se réduisent à des cas particuliers des opérations analogues effectuées au sein des ensembles supérieurs, de sorte qu'elles s'y conservent avec leurs propriétés essentielles et s'y affranchissent des restrictions qui les affectaient dans l'ensemble initial29 – tel étant précisément l'avantage essentiel de la généralisation opératoire. À quelles critiques de fond se heurte cette construction purement opératoire et formelle des nouveaux ensembles de nombres qui, au fond, consiste à opérer une réduction des ensembles supérieurs aux objets de l'arithmétique élémentaire ? 27 1896b, p. 19. 28 1896b, p. 38. 29 D'où la justification du fameux « principe de permanence des lois formelles » de Hankel : elle n'est pas de l'ordre des principes, mais relève uniquement de la commodité pragmatique ou opératoire. © 2017. Classiques Garnier. Reproduction et diffusion interdites. SUR L'INFINI MATHÉMATIQUE 23 Pour l'essentiel, Couturat stigmatise le « caractère formaliste et artificiel de cette théorie30 ». C'est, en effet, une méthode de construction des concepts qui s'avère à la fois a priori et analytique : a priori, parce qu'elle crée de toutes pièces les symboles en instituant des règles conventionnelles, sans jamais rien emprunter à la considération de la nature intrinsèque de grandeurs à représenter31 (les grandeurs négatives pour les relatifs, les grandeurs divisibles pour les nombres fractionnaires, les grandeurs continues pour les réels, les continua à deux dimensions pour les complexes) ; analytique, parce que les définitions opératoires déterminent de façon complète les propriétés des symboles, sans qu'il soit besoin de quelque synthèse intuitive qui vienne les enrichir32. Or quelle est la conséquence de ce double caractère ? Une telle méthode présente certes l'avantage de la « pureté logique33 » et de la définition parfaite ou exhaustive des notions, donc de la rigueur logique ; mais, en revanche, elle donne aux concepts ainsi formés un caractère factice et arbitraire. [...] ils sont privés de toute matière intelligible, ils ne représentent plus rien à l'esprit ; ils ont perdu toute signification réelle, et par suite toute raison d'être. On se demande pourquoi l'on a inventé ceux-ci plutôt que d'autres34. Qu'est-ce à dire exactement ? Que signifient le recours au principe de raison leibnizien appliqué à la création opératoire, ainsi que la référence à la signification réelle ? C'est que les symboles sont à l'origine dénués de sens, et qu'ils n'acquièrent de sens que purement opératoire et relationnel (par exemple, les relatifs sont définis par les relations d'égalité qui définissent l'addition et la multiplication) ; or les opérations sont elles-mêmes définies de manière purement formelle, comme des opérations effectuées sur de simples signes, et non sur des objets idéaux auxquels les signes devraient renvoyer35 ! Par conséquent, si, en dernière instance, les ensemble supérieurs de nombres semblent renvoyer aux entiers naturels comme « contenu concret » ou teneur intelligible ultime, c'est là encore une illusion, puisque les entiers eux-mêmes se définissent non par référence à des collections d'objets, mais au contraire de manière 30 1896b, p. 69. 31 1896b, p. 70. 32 1896b, p. 71. 33 Ibid. 34 Ibid. 35 1896b, p. 69. © 2017. Classiques Garnier. Reproduction et diffusion interdites. 24 DOMINIQUE PRADELLE purement formelle, par l'addition du signe d'unité à lui-même − 1 et + étant des « signes qui ne signifient rien36 ». S'impose ainsi la conclusion suivante : le paradigme formaliste de la genèse opératoire ne rend compte ni de la « genèse naturelle » des concepts de nombres, ni de leur « genèse rationnelle37 ». Retracer cette double genèse des concepts numériques, c'est leur appliquer le principe de raison et poser la question suivante : « Quelle raison [y a-t-il] de forger tel symbole et non pas tel autre, de poser telle formule opératoire et non pas telle autre38 ? » Genèse « naturelle » : de facto, quelle raison a-t-on eue d'instituer tel symbole et de lui fixer telle et telle règles ? Genèse « rationnelle » : quelle raison a-t-on dans l'absolu de le faire, c'est-à-dire quel est le fondement de leur légitimité ? EXPOSÉ CRITIQUE DE LA GENÈSE « NATURELLE » OU ALGÉBRIQUE DES CONCEPTS DE NOMBRE (DEDEKIND) Telle est la qualité essentielle de la genèse naturelle des concepts de nombre que de ne pas se réduire à une « genèse factice et conventionnelle » ou à une « création arbitraire ex nihilo39 » ; il s'agit cette fois d'une genèse algébrique, qui indique en quoi l'instauration d'une nouvelle notion de nombre « répond à un besoin bien défini40 ». Cette généralisation algébrique correspond à ce que Cavaillès appelle « adjonction d'idéaux » en se référant aux extensions successives de l'ensemble des nombres chez Dedekind41 : élargissements opérés « de manière [à ce] que les opérations élémentaires devinssent toujours possibles, tout en restant, s'il se peut, univoques42 ». En d'autres termes, il s'agit de la transformation des opérations inverses en lois de composition interne, c'est-à-dire en opérations 36 1896b, p. 70. 37 1896b, p. 72. 38 Ibid. 39 1896b, p. 73. 40 Ibid. 41 J. Cavaillès, Méthode axiomatique et formalisme, Paris, Hermann, 19812, p. 96-97 (OEuvres complètes de philosophie des sciences, Paris, Hermann, 1994, p. 104-105). 42 1896b, p. 73. © 2017. Classiques Garnier. Reproduction et diffusion interdites. SUR L'INFINI MATHÉMATIQUE 25 toujours effectuables au sein de l'ensemble de manière à obtenir un résultat appartenant au même ensemble – et ce, grâce à l'adjonction extensionnelle des nouveaux éléments qui la rendent toujours possible. Ainsi crée-t-on les entiers négatifs pour rendre toujours possible la soustraction, les fractions irréductibles pour rendre toujours possible la division, les irrationnels pour rendre toujours possible l'extraction de racine de nombres positifs, les complexes pour rendre toujours possible l'extraction de racine de nombres négatifs. Plus généralement, c'est l'algébrisation des équations numériques qui commande l'extension de la notion de nombre : d'une équation polynomiale à coefficients numériques comme 2x2 + 6x + 5 = 0, on passe à l'équation littérale à coefficients quelconques ax2 + bx + c = 0 ; cette généralisation de l'équation, jointe à l'exigence qu'elle ait toujours une racine, impose en effet celle de la notion de nombre ; ainsi a lieu la « transformation des symboles d'impossibilité de l'arithmétique en nombres nouveaux43 ». Quels sont, derechef, les traits essentiels de la méthode ici employée pour instaurer l'existence de nouvelles entités idéales ? C'est, là encore, une méthode de généralisation analytique, dans la mesure où elle « n'est pas fondée sur la considération des grandeurs concrètes », mais uniquement sur une exigence intrinsèque et formelle d'extensibilité opératoire. Simplement, l'extension n'est pas arbitraire et factice – comme c'était le cas dans la théorie formaliste –, mais au contraire justifiée par une « raison d'être » ou par le fait de « répondre à un besoin bien défini44 » : la notation algébrique étant « l'instrument général et commun à toutes les sciences exactes45 », il est naturel d'exiger que, prise en sa généralité algébrique, toute équation polynomiale possède au moins une racine ! Il s'agit, cette fois, d'un besoin théorétique inhérent au souci d'applicabilité des mathématiques : les mathématiques étant un organon ancillaire pour les autres sciences exactes, le souci de résolution des problèmes dans ces dernières implique la solubilité universelle des équations polynomiales. Or, en dépit de cette référence extrinsèque à la connaissance extramathématique des objets, cette genèse naturelle « n'est pas encore une genèse rationnelle46 ». Pour quelle raison ? L'exigence de résolution 43 1896b, p. 77. 44 1896b, p. 73. 45 1896b, p. 75. 46 1896b, p. 74. © 2017. Classiques Garnier. Reproduction et diffusion interdites. 26 DOMINIQUE PRADELLE universelle et la référence à l'applicabilité des mathématiques ne fournissent-elles pas, pour les nouveaux nombres instaurés, des sources suffisantes de légitimité ? Eh bien, non : cette genèse naturelle ne présente pas une rationalité ultime et auto-fondatrice. Elle a en effet consisté à transformer un symbole d'impossibilité opératoire47, initialement dépourvu de sens, en signe de nouvelles entités numériques. Or, on peut derechef appliquer à cette transformation le principe de raison pour demander : Quel intérêt y a-t-il à ce que le calcul arithmétique soit généralisé, à ce que les opérations élémentaires soient possibles dans tous les cas ? [...] N'est-il pas illogique au premier chef de rendre possible l'impossible48 ? Si l'exigence de la science est l'absence de contradiction, pourquoi faire entrer la contradiction et l'impossibilité en son royaume ? La généralisation algébrique se rapproche bien de la « genèse historique49 » des ensembles de nombres à partir d'un besoin opératoire : de facto, tel fut en effet le motif historique de la création de nouveaux ensembles de nombres que de remédier à des impossibilités opératoires partielles sur les ensembles initiaux (celle de la soustraction d'un entier naturel à un autre entier inférieur, de la division d'un entier relatif par un autre dont il n'est pas le multiple, de l'extraction de la racine d'une équation polynomiale, etc.). En dépit de cette utilité se pose en revanche toujours la question de sa « valeur rationnelle », « c'est-à-dire du degré de simplicité, d'ordre et d'unité qu'offre cette conception50 » : on peut, certes, construire algébriquement l'ensemble des nombres justement appelés algébriques à partir des entiers et des opérations fondamentales, « mais il reste à savoir s'il y a une raison suffisante de le faire, et l'on peut se demander quelle est la nécessité rationnelle, quelle est même l'utilité de ces nouveaux nombres51 ». Ici intervient donc une nouvelle fois le recours au principe de raison suffisante, appliqué cette fois à la généralisation algébrique : il doit, d'une part, nous conduire à une forme de nécessité autre que celle de la seule motivation historique factuelle 47 1896b, p. 75. 48 1896b, p. 74. 49 1896b, p. 133. 50 1896b, p. 134. 51 Ibid. © 2017. Classiques Garnier. Reproduction et diffusion interdites. SUR L'INFINI MATHÉMATIQUE 27 des élargissements successifs de la notion de nombre (à savoir remédier aux impossibilités opératoires partielles en ajoutant de nouveaux éléments) ; et, d'autre part, nous faire quitter le domaine strictement intra-arithmétique et algébrique pour nous conduire dans une dimension supra-algébrique. Laquelle ? Dans quel domaine supra-algébrique la nécessité des élargissements est-elle censée se fonder ? Quelle fonction ou utilité rationnelle autre que strictement intramathématique ces derniers sont-ils susceptibles d'avoir ? FONDATION RATIONNELLE DES EXTENSIONS DE L'ENSEMBLE DES NOMBRES La référence à la notion de grandeur continue L'élucidation d'une telle utilité rationnelle conduit à considérer la notion de continuité ou de grandeur continue52. En effet, pour nous concentrer sur le cas de la création des nombres réels, la méthode d'engendrement strictement algébrique de ces derniers ne suffit guère à produire la totalité des réels ! Considérons la distinction entre les nombres algébriques (qui sont les solutions d'équations algébriques ou polynomiales) et les nombres transcendants (qui n'en sont pas) : non seulement les nombres algébriques ne sont pas tous les nombres réels, mais ils ne représentent, au sein de leur ensemble, qu'une infime minorité53, d'où il résulte que [l']ensemble des nombres transcendants échappe aux prise de l'Algèbre pure, et ne peut se déduire des nombres entiers par aucune combinaison arithmétique ou algébrique54. L'expression de la continuité d'un intervalle sur l'ensemble des nombres réels ne saurait donc avoir lieu par des moyens purement arithmétiques ou algébriques – c'est-à-dire à partir de simples combinaisons dérivées d'entiers naturels –, mais requiert au contraire une sortie hors du domaine algébrique, ainsi qu'une renonciation à tout projet de 52 1896b, p. 116 sq. 53 1896b, p. 118. 54 1896b, p. 119. © 2017. Classiques Garnier. Reproduction et diffusion interdites. 28 DOMINIQUE PRADELLE réduction à l'arithmétique élémentaire. C'est pourquoi, en toute rigueur, « les nombres transcendants ne sont pas des nombres, mais des symboles de grandeurs [...] dont on ne peut jamais trouver qu'une représentation numérique approchée55 ». Telle est précisément la raison suffisante des élargissements successifs de l'ensemble des nombres : l'application des nombres à la grandeur56. Chacune de ces extensions du domaine des nombres trouve en effet son fondement rationnel dans la considération d'une certaine espèce de grandeurs, et dans la fonction qu'a le nombre de représenter cette espèce : ainsi la création des entiers relatifs a-telle sa source dans la considération des grandeurs négatives, celle des nombres rationnels dans la considération des grandeurs divisibles, celle des réels dans la considération des grandeurs continues, enfin celle des complexes dans la considération des grandeurs bilinéaires et des vecteurs. De la sorte, l'élucidation de la genèse des différents concepts de nombre conduit aux thèses suivantes : tout d'abord, une « distinction radicale de deux catégories du nombre et de la grandeur57 », la première étant un concept intramathématique de l'entendement arithméticien, la seconde une Idée supramathématique de la raison ; ensuite et surtout, une fondation de l'engendrement mathématique des concepts de nombre sur l'intuition rationnelle d'une espèce de grandeur, cette dernière n'étant pas immédiatement dominable par l'entendement mathématicien, mais seulement de façon médiate, par la création de symboles numériques qui sont censés la représenter par approximation. Cet ancrage des concepts mathématiques de nombre dans un « champ d'intuition » rationnelle – qui constitue la thèse essentielle de l'ouvrage – est clairement exprimée par les formules suivantes : Nous arrivons donc à cette conclusion, que le domaine de la grandeur dépasse infiniment celui du nombre, et que si l'extension de l'ensemble des nombres entiers a une raison d'être, c'est dans l'application du nombre à la grandeur58. Tous ces symboles d'impossibilité numérique deviennent utiles et légitimes, dès qu'il s'agit de représenter des grandeurs physiques avec leur sens, leur divisibilité et leur continuité essentielles. C'est donc dans la considération des grandeurs concrètes que la généralisation de l'idée de nombre trouve en définitive sa seule raison d'être ; et si l'extension de l'ensemble des nombres entiers est autre 55 1896b, p. 130-131 (nous soulignons). 56 1896b, p. 131. 57 1896b, p. 131. 58 1896b, p. 131 (nous soulignons). © 2017. Classiques Garnier. Reproduction et diffusion interdites. SUR L'INFINI MATHÉMATIQUE 29 chose qu'une construction arbitraire de symboles vides de sens, c'est dans l'application du nombre aux grandeurs continues qu'il faut chercher sa justification rationnelle et sa véritable interprétation59. 1/ C'est là, en premier lieu, une thèse radicalement opposée au réductionnisme de Kronecker. Pour ce dernier en effet, « le nombre entier est le fondement solide et unique sur lequel doit reposer tout l'édifice de l'Arithmétique et de l'Algèbre60 », et la considération des nouvelles espèces de nombres (négatifs, fractionnaires, réels, complexes) « peut être "évitée" » en substituant aux égalités entre ces nombres des congruences selon certains modules. En d'autres termes, l'arithmétique se confond tout entière avec la seule arithmétique élémentaire, qui suffit à en épuiser le sens ; et les prétendus « élargissements » du domaine des nombres ne sont point la création de nouveaux nombres, mais simplement l'instauration de nouvelles notations auxquelles on peut toujours substituer des notations opératoires plus complexes uniquement composées à partir d'entiers naturels : c'est une réduction générale des nombres aux seuls entiers naturels. Une telle thèse réductionniste tend à diviser l'arithmétique en deux parties : d'un côté l'arithmétique élémentaire, qui traite de véritables objets idéaux et à laquelle correspond un réalisme des idéalités mathématiques ; de l'autre, le reste de l'arithmétique, qui ne traite que de notations opératoires sur les entiers et auquel correspond un nominalisme mathématique. Or la référence des nouveaux nombres aux grandeurs suffit, pour Couturat, à ruiner ce réductionnisme et ce nominalisme : les nouveaux nombres ne se réduisent pas à de simples notations assimilables à des congruences plus ou moins complexes que l'on peut formuler à l'aide des seuls entiers naturels, mais constituent bien des entités numériques idéales dont la fonction est de représenter certaines grandeurs existantes, et dont la teneur de sens réside en définitive dans ces dernières. Ainsi l'existence de grandeurs « concrètes » est-elle la garantie de la signification remplie des différents concepts de nombres : ce ne sont ni des symboles vides, ni des concepts sans intuition. 59 1896b, p. 149 (nous soulignons). 60 L. Kronecker, « Über den Zahlbegriff » [Sur le concept de nombre], Journal de Crelle, tome CI, p. 337, cité par Couturat (1896b, p. 601, dans la note III consacrée à la présentation de la « théorie des nombres algébriques de Kronecker », p. 601-616). © 2017. Classiques Garnier. Reproduction et diffusion interdites. 30 DOMINIQUE PRADELLE 2/ Une telle thèse est évidemment d'inspiration kantienne. En effet, d'une part, si pour Kant l'algèbre (doctrine générale des grandeurs) constitue le centre de toutes les mathématiques – puisque les mathématiques ne traitent que des grandeurs –, et si l'arithmétique comme science des nombres n'a pour objet aucune grandeur ou quantum intuitivement donné, mais seulement la quantitas discrète61, elle n'a cependant de sens que par son application à des grandeurs continues qui sont de nature intuitive ou sensible : « La mathématique ne s'étend qu'à des sensibilia62 », et la fonction des nombres est précisément d'exprimer les grandeurs sensibles par une évaluation quantitative. D'autre part, dans le cas des grandeurs irrationnelles, c'est la référence à la grandeur géométrique de la diagonale d'un carré de côté égal à 1, donc à l'intuition extra-arithmétique de l'espace, qui fournit à l'expression √2 une signification qui la rend irréductible à un concept vide63 ; et, si l'imagination est incapable de construire arithmétiquement une suite décimale de nombres correspondant à la grandeur √2, l'imagination géométrique est en revanche susceptible d'en effectuer une construction dans l'espace64. De manière générale, les mathématiques n'ont de sens que par leur application à des grandeurs physiques concrètes, ce dont s'ensuit la thèse de l'hétéronomie des mathématiques : l'essence des mathématiques réside dans leur fonction ou telos, à savoir leur subordination à la connaissance des grandeurs physiques ; c'est là une conception instrumentaliste des mathématiques, conçues comme organon de la science physique. Le point de vue supramathématique de la raison, c'est donc chez Couturat, en droite ligne kantienne, celui qui, de l'extérieur, applique le principe de raison suffisante aux productions de l'entendement mathématicien formaliste pour s'enquérir de leur applicabilité extrinsèque ou de leur utilité pour la connaissance du monde. Rendre compte rationnellement des concepts arithmétiques, ce n'est pas seulement retracer les démarches et opérations de l'entendement arithméticien, dans une perspective intra-arithmétique ; c'est au contraire les rapporter au « champ 61 Kant, lettre à Johann Schultz du 25 XI. 1788, Kants's gesammelte Schriften, hrsgb. von der preussischen Akademie der Wissenschaften (désormais cité Ak.), X, p. 555 (trad. fr. M.-C. Challiol et alii in Kant, Correspondance, Paris, Gallimard, 1991, p. 328). 62 Ibid., p. 557 (trad. fr., p. 329). 63 Kant, lettre à August Wilhelm Rehberg d'avant le 25 IX.1790, Ak. XI, p. 209-210 (trad. fr., p. 434-435). 64 Ibid., p. 210 (trad. fr., p. 436). © 2017. Classiques Garnier. Reproduction et diffusion interdites. SUR L'INFINI MATHÉMATIQUE 31 intuitif » extraou supra-arithmétique où ils ont leur source, lequel se confond avec le domaine d'application extra-arithmétique où ils ont leur finalité. On a là un point de vue externaliste et finaliste sur les mathématiques, que se charge d'exprimer la dualité kantienne (ou hégélienne) entre entendement et raison. 3/ Quelle est la nature exacte des notions de représentation de la grandeur par le nombre ou d'application du nombre à la grandeur, qui servent de fondement aux extensions du concept de nombre ? Dans cette idée d'« application » des nombres à la grandeur ou de « représentation » de celle-ci par ceux-là, il faut entendre les termes d'application et de représentation non dans le sens vague de l'application technique d'un concept ou d'un procédé et de la représentation mentale d'un objet, mais dans le sens technique rigoureux que possèdent ces concepts en mathématique : celui de la correspondance biunivoque entre les éléments de deux ensembles – ici la « correspondance biunivoque entre un ensemble déterminé de grandeurs et un ensemble bien défini de nombres65 ». Par exemple, dans le cas du continu, cela signifie qu'il y a correspondance biunivoque entre le continu géométrique et le continu arithmétique : à chaque point de la droite géométrique correspond un nombre dans l'ensemble des nombres réels, et à chaque point du plan un nombre complexe. Mais à partir de là s'ouvrent deux possibilités théorétiques. Ou bien l'on considère qu'il doit exister une homologie structurale entre le continu linéaire géométrique et le continu arithmétique unidimensionnel, de même qu'entre le plan géométrique et le continu arithmétique bilinéaire ; ce qui signifie que la continuité constitue une propriété structurale commune à tous les continua, et que l'objet propre aux mathématiques réside dans de telles propriétés structurales communes à divers ensembles d'objets idéaux – sans que l'on soit autorisé à considérer 65 1896b, p. 150 : « Quand nous parlons de l'application des nombres aux grandeurs, le mot "application" ne doit pas être pris dans un sens vague et métaphorique, mais dans son sens propre et rigoureux. » Rappelons que, sur le plan terminologique, Dedekind utilise le terme d'Abbildung pour désigner cette opération de mise en correspondance des éléments d'un ensemble avec ceux d'un autre, qu'il considère comme l'unique fondement de toute la théorie des nombres ; et qu'Abbildung signifie littéralement représentation ou figuration – cf. R. Dedekind, Was sind und was sollen die Zahlen ?, Braunschweig, Vieweg, 1888, trad. fr. H. Bénis, « Que sont et à quoi servent les nombres ? » in Dedekind, La création des nombres, Paris, Vrin, 2008, p. 134-135, et la note 1 de la traductrice. © 2017. Classiques Garnier. Reproduction et diffusion interdites. 32 DOMINIQUE PRADELLE l'un de ces ensembles (par exemple le continu géométrique) comme le paradigme des autres, ni à prendre les grandeurs géométriques pour région-source de l'engendrement des concepts mathématiques : telle est la voie propre à Dedekind66. Ou, plus traditionnellement, on se contente de la dualité entre nombre et grandeur, entre entendement conceptualisant et raison intuitive, en cantonnant l'arithmétique du côté du nombre et en faisant de la grandeur géométrique le domaine de référence ou la région-source de toute création de concepts arithmétiques ; la géométrie est alors le paradigme de l'algèbre, et la continuité géométrique (prétendument offerte à l'intuition) le modèle de la continuité arithmétique, qui n'en constituera jamais que le symbole discret : telle semble être, au contraire, la voie frayée par Couturat. 4/ Quelle est, dans ce contexte, la fonction du concept d'infini, jusqu'ici totalement absent de notre exposé, alors même qu'il donne son titre à l'ouvrage ? ! En fait, de manière tout à fait paradoxale, la notion d'infini ne constitue pas le centre thématique du livre ! Elle est seulement convoquée par Couturat par analogie avec les divers ensembles de nombres, afin d'exemplifier et de prouver sa thèse générale sur la genèse extra-arithmétique des concepts arithmétiques. À l'instar des symboles opératoires qui motivent les élargissements successifs de la notion de nombre (1−2, 1:2, √2, √−2), l'infini se présente en effet en arithmétique comme un non-sens ou un symbole d'impossibilité ; et pourtant il possède une valeur réelle, du fait qu'il s'applique à la grandeur continue ou la représente – à la grandeur continue prise comme état de grandeur dont on ne possède pas de schème numérique67. La fonction de l'infini arithmétique est donc de représenter un infini géométrique et intuitif en lequel il a aussi son origine, de sorte que l'exemple ici invoqué de l'infini sert, une nouvelle fois, à récuser la thèse adverse de l'origine purement abstraite et intramathématique du nombre infini : de même que les nombres complexes et les opérations effectuables sur ces derniers peuvent se concevoir d'une façon tout abstraite et purement arithmétique, et paraissent ainsi dégagés de leur origine concrète et géométrique, de même, les règles du calcul de l'infini sont, en apparence, indépendantes de toute 66 R. Dedekind, Stetigkeit und irrazionale Zahlen, § 4-6, Braunschweig, Vieweg, 1872 (trad. fr. « Continuité et nombres irrationnels » in La création des nombres, p. 74-86). 67 L. Couturat, 1896b, p. 211-212. © 2017. Classiques Garnier. Reproduction et diffusion interdites. SUR L'INFINI MATHÉMATIQUE 33 considération étrangères à l'Arithmétique, et ne gardent aucune trace des faits géométriques qui en sont la source et la raison d'être68. Plusieurs développements épars dans l'ouvrage permettent de reconstituer les étapes de cette genèse de l'infini arithmétique à partir de l'infini géométrique ou, à l'inverse, les niveaux de l'origination de ce dernier à partir du premier. Ainsi, en première approche, l'infini arithmétique a-t-il sa source dans l'infini géométrique : le point d'intersection de deux droites parallèles est « infiniment éloigné » ou situé « à l'infini » ; la distance de ce point au point-origine O arbitrairement choisi sur l'une des droites est donnée par l'expression m/0, qui au premier abord est « un non-sens numérique » ; on parvient cependant à lui conférer un sens arithmétique rigoureux en considérant m/0 comme étant la limite de m/ε lorsque ε tend vers zéro ; on peut donc écrire m/0 = ∞, puisque si ε varie de façon continue jusqu'à zéro inclusivement, m/ε varie corrélativement jusqu'à l'∞ inclusivement ; le nombre infini est donc une expression numérique douée de sens, nécessaire pour exprimer un état de grandeur infini en lequel il trouve également sa signification69. On pourrait cependant objecter que cet état de grandeur infini n'est pas un infini actuel et véritablement existant, mais seulement un infini potentiel lié à la possibilité idéale de prolonger indéfiniment les droites en question, et que, par conséquent, le nombre infini n'est pas plus un nombre que la distance infinie n'est une véritable distance. En tant qu'Idée, toutefois, l'infini actuel est condition de possibilité de l'infini potentiel : la possibilité de prolonger indéfiniment une droite suppose en effet qu'elle préexiste aux constructions que l'on effectue sur elle, donc que la droite actuellement infinie précède l'infinité potentielle de tous les prolongements possibles ; le nombre infini tire ainsi son infinité actuelle de celle de la grandeur géométrique, qui constitue un « fait de l'infini géométrique70 ». Enfin, loin d'être originaire, l'infini en géométrie métrique a lui-même son origine et son fondement dans l'infini de la géométrique projective, 68 1896b, p. 278. 69 1896b, p. 215-217. La conclusion est énoncée à la p. 217 : « Il n'y a donc rien d'impossible à ce que le nombre infini soit nécessaire pour représenter un état de grandeur, ou plutôt il est également probable que telle est bien sa véritable signification. » 70 1896b, p. 223. © 2017. Classiques Garnier. Reproduction et diffusion interdites. 34 DOMINIQUE PRADELLE puisque indépendamment de tout nombre, de toute mesure, de tout calcul et de toute considération de grandeur, il existe un infini de pure situation spatiale : considérons en effet les figures sans les mesurer, mais en envisageant exclusivement leurs rapports de situation et leurs possibilités de projection ; on peut mettre en perspective deux droites D 1 et D 2 par une projection centrale de centre O (non situé sur ces droites) qui, par un faisceau de demi-droites, associe à tout point de l'une un et un seul point de l'autre ; la demi-droite d'origine O et parallèle à la droite D 2 associe alors à son point d'intersection avec la droite D 1 un point infiniment éloigné sur la droite D 2 ; cette idée de point à l'infini permet d'introduire les notions de droite à l'infini et de plan à l'infini ; or, un tel infini de situation se laissant définir indépendamment de tout calcul ou de toute représentation analytique liée à l'introduction de coordonnées cartésiennes, il s'agit d'un infini purement géométrique indépendant de toute considération des rapports de grandeur71. LA GENÈSE RATIONNELLE DES CONCEPTS MATHÉMATIQUES En réalité, l'ouvrage porte tout entier, non simplement sur l'infini en mathématiques, mais sur le problème de la genèse des concepts en mathématique : les définitions des concepts mathématiques sont-elles arbitraires, conventionnelles et purement nominales ? Peut-on créer de toutes pièces des entités mathématiques nouvelles, ex nihilo, par un simple acte d'instauration de règles conventionnelles ? 1/ L'idée d'une telle création des concepts mathématiques serait conforme à la thèse kantienne selon laquelle, là où la philosophie peut seulement expliciter par l'analyse des concepts préexistants, on peut en revanche en mathématiques instaurer librement des concepts, pour peu qu'ils respectent le principe de noncontradiction et les règles de la 71 1896b, p. 258-263 – « et si nous montrons que l'infini apparaît dans les relations purement projectives des figures et s'explique entièrement par elles, nous aurons prouvé qu'il ne doit nullement son existence à des faits de calcul, car il sera indépendant, non seulement de toute représentation analytique où pourrait s'insinuer l'infini numérique, mais même de tout rapport de grandeur. » © 2017. Classiques Garnier. Reproduction et diffusion interdites. SUR L'INFINI MATHÉMATIQUE 35 construction de l'objet dans l'intuition72. Elle est également conforme à des théories plus contemporaines que Couturat baptise de formalistes, celles de Kronecker et Helmholtz pour l'arithmétique élémentaire, de Tannery pour les relatifs et les rationnels, et de Dedekind et Cantor pour les irrationnels : sous prétexte de dégager le nombre entier de toute origine empirique, on le dérive d'une suite formelle de nombres ordinaux73 ; de même, sous prétexte d'affranchir le nombre irrationnel de toute origine empirique (notamment géométrique), « on le crée de toutes pièces, par une création arbitraire », à savoir par la méthode dedekindienne des coupures qui, là où n'existe aucune coupure rationnelle, postule l'existence d'un point assurant une coupure irrationnelle74. Or, pour nous limiter aux seuls irrationnels, l'ordre génétique est en fait exactement inverse : « C'est l'existence de ce point qui exige et justifie, en réalité, l'invention de ce nouveau nombre » ; c'est la continuité géométrique, « continuité originelle et radicale » relevant du « domaine de la grandeur75 », qui est la raison d'être de l'élaboration du continu arithmétique qui doit l'exprimer en la transposant sur le plan arithmétique. Exprimée ici sur l'exemple des irrationnels, une telle thèse s'avère transposable à différents types d'entités mathématiques : elle signifie que les entités mathématiques ne sont pas produites par les opérations de l'esprit, ces dernières présupposant au contraire l'existence des premières à titre de conditions de possibilité de leur effectuation. Ainsi le nombre entier n'est-il pas engendré par l'opération subjective du dénombrement, qui le présuppose à l'inverse comme condition d'effectuation76 ; de même la droite infinie n'est-elle pas produite par l'acte de prolonger indéfiniment une ligne droite, mais l'infinité potentielle d'un tel acte présuppose au contraire l'infinité actuelle de la droite77. C'est là une thèse anti-kantienne autant qu'anti-husserlienne : le domaine des entités idéales n'est jamais engendré 72 Kant, Kritik der reinen Vernunft, Transz. Methodenlehre, A 729-732/B 757-760 (trad. fr. Delamarre-Marty, Critique de la raison pure, Paris, Gallimard, 1980, Folio, p. 614-617). 73 Couturat, 1896b, p. 318-322. 74 1896b, p. 322-323. 75 Ibid. 76 1896b, p. 323 : « L'idée de nombre entier se trouve d'avance impliquée dans le processus psychologique du dénombrement, par lequel on croit expliquer le nombre cardinal, et d'où l'on prétend en tirer l'idée. » 77 1896b, p. 223 : « Mais comment pourrait-on non seulement prolonger effectivement [la droite], mais la concevoir comme prolongée ou "prolongeable" à volonté, si elle n'existait pas antérieurement à toutes les constructions qu'on effectue sur elle, et si son "idée" © 2017. Classiques Garnier. Reproduction et diffusion interdites. 36 DOMINIQUE PRADELLE par les actes synthétiques de la conscience, et ces derniers ne forment pas la région-source des objectités de la mathématique, qui possèdent par elles-mêmes une consistance idéale. Fort problématique s'avère cependant la compatibilité de cette thèse anticonstructiviste avec la référence constante de Couturat à l'idée de genèse rationnelle des concepts mathématiques, qui les réfère à la fois à des Idées supramathématiques de la raison et à des actes de définitionnels de la conscience. 2/ Outre cette idée de la consistance idéale des entités mathématiques, une seconde thèse traverse l'ouvrage : une même notion mathématique se scinde en concept intramathématique et en Idée philosophique supramathématique, du fait que l'entendement scientifique n'a guère la capacité de définir les notions fondamentales de la science, mais qu'il doit les emprunter à la raison philosophique ; tout concept mathématique a donc son origine dans une Idée philosophique. Ainsi, par exemple, le mathématicien n'a-t-il pas pour objet propre de donner une définition explicite du nombre entier naturel, qu'il lui suffit de définir implicitement en posant en axiomes les règles opératoires d'égalité auxquelles ils obéissent ; c'est à la raison philosophique qu'il revient de saisir l'essence ou « l'idée philosophique » de nombre entier : car, étant défini comme une multiplicité d'unités, le concept euclidien de nombre entier a son fondement dans « l'Idée métaphysique d'unité, antérieure à toute définition mathématique78 », ainsi que dans celle de multiplicité discrète en général, c'est-à-dire d'ensemble. C'est là une conséquence lointaine des considérations de Pascal sur les théories mathématiques : pour Pascal, en effet, l'idéal serait en mathématiques de définir toutes les notions et de démontrer toutes les propositions ; cependant, un tel idéal s'avère impossible à réaliser, et si l'on veut éviter une régression à l'infini dans la définition et la démonstration, il faut bien qu'il y ait des termes indéfinissables et des propositions indémontrables ; enfin, les termes indéfinissables et les propositions indémontrables le sont par excès et non par défaut, à savoir par un surcroît d'évidence qui rend respectivement inutiles leur définition et leur démonstration79. De ces thèses pascaliennes, Couturat retient l'idée de l'indéfinissabilité des n'offrait pas, par son infinité réelle, le modèle immuable de tous les prolongements possibles qu'il nous plaira d'opérer ? » 78 1896b, p. 341. 79 Pascal, De l'esprit géométrique et de l'art de persuader in OEuvres complètes, Paris, Seuil, 1963, p. 349-351. Couturat cite en note le passage suivant : « On trouvera peut-être étrange © 2017. Classiques Garnier. Reproduction et diffusion interdites. SUR L'INFINI MATHÉMATIQUE 37 notions fondamentales des mathématiques au sein des mathématiques elles-mêmes ; or, si elles demeurent indéfinissables au niveau intramathématique tout en devant pourtant posséder une signification, c'est que cette dernière doit être ressaisie de façon extramathématique, par la raison philosophique ; de manière hégélienne plus que strictement kantienne, c'est à la raison (philosophante) qu'il appartient de ressaisir, d'intuitionner et de définir adéquatement les Idées que l'entendement mathématicien ne saurait pleinement élucider. S'il est bien susceptible d'engendrer librement des concepts en posant en axiomes des règles conventionnelles, l'entendement mathématicien ne saurait en revanche rendre compte des essences mathématiques correspondantes ni de leur genèse : loin d'être isolée, une telle thèse est défendue à la même époque dans l'ensemble du mouvement phénoménologique. Ainsi, tout en reconnaissant la puissance du projet hilbertien d'axiomatisation des théories80, Husserl ancre-t-il la notion d'espace dans l'eidos du monde perceptif et celle de nombre dans la saisie perceptive des multiplicités discrètes, et, plus généralement, assigne aux sciences la tâche de déterminer un domaine de l'étant qui est prédonné, puisque constitué par la raison propre à l'expérience préscientifique81 ; ainsi Heidegger ne cesse-t-il de proclamer que les sciences ne peuvent élucider leurs propres concepts fondamentaux, et que s'il leur appartient certes de déterminer l'étant d'un certain domaine, il ne leur revient pas de penser l'essence de ce domaine, tâche qui échoit à une méditation ontologique82. Mais dans la constellation phénoménologique, c'est chez Reinach que l'on trouve l'argumentation la plus précise : le mathématicien peut poser en axiomes des règles conventionnelles pour les nombres (par exemple celle de la commutativité de l'addition : a + b = b + a), et penser ainsi un « système de choses » appelées nombres qui soit uniquement déterminé par ces règles, sans aucunement s'enquérir de ce qui constitue l'essence des nombres ou de « les comprendre selon leur teneur matériale ultime » ; en revanche, le philosophe ne peut se contenter du simple sens opératoire que la géométrie ne puisse définir aucune des choses qu'elle a pour principaux objets : car elle ne peut définir ni le mouvement, ni le nombre, ni l'espace. » (1896b, p. 341). 80 Husserl, Logische Untersuchungen : Prolegomena zur reinen Logik, § 70, Hua XVIII, p. 250-251 (trad. fr. Élie-Kelkel-Schérer, Recherches logiques, tome I, Paris, PUF, 19692, p. 274-275). 81 Husserl, Formale und transzendentale Logik, § 94, Hua XVII, p. 239 (trad. fr. S. Bachelard, Logique formelle et logique transcendantale, Paris, PUF, 1957, p. 311). 82 Heidegger, Sein und Zeit, § 3, Tübingen, Niemeyer, 1927, p. 9 (trad. fr. E. Martineau, Être et temps, Paris, Authentica, 1985, p. 31). © 2017. Classiques Garnier. Reproduction et diffusion interdites. 38 DOMINIQUE PRADELLE des signes ainsi fixé, mais doit se demander si la loi de commutativité est fondée dans l'essence des nombres, de l'addition et de l'égalité83 : outre la question du sens (qui peut être librement institué, au niveau intra-mathématique, par la position d'axiomes) se trouve la question de l'être, qui doit être déployée par le philosophe à un niveau supramathématique, en mobilisant une intuition d'essence douée d'évidence ultime (letztevidente Einsicht)84 ; la mathématique ne pouvant fonder de façon autonome sa propre rationalité, c'est à la philosophie qu'il revient d'intuitionner les « essentialités mathématiques fondamentales » (fundamentale mathematische Wesenheiten) qui sont au fondement des concepts intramathématiques, ainsi que les lois eidétiques ultimes qui s'ancrent en elles et fondent la position des axiomes85. Cette intuition eidétique que Reinach exige pour procurer aux mathématiques une intelligibilité ultime, c'est l'équivalent exact de l'intuition rationnelle des Idées que Couturat assigne pour tâche à la philosophie. 3/ La genèse rationnelle des concepts intramathématiques réfère ces derniers à une intuition rationnelle des Idées supramathématiques où ils ont à la fois leur origine et leur fondement ; cela vaut pour les nombres cardinaux, qui ont leur fondement dans l'Idée de grandeur discrète, et pour les diverses extensions de la notion de nombre, qui ont leur fondement respectif dans un espèce de grandeur – en particulier pour les irrationnels, qui ont leur fondement dans l'intuition géométrique du continu. Un tel paradigme de fondation des concepts sur les Idées, et de l'entendement sur la raison, semble toutefois achopper sur la théorie cantorienne des ordinaux et cardinaux transfinis (qui n'est pas traitée dans le corps de l'ouvrage, mais seulement exposée dans la note IV 83 A. Reinach, « Über Phänomenologie » in Sämtliche Werke, Band I, München, Philosophia Verlag, 1989, p. 535-537 (trad. fr. A. Dewalque, « Sur la phénoménologie » in Reinach, Phénoménologie réaliste, Paris, Vrin, 2012, p. 40-43). 84 Ibid., p. 537 : « C'est la question du sens, à côté de laquelle il y a la question de l'être. Autrement dit, il s'agit de se procurer une intuition – et, si possible, une intuition d'essence douée d'évidence ultime – quant au fait de savoir si la position initiale est tenable en droit ; il s'agit de voir si ce qu'exprime la position a + b = b + a peut s'avérer valide et fondée dans l'essence des nombres. » (trad. fr., p. 42). 85 Ibid., p. 538 : « [Le mathématicien] a désappris à intuitionner [das Schauen verlernt], il n'est plus guère capable que de démontrer. [...] C'est, au contraire, seulement de la philosophie que la mathématique peut recevoir son élucidation ultime. C'est uniquement en philosophie que s'effectue la recherche des essentialités mathématiques fondamentales et des lois ultimes qui y ont leur fondement. » (trad. fr., p. 43). © 2017. Classiques Garnier. Reproduction et diffusion interdites. SUR L'INFINI MATHÉMATIQUE 39 donnée en appendice86) : la théorie des nombres transfinis n'offre-t-elle pas en effet un beau contre-exemple à la thèse de Couturat ? Ne s'agit-il pas d'une fondation autonome et strictement intramathématique des classes de nombres infinis grâce à des « principes de formation » explicites qui permettent d'engendrer de nouveaux infinis87 – sans qu'il soit jamais besoin de référer cette genèse à une fonction de représentation de grandeurs concrètes ? N'a-t-on donc pas une opposition essentielle entre les mathématiques du fini – fondées sur l'intuition rationnelle supramathématique de grandeurs concrètes – et celles du transfini – absolument autonomes et dépourvues d'application à des grandeurs géométriques ou physiques ? Il n'en est rien. Paradoxalement, Couturat maintient jusqu'au bout sa thèse de fondation des concepts arithmétiques sur l'intuition rationnelle des grandeurs : on ne devra jamais oublier que ces nombres transfinis ont un support réel dans les ensembles déterminés auxquels ils correspondent à titre d'indices ; leur invention, et la généralisation qui en résulte pour l'idée de nombre entier, n'est donc pas une création arbitraire de l'esprit : elle se justifie par leur application à des objets concrets, et par son utilité, sa nécessité même, pour la théorie générale des ensembles88. Comment Couturat peut-il maintenir la thèse de fondation du mathématique sur un domaine supramathématique – et ce alors qu'à partir de la classe III, les transfinis semblent n'admettre aucune application à des grandeurs concrètes, et ne sauraient donc avoir pour fonction de les représenter ? Pour ce faire, il considère la notion de puissance d'un ensemble comme étant l'Idée rationnelle qui fonde le concept de nombre cardinal. Définie à partir de la correspondance biunivoque entre les ensembles, cette notion apparaît comme une généralisation de celle de nombre cardinal89, au même titre que les extensions successives de la notion 86 1896b, p. 617-655. 87 1896b, p. 637-642. Le premier principe de formation (addition de l'unité au dernier nombre formé) rend compte des nombres entiers finis, le second (formation d'un nombre exprimant la suite complète des entiers finis), des nombres infinis de la classe II, et le troisième (formation d'un nombre exprimant la pluralité des nombres de la classe II), des nombres infinis d'une classe supérieure – et ainsi de suite à l'infini, ce dernier principe permettant donc de dépasser successivement tous les nombres ainsi engendrés en passant à une classe supérieure : « La succession infinie des nombres entiers transfinis se trouve découpée en classes distinctes et fermées qui correspondent aux divers ordres d'infinis. » (p. 641). 88 1896b, p. 637. 89 1896b, p. 648. © 2017. Classiques Garnier. Reproduction et diffusion interdites. 40 DOMINIQUE PRADELLE d'entier naturel ; elle permet en effet de définir le cardinal sans recours à l'acte d'énumération, donc d'en donner une caractérisation universelle qui vaille à la fois pour les cardinaux finis et infinis ; et elle repose en définitive sur les seules notions ensemblistes d'ensemble, d'appartenance et d'application ; or, c'est précisément cette référence à des ensembles et des éléments quelconques qui garantit aux nombres transfinis un champ d'application potentielle à des grandeurs discrètes, et assure qu'au milieu de ce qui semble être des abstractions formelles irréductibles, on ne perde jamais de vue l'applicabilité à des objets concrets... Bien ténu apparaît cependant le fil qui relie les nombres transfinis de classe supérieure à II aux grandeurs discrètes de l'expérience concrète ! Dans l'idée de fondement rationnel des transfinis, il faut en effet dissocier le rapport à la théorie des ensembles et l'applicabilité à l'expérience concrète : que les transfinis résultent d'une généralisation de la notion de puissance d'un ensemble, cela manifeste bien leur nécessité pour la théorie des ensembles, mais cela ne saurait en revanche garantir leur application à des grandeurs de l'expérience physique. Si, pour Couturat, l'archè se confond avec le telos, l'origine et le fondement rationnels avec le champ d'application intuitive, ils semblent toutefois se dissocier radicalement dans le cas des transfinis : une chose est la fondation rationnelle des cardinaux transfinis sur des notions élémentaires de théorie des ensembles ; autre chose leur utilité ou nécessité pour la connaissance physicienne. La finalité de la théorie cantorienne des transfinis est intrinsèque aux mathématiques et, loin d'en impliquer l'hétéronomie, semble avoir pour conséquence leur autonomie. DU PRIMAT DE L'INTUITION RATIONNELLE AU LOGICISME Que devient cette critique des actes d'engendrement mathématique dans les années ultérieures où, ayant lu les Principles of Mathematics, Couturat se convertit au logicisme russellien et rédige les textes qui composent Les principes des mathématiques ? En fondant les concepts mathématiques sur des notions de logique et de théorie des ensembles, © 2017. Classiques Garnier. Reproduction et diffusion interdites. SUR L'INFINI MATHÉMATIQUE 41 n'exclut-on pas toute référence à des Idées supramathématiques où ils devraient trouver leur origine et leur fonction rationnelles ? 1/ Contrairement à toute attente, il existe une paradoxale continuité entre les deux époques (kantienne et russellienne) de la philosophie mathématique de Couturat. Dans la période russellienne, on trouve en effet une critique de l'idée de création ou de genèse des entités mathématiques qui prolonge celle qu'il avait émise dans sa première période : par opposition à la doctrine kantienne du schématisme, il n'y a pas de production possible des entités idéales des mathématiques par des actes synthétiques de la conscience. « D'une manière générale, on ne peut rien définir ni expliquer par génération90 ». Ainsi pour l'engendrement des nombres irrationnels par la méthode des coupures de Dedekind, c'est-à-dire par un ensemble d'actes de position de coupures irrationnelles là où il n'existe aucune coupure rationnelle : de même que la conception cantorienne des irrationnels comme limites de suites convergentes, la méthode des coupures ne prouve nullement l'existence des irrationnels, mais au contraire la présuppose ; on n'est en effet nullement fondé à poser l'existence d'une coupure irrationnelle là où n'existe aucune coupure rationnelle, c'est-à-dire à créer un nombre irrationnel pour produire la répartition des nombres en deux classes disjointes91 ; il faut, au contraire, définir par une construction générale à partir des rationnels une nouvelle espèce de nombres, les nombres réels (et non simplement les irrationnels) – ce que fait Russell en les définissant comme des segments de rationnels (parties initiales d'une coupure) –, puis montrer qu'on peut y distinguer les réels rationnels des réels irrationnels, les ranger tous par ordre de grandeur et définir sur eux les opérations fondamentales92. Le principe méthodique qui prévaut est le suivant : « Privilégier les " constructions" plutôt que les "entités postulées"93 ». 90 1905c, p. 128. 91 1905c, p. 82-85. « Mais les théories de ce genre ne prouvent nullement l'existence (logique) des nombres irrationnels : elles la postulent au contraire. » (p. 82-83). Cf. B. Russell, Principles of Mathematics, sect. 34, § 267 : « La première question qui se pose est la suivante : quel droit avons-nous de poser l'existence de tels nombres ? », « Mais l'existence d'une limite, en ce cas, est à l'évidence une pure et simple assomption. [...] Créer cette limite au moyen d'une suite dont on doit trouver la limite serait par conséquent une erreur logique. » (1903, rééd. Routledge, 2010, p. 282-284), et Introduction to Mathematical Philosophy, chap. vii, London, Allen & Unwin Ltd, 1921 (trad. fr. F. Rivenc, Introduction à la philosophie mathématique, Paris, Payot, 1991, p. 149). 92 Russell, Principles of Mathematics, sect. 34, § 268, p. 285 ; Introduction to Mathematical Philosophy, chap. vii, trad. fr., p. 149-151. 93 Russell, Introduction to Mathematical Philosophy, chap. vii, trad. fr., p. 151-152. © 2017. Classiques Garnier. Reproduction et diffusion interdites. 42 DOMINIQUE PRADELLE Simplement, que signifie ici l'idée de construction ? Est-elle assimilable à la notion kantienne de construction de l'objet dans l'intuition pure conformément à des règles ? Il n'en est rien. Car loin que les entiers naturels soient engendrés par l'acte de dénombrement dans le temps comme l'indique la doctrine du schématisme, c'est à l'inverse cet acte qui présuppose l'existence idéale des nombres comme condition de son effectuation94. De même, loin d'être engendrées par l'acte de construction dans l'intuition pure de l'espace (par exemple la translation d'un point pour une droite, ou sa rotation autour d'un centre pour un cercle), les figures géométriques sont présupposées en leur être idéal par l'effectuation de l'acte de construction : c'est « par hypothèse » ou « par définition » qu'on doit pouvoir démontrer l'existence idéale de ces figures, qui seule rend possible leur construction95. L'existence des objets mathématiques n'est donc pas le corrélat d'actes producteurs de la conscience, mais uniquement celui de démonstrations, logiquement fondées, de la noncontradiction de tels objets sur la base d'un ensemble d'axiomes déterminé. Aussi cesse-t-on de trouver, dans les textes d'inspiration russellienne, l'expression de genèse rationnelle des entités mathématiques : car l'idée de genèse renvoie au niveau psychologique de la prise de conscience de ces entités, mais est en revanche exclue du niveau logique de la démonstration de leur existence. 2/ Pourtant, on retrouve paradoxalement dans Les principes des mathématiques la définition du nombre donnée en 1896 : « Symbole d'une grandeur96 ». Mieux encore, Couturat y répète sa thèse selon laquelle les généralisations successives de la notion de nombre trouvent leur raison d'être dans la considération des grandeurs97, et fait sienne celle de Burali-Forti selon laquelle « la généralisation du nombre s'effectue par des étapes successives qui consistent à appliquer progressivement au nombre les propriétés de la grandeur98 ». Y aurait-il donc une continuité philosophique complète entre la période kantienne de Couturat et sa période russellienne ? 94 1904c, rééd. in 1905c, p. 268 : « Le dénombrement présuppose l'idée de nombre, loin de l'engendrer. » 95 1904c, in 1905c, p. 283-284. De même 1905c, chap. vi, note 2 p. 192. 96 1905c, p. 90. 97 1905c, p. 125 : « La généralisation du nombre [...] a son origine et sa raison d'être dans la considération des grandeurs. » 98 1905c, note 2 p. 117. © 2017. Classiques Garnier. Reproduction et diffusion interdites. SUR L'INFINI MATHÉMATIQUE 43 Non pas. Car si les généralisations de la notion de nombre se réfèrent à la grandeur et consistent à attribuer au nombre les propriétés de certaines grandeurs spécifiques, cela ne concerne que la dimension psychologique ou subjective de la prise de conscience des diverses espèces de nombre, sans jamais fournir un argument contre le caractère a priori des mathématiques99, pas plus que contre la fondation purement logique de l'arithmétique. En effet, loin que l'on puisse ( comme en 1896) considérer le continu géométrique comme une Idée supramathématique qui serait à la fois objet d'intuition rationnelle et fondement du continu arithmétique, le continu géométrique ne peut désormais plus constituer l'origine intuitive et rationnelle de ce dernier, pour une raison essentielle : « Le continu géométrique n'est pas et ne peut pas être objet d'intuition », et « il n'y a pas, il ne saurait y avoir de continu physique100 ». À l'idée d'intuition rationnelle du continu se substitue désormais l'exigence de définition rigoureuse de la continuité comme propriété structurale commune à tous les continua, dont nul continuum (pas davantage le géométrique qu'un autre) ne saurait fournir de paradigme privilégié : de fait, du continu il est possible de donner une définition purement ordinale, c'est-à-dire de « construire logiquement et de toutes pièces la notion du continu, non seulement sans invoquer le continu géométrique, mais même sans faire appel à l'idée de grandeur101 ». De manière générale, l'arithmétique s'avère désormais indépendante de l'idée de grandeur, vu que les généralisations du nombre reposent sur un fondement purement logique et ensembliste, référée aux notions élémentaires d'ensemble, d'appartenance, de puissance, d'ordre, etc.102 : si les généralisations du nombre empruntent leur « raison d'être103 » psychologique à la considération des grandeurs, elles se présentent cependant « sous une forme purement logique104 ». De même, on peut effectuer une « analyse purement logique de la Géométrie projective », de manière à la faire « rentrer dans la Mathématique pure, qui ne connaît pas d'autres principes que ceux de la Logique105 ». Ainsi s'accomplit le 99 1905c, p. 90. 100 1905c, p. 90. 101 1905c, p. 91 (nous soulignons). Cf. Russell, Principles of Mathematics, sect. 36, p. 299-306. 102 1905c, p. 125 : « Il est vrai de dire que la Mathématique pure ne connaît pas la grandeur, et repose uniquement sur le notion de nombre généralisée. » 103 1905c, p. 137. 104 1905c, p. 125. 105 1905c, p. 157 et 159. © 2017. Classiques Garnier. Reproduction et diffusion interdites. 44 DOMINIQUE PRADELLE virage décisif vers le logicisme : loin que les notions mathématiques soient à fonder sur des Idées extramathématiques où elles auraient leur origine et leur finalité, on peut en effectuer une analyse purement logique qui les reconduise à des notions intramathématiques de logique et de théorie des ensembles. À la thèse de l'hétéronomie des mathématiques se substitue celle de leur autonomie ; à la fondation de l'entendement mathématicien sur la raison intuitive et philosophante, l'indépendance d'un entendement logicien seul maître des lieux et de leurs relations structurales. À quel prix, cependant, peut-on ainsi renvoyer dans un registre purement psychologique toute thématisation du rapport de la connaissance mathématique à son autre ? Que les divers ensembles de nombres (les entités mathématiques en général) ne puissent être rigoureusement définis que sur un plan intramathématique, cela signifie-t-il pour autant que les échafaudages qui mènent à leur concept et les niveaux noétiques qui étayent la conscience de leur sens soient radicalement étrangers à la rationalité mathématique ? Bref, l'historicité des mathématiques peut-elle être ainsi reléguée hors de la rationalité mathématique dans l'ordre de la psychologie des découvertes scientifiques, celui de la raison mathématicienne étant de son côté défini sub specie aeternitatis par une architecture de cristal aux fondations purement logiques ? Dominique Pradelle Université Paris-Sorbonne © 2017. Classiques Garnier. Reproduction et diffusion interdites.