Navigation – Plan du site

La mathématique et le pathologique

Klaus Volkert
p. 65-74

Résumés

Nous étudions l’apparition des monstres en mathématiques (comme, par exemple, le monstre dit de Weierstrass — une fonction continue qui n’est différentiable en aucun point) au XIXe siècle. Nous traitons aussi la question : comment peut-on distinguer les mathématiques normales (ou naturelles) des mathématiques pathologiques ?

Haut de page

Texte intégral

1Généralement, on n’associe pas spontanément les termes de « mathématique » et de « pathologique ». L’anomalie la plus courante, en mathématiques comme dans les autres sciences, c’est la contradiction, qu’il faut impérativement éviter. Mais hormis le cas du contradictoire, que peut bien signifier le pathologique en mathématique ? Ou encore, ce qui revient au même : qu’est-ce que le normal en mathématique ? L’histoire des mathématiques nous apprend que même cette discipline connaît des « fonctions pathologiques », des « monstres » et des « entités bizarres ». Ces expressions nous signalent qu’en dehors des formalismes sobres et de la logique pure, les mathématiques font elles aussi place à un domaine qu’on ne s’attendait pas à rencontrer en leur sein, celui du « pathologique ».

2Il aura fallu attendre le XIXe siècle pour découvrir la présence du pathologique en mathématiques. Avant cette date, les mathématiciens étaient des historiens de la nature -une nature assez particulière bien entendu. Cette nature, mathématique, était le royaume des idées (des « dianoia » selon Platon), mais des idées liées à la réalité que nous connaissons par l’expérience. Entre les idées et la réalité, on supposait une sorte d’harmonie préétablie, difficile à comprendre pour la pensée moderne. Bien sûr, on rencontrait de temps en temps des exemplaires exceptionnels, comme la fonction f(z) = (−1)z étudiée par Euler (1777). Mais ces exemples étaient des curiosités, des « jouets » sans importance d’un point de vue théorique. Leur rareté ne justifiait pas qu’on en fasse une théorie. Comme on dit, « une hirondelle ne fait pas le printemps ». Ce qui captait l’intérêt, c’était le normal, c’est-à-dire les fonctions usuelles ou typiques depuis longtemps en usage. Ainsi, le normal ou la norme se définissait-elle par la tradition et l’utilité. On admettait que la règle ou la norme puisse souffrir des exceptions, mais ces exceptions n’infirmaient pas la règle. La règle en effet ne prétendait pas s’appliquer à toutes les entités possibles, mais seulement aux plus fréquentes d’entre elles -elle rendait compte du normal et non de l’exceptionnel. Le style des mathématiciens du XVIIIe siècle peut être qualifié de « narratif », c’est-à-dire proche du discours du quotidien [Richards 2006, 700–713]. Les mathématiques narratives rendent compte du normal, et ne voient pas dans l’exception une infirmation de la norme.

  • 1 On peut établir ici un parallèle avec le « falsificationnisme» de Karl Popper.

3Au XIXe siècle la notion de rigueur mathématique se modifie. La pensée du savant, jusqu’alors concentrée sur les cas paradigmatiques, laisse place à un nouveau mode de pensée qu’on peut caractériser comme « pensée en extension ». Un énoncé général est désormais compris comme un énoncé censé s’étendre à tous les cas possibles. En conséquence, un énoncé général infirmé par un seul exemple (nommé « contre-exemple ») est tenu pour faux. Ainsi l’énoncé : « Tous les nombres premiers sont impairs » est faux, parce qu’il existe un nombre premier pair : 2. Dans ce contexte il devient important de tester un énoncé général en sollicitant les entités les plus bizarres possibles.1 Ce sont ces entités bizarres qui sont les plus intéressantes. Autrement dit : le plus pathologique devient désormais le plus important. Le monde mathématique s’en trouve complètement bouleversé. Pourquoi ? Parce que désormais un énoncé général risque d’être falsifié par les cas les plus pathologiques, les plus marginaux. Notons que durant la même période, l’intérêt porté aux cas pathologiques s’est développé également dans les sciences du vivant [Canguilhem 1966]. Ici aussi on trouve l’idée que l’étude du pathologique peut fournir des informations importantes concernant le fonctionnement dit normal. Désormais, il n’y a plus de rupture tranchée entre le normal et le pathologique, puisque l’étude du pathologique peut conduire à remettre en cause ce qu’on tenait jusqu’alors pour normal.

  • 2 D’un point de vue moderne le théorème d’Euler fait partie de la topologie algébrique.

4En mathématiques, au XIXe siècle, deux sous-disciplines illustrent le rôle clef de cette « pensée en extension » : la théorie des polyèdres avec son théorème central, celui d’Euler,2 et la théorie des fonctions réelles. Je souhaite analyser ces exemples car ils sont typiques de la nouvelle manière de concevoir le rapport entre le normal et le pathologique.

5En 1750, Euler avait trouvé la relation − = 2 (s est le nombre des sommets du polyèdre, a celui des arrêts, f celui des faces). Il croyait cette relation valable pour tous les polyèdres. Or après 1800, on a trouvé des exceptions à cette règle : par exemple, le « cube enceinte » :

Figure 1 : Le cube enceinte est un polyèdre constitué par deux cubes — l’un à l’intérieur de l’autre. Si on calcule − f, on obtient évidemment 2 + 2 = 4.

Figure 1 : Le cube enceinte est un polyèdre constitué par deux cubes — l’un à l’intérieur de l’autre. Si on calcule s − a + f, on obtient évidemment 2 + 2 = 4.

6Le cube enceinte décrit par L’Huilier [L’Huilier 1812, 168–191] et par Hessel [Hessel 1832, 13–20] n’est pas un polyèdre construit à volonté ; son introduction fut inspirée par des cristaux qu’on trouve dans la nature. Il marqua le début d’une recherche intense sur des exceptions possibles et sur les hypothèses qui excluent les exceptions [Lakatos 1976], [Cromwell 1999]. On commençait à construire des entités — des polyèdres — dans le seul but de trouver des exceptions.

Figure 2 : Le petit musée tératologique de Hessel : Les nombres pairs sont les mauvais, les nombres impairs les bons (à l’exception de 1).

Figure 2 : Le petit musée tératologique de Hessel : Les nombres pairs sont les mauvais, les nombres impairs les bons (à l’exception de 1).

7Mais l’exemple le plus remarquable de la pensée en extension au XIXe siècle est fourni par la théorie des fonctions réelles. Autrefois les fonctions étaient introduites pour décrire des variations régulières. Leibniz, qui a créé le concept de « fonction » dans sa signification mathématique, était convaincu qu’il n’existait en mathématiques que des régularités. Selon lui, toutes les irrégularités ne sont qu’apparentes :

Mais il faut juger qu’encore les souffrances et les monstres sont dans l’ordre ; et il est bon de considérer non seulement qu’il valait mieux admettre ces défauts et ces monstres que de violer les lois générales, …, mais aussi que ces monstres mêmes sont dans les règles, et se trouvent conformes à des volontés générales, quoique nous ne soyons point capables de démêler cette conformité. C’est comme il y a quelques fois des apparences d’irrégularité dans les mathématiques, qui se terminent enfin dans un grand ordre quand on a achevé de les approfondir : …On peut proposer une suite ou une série de nombres tout à fait irrégulière, en apparence, où les nombres croissent et diminuent variablement sans qu’il paraisse aucun ordre ; et cependant celui qui saura la clef du chiffre, …, pourra donner une règle, laquelle étant bien entendue, fera voir que la série est tout à fait régulière, et qu’elle a même des belles propriétés. [Leibniz 1985, 2].

8Un autre exemple cité par Leibniz est celui des courbes qui, malgré leur irrégularité apparente, peuvent être données par une équation -en d’autres termes, elles sont l’expression d’un ordre. Il s’agit là bien sûr d’un aspect de l’optimisme général de Leibniz !

  • 3 Il s’agit du fameux théorème (faux du point de vue moderne) du « Cours d’analyse algébrique» (1821) (...)

9Pendant le XIXe siècle, on a commencé à rechercher des fonctions au comportement inhabituel [Volkert 1987, 193–232]. Un des premiers exemples fut donné par le jeune mathématicien N. H. Abel [Abel 1826, 311–318] au sujet d’un théorème de Cauchy qui « admet des exceptions ».3 Ces exceptions ne sont pas construites par Abel à volonté ; elles correspondent à des séries trigonométriques bien connues à son époque, mais désormais étudiées d’un nouveau point de vue. Après Abel on est allé encore plus loin. L’allemand P. G. Dirichlet a créé en 1829 un véritable monstre — une fonction qui n’est continue dans aucun point. Aucune courbe ne peut représenter pareille fonction. Aujourd’hui, on présente le monstre de Dirichlet aux collégiens de la manière suivante :

  • 4 Cette idée est en parfaite harmonie avec l’idéologie du néo-humanisme, qui exerça une forte influen (...)

10Certes, cette fonction n’est pas découverte, mais elle est le fruit d’une construction, comme le soulignera plus tard Poincaré [cf. la citation infra]. Elle est construite d’une manière artificielle dans un but bien défini, celui d’infirmer l’énoncé trop général : « Toute fonction peut se représenter par une série trigonométrique ». Cette construction marque un changement profond dans les idées sur la nature des mathématiques : celles-ci ne sont plus la description d’une réalité indépendante du mathématicien, mais une libre création de l’esprit humain.4 À la suite de Dirichlet, on a construit des fonctions de plus en plus bizarres. L’exemple le plus fameux est la fonction continue dérivable en aucun point.

Figure 3 : Quelques étapes dans la construction du monstre de Weierstrass. Le monstre lui-même en est la limite.

Figure 3 : Quelques étapes dans la construction du monstre de Weierstrass. Le monstre lui-même en est la limite.

11Semblables fonctions furent déclarées « pathologiques », « illégitimes » ou « inutiles. » On était convaincu qu’elles ne trouveraient aucun usage dans les mathématiques appliquées. Ces qualificatifs montrent que la pensée traditionnelle était toujours vivante : une courbe connexe doit être lisse dans presque tous ses points. C’est un fait assuré par l’intuition ! Contre cette conception traditionnelle, les mathématiciens du XIXe siècle ont réduit la place de l’intuition, certains allant même jusqu’à l’expulser purement et simplement des mathématiques. Le critère du normal n’étant plus défini par l’intuition, le « normal » au sens traditionnel allait disparaître. La logique et le formalisme ont supplanté l’intuition, soumettant les théories au seul critère de la cohérence logique. Est-ce à dire que la frontière entre le normal et le pathologique devait disparaître ? La position de Poincaré sur cette question est tout à fait intéressante.

12Poincaré s’est intéressé à la question du normal et du pathologique en mathématiques. Rappelons que le grand mathématicien français s’était initié à la pathologie de deux manières au moins : par son père, professeur de médecine, qu’il accompagnait dans les hôpitaux, et par sa mère, qui appartenait à la famille de Geoffroy Saint-Hilaire. Les deux Saint-Hilaires, père et fils, avaient tenté de rattacher l’étude des pathologies et des monstres à une discipline spécifique, nommée par eux « tératologie ».

13En 1905 Poincaré commente l’état des mathématiques de la manière suivante :

14La logique parfois engendre des monstres. Depuis un demi-siècle on a vu surgir une foule de fonctions bizarres qui semblent s’efforcer de ressembler aussi peu que possible aux honnêtes fonctions qui servent à quelque chose. Plus de continuité, ou bien de la continuité, mais pas de dérivées, etc. Bien plus, au point de vue logique, ce sont ces fonctions étranges qui sont les plus générales, celles qu’on rencontre sans les avoir cherchées n’apparaissent plus que comme un cas particulier. Il ne leur reste qu’un tout petit coin.
Autrefois, quand on inventait une fonction nouvelle, c’était en vue de quelque but pratique ; aujourd’hui, on les invente tout exprès pour mettre en défaut le raisonnement de nos pères, et on n’en tirera jamais que cela. [Poincaré 1998, 109-110]

15Concernant le monstre de Weierstrass, Poincaré écrit :

Il y a cent ans, une pareille fonction eut été regardée comme un outrage au sens commun. [Poincaré 1898, 5]

16Poincaré jugeait encore pertinente la distinction entre mathématiques « saines » ou « normales » et mathématiques « pathologiques ». Le grand problème, toutefois, était de fournir un critère pour distinguer les deux. Comme le montre le passage précité, Poincaré pensait que les mathématiques pathologiques, les monstres, étaient le résultat de la logique, qui cherche le plus haut degré possible de généralité. Autrement dit : c’est la pensée en extension qui produit l’intérêt pour les monstres. Ce n’est pas la logique — la bête noire de Poincaré — qui produit et prend en considération les monstres, mais l’idée principale de la pensée en extension, selon laquelle il faut définir des ensembles par leurs extensions : si un ensemble se définit par son extension, alors on ne peut plus tolérer des exceptions. En effet une exception change l’extension et donc l’ensemble (l’objet mathématique) lui-même.

17Mais dans ce contexte nous n’avons plus qu’un critère négatif du normal : on constate ce qui n’est pas normal, et le normal peut se définir comme ce qui n’est pas non-normal. Que peut-on dire de positif sur les mathématiques normales ou saines ? Quel est le critère positif de distinction entre le normal et le pathologique en mathématiques? D’une part, on peut entendre par « normal » les mathématiques traditionnelles, les mathématiques des grands mathématiciens d’hier, les mathématiques en accord avec l’intuition, les mathématiques qui sont en accord avec les pratiques usuelles - en bref les mathématiques comme « science normale » au sens de Thomas Kuhn. D’autre part, les mathématiques saines désignent les mathématiques qui trouvent à s’appliquer dans les sciences de la nature. Toutefois ce second critère fut réfuté du vivant même de Poincaré : le physicien L. Boltzmann en 1898 a en effet proposé d’utiliser le monstre de Weierstrass pour décrire d’une manière mathématique le mouvement Brownien :

Figure 4 : Mouvement brownien dans une dimension.

Figure 4 : Mouvement brownien dans une dimension.
  • 5 Il est néanmoins vrai qu’il y a avait et qu’il y a des débats sur les fondements des mathématiques, (...)

18Évidemment, le critère de l’applicabilité à la nature est soumis à des changements historiques. Il en va de même du critère de l’intuitivité. Ce qui n’est pas du tout intuitif à une certaine époque — par exemple à celle de Poincaré — peut le devenir quelques dizaines d’années plus tard. L’exemple le plus célèbre est peut-être la géométrie non euclidienne devenue assez intuitive par les modèles qu’on a construits à partir des années 1870 [Voelke 2005 — en particulier la troisième partie de ce livre]. Par conséquent, nous ne disposons plus de critère décisif pour discerner les mathématiques saines, « normales », des mathématiques pathologiques. On serait tenté de conclure que c’est la logique (ou plus exactement la théorie des ensembles) et le point de vue de Leibniz qui l’ont emporté, au point de renverser les domaines du normal et du pathologique : le normal est devenu une province d’une totalité qui assume le pathologique dès son propre commencement. La mutation décrite dans le présent article est sans doute une des caractéristiques des mathématiques modernes.5 Rappelons pour finir le trait essentiel de cette « modernité » : à partir du XIXe siècle les mathématiques sont considérées comme une libre création de l’esprit humain. Celui-ci se met à explorer les frontières du normal et commence à construire des exemples bizarres qui ne sont plus trouvés mais créés : les monstres. Ce travail de construction traduit un changement profond de la pensée mathématique : on est désormais convaincu qu’on peut apprendre des choses importantes en considérant des exemples extrêmes. C’est le pathologique qui, désormais, nous donne des informations sur le normal ! Par rapport à ce courant, Poincaré peut être considéré comme un penseur « anti-moderne » [Mehrtens 1990]. Une version plus détaillée des idées présentées ici sera publiée sous le titre « Essai de tératologie mathématique », dans un prochain ouvrage collectif édité par D. Flamant et Ph. Nabonnand.

Haut de page

Bibliographie

Abel, N. H.
1826 Untersuchungen über die Reihe…(Journal für die reine und angewandte Mathematik 1).

Canguilhem, G.
— 1966 Le normal et le pathologique, Paris : PUF.

Cromwell, P. R.
1999 Polyhedra, Cambridge : Cambridge University Press.

Hessel
1832 Nachtrag zu dem Euler’schen Lehrsatze von Polyedern, Journal für die reine und angewandte Mathematik, n° 8.

Krömer, R.
2007 Tool and Object. A History and Philosophy of Category Theory, Basel-Boston-Berlin.

Lakatos, I.
1976 Proofs and Refutations Cambridge : Cambridge University Press.

Leibniz, G. W.
— 1985 Essais de Théodicée, in Philosophische Schriften. Bd. II. Zweite Hälfte, hg. und übersetzt von H. Herring, Darmstadt : Wissenschaftliche Buchgesellschaft.

L’Huilier, S. A. J.
— 1812/13 Mémoire sur la polyèdrométrie, Annales de mathématiques pures et appliquées n°3.

Mehrtens, H.
— 1990 Moderne Sprache Mathematik, Frankfurt.

Poincaré, H.
— 1898 L’œuvre mathématique de Weierstrass, Acta mathematica, 22.
— 1998 Les mathématiques et la logique, in Science et méthode, Paris : Kimé.

Richards, J.
2006 Historical Mathematics in the French Eighteenth Century, Isis 97.

Voelke, J.-D.
— 2005 Renaissance de la géométrie non euclidienne entre 1860 et 1900, Berne.

Volkert, K.
1987 Die Geschichte der pathologischen Funktionen — Ein Beitrag zur Entstehung der mathematischen Methodologie. Archive for History of Exact Sciences, 37.
— 2006 Faut-il étudier la tératologie ? Annales de didactique des mathématiques, 11.

Weierstrass, K.
— 1895 Über continuirliche Functionen eines reellen Arguments, die für keinen Werth des letzteren einen bestimmten Differentialquotienten besitzen, Werke, Tome II, Berlin.

Haut de page

Notes

1 On peut établir ici un parallèle avec le « falsificationnisme» de Karl Popper.

2 D’un point de vue moderne le théorème d’Euler fait partie de la topologie algébrique.

3 Il s’agit du fameux théorème (faux du point de vue moderne) du « Cours d’analyse algébrique» (1821) qui assure que la somme d’une série de fonctions continues est une fonction continue.

4 Cette idée est en parfaite harmonie avec l’idéologie du néo-humanisme, qui exerça une forte influence sur les universités allemandes du XIXe siècle. Il n’est pas surprenant que l’étude des fonctions pathologiques se soit développée d’abord en Allemagne.

Il est remarquable que Diderot a spéculé sur la création à volonté des monstruosités dans son essai « La rêve de d’Alembert» 50 ans avant Dirichlet — et Frankenstein a vu le jour en 1818.

5 Il est néanmoins vrai qu’il y a avait et qu’il y a des débats sur les fondements des mathématiques, en particulier sur la théorie des ensembles, pendant le XXe siècle. Mais on constater que la pratique des mathématiques s’est stabilisée dans la manière indiquée dans le texte en haut. Un aspect de cette discussion - autour de la théorie des catégories — est analysé dans le livre récent de R. Krömer [Krömer 2007].

Haut de page

Table des illustrations

Titre Figure 1 : Le cube enceinte est un polyèdre constitué par deux cubes — l’un à l’intérieur de l’autre. Si on calcule − f, on obtient évidemment 2 + 2 = 4.
URL http://philosophiascientiae.revues.org/docannexe/image/328/img-1.png
Fichier image/png, 52k
Titre Figure 2 : Le petit musée tératologique de Hessel : Les nombres pairs sont les mauvais, les nombres impairs les bons (à l’exception de 1).
URL http://philosophiascientiae.revues.org/docannexe/image/328/img-2.png
Fichier image/png, 193k
URL http://philosophiascientiae.revues.org/docannexe/image/328/img-3.png
Fichier image/png, 7,6k
Titre Figure 3 : Quelques étapes dans la construction du monstre de Weierstrass. Le monstre lui-même en est la limite.
URL http://philosophiascientiae.revues.org/docannexe/image/328/img-4.png
Fichier image/png, 64k
Titre Figure 4 : Mouvement brownien dans une dimension.
URL http://philosophiascientiae.revues.org/docannexe/image/328/img-5.png
Fichier image/png, 159k
Haut de page

Pour citer cet article

Référence électronique

Klaus Volkert, « La mathématique et le pathologique », Philosophia Scientiæ [En ligne], 12-2 | 2008, mis en ligne le 01 octobre 2011, consulté le 27 mars 2017. URL : http://philosophiascientiae.revues.org/328 ; DOI : 10.4000/philosophiascientiae.328

Haut de page

Auteur

Klaus Volkert

Université de Cologne, LHSP - Archives H. Poincaré, UMR 7117 du CNRS

Haut de page

Droits d’auteur

Tous droits réservés

Haut de page