Revue d’idées et d’opinion

 
Pour me rapprocher 
de tous les autres, 
la distance 
qui me sépare de moi-même.

 
 
















 


 

 

numéro 17 

Cantor ou l’étude infinie… de l’infini actuel
par Alain Laraby

La conférence donnée le 18 mars 2009 par Patrick Dehornoy, Professeur à l’Université de Caen, ne portait pas sur l’infini mais sur les infinis. C’est tout dire… ou peu dire en une heure et demie devant un parterre de la Bibliothèque nationale de France, assoiffé d’en savoir plus !

Dans un article, paru en 1874, Georg Cantor fonde la théorie des ensembles en considérant pour la première fois l’infini comme objet d’étude mathématique. Désormais, des théorèmes cernent l'infini !

 

Avant cette date, on parlait d’infini, mais de façon vague. Aux XVIIe et XVIIIe siècles, l’idée d’infini n’était plus rejetée comme dans l’antiquité (dans son théorème sur l’infinité des nombres premiers, Euclide ne concluait qu’à l’existence d’une quantité de nombres premiers supérieure à toute quantité donné). L’accueil fut timide. John Wallis commença par baptiser l’infini ∞. Sous ce logo, il fut utilisé dans le nouveau calcul décomposant une surface en une infinité de parallélogrammes de même taille, égale à 1/∞ de la surface totale. On demanda aussi au symbole ∞ de servir à décrire le passage à la limite, notamment des séries infinies…

Il s’agissait d’un infini en puissance, assimilable à un processus indéfini. Un pas de plus est toujours possible, à la manière du successeur d’un entier naturel. Avec l’article de Cantor, la gloire arrive. L’infini change de nature et de dénomination avec la lettre hébraïque א (aleph).

La note de Cantor fut courte (5 pages). Deux résultats tout simples, mais d’une portée sans prix : un résultat positif avec la possibilité d'énumérer les éléments d’un ensemble infini; un résultat négatif  avec l’impossibilité d'énumérer les réels.

 

Théorème 1

Ce théorème a donné son nom à l’article : Sur une propriété de la collection de tous les nombres réels algébriques. Il valait mieux valait afficher un résultat positif que négatif. Le directeur de la revue, Kronecker, champion des nombres entiers, veillait. L’impossibilité de démontrer certaines propositions n’avait pas bonne presse. Qu’on se rappelle la preuve de ne pouvoir déduire l’axiome des parallèles à partir des autres axiomes de la géométrie euclidienne ! Un traumatisme resta vivace, même si de nouvelles géométries virent le jour.

Compter tous les éléments d’un ensemble infini ? Vous plaisantez ? – Non, ce n’est pas très difficile. Voyez la numération des entiers pairs : à 0, on donne le nombre 0 ; à 2, le nombre 1 ; à 4, le nombre 2 ; à 6, le nombre 3 ; à 8, le nombre 4, etc. Les entiers relatifs ? Il faut être un peu plus astucieux : à 0, on donne 0 ; à 1, le nombre 1 ; à –1, le nombre 2 ; à 2, le nombre 3 ; à –2, le nombre 4 ; à 3, le nombre 5 ; à –3, le nombre 6 ; etc. Les nombres rationnels positifs ? La démonstration devient très astucieuse : Cantor démontra que l’on peut apparier les nombres rationnels, définis comme quotients de deux nombres entiers, en traçant un tableau à double entrée dont 1re ligne comporte tous les 1/1 ; ½, 1/3, ¼, etc. et la première colonne 1/1, 2/1, 3/1, 4/1, etc. Ce tableau fabrique toutes les fractions en cheminant en zigzag. D’une fraction à l’autre, on numérote : 1, en allant à 1/1 ; 2, de 1/1 à 2/2 ; 3, de ½ à 2/1 ;…

L’ensemble des nombres rationnels p/q apparaît dénombrable. On s’en assure en donnant à p/q le numéro 2p (2q+1). On peut aussi numéroter les nombres réels algébriques. Un nombre réel α est dit algébrique s’il existe au moins une équation polynomiale à coefficients entiers dont α soit solution. La démonstration devient plus ingénieuse. Cantor numérote les nombres algébriques via les équations dont ils sont solution, chacune étant mise en correspondance avec un entier décrivant la hauteur de cette équation. Ainsi la hauteur de l’équation a0xn + a1xn-1 + … + an-1 x + an = 0 est l’entier |a0|+ |a1| + … + |an-1| + |an| + n. On dira qu’un réel algébrique accepte h s’il est solution d’au moins une équation de hauteur h. (Par ex, √2 accepte 5, puisqu’il est solution de x2 – 2 = 0, qui est de hauteur 1 + 0 + 2 + 2.) Or, pour tout h, il n’y a qu’un nombre fini d’équations de hauteur h, donc un nombre fini de réels algébriques acceptant h. Pour énumérer tous les réels algébriques, on numérote ceux, en nombre fini, qui acceptent 2, puis ceux qui acceptent 3, etc.

Cantor conclut à l’existence d’un objet infini comme un tout complet, mais il ne donna pas de formule. Si positif qu’il soit, la tradition fut choquée devant un résultat ne procédant pas d’une construction exhaustive. Cantor disait avoir produit la preuve d’une existence pure !

 

Théorème 2

Quand on aborde les nombres réels, les choses empirent : il n’y a pas moyen de les numéroter, mais, pris comme tout, ils n’en existent pas moins comme infini. La démonstration consiste à pouvoir exhiber un réel α dans une suite quelconque de réels α0, α1,, vérifiant α ≠ αn pour tout n. A cette fin, on essaie d’extraire une sous-suite an0<an2<an4<…<an5<an3<an1 à nouveau en zigzagant, les termes pairs allant en croissant, les impairs en décroissant, le tout convergeant vers le nombre α. Supposons i ≥1 et ni construit. Deux situations se présentent :

- il n’existe pas n>ni tel que α n soit entre an i-1 et an i (strictement). La moyenne des deux termes, α = (an i-1 + an i)/2, diffère de α n. Coincé entre les demi-suites paires et impaires, le réel α  est différent de tous les α n. CQFD ;

- il existe un n tel que n>ni. Soit ni+1 le plus petit élément (propriété de la suite des nombres entiers). Or, comme (R, <) est complet (la limite de toute suite de Cauchy appartient à l’espace considéré), il existe toujours un réel α coincé entre les deux demi-suites paires et impaires : an0<an2<an4< α <…<an5<an3<an. On en déduit facilement α ≠ α n pour tout n.

 

La démonstration procède par récurrence en supposant l’inégalité vraie pour n et en montrant qu’elle est vraie pour n+1. En 1891, Cantor donna une autre démonstration de cette propriété : la méthode de la diagonale, fondée sur un raisonnement par l’absurde en démasquant autrement, dans une suite de réels, un réel α qui n’est pas dedans.

L’argument part de l’idée que l’ensemble des réels compris entre 0 et 1 est dénombrable. Si tel est le cas, on considère, pour chaque n, les développements décimaux de α0, α1,... :

a0 = …, a0,0 a0,1 a0,2           

a1 = …, a1,0 a1,1 a1,2           

a2 = …, a2,0 a2,1 a2,2. . ..

Considérons le nombre 0, a0,0 a1,1 a2,2…dont les décimales sont les chiffres de la diagonale du tableau à double entrée (chiffres en rouge). Modifions chacune des  décimales de ce nombre de façon à obtenir une réel α = 0, a#0,0 a#1,1 a#2,2… tel que  α ≠ α n  pour tout n, car le n-ième chiffre du développement de α n est an,n, et celui du développement de α est a*n,n, qui n’est pas an,n. Contrairement à ce qui avait été annoncé, le nombre α n’a pas dans la liste précédente. On tombe sur une contradiction. L’ensemble des nombres réels n’est pas dénombrable.

Avec le recul, le résultat positif apparut mineur et résultat négatif majeur. On ne considère plus aujourd’hui l’infini comme une entité unique. Il y a au moins deux infinis différents! Tous pourraient faire l’objet de démonstration. Cantor s’imposa comme le Christophe Colomb du monde qui passait pour une terra incognita. Son article permit de surmonter l’idée qu’on ne pouvait faire de mathématiques sur l’infini. La voie était ouverte pour d’autres découvertes (les ordinaux infinis) et des surprises défiant la logique (le problème du continu).

 

Les ordinaux transfinis

Cantor fructifia le premier l’héritage qu’il avait légué. Les ordinaux sont une prolongation de la suite des entiers. Les réels n’appartiennent au club, car dans toute suite d’ordinaux non vide, il existe un ordinal qui est le plus petit (on retrouve la propriété fondamentale des entiers. Cette propriété n’est pas vraie pour les réels). Outre les entiers, les ordinaux comprennent, plus grands que les entiers, les ordinaux infinis, appelés aussi « transfinis ».

Pour Cantor (nouveau théorème), il existe une unique suite prolongeant les entiers. Cette suite est munie d’une arithmétique propre (les opérations de base diffèrent partiellement de celles sur les entiers). Démonstration. Dans l’ensemble des ordinaux infinis, il existe un plus petit ordinal, disons ω. On a alors 0<1<3<…< ω. De même, il existe un plus petit ordinal plus grand que ω , disons ω+1. D’où 0<1<3<…< ω < ω+1, suivi par ω+2, ω+3, etc. jusqu’au plus petit ordinal plus grand que tous les ω+n, appelé ω+ ω, ou encore ω x 2. Viennent ensuite ω x 2 +1, ω x 2 +2, …, ω x n, puis ω x ω (noté ω2), puis ω3, ωn, et, au-delà ωω, et beaucoup plus loin (ωω)ω, etc. La construction continue sans fin, semblable à un empilement de tableaux à double entrée infinie dont on ne saurait représenter même le début dans ce compte-rendu.

Dans cet esprit, Patrick Dehornoy évoque, non sans un malin plaisir, les suites de Goodstein qui gonflent et atteignent des tailles gigantesques… Partons de l’écriture d’un entier en base 2. Soit  26 = 24 + 23 + 21. En base 2 itérée, 26  = ((22)2 )1 + (22)1 + 21. En remplaçant la base 2 par la base 3, on obtient très vite un chiffre très élevé : 26 = ((33)3)1 + (33)1 + 31 = 7.625.597.485.071. En remplaçant 3 par 4, 4 par 5, etc., la suite tend rapidement vers l’infini dans la suite de Goldstein qui prend soin de retrancher 1 du résultat à chaque étape… La présence du facteur –1 finit par ronger la croissance de la suite au point de la faire décroître et atteindre la valeur 0 au bout d’un nombre fini d’opérations !

Difficile à croire. Le théorème de Goodstein n’est pas démontrable à partir des axiomes de l'arithmétique usuelle, mais l'introduction des ordinaux permet d'établir ce résultat contre-intuitif. Médusé, un spectateur demanda s’il y a un rapport entre cette preuve et le théorème d’incomplétude de Gödel. L’orateur acquiesça. Comme dans la note de Cantor, le théorème  de Gödel comporte en théorie des nombres deux résultats : un positif (il existe des propositions indécidables) et un négatif (la consistance d’un système ne saurait être démontrée à l’intérieur de ce système). Ce dernier résultat fit aussi des vagues.

 

Le problème du continu

Cantor généralisa le concept de nombre. Non pas de façon algébrique comme l’avaient fait ses prédécesseurs, mais du point de vue de l’ordre. Grâce à la relation « est supérieur à » ou « est après », on peut classer les entiers et les transfinis, mais peut-on aussi comparer les tailles (cardinalités) des ensembles infinis ? Cette question se pose d’autant plus que Cantor démontra qu’il existe une infinité d’infinis. Mais s‘il y a une infinité d’infinis (actuels), comment se positionne l’infinité des réels ? Quel est le card (R) ? Combien y a-t-il de réels ?

Le théorème de non-numérotabilité de 1874 (Théorème 2) montrait que les réels sont de cardinal strictement supérieur aux entiers, i.e. card (R)> card (N). En 1877, Cantor subodora que toute partie infinie de R est en bijection soit avec N, soit avec R. Card (R) viendrait juste après card (N). Il n’y aurait aucun infini coincé entre les deux. Si  (aleph zéro) est le cardinal de l’ensemble des entiers, le cardinal des réels devrait être exactement égal à  (aleph un). Cette idée, en théorie des cardinaux infinis, est l’hypothèse du continu.

Une telle hypothèse n’est pas sans fondement puisque Cantor démontra qu’il existe une suite de cardinalités indexés par les ordinaux …telle que tout ensemble infini a pour cardinalité un et un seul א. L’hypothèse du continu (card (R) = ) peut s’écrire , sachant qu’il existe une bijection entre R et l’ensemble des parties de , soit 2 (par analogie avec le cas du nombre de parties d’un ensemble fini à n éléments, 2n). Il n’existerait pas d’ensemble infini dont le cardinal est strictement compris entre le cardinale de N et de R. On passerait du dénombrable (ou discret) au continu en faisant un seul bond. Quel saut !

Toute sa vie, Cantor essaya de mieux asseoir son hypothèse. Par la suite, on démontra que les fermés infinis (ensemble particulier des réels) et les boréliens (plus généraux que les fermés) satisfont à l’hypothèse du continu. Mais, sauf si l’axiomatique des ensembles de Zermalo-Fraenkel (ZK) est contradictoire, on démontra, à partir de ces axiomes, qu’une telle hypothèse n’est ni réfutable (Gödel, 1938), ni prouvable (Cohen, 1963). Est-elle donc ni vraie ni fausse ?

Pour lever l’énigme de l’hypothèse du continu, on ajouta les axiomes des grands cardinaux (GC), même s’ils demeurent indécidables en grande majorité. Le cardinal d’un ensemble non dénombrable A est un grand cardinal lorsque, étant plus gros que l’ensemble B, il est plus gros que l’ensemble P(B) des parties de B, plus gros que l’ensemble P(P(B) des parties de P(B), etc., et, plus généralement, plus gros que tout ensemble définissable à partir de B. Avec le système ZF + GC (ensembles hyperinfinis), on prouve que les ensembles projectifs satisfont à l’hypothèse du continu. Ce n’est pas encore tout le monde. Rien n’affirme pour l’heure qu’une solution définitive soit en vue. L’hypothèse du continu résiste encore !

Il y a une ironie dans l’histoire : refoulé, l’infini  perçu comme répétition sans fin semble revenir dans le travail des mathématiciens.

Qu’on se console : l’infini actuel se révèle aussi utile que l’infini des débuts de l’analyse infinitésimale. Pour Patrick Dehornoy, il se révèle une source d’inspiration dans l’étude des propriétés des tresses (la théorie des tresses est la géométrie (et le calcul) des croisements. Par ex. l’étude des tresses à 3 brins. Un nœud (tout entrelacs) est la clôture d’une tresse. Les stresses ont une structure de groupe. Dans sa présentation surgit un problème indécidable : il n’y a pas d’algorithme le résolvant).

 

Une impression à corriger

Le lecteur pourrait avoir l’impression que l’hypothèse du continu est un problème en soi. Dans la mathématique actuelle, il n’y a pas plus de problème en soi que de certitude absolue.

Hilbert, au début du XXe siècle, prétendait éliminer toute approximation, tout doute dans l’exactitude d’une démonstration. Partant d’un nombre fini d’axiomes, on devrait déduire tous les théorèmes par des règles d’inférence précises. Un algorithme de contrôle devrait permettre de vérifier l’enchaînement entier des propositions énoncées, des conditions aux conséquences ! Aussi rigoureux fût-il, Hilbert rêvait : toute la vérité mathématique ne peut être contenue dans un seul système formel. Avec son théorème d’incomplétude (1931), Gödel brisa le premier l’illusion. Rien que dans le cadre de l’arithmétique élémentaire (avec les entiers 1,2, 3, … et les opérations d’addition et de multiplication), on n’en peut mais. Le système ne dit pas toute la vérité. Le système n’est pas omnipotent. Turing poursuit, quelques années après, le travail de sape. Dans son article sur le concept mathématique de machine (1936), il démontre que certains calculs ne pourront jamais être effectués par un ordinateur (si astucieuse que soit la programmation et si patient soit-on à attendre le résultat !) Il y a des nombres réels incalculables. Rien ne permet de décider si un programme s’arrêtera ou non. Les idées de Gödel et de Turing ont été reformulées par Chaitin en indécidabilité algorithmique. L’incomplétude est devenue l’incalculabilité, et celle-ci l’incompressibilité. On ne peut que tendre sans trop savoir vers le nombre réel algorithmiquement irréductible Ω.

L’idée certitude absolue est sous-jacente à celle de problème en soi. L’existence d’un problème en soi laisse entendre que sa solution (ou sa non solution) existe en soi pareillement. Elle aussi relèverait de la certitude absolue. Or, s’agissant du théorème de Goodstein ou de l’hypothèse du continu, il n’y a de problèmes qu’à l’intérieur de l’axiomatique qui les définit.

L’énoncé du théorème de Goodstein est indécidable dans le cadre de l’arithmétique de Peano (l’arithmétique élémentaire dans laquelle Gödel a prouvé l’existence d’énoncés indécidables). Cependant, dans une axiomatique enrichie de nouveaux axiomes (l'arithmétique du second ordre ou le système Zermelo Fraenkel), l'énoncé peut être démontré. La question n’est donc pas de savoir si tel énoncé est démontré, mais de savoir s’il est démontré dans un système axiomatique usuel.

L’hypothèse du continu n’échappe pas au choix arbitraire. Pour chaque axiomatique de la théorie des ensembles, l’hypothèse du continu peut être vraie, fausse ou indépendante des axiomes. Il y a autant d’hypothèses du continu que d’axiomatiques dans lesquelles le problème est formulable. Dans le système Zermelo Fraenkel (axiomatique largement acceptée par les mathématiciens), l'hypothèse du continu est indécidable (ou indépendante). C’est cette question que Paul Cohen a réglée. Cependant, ici encore, dans une axiomatique enrichie de nouveaux axiomes, c’est-à-dire dans une axiomatique de la théorie des ensembles plus féconde que celle de Zermelo Fraenkel, l'hypothèse du continu peut devenir prouvable (ou au contraire réfutable). Pour les classes d’ensembles de R comme les boréliens et les ensembles projectifs, l'hypothèse du continu est vraie. Ces familles d'ensembles ne fournissent pas de contre-exemple. Aucun de ces ensembles n’a de cardinal intermédiaire entre celui des entiers et celui des réels.

Au sortir de notre compte-rendu, on ne saurait négliger ces nuances. On pourrait en ajouter une autre : le retour du refoulé (la répétition indéfinie, sans solution en perspective) n’a pas attendu les théorèmes de Gödel, de Turing et de Chaitin. Un système physique, parfaitement déterministe, peut se révéler à la longue non intégrable ! Poincaré l’a montré en étudiant mathématiquement le mouvement de trois corps suivant la loi de Newton. Déçu, il aurait déclaré : « Si j’avais su qu’en étudiant les lois de la physique, on ne pourrait rien prédire, j’aurais préféré me faire boulanger ou postier que physicien ou mathématicien. » Poincaré pessimiste ? C’est trop dire, pour quelqu'un qui déclare : « La vérité recule, mais le savant avance ». Il est optimiste, mais sa première citation, toute anecdotique qu’elle soit, suggère le contraire : le savant avance, mais la vérité recule. Le savant approche toujours plus près de la vérité, mais il ne sait toujours pas à quelle distance il se situe par rapport à elle.

A.L.


© Copyright Temps marranes

Toute reproduction des articles 
ou extraits parus dans le site 
de Temps marranes 
à des fins professionnelles 
est interdite 
sans l’autorisation 
de Temps marranes