Commentaires sur le §5 du Cinquième Complément

Comme nous l’évoquions ici, Poincaré voit dans ce cinquième complément les fonctions de Morse comme un moyen d’« engendrer » des variétés, et en particulier la sphère d’homologie qu’il cherche à construire. Dans le §6, il va plus précisément s’intéresser aux variétés fermées de dimension $3$ « engendrées » par une fonction de Morse dont le squelette (voir le §2) est une graphe rectiligne à $2p+2$ sommets, qui correspondent (dans cet ordre) à un point critique d’indice 0, $p$ points critiques d’indice $1$, $p$ points critiques d’indice $2$ et un point d’indice $3$.

Ici, Poincaré s’intéresse à la « demi-variété » à bord obtenue en s’arrêtant dans le squelette entre le dernier point critique d’indice $1$, et le premier point d’indice $2$. Il montre qu’il s’agit d’une boule (anse d’indice $0$) à laquelle on a attaché $p$ anses d’indice $1$. Autrement dit, c’est un corps en anses de genre $p$ (ci-dessous un corps en anse de genre $3$).

Par conséquent, les variétés « à squelette rectiligne » du §6 s’obtiennent en attachant à un tel corps en anses $V$, d’abord $p$ anses d’indice $2$ (de telle sorte que le bord de la variété obtenue alors soit une sphère), puis une anse d’indice $3$ (une boule avec laquelle on « bouche » la sphère). L’union de ces $p$ anses d’indice $2$ et de cette anse d’indice $3$ forme un second corps en anses de genre $p$. Ceci permet de décrire la variété fermée de départ comme union de deux corps en anses de genre $p$ recollés le long de leurs bords. Autrement dit, ceci fournit un scindement de Heegaard de la variété fermée de départ.

Une autre façon de voir ces variétés est de partir du bord $W$ du corps en anse $V$, de l’épaissir en $W\times[0,1]$, et de recoller de part et d’autre $p$ anses d’indice $2$ et une anse d’indice $3$. La topologie de la variété ainsi obtenue étant déterminée par les lieux de recollement des anses d’indices $2$, voisinages de $p$ courbes fermées simples $K_1'$, ..., $K_p'$ sur $W\times\{0\}$ et $K_1''$, ..., $K_p''$ sur $W\times\{1\}$. C’est ce que commence à énoncer Poincaré ici en démontrant que $\pi_1(V)$ est le quotient de $\pi_1(W)$ par le sous-groupe distingué engendré par les classes d’homotopie (libre) de $K_1'$, ..., $K_p'$ [1], famille maximale de courbes de compression (cf. plus bas). Il en déduira dans le §6 que le groupe fondamental d’une variété munie d’un scindement de Heegaard est quant à lui le quotient du groupe fondamental de la surface de recollement par le sous-groupe distingué engendré par les courbes de compression des deux corps en anses. Ce résultat est démontré en vidéo dans le cours moderne à l’aide du théorème de Van Kampen.

Voici plus précisément la structure que nous dégageons de ce §5 :

• De Envisageons à homéomorphes entre elles : toute variété à bord $V$ possédant une fonction de Morse dont le squelette est rectiligne avec un point critique d’indice $0$ à un bout, $p$ points d’indice $1$ à l’intérieur, et un deuxième bout qui n’est pas un point critique, est un corps en anses de genre $p$ ;
• De Supposons que dans l’espace ordinaire à sont toujours homéomorphes : corollaire erroné de ce qui précède ; Poincaré affirme que tout domaine borné de $\mathbb R^3$ bordé par une surface de genre $p$ possède une telle fonction de Morse, et est donc homéomorphe à un corps en anses, ce qui est faux.
• De J’arrive maintenant à une question importante à la fin, Poincaré considère à nouveau un corps en anses $V$ de genre $p$, et une famille de $p$ courbes fermées disjointes $K_1', ...,K_p'$ tracées sur $W=\partial V$. Il trouve une condition nécessaire et suffisante pour que ces courbes bordent $p$ disques disjoints dans $V$ le long desquels on peut découper $V$ en une boule (on dit alors que $K_1', ...,K_p'$ forment une famille maximale de courbes de compression pour $V$). En fait, ce qui nous intéresse, c’est surtout qu’il montre que de telles courbes satisfont $i_*(\pi_1(W))=\pi_1(W)/\langle K_1',...,K_p'\rangle,$ où $i$ désigne l’inclusion de $W=\partial V$ dans $V$.

Corps en anses « engendré » par un squelette rectiligne

Poincaré commence par généraliser aux variétés à bord son idée de construction de variété à partir d’un squelette, par empilement d’hypersurfaces (éventuellement singulières). La construction ouvrant ce paragraphe revient a posteriori à considérer une variété à bord munie d’une fonction de Morse --- le bord de la variété étant un niveau régulier de cette fonction --- ayant un point critique d’indice $0$, et $p$ points critique d’indice $1$ sans bifurcation (voir le §2). Le squelette associé est un « graphe rectiligne semi-ouvert » avec $p+1$ sommets joints, $p$ arrêtes joignant chacune un sommet au suivant, et une « demi-arrête » partant du dernier sommet (l’autre extrémité de cette demi-arrête, correspondant au bord de la variété, n’est pas vraiment un sommet, puisque c’est une valeur régulière de la fonction de Morse). L’animation suivante présente un exemple de variété à bord « engendrée » par un tel squelette. La variété en question est l’union de toutes les surfaces vertes que l’on voit au cours du film (une nouvelle à chaque instant), qui correspondent aux niveaux d’une fonction de Morse définie sur un domaine de $\mathbb{R}^3$ et ayant le graphe indiqué. Ces surfaces sont deux-à-deux disjointes, imbriquées les unes dans les autres, et leur union est le domaine borné de $\mathbb{R}^3$ bordé par la surface de genre $3$ finale. Il s’agit d’un corps en anse de genre $3$.

Il ne s’agit pas d’un exemple particulier. Poincaré démontre que le graphe (rectiligne semi-ouvert avec un sommet d’indice $0$ et $p$ sommets d’indice $1$) ne laisse en fait aucune ambiguïté sur la variété à bord $V$ obtenue, à homéomorphisme près. Il s’agit « du » corps en anses de genre $p$. En termes modernes, il suffit d’invoquer la théorie de Morse, qui affirme que le franchissement d’une singularité d’indice $1$ correspond à l’attachement d’une anse d’indice $1$, puis de se convaincre que deux variétés à bord obtenues à partir d’une boule en attachant successivement $p$ anses d’indice $1$ sont homéomorphes. C’est ce que fait Poincaré, en voyant ces variétés comme homéomorphes à des boules dont $2p$-disques du bord ont été identifiés par paires, et en remarquant que deux familles quelconques de $2p$ disques sur la sphère sont images l’une de l’autre par un homéomorphisme de la sphère.

Détaillons l’argument de Poincaré, en particulier pour introduire ses notations, que nous utiliserons dans la suite. Il explique que la fonction de Morse distingue des cycles particuliers sur chaque surface de niveau, qu’il appelle $K_1,\dots,K_p$. Il pense à $K_q$ comme à une cycle, qui apparait quand on passe le $q$-ième point critique d’indice $1$, et varie ensuite continûment en fonction du niveau.

Plus qu’à ces cycles $K_1,\dots,K_p$, nous allons nous intéresser aux $p$ disques qu’ils engendrent lorsque l’on empile tous les niveaux pour obtenir $V$, que Poincaré note $A_1,\dots,A_p$. Il montre que ces disques forment ce qu’on appellerait aujourd’hui une famille maximale de disques de compression de $V$ [2] au sens où

en pratiquant dans $V$ les $p$ coupures $A_q$ on rend cette variété simplement connexe.

Ces disques ne sont pas canoniquement définis, ni chez Poincaré ni dans ce qui suit. Une façon de les décrire est de munir $V$ d’une métrique riemannienne, et de considérer le gradient descendant de la fonction de Morse pour cette métrique. Les disques sont alors les nappes stables, pour le flot du gradient, des $p$ points critiques d’indice $1$ de la fonction de Morse (c’est-à-dire l’ensemble des points dont l’orbite par le gradient descendant converge vers un point critique d’indice $1$). Les courbes $K_1,\dots,K_p$ sont alors les intersections de ces disques avec les niveaux successifs. [3] Dans l’animation suivante, on montre comment est « engendré » le disque $A_3$ de l’exemple précédent.

Voici maintenant les trois disques de compression $A_1,A_2,A_3$ de ce même exemple, réunis sur une même image.

Définis ainsi, il est clair que les disques $A_1,\dots,A_p$ sont deux à deux disjoints, donc que les courbes fermées $K_1,\dots,K_p$ le sont également, et que ces dernières sont « non bouclées » (c’est-à-dire qu’il s’agit de courbes simples) (voir d’ici à là). Poincaré explique alors ici, comme annoncé, qu’en découpant $V$ le long des disques $A_1,\dots,A_p$, on obtient une boule $U$.

Pratiquons ces $p$ coupures, et déformons notre variété de façon à écarter les deux lèvres de ces coupures ; la variété nouvelle $U$ ainsi obtenue sera simplement connexe, limitée par une surface simplement connexe $H$ homéomorphe à une sphère. Sur cette surface simplement connexe nous distinguerons $2p$ aires simplement connexes qui seront les deux lèvres des $p$ coupures, et que j’appellerai les cicatrices ; ces cicatrices seront conjuguées deux à deux.

ou encore que $V$ est le quotient d’une boule $U$ après identification par paires de $2p$ disques sur son bord

A chaque point de $U$ correspondra un point de $V$ et un seul ; de même à chaque point de $V$ correspondra un point de $U$ et un seul, sauf pour les points des aires $A_q$ à chacun desquels correspondront deux points de $U$ situés sur deux cicatrices conjuguées.

Il en déduit que

toutes les variétés engendrées comme $V$ et pour lesquelles le nombre entier appelé plus haut $p$ est le même sont homéomorphes entre elles

et en particulier au domaine borné de $\mathbb{R}^3$ bordé par une surface de genre $p$ (comme celui-ci ou ceux-ci).

Intermède : une boulette de Poincaré

Suit alors un corollaire erroné de l’énoncé ci-dessus. Poincaré en déduit que toute surface fermée plongée dans $\mathbb{R}^3$ borde d’un côté un corps en anses :

Supposons que dans l’espace ordinaire on construise une surface fermée $2p + 1$ fois connexe et sans singularité. Cette surface partagera l’espace en deux régions, l’une intérieure et l’autre extérieure. Soit $R$ la région intérieure. C’est une variété non fermée à trois dimensions susceptible de la même génération que $V$. Donc $V$ est homéomorphe à $R$ pourvu que le nombre $p$ soit le même.

Ceci est faux (ce n’est pas très gênant, car Poincaré n’en fera aucun usage dans la suite), l’erreur résidant dans l’affirmation un peu rapide

susceptible de la même génération que $V$.

Considérons par exemple la surface de $\mathbb R^3$ obtenue en projetant stéréographiquement le bord d’un voisinage régulier d’un noeud de trèfle dans $\mathbb S^3$, en plaçant le pôle de la projection sur le noeud lui-même, de sorte que le domaine borné de $\mathbb R^3$ bordé par cette surface (un tore), représenté dans l’animation ci-dessous, est homéomorphe au complémentaire du noeud de trèfle dans $\mathbb S^3$. Cette variété n’est pas homéomorphe à un tore plein ! En effet, on peut montrer [4] que son groupe fondamental a pour présentation $\langle x,y \;|\; x^2=y^3\rangle$, donc se surjecte sur le produit libre $\mathbb{Z}/2\mathbb{Z}*\mathbb{Z}/3\mathbb{Z}$ et n’est donc pas isomorphe à $\mathbb{Z}$, groupe fondamental du tore plein.

Ce qui est troublant c’est que Poincaré a lui-même en tête des idées de contre-exemples :

On peut en tirer en passant une conséquence ; considérons dans l’espace ordinaire deux surfaces fermées $S$ et $S'$, l’une et l’autre $2p + 1$ fois connexes.

Soit $R$ le volume intérieur à $S$, et $R'$ le volume intérieur à $S'$. On sait que les deux surfaces $S$ et $S'$ sont homéomorphes ; mais l’on pourrait se demander s’il en est de même des deux volumes $R$ et $R'$ et au premier abord on pourrait être tenté de répondre négativement à cette question. On pourrait se représenter les diverses nappes de la surface $S'$ s’enchevêtrant les unes dans les autres d’une façon compliquée et formant des nœuds qu’il serait impossible de dénouer sans sortir de l’espace à trois dimensions. Loin de là, nous sommes maintenant en état de conclure que les deux volumes $R$ et $R'$ sont toujours homéomorphes, puisque ces deux volumes peuvent être engendrés comme $V$, et deux variétés engendrées comme $V$ sont toujours homéomorphes.

L’erreur est que justement, les volumes $R$ et $R'$ ne peuvent en général pas « être engendrés comme $V$ ».

En revanche, cette partie du passage est correcte :

Donc, si j’appelle développables les variétés non fermées qui sont homéomorphes à une portion de l’espace plan, toutes les variétés engendrées comme $V$ sont développables

(il n’y a pas d’erreur car Poincaré restreint son affirmation aux « variétés engendrées comme $V$ »).

Différents « modes de génération » d’un corps en anses, ou encore, différentes familles maximales de courbes de compression

Etant donné un corps en anses $V$ de genre $p$, il existe une infinité de manières de découper $V$ le long de $p$ disques pour obtenir une boule. La question que se pose maintenant Poincaré est : si on se donne $p$ courbes fermées $K'_1,\dots, K'_p$ tracés sur $W=\partial V$, à quelle condition ces courbes bordent-elles des disques deux à deux disjoints plongés dans $V$, tels que $V$ privé de ces disques soit homéomorphe à une boule (on dit alors que $K'_1,\dots, K'_p$ est une famille maximale de courbes de compressions pour $V$) ? La figure suivante fournit deux exemples dans le cas $p=3$.

Poincaré démontre que $K'_1, ...,K'_p$ est une famille maximale de courbes de compressions si ces courbes sont simples, deux à deux disjointes, et que le sous-groupe distingué de $\pi_1(W)$ qu’elles engendrent est égal au noyau de l’application

$$\pi_1(\partial V)\to \pi_1(V).$$

induite par l’inclusion de $\partial V$ dans $V$ [5].

Les deux premières propriétés sont clairement nécessaires, et pour vérifier que la troisième l’est aussi, il suffit de vérifier qu’elle est satisfaite par les courbes $K_1,\dots,K_p$ définies précédemment (quand on a engendré $V$ par une fonction de Morse à squelette rectiligne). C’est ce qu’affirme Poincaré ici :

Nous aurons donc les équivalences

$$ \tag{1} K_1 \equiv K_2 \equiv \dotsc \equiv K_q \equiv 0 \quad(\textrm{mod}\, V)$$

et toutes celles qui s’en déduisent. Je dis que nous n’en aurons pas d’autres.

Je veux dire par là que si nous avons par rapport à $V$ une équivalence de la forme suivante :

$$ \tag{2} C \equiv 0 \quad(\textrm{mod}\, V),$$

$C$ étant un cycle de la surface frontière $W(1)$, que j’appellerai pour abréger $W$, nous aurons, par rapport à cette surface frontière $W$ une équivalence de la forme

$$ \tag{3} C \equiv - \alpha_1 + \beta_1 + \alpha_1 - \alpha_2 + \beta_2 + \alpha_2 - \dotsc - \alpha_n + \beta_n + \alpha_n \quad(\textrm{mod}\, V), $$

où les $\alpha_i$ sont des cycles quelconques de $W$ et où les $\beta_i$ sont des cycles de cette surface tels que

$$ \beta_i \equiv m K \quad(\textrm{mod}\, V)$$

$m$ étant un entier positif ou négatif et $K$ l’un des cycles $K_1, K_2, \dotsc, K_q$...

Cette affirmation se démontre très simplement en termes modernes : dire que $K_1$,...,$K_p$ sont les bords d’une famille maximale de disques de compression revient à dire que $V$ s’obtient à partir de $V_0=W\times [-1,0]$ en recollant $p$ 2-anses le long de $K_1\times\{-1\}$,...,$K_p\times\{-1\}$ puis une $3$-anse le long de la composante de bord sphérique de la variété à bords $V_1$ ainsi obtenue. Le théorème de Van Kampen implique alors que $\pi_1(V)=\pi_1(V_1)$ (attacher une $3$-anse ne change pas le groupe fondamental), et que chaque attachement de $2$-anse revient à quotienter le $\pi_1$ de la variété précédente par le groupe cyclique engendré par la courbe de recollement, et ainsi que $\pi_1(V_1)$ est le quotient de $\pi_1(V_0)=\pi_1(\partial V)$ par le sous-groupe distingué engendré par $K_1$,...,$K_p$, ce qu’on voulait montrer, et même plus puisque cela donne en outre la surjectivité de $i_*:\pi_1(\partial V)\to \pi_1(V)$.

« Preuve » de Poincaré

Elle démarre ici et se termine là. Partons d’un lacet $C$ sur $W$ homotopiquement trivial dans $V$. Ce que l’on veut montrer, c’est que sur $W$, $C$ appartient au sous-groupe distingué engendré par les $K_i$ [6], qui sont supposés former une famille maximale de courbes simples fermées disjointes et homologiquement indépendantes. On peut supposer, quitte à le perturber légèrement, que $C$ intersecte les $K_i$ transversalement, en un nombre fini (et pair) de points, que l’on note $2k$.

La preuve se fait par récurrence sur $k$. Supposons d’abord que $C$ n’intersecte pas les $K_i$. Alors $C$ est un lacet de $W\setminus \cup K_i$ qui est une sphère à $2p$ trous, et le groupe fondamental de cette sphère trouée est précisément engendré par les contours des trous, qui correspondent précisément dans $W$ aux $K_i$ et à leurs inverses, ce qui conclut l’initialisation.

Supposons que $C$ intersecte les $K_i$. La courbe $C$ borde dans $V$ un disque $D$ et l’on peut supposer que celui-ci intersecte transversalement les disques de compression $A_i$ le long d’arcs disjoints reliant chacun deux points de $C$. Choisissons un tel arc $\gamma$ qui est « extrémal » au sens où ses extrémités, que l’on notera $H$ et $I$ pour reprendre les notations de l’exemple de Poincaré (voir en particulier la figure) sont aussi les extrémités d’un arc $\gamma_C$ de $C$ qui ne rencontre sinon pas les $K_i$. Soit $A_q$ le disque de compression contenant l’arc $\gamma$. Les points $H$ et $I$ sont aussi les extrémités d’un arc $\gamma_K$ dans $K_q=\partial A_q$. On décompose $C$, en noir dans l’animation ci-dessous, en deux lacets (rouge et rose) dont il s’agit de montrer qu’ils appartiennent au sous-groupe normal voulu. Pour cela fixons un point base [7] sur l’arc $\gamma_C$. Comme dans l’animation suivante on peut prendre pour point base l’un des deux points $H$ ou $I$, disons $H$. Le premier lacet parcourt $\gamma_C$ de $H$ à $I$, puis $\gamma_K$ de $I$ à $H$, alors que le second parcourt $\gamma_K$ de $H$ à $I$, puis $C\setminus \gamma_C$ de $I$ à $H$. Les deux parcours de $\gamma_K$ se compensent de sorte que le produit de ces lacets est bien homotope à $C$. Or le premier peut être légèrement « poussé » pour ne plus intersecter $K_q$, et donc en fait aucun $K_i$, de sorte qu’on peut lui appliquer l’initialisation. Quant au second, on peut pousser légèrement la portion $HI$ hors d’un voisinage de $K_q$, ce qui le rend librement homotope dans $W$ à un lacet ayant deux intersections de moins que $C$ avec les $K_i$, ce qui conclut la récurrence.

$$ $$

Poincaré cherche ensuite à montrer le caractère suffisant des trois propriétés, c’est-à-dire que si $K'_1$,...,$K'_p$ sont $p$ courbes simples fermées disjointes et homologiquement indépendantes sur $\partial V$ qui appartiennent au noyau de $\pi_1(\partial V)\to \pi_1(V)$ alors elles bordent une famille maximale de disques de compression.

Les courbes $K_i '$ bordent des disques topologiques dans $V$ puisqu’elles y sont homotopiquement triviales. Poincaré commence par montrer ici que l’on peut choisir ces disques disjoints. Son argument de « la courbe la plus intérieure » est essentiellement correct (et maintenant un classique de la topologie de la dimension 3) mais comment montre-t-il que l’on peut choisir les disques plongés ? Il semble juste dire

Un raisonnement analogue montrerait que les cycles $K'$ n’étant pas bouclés on peut toujours supposer que les aires $A_i'$ sont des surfaces sans courbe double.

C’est le lemme de Dehn ! En voici une formulation moderne :

Dehn a justement essayé de le démontrer en suivant essentiellement l’idée proposée par Poincaré. Mais sa preuve est bien connue pour avoir un trou repéré par Kneser. La démonstration de Dehn est correcte lorsque les singularités ne sont que des points doubles mais il a fallu attendre 1957 pour que Christos Papakyriakopoulos donne une démonstration complète du lemme de Dehn.

Admettons ici le lemme de Dehn [8] et résumons la démonstration de Poincaré que les disques peuvent être rendus disjoints. On procède, comme lui, par récurrence sur $q$, en supposant les $q-1$ premiers disques $A'_i$ disjoints. On peut supposer que $A'_q$ intersecte chaque $A'_i$, $i\le q-1$, transversalement à l’intérieur de $V$, en des courbes fermées simples disjointes. Dans l’animation suivante on représente $A_q'$ par un disque plongé bleu et l’un des $A_i '$ par un disque rose. On procède par récurrence sur le nombre total des courbes d’intersection entre $A_q'$ et les $A_i'$. Parmi ces courbes, prenons-en une, $h$ (pour suivre de plus près possible les notations de Poincaré), incluse dans un certain $A'_i$ (et dans $A'_q$ bien sûr), qui, dans le disque $A'_q$, n’est intérieure à aucune autre comme les courbes verte et jaune dans l’animation ci-dessous. Notons $G$ le disque bordé par la courbe $h$ dans $A'_q$ et $G'$ le disque bordé par cette même courbe $h$ dans $A_i'$. La surface obtenue en retirant $G$ à $A'_q$ et en rebouchant le trou par $G'$ est toujours un disque plongé de bord $K'_q$ qui, à une petite déformation près, a une courbe d’intersection de moins avec les $A'_i$, $i\le q-1$, par rapport au précédent $A'_q$, ce qu’on voulait.

Il reste à démontrer que si l’on coupe $V$ le long de ces $p$ disques, on obtient une boule. On suppose donc dorénavant que les $K_i'$ bordent dans $V$ des disques disjoints. Les $K'_1$,...,$K'_p$ sont simples, disjoints, au nombre de $p$ et indépendants en homologie sur $W$ sur une surface de genre $p$. Donc si l’on découpe cette surface $W$ le long de ces $p$ courbes on obtient une sphère privée de $2p$ disques. Ainsi, le bord de la variété obtenue en découpant $V$ le long de $p$ disques disjoints bordés par $K'_1$,...,$K'_p$ n’est autre qu’une sphère (une sphère à $2p$ trous bouchés par $2p$ disques). Or cette variété se plonge dans $\mathbb{R}^3$, donc cela ne peut être qu’une boule [9], ce qu’on voulait montrer.

Poincaré procède lui par récurrence, mais sa preuve est essentiellement équivalente à la preuve ci-dessus, si l’on admet que le franchissement d’un point critique d’indice $1$ correspond à l’attachement d’une $1$-anse.

Notons que ni la preuve ci-dessus ni la sienne n’utilisent vraiment le fait que les $p$ lacets simples disjoints $K'_1$,...,$K'_p$ engendrent le noyau de $\pi_1(\partial V)\to \pi_1(V)$, i.e. le même sous-groupe distingué de $\pi_1(W)$ que $K_1$,..., $K_p$ [10], mais seulement le fait que les $K_i'$ sont homologiquement indépendants, ce qui correspond à la remarque « Il y a plus » du dernier paragraphe du §5 [11].