Les idées de Riemann sur l’Analysis Situs en dimension quelconque

Après la mort de Riemann, on retrouva dans ses papiers plusieurs pages d’idées, sans preuves, concernant l’étude de la structure des variétés de dimension arbitraire. Ces pages furent publiées dans son œuvre complète (voir [1]). Leur prototype est l’étude de la structure topologique des surfaces faite par Riemann dans sa thèse [2]. Pour cette raison, nous commencerons par décrire les aspects de cette étude que Riemann chercha à généraliser en dimension arbitraire.

Dans sa thèse, Riemann étudia les surfaces (implicitement orientables, puisqu’il s’agissait de « surfaces de Riemann ») en pratiquant des sections transverses (« Querschnitte »), ce qui lui permit d’introduire la notion de surface simplement connexe (voir la Section VI de sa thèse ; c’est nous qui mettons en évidence les termes-clef) :

L’étude de la connexion d’une surface repose sur sa décomposition par l’effet de sections transverses, c’est-à-dire de coupures qui, partant d’un point du contour, sectionnent la surface d’une manière simple (aucun point n’étant traversé plusieurs fois), en rejoignant un point dudit contour. Ce dernier point peut aussi être situé sur des parties du nouveau contour prenant ainsi naissance, c’est-à-dire en un point du cours antérieur de la section transverse elle-même.

Lorsque, par l’effet de toute section transverse, une surface connexe est morcelée, elle est dite simplement connexe ; au cas contraire elle est dite multiplement connexe.

On peut montrer qu’une surface connexe, compacte, à bord non vide est simplement connexe au sens de Riemann si et seulement si elle est homéomorphe à un disque, donc si et seulement si elle est simplement connexe au sens moderne (c’est-à-dire de groupe fondamental trivial).

Lorsqu’une surface n’est pas simplement connexe, Riemann proposa de la rendre simplement connexe en pratiquant des sections transverses successives. Il montra que :

Il appela ce nombre ordre de connexion (Ordnung des Zusammenhangs) de la surface. Remarquons qu’il faut avoir un bord non vide afin de pouvoir commencer à pratiquer des sections transverses. Si la surface est compacte et sans bord, Riemann commence par la « percer », c’est-à-dire lui enlever un disque, ce qui crée un bord circulaire.

Quelques années plus tard, dans son article [3] sur les fonctions abéliennes, Riemann introduisit une autre caractérisation de l’ordre de connexion :

Quand sur une surface $F$ l’on peut mener $n$ courbes fermées $a_1$, $a_2, ..., a_n$ qui, soit qu’on les considère séparément, soit qu’on les considère réunies, ne forment pas un contour d’encadrement complet d’une partie de cette surface, mais qui, jointes à toute autre courbe fermée, forment alors le contour d’encadrement complet d’une partie de la surface, la surface sera dite $\mathbf{(n+1)}$ fois connexe.

C’est la caractérisation précédente que l’on retrouve reprise dans ses notes posthumes comme définition de la notion d’ordre de connexion en dimension quelconque :

Lorsqu’à l’intérieur d’une multiplicité étendue d’une manière continue, chaque variété fermée à $n$ dimensions forme frontière à l’aide de la réunion de $m$ morceaux fixes de variétés à $n$ dimensions, ces morceaux pris séparément ne formant pas frontière, alors cette multiplicité a la connexion $\mathbf{(m+1)}$ dans la $\mathbf{n}$-ième dimension.

Une multiplicité connexe, étendue d’une manière continue, est dite simplement connexe lorsque la connexion est simple [c’est-à-dire d’ordre de connexion $1$] dans chaque dimension.

Ici « multiplicité » traduit l’Allemand « Mannigfaltigkeit ». Il s’agit de l’espace ambiant des « variétés », qui traduisent l’Allemand « Strecken », et qui généralisent la notion de courbe tracée sur une surface. Riemann voit-il une différence entre la structure des première (peut-être toujours lisses) et celle des secondes (à qui il permet peut-être d’avoir des singularités contrôlées) ? Et que sont les « morceaux de variétés » (« Strecksstücken ») ? Si on compare avec la définition donnée dans le cas des surfaces, on voit qu’il doit s’agir encore de variétés fermées contenues dans la « multiplicité » ambiante.

On peut interpréter la définition de Riemann comme concernant les sous-variétés indépendamment de toute question d’orientation, raison pour laquelle il ne compte pas une sous-variété plusieurs fois. En termes modernes, on peut penser que son ordre de connexion en dimension $n$ est l’entier naturel $1 + \dim_{\mathbb{F}_2}H_n(E; \mathbb{F}_2)$. Ainsi l’ordre de connexion en dimension $1$ d’une surface orientable de genre $g$ est égal à $1+2g$.

Dans ce cadre général d’Analysis Situs en dimension quelconque, Riemann ne propose pas une deuxième définition de l’ordre de connexion, mais il introduit un analogue de l’outil qui lui avait permis de faire cela pour les surfaces, les sections transverses :

On nomme section transverse d’une multiplicité $A$ fermée, étendue d’une manière continue, chaque multiplicité $B$ à nombre de dimensions moindre, connexe, comprise à l’intérieur de $A$, et dont la frontière est tout entière située sur la frontière de $A$.

Juste après avoir écrit la définition précédente, Riemann affirme :

La connexion d’une variété à $n$ dimensions, par l’effet de chaque section transverse simplement connexe qui est elle-même une variété à $(n-m)$ dimensions, sera ou bien diminuée de $1$ dans la $m$-ième dimension, ou bien augmentée de $1$ dans la $(m-1)$-ième dimension.

Quelques paragraphes plus loin, Riemann explique comment déterminer si l’on se trouve dans un cas ou dans l’autre : on regarde si une sphère de dimension $m-1$ qui enlace la section transverse $B$ borde ou pas dans le complémentaire $A \setminus B$ de $B$. Il ne donne pas plus d’éclaircissements, car il s’agissait pour le moment de notes personnelles. Mais on peut comprendre intuitivement pourquoi ce résultat semble raisonnable :

 Si la sphère enlaçante $S$ borde une sous-variété $C$ contenue dans $A \setminus B$, alors on a diminué de $1$ l’ordre ce connexion en passant au complémentaire de $B$. En effet, considérons une boule $D$ de dimension $m$ ayant $S$ comme bord et intersectant $B$ en un point. Jointe à $C$, la boule $D$ forme une sous-variété close de dimension $m$, qui contribue à l’ordre de connexion de la variété ambiante $A$. Mais en enlevant $B$, on perce cette sous-variété close, qui ne contribue donc plus à l’ordre de connexion en dimension $m$ de $A \setminus B$.

 Si, au contraire, $S$ ne borde pas dans $A \setminus B$, alors on enrichit la connexion $(m-1)$-ème à l’aide de cette sphère. En effet, dans la variété ambiante $A$, la sphère $S$ est le bord de la boule $D$, donc elle ne compte pas pour l’ordre de connexion. Mais dans $A \setminus B$ elle ne borde plus.

On comprend que la section transverse doit être supposée connexe ; sinon il y aurait une sphère enlaçante pour chaque composante connexe de $B$, et il faudrait étudier les relations entre ces sphères. Une autre hypothèse essentielle est que $B$ est simplement connexe au sens de Riemann.

Voici une interprétation moderne de l’énoncé de Riemann. Elle indique l’ampleur des concepts qui étaient en germe dans ces considérations.

Démonstration. Soit $N$ un voisinage tubulaire de $B$ dans $A$, muni d’une structure de fibré en boules de dimension $m$, dont $B$ est la section nulle. Par la propriété d’excision de l’homologie, on a :

$$ H_k(A, A \setminus B) \simeq H_k(N, N \setminus B). $$

Mais, par une version homologique du théorème d’isomorphisme de Thom, on a aussi un isomorphisme :

$$ H_k(N, N \setminus B) \simeq H_{k-m}(B), $$

obtenu en associant à un représentant d’une classe d’homologie dans $H_{k-m}(B)$, la classe relative de sa préimage dans $N$ par la projection du fibré. En particulier, la classe d’un point dans $H_0(B)$ correspond à la classe de la boule $D$ qui est la fibre au-dessus de ce point.

Par hypothèse, $B$ a l’homologie d’un point, ce qui permet de conclure que :

$$ H_k(A, A \setminus B) \simeq \left\{ \begin{array}{ll} \mathbb{F}_2 & \mbox{ si } k = m, \\ 0 & \mbox{ si } k \neq m. \end{array} \right. $$

- Supposons que $k \notin \{ m-1, m\}$. Considérons le fragment suivant de la suite exacte longue d’homologie de la paire $(A, A \setminus B)$ :

$$ H_{k+1}(A, A \setminus B) \to H_k( A \setminus B) \stackrel{u_k}{\longrightarrow} H_k(A) \to H_k(A, A \setminus B). $$

Nous venons de voir que les deux groupes extrêmes sont nuls, ce qui montre que $u_k$ est bien un isomorphisme dans ce cas.

- Concentrons-nous à présent sur les dimensions $m-1$ et $m$. Regardons le fragment de la longue suite exacte d’homologie de la paire $(A, A \setminus B)$ qui concerne ces dimensions :

$$ \begin{array}{c} 0 \to H_m( A \setminus B) \stackrel{u_m}{\longrightarrow} H_m(A) \to \\ \to H_m (A, A \setminus B) \to H_{m-1}( A \setminus B) \stackrel{u_{m-1}}{\longrightarrow} H_{m-1}(A) \to 0. \end{array} $$

Les $0$ extrêmes proviennent de l’annulation des groupes $H_k(A, A \setminus B)$ pour $k \neq m$, prouvée précédemment. À la même occasion, nous avons vu que $H_m (A, A \setminus B) \simeq \mathbb{F}_2$ est engendré par la classe fondamentale de $D$, la fibre de $N$ dont le bord est la sphère $S$. La flèche $H_m (A, A \setminus B) \to H_{m-1}( A \setminus B)$ envoie la classe fondamentale relative de $D$ en celle de $S$. Cette flèche est nulle si et seulement si $S$ borde dans $A \setminus B$. Les points (2) et (3) de l’énoncé s’ensuivent immédiatement.

C.Q.F.D.

$$ $$

Les notes manuscrites de Riemann s’achèvent par des considérations sur les sections transverses qui ne sont pas nécessairement simplement connexes. Il affirme que l’on peut utiliser de telles sections afin de ramener une variété connexe, à bord non vide, à une variété simplement connexe. Plus précisément, il découpe d’abord le long de sections transverses de codimension $1$, puis en codimension $2$, codimension $3$, etc., en découpant finalement le long de section de dimension $1$. Il introduit alors les classes suivantes de variétés, qui sont celles auxquelles on aboutit lorsque l’on doit augmenter la codimension des sections transverses dans le processus de découpage précédent :

- La classe $(a_0)$ est formée par les variétés connexes, compactes, à bord non vide, qui sont disconnectées par toute section transverse de codimension $1$.

- Pour tout $k \in \mathbb{Z}^*$, la classe $(a_k)$ est formée par les variétés connexes, compactes, à bord non vide, de classe $(a_{k-1})$ et qui sont transformées en variétés qui ne sont pas de classe $(a_{k-1})$ par l’effet de toute section transverse de codimension $k + 1$.

Riemann n’explique pas ce que signifie découper le long d’une section transverse, de la même manière qu’il ne l’avait pas fait pour les surfaces. Il ne peut s’agir simplement de prendre le complémentaire, puisqu’on veut se retrouver avec une nouvelle variété compacte à bord. De manière moderne on modélise cette opération de l’une des manières suivantes :

- Soit en prenant le complémentaire de l’intérieur d’un voisinage tubulaire qui se restreint au bord en un voisinage tubulaire de l’intersection de la section transverse avec le bord.

- Soit, dans le contexte différentiable, en prenant l’éclatement orienté de la variété ambiante le long de la section transverse.

Dans les deux cas, on doit définir soigneusement la notion de section transverse : il faut pouvoir dire qu’il existe un voisinage tubulaire ayant une structure de fibré en boules localement trivial. Cela est assuré habituellement par l’hypothèse que la section transverse est une sous-variété différentiable (donc proprement plongée).

Nous avons dit que Riemann ne propose pas de définition alternative des ordres de connexion, énoncée à l’aide de sections transverses, comme il l’avait fait pour les surfaces. Par contre, il propose une deuxième définition de la notion de simple connexité :

Ces variétés $a_{n-2}$ à $n$ dimensions seront dites simplement connexes.

Riemann pense probablement que les deux définitions coïncident, mais il n’esquisse aucune preuve de ce fait.

Si l’on ne fait pas attention à la manière de choisir la suite des sections transverses, il est possible que l’on ne s’arrête jamais. Par exemple, on peut partir d’un tore plein $T$ et choisir comme section transverse une surface $S_1$ proprement plongée, homéomorphe à un tore dont on a enlevé un disque. Après avoir découpé le long de $S_1$, on peut trouver une nouvelle section transverse $S_2$ homéomorphe à la précédente, et ainsi de suite : on n’arrive jamais à une variété de classe $(a_0)$. Riemann semble avoir vu cette difficulté, car il s’exprime ainsi dans le dernier paragraphe de ses notes manuscrites :

Le nombre des sections transverses, par l’effet desquelles sera effectuée une telle décomposition de la variété à $n$ dimensions en une variété simplement connexe jusqu’à la première dimension, peut différer selon le choix de la décomposition, mais il est clair que ce nombre est un minimum pour une certaine espèce de décomposition.

Une autre difficulté est qu’il est possible que des sections transverses de codimension au moins $2$ produisent des variétés qui ne sont plus de classe $(a_0)$. Il faut dans ce cas revenir aux sections transverses de codimension $1$. Il ne semble pas facile de prendre une suite de sections transverses de codimensions croissantes pour arriver à une variété simplement connexe. Afin de ne pas faire ces va-et-vient dimensionnels, on peut envisager de ne pratiquer que des sections transverses simplement connexes au sens de la définition première de Riemann. C’est cette convention qui se dégagea lors des conversations mathématiques entre Riemann et Betti, racontées par ce dernier dans des lettres à Tardy.

Le lecteur désirant lire d’autres commentaires sur ces pages de Riemann pourra consulter l’article [4] de Vanden Eynde. Une étude détaillée des travaux topologiques de Riemann sur les surfaces a été faite par Pont [5].