Commentaires sur le §1 de l’Analysis Situs (Première définition des variétés)

Dans l’introduction de son mémoire, Poincaré a rappelé que l’Analysis Situs est la branche de la géométrie qui s’occupe de « la situation relative des points des lignes et des surfaces, sans aucune considération de leur grandeur ». Puis il a expliqué que son but était de mettre en place une « Analysis Situs à plus de trois dimensions ». Autrement dit, l’objet du mémoire de Poincaré est d’introduire des outils pour étudier certaines parties de l’« hyperespace à $n$ dimensions » (il cite entre autres les variétés algébriques, les espaces de configurations de problèmes mécaniques, et les groupes de Lie classiques) du point de vue de l’Analysis Situs.

Une des premières tâches de Poincaré est de donner une définition abstraite des parties de l’« hyperespace à $n$ dimensions » qu’il se propose d’étudier. C’est le but des §1 et 3 du mémoire. Poincaré y définit des parties de $\mathbb{R}^n$, qu’il nomment « variétés à $m$ dimensions ».

En fait, Poincaré propose deux définitions différentes pour ses « variétés à $m$ dimensions », la première au §1 et la seconde au §3 de son mémoire. Il montre, exemple à l’appui, que ces définitions ne sont pas équivalentes (la deuxième est strictement plus générale que la première). Cela ne l’empêchera pas de passer d’une définition à l’autre, sans aucune raison ni justification [1] ! Nous nous concentrons ici sur la définition proposée au §1.

Des sous-variétés de $\mathbb{R}^n$ plutôt que des variétés abstraites ou des espaces topologiques

Le lecteur contemporain peut être surpris du cadre choisi par Poincaré. En effet, Poincaré va s’intéresser à des sous-variétés de $\mathbb{R}^n$, mais cherchera à les étudier de manière intrinsèque [2], en oubliant la manière dont elles sont plongées dans $\mathbb{R}^n$. On peut par ailleurs trouver étonnant de se limiter à priori à des objets différentiables (ou même analytiques, voir les commentaires du §2) pour étudier leurs propriétés topologiques.

Pour éviter les anachronismes, il convient de se souvenir que le mémoire de Poincaré est bien antérieur à :

• la naissance de la topologie générale. La notion d’espace métrique a été introduite par M. Fréchet en 1906 [3], et celle d’espace topologique (avec la condition de séparation dite depuis « de Hausdorff ») par F. Hausdorff en 1914. [4]

• l’invention de la notion de variété différentielle abstraite, dont on attribue généralement la paternité à O. Veblen et J.H.C Whitehead en 1931 [5] ou H. Withney en 1936. [6]

Il faut également noter que les espaces que Poincaré souhaite étudier (il les a cités dans son introduction : variétés algébriques, espaces de configurations de problèmes mécaniques, groupes de Lie classiques), apparaissent naturellement comme des sous-variétés (éventuellement singulières) de $\mathbb{R}^n$.

Sous-variétés de $\mathbb{R}^n$ : point de vue moderne

Avant d’étudier les définitions proposées par Poincaré, il est bon de se remémorer les diverses définitions modernes de la notion de sous-variété de $\mathbb{R}^n$. On jongle habituellement avec trois définitions équivalentes :

Pour tout ouvert $\Omega$ suffisamment petit, la restriction d’une immersion $\theta$ (i.e. une application continûment différentiable de différentielle en tout point injective) à $\Omega$ est un plongement, i.e. une immersion injective qui induit un homéomorphisme sur son image. L’énoncé ci-dessus revient donc à définir une sous-variété de dimension $m$ comme un sous-espace $\mathbb{R}^n$ qui est localement l’image d’un ouvert de $\mathbb{R}^m$ par un plongement.

La preuve de l’équivalence des trois définitions se fait facilement à l’aide du théorème des fonctions implicites et d’arguments élémentaires. On la trouve dans pratiquement tous les livres de calcul différentiel.

Première définition des variétés

Entrons maintenant dans le vif du sujet, et examinons la première définition des variétés proposées par Poincaré.

Essayons de comparer cette définition aux définitions modernes rappelées ci-dessus.

L’ensemble $O$ défini par les inéquations $\phi_1>0,\dots,\phi_q>0$ est un ouvert de $ \mathbb{R}^n$, puisque les fonctions $\phi_1,\dots,\phi_q$ sont supposées continues. L’ensemble $V$ défini par Poincaré satisfait la définition moderne des sous-variétés par équation locale, en choisissant $O_x=O$ et $F=(F_1,\dots,F_p)$ quel que soit $x$ dans $V$. Par conséquent, toute « variété à $m$ dimensions » au sens de la première définition de Poincaré est une sous-variété de dimension $m$ de $\mathbb{R}^n$ au sens moderne.

Mais ce n’est pas une sous-variété quelconque ! En effet, $V$ est définie par un système d’équations globales (et non pas par un système d’équations locales au voisinage de chaque point). Ceci entraîne un certain nombre de restrictions sur $V$. Par exemple, les gradients des fonctions $F_1,\dots,F_p$ fournissent une trivialisation du fibré normal de $V$ :

Nous verrons au §8 de l’Analysis Situs que Poincaré est parfaitement conscient de ce fait. C’est même ainsi qu’il montre que sa seconde définition des variétés est plus générale que la première.

Pourquoi Poincaré se restreint-il à des sous-variétés définies par un système d’équations globales ? Cela nous paraît étrange aujourd’hui s’agissant de variétés différentiables. On remarquera néanmoins que, dans le cas particulier où les fonctions $F_1,\dots,F_p,\phi_1,\dots,\phi_q$ sont polynomiales, la définition de Poincaré correspond à la notion moderne de variété quasi-affine non-singulière en géométrie algébrique réelle. La définition de Poincaré trouve donc sûrement son origine dans l’étude des courbes et surfaces algébriques.

Frontière(s) d’une variété

Au cours du §1, Poincaré définit les notions de « frontière complète » et de « véritables variétés frontières » d’une variété.

Soit donc une variété $V$ (au sens de la première définition de Poincaré) définie par le système d’(in-)équations

$$\left\{ \begin{array}{lc} F_{\alpha}=0 & (\alpha = 1,2,\ldots,p),\\ \phi_{\gamma} > 0 & (\gamma=1,2,\ldots,q) \end{array} \right. $$

Poincaré affirme que $W_\beta$ est une « variété de dimension inférieure à n-p ». C’est hélas complètement faux sans hypothèse supplémentaire ! En effet, dans sa définition de variété, Poincaré a imposé une condition sur les différentielles des fonctions $F_1,\dots,F_p$, mais aucune condition sur les différentielles des fonctions $\phi_\beta$. L’ensemble $W_\beta$ peut donc être n’importe quel fermé de la sous-variété $F_1=\dots=F_p=0$, et n’est d’ailleurs pas nécessairement inclus dans la frontière topologique de $V$. Notons que Poincaré est manifestement conscient de l’existence d’un problème puisqu’il ne dit pas « variété de dimension $n-p-1$ » mais « variété de dimension inférieure (ou égale) à $n-p$ ». Il a vraisemblablement en tête un exemple où l’équation $\phi_{\beta}=0$ définit une hypersurface tangente à la sous-variété $F_1=\dots=F_p=0$. Mais il n’a apparemment pas vu que des pathologies bien pires peuvent survenir.

Notons que la « frontière complète » définie par Poincaré n’est pas très complète ! En effet, elle ne coïncide pas avec la frontière topologique, et n’est pas fermée en général (parce qu’elle ne prend en compte que les points où une, et une seule, des fonctions $\phi_1,\dots,\phi_q$ s’annule). Cette limitation est vraisemblablement un choix délibéré de Poincaré, dont le véritable but semble être de définir les « faces de dimension $n-p-1$ » de la variété $V$. Juste après avoir défini la frontière complète, il écrit « nous nous placerons parfois d’un autre point de vue et ne considérerons comme une véritable variété frontière que celles qui auront $n-p-1$ dimensions ». Autrement dit,

Tout semble indiquer que Poincaré croit que la frontière (topologique, qu’il ne sait pas définir) d’une variété est une union finie de variétés de dimension $n-p-1$ deux à deux disjointes (les « véritables variétés frontières ») et de variétés de dimension inférieure. C’est ce dont il aura besoin, et ce qu’il utilisera tacitement, dans sa définition de l’homologie (voir le §5). Pour que cela soit vérifié, il faudrait imposer une condition sur le rang de

$$(dF_1,…,dF_p,d\phi_{\beta_1},\dots,d\phi_{\beta_k})$$

pour tout $k\leq n-p$.

Notons que, sans condition de ce type, la frontière complète et les véritables variétés frontières d’une variété ne sont pas bien définies ; elles dépendent des équations utilisées pour définir la variété. Ainsi, l’hémisphère supérieur de la sphère unité peut être défini par le système d’(in-)équations

$$\left\{\begin{array}{l} x^2+y^2+z^2-1=0 \\ z>0 \end{array}\right.$$

Sa « frontière complète » selon la définition de Poincaré est alors un cercle. Mais on peut aussi définir cette variété par le système d’(in-)équations

$$\left\{\begin{array}{l} x^2+y^2+z^2-1=0 \\ z\: \phi(x)>0\\ z\: \phi(-x)>0 \end{array}\right.$$

où $\phi: \mathbb{R}\to \mathbb{R}$ est une fonction $C^\infty$ qui s’annule exactement sur $]-\infty,0]$. La « frontière complète » selon la définition de Poincaré est maintenant un cercle privé de deux points.

Une définition moderne correspondant (?) à ce que cherche Poincaré

On pourrait continuer à pointer les problèmes techniques posés par les définitions de Poincaré. Plutôt que cela, essayons de réparer ces définitions.

La notion de sous-variété polyédrale, que nous définissons ci-dessous, nous semble correspondre à la notion de « variété » que Poincaré cherche à cerner, sans y parvenir entièrement, au début de l’Analysis Situs. Cette définition est relativement complexe. La principale raison est qu’elle doit intégrer, par exemple, tous les polytopes (c’est-à-dire, les polyèdres convexes compacts) de $\mathbb{R}^n$ (c’est nécessaire pour que la théorie de l’homologie que tente de définir Poincaré « fonctionne »).

Rappelons tout d’abord qu’un demi-espace vectoriel fermé de $\mathbb{R}^m$ est l’adhérence d’une des deux composantes connexes du complémentaire d’un hyperplan vectoriel de $\mathbb{R}^m$. Nous appellerons demi-cône vectoriel polyédral une intersection finie de demi-espaces vectoriels fermés de $\mathbb{R}^m$. Si $P$ est un demi-cône vectoriel polyédral d’interieur non-vide dans $\mathbb{R}^m$, nous appellerons indice de $P$ la dimension du plus grand sous-espace vectoriel de $\mathbb{R}^m$ contenu dans $P$ ; c’est un entier compris au sens large entre $0$ et $m$.

L’indice du demi-cône $P$ qui apparaît dans la définition ci-dessus dépend de la sous-variété $V$ et du point $x$, mais pas du voisinage $O$ et de la carte $\phi$ : c’est une conséquence immédiate de l’invariance de l’indice d’un demi-cône vectoriel polyèdral de $\mathbb{R}^m$ par difféomorphisme dans $\mathbb{R}^m$. Ceci nous autorise à parler de l’indice du point $x$ dans la sous-variété polyédrale $V$.

Si $V$ est une sous-variété polyédrale de dimension $m$, alors l’intérieur (topologique) de $V$ correspond exactement aux points $x$ de $V$ dont l’indice est égal à $m$. Nous appellerons faces de $V$ les adhérences des composantes connexes de l’ensemble des points de $V$ d’indice $m - 1$. Ce sont les analogues des adhérences de ce que Poincaré nomme les véritables variétés frontières de $V$. Nous laissons le lecteur vérifier que ces faces sont des sous-variétés polyédrales de dimension $m-1$.

Variétés finies, continues et illimités

Poincaré termine la première section de son mémoire avec les définitions de quelques propriétés concernant les « variétés à $m$ dimensions » :

Nous reconnaissons là l’exact analogue de la notion moderne de sous-ensemble borné de $\mathbb{R}^n$.

C’est l’exact analogue de la notion moderne de sous-variété connexe par arcs.

La notion de variété fermée définie par Poincaré doit bien sûr être rapprochée de la notion moderne de sous-variété fermée (i.e. compacte, sans bord). On notera cependant que la notion de bord définie par Poincaré pose à nouveau problème. Ainsi, la sous-variété de $\mathbb{R}^3$ définie par les (in)-équations

$$x_1^2+x_2^2+x_3^2=1 \quad \quad x_1<1,$$

(qui n’est autre que la sphère unité de $\mathbb{R}^3$ privée d’un point) est une variété « fermée » au sens défini par Poincaré. En effet, sa frontière est réduite à un point, et ne contient donc aucune sous-variété de dimension 1. Par conséquent, une variété « fermée » au sens de Poincaré n’est pas forcément fermée au sens topologique. À nouveau, pour résoudre ce problème, il faudrait remplacer les notions de variétés telles que définies par Poincaré par la notion moderne de sous-variété à bord, arêtes et coins.