Commentaires sur le §4 de l’Analysis Situs (Variétés opposées)

En termes modernes, le but de ce paragraphe est d’expliquer qu’une sous-variété de $\mathbb{R}^n$, définie par des équations globales ou un paramétrage global, est naturellement munie d’une orientation. Poincaré affirme que cette orientation jouera un rôle important dans la suite.

Même variété ou variétés opposées

Poincaré considère tout d’abord le cas des variétés « au sens de sa première définition » (celle du §1), c’est-à-dire — en termes modernes — les sous-variétés de $\mathbb{R}^n$ définies par des équations globales. Il propose essentiellement la définition suivante :

Poincaré considère ensuite des variétés « au sens de sa seconde définition » (celle du §3). Mais, alors que la définition du §3 inclut les sous-variétés de $\mathbb{R}^n$ définies par recollement de paramétrages locaux, Poincaré ne considère ici que des sous-variétés définies par des paramétrages globaux. Dans ce cadre, il propose essentiellement la définition suivante :

Poincaré explique alors « ce qui arrive lorsque l’on passe d’une définition à l’autre ».
Nous reformulerons cela en termes modernes à la fin de la section suivante.

À quelles notions modernes les définitions ci-dessus correspondent-elles ?

Rappelons qu’on définit la notion d’orientation d’une variété comme suit. On dit que deux bases $B=(e_1,\dots,e_m)$ et $B'=(e_1',\dots,e_m')$ d’un espace vectoriel $E$ définissent la même orientation de $E$ si le déterminant de l’isomorphisme linéaire qui envoie $B$ sur $B'$ est strictement positif ; sinon, on dit que $B$ et $B'$ définissent des orientations opposées. Ceci définit une relation d’équivalence sur l’ensemble des bases de $E$, avec exactement deux classes d’équivalences. Une orientation de l’espace vectoriel $E$ est un choix de l’une de ces deux classes d’équivalences. Une orientation d’une variété $V$ est alors un choix, pour chaque point $p$ de $V$, d’une orientation de l’espace tangent $T_p V$, ce choix dépendant continûment de $p$. Une variété connexe est alors soit non-orientable, soit orientable d’exactement deux manières différentes.

Si $E$ est un sous-espace vectoriel de $\mathbb{R}^n$, une co-orientation de $E$ est une orientation de l’espace vectoriel quotient $\mathbb{R}^n/E$. Et, si $V$ est une sous-variété de $\mathbb{R}^n$, une co-orientation de $V$ est un choix, pour chaque point $p$ de $V$, d’une orientation de l’espace vectoriel quotient $T_p \mathbb{R}^n/T_p V\simeq \mathbb{R}^n/T_p V$ — appelé l’espace normal en $p$ du plongement $V \hookrightarrow \mathbb{R}^n$ — ce choix dépendant continûment de $p$.

On observe alors que, si $V$ est une sous-variété de $\mathbb{R}^n$ définie par des équations, alors celles-ci munissent naturellement $V$ d’une co-orientation. Plus précisément, si $V=F^{-1}(0)$ où $F:U\subset \mathbb{R}^n\to \mathbb{R}^p$ est une submersion, alors, pour tout point $x$ de $V$, la différentielle de $D_xF$ induit un isomorphisme entre l’espace quotient $T_x\mathbb{R}^n/T_x V$ et $T_0 \mathbb{R}^p\simeq \mathbb{R}^p$. La pré-image de la base canonique de $\mathbb{R}^p$ par cette isomorphisme est une base de $T_x\mathbb{R}^n/T_x V$, qui dépend évidemment continûment de $x$. Cette base définit donc une co-orientation de la sous-variété $V$ : c’est la co-orientation induite par $F$. Si on considère maintenant une submersion $F'$ de la forme $\Phi\circ F$ où $\Phi$ un difféomorphisme de $\mathbb{R}^p$, alors $(F')^{-1}(0)=F^{-1}(0)=V$, et $F'$ induit la même co-orientation de $V$ que $F$ si et seulement si le déterminant jacobien de $\Phi$ est strictement positif. Ceci correspond bien sûr à la première définition de Poincaré reprise ci-dessus.

Si une sous-variété $V$ est définie par un paramétrage local, alors ce paramétrage local définit naturellement une orientation de $V$. Plus précisément, considérons une immersion injective $\theta:U\subset \mathbb{R}^m\to \mathbb{R}^n$ ; elle définit une sous-variété $V:=\theta(\mathbb{R}^m)$. En tout point $x$ de $V$, l’image par la différentielle $D_{\theta^{-1}(x)}\theta$ de la base canonique de $T_{\theta^{-1}(x)} \mathbb{R}^m\simeq \mathbb{R}^m$ est une base de l’espace tangent $T_x V$, qui dépend évidemment continûment de $x$. Cette base définit une orientation de $V$ : c’est l’orientation induite par $\theta$. Si on considère maintenant une immersion $\theta'$ de la forme $\theta\circ \Phi$ où $\Phi$ est un difféomorphisme de $R^m$, alors $\theta'(\mathbb{R}^p)=\theta(\mathbb{R}^p)=V$, et $\theta'$ induit la même orientation de $V$ que $\theta$ si et seulement si le déterminant jacobien de $\Phi$ est positif. Ceci correspond à la seconde définition de Poincaré.

Une co-orientation d’un sous-espace vectoriel $E$ de $\mathbb{R}^n$ induit une orientation de $E$ comme suit. On fixe un supplémentaire $\widehat E$ de $E$ ; une base $\bar B$ de $\mathbb{R}^n/E$ qui définit la co-orientation de $E$ se relève en une base $\widehat B$ de $\widehat E$. On convient alors que l’orientation de $E$ est définie par une base $B$ telle que $\widehat B$ suivie de $B$ est une base directe de $\mathbb{R}^n$ (i.e. une base qui a la même orientation que la base canonique). On vérifie facilement que toute cette définition ne dépend pas des choix de $\widehat E$, $\bar B$ et $B$. Par suite, une co-orientation d’une sous-variété $V$ de $\mathbb{R}^n$ induit une orientation de $V$ (et vice-versa). Quand Poincaré explique, à la fin du §4, « ce qui arrive lorsque l’on passe d’une définition à l’autre », il ne fait rien d’autre qu’utiliser ce lien entre co-orientation et orientation.

Quelques remarques sur les définitions de Poincaré

Formellement, la définition de Poincaré est criticable. En effet, on peut très bien avoir deux submersions $F,F':\mathbb{R}^n\to \mathbb{R}^p$ telles que $F^{-1}(0)=(F')^{-1}(0)$ sans pour autant qu’il existe (même localement au voisinage de $0\in \mathbb{R}^p$) un difféomorphisme $\Phi$ tel que $F'=\Phi\circ F$. En effet, cette dernière égalité est impossible dès que les feuilletages par les niveaux de $F$ et $F'$ sont différents au voisinage de $V$. Si on s’en tient à la lettre à la définition de Poincaré, on ne alors sait pas décider si $F$ et $F'$ définissent « la même variété » ou « des variétés opposées ».

Par ailleurs, Poincaré n’associe pas un objet (une orientation) à une sous-variété. La seule chose qu’il fait, c’est expliquer à quelle condition deux sous-variétés sont orientées de la même manière, ou sont orientées de manières opposées. Cela n’est guère étonnant. En effet, une orientation d’une variété est une classe d’équivalence (de champs de bases). En particulier, c’est un élément d’un ensemble quotient abstrait. Comme nous avons déjà eu l’occasion de le signaler, les concepts de “passage au quotient” et “d’ensemble quotient” ne sont apparus que peu avant le milieu du XXème siècle.

Dans ce paragraphe, Poincaré ne considère que des sous-variétés définies par des équations globales ou des paramétrages globaux. Comme il ne souligne pas cettte restriction, on pourrait avoir l’impression que tout ce qu’il dit se généralise aux sous-variétés obtenues par recollement de paramétrages locaux, qu’il a définies au §3. Or il y a une obstruction importante : les sous-variétés définies au §3 ne sont pas toutes orientables. Poincaré le sait parfaitement, mais n’en parle pas ici. Il nous faudra attendre le §8 !