Introduction aux variétés isospectrales

\( \def \RR{\mathbb{R}} \) \( \def \ZZ{\mathbb{Z}} \) \( \def \QQ{\mathbb{Q}} \) \( \def \HH{\mathbb{H}} \) \( \def \vol{\mathrm{vol}} \) \( \def \tr{\mathrm{tr}\,} \) \( \def \bs{\backslash} \) \( \def \SO{\mathrm{SO}} \) \( \def \SL{\mathrm{SL}} \) \( \def \PSL{\mathrm{PSL}} \) \( \def \PSO{\mathrm{PSO}} \)

NB. Les notes ci-après diffèrent légèrement de l’exposé oral qui en a été tiré.

Dans cet exposé (sauf mention du contraire) toutes les variétés sont fermées, et supposées munies d’une métrique riemannienne ; on garde les notations des exposés précédents et on notera en plus \( \sigma(M) \) le spectre de l’extension \( L^2 \) du laplacien de \( M \). Deux variétés \( M_1 \) et \( M_2 \) sont dites isospectrales si \( \sigma(M_1) = \sigma(M_2) \). On utilisera parfois le terme ‘isospectral’ pour signifier ‘isospectral, non-isométrique’.

1) Retour sur le spectre et la géométrie

Une question de base en géométrie spectrale est la suivante : quels invariants géométriques globaux sont déterminés par \( \sigma(M) \). On a vu dans les exposés de Jean-Marc que c’est le cas pour :

  • le volume \( \vol(M) \) ;
  • le spectre des longueurs \( \mathcal L(M) \) de \( M \) (au moins pour \( M \) « générique ») ;
  • …

Il n’est en fait pas évident que la réponse à la question suivante :

Question : Est-ce-que \( \sigma(M) = \sigma(M’) \) implique que \( M’ \) soit isométrique à \( M \)?

soit négative. Le premier contre-exemple a été donné par John Milnor en 1964, il s’agit de deux tores plats en dimension 16, disons \( T_1 = \RR^{16}/\Lambda_1 \) et \( T_2 = \RR^{16}/\Lambda_2 \), tels que
\[
\{ \|v\|^2 :\: v\in\Lambda_1 \} = \{ \|v\|^2 :\: v\in\Lambda_2 \}
\]
ce qui implique (via la description explicite des valeurs propres, ou via la formule de Poisson) que \( T_1 \) et \( T_2 \) sont isospectraux. En revanche on vérifie que les réseaux \( \Lambda_1 \) et \( \Lambda_2 \) ne sont pas isométriques l’un à l’autre et il suit que \( T_1,\, T_2 \) ne le sont pas non plus.

Il existe cependant des variétés qui sont déterminées par leur spectre : par exemple (S. Tanno, 1973) si une variété est isospectrale à la sphère de dimension \( n, \, 1\le n\le 6 \) alors elle lui est isométrique. Il existe d’autres exemples, mais en général de telles vériétés restent mystérieuses (par exemple on ne sait pas si ce comportement est « générique »). On s’intéresse donc à des versions plus vagues de la question ci-dessus, en particulier à la description qualitative des ensembles isospectraux :
\[
\{ N : \sigma(N) = \sigma(M) \}
\]
et à la construction d’exemples de variétés isospectrales non isométriques entre elles. On peut aussi s’intéresser à ces questions en restreignant l’ensemble des variétés auxquelles on s’intéresse, par exemple en prescrivant la géométrie locale.

2) Compacité des ensembles isospectraux

Une question ouverte est la suivante : étant donnée \( M \), son en ensemble isospectral est-il compact? La compacité est entendu au sens de la convergence \( C^\infty \) des métriques riemanniennes.

Théorème (Osgood–Phillips–Sarnak) : Les ensembles isospectraux de surfaces sont compacts.

La preuve est analytique et difficile (il est cependant plus facile de voir que pour des surfaces l’isospectralité implique le difféomorphisme, ce qui est faux en dimensions supérieures). Un résultat plus facile, dû à H. McKean, est le suivant : un ensemble isospectral de surfaces hyperboliques est fini (ici hyperbolique veut dire à courbures sectionelles constante \( -1 \)).

En dimensions supérieures il n’y a que des résultats partiels :

  • les ensembles isospectraux dans une classe conforme de métriques sur une variété de dimension 3 sont compacts (Brooks–Perry–Yang, Chang–Yang) ;
  • les ensembles isospectraux de variétés à courbures sectionelles \( < 0 \) ou à courbure de Ricci \( \ge C \) (pour un \( C\in\RR \) donné) sont compacts (Anderson, Brooks–Perry–Petersen).

Une question ouverte est la suivante : est-ce-que les ensembles isospectraux de varuétés à courbure négative sont finis? Guillemin–Kazhdan montrent que ces variétés n’ont pas de déformations isospectrales (en général de telles déformations peuvent exister, par exemple sur des groupes de Lie nilpotents).

3) La méthode de Sunada

Si \( G \) est un groupe fini on dit que deux sous-groupes \( H_1,\, H_2 \le G \) sont presque conjugués si pour toute classe de conjugaison \( c \) de \( G \) on a
\[
|c \cap H_1| = |c \cap H_2|.
\]
La méthode de Sunada (1985) repose sur l’observation suivante.

Proposition : Si \( M \) est une variété sur laquelle \( G \) agit librement et \( H_1, H_2 \) sont deux sous-groupes presque conjugués de \( G \) alors les variétés \( H_1 \bs M \) et \( H_2 \bs M \) sont isospectrales.

Démonstration : On note \( M_i = H_i \bs M \). On a \( \sigma(M_i) \subset \sigma(M) \) pour \( i= 1,2 \), il faut montrer que pour \( \lambda \in \sigma(M) \) les multiplicités \( m_1(\lambda), m_2(\lambda) \) pour \( M_1 \) et \( M_2 \) sont les mêmes (éventuellement nulles). Soit \( V = \ker(\Delta_M – \lambda) \) ; \( G \) agit sur \( C^\infty(M) \) (par précomposition) et comme l’action sur \( M \) est par isométries il commute au Laplacien et préserve donc ses espaces propres. On a alors \( m_i(\lambda) = \dim V^{H_i} \) (où \( V^H \) désigne le sous-espace de \( V \) fixé par tous les éléments de \( H \)).

On identifiera dans la suite un élément \( g\in G \) et son image dans \( \mathrm{End}(V) \). La projection orthogonale (pour le produit scalaire \( L^2 \) sur \( V \)) sur \( V^H \) est alors réalisée par la somme :
\[
\pi_H = \frac 1{|H|} \sum_{h\in H} h
\]
et il suit que \( \dim V^H = \tr \pi_H \). Le résultat suit donc si l’on montre que \( \tr \pi_{H_1} = \tr \pi_{H2} \). Cette dernière égalité est une conséquence immédiate de la presque conjugaison de \( H_1 \) et \( H_2 \) puique \( \tr g \) est constante sur les classes de conjugaison de \( G \). ■

Il est facile de trouver des groupes \( G, H_1, H_2 \) comme dans l’énoncé ci-dessus (cf. le paragraphe suivant). Pour trouver une \( M \) en pratique on part d’une variété \( \overline M = \Gamma \bs X \) où \( X \) est le revêtement universel de \( \overline M \) et d’une surjection \( \phi :\: \Gamma \to G \), on prend alors \( M = \ker(\phi) \bs X \). Pour construire des variétés isospectrales non-isométriques il faut encore vérifier que les groupes \( \Gamma_i = \phi^{-1}(H_i) \) ne sont pas conjugés l’un à l’autre dans \( \mathrm{isom}(X) \) Noter qu’en général il ne suffit pas qu’ils ne soient pas conjugués dans \( \Gamma \), autrement dit que \( H_1 \) et \( H_2 \) ne soient pas conjugués dans \( G \).

Les groupes finis simples donnent de nombreux exemples de groupes \( G, H_1, H_2 \). Un exemple explicite est le suivant : \(G = \mathrm{SL}_3(\ZZ/2) \) et
\[
H_1 = \left( \begin{array}{ccc}
1 & * & * \\ 0 & * & * \\ 0 & * & *
\end{array} \right), \quad
H_2 = \left( \begin{array}{ccc}
1 & 0 & 0 \\ * & * & * \\ * & * & *
\end{array} \right).
\]
Les groupes \( H_1, H_2 \) sont presque conjugués dans \( G \) (parce qu’ils sont transposés l’un de l’autre) mais on peut vérifier qu’ils ne sont pas conjugués par un élément de \( \SL_3(\ZZ/2) \).

Exemple : surfaces de Riemann isospectrales

La méthode de Sunada est un outil très versatil qui s’applique à de nombreux cadres. Le plus simple est peut-être celui des surfaces ; un exemple d’application est le suivant : si \( G \) est le groupe fini défini ci-dessus et \( S \) une surface de genre 2 alors on a une surjection \( \Gamma := \pi_1(S) \to G \). En effet, \( \Gamma \) a la présentation
\[
\Gamma = \langle a_1,b_1, a_2,b_2 \, | \, a_1b_1a_1^{-1}b_1^{-1}a_2b_2a_2^{-1}b_2^{-1} \rangle
\]
et on peut donc définir une surjection de \( \Gamma \) sur le groupe libre à deux générateurs \( a_1, a_2 \) par \( b_1, b_2\mapsto 1 \). D’autre part le groupe \( G \) est engendré par les deux éléments suivants (Brooks) :
\[
A = \left(\begin{array}{ccc}
0 & 1 & 1 \\ 0 & 1 & 0 \\ 1 & 0 & 0
\end{array}\right),
B = \left(\begin{array}{ccc}
1 & 0 & 0 \\ 0 & 0 & 1 \\ 0 & 1 & 1
\end{array}\right)
\]
et on peut donc définir un morphisme surjectif \( \pi: \Gamma \to G \) par \( \pi(a_1) = A,\, \pi(a_2) = B,\, \pi(b_1) = \pi(b_2) = 1\).

Soient \( H_1, H_2\le G \) sont les groupes presque conjugués mais pas conjugués dans \( G \) définis ci-dessus, et soient \( \Gamma_i = \pi^{-1}(H_i) \) qui sont donc des sous-groupes d’indice fini de \( \Gamma \). Soit \( \widetilde S \) le revêtement universel de \( S \), de sorte que \( S = \Gamma \backslash\ \widetilde S \). Soient enfin \( S_i = \Gamma_i \backslash \widetilde S \), des revêtements finis de \( S \).

Si \( S \) est munie d’une métrique riemannienne alors on peut la relever en des métriques sur les \( S_i \), et par la proposition ci-dessus \( S_1 \) est alors isospectrale à \( S_2 \). Il faut maintenant trouver une métrique qui impose en plus que \( S_1, S_2 \) ne soient pas isométriques.

On ne considèrera dans la suite que des métriques hyperboliques sur \( S \). En fait une telle métrique donne presque toujours des \( S_1 \) et \( S_2 \) non-isométriques. Pour le démontrer on utilise le résultat suivant, conséquence de travaux de Margulis et d’arguments plus élémentaires : si une métrique hyperbolique non-arithmétique sur \( S \) n’a pas d’isométries non-triviales alors deux sous-groupes d’indice fini \(\Gamma’, \Gamma » \) dans \( \Gamma \) sont conjugués dans \( \mathrm{isom}(\HH^2) \) si et seulement s’ils sont conjugués dans \( \Gamma \). Comme il n’y a qu’un nombre fini de surfaces hyperboliques arithmétiques d’un genre donné, et que les variétés admettant des isométries non-triviales forment un fermé d’intérieur vide dans l’espace de modules (de dimension \( 6g – 6 \)) il suit qu’une métrique comme dans l’énoncé ci-dessus existe bien et que les revêtements \( S_1, S_2 \) ne sont pas isométriques pour celle-ci.

On a donc obtenu des exemples de surfaces hyperboliques isospectrales nonisométriques de genre \( d + 1 = 8\) (ici \( d = |G/H_1| = |G/H_2| = |\mathbb{P}^2(\ZZ/2)| = 7\) est le degré des revêtements \( S_i \to S \)).

Ensembles isospectraux de grande taille

On peut utiliser la construction de Sunada pour démontrer des résultats quantitatifs sur la taille des ensembles isospectraux. Par exemple P. Buser montre qu’il existe une sous-variété de dimension \( > 0 \) de l’espace de modules de surfaces hyperbolique en genre \( \ge 4 \) dont tous les éléments ont une surface hyperbolique isospectrale (ceci suit aussi de la construction ci-dessus). D. MacReynolds applique la construction de Sunada aux variétés hyperboliques de dimension supérieure pour montrer qu’il existe des ensembles isospectraux de taille \( v^{C\log v} \) de telles variétés ayant volume \( v \) (pour les surfaces ce résultat est dû à Brooks–Gornet–Gustafson).

4) Variétés localement symétriques isospectrales

Une variété riemannienne \( M \) est dite localement symétrique si pour tout point \( x \in M \) il existe une isométrie d’une voisinage de \( x \) fixant \( x \) et qui renverse les géodésiques passant par \( x \). En pratique on utilise souvent la description algébrique suivante (due à Elie Cartan) de tels espaces : une telle variété se décompose localement en facteurs irréductibles, on ne considèrera dans la suite que le cas où il n’y a qu’un seul tel facteur. Si \( M \) n’est pas plate il existe alors un groupe de Lie simple \( G \) et un sous-groupe compact \( K \subset G \) tels que \( M \) soit localement isométrique à \( G/K \) muni d’une métrique \( G \)-invariante (une telle métrique est unique à un facteur réel \( >0 \) près : en effet la représentation \( K \to \mathrm{GL}(T_e(G/K)) \) est irréductible). Dans la suite on ne considèrera que le cas où \( G \) est non-compact : le groupe \( K \) est alors forcément un sous-groupe compact maximal (unique à conjugaison près dans \( G \)). On notera dans la suite \( X = G/K \) (appelé l’espace symétrique associé à \( G \)).

Comme \( G/K \) est simplement connexe on a alors (si \( M \) est complète, en particulier si elle est compacte) une isométrie \( M \cong \Gamma \bs X \) où \( \Gamma \subset G \) est un sous-groupe discret, sans torsion. En effet ces conditions sont équivalentes à ce que l’action de \( \Gamma \) sur \( X \) soit libre—\( \Gamma \) n’intersecte aucun conjugué de \( K \)—et proprement discontinue : pour tout \( x \in X \) et tout sous-ensemble compact \( D \ni x \) l’ensemble \( \{ g\in\Gamma:\: gD \cap D \not= \emptyset \} \) soit fini. Ces deux conditions réunies sont équivalentes à ce que pour tout \( x\in X \) il existe un voisinage \( U \) de \( x \) tel que \( gU \cap U = \emptyset \) pour tout \( g \in \Gamma – \{e\} \), i.e. le quotient \( \Gamma\bs X \) est une variété localement isométrique à \( X \). Enfin \( M \) est compacte si et seulement si \( \Gamma\bs G \) est compact, et de volume fini si et seulement si ce dernier est de volume fini pour la mesure qui s’accorde localement à la mesure de Haar de \( G \). On dit alors que \( \Gamma \) est un réseau de \( G \). On appelera souvent \( X \)-variété, une variété localement isométrique à \( X \).

Exemples d’espaces symétriques:

  • Si \( G = \PSL_2(\RR),\, K = \PSO(2) \) alors \( X \) est isométrique au plan hyperbolique \( \HH^2 \), l’unique surface riemannienne complète, simplement connexe et de courbure sectionelle constamment égale à \( -1 \).
  • On a \( \PSL_2(\RR) \cong \SO(2,1)^\circ \) ; plus généralement, si \( G = \SO(n, 1)^\circ, \, K = \SO(n)\) alors \( X \) est isométrique à l’espace hyperbolique \( \HH^n \) de dimension \( n \).

Exemples de réseaux :

  • Le sous-groupe \( \PSL_2(\ZZ) \subset \PSL_2(\RR) \) est un réseau non-cocompact. Il contient des éléments de torsion, mais le sous-groupe
    \[
    \Gamma(2) = \left\{ \left(\begin{array}{cc} a & b \\ c & d \end{array}\right) \in \PSL_2(\ZZ) : a,d = 1 \pmod{2}, \, b,c = 0 \pmod{2} \right\}
    \]
    est sans torsion. Le quotient \( \Gamma(2) \bs \HH^2 \) est difféomorphe à la sphère moins trois points.
  • Construire des réseaux cocompacts de \( \PSL_2(\RR) \) est plus compliqué (les exposés suivants expliqueront une construction générale). La construction dans le groupe isomorphe \( \SO(2,1) \) est plus simple à expliquer : par exemple, si \( q \) est la forme quadratique défine sur \( \RR^3 \) par :
    \[
    q(x_1, x_2, x_3) = x_1^2 + x_2^2 – 3x_3^2
    \]
    alors le sous-groupe discret \( \SL_3(\ZZ) \cap \SO(q) \) est un réseau cocompact dans \( \SO(q) \cong \SO(2,1) \) (Le point important est que \( q \) n’aie pas de zéro non-trivial dans \( \ZZ^3 \)).

On peut alors se poser la question suivante : étant donné un espace symétrique \( X \) et une \( X \)-variété compacte \( M \), quel est la srtucture de l’ensemble des \( X \)-variétés isospectrales à \( M \)? La première observation est la suivante :

Fait : Les ensembles de variétés localement symétriques isospectrales sont finis

Pour \( X = \HH^2 \) on a énoncé ce fait plus haut ; dans les autres cas il y a en fait au plus un nombre fini de variétés de volume donné (ce dernier résultat est bien connu mais relativement difficile à prouver).

On a vu plus haut que la méthode de Sunada permet de construire de nombreux ensembles isospectraux de \( X \)-variétés pour n’importe quel \( X \) ; pour certains espaces localement symétriques on dispose en plus des constructions arithmétiques :

  • En dimensions 2 et 3, Marie-France Vignéras (1980) a construit des paires de variétés hyperboliques isospectrales qui ne sont pas des revêtements d’une même variété.
  • Si \( X = \SL_3(\RR) / \SO(3)\) (un espace de dimension 5) alors Lubotzky–Samuels–Vishne (2005) ont construit des quotients \( M_1, M_2 \) de \( X \) qui sont isospectraux non-isométriques et qui satisfont la propriété plus forte suivante : il n’existe pas de variété qui soit un revêtement fini à la fois de \( M_1 \) et de \( M_2 \). On dit alors que \( M_1 \) et \( M_2 \) sont non-commensurables.

La preuve de ces résultats repose sur des formules de trace, qui permettent en particulier de relier le spectre des quotients arithmétiques aux classes de conjugaison d’éléments semisimples dans les \( \QQ \)-groupes correspondants et à des données « locales » (c-à-d venant des points sur les entiers \( p \)-adiques pour \( p \) un nombre premier) pour les réseaux de congruence.

Commensurabilité

Un théorème dû à Alan Reid (qui prédate la construction de Lubotzky–Samuels–Vishne) affirme que si \( X = \HH^2 \) ou \( X = \HH^3 \) alors toute paire de \( X \)-variétés isospectrales sont en fait commensurables. Des travaux récents de G. Prasad et A. Rapinchuk étudient la généralisation de ce résulat à tous les espaces localement symétriques. Un cas particulier de leur résultats est le théorème suivant :

Théorème : Soient \( M_1, M_2 \) deux variétés hyperboliques compactes de dimension \( n \). Si \( n \not= 1 \pmod 4 \) alors \( M_1 \) et \( M_2 \) sont commensurables.

Pour tout \( n = 4m + 5 \) Prasad–Rapinchuk construisent de plus des variétés dont les spectres des longueurs sont commensurables (i.e. \( \QQ\mathcal L(M_1) = \QQ\mathcal L(M_2) \)) mais qui ne sont pas elle-mêmes commensurables. La question de construire des variétés isospectrales dans ces dimensions est encore ouverte.

Références

Survols :

  • Carolyn Gordon, Survey of isospectral manifolds, in Handbook of Differential Geometry vol. I (Elsevier 2000), copie pdf ici.

Variétés plates :

  • J. Conway, chapitre 2 de The sensual (quadratic) form, Carus mathematical monographs.
  • Tetra and Didi, the cosmic spectral twins, Peter G. Doyle et Juan Pablo Rossetti, http://arxiv.org/abs/math/0407422v3

Compacité des ensembles isospectraux de surfaces :

  • B. Osgood, R. Phillips, P. Sarnak, Extremals of determinants of Laplacians et Compact isospectral sets of metrics, J. Func. Anal. 1988.

Méthode de Sunada :

  • Robert Brooks, The Sunada method. Tel Aviv Topology Conference: Rothenberg Festschrift (1998), 25–35, Contemp. Math. 231, 1999.
  • Carolyn Gordon, Sunada’s Isospectrality Technique: Two Decades Later, Contemporary Mathematics Volume 484, 2009.
  • D. McReynolds, Isospectral locally symmetric manifolds, http://arxiv.org/abs/math/0606540v2.

Surfaces hyperboliques :

  • H.P. McKean, Selberg’s trace formula as applied to a compact Riemann surface, Comm. Math. 1982.
  • Peter Buser, Geometry and spectra of compact Riemann surfaces, Birkäuser.

Espaces localement symétriques :

  • P. Petersen, Chapitre 8 de Riemannian Geometry 2d edition, Springer 2006.

Variétés arithmétiques isospectrales :