3. Chapitre 1
Groupes de Lie semi-simples et
sous-groupes discrets
Dans ce cours, nous allons nous int´resser a la compr´hension de certaines
e ` e
propri´t´s asymptotiques des sous-groupes discrets des groupes de Lie semi-
ee
simple. Ce premier chapitre a pour but de pr´ciser ce qu’est un groupe de
e
Lie semi-simples, en tˆchant d’´viter la th´orie g´n´rale le plus possible.
a e e e e
1.1 Groupes de Lie semi-simples
Rappelons qu’un groupe de Lie est un groupe G muni d’une structure de
vari´t´ diff´rentielle pour laquelle l’application G × G → G, (g, h) → g −1 h
ee e
est lisse. Nous utiliserons tous les r´sultats fondamentaux de la th´orie des
e e
groupes de Lie, pour lesquels on renvoie ` [16].
a
D´finition 1.1.1. Un groupe de Lie connexe G est dit semi-simple si le seul
e
sous-groupe distingu´ ab´lien connexe de G est le sous-groupe trivial r´duit
e e e
a l’´l´ment neutre de G.
` ee
Cette d´finition a le m´rite de la concision ` d´faut de celui de la clart´. En
e e a e e
effet, les groupes de Lie semi-simples sont des objets extrˆmement riches qui
e
poss`dent de nombreuses d´finitions ´quivalentes. En particulier, les groupes
e e e
de Lie semi-simple peuvent ˆtre d´crits tr`s pr´cis´ment. Tout groupe de Lie
e e e e e
semi-simple est, a un revˆtement pr`s, le produit d’un nombre fini de groupes
` e e
de Lie simples (un groupe de Lie connexe G est simple s’il est de de dimension
> 1 et si les seuls sous-groupes ferm´s distingu´s connexes de G sont le sous-
e e
groupe trivial et G lui-mˆme). Les groupes de Lie simples peuvent, quant
e
3
4. 4 CHAPITRE 1. GROUPES DE LIE SEMI-SIMPLES
a eux, ˆtre classifi´s, ` un revˆtement pr`s (voir [8]). Sans rentrer dans les
` e e a e e
d´tails de cette classification, disons simplement qu’elle comprend de grandes
e
familles comme les groupes SLn (R) ou SLn (C), n ≥ 2, la composante connexe
des groupes SO(p, q), p + q ≥ 3, les groupes SU(p, q), p + q ≥ 2, etc. ainsi
qu’une liste finie de groupes dits exceptionnels.
Bien que les groupes de Lie semi-simples soient, a priori, des objets de
nature diff´rentielle, leur ´tude est proche de celle de certains objets prove-
e e
nant de la g´om´triqe alg´brique. Si K est un corps, un groupe alg´brique
e e e e
sur K est un groupe G muni d’une structure de K-vari´t´ alg´brique pour la-
ee e
quelle l’application G × G → G, (g, h) → g −1 h est un morphisme de vari´t´s
ee
alg´briques (voir [4]). Si K est R, le groupe G(R) des points r´els de G
e e
poss`de une structure naturelle de groupe de Lie.
e
R´ciproquement, si G est un groupe de Lie semi-simple, d’alg`bre de
e e
Lie g, le groupe des automorphismes de g poss`de une structure naturelle de
e
groupe alg´brique. On note G sa composante connexe au sens de la g´om´trie
e e e
alg´brique. Alors, la repr´sentation adjointe de G induit un morphisme de
e e
groupes de Lie G → G(R) dont l’image est la composante connexe (au sens
classique) de G(R). Ce morphisme est un revˆtement. Par cons´quent, tout
e e
groupe de Lie semi-simple est, a un revˆtement pr`s, la composante connexe
` e e
du groupe des points r´els d’un groupe alg´brique. Ceci explique pourquoi
e e
tous les exemples de groupes de Lie que nous avons donn´ sont de ce type.
e
Les groupes de Lie semi-simple apparaissent aussi en g´om´trie. Si M est
e e
une vari´t´ riemannienne connexe et m un point de M , le th´or`me de Hopf-
ee e e
Rinov (voir [7]) assure l’existence d’un voisinage sym´trique U de 0 dans
e
l’espace tangent en m a M tel que l’application exponentielle en m induise
`
un diff´omorphisme de U sur un voisinage V de m. La sym´trie g´od´sique
e e e e
sm en m est alors l’application V → V, Expm X → Expm (−X). On dit que M
est sym´trique si, pour tout m dans M , la sym´trie g´od´sique sm se prolonge
e e e e
en une isom´trie globale de m (n´cessairement unique). Dans ce cas, M peut
e e
s’´crire de mani`re unique M = M+ × M0 × M− o` M+ , M0 , M− sont aussi
e e u
des vari´t´s riemaniennes sym´triques telles que M0 est isom´trique ` un
ee e e a
espace euclidien et M− (resp. M+ ) est a courbure n´gative (resp. positive)
` e
et ne peut pas s’´crire comme le produit d’un espace euclidien avec un autre
e
espace sym´trique. Si M = M+ , on dit que M est de type compact et, si
e
M = M− , on dit qu’il est de type non compact. Les espaces sym´triques de
e
type compact et non compact sont d´crits dans [8]. Ceux de type non compact
e
sont toujours contractiles (comme toute vari´t´ riemannienne simplement
ee
connexe ` courbure n´gative, d’apr`s le th´or`me de Hadamard, voir [7]).
a e e e e
5. ´
1.2. DECOMPOSITIONS DES GROUPES DE LIE SEMI-SIMPLES 5
Le groupe des isom´tries H d’un espace sym´trique M peut ˆtre muni
e e e
d’une structure naturelle de groupe de Lie, pour laquelle l’action de H sur M
est une application lisse H ×M → M . Si M est de type non-compact, la com-
posante neutre G de H est semi-simple et son action sur M est transitive. Les
stabilisateurs des points de M dans G sont des sous-groupes compacts maxi-
maux de G. R´ciproquement, si G est un groupe semi-simple de centre fini, il
e
poss`de des sous-groupes compacts maximaux et ceux-ci sont tous conjugu´s.
e e
Si K est un tel sous-groupe, les m´triques riemanniennes G-invariantes du
e
quotient G/K le munissent d’une structure d’espace sym´trique de type non
e
compact.
Exemple 1.1.2. Pour tout n ≥ 2 (resp. n ≥ 1), la composante connexe du
groupe des isom´tries de l’espace hyperbolique r´el (resp. complexe) de di-
e e
mension n est la composante connexe du groupe SO(1, n) (resp. le groupe
SU(1, n)).
Pour tout n ≥ 2, le groupe SO(n) (resp. SU(n)) est un sous-groupe com-
pact de SLn (R) (resp. SLn (C)). Le quotient SLn (R)/SO(n) (resp. SLn (C)/SU(n))
s’identifie a l’ensemble des matrices sym´triques (resp. hermitiennes) d´finies
` e e
positives de taille n et de d´terminant 1.
e
Signalons enfin une derni`re caract´risation des groupes de Lie semi-
e e
simples en termes d’actions lin´aires. Si Γ est un sous-groupe de GLn (R),
e
pour n ≥ 1, on dit que Γ agit irr´ductiblement sur Rn si pour tout sous-
e
espace vectoriel V de R tel que ΓV ⊂ V , on a V = {0} ou V = Rn .
n
Rappelons par ailleurs que l’adh´rence de Zariski de Γ dans GLn (R) est le
e
groupe G(R) o` G est le plus petit sous-groupe alg´brique r´el de GLn tel que
u e e
n
Γ ⊂ G(R). Alors, si Γ agit irr´ductiblement sur R , la composante connexe
e
de son adh´rence de Zariski est un groupe de Lie r´ductif, c’est-`-dire, a un
e e a `
revˆtement pr`s, le produit d’un groupe de Lie ab´lien par un groupe de Lie
e e e
semi-simple.
1.2 D´compositions des groupes de Lie semi-
e
simples
Nous allons a pr´sent pr´senter certains r´sultats de structure des groupes
` e e e
de Lie semi-simples. Ces r´sultats sont des cons´quences de la th´orie g´n´rale
e e e e e
d´velopp´e dans [8] et [4]. Nous les ´non¸ons et les d´montrons ici dans le cas
e e e c e
particulier des groupes SLn (R) et SLn (C), n ≥ 2. Ils s’´tendent sans difficult´
e e
6. 6 CHAPITRE 1. GROUPES DE LIE SEMI-SIMPLES
aux produits de tels groupes.
On note K le groupe SO(n) (resp. SU(n)), A le groupe des matrices
diagonales de taille n, de d´terminant 1 et dont les coefficients sont des r´els
e e
> 0 et N le groupe des matrices triangulaires sup´rieures a coefficients r´els
e ` e
(resp. complexes) dont toutes les valeurs propres ´galent 1. On note A+ le
e
sous ensemble de A form´ des matrices de coefficients diagonaux a1 , . . . an
e
avec a1 ≥ . . . ≥ an . Enfin, on note M le groupe des matrices diagonales de
d´terminant 1 dont les coefficients sont r´els (resp. complexes) de module
e e
1 et B le groupe des matrices triangulaires sup´rieures, c’est-`-dire qu’on a
e a
B = M AN .
Proposition 1.2.1 (D´composition de Cartan). On a G = KA+ K. Plus
e
pr´cis´ment, pour tout g dans G, il existe un unique ´l´ment a de A+ tel que
e e ee
g appartienne ` KaK.
a
D´monstration. Soit g dans G. Si g t est la matrice transpos´e de g, la matrice
e e
t 2
g g est sym´trique est d´finie positive. Elle s’´crit donc s , o` s est elle mˆme
e e e u e
une matrice sym´trique d´finie positive. On a alors (gs−1 )t (gs−1 ) = 1, c’est-
e e
a-dire g = ks, avec k dans K. Mais alors, comme s est diagonalisable en base
`
orthonorm´e ` valeurs propres positives, on peut ´crire s = lal−1 avec l dans
e a e
K et a dans A+ . Il vient g = klsl−1 , d’o` l’existence de la d´composition.
u e
L’unicit´ s’obtient de mani`re analogue.
e e
Exemple 1.2.2. Munissons Rn (resp. Cn du produit scalaire standard qui est
g 0
K-invariant. Si n = 2, pour tout g dans G, on a g ∈ K K. Si
0 g −1
g 0 0
n = 3, pour tout g dans G, on a g ∈ K 0 g −1 g −1 0 K.
−1
0 0 g −1
L’alg`bre de Lie a de A s’identifie a l’ensemble des ´l´ments (X1 , . . . , Xn )
e ` ee
n
de R avec X1 +. . .+Xn = 0. Pour g dans G, on note κ(g) = (κ1 (g), . . . , κn (g))
l’unique ´l´ment de a tel que g ∈ K exp(κ(g))K.
ee
Remarque 1.2.3. L’espace tangent a G/K en K s’identifie de fa¸on K-´quivariante
` c e
a l’espace des matrices sym´triques de trace nulle. L’action de K dans cet
` e
espace pr´serve la forme quadratique d´finie positive (X, Y ) → tr(XY ) et
e e
l’on v´rifie qu’il s’agit l`, ` un multiple pr`s, de l’unique forme quadratique
e a a e
pr´serv´e par cette action. La m´trique riemannienne G-invariante associ´e
e e e e
7. ´
1.2. DECOMPOSITIONS DES GROUPES DE LIE SEMI-SIMPLES 7
sur G/K est donc, ` un multiple pr`s, l’unique m´trique riemannienne G-
a e e
invariante sur cet espace. Si g est un ´l´ment de G, pour cette m´trique, on
ee e
a d(gK, K) = κ1 (g) 2 + . . . + κ (g)2 .
n
Plus g´n´ralement, si G est un groupe de Lie simple de centre fini et K
e e
un sous-groupe compact maximal de G, G pr´serve, ` un scalaire pr`s, une
e a e
unique m´trique riemannienne sur G/K.
e
Proposition 1.2.4 (D´composition d’Iwasawa). On a G = KAN et l’appli-
e
cation produit K × A × N → G est une bijection.
D´monstration. Il s’agit l` d’une traduction imm´diate du proc´d´ d’ortho-
e a e e e
gonalisation de Gram-Schmidt.
Le normalisateur de M A dans G est le groupe des ´l´ments de G
ee
qui laissent stable l’ensemble des droites engendr´es par la base canonique
e
(e1 , . . . , en ) de Rn (resp. Cn ). Son quotient W par M A est donc un groupe
fini qui s’identifie naturellement au groupe des permutations de l’ensemble
{1, . . . , n}.
Proposition 1.2.5 (D´composition de Bruhat). On a G = w∈W BwB.
e
Plus pr´cis´ment, le groupe G est la r´union distincte des ensembles BwB,
e e e
o` w parcourt W .
u
Si K est un corps et V un K-espace vectoriel, un drapeau de V est une
suite strictement croissante V0 = {0} V1 . . . Vr = V de sous-espaces
vectoriels de V . Si r = dim V , on dit que le drapeau est complet. Si ξ et
η sont deux drapeaux complets, on montre ais´ment qu’il existe une unique
e
permutation w de l’ensemble {1, . . . , n} telle qu’il existe une base (v1 , . . . , vn )
de V avec ξ = ({0}, Kv1 , Kv1 ⊕ Kv2 , . . . , V ) et η = ({0}, Kvw(1) , Kvw(1) ⊕
Kvw(2) , . . . , V ).
On note B l’espace des drapeaux complets de Rn (resp. Cn ). Si ξ0
est le drapeau complet {0}, Re1 , Re1 ⊕ Re2 , . . . , Rn (resp. {0}, Ce1 , Ce1 ⊕
Ce2 , . . . , Cn ), l’application G → B, g → gξ0 identifie B et G/B.
D´monstration de la proposition 1.2.5. Soit g dans G. D’apr`s la remarque
e e
ci-dessus, il existe une permutation w de {1, . . . , n} et une base (v1 , . . . , vn )
de V avec ξ0 = ({0}, Kv1 , Kv1 ⊕ Kv2 , . . . , V ) et gξ0 = ({0}, Kvw(1) , Kvw(1) ⊕
Kvw(2) , . . . , V ). Soit b un ´l´ment de G tel que, pour tout 1 ≤ i ≤ n, bei soit
ee
proportionnel a vi . Alors, on a bξ0 = ξ0 , donc b appartient ` B. De plus, si
` a
8. 8 CHAPITRE 1. GROUPES DE LIE SEMI-SIMPLES
on note encore w un ´l´ment de G tel que, pour tout 1 ≤ i ≤ n, wei soit
ee
proportionnel ` ew(i) , on a gξ0 = bwξ0 , donc g ∈ bwB, d’o` l’existence de la
a u
d´composition. L’unicit´ se d´montre de mani`re analogue.
e e e e
1.3 Sous-groupes Zariski denses
Si G est un groupe de Lie semi-simple, son image par la repr´sentation
e
adjointe, c’est-`-dire son quotient par son centre, peut se voir de mani`re
a e
naturelle comme le groupe des points r´els d’un groupe alg´brique d´fini sur
e e e
R. On dit alors qu’un sous-groupe Γ de G est Zariski dense dans G si l’image
de Γ dans ce quotient est Zariski dense, c’est-`-dire n’est pas contenue dans
a
le groupe des points r´els d’un sous-groupe alg´brique strict. Cela revient a
e e `
dire que, pour toute repr´sentation lin´aire de G dans un espace vectoriel
e e
r´el V , pour tout sous-espace vectoriel W de V , si ΓW ⊂ W , on a GW ⊂ W
e
(ce fait ´tant une cons´quence du th´or`me de Chevalley, voir [4]).
e e e e
Revenons, pour pr´ciser les id´es, au cas o` G est SLn (R) ou SLn (C).
e e u
Nous conservons les notations introduites au paragraphe pr´c´dent et nous
e e
noterons A++ l’ensemble des ´l´ments de A dont les coefficients a1 , . . . , an
ee
v´rifient a1 > . . . > an , c’est-`-dire que A++ est l’int´rieur de A+ . Nous di-
e a e
rons qu’un ´l´ment g de G est loxodromique s’il est conjugu´ ` un ´l´ment de
ee ea ee
M A++ . On d´montre ais´ment qu’un ´l´ment est loxodromique si et seule-
e e ee
ment s’il poss`de un point fixe attracteur dans B.
e
Proposition 1.3.1 (Benoist-Labourie, Prasad [11]). Soit Γ un sous-groupe
Zariski dense de G. Alors Γ contient un ´l´ment loxodromique.
ee
Exemple 1.3.2. Un sous-groupe de SL2 (R) est Zariski dense si et seulement
s’il est non-´l´mentaire au sens de la g´om´trie hyperbolique, ce qui revient
ee e e
a dire qu’il ne fixe ni de produit scalaire sur R2 , ni de droite de R2 , ni de
`
r´union de deux droites dans R2 .
e
Proposition 1.3.3. Soient G un groupe de Lie simple et Γ un sous-groupe
Zariski dense de G. Alors Γ est discret ou dense.
D´monstration. Soient g l’alg`bre de Lie de G et h ⊂ g l’alg`bre de Lie de
e e e
l’adh´rence de Γ. Alors, pour tout γ dans Γ, on a Adγ h ⊂ h, donc, pour tout
e
g dans G, on a Adg h ⊂ h. Comme G est simple, on a h = {0} ou h = g, d’o` u
le r´sultat.
e
9. 1.4. EXEMPLES DE SOUS-GROUPES DISCRETS ZARISKI DENSES 9
1.4 Exemples de sous-groupes discrets Za-
riski denses
Nous allons a pr´sent donner trois types d’exemples de sous-groupes dis-
` e
crets Zariski dense d’un groupe de Lie semi-simple G.
1.4.1 R´seaux
e
Rappelons qu’un r´seau d’un groupe topologique localement compact G
e
est un sous-groupe discret Γ de G tel quel le quotient G/Γ poss`de une mesure
e
bor´lienne finie invariante par G. En particulier, si Γ est un sous-groupe co-
e
compact de G, il est un r´seau.
e
Exemple 1.4.1. Pour tout n ≥ 2, SLn (Z) est un r´seau non co-compact de
e
SLn (R) et SLn (Z[i]) est un r´seau non co-compact de SLn (C).
e
Les groupes de Lie semi-simples admettent de nombreux r´seaux.
e
Th´or`me 1.4.2 (Borel-Harish Chandra [5]). Si G est un groupe de Lie
e e
semi-simple, G poss`de ` la fois des r´seaux co-compacts et des r´seaux non
e a e e
co-compacts.
Exemple 1.4.3. Pour tout n ≥ 2, le groupe SO(1, n) poss`de un r´seau co-
e e
compact Γ. D’apr`s le lemme de Selberg (voir [2]), quitte ` remplacer Γ
e a
par un sous-groupe d’indice fini, Γ est sans torsion. Alors, le quotient ΓHnR
de l’espace hyperbolique r´el par l’action de Γ est une vari´t´ diff´rentielle
e ee e
muni d’une m´trique riemanienne localement isom´trique ` celle de l’espace
e e a
hyperbolique.
Un groupe de Lie semi-simple peut s’´crire, ` revˆtement fini pr`s, de
e a e e
mani`re unique comme le produit de groupes de Lie semi-simples. Nous dirons
e
alors qu’il est sans facteur compact si aucun de ces groupes simples n’est
compact.
Th´or`me 1.4.4 (Borel [17]). Si G est un groupe de Lie semi-simple sans
e e
facteur compact, les r´seaux de G sont Zariski denses dans G.
e
Notons que cette condition est ´videmment n´cessaire. En effet, si K
e e
est un groupe compact, le sous-groupe trivial est un r´seau de K ! Plus
e
pr´cis´ment, si K est un groupe de Lie semi-simple compact, ses sous-groupes
e e
Zariski denses sont exactement ses sous-groupes denses au sens usuel.
10. 10 CHAPITRE 1. GROUPES DE LIE SEMI-SIMPLES
1.4.2 D´formations de groupes fondamentaux de
e
vari´t´s hyperboliques
e e
Si G est un groupe localement compact et Γ un groupe de type fini l’en-
semble R(Γ, G) des homomorphismes de Γ dans G peut ˆtre muni d’une topo-
e
logie localement compacte naturelle. En effet, si S est une partie g´n´ratrice
e e
de Γ, cet ensemble s’identifie naturellement a
`
{(gs )s∈S ∈ GS |∀r ∈ N ∀(ni , si )1≤i≤r ∈ (Z × Γ)r
sn1 sn2 . . . snr = e ⇒ gs1 gs2 . . . gsrr = e}
1 2 r
r1 r2 n
et la topologie induite par cette identification sur R(Γ, G) ne d´pend pas de
e
S.
Soient G et H des groupes de Lie semi-simples et Γ un r´seau de H.
e
Supposons donn´ un morphisme lisse de noyau fini ρ : H → G. La res-
e
triction ρ|Γ de ρ a Γ est donc un ´l´ment de R(Γ, G) d’image discr`te.
` ee e
On peut alors se demander s’il existe des ´l´ments de R(Γ, G) qui sont
ee
d’image discr`te et Zariski dense et proches de ρ|Γ dans R(Γ, G). L’existence
e
de telles d´formations rencontre des obstructions de nature alg´brique qui
e e
sont d´crites par le th´or`me de Weil (voir [14]). Cependant, il existe des cas
e e e
o` cette constrcution est possible :
u
Th´or`me 1.4.5 (Johnson-Millson [10]). Pour tout n ≥ 2, il existe un
e e
r´seau co-compact Γ de SO(1, n) tel que la restriction ` Γ de la repr´sentation
e a e
naturelle de SO(1, n) dans SLn+1 (R) se d´forme en un morphisme d’image
e
discr`te et Zariski dense.
e
1.4.3 Groupes de Schottky
Nous allons a pr´sent introduire un dernier exemple de sous-groupe dis-
` e
cret Zariski dense dont la construction est compl`tement explicite et permet
e
d’effectuer de nombreux calculs. Pour ce faire, nous allons avoir besoin de
compl´ter nos connaissances sur les ´l´ments loxodromiques.
e ee
Si K est un corps et V un K-espace vectoriel, deux drapeaux complets
ξ = (V0 , V1 , . . . , Vn ) et η = (W0 , W1 , . . . , Wn ) de V sont en position g´n´rale
e e
si, pour tout 0 ≤ i ≤ n, on a Vi ∩ Wn−i = {0} (ce qui revient a dire que ces
`
deux sous-espaces engendrent V ).
Exemple 1.4.6. Si dim V = 2, les drapeaux complets sont des droites de V .
Deux droites sont en position g´n´rale si elles sont distinctes. Si dim V = 3,
e e
11. 1.4. EXEMPLES DE SOUS-GROUPES DISCRETS ZARISKI DENSES 11
les drapeaux complets sont des couples (V1 , V2 ), o` V1 est une droite et V2
u
un plan de V . Les couples (V1 , V2 ) et (W1 , W2 ) sont en position g´n´rale si
e e
V1 n’est pas contenu dans W2 et W1 n’est pas contenu dans V2 .
∨
Reprenons les notations du paragraphe 1.2 et notons ξ0 le drapeau
({0}, Ken , Ken ⊕ Ken−1 , . . . , Kn ), qui est en position g´n´rale avec ξ0 . Si g est
e e
++
un ´l´ment de M A , l’action de g dans B admet ξ0 pour point fixe attrac-
ee
teur. On v´rifie ais´ment que son bassin d’attraction est B Q0 , o` Q0 est
e e u
l’ensemble des drapeaux complets qui ne sont pas en position g´n´rale avec
e e
∨
ξ0 .
Par cons´quent, si g est un ´l´ment loxodromique de G = SLn (R)
e ee
+
ou SLn (C), il poss`de un unique point fixe attracteur ξg dans B et le
e
compl´mentaire du bassin d’attraction de ce point fixe est l’ensemble Q−
e g
des ´l´ments de B qui ne sont pas en position g´n´rale avec le point fixe
ee e e
attracteur de g −1 .
Fixons-nous dor´navant des ´l´ments loxodromiques g1 , . . . , gr de G et
e ee
supposons que pour tout 1 ≤ i = j ≤ r, on a ξgi ∈ Q− ∪ Q−−1 et ξg−1 ∈
+
/ gj g
+
/
j i
Q− ∪ Q−−1 .
gj g j
p p
Proposition 1.4.7 (Benoist, [3]). Il existe un entier p tel que g1 , . . . , gr
engendrent un sous-groupe libre et discret de G.
La d´monstration de cette proposition est une simple application de la
e
p p
m´thode du tennis de table de Klein. La condition assurant que g1 , . . . , gr
e
engendrent un sous-groupe libre et discret de G ´tant ouverte, on peut, quitte
e
a modifier l´g`rement certains des g´n´rateurs, supposer que ce sous-groupe
` e e e e
est Zariski dense dans G (voir [15]).
D´monstration. Quitte ` remplacer les gi , 1 ≤ i ≤ r, par une puissance, on
e a
peut supposer qu’il existe dans B des ouverts b+ ξgi , b− ξg−1 , Bi− ⊃ Q−
i
+
i
+
gi
i
et Bi+ ⊃ Q−−1 , avec b+ ∩ Bi− = ∅ = b− ∩ Bi+ = ∅, b+ ⊂ Bi+ , b− ⊂ Bi−
g i i i i
i
et gi (B Bi− ) ⊂ b+ et gi (B Bi+ ) ⊂ b− , 1 ≤ i ≤ r, tels que, pour tous
i
−1
i
1 ≤ i = j ≤ r, on ait bi ∩ Bj = b+ ∩ Bj = b− ∩ Bj = b− ∩ Bj = ∅ et
+ −
i
+
i
−
i
+
que 1≤i≤r Bi− ∪ Bi+ ne soit pas dense dans B. Alors, si 1 , . . . , l sont des
´l´ments de {±1}, t1 , . . . , tl des entiers non nuls et h1 , . . . , hl des ´l´ments de
ee ee
−
{g1 , . . . , gr } avec, pour 1 ≤ k ≤ l−1, hk = hk+1 , on a hl l tl . . . h11 t1 (BB1 1 ) ⊂
bl l . En particulier, si ξ est un point int´rieur de B 1≤i≤r Bi− ∪ Bi+ , on a
e
l tl
hl . . . h1 ξ ∈ 1≤i≤r Bi ∪ Bi . Donc hl l tl . . . h11 t1 est non trivial dans G
1 t1 − +
12. 12 CHAPITRE 1. GROUPES DE LIE SEMI-SIMPLES
et il n’appartient pas au voisinage de l’identi´ constitu´ de l’ensemble des g
e e
− +
dans G tels que gξ ∈ 1≤i≤r Bi ∪ Bi . La proposition en d´coule.
/ e
√
Exemple 1.4.8. Pour t > 1 log(3 + 2 2), les matrices
4
et 0 cosh t sinh t
et
0 e−t − sinh t cosh t
engendrent un sous-groupe discret, libre et Zariski dense de SL2 (R).
1.5 R´sultats de comptage
e
Nous allons ` pr´sent d´crire les r´sultats connus sur le comptage asymp-
a e e e
totique dans les sous-groupes discrets des groupes de Lie semi-simples. Com-
men¸ons par un r´sultat g´n´ral
c e e e
Th´or`me 1.5.1 ([12]). Soit G un groupe de Lie semi-simple de centre fini et
e e
K un sous-groupe compact maximal de G. Munissons G/K d’une m´trique e
riemannienne G-invariante. Alors, si Γ est un sous-groupe discret Zariski
dense de G, il existe δ > 0 tel que, pour tout x dans G/K, on ait
1
log {γ ∈ Γ|d(x, γx) ≤ a} − − δ
−→
a a→∞
et
{γ ∈ Γ|d(x, γx) ≤ a} = O ar−1 eaτ ,
a→∞
o` r est le rang r´el de G.
u e
Notons que le rang r´el de SLn (R) est n − 1.
e
L’estimation pr´cise de ces quantit´s est connue dans deux cas. Dans le
e e
cas des r´seaux, on a le
e
Th´or`me 1.5.2 (Eskin-McMullen, [6]). Soit G un groupe de Lie semi-
e e
simple de centre fini et K un sous-groupe compact maximal de G. Munissons
G/K d’une m´trique riemannienne G-invariante et de la forme volume as-
e
soci´e et G de la mesure de Haar λ associ´e au choix de cette forme volume
e e
et de la mesure de Haar de masse totale 1 de K. Alors, si Γ est un r´seau
e
de G, pour tout x dans G/K, on a
1
{γ ∈ Γ|d(x, γx) ≤ a} ∼ vol(b(x, a)).
a→∞ λ(G/Γ)
13. ´
1.5. RESULTATS DE COMPTAGE 13
r−1
Notons que, d’apr`s [9], il existe C > 0 avec vol(b(x, a)) ∼ Ca
e 2 eδG a ,
a→∞
o` r est le rang r´el de G et δG est un r´el > 0.
u e e
Dans le cas des groupes de Schottky, on a le
Th´or`me 1.5.3 ([13]). Soit G un groupe de Lie semi-simple de centre fini
e e
et K un sous-groupe compact maximal de G. Munissons G/K d’une m´trique
e
riemannienne G-invariante. Alors, si Γ est un sous-groupe de Schottky de G,
il existe δ > 0 tel que, pour tout x dans G/K, on ait
{γ ∈ Γ|d(x, γx) ≤ a} ∼ Ceδa .
a→∞
Dans la suite de ce cours, nous allons donner la d´monstration du
e
th´or`me 1.5.1 dans le cas o` G est le groupe SL3 (R).
e e u
15. Chapitre 2
Produit g´n´rique
e e
La d´monstration du th´or`me 1.5.1 repose essentiellement sur la
e e e
Proposition 2.0.4. Soit Γ un sous-groupe discret Zariski dense de G. Il
existe une application π : Γ × Γ → Γ ayant les propri´t´s suivantes :
ee
(i) il existe un r´el M ≥ 0 tel que, pour tous g, h dans Γ, on ait :
e
κ(π(g, h)) − κ(g) − κ(h) ≤ M.
(ii) pour tout r´el R ≥ 0, il existe une partie finie H de Γ telle que, pour
e
g, h, g , h dans Γ, avec κ(g) − κ(g ) ≤ R et κ(h) − κ(h ) ≤ R, on
ait :
π(g, h) = π(g , h ) ⇒ (g ∈ gH et h ∈ Hh) .
Pour beaucoup de couples g, h, π(g, h) est simplement le produit de g et
h. Plus g´n´ralement π(g, h) sera de la forme gf h o` f sera choisi dans une
e e u
partie finie de Γ de fa¸on judicieuse.
c
2.1 Composante de Cartan du produit g´n´-
e e
rique
Nous supposons donc dor´navant que G est SL3 (R). Nous notons
e
(e∗ , e∗ , e∗ ) la base duale de (e1 , e2 , e3 ). Si ρ est la repr´sentation standard
1 2 3 e
de G dans R , sa repr´sentation contragradiante ρ dans l’espace dual (R3 )∗
3
e ∗
de R3 v´rifie, pour tout g dans G, ρ∗ (g) = (g −1 )∗ . Nous munissons R3 et
e
son espace dual du produit scalaire usuel. Alors l’espace projectif P (R3 ) est
15
16. 16 ´ ´
CHAPITRE 2. PRODUIT GENERIQUE
naturellement muni de la distance telle que, pour toutes droites V et W de
R3 , pour tout vecteurs non nuls v de V et w de W , on ait
v∧w
d(V, W ) = .
v w
On munit l’espace projectif du dual de R3 de la distance analogue.
Pour g dans G, on fixe une fois pour toutes kg et lg dans K avec
−1
g = kg exp(κ(g))lg et on note VgM = kg Re1 , Vgm = lg (Re2 ⊕ Re3 ),
∗,M ∗ ∗,m −1 ∗ ∗
Vg = kg Re3 et Vg = lg (Re1 ⊕ Re2 ). Notons que, par construction,
on a κ(g) = (log ρ(g) , log ρ∗ (g) − log ρ(g) , − log ρ∗ (g) ). Le lemme
suivant nous permettra de calculer la composante de Cartan des produits
utilis´s pour construire l’application π. On fixe une norme . sur a.
e
Lemme 2.1.1. Soient ε > 0 et F une partie compacte de G. Il existe M ≥
0 tel que, pour tous g, h dans G et f dans F , si d(f VhM , P Vgm ) ≥ ε et
d(f VhM,∗ , P Vg∗,m ) ≥ ε, on a
κ(gf h) − κ(g) − κ(h) ≤ M.
D´monstration. Soient a dans A+ et v = 0 dans R3 tels qu’on ait
e
d(Rv, P (Re2 ⊕ Re3 )) ≥ ε. Posons v = (v1 , v2 , v3 ), de sorte que |v1 | ≥ ε v .
Il vient
ρ(a)v ≥ a1 |v1 | ≥ εa1 v = ε ρ(a) v .
Par cons´quent, pour tout g dans G, si v = 0 est tel que d(Rv, P Vgm ) ≥ ε,
e
on a ρ(g)v ≥ ε ρ(g) v .
Alors, si f, g, h sont comme dans l’´nonc´, on a, d’une part
e e
ρ(gf h) ≤ ρ(g) ρ(f ) ρ(h) ≤ max ρ(f ) ρ(g) ρ(h)
f ∈F
et, d’autre part, si v = 0 est un vecteur de h−1 VhM , par construction,
ρ(h)v = ρ(h) v , si bien que, d’apr`s la remarque ci-dessus,
e
−1
ρ(gf h)v ≥ ε ρ(g) ρ(f h)v ≥ ε ρ(g) ρ(f )−1 ρ(h)v
−1
≥ ε max ρ(f )−1 ρ(g) ρ(h) v ,
f ∈F
−1
si bien que ρ(gf h) ≥ ε maxf ∈F ρ(f )−1 ρ(g) ρ(h) . Le r´sultat en
e
d´coule, en raisonnant de mani`re analogue dans l’espace dual de R3 .
e e
17. 2.2. LEMME DE L’OMBRE 17
2.2 Lemme de l’ombre
Nous allons a pr´sent introduire l’outil principal permettant de montrer
` e
le point (ii) de la proposition 2.0.4, c’est-`-dire un contrˆle d’injectivit´. Le
a o e
lemme suivant peut se voir comme une contrapos´e du lemme de l’ombre
e
de Sullivan dont l’utilisation est fr´quente en g´om´trie hyperbolique et qui
e e e
assure que l’ombre, vue du point de r´f´rence o, d’une boule de rayon r > 0
ee
centr´e autour de son image go par une isom´trie g contient l’image par g
e e
du compl´mentaire d’une certaine boule de rayon ε > 0 dans le bord, muni
e
de la m´trique associ´e ` o, o` ε ne d´pend que de r et peut ˆtre rendu
e e a u e e
arbitrairement petit en augmentant r.
On note B ∨ le groupe des matrices triangulaires inf´rieures dans SL3 (R).
e
∨
L’ensemble B ξ0 est exactement l’ensemble des ´l´ments de B qui sont en
ee
∨
position g´n´rale avec ξ0 .
e e
Lemme 2.2.1. Pour toute partie compacte L de B ∨ , il existe une partie com-
pacte M de G telle que, pour tous a dans A+ et k dans K, si kξ0 appartient
` aLξ0 , on ait a−1 ka ∈ M .
a
D´monstration. Notons que, pour toute partie relativement compacte M de B
e
(resp. B ∨ ), l’ensemble a∈A+ a−1 M a (resp. a∈A+ aM a−1 ) est relativement
compact. En particulier, on peut supposer que, pour tout a dans A+ , on a
aLa−1 ⊂ L.
Soient k dans K et a dans A+ avec kξ0 ∈ aLξ0 . Ecrivons kξ0 = apξ0 ,
o` p est un ´l´ment de L, c’est-`-dire ap = kq, avec q dans B. Alors, on a
u ee a
a−1 ka = a−1 (apq −1 )a = p(a−1 q)−1 . Or, on a a−1 q = a−1 (qa−1 )a et, comme
q = k −1 ap, qa−1 = k −1 apa−1 ∈ KL. Soit L l’ensemble relativement compact
−1 −1 −1 −1
b∈A+ b (KL ∩ P A)b. On a a q ∈ L et, donc, a ka ∈ L(L ) , d’o` le u
r´sultat.
e
Nous allons ` pr´sent ´noncer le r´sultat qui nous servira ` d´montrer
a e e e a e
le contrˆle d’injectivit´ de la proposition 2.0.4 et qui est une cons´quence
o e e
du lemme 2.2.1. Remarquons que l’espace B des drapeaux complets de R3
se plonge de mani`re naturelle dans P (R3 ) × P ((R3 )∗ ). Pour tout ξ dans B,
e
notons Vξ et Vξ les deux droites associ´es dans P (R3 ) et P ((R3 )∗ ). Pour g
∗
e
ε
dans G et pour ε > 0, notons Bg l’ensemble des ξ dans B tels que d(Vξ , Vgm ) ≥
ε et d(Vξ∗ , Vg∗,m ) ≥ ε. Par construction, il existe une partie compacte L de
B ∨ telle que, pour tout g dans G, on ait Bg = lg Lξ0 . Pour X, Y dans a et
ε −1
C ≥ 0, on note X ≥ Y si et seulement si X1 ≥ X2 − C et X2 ≥ X3 − C.
18. 18 ´ ´
CHAPITRE 2. PRODUIT GENERIQUE
Lemme 2.2.2. Pour tous C ≥ 0 et ε > 0, il existe une partie compacte M
ε ε
de G telle que, pour tous g, h dans G avec κ(h) ≥C κ(g), si gBg ∩ hBh = ∅,
on a g ∈ kh exp(κ(g))M .
En d’autres termes, la connaissance de la composante de Cartan de G et
ε
de l’ensemble gBg permet de reconstituer g a un compact pr`s.
` e
D´monstration. Notons AC = {a ∈ A|a1 ≥ eC a2 ≥ e2C a3 }. Soit L une partie
e
compacte de B ∨ telle que, pour tout g dans G, on ait Bg ⊂ lg Lξ0 et soit
ε −1
−1
L l’ensemble relativement compact a∈AC aLa . D’apr`s le lemme 2.2.1, il
e
existe une partie compacte M de G telle que, pour tous a dans A+ et k dans
K, si kξ0 appartient a aL ξ0 , on ait a−1 ka ∈ M .
`
ε
Soient alors g et h comme dans l’´nonc´. On a gBg ⊂ kg exp(κ(g))Lξ0 ⊂
e e
ε
kg exp(κ(g))L ξ0 et, comme κ(h) ≥C κ(g), hBh ⊂ kh exp(κ(h))Lξ0 ⊂
kh exp(κ(g))L ξ0 . En particulier, on a kg exp(κ(g))L ξ0 ∩kh exp(κ(g))L ξ0 = ∅.
Soit ξ un ´l´ment de cette intersection et soit k dans K tel que ξ = kξ0 . On
ee
−1 −1
a kg kξ0 ∈ exp(κ(g))L ξ0 donc exp(−κ(g))kg k exp(κ(g)) ∈ M et, de mˆme, e
−1
exp(−κ(g))kh k exp(κ(g)) ∈ M . Il vient donc
g ∈ kg exp(κ(g))K ⊂ k exp(κ(g))M −1 K ⊂ kh exp(κ(g))M M −1 K,
d’o` le r´sultat.
u e
2.3 Produit g´n´rique dans G
e e
Nous allons ` pr´sent appliquer le lemme 2.2.2 a l’estimation, pour f, g, h
a e `
dans G, de la d´composition de Cartan de g en fonction de celle de gf h, `
e a
condition que soient v´rifi´es les hypoth`ses du lemme 2.1.1.
e e e
Lemme 2.3.1. Soient ε > 0 et F une partie compacte de G. Il existe une
partie compacte M de G telle que, pour tous g, h dans G et f dans F avec
d(f VhM , P Vgm ) ≥ ε et d(f Vh∗,M , P Vg∗,m ) ≥ ε, on ait g ∈ kgf h exp(κ(g))M .
Ce r´sultat repose sur le lemme 2.2.2 et sur les estimations suivantes
e
d’alg`bre lin´aire qui permettront d’en valider les hypoth`ses.
e e e
Lemme 2.3.2. Pour tous g dans G et ε > 0, la restriction de g ` l’ensemble
a
3 m 1
{X ∈ P (R ) |d(X, P Vg ) ≥ ε} est ε2 -lipschitzienne.
19. ´ ´
2.3. PRODUIT GENERIQUE DANS G 19
D´monstration. Par d´composition de Cartan, il suffit de d´montrer ce
e e e
r´sultat pour g = a appartenant a A . Alors, pour v et w dans R3 {0}
e ` +
avec d(Rv, P Vg ) ≥ ε et d(Rw, P Vgm ) ≥ ε, on a, d’une part av ≥
m
a1 |v1 | ≥ εa1 v et, de mˆme, aw ≥ εa1 w , et, d’autre part, a(v ∧ w) ≤
e
2 2
a v ∧ w = a1 v ∧ w , si bien que
a(v ∧ w) 1
d(aRv, aRw) = ≤ 2 d(Rv, Rw),
av aw ε
ce qu’il fallait d´montrer.
e
Lemme 2.3.3. Soient ε, η > 0. Il existe > 0 tel que, pour tout g dans G,
pour tout hyperplan W de R3 avec d(VgM , P (W )) ≥ ε, on ait
g −1 b(P (W ) , ) ⊂ b(P g −1 W , η).
D´monstration. On v´rifie ais´ment que, pour v = 0 dans R3 et ϕ = 0
e e e
dans (R3 )∗ , on a d(Rv, P (ker ϕ)) = |ϕ(v)| . Par ailleurs, pour g dans G, on a
ϕ v
∗,m
Vg∗ = (Vg ) , si bien que si v = 0 est dans R3 et ϕ = 0 est dans (R3 )∗ avec
M ⊥
d(Rv, P (ker ϕ)) ≤ 2 et d(VgM , P (ker ϕ)) ≥ ε), on a aussi d(Rϕ, P v ⊥ ) ≤ 2
ε ε
et d(Rϕ, Vg∗,m ) ≥ ε. D’apr`s le lemme 2.3.2, appliqu´ dans (R3 )∗ , il vient
∗ e e
∗ ∗ ⊥ 4 ⊥
d(g Rϕ, g P v ) ≤ ε2 d(Rϕ, P v ). En d’autres termes, pour tout 0 <
η ≤ 2 , on a g −1 b(P (ker ϕ) , η) ⊂ b(P (g −1 ker ϕ) , ε42 η). Le r´sultat en d´coule.
ε
e e
D´monstration du lemme 2.3.1. D’apr`s le lemme 2.1.1, il existe C ≥ 0 tel
e e
que, pour tous g, f, h comme dans l’´nonc´, on a κ(gf h) ≥C κ(g) si bien
e e
que, pour appliquer le lemme 2.2.2, il suffit de garantir que, pour un certain
> 0, on a gBg ∩ gf hBgf h = ∅, c’est-`-dire h−1 f −1 Bg ∩ Bgf h = ∅.
a
Choisissons θ > 0 suffisament petit pour que, pour tous hyperplans
W1 , W2 dans R3 et W1 , W2 dans (R3 )∗ , il existe un drapeau complet (V, V ∗ )
∗ ∗
dans B avec d(V, P (W1 ) ∪ P (W2 )) ≥ θ et d(V ∗ , P (W1 ) ∪ P (W2 )) ≥ θ.
∗ ∗
Soit η > 0 tel que, pour tous f dans F et X, Y dans P (R3 ) (resp.
P ((R3 )∗ )) avec d(X, Y ) ≤ η, on ait d(f −1 X, f −1 Y ) ≤ ε. D’apr`s lee
lemme 2.3.3, il existe ω > 0 tel que, pour tout h dans G et pour tout
plan W de R3 (resp.W ∗ de (R3 )∗ ) tel que d(VhM , P (W )) ≥ θ) (resp.
d(Vh∗,M , P (W ∗ )) ≥ θ)), on ait h−1 b(P (W ) , ω) ⊂ b(P (h−1 W ) , θ) (resp.
h−1 b(P (W ∗ ) , ω) ⊂ b(P (h−1 W ∗ ) , θ)). Enfin, il existe 0 < ≤ θ tel que,
20. 20 ´ ´
CHAPITRE 2. PRODUIT GENERIQUE
pour tous f dans F et X, Y dans P (R3 ) (resp. P ((R3 )∗ )) avec d(X, Y ) ≤ ,
on ait d(f −1 X, f −1 Y ) ≤ ω. Alors, pour tous f dans F et g, h dans G avec
d(f VhM , P Vgm ) ≥ ε et d(f Vh∗,M , P Vg∗,m ) ≥ ε, on a h−1 f −1 b(P Vgm , ) ⊂
b(P h−1 f −1 Vgm , θ) et h−1 f −1 b(P Vg∗,m , ) ⊂ b(P h−1 f −1 Vg∗,m , θ). Par
cons´quent, par d´finition de θ, il existe un drapeau ξ = (V, V ∗ ) dans B tel
e e
∗,m
que d(V, Vgf h ) ≥ θ ≥ et d(V ∗ , Vgf h ) ≥ θ ≥ , c’est-`-dire que ξ appartient
m
a
a Bgf h , ainsi que d(hf V, Vgm ) ≥
` et d(hf V ∗ , Vg∗,m ) ≥ , c’est-`-dire que
a
−1 −1
hf ξ appartient a Bg . Il vient bien h f Bg ∩ Bgf h = ∅ et le lemme d´coule
` e
alors directement du lemme 2.2.2.
2.4 Le lemme de finitude d’Abels-Margulis-
Soifer
Il nous reste, pour construire l’application π de la proposition 2.0.4, a
`
construire, dans tout sous-groupe Zariski dense Γ de G, une partie F telle
que, pour tous g, h dans Γ, il existe f dans F tel que f, g, h v´rifient les
e
hypoth`ses des lemmes 2.1.1 et 2.3.1. C’est l’objet du lemme suivant.
e
Lemme 2.4.1 (Abels-Margulis-Soifer [1]). Soit Γ un sous-groupe Zariski
dense de G. Il existe ε > 0 et une partie finie F de Γ ayant la propri´t´ ee
3 ∗ 3 ∗
suivante : pour toutes droites V dans R et V et (R ) , pour tous hyperplans
W dans R3 et W ∗ et (R3 )∗ , il existe f dans F tel que d(f V, P (W )) ≥ ε et
d(f V ∗ , P (W ∗ )) ≥ ε.
D´monstration. D’apr`s la proposition 1.3.1, Γ contient un ´l´ment loxodro-
e e ee
mique g. Alors, l’action de g dans P (R3 ) est proximale : si V + d´signe la e
droite propre associ´e ` sa plus grande valeur propre en module, V + est un
e a
point fixe attracteur pour l’action de g sur P (R3 ) et son bassin d’attraction
est P (R3 ) P (W − ), o` W − est le plan engendr´ par les deux autres droites
u e
∗,+
propres de g. De mˆme, on note V
e la droite propre associ´e ` la plus
e a
grande valeur propre de ρ∗ (g) dans l’espace dual de R3 , et W ∗,− son unique
suppl´mentaire g-stable.
e
Soit l un entier ≥ 1 et V1 , . . . , Vl des droites distinctes de R3 , V1∗ , . . . , Vl∗
des droites distinctes de l’espace dual de R3 , W1 , . . . , Wl des plans distincts
de R3 et W1 , . . . , Wl∗ des plans distincts de l’espace dual de R3 . Il existe des
∗
droites V dans R3 et V ∗ dans l’espace dual de R3 , ainsi que des plans W dans
R3 et W ∗ dans l’espace dual de R3 tels que, pour tout 1 ≤ i = j ≤ l, V (resp.
21. ´ ´
2.5. PRODUIT GENERIQUE DANS Γ 21
V ∗ ) n’appartienne pas au plan engendr´ par Vi et Vj (resp. Vi∗ et Vj∗ ) et W
e
(resp. W ) ne contienne pas l’intersection de Wi et de Wj (resp. de Wi∗ et de
∗
Wj∗ ). Comme Γ est Zariski dense dans G qui est Zariski connexe, il existe h
dans Γ tel que hV + (resp. hV ∗,+ ) n’appartienne pas au plan engendr´ par Vi e
∗ ∗ − −,∗
et Vj (resp. Vi et Vj ) et hW (resp. hW ) ne contienne pas l’intersection
de Wi et de Wj (resp. de Wi∗ et de Wj∗ ). Ainsi, par r´currence, il existe une
e
suite (hi )i≥1 d’´l´ments de Γ, tels que, pour tous i, j, k ≥ 1 distincts, les
ee
droites hi V , hj V + et hk V + (resp. hi V +,∗ , hj V +,∗ et hk V +,∗ ) engendrent R3
+
(resp. l’espace dual de R3 ) et l’intersection des plans hi W − , hj W − et hk W −
(resp. hi W −,∗ , hj W −,∗ et hk W −,∗ ) est triviale. On pose, pour tout i ≥ 1,
Vi = hi V + , Vi∗ = hi V ∗,+ , Wi = hi W − , Wi∗ = hi W ∗,− et gi = hi gh−1 .
i
Par construction, si V et V ∗ sont des droites de R3 et de l’espace dual de
R3 et si W et W ∗ sont des plans de R3 et de l’espace dual de R3 , il existe
1 ≤ i ≤ 9 tel qu’on ait
V ⊂ Wi V ∗ ⊂ Wi∗
Vi ⊂ W Vi∗ ⊂ W ∗
et, donc, il existe ε > 0 tel que pour tous V, V ∗ , W, W ∗ comme ci-dessus, on
puisse trouver 1 ≤ i ≤ 9 avec
d(V, P (Wi ) ≥ 2ε d(V ∗ , P (Wi∗ )) ≥ 2ε
d(Vi , P (W )) ≥ 2ε d(Vi∗ , P (W ∗ )) ≥ 2ε.
k
Il existe un entier k tel que, pour tout 1 ≤ i ≤ 9, on ait gi {X ∈
P (V ) |d(X, P (Wi )) ≥ ε} ⊂ b(Vi , ε). Par cons´quent, si V, V ∗ , W, W ∗ sont
e
comme ci-dessus, il existe un entier 1 ≤ i ≤ 9 avec
d(g k V, Vi ) ≤ ε d(g k V ∗ , Vi∗ ) ≤ ε
d(Vi , P (W )) ≥ 2ε d(Vi∗ , P (W ∗ )) ≥ 2ε.
k
Le r´sultat en d´coule, en posant F = {gi |1 ≤ i ≤ 9}.
e e
2.5 Produit g´n´rique dans Γ
e e
Nous pouvons a pr´sent conclure la
` e
D´monstration de la proposition 2.0.4. Soient ε > 0 et F comme dans
e
le lemme 2.4.1. Pour tous g et h dans Γ, choisissons fg,h dans F avec
22. 22 ´ ´
CHAPITRE 2. PRODUIT GENERIQUE
d(fg,h VhM , P Vgm ) ≥ ε et d(fg,h Vh∗,M , P Vg∗,m ) ≥ ε. Posons π(g, h) = gfg,h h.
D’apr`s le lemme 2.1.1, il existe C ≥ 0 tel que, pour tous g, h dans Γ, on
e
ait κ(π(g, h)) − κ(g) − κ(h) ≤ C tandis que, d’apr`s le lemme 2.3.1, il
e
existe une partie compacte M de G telle que, pour tout g, h dans Γ, on a
g ∈ kπ(g,h) exp(κ(g))M . En particulier, si g et h sont des ´l´ments de Γ tels
ee
que π(g , h ) = π(g, h), on a g ∈ gM −1 exp(κ(g ) − κ(g))M et donc, comme
−1
h = (g fg ,h )−1 gfg,h h, h ∈ F −1 M −1 exp(κ(g ) − κ(g))M F h. Le r´sultat en
e
d´coule.
e
23. Chapitre 3
Mesures ` croissance concave
a
Nous allons ` pr´sent d´tailler le lien abstrait qui existe entre la proposi-
a e e
tion 2.0.4 et le th´or`me 1.5.1.
e e
Soit E un espace vectoriel r´el de dimension finie, muni d’une norme N .
e
Une mesure de Radon ν sur E sera dite ` croissance concave s’il existe des
a
r´els α, β, γ > 0 tels que, pour tous x, y dans E,
e
ν bN (x + y, α) ≥ γν bN (x, β) ν bN (y, β) .
La proposition 2.0.4 assure que, si Γ est un sous-groupe discret Zariski
dense de G, l’image par κ de la mesure de comptage de Γ est une mesure a `
croissance concave sur a.
3.1 Exposants de convergence et formules de
Hadamard
Pour tout r´el t, on pose LN (t) =
e ν E
e−tN (x) dν(x) et
τν = inf t ∈ R LN (t) < ∞
N
ν
= sup t ∈ R LN (t) = ∞ ∈ R ∪ {+∞, −∞},
ν
qu’on appelle l’exposant de convergence de ν par rapport a N . Pour tous
`
N
r´els a ≤ b, on note C (a, b) = {x ∈ E |a ≤ N (x) ≤ b }. Donnons quelques
e
N
formules de Hadamard pour le calcul de τν :
23
24. 24 `
CHAPITRE 3. MESURES A CROISSANCE CONCAVE
Lemme 3.1.1. Pour tous a > 0 et b, c ≥ 0 avec b + c ≥ a, on a :
N 1 log ν C N (na − b, na + c)
τν = lim sup .
a n→∞ n
N
Si τν > 0, on a :
N log ν bN (0, a)
τν = lim sup .
a→∞ a
D´monstration. Soient a > 0 et b, c ≥ 0 avec b + c ≥ a. Il existe un entier
e
n0 > 0 tel que, pour tout x dans E,
0 < card n ∈ N|x ∈ C N (na − b, na + c) ≤ n0 .
Il vient, pour tout t dans R,
∞
1 −|t| max(b,c)
e ν (C N (na − b, na + c) e−tna ≤ e−tN (x) dν(x)
n0 n=0 E
∞
≤ e|t| max(b,c) ν (C N (na − b, na + c) e−tna ,
n=0
d’o` la premi`re formule.
u e
Par ailleurs, on a :
N log ν C N (n − 1, n) log ν bN (0, n)
τν = lim sup ≤ lim sup
n→∞ n n→∞ n
log ν bN (0, a)
≤ lim sup .
a→∞ a
N
Supposons τν > 0. Soient t et s avec
log ν bN (0, a)
0 < t < s < lim sup .
a→∞ a
Pour tout r´el a ≥ 0, il existe b ≥ a tel que, pour tout c ≥ b, on ait :
e
esc − etc ≥ ν bN (0, a)
et, donc, il existe c ≥ b tel que l’on ait :
ν C N (a, c) ≥ ν bN (0, c) − ν bN (0, a) ≥ esc − ν bN (0, a) ≥ etc .
25. ˆ
3.2. CONTROLE DE LA DIVERGENCE 25
On peut donc construire une suite (an )n∈N de r´els ≥ 0 avec, pour tout n
e
dans N,
an+1 ≥ an + 1 et ν C N (an + 1, an+1 ) ≥ etan+1 .
Il vient alors :
∞
e−tN (x) dν(x) ≥ ν C N (an + 1, an+1 ) e−tan+1 = ∞,
E n=0
N
donc t ≤ τν , d’o` la seconde formule.
u
3.2 Contrˆle de la divergence
o
Nous dirons qu’une mesure de Radon a croissance concave ν sur E est
`
N
a croissance strictement divergente si τν > 0 (ce qui est ind´pendant de la
` e
norme N choisie). Pour les mesures a croissance concave, on peut am´liorer
` e
le lemme 3.1.1 :
Proposition 3.2.1. Si ν est ` croissance concave strictement divergente,
a
pour toute norme N sur E, on a :
log ν bN (0, a) N
−→ N
− − τν et ν bN (0, a) = O ar−1 eaτν .
a a→∞ a→∞
Commen¸ons par it´rer la formule de d´finition :
c e e
Lemme 3.2.2. Supposons ν ` croissance concave. Soit N une norme sur E
a
et soient α, β, γ tels que, pour tous x, y dans E,
ν bN (x + y, α) ≥ γν bN (x, β) ν bN (y, β) .
Alors il existe des r´els θ > 0 et η > 0 tels que, pour tout entier k ≥ 2 et
e
pour tous x1 , . . . , xk dans E, on ait :
ν bN (x1 + . . . + xk , (k − 1)α + (k − 2)β)
≥ θη k ν bN (x1 , β) . . . ν bN (xk , β) .
La d´monstration fait appel au lemme suivant dont la d´monstration est
e e
imm´diate.
e
26. 26 `
CHAPITRE 3. MESURES A CROISSANCE CONCAVE
Lemme 3.2.3. Soient N une norme sur E et β > 0. Il existe un r´el M > 0
e
telle que, pour tout x dans E et pour tout a > 0, il existe un entier p ≤
M (1 + a)r et des points x1 , . . . , xp de E avec bN (x, a) ⊂ p bN (xi , β).
i=1
D´monstration du lemme 3.2.2. Soit N une norme sur E. Donnons-nous
e
α, β, γ comme ci-dessus et M comme dans le lemme 3.2.3.
1
Posons r = dim E et η = M (α+β+1)r et montrons par r´currence sur k ≥ 2
e
l
que, si l est le plus petit entier tel que 2 ≥ k, alors, pour tous x1 , . . . , xk
dans E, on a :
ν bN (x1 + . . . + xk , (k − 1)α + (k − 2)β)
γ k−1 η k−2
≥ ν bN (x1 , β) . . . ν bN (xk , β) .
(22(l−1)+4(l−2)+8(l−3)+...+2l−1 )r
Pour k = 2, il s’agit juste de la d´finition de la croissance concave ; pour
e
k = 3, c’est un raisonnement analogue a celui fait ci-apr`s.
` e
Soit donc k ≥ 4 et supposons la formule vraie pour tous les entiers < k.
Soient l le plus petit entier tel que 2l ≥ k et x1 , . . . , xk dans E. Si k est pair,
on pose h = k ; s’il est impair, on pose h = k−1 . Dans les deux cas, on a
2 2
2l−1 ≥ h > 2l−2 et 2l−1 ≥ k − h > 2l−2 .
D’apr`s le lemme 3.2.3, il existe un point y1 dans bN (x1 + . . . + xh , (h − 1)(α +
e
β)) tel que l’on ait :
ν bN (x1 + . . . + xh , (h − 1)α + (h − 2)β)
2r(l−1)
≤ M (1 + (h − 1)α + (h − 2)β)r ν bN (y1 , β) ≤ ν bN (y1 , β) .
η
De mˆme, il existe un point y2 dans bN (xh+1 + . . . + xk , (k − h − 1)(α + β))
e
tel que l’on ait :
ν bN (xh+1 + . . . + xk , (k − h − 1)α + (k − h − 2)β)
2r(l−1)
≤ M (1 + (k − h − 1)α + (k − h − 2)β)r ν bN (y2 , β) ≤ ν bN (y2 , β) .
η
27. ˆ
3.2. CONTROLE DE LA DIVERGENCE 27
On a alors :
ν(bN (y1 + y2 , α)) ≥ γν(bN (y1 , β))ν(bN (y2 , β))
γη 2
≥ 2r(l−1) ν bN (x1 + . . . + xh , (h − 1)α + (k − 2)β)
2
ν bN (xh+1 + . . . + xk , (k − h − 1)α + (k − h − 2)β) .
Or, on a, par r´currence,
e
ν bN (x1 + . . . + xh , (h − 1)α + (h − 2)β)
γ h−1 η h−2
≥ ν bN (x1 , β) . . . ν bN (xh , β) .
(22(l−2)+4(l−3)+...+2l−2 )r
et
ν bN (xh+1 + . . . + xk , (k − h − 1)α + (k − h − 2)β)
γ k−h−1 η k−h−2
≥ ν bN (xk+1 , β) . . . ν bN (xk , β) .
(22(l−2)+4(l−3)+...+2l−2 )r
Il vient :
ν bN (y1 + y2 , α)
γ k−1 η k−2
≥ ν bN (x1 , β) . . . ν bN (xk , β) ,
(22(l−1)+4(l−2)+8(l−3)+...+2l−1 )r
d’o` le r´sultat, puisque l’on a :
u e
bN (y1 + y2 , α) ⊂ bN (x1 + . . . + xk , (k − 1)α + (k − 2)β).
Par r´currence, la formule est vraie pour tout k ≥ 2. Or, pour tout k ≥ 2,
e
si 2 < k ≤ 2l , on a :
l−1
2(l − 1) + 4(l − 2) + 8(l − 3) + . . . + 2l−1
∞
l l−1 l−2 l−3 1 l h
=2 l−1
+ l−2 + l−3 + . . . + ≤2 ≤ 4k
2 2 2 2 h=0
2h
et, donc, pour tous x1 , . . . , xk dans E, on a :
ν bN (x1 + . . . + xk , (k − 1)α + (k − 2)β)
γ k−1 η k−2
≥ ν bN (x1 , β) . . . ν bN (xk , β) ,
4kr
ce qu’il fallait d´montrer.
e
28. 28 `
CHAPITRE 3. MESURES A CROISSANCE CONCAVE
Des lemmes 3.2.3 et 3.2.2, on d´duit imm´diatement le
e e
Lemme 3.2.4. Supposons ν ` croissance concave. Soit N une norme sur E.
a
Il existe des r´els θ, η, κ > 0 tels que, pour tout r´el a ≥ 0 et pour tous r´els
e e e
a1 , . . . , ap tels que a = a1 + . . . + ap , on ait :
ν bN (0, a + p + (p − 1)κ)
θη p N N
≥ r−1 ν C (a1 , a1 + 1) . . . ν C (ap , ap + 1) .
((1 + a1 ) . . . (1 + ap ))
Remarquons aussi le
Lemme 3.2.5. Soit f : R+ → R une fonction croissante. Alors on a :
f (a) f (n) f (a) f (n)
lim sup = lim sup et lim inf
a→∞
= lim inf
n→∞
.
a→∞ a n→∞ n a∈R∗
a n∈N∗
n
a∈R∗
+
∗
n∈N +
f ([a]) f (a) f ([a]+1)
D´monstration. Pour tout r´el a ≥ 1, on a
e e [a]+1
≤ a
≤ [a]
.
D´monstration de la proposition 3.2.1. Soit N une norme sur E.
e
N log(ν (bN (0,a)))
D’apr`s le lemme 3.1.1, on a τν = lim supa→∞
e a
. Soient
θ, η, κ > 0 comme dans le lemme 3.2.4. Soient m ≥ n ≥ 1 des entiers naturels
et m = pn + q la division euclidienne de m par n. On a :
κ+2
ν bN 0, m 1 + ≥ ν bN (0, m + (p + 1) + pκ)
n
θη p+1
≥
((1 + n)p (1 + q))r−1
p
ν C N (n, n + 1) ν C N (q, q + 1) .
Il vient, pour tout n ≥ 1, d’apr`s le lemme 3.2.5,
e
κ+2 log ν bN (0, a)
1+ lim inf
n a→∞ a
1 η log ν C N (n, n + 1)
≥ log + .
n (1 + n)r−1 n
29. 3.3. CROISSANCE DES SOUS-GROUPES DISCRETS 29
On en d´duit, en r´utilisant le lemme 3.1.1 :
e e
log ν bN (0, a) log ν C N (n, n + 1) N
lim inf ≥ lim sup = τν
a→∞ a n→∞ n
log(ν (bN (0,a)))
et, donc, a
−→ N
− − τν .
a→∞
Mais alors, pour tout n ≥ 1, on a :
N η
(n + κ + 2) τν ≥ log + log ν C N (n, n + 1)
(1 + n)r−1
d’o`
u
1 N
ν C N (n, n + 1) ≤ (1 + n)r−1 e(n+κ+2)τν .
η
En d’autres termes, il existe un r´el M ≥ 0 tel que, pour tout entier naturel
e
n, on ait :
N
ν C N (n, n + 1) ≤ M (1 + n)r−1 enτν .
N
Il vient, comme τν > 0,
n−1
N N N
ν b (0, n) ≤ M (1 + k)r−1 ekτν = O nr−1 enτν .
n→∞
k=0
On en d´duit le r´sultat puisque, pour tout r´el a ≥ 0, on a bN (0, a) ⊂
e e e
N
b (0, [a] + 1).
3.3 Croissance des sous-groupes discrets
La proposition 2.0.4 assure que, si Γ est un sous-groupe Zariski dense de
G, l’image par κ de la mesure de comptage de Γ est ` croissance concave.
a
Pour appliquer la proposition 3.2.1 et conclure la d´monstration du th´or`me
e e e
1.5.1, il nous reste ` montrer que les exposants de convergence de cette mesure
a
sont > 0.
Lemme 3.3.1. Soit Γ un sous-groupe Zariski dense de G. Alors, on a
1
lim sup log {γ ∈ Γ| κ(γ) ≤ a} > 0.
a→∞ a
30. 30 `
CHAPITRE 3. MESURES A CROISSANCE CONCAVE
D´monstration. D’apr`s la proposition 1.3.1, Γ contient un ´l´ment loxodro-
e e ee
mique g. Comme Γ est Zariski dense dans G, il existe f dans Γ tel que
f ξg = ξg , que f ξg ∈ Q− et que ξg ∈ f Q− . En raisonnant comme dans la
+ + +
/ g +
/ g
proposition 1.4.7, on voit que ces conditions suffisent ` garantir que, quitte
a
−1
a remplacer g et h = f gf par une puissance, le semi-groupe engendr´ par
` e
g et h est libre.
Pour X = (X1 , X2 , X3 ) dans a, posons N (x) = max(|X1 | , |X2 | , |X3 |).
Alors, pour tout γ dans G, on a N (κ(γ)) = log( γ ). En particulier, si
C = max(log g , log h ), pour tout mot γ de longueur r en g et h, on a
N (κ(γ)) ≤ rC. Il vient, pour r dans N,
{γ ∈ Γ|N (κ(γ)) ≤ rC} ≥ 2r
et, donc,
1 1
lim sup log {γ ∈ Γ|N (κ(γ)) ≤ a} ≥ log 2,
a→∞ a C
d’o` le r´sultat.
u e
Montrons aussi que ces exposants sont finis. Rappelons que, d’apr`s [9], il
e
r−1
existe δG > 0 et C > 0 tels que, dans G/K, on ait vol(b(x, a)) ∼ Ca 2 eδG a .
a→∞
Lemme 3.3.2. Soit Γ un sous-groupe discret de G. Pour tout x dans G/K,
on a
r−1
{γ ∈ Γ|d(x, γx) ≤ a} = O(a 2 eδG a ).
a→∞
D´monstration. Comme Γ est discret dans G et que G agit proprement sur
e
G/K, il existe un r´el r > 0 tel que, pour tout γ dans Γ tel que γx = x, on
e
ait γb(x, r) ∩ b(x, r) = ∅. Alors, pour tout a > 0, on a
{γ ∈ Γ|d(x, γx) ≤ a} ≤ (Γ ∩ K)vol(b(x, a + r)).
Le r´sultat en d´coule.
e e
Nous pouvons a pr´sent conclure la
` e
D´monstration du th´or`me 1.5.1. D’apr`s la proposition 2.0.4, l’image par
e e e e
κ de la mesure de comptage de Γ est a croissance concave et, d’apr`s les
` e
lemmes 3.3.1 et 3.3.2, elle est de type strictement divergent, a exposant fini.
`
Le r´sultat d´coule alors de la proposition 3.2.1.
e e
31. Bibliographie
[1] H. Abels, G. Margulis, G.A. Soifer, Semigroups containing proximal linear
maps, Israel J. Math. 91 (1995), no. 1-3, 1-30.
[2] R. Alperin, An elementary account of Selberg’s lemma, Enseign. Math.
33 (1987), no. 3-4, 269-273.
[3] Y. Benoist, Propri´t´s asymptotiques des groupes lin´aires, Geom. Funct.
ee e
Anal. 7 (1997), no. 1, 1-47.
[4] A. Borel, Linear algebraic groups, Graduate Texts in Mathematics, 126,
Springer-Verlag, New York, 1991, xii+288 pp.
[5] A. Borel, Harish-Chandra, Arithmetic subgroups of algebraic groups,
Ann. of Math. (2) 75 (1962), 485-535.
[6] A. Eskin, C. McMullen, Mixing, counting, and equidistribution in Lie
groups, Duke Math. J. 71 (1993), no. 1, 181-209.
[7] S. Gallot, D. Hulin, Dominique, J. Lafontaine, Riemannian geometry,
Universitext, Springer-Verlag, Berlin, 2004, xvi+322 pp.
[8] S. Helgason, Differential geometry, Lie groups, and symmetric spaces,
Graduate Studies in Mathematics, 34, American Mathematical Society,
Providence, RI, 2001, xxvi+641 pp.
[9] S. Helgason, Groups and geometric analysis. Integral geometry, invariant
differential operators, and spherical functions, Mathematical Surveys and
Monographs, 83, American Mathematical Society, Providence, RI, 2000,
xxii+667 pp.
[10] D. Johnson, J.J. Millson, Deformation spaces associated to compact hy-
perbolic manifolds, Discrete groups in geometry and analysis (New Ha-
ven, Conn., 1984), 48-106, Progr. Math., 67, Birkh¨user Boston, Boston,
a
MA, 1987.
[11] G. Prasad, R-regular elements in Zariski-dense subgroups, Quart. J.
Math. Oxford Ser. (2) 45 (1994), no. 180, 541-545.
31
32. 32 BIBLIOGRAPHIE
[12] J.-F. Quint, Divergence exponentielle des sous-groupes discrets en rang
sup´rieur, Comment. Math. Helv. 77 (2002), no. 3, 563-608.
e
[13] J.-F. Quint, Groupes de Schottky et comptage, Ann. Inst. Fourier (Gre-
noble) 55 (2005), no. 2, 373-429.
[14] M.S. Raghunathan, Discrete subgroups of Lie groups, Ergebnisse der Ma-
thematik und ihrer Grenzgebiete, Band 68. Springer-Verlag, New York-
Heidelberg, 1972, ix+227 pp.
[15] J. Tits, Free subgroups in linear groups, J. Algebra 20 (1972), 250-270.
[16] V.S. Varadarajan, Lie groups, Lie algebras, and their representations,
Graduate Texts in Mathematics, 102, Springer-Verlag, New York, 1984,
xiii+430 pp.
[17] R.J. Zimmer, Ergodic theory and semisimple groups, Monographs in Ma-
thematics, 81, Birkh¨user Verlag, Basel, 1984, x+209 pp.
a
