Domaine errant en dimension supérieure

Le but de ce chapitre est de prouver le théorème 3.1.2, qui fournit une famille d’exemples d’endomorphismes polynômiaux de C 2 ayant un domaine errant (voir [ABD+14]). On rappelle qu’en dimension complexe un, le théorème de non-errance de Sullivan (théorème 2.4.28) affirme qu’une fraction rationnelle ne peut pas avoir de domaines errants. Le théorème 3.1.2 montre donc que la situation est différente en dimension supérieure. 3.1 Généralités 3.1.1 Énoncé Le résultat principal du chapitre est : Théorème 3.1.1. Il existe des polynômes de la forme f(z) = z + z 2 + O(z 3 ) tel que pour tout polynôme g de la forme g(w) = w − w 2 + O(w 3 ), le produit fibré P(z, w) =  f(z) + π 2 4 w, g(w)  ait un domaine errant, qui s’accumule sur la droite invariante {w = 0}. En particulier, on peut choisir le polynôme g de sorte qu’il ait le même degré que celui de f. Alors P se prolonge holomorphiquement en une application sur P2 (C). De plus, on fournira une famille d’exemples à coefficients réels dont le domaine errant intersecte R2 . Enfin, notons qu’il s’agit du premier exemple de domaine errant d’orbite bornée : en effet, la question de trouver un exemple de fonction transcendante entière ayant un domaine errant d’orbite bornée est ouverte. Plus précisément, la condition requise sur f est que son application de Lavaurs de phase 0, noté Lf , ait un point fixe attractif. L’application de Lavaurs sera définie précisément dans la section 3.2. Pour l’instant, précisons seulement qu’il s’agit d’une application holomorphe transcendante Lf : Bf → C définie sur le bassin parabolique de f. On associera canoniquement une telle application Lf à tout polynôme f de la forme f(z) = z + z 2 + O(z 3 ), et l’application Lf dépendra holomorphiquement de f.

Nous verrons dans la section 3.2 comment construire des polynômes f : C → C dont l’application de Lavaurs vérifie cette condition, qui n’est donc pas vide. Plus précisément, on montrera : Proposition 3.1.3. Il existe des polynômes de la forme f(z) = z +z 2 +O(z 3 ) dont l’application de Lavaurs a un point fixe attractif, dans chacune des deux familles suivantes : — fa(z) = z + z 2 + az3 , avec a ∈ C — fb(z) = z + z 2 + bz4 , avec b ∈ R De plus, dans la seconde famille, le point attractif que l’on construira sera réel.

Stratégie

Le mécanisme à la base de la construction est le suivant : on veut construire un produit fibré P(z, w) tel qu’il existe une suite extraite d’itérées P mk qui converge sur un ouvert U vers un point limite (ˆz, 0) non prépériodique.

Proposition 3.1.4.

Supposons qu’il existe un ouvert U et une suite d’entiers mk → ∞ tels que P mk converge sur U vers un point (ˆz, 0) non prépériodique. Alors P a un domaine errant. Démonstration. On peut supposer que l’ouvert U est connexe, quitte à le restreindre. Commençons par prouver que U est dans l’ensemble de Fatou. Par normalité, il suffit de prouver que la famille totale des itérées {P n , n ∈ N} est bornée (uniformément en n) sur U. Ceci vient du fait que l’infini est (super)attractif pour P et donc si une orbite de P est non bornée, alors elle converge vers l’infini. Or l’existence d’une valeur d’adhérence finie (ˆz, 0) empêche ce comportement. Soit donc Ω0 la composante de Fatou dans laquelle U est inclus, et pour i ∈ N, posons Ωi = P i (Ω0). Il s’agit de montrer que si i 6= j, alors Ωi 6= Ωj . Remarquons que si P mk converge vers (ˆz, 0) sur U, alors P mk converge en fait vers (ˆz, 0) sur Ω0 tout entier : en effet, par le théorème d’Arzela-Ascoli, P mk admet au moins une valeur d’adhérence en tant que suite de fonctions holomorphes sur Ω0. De plus, toute valeur d’adhérence de cette suite est une fonction holomorphe sur Ω0, coïncidant avec la fonction constante égale à (ˆz, 0) sur U, donc en fait P mk converge vers la fonction constante égale à (ˆz, 0) sur tout Ω0. Par conséquent, pour tout i ∈ N, la suite P mk converge sur Ωi vers P i (ˆz, 0) = (f i (ˆz), 0). Or, comme (ˆz, 0) est supposé avoir une orbite infinie, on a donc que si i 6= j, P i (ˆz, 0) 6= P j (ˆz, 0), et donc Ωi 6= Ωj . Ceci prouve bien que la suite de composantes (Ωn)n∈N = (P n (Ω0))n∈N est errante. La stratégie pour réaliser un produit fibré ayant cette propriété est d’adapter une technique de dynamique classique en une variable, l’implosion parabolique. Le point clé de la construction est fourni par la proposition suivante : Théorème 3.1.5 (théorème clé). Lorsque n → ∞, la suite d’applications C 2 3 (z, w) 7→ P ◦2n+1

Applications de type fini 

Soit h : W → X une application analytique entre variétés complexes de dimension un, éventuellement non connexes. On dit que x ∈ X est une valeur régulière pour h si pour un certain voisinage U de x, h|V : V → U est un homéomorphisme pour chaque composante V de h −1 (U), et une valeur singulière pour h sinon. Notons que l’ensemble S(h) des valeurs singulières est fermé. Rappelons que w ∈ W est un point critique si la dérivée de h en w est nulle, et qu’alors h(w) ∈ X est une valeur critique. On dit que x ∈ X est une valeur asymptotique si h tend vers x le long d’un chemin sortant de tout compact de W. On montre à l’aide d’outils élémentaires de théorie des revêtements que l’union des valeurs critiques et des valeurs asymptotiques est dense dans S(h). En particulier, tout point isolé de S(h) est une valeur critique ou une valeur asymptotique.