La théorie hyperbolique

Ayant relativisé la notion de stabilité structurelle en 1965, il avait alors annoncé tenir un ensemble d’axiomes, qu’il considérait de première importance. Cet ensemble servira à constituer l’Axiome A. Smale résume le projet dans l’article de 1967 :

‘"On cherche une classe de difféomorphismes qui inclut tous les précédents exemples de manière transparente et qui laisserait au moins la possibilité d’inclure un sous-ensemble ouvert dense de Diff(M) pour chaque variété compacte M. Ceci est fourni par les difféomorphismes décrit ici, i.e., ceux satisfaisant les Axiomes A et B ci-dessous." ⁹⁸¹ ’

L’Axiome A, pour un difféomorphisme f, est le suivant : "(a) l’ensemble Ω des points non-errants est hyperbolique. (b) les points périodiques de f sont denses dans Ω." ⁹⁸² (lorsque f vérifie l’axiome, on dit aussi que f est hyperbolique).

Un ensemble invariant Ω est hyperbolique lorsque le faisceau tangent de la variété M, restreint à l’ensemble Ω, peut se scinder en deux parties, sur lesquelles la dérivée de l’application opère comme une contraction sur l’une, une expansion sur l’autre.

Schématiquement, la notion d’hyperbolicité d’un difféomorphisme retient cette double propriété de contraction et d’expansion, d’étirement et de repliement que nous avons évoquée à maintes reprises. C’est ce qui permet d’unifier les exemples multiples du fer à cheval, les systèmes Morse-Smale, les exemples d’Anosov.

Les difféomorphismes Morse-Smale satisfont l’axiome, ainsi que les automorphismes du tore. Les résultats d’Anosov ont ainsi joué dans le choix de la définition de Smale : les difféomorphismes d’Anosov, c’est ainsi que Smale les appellent, vérifient l’Axiome A et sont en fait globalement hyperboliques (la variété M en entier est un ensemble hyperbolique) ; Anosov a montré leur stabilité structurelle, ce qui a orienté Smale a chercher des propriétés généralisant cette classe de difféomorphismes ⁹⁸³ .

L’article de 1967 est donc un achèvement, une finalisation, et en même temps une ouverture, car il suggère et propose des perspectives de recherche, autant qu’il démontre. Cependant, Smale va s’apercevoir rapidement que la généralité des systèmes hyperboliques, n’est pas tout à fait au rendez-vous. Les systèmes hyperboliques sont unifiés et trouvent une théorie solide avec le travail de Smale, ce qui aura des répercussions incalculables, mais, ils ne sont qu’une petite partie des systèmes dynamiques. En 1970, Smale en est déjà conscient et dit : "Je crois maintenant que le principal problème des systèmes dynamiques ne peut pas être unifié si élégamment" ⁹⁸⁴ . Ce qui, au passage, relativise la notion d’axiome : le terme Axiome A est conservé depuis, mais il s’agit d’une propriété particulière et non d’un axiome au sens courant.

L’impulsion donnée par Smale est importante, comme on va le voir pour les mathématiques des systèmes dynamiques. Au regard de la période 1975-82, le fer à cheval est un point particulier sur lequel il convient de revenir. Le texte de 1967 donne une présentation synthétique des problèmes soulevés par ce difféomorphisme hyperbolique si primordial. Ce sont les relations avec les courbes homoclines, et la dynamique symbolique qui lui confèrent tant d’importance.