b. Smale et la théorie hyperbolique

Depuis Poincaré, les mathématiques des équations différentielles ont connu des extensions et des redéfinitions problématiques de grande ampleur : une topologisation accrue par Birkhoff et la définition d’une symbolique pour la dynamique, une extension aux systèmes dissipatifs par Andronov, reprise par l’école de Lefschetz, et la définition d’une nouvelle perspective globale sur les systèmes dynamiques. Sans compter les multiples contributions plus modestes et plus ponctuelles.

Cependant, selon Batterson, un des meilleurs biographes de Smale, avant l’arrivée de celui-ci, le monde de la théorie des systèmes dynamiques n’était "même pas une sous-spécialité […] mais plutôt une jungle mathématique manquant de problèmes établis" ⁹⁵² . Par là, il veut signifier que le champ des mathématiques des systèmes dynamiques ne se reconnaît pas dans une problématique bien délimitée et manque quelque peu de cohérence. Au regard de ce qui précède, il est vrai que la question mathématique n’a pas d’autonomie ; elle dépend d’un vaste ensemble, un véritable foisonnement de problèmes allant de la technique à la modélisation, aux questions de mathématiques des équations différentielles. Batterson affirme qu’au fil des interventions de Smale durant la décennie 1960, il a "défini l’"ordre du jour", établi les conjectures et prouvé les grands théorèmes" ⁹⁵³ . Pour ainsi dire, le champ des mathématiques des systèmes dynamiques commence à se structurer.

Nous allons donc voir comment, dans les années 1960, le travail réalisé sous l’égide du mathématicien américain Stephen Smale (né en 1932) induit une profonde évolution de la question de la dynamique en mathématique, symbolisée par la théorie des systèmes hyperboliques, présentée en 1967 dans l’article "Differentiable Dynamical Systems".

Pour illustrer déjà la continuité avec les développements précédents, on peut signaler que Smale présente son travail sur le "fer à cheval", dans l’exercice autobiographique, à la "confluence de trois traditions historiques de la dynamique, différentes" ⁹⁵⁴  :

(1) Les travaux de Cartwright-Littlewood et Levinson sur les équations de type Van der Pol,

(2) Poincaré et Birkhoff, pour leurs travaux sur les courbes homoclines,

(3) Andronov-Pontryagin, et les développements de l’école de Lefschetz sur la stabilité structurelle.

Cela donne une idée des points d’accroche avec l’histoire précédente, tout en gardant à l’esprit qu’il ne s’agit là que de la reconstruction de l’histoire de Smale, par Smale ; nous en verrons la pertinence et les limites relativement à l’histoire des mathématiques des systèmes dynamiques.