La topologisation des systèmes dynamiques

Le terme de "topologisation" des systèmes dynamiques pourrait résumer la perspective adoptée par Smale dans l’étude des systèmes dynamiques. C’est un peu réducteur au regard des résultats produits par Smale, mais cela traduit l’esprit de son analyse. Le fait qu’il ait débuté sa carrière par une thèse, en 1956, dans le domaine de la topologie n’est pas étranger à cette orientation ⁹⁵⁵ . Son expérience dans ce domaine sera investie dans l’étude des systèmes dynamiques d’une part, et prolongée par d’autres travaux, naturellement. Ces travaux de topologie lui ont d’ailleurs valu sa Médaille Fields en 1966 ⁹⁵⁶ . Mais la topologie ne s’introduit pas au même endroit que Birkhoff, elle se croise avec l’analyse globale. Cette conversion de la topologie aux systèmes dynamiques est le fruit de plusieurs rencontres personnelles et conceptuelles ⁹⁵⁷ .

Lors du colloque de topologie organisé à Mexico durant l’été 1956, Smale fait la connaissance du mathématicien français René Thom, de deux étudiants de l’Université de Chicago : Morris Hirsch, qui deviendra son collègue le plus proche, et le brésilien Elon Lima. Ce dernier lui présentera Mauricio Peixoto en 1958, lorsque Smale s’installe à l’"Institute of Advanced Study" de Princeton pour deux ans. Smale approche, par ce biais, les résultats de l’école Lefschetz, dont Peixoto est issu. Et ce sont les travaux de Peixoto sur la stabilité structurelle qui intéressent Smale, pour une raison qu’il donne lui-même :

‘"J’ai été immédiatement enthousiaste, pas seulement pour ce qu’il [Peixoto] faisait, mais par la possibilité que, avec ma connaissance de la topologie, je pouvais étendre ce travail à n dimensions." ⁹⁵⁸ ’

La généralisation proposée par Smale constitue le point de départ de ses recherches sur les systèmes dynamiques et ses résultats fondamentaux, inscrits d’emblée dans l’analyse globale des systèmes dynamiques. En reprenant la notion de transversalité, qu’il connaît par René Thom, Smale introduit les systèmes de dimension n, vérifiant les propriétés suivantes ⁹⁵⁹  :

i) leur ensemble limite est constitué d’un nombre fini de singularités hyperboliques et d’orbites périodiques

ii) les variétés stables et instables se coupent transversalement.

L’extrapolation de Smale se résume par deux conjectures : les systèmes précédents forment un ensemble ouvert et dense de l’ensemble de tous les systèmes ; les conditions i-ii) sont des conditions nécessaires et suffisantes pour avoir un système structurellement stable. Autrement dit, la "plupart" des systèmes dynamiques seraient de ce type et sont structurellement stables. Elle étend à la fois le théorème de Peixoto (densité des systèmes structurellement stables) et les caractéristiques données par de De Baggis, à toutes dimensions. Le premier papier de Smale en dynamique contient ces deux conjectures, extrêmement audacieuses, qui se révèleront fausses mais génératrices d’un développement important. En 1976, un regard rétrospectif sur cette période lui fera dire :

‘"J’étais extrêmement naïf à propos des équations différentielles ordinaires à cette époque et j’étais également extrêmement présomptueux […] Si j’avais été familier avec la littérature (Poincaré, Birkhoff, Cartwright-Littlewood), j’aurais vu à quel point cette idée était folle." ⁹⁶⁰ ’

Dans un article de vulgarisation plus récent, il explique que sa conjecture signifiait en quelque sorte : "le chaos n’existe pas" ⁹⁶¹ . Pourtant, lors de la présentation de sa conjecture au "Symposium on Ordinary Equations and their Applications", en 1959, à Mexico, le public, averti en la matière, ne semble pas avoir réagi négativement à son idée ⁹⁶² . L’idée de Smale peut paraître naturelle, de "bon sens", lorsqu’elle est replacée dans son contexte : la dynamique n’est pas encore le monde complexe qu’il va lui-même mettre en évidence, et qui est la "découverte" de l’ère du chaos. Cet accord tacite traduit un "paradigme" des mathématiques de la dynamique, même si le mot est peut-être trop fort, en tout cas un sentiment partagé par le plus grand nombre.