La dynamique qualitative

Les réflexions de Thom sont également associées à des questions de dynamique qualitative. A la fin des années 1960 des travaux se développent sur le sujet, du fait de l’impulsion donnée par Thom et d’un rapprochement avec l’école de Smale.

Ainsi, en 1969-70 le séminaire de Thom est consacré entièrement à des questions de "dynamique qualitative". Smale y est présent, avec plusieurs de ses collaborateurs (dont Rufus Bowen, son "meilleur étudiant" ¹⁰¹⁸ ), Peixoto, Takens, Zeeman, etc. Les relations avec les centres de Berkeley (là où Smale exerce) et Warwick (université de Zeeman) créent un cadre d’activités soutenues dans le domaine des mathématiques des systèmes dynamiques. Le champ des systèmes dynamiques trouve une structure sociale au travers de ce réseau de scientifiques délocalisés, réunis régulièrement à l’IHES ou dans les séminaires internationaux.

Quant aux aspects conceptuels, la théorie mathématique des systèmes dynamiques atteint un sommet avec l’analyse globale et la définition d’une série de notions importantes permettant de faire une analyse qualitative des systèmes dynamiques, d’en saisir les caractéristiques globales : attracteurs, généricité, systèmes hyperboliques. Si la généricité est attachée au nom de Thom et les systèmes hyperboliques à Smale, la vaste théorie des systèmes hyperboliques est une construction n’impliquant pas seulement ce dernier, mais il en est le principal artisan. Quant à la notion d’attracteur, destiné à un grand succès, elle se trouve autant chez Thom que chez Smale. Dans "Differentiable dynamical systems", Smale en fait usage, mais sans qu’il soit un concept absolument crucial ; l’article est plus naturellement tourné vers la classification des difféomorphismes que des attracteurs. Chez Thom la notion d’attracteur est intégrée à ces conceptions de théorie des catastrophes.

Autour de 1970, il y a plus que cela : la topologie a envahi totalement la recherche sur les systèmes dynamiques et le programme de classification générique des systèmes dynamiques commence à aboutir à un certain nombre de résultats. Dans cette perspective la généricité et la stabilité structurelle constituent en quelque sorte l’ossature de ce programme. Le champ des systèmes dynamiques est organisé sur le plan conceptuel par ces notions et ce programme. Ceci est exprimé très clairement par Peixoto, dans les comptes rendus d’un colloque tenu en 1971, intitulé tout simplement "Dynamical systems" ¹⁰¹⁹ et réunissant les diverses tendances évoquées jusqu’à présent : l’école Smale, l’école des catastrophes de l’IHES et même quelques scientifiques affiliés au groupe de Lefschetz. Peixoto introduit les actes par ces mots:

‘"Le Symposium est consacré en gros à la théorie générique des systèmes dynamiques, quand on regarde les propriétés vraies pour presque tous les systèmes dynamiques. Cette théorie a commencé une dizaine d’années plus tôt comme un rejeton du cas de la stabilité structurelle en dimension 2, où les flots structurellement stables sont assez simples et constituent un ensemble ouvert et dense dans l’espace de tous les flots. Bien que ceci se soit avéré faux en dimension plus élevée, l’expérience a montré qu’on trouve toujours un genre de stabilité structurelle associée à une propriété générique. Ce point de vue développé avec grand succès par Smale et d’autres domine nettement la théorie qualitative des équations différentielles, incluant la théorie des bifurcations avec des répercussions dans des sujets reliés, comme la mécanique hamiltonienne, les foliations, la théorie de Morse [...] D’un autre côté, la même idée de stabilité structurelle considérée du point de vue des applications d’une variété dans une autre, et leurs singularités, conduisait à un développement parallèle et en quelque sorte plus fructueux dans les mains de Whitney, Thom et Mather ; cela veut dire que les applications structurellement stables en sont venues à constituer un ensemble ouvert et dense dans l’espace de toutes les applications." ¹⁰²⁰ ’

L’importance des idées de Smale et Thom est reconnue dans ce qui apparaît comme un aboutissement. A la croisée de la dynamique qualitative et de la théorie des catastrophes, l’activité à l’IHES a été décisive. D’après Aubin, cette concentration à l’IHES provient en grande partie de l’attirance des meilleurs représentants de la théorie des systèmes dynamiques pour la pratique de modélisation de Thom. En tout état de cause, le prosélytisme de Thom passe par la rédaction d’articles, mais il n’a jamais cherché à faire "école" : il y était même réticent et n’a pas engagé d’étudiants sur la piste de la théorie des catastrophes ¹⁰²¹ . L’IHES n’est, de toute façon, pas une structure universitaire, compliquant encore une éventuelle démarche dans ce sens. Mais l’influence de la topologie appliquée est perceptible dans plusieurs exemples.