b. Les expériences de Hénon et Heiles. Princeton, 1962-63

Dans les années 1960, donc, Hénon expérimente sur différents problèmes d’astrophysique. Pour sa thèse, il avait considéré des questions de dynamique stellaire. Durant son séjour à Princeton, en 1962, il forme le projet d’étudier le problème d’une étoile dans une galaxie asymétrique. Les résultats conduisent à l’article de Hénon et Heiles de 1964 ¹⁴¹⁵ .

Ce travail relève de l’astronome-expérimentateur, mais aussi des mathématiques expérimentales. Les premières simulations ont révélé des "irrégularités", à peine perceptibles. Il a confié à un étudiant de Princeton, Carl Heiles, la tâche de refaire les calculs, depuis le début, sur une autre machine. Comme un physicien souhaitant évaluer la pertinence de ses résultats, les simulations, parce qu’elles donnent un résultat inattendu, sont reproduites sur une autre machine, indépendamment. Cela montre qu’il connaît toutes les difficultés du calcul : les erreurs peuvent venir de la programmation, des arrondis, de la machine qui est un dispositif physique et, à ce titre, ne peut pas réaliser un calcul "exact", comme il n’y a pas de mesure exacte en physique. Là où d’autres auraient peut-être écartés les phénomènes erratiques, Hénon persiste.

Pour lui, il faut mettre de côté les aspects astronomiques, pour se concentrer sur les propriétés mathématiques des modèles et faire usage des expériences numériques. Plusieurs modèles sont construits, transformés ou simplifiés dans l’objectif de saisir les caractéristiques les plus importantes. Dans ce but, les sections transverses, inspirées du travail de Birkhoff, connues de ces astronomes, sont employées. Des itérations sont ensuite introduites, à la place des équations différentielles ¹⁴¹⁶ . La simulation numérique sur les machines numériques de Princeton permet d’évaluer la pertinence des choix, de se donner une intuition ("feeling"), de donner des contre-exemples ¹⁴¹⁷  : c’est ce qui a permis de révéler la "surprise" ¹⁴¹⁸ du mélange de comportements quasi-périodiques et "ergodiques".

Après les résultats Hénon-Heiles, Hénon s’oriente vers des études numériques du problème des trois corps et des transformations du plan conservant les aires. C’est par analogie avec la question de 1964 qu’il pénètre ces questions de système dynamique. Dans ses travaux, on retrouve deux constantes : l’utilisation des méthodes de Poincaré et Birkhoff. La section transverse est l’outil fondamental pour l’étude des orbites périodiques et générales du problème des trois corps restreint. Les théories de Birkhoff sur les transformations planes donnent des outils théoriques pour guider la recherche expérimentale. L’ordinateur donne la possibilité de résoudre les équations, de manière approchée, mais l’objectif n’est pas celui-ci. Dans le problème de trois corps restreint, Hénon cherche à préciser la classification des trajectoires, réalisant en quelque sorte le projet de Poincaré. Ses longues analyses, réalisées depuis 1963, constituent un de ses plus beaux succès ¹⁴¹⁹ , en même temps qu’elles prouvent la pertinence des méthodes théoriques de Poincaré pour les expériences numériques.

Le résultat de 1976 est un autre exemple de cette double constante. Hénon transfère les techniques numériques et méthodes théoriques des systèmes conservatifs sur un exemple de système dissipatif. Cela suscitera un intérêt pour les attracteurs étranges, pendant quelques années. L’aspect expérimental de ces recherches convient tout à fait à Hénon, qui ne s’inquiète pas outre mesure du fait de savoir si l’attracteur étrange "existe", mathématiquement, ou non.