b. Des expériences de mathématiques

Lorsque Ulam discute des expériences réalisées sur les machines électroniques, en 1959 ¹⁴³⁶ , il les présente comme des "aides heuristiques" ; surtout, il les compare, en introduction, à des expériences manuelles que l’on réalise habituellement en mathématique, en théorie des nombres en particulier, à la différence près que les calculs sont plus rapides. Il s’agirait donc de prolonger ces efforts, de faire des tests en plus grands nombres, pour se donner une image plus claire d’un problème. De ce point de vue, on peut considérer ces expériences comme une très légère entorse aux pratiques des mathématiciens.

Cependant, les exemples suivant cette discussion, surtout lorsqu’il s’agit des problèmes de la physique mathématique et des méthodes Monte-Carlo, s’écartent de ce premier modèle. L’expérience est une simulation numérique et relève de beaucoup plus d’empirisme. En outre, la question des erreurs de calcul, dues aux approximations de la méthode ou bien au dispositif physique, est éludée volontairement par Ulam.

Les intentions d’Ulam sont plus clairement exposées dans ses réflexions de 1976. La physique mathématique et la physique théorique sont déconnectées des autres problèmes intéressants les mathématiciens. Dans le premier cas, les expériences sur les ordinateurs sont discutées et mises en perspectives avec les premières réalisations très empiriques, dans l’immédiat après-guerre, pour les mathématiques "pures" le discours est plus modéré ¹⁴³⁷ .

Il n’y a pas à douter que Ulam a conscience des problèmes soulevés par ces expériences et il pèse ses mots. Au sujet des erreurs de calcul, il faut rappeler que la fiabilité et la précision des machines s’accroît considérablement durant les années 1950, grâce aux efforts des chercheurs-ingénieurs. C’est en connaissant ce contrôle accru des calculs qu’il écarte le sujet lorsqu’il aborde les problèmes "purement" mathématiques. En fait, Ulam est confronté à deux écueils : un "certain conservatisme naturel" ¹⁴³⁸ des mathématiciens, et un manque d’informations sur les potentialités des machines. Il veut pallier ce déficit, sans révulser les mathématiciens, et doit donc faire preuve de diplomatie, ce qui explique l’image donnée des expériences mathématiques, plus proches d’"expériences de pensée" que de physique.

Pourtant, les deux types d’expériences s’inscrivent dans une même évolution de la pensée mathématique, incarnée par Ulam, mais dont l’origine et les meilleures explicitations se trouvent chez Von Neumann. Ulam l’exprime dans une interview de 1982, réalisée par Mitchell Feigenbaum, en marge du colloque "Order in chaos" à Los Alamos, colloque que nous avons fixé comme borne aux développements des premières théories du chaos :

‘"Les mathématiques, qui n’avaient pas changé beaucoup dans leurs aspects formels pendant 2000 ans, sont en train d’évoluer. Les grandes découvertes de ce siècle, celles de Gödel, sont d’une importance philosophique énorme pour les fondements des mathématiques. Gödel a prouvé qu’il y a des assertions qui ont du sens mais dont on ne peut pas démontrer si elles sont vraies ou fausses dans un système donné d’axiomes. Hilbert, naturellement, était le grand promoteur du système formel pour toutes les mathématiques. Il disait, ‘nous comprendrons tout, mais tout dépend de la base sur laquelle on se place’. Il n’en est plus ainsi. Vous voyez, les systèmes d’axiomes eux-mêmes changent en conséquence de ce que nous apprenons par des expériences de physique, ou des expérimentations mentales." ¹⁴³⁹ ’

Un bon moyen d’éclairer ces affirmations quant à l’évolution de la pensée mathématique, est de reprendre le texte de Von Neumann de 1947, intitulé "The Mathematician" ¹⁴⁴⁰ , car on peut y trouver la pensée originale d’un des principaux promoteurs du changement ¹⁴⁴¹ . En substance, l’opinion de Von Neuman est que "beaucoup de la meilleure inspiration mathématique provient de l’expérience et qu’il est difficilement possible de croire en l’existence d’un concept de rigueur mathématique absolu, immuable, dissocié de toutes les autres expériences humaines" ¹⁴⁴² . Cette idée est en partie le résultat de son parcours personnel, lequel l’a conduit à la frontière des mathématiques et de la physique théorique, d’une part, et à participer aux efforts suscités par le programme de Hilbert d’axiomatisation des mathématiques, d’autre part. Le point de rupture a été le théorème de Gödel qui, selon Von Neumann, a "montré que le programme de Hilbert est essentiellement sans espoir" ¹⁴⁴³ .

Posant la question "Les mathématiques sont elles une science empirique ?", il tente de répondre par une confrontation avec les démarches de la physique théorique. Pour Von Neumann, il y a une base empirique aux mathématiques, occultée par les développements ultérieurs, mais quand "des tendances à devenir baroque se font jour, le signal de danger doit être émis" ¹⁴⁴⁴ . Le seul remède est la "réinjection d’idées plus ou moins directement empiriques" ¹⁴⁴⁵ .

Voilà une réflexion qui fait le bilan des travaux de Von Neumann depuis 1922, prélude et explique en partie le développement du calcul numérique électronique et des mathématiques expérimentales. On ne peut s’empêcher de comparer la situation avec le développement du calcul analogique.

Proche de Von Neumann, Ulam est en quelque sorte l’héritier des machines et des réflexions de Von Neumann, il tente de rallier les mathématiciens à ces pratiques. Face à des mathématiciens qui restent attachés à une démarche "pure" et empreinte de rigorisme, on comprend les avancées prudentes de Ulam et ses modulations de la notion de mathématiques expérimentales. Quoi qu’il en soit, Ulam cherche à développer une pratique des expériences, d’abord dans le domaine de la combinatoire et de la théorie des nombres, puis dans le domaine du non linéaire, comme pour faire lui-même la preuve de leur intérêt pour les mathématiques.