La réduction des mathématiques à une visualisation combinatoire chez Ulam

Après leur développement commun de la théorie ergodique puis surtout de la méthode de Monte-Carlo, et contrairement à von Neumann ⁵³⁵ , Ulam, à la fin des années 1940, se résout à donner un poids tout à fait considérable à l’analyse combinatoire aussi bien en physique théorique, en mathématique qu’en logique. À partir de 1946, c’est-à-dire à partir de son retour à Los Alamos, il en fait son cheval de bataille. Il a été en effet frappé par la grande généralité du domaine d’application de cette méthode qu’il ne concevait d’abord que comme un échantillonnage statistique de fonctions déterministes, produit dans le but de résoudre les équations non linéaires auxquelles ces fonctions obéissent souvent, notamment en hydrodynamique. Ulam explique lui-même que c’est la mise à disposition de machines à calculer numériques et à grande vitesse qui lui fait concevoir l’intérêt de développer une procédure mathématique heuristique très générale au moyen de cette méthode de Monte-Carlo ⁵³⁶ . En outre, Ulam a auparavant été sensibilisé à l’importance des procédures heuristiques, non seulement dans les sciences de la nature, mais également et surtout en mathématique de par sa fréquentation du mathématicien hongrois George Polya (1887-1985) ⁵³⁷ , alors en poste à Stanford. Mais Ulam déplace l’analyse de la procédure heuristique du terrain psychologique vers le terrain physique et cela non sans raison de son propre point de vue. Il se représente en effet le fonctionnement du cerveau comme un jeu où les opérations sont fractionnées, interactives et où certaines parties jouent le rôle de stimuli dans la production d’idées alors que d’autres parties fournissent des réactions à ces premières propositions de pensée ⁵³⁸ . Tout cela restant majoritairement inaccessible à la pensée consciente et verbale, l’approche de Polya ou de Poincaré, bien qu’intéressante et allant selon lui dans le bon sens puisque rapprochant les procédures de construction des solutions mathématiques des procédures des sciences de la nature, lui paraît donc ne s’en tenir qu’à la partie émergée de l’iceberg.

En 1949, la méthode de Monte-Carlo a certes clairement pour lui comme première fonction de permettre « l’exploration de modèles physiques » ⁵³⁹ pour tester et vérifier leur formulation mathématique. Mais elle peut de surcroît légitimement s’étendre à une sorte de mise en place physicalisée d’une approche heuristique générale de problèmes de « mathématiques pures » ⁵⁴⁰ . Or, on peut attribuer cette tendance à physicaliser les problèmes mathématiques au fait qu’Ulam se vit et se pense avant tout comme un mathématicien visuel. Il est, de son propre aveu, doté d’une mémoire davantage « visuelle » ⁵⁴¹ et les détails logiques ne l’intéressent guère en mathématiques, surtout, et ses collègues l’ont remarqué, depuis 1946, c’est-à-dire depuis qu’il a réchappé de cette grave encéphalite virale au cours de laquelle il a perdu pendant plusieurs jours l’usage de la parole, avant de recouvrer progressivement et pleinement ses facultés ⁵⁴² . Dans son autobiographie de 1976, il écrit en effet :

‘« Lorsque je pense à des idées mathématiques, je vois les notions abstraites dans des images symboliques. Elles sont des assemblages visuels, une image schématisée, par exemple, d’ensembles de points réels du plan. À la lecture de formulations comme ‘une infinité de sphères ou une infinité d’ensembles’, je me figure une image de tels objets presque réels, devenant de plus en plus petits et disparaissant sur quelque horizon. » ⁵⁴³ ’

On le comprend : face à la nécessité qu’il ressent de concrétiser, de physicaliser les notions abstraites, à partir de son retour à Los Alamos en 1946, le recours au computer donne donc à Ulam la possibilité inédite d’extérioriser cette pratique intellectuelle, d’ordinaire conçue comme essentiellement logique, et de l’exercer à grande échelle et quasi-empiriquement grâce aux capacités de mémoire, aux traitements en parallèle de diverses règles élémentaires et à la vitesse de calcul inédite de cette machine.

En fait, en ce qui concerne cette fois-ci plus particulièrement son souhait plus pragmatique de voir se prolonger les soutiens financiers en faveur du développement des calculateurs électroniques, ce n’est bien sûr pas non plus un hasard qu’il exprime cette idée de recourir à des « modèles physiques » à Harvard, c’est-à-dire précisément lors du second symposium sur les machines à calculer digitale à grande échelle : il s’agit d’y défendre le rôle que ces machines peuvent avoir au-delà des seules applications calculatoires directes et déjà développées. Ces machines sont destinées selon lui à entrer bientôt dans tous les laboratoires, sans exception, toutes spécialités confondues. Il n’hésite pas à provoquer les mathématiciens en leur annonçant qu’ils ont tort de négliger ce qu’ils ne considèrent souvent que comme une machine à calculer. Selon son aveu, c’est une période de sa vie au cours de laquelle il a délibérément produit de nombreuses communications, qu’il qualifiera de « ‘propaganda’ talks » ⁵⁴⁴ , au sujet de cette méthode de Monte-Carlo généralisée et instrumentée par les nouveaux calculateurs numériques. C’est dire toute l’importance à la fois épistémologique, scientifique et technique qu’il confère à cette proposition.

Mais comment procède-t-il pour montrer cela ? Et qu’entend-il par approche heuristique des mathématiques pures ? Son raisonnement se présente en fait en deux temps dans l’article de 1949. Il rappelle d’abord que la méthode de Monte-Carlo touche en elle-même à une partie importante mais peu explorée de la mathématique pure car étant dépourvue de théorie générale : elle consiste en une « production ‘physique’ de modèles de situations combinatoires » ⁵⁴⁵ . Parce qu’elle repose sur les processus de « multiplication » (selon le terme d’abord utilisé par Ulam et issu de la physique nucléaire) ou processus de « ramification », dont Theodore E. Harris développe à la même époque une présentation systématique ⁵⁴⁶ , elle est une approche empirique, parce que stochastique, des configurations combinatoires et de branchaison. Par le fait qu’elle intègre un point de vue stochastique et visuel (côté empirique) sur la ramification et donc la combinatoire (côté mathématique), cette méthode a pour vertu de concrétiser et de rendre empirique une problématique purement mathématique. Elle jette donc un pont entre l’empirie des modèles physiques simulés sur calculateur numérique et la diversité des configurations combinatoires, quant à elles abstraites mais encore trop peu théorisées.

La seconde étape du raisonnement de Ulam consiste à montrer que, finalement, beaucoup des autres branches des mathématiques peuvent, à certains égards, être rapportées à l’analyse combinatoire comme l’analyse fonctionnelle ou même la logique ⁵⁴⁷ . Prenons le cas de l’étude des systèmes formels et donc de la métamathématique en général. On y trouve l’étude de classe d’ensembles sur lesquels on applique des opérations booléennes et des quantificateurs. Or, Ulam rappelle que, dans une approche de géométrie projective, on peut donner une interprétation intégralement géométrique non seulement bien sûr des opérations booléennes mais aussi et surtout

⁵⁴⁸ de la logique propositionnelle. Et il en conclut :

‘« Un théorème mathématique peut être formulé dans ce langage comme spécifiant qu’un certain ensemble de la classe obtenue est vide. Dans les cas où une preuve apparaîtrait très difficile, il pourrait être intéressant d’essayer de construire, pour ainsi dire, des points de cet ensemble par des choix aléatoires faits sur les ensembles de départ ou sur les valeurs des ‘variables libres’ dans l’espace à n dimensions. L’échec dans l’obtention d’un de ces points après un grand nombre de choix conduirait alors à la croyance que si l’ensemble n’est pas vide, il est petit. Il est clair qu’une preuve ne sera jamais obtenue de cette façon. Cependant, la valeur heuristique d’une telle procédure ne devrait pas être négligeable. » ⁵⁴⁹ ’

On voit donc que la seconde étape du raisonnement, en rapportant la construction de la preuve mathématique elle-même à un processus aléatoire, par un effet de transitivité, tend à montrer la possibilité, pour l’ensemble des mathématiques pures, de recourir à une approche heuristique dont la formalisation devra beaucoup aux « expérimentations » sur calculateur de « modèles physiques » granulaires et stochastiques. Il s’ensuit que la méthode de Monte-Carlo modélisée sur calculateur numérique peut être utile pour pratiquement tous les secteurs des mathématiques et de la physique mathématique dans la mesure où cela peut mettre sur la piste d’un résultat général inaperçu par la seule intuition consciente.

Lorsque rétrospectivement Ulam se penchera sur ce travail mathématique, il évoquera sa réaction face à un propos bien connu de Laplace :

‘« J’avais l’impression que, d’une certaine manière, on pouvait inverser un jugement de Laplace. Il affirme qu’une théorie de la probabilité n’est rien d’autre que du calcul appliqué au sens commun. Monte Carlo, c’est du sens commun appliqué à la formulation mathématique de processus et de lois physiques. » ⁵⁵⁰ ’

Selon Ulam, il faut donc prendre la mesure du fait que ce qu’il propose peut s’interpréter comme un changement dans la hiérarchie et la prééminence respectives des disciplines mathématiques, en particulier entre probabilité et calcul, dans le cadre de la modélisation mathématique pour la physique. Cette approche qui est la sienne se révèlerait donc comme anti-laplacienne, le préfixe « anti » étant à comprendre ici en un sens directionnel : il faudrait retourner le propos de Laplace. Pour sa part, le « sens commun appliqué aux formulations mathématiques » réfère à l’aléa mais aussi à la physicalisation et à la visualisation ou spatialisation, qui en même temps que l’aléa, affectent les formalismes. Le « sens commun » renvoie donc aussi à ce qui s’oppose à l’abstraction habituelle des modèles mathématiques. À en croire cette indication d’Ulam, et au regard de sa suggestion heuristique générale, les modèles mathématiques deviennent et sont appelés à devenir de plus en plus intuitifs pour inspirer ensuite seulement, et s’il y a lieu, la formulation de modèles abstraits. Cette interprétation, remarquons-le, se fait toutefois au prix d’une distorsion du propos initial de Laplace. Dans le passage auquel Ulam pense, Laplace parlait de « bon sens » ⁵⁵¹ et non de « sens commun ». Il avait d’ailleurs consacré une grande partie de la fin de l’Essai de 1814 au rôle critique que peut jouer le calcul des probabilités vis-à-vis des certitudes morales courantes, mais erronées, sur les futurs contingents. Le « bon sens », à savoir au moins le jugement moral si ce n’est la raison au sens de Descartes, se trouvait ainsi rectifié, comme rendu « droit » par le calcul. Ulam procède donc ici à un glissement vers une interprétation « sensitive » ou « sensualiste » qui nous semble bien confirmer cette tendance à physicaliser le formalisme probabiliste. Alors que Laplace évoque plutôt les probabilités morales, et avec elles le « bon sens », moral et juste, de l’homme d’action, Ulam infléchit la citation et veut comprendre qu’il s’agit surtout de ce qui est senti communément et intuitivement par nos sens et non point par notre sens moral.