Une topologie de la morphogenèse en France : Thom et le modèle conçu comme paradigme du réel (1972)

Notre tableau des modèles théoriques et mathématistes/physicalistes de la morphogenèse ne serait pas complet en effet si nous n’y faisions paraître ce personnage dont les idées ont joué un rôle non négligeable dans la résistance aux simulations sur ordinateur en morphogenèse mais aussi et surtout dans l’émergence tardive de la biologie théorique en France. Ce rejet spécifique des modèles descriptifs et des simulations est au départ le fait d’un mathématicien pur : René Thom (1923-2002). Or, il est arrivé que son approche touche à des problématiques de morphogenèse végétale. De plus son épistémologie sera utilisée par la suite pour servir à légitimer une nouvelle forme de modélisation qualitative en botanique : il nous faut donc tâcher d’en saisir ici l’esprit.

Quelle est, en quelques mots, la conception du « modèle mathématique » propre à René Thom ? Pourquoi conduit-elle immanquablement à un mépris ou à une marginalisation de la simulation ? En quoi enfin cette stratégie d’hégémonie d’une certaine mathématique à prétention concrète rencontre-t-elle précisément une stratégie analogue en embryologie théorique ? Sans prétendre faire justice à la carrière de René Thom et à ses nombreux travaux ⁹³³ , nous ne reviendrons ici que sur ces quelques points qui doivent plus spécifiquement éclairer notre enquête historique.

À la fin des années 1960, alors qu’il est professeur permanent à l’Institut des Hautes Etudes Scientifiques (IHES), à Bures-sur-Yvette, René Thom estime en effet pouvoir établir un pont entre les mathématiques pures et l’embryologie théorique. Avec la théorie mathématique des catastrophes à laquelle il a personnellement contribué et qui lui valut la médaille Fields en 1958, Thom s’est intéressé systématiquement et de façon générale à l’émergence de discontinuités à l’intérieur des milieux continus. Il développe ainsi une approche topologique fondée sur un point de vue continuiste, plus « concrète » en ce sens, et donc liée aux instruments de la géométrie différentielle. Avec ce qu’il considère comme de nouvelles mathématiques de la qualité, Thom privilégie les propriétés globales et structurelles des formes intervenant dans l’espace géométrique : inclusions, voisinages, similitudes de formes.

C’est à la fin des années 1960 que ses réflexions de topologie pure commencent à le laisser sur sa faim. Thom s’intéresse alors aux applications que ces mathématiques pourraient avoir et à la philosophie de la nature qu’elles pourraient impliquer. C’est à partir de ce moment-là qu’il propose de donner un cadre mathématique rigoureux et non calculatoire à l’embryologie et plus largement à toute morphogenèse du vivant. N’ignorant pas les travaux plus anciens de phyllotaxie, René Thom poursuit en fait plus spécifiquement les ouvertures systématiques proposées plus récemment par le mathématicien Hermann Weyl dans son ouvrage de 1952 : Symmetry ⁹³⁴ . Dans ce livre, Weyl montrait la généralité du principe de symétrie ou harmonie des proportions. Il tissait ainsi des liens inédits entre l’art, la nature organique et la nature inorganique ⁹³⁵ tout en faisant ainsi écho, après Képler, aux spéculations de Platon, dans le Timée, au sujet des solides primordiaux et des formes idéales. Impressionné par cette nouvelle présentation transdisciplinaire de l’économie des formes spatiales, Thom propose d’acclimater les descriptions empiriques de la morphogenèse (la description des différents types de genèse d’organe) à ses propres mathématiques qualitatives.

Dès lors, René Thom s’enquiert plus précisément de l’état de l’embryologie de son temps. Et il s’informe essentiellement auprès des écrits de l’organiciste Waddington. Rappelons que, contre les prétentions réductionnistes de la biologie moléculaire et des explications de l’ontogenèse par le hasard, ce dernier prône une théorie mathématique de la biologie du développement. Depuis la fin des années 1930, Waddington est persuadé que l’approche par la génétique ne suffira pas et qu’il faut continuer à chercher l’explication des formes vivantes par un biais à la fois plus systématique et plus global, sans se livrer toutefois à un holisme qui ne serait qu’une plate résurgence du vitalisme. Le but de Waddington est donc déjà d’essayer de trouver une formalisation mathématique qui permette justement de faire l’économie d’une réification des champs morphogénétiques tout en donnant un poids fonctionnel à cette hypothèse. Le but de la mathématisation est donc pour lui de montrer que l’on peut tendre vers une approche organiciste sans se livrer pour autant à une nouvelle forme de vitalisme, c’est-à-dire sans hypostasier, sans rendre substantiel ce qui préside à la morphogenèse de l’individu. À terme, il s’agit pour lui de chercher « à posséder un corps de théorie comparable aux théories physiques majeures, telles que la thermodynamique, la relativité générale, la mécanique ondulatoire » ⁹³⁶ .

Pour assurer ce rôle argumentatif, selon Thom, la notion de « champ morphogénétique », introduite précédemment par Waddington en 1957, doit être explicitée en ces termes topologiques qu’il pratique justement pour lui-même dans sa théorie des catastrophes. Ainsi ce serait des « êtres géométriques » qui commanderaient la réalisation biochimique des êtres vivants et non l’inverse ⁹³⁷ . Mais il s’agit surtout pour Thom de produire un manifeste. Dans son ouvrage principal, Stabilité structurelle et morphogenèse, il avoue qu’il recherche, de façon générale, à disqualifier l’approche constructiviste par le détail en science pour favoriser l’approche par le global. Il veut favoriser un « vitalisme géométrique » et contrer le réductionnisme ⁹³⁸ , trop répandu selon lui dans les sciences de la nature. Selon Thom, qui emboîte ici le pas à Waddington, il ne faut pas attendre que les biochimistes nous fournissent une « explication ultime de la nature des phénomènes vitaux », mais plutôt s’attaquer à ces phénomènes en procédant du « haut vers le bas », c’est-à-dire en expliquant la biochimie par la morphogenèse ⁹³⁹ . Et pour cela il faut partir des seules propriétés topologiques de la structure quadri-dimensionnelle : l’espace et le temps. Or, c’est là que Thom met en valeur sa démonstration purement mathématique selon laquelle il n’existe, dans un tel espace, que sept types de discontinuités fondamentales. Et c’est de cette considération, centrale dans son travail, qu’il va ensuite tirer sa conception particulière du « modèle mathématique ». Prôner un « vitalisme géométrique », c’est la seule issue, selon lui, dans la mesure où l’on ne veut pas avoir à spécifier sous la forme d’un être substantiel et concret (c’est-à-dire manifesté hic et nunc en un substrat précis) ce qui commande la mise en forme des vivants. Un idéal à l’œuvre dans le concret mais non manifesté concrètement, telle doit donc être la nature d’une stabilité structurelle qui, de ce fait, vaut généralement pour tout substrat.

Pour lui, qui suit en cela Waddington, il ne peut y avoir de modèle mathématique du vivant que si l’on y fait intervenir une approche spatio-temporelle, c’est-à-dire une approche essentiellement dynamique et spatialisée. Là est une des clés de la différence entre Rashevsky et Thom, et qui fait que l’on peut indifféremment concevoir sa vision comme un physicalisme ou comme un mathématisme. La biologie moléculaire lui semble en effet travailler à occulter cette spatialité des organismes vivants. Thom peut en effet affirmer : « Tout l’aspect géométrique et spatial des réactions biochimiques échappe de ce fait à la Biochimie …» ⁹⁴⁰ Mais si l’on fait l’hypothèse d’un réel toujours assimilable à un espace géométrique continu, certains résultats sur la limite du nombre de structures topologiques qui peuvent l’affecter et sur leur engendrement réciproque peuvent dès lors être démontrés a priori : c’est bien là rejoindre une préoccupation de Waddington sur les canalisations des successions de formes dans le développement ontogénétique.

C’est donc par pur choix philosophique que Thom préconise l’emploi de ce qu’il appelle les « modèles continus » ⁹⁴¹ . À l’inverse, les « modèles formels », c’est-à-dire les modèles mettant en œuvre un système formel (un nombre fini d’états et des règles de transition) et donc une discrétisation de l’espace, ne sont pas, selon lui, à même de décrire des ruptures de symétrie. Certaines questions peuvent d’ailleurs y être parfois indécidables, eu égard au théorème de Gödel ⁹⁴² . C’est pour toutes ces raisons qu’il faut selon lui ne pas tout attendre de ces modèles formels. L’enjeu majeur de cette préférence pour la représentation continuiste est donc bien d’ordre plus philosophique que réellement technique : il réside dans ce que Thom appelle le déterminisme scientifique. Un modèle doit ainsi nous permettre de voir la cause profonde et première des phénomènes :

‘« Les théorèmes d’existence et d’unicité des solutions d’un système différentiel à coefficients différentiables fournissent alors le schéma sans doute le plus parfait de déterminisme scientifique. La possibilité d’utiliser le modèle différentiel est, à mes yeux, la justification ultime de l’emploi de modèles quantitatifs dans les sciences. Ce point mérite sans doute quelque justification ; l’essentiel de la méthode préconisée dans cet ouvrage [Stabilité structurelle et morphogenèse] consiste à admettre a priori l’existence d’un modèle différentiel sous-jacent au processus étudié et, faute de connaître explicitement ce modèle, à déduire de la seule supposition de son existence des conclusions relatives à la nature de la singularité des processus. » ⁹⁴³ ’

On remarque que ces exigences font que Thom considère en fait le modèle comme une norme ou une idéalité à l’œuvre au cœur de la réalité. Le mot modèle est donc bien pris ici comme synonyme d’archétype. Même s’il semble vouloir l’exprimer parfois ⁹⁴⁴ , la neutralité ontologique ⁹⁴⁵ de Thom est, en ce sens, très contestable. Faire l’hypothèse que l’on aura toujours raison d’utiliser l’hypothèse des « modèles continus » même si l’on affirme en même temps qu’on ne les suppose pas pour cela sous-jacents à la réalité mais seulement « sus-jacents », c’est-à-dire seulement projetés au-dessus d’elle, le résultat est le même quand on identifie de surcroît l’être à ce que l’on peut en observer et en dire dans un langage structuré, à notre échelle, et de façon toujours « sus-jacente » justement ⁹⁴⁶ , comme le fait Thom par ailleurs. Le réel, ou notre accession au réel (peu importe la distinction ici puisque Thom part du principe que justement on ne peut la faire), étant supposé structurable comme un langage, en affirmer de surcroît comme toujours possible la mathématisation sous une forme topologique et continuiste, c’est bien au final exprimer une ontologie mathématiste ou physicaliste abstraite bien particulière et donc préférentielle.

Il se trouve qu’un tel sens du mot « modèle » n’est pas souvent assumé dans la communauté scientifique. Cette signification ne semble pas réellement correspondre à l’activité de la recherche scientifique contemporaine du texte de Thom ⁹⁴⁷ . Malgré ce mot de « modèle », le concept que Thom veut désigner par là s’apparente en effet bien davantage au « principe théorique » et mathématique que Rashevsky recherche pour sa part depuis les années 1930. Le parallélisme est d’autant plus saisissant si l’on se souvient que, dès 1954, comme nous l’avons montré, Rashevsky et ses élèves ont à maintes reprises, et bien avant Thom, prôné le recours à la topologie, dans son versant algébrique il est vrai. On comprend d’ailleurs que, par contraste avec cette topologie plus abstraite, la topologie différentielle de Thom, apparemment fondée sur l’intuition du continu, a pu rassembler plus de suffrages parce qu’elle a pu sembler en effet plus réaliste et donc plus fédératrice que le projet tardif de l’école rashevskyenne, même si l’option épistémologique sous-jacente est pourtant fondamentalement similaire. Rashevsky propose une topologie de l’organisation des propriétés fonctionnelles au sens biologique, alors que Thom, comme Rosen, semble proposer une topologie des formes matérielles directement observables en tout type de substrat. Thom rencontre plus de succès que Rosen à ce moment-là car il réussit à rallier le combat de l’embryologie théorique ainsi que la réaction montante, interne à la biologie, contre l’hégémonie de la biologie moléculaire, notamment en botanique.

La leçon à tirer de ce constat pour l’histoire des formalismes en science nous semble très importante ici : on constate une fois de plus que, de même que le recours à un même formalisme n’engage pas nécessairement des scientifiques différents à adopter la même ontologie, symétriquement, derrière des modifications ou des glissements internes aux formalismes, il n’y a pas forcément de modifications épistémologiques ou ontologiques majeures qui les accompagneraient. Thom, en ce sens, n’innove pas fondamentalement dans ses options philosophiques et épistémologiques par rapport au dernier Rashevsky et à sa vision mathématiste ou physicaliste abstraite des principes du vivant.

Quoi qu’il en soit, à l’heure où s’exprime Thom, cette place de choix accordée aux modèles continus et différentiables a tout de même déjà été ébranlée par les mathématiciens informaticiens comme Murray Eden ou Stanislaw Ulam, ainsi que nous l’avons vu. Si bien que la tentative de Thom se présente essentiellement comme un manifeste critique et philosophique à l’égard d’une pratique du modèle de simulation en germe mais déjà irrévocablement en expansion : il faut donc comprendre ces spéculations comme une réaction à une tendance croissante de la recherche en morphogenèse. Cette réaction que l’on pourrait dire tout aussi bien « mathématiste » que « physicaliste » se confirmera d’ailleurs dans le titre délibérément combatif d’un ouvrage de Thom paru en 1991 : Prédire n’est pas expliquer ⁹⁴⁸ . Autrement dit, sentir, voir qualitativement et dans un milieu continu, permettrait d’expliquer, alors que discrétiser permettrait seulement de dire, de prédire pour agir. C’est donc bien là disqualifier grandement le recours à l’ordinateur, en plus de la biologie moléculaire, dans les sciences du vivant, que ce soit pour des modèles continus ou des modèles discrets.

De fait, ces spéculations qui sont plutôt d’ordre philosophique, ne donnent guère de véritables moyens mathématiques aux naturalistes. La modélisation des botanistes, par exemple, qui exige au moins d’être quantifiée pour être vérifiée sur le terrain ne semble pas pouvoir s’accommoder facilement de cette approche valable seulement dans les grandes lignes. En outre, et contre toute attente, Thom semble ouvertement désespérer de la modélisation mathématique (au sens où il l’entend) en morphogenèse végétale et en phyllotaxie, en particulier, alors que l’embryologie animale lui semble plus accessible. C’est que, dit-il, « chez les végétaux […], on ne peut parler d’homéomorphisme qu’entre organes pris isolément, tels que feuille, tige, racine etc., mais il n’existe en principe aucun isomorphisme global entre deux organismes » ⁹⁴⁹ . L’individu végétal, dans sa structure morphologique, est en effet très hétérogène à lui-même aussi bien dans le temps que dans l’espace. C’est ce qui en rend la reconstruction mathématique très difficile voire impossible pour Thom. Autrement dit, selon ces propos de 1972, on peut désespérer de jamais trouver un modèle de déformation continue pour expliquer la morphogenèse d’une plante : les ruptures qualitatives intervenant dans l’ontogenèse végétale sont telles, pour Thom, qu’il semble y avoir peu de moyen d’y voir un modèle mathématique continu à l’œuvre.

Au début des années 1970 donc, si Thom est cité en biologie, et spécifiquement en botanique, il y est le plus souvent invoqué au niveau rhétorique, à savoir contre le réductionnisme moléculaire en général, plutôt qu’il n’est réellement utilisé et appliqué. Il ne rencontre d’ailleurs qu’un enthousiasme mitigé chez l’embryologiste Waddington lui-même sur les notions duquel il s’appuie pourtant. Ce dernier l’accuse ⁹⁵⁰ en effet de ne pas bien maîtriser les concepts biologiques et de pratiquer ainsi des généralisations et des confusions abusives, même s’il reconnaît que les mathématiques de Thom ont à enseigner quelque chose à la biologie du fait qu’elles se sont « développées en relation avec un aspect défini de la réalité » ⁹⁵¹ , c’est-à-dire qu’elles possèdent justement une assise concrète indéniable de par une attention au continuum physique. Par la suite les biologistes du développement, s’ils le citent parfois avec révérence ⁹⁵² n’utiliseront guère cette approche qui se présente elle-même comme infalsifiable et spéculative. Thom lui-même avoue en effet :

‘« On pourrait raisonnablement exiger d’une théorie de la morphogenèse qu’elle décrive explicitement en chaque point la cause locale du processus morphogénétique. Les modèles que nous offrirons ne peuvent, en principe, satisfaire à cette demande […] Aussi n’en faut-il pas attendre, pour le moment, plus qu’une construction conceptuelle d’un intérêt essentiellement spéculatif. » ⁹⁵³ ’

Nous aurons cependant bientôt l’occasion de voir que, par une nouvelle ironie de l’histoire des idées et des sciences, certains botanistes (ni quantitativistes ni mathématiciens) vont assez vite arguer des considérations générales de Thom, non au sujet des modèles continus il est vrai mais surtout au sujet de la diversité des niveaux d’intégration et de stabilité dans le monde organique, pour construire leur propre concept de « modèle », « architectural » et qualitatif celui-ci, donc pas du tout « mathématique » mais plutôt symbolique et graphique. Nous reviendrons sur cet héritage paradoxal en temps utile ⁹⁵⁴ . Mais auparavant, nous pouvons former un bilan sur l’état des résistances à la dispersion des modèles et des simulations à la fin des années 1960 et au début des années 1970.