Application de la « théorie des catégories » à une « théorie de la représentation » des systèmes biologiques

Dans son second article de 1958, publié après la note intéressée mais dubitative de Rashevsky ⁸⁴¹ , Rosen va lever les derniers doutes de son maître en empruntant résolument le chemin d’abstraction qu’il préconisait mais en recourant pour cela à des outils mathématiques très récents et assez sophistiqués. Ce travail de récupération quasi-immédiate d’une suggestion mathématique très récente témoigne selon nous d’un sentiment réactif et défensif croissant dans la biologie théorique de l’époque. Il s’agit de quelque chose comme un dernier défi abstractif, une sortie par la haut. Son abstraction recherchée est d’autant plus intimidante qu’elle doit servir à masquer et à exprimer tout à la fois une agressivité certaine à l’encontre des approches molécularistes triomphantes. Il nous faut tâcher d’en comprendre ici les grandes lignes de manière à voir où peut se loger une certaine résistance, de forme supérieure, à la modélisation comme à l’émergence de la simulation par ordinateur.

Lors de ce dernier trimestre de 1958, Rosen s’intéresse en effet de près à une théorie purement mathématique qui avait été publiée en 1945 par deux mathématiciens américains, Samuel Eilenberg et S. Mac Lane, dans les Transactions of the American Mathematical Society. Elle lui semble pouvoir résoudre une série de difficultés qui se présentent lorsqu’on en reste à la représentation formelle des organismes par diagrammes de blocs. D’une part, en effet, la formalisation par de tels diagrammes impose une représentation analogue à celle que suggère la théorie des graphes, avec les contraintes qui vont de pair. Tout d’abord, la théorie des graphes ne permet pas de prendre en compte le fait qu’une même sortie d’un composant donné puisse être une entrée pour plusieurs autres composants. Autrement dit, dans la réalité biologique, le nombre de sorties distinctes produites par un composant est inférieur ou égal au nombre de flèches qui en sortent ⁸⁴² . Ainsi, par exemple, une glande endocrine peut-elle sécréter une hormone, l’unique sortie, qui va pourtant affecter plusieurs organes : d’où plusieurs flèches qui devraient sortir de la représentation formelle de cette glande. Symétriquement, un même composant peut envoyer plusieurs différentes sorties à un autre composant. Ce qui ne sera représenté, dans le graphe, que par une seule flèche reliant les deux. Ainsi, la glande endocrine que l’on appelle la glande pituitaire, ou hypophyse, envoie-t-elle différentes hormones au même organe. Rosen rappelle qu’un être vivant est un être relationnel certes, mais dont les relations sont de surcroît très rarement « binaires », c’est-à-dire platement bilatérales (un émetteur à un récepteur). Elles sont le plus souvent multilatérales ⁸⁴³ . Ce ne serait pas tellement gênant s’il n’y avait en outre la nécessité, même à un niveau théorique et grossier, de prendre en compte les différents retards temporels dans les opérations de traitements et de transmissions de ces relations multilatérales à l’intérieur du graphe. Car les différences entre ces laps de temps participent de la mise en œuvre de certains comportements spécifiques cruciaux d’un point de vue organique. D’autre part, Rosen indique que la représentation de l’organisme par un diagramme de blocs a l’inconvénient d’introduire un composant qui n’en est pas véritablement un, mais qui envoie des entrées dans beaucoup de composants du graphe et qui reçoit toutes les sorties qui ne sont pas connectées aux composants internes à l’organisme : il s’agit du composant « environnement de l’organisme », noté E par Rosen ⁸⁴⁴ . Comme son statut n’est pas bien défini et qu’il est aux frontières des autres composants de par son comportement formel aux limites (avec des effets de bord si l’on peut dire), lors de la démonstration de théorèmes généraux, il oblige à des traitements à part qui complexifient les raisonnements, en les particularisant et en affaiblissant l’intuition qu’on en peut avoir. Il serait donc bon, pour Rosen, de disposer d’une représentation qui le fasse entrer dans le rang des autres composants. Comme on peut le voir, ce choix liminaire signale, plus que d’autres, que Rosen pourchasse ici la dispersion symbolique et recherche, comme son maître, l’unification.

Après avoir établi cette liste des difficultés inhérentes à la représentation par diagrammes de blocs, Rosen signale qu’en théorie toutefois, il ne serait pas impossible de complexifier le graphe en vue de leur règlement. Mais il expose contre cela un argument, selon nous décisif, pour la justification du passage à un autre type de représentation mathématique :

‘« Bien que nous puissions, dans une certaine mesure, passer outre les difficultés que nous avons mentionnées par l’introduction d’un certain nombre d’astuces techniques, la théorie qui en résulterait aurait perdu la clarté intuitive qui constituait une grande partie de son attrait. » ⁸⁴⁵ ’

Cet argument nous paraît très important puisqu’il indique nettement le moment où, selon Rosen, il devient plus utile, en biologie théorique, de renoncer au caractère aisément visualisable des formalismes que l’on défend. Autrement dit, il nous révèle, par là, deux choses. Premièrement, il avait auparavant lui-même choisi une première représentation formelle par diagramme de blocs parce que l’intuition visuelle pouvait y soutenir l’abstraction mathématique. Deuxièmement, on doit selon lui abandonner un formalisme non pas précisément lorsqu’il ne permet plus aucunement de représenter une complexité biologique supplémentaire qu’on voudrait lui voir traiter (il est en fait souvent possible en théorie de pousser un formalisme dans ses retranchements), mais seulement à partir du moment où le gain que l’on aurait à l’utiliser dans ces nouvelles conditions devient nul par rapport aux formalismes plus abstraits auxquels on l’avait jusque là préféré. Le choix que fait Rosen pour l’abstraction mathématique paraît donc mûrement pesé en l’occurrence. C’est, selon ses dires, pour cette raison qu’il qualifie le contenu de son article comme étant l’exposé d’une « théorie de la représentation » ⁸⁴⁶ des systèmes. Les représentations que proposera cette théorie devront cependant posséder un pouvoir de simplification et de clarification :

‘« On verra que, bien que la théorie qui résulte paraît être, au commencement, plus compliquée que le traitement précédent, nous pouvons formuler nos résultats, et même nos définitions, d’une manière plus simple, plus intelligible et plus précise que cela n’est possible au moyen d’un raffinement de notre autre approche. » ⁸⁴⁷ ’

Autrement dit, c’est en élevant d’un degré l’abstraction mathématique de la représentation des organismes vivants que l’on pourra, assez paradoxalement, retrouver la possibilité d’en intuitionner les comportements de façon formelle, générale et précise. Du moins est-ce ce que Rosen espère. Il est très vrai que la « théorie des catégories » appelée également la « théorie des équivalences naturelles » ⁸⁴⁸ a précisément été conçue pour mettre au jour les « transformations naturelles » qui laissent invariantes les bonnes constructions mathématiques ⁸⁴⁹ . Par construction, l’idée de « naturalité » qu’emploie la « théorie des catégories » n’a donc a priori pas grand-chose à voir avec la naturalité à laquelle sont confrontées les sciences de la nature. Mais Rosen suppose que, par analogie, les mathématiques semblant gagner toujours elles-mêmes à produire des théories plus abstraites sur leurs propres théories déjà existantes ⁸⁵⁰ , il y a lieu de s’attendre à ce que le fait de s’élever, par abstraction mathématique, au-dessus de l’application de la topologie graphique soit également fécond pour la biologie théorique. En ce sens, ce que propose Rosen est une biologie mathématique du second degré, si l’on peut dire, puisqu’il s’agit d’y abstraire et d’y purifier une représentation théorique déjà existante. C’est pourquoi, encore une fois, il nomme sa suggestion une « théorie de la représentation ».

En effet, si on considère un composant M qui reçoit plusieurs entrées mais qui n’émet qu’une seule sortie, on peut noter Ai (i = 1, …, n) les n ensembles des différentes valeurs d’entrées possibles sur le composant M, et B l’ensemble contenant les valeurs de sortie possibles de M. Dès lors, on peut « regarder l’effet de M comme une application ou une transformation qui assigne à tout m-uplet (a1, …, an), ai Î Ai un objet défini b Î B » ⁸⁵¹ . C’est-à-dire qu’on associe à tout composant M du graphe initial une application f telle que :

f : A1 ´ … ´ Am → B

C’est cette application associée qui devient la nouvelle représentation du composant M. Ce qui a pour effet immédiat de déréaliser ou, tout au moins, de déconcrétiser la notion ambiguë de « composant », et donc d’aller dans le sens préconisé par Rashevsky.

Ensuite, en généralisant et en omettant la restriction initiale à une seule sortie, on peut considérer que B est remplacé par un ensemble de sorties admissibles Bk. Et à chaque sortie Bk de M, on associera une application fk de même forme que précédemment. De façon plus générale donc, tout composant M est alors représentable par un ensemble d’applications (f1, …,fk,… fn) du produit cartésien A1 ´ … ´ Am sur l’ensemble des valeurs de sortie B et où n est le nombre de sorties de M ⁸⁵² . À ce niveau-là, Rosen fait remarquer qu’il y a déjà un gain intuitif indéniable :

‘« Nous pouvons observer que le fait de regarder un système biologique comme un ensemble d’applications incorpore la plupart de nos notions intuitives au sujet de ces systèmes d’une manière extrêmement naturelle. » ⁸⁵³ ’

Autrement dit, l’intuitif se retrouve « incorporé » dans l’abstractif de deuxième niveau. Pour nous en convaincre, Rosen rappelle la définition d’un foncteur covariant :

Si A et B sont deux catégories (voir encadré), un foncteur covariant T de A sur B est une paire d’applications qui à tout objet de A associe un objet de B et à toute application de A associe une application de B, et où T( gf) = T(g) T(f), et T(i_A) = i_T(A). Un foncteur est fidèle si T(f) = T(g) implique que f = g, et si, lorsque gf = i_A, et que l’on a de plus T(A) = T(A’) et T(f) = i_T(A), cela implique que A = A’. Dans ce dernier cas où gf = i_A, g et f sont appelées des équivalences des objets A et A’. Si A est une catégorie de groupes, ce sont des isomorphismes, si elle est une catégorie d’espaces topologiques ce sont des homéomorphismes ⁸⁶³ . Enfin une catégorie est dite enchâssée (« embedded ») ⁸⁶⁴ en une autre catégorie B par un foncteur T, si T est un foncteur fidèle de A sur B ⁸⁶⁵ . L’image de A, notéeT(A), est alorsune sous-catégorie de la catégorie B.

Eilenberg et Mac Lane montraient alors le théorème suivant : « toute catégorie abstraite A peut être enchâssée dans la catégorie S dont les objets consistent en tous les ensembles de la théorie des ensembles et dont les applications rassemblent la totalité des applications de plusieurs de ces ensembles sur un seul ensemble (« many–one mappings ») ⁸⁶⁶ . Ce théorème est important pour Rosen car il permet de remplacer les objets d’une catégorie par un ensemble équivalent au regard de la théorie des catégories. Ce qui autorise la définition d’unions, d’intersections d’objets, etc., et oriente en effet le formalisme vers la prise en compte intrinsèque des relations multilatérales telles qu’elles caractérisent l’organisme.