Confirmation par la théorie des « réseaux de neurones » et la « théorie des automates » : application de la théorie des catégories et fin

Ce qui est tout à fait singulier, mais cohérent, dans le propos de Rosen, c’est le fait qu’il ne présente pas son travail comme l’application ou l’extension de la théorie des automates ou des neurones formels, mais plutôt comme une théorie de ces théories. Comme Rashevsky avait voulu « s’assimiler » sa première proposition théorique et la cybernétique, Rosen veut « s’assimiler » les formalismes modernes issus de l’ordinateur et qui s’imposent à lui. Il veut les « digérer » en quelque sorte, en faire abstraction, au sens propre comme au sens figuré, pour ne plus en dépendre. C’est la raison pour laquelle son second article de 1958 se conclut sur l’adaptation de ce qu’il appelle « la théorie générale des automates de McCulloch-Pitts-von Neumann » à sa « théorie de la représentation » des systèmes au moyen des catégories. Et il parvient en effet assez simplement à montrer qu’un automate général au sens de von Neumann, consistant en un réseau d’automates 872 à une entrée, peut être représenté comme « une application [de catégorie] dont la portée est l’espace A = {0, 1} du jeu de pile ou face et dont le domaine est le produit cartésien de A avec lui-même, pris un nombre de fois égal au nombre d’entrées dans l’automate » 873 . Ainsi, un automate général peut toujours être représenté par un « diagramme de blocs abstrait » dans une catégorie convenablement définie.

Pour Rosen, l’automate général est une confirmation, « empirique » pourrait-on dire, une « illustration » dit-il 874 lui-même, de sa théorie de la représentation. Car l’aspect graphique (au sens de la théorie des graphes) de la « théorie générale des automates » de von Neumann est, selon lui, une conséquence du formalisme plus général qu’il a adopté lui-même avec la théorie des catégories. Pour lui, de même qu’aux yeux de Rashevsky les antibiotiques auraient pu être prédits par la biotopologie, la « théorie générale des automates » aurait pu être entièrement dérivée in abstracto du point de vue catégorial qu’il propose. La théorie des automates n’apparaît donc pour lui ni nécessaire ni décisive.

Il n’en demeure pas moins que le succès que Rosen obtient est finalement très mitigé par rapport aux espoirs qu’il avait fondés en cette nouvelle théorie mathématique. Même si Rashevsky est admiratif, notamment devant les nouveaux théorèmes que son élève démontre pour l’occasion (il citera d’ailleurs souvent ce travail), les dernières pages du second article de 1958 ne parviennent pas à effacer l’impression que les problèmes les plus importants ne sont pas beaucoup mieux traités par ce formalisme que par les précédents. Devant le faible gain qu’apporte en définitive à la biologie théorique cette approche catégoriale, Rosen ne continuera pas à la développer et ses collègues n’y feront que peu d’emprunts 875 . Mais cela lui sera une leçon dans sa réflexion ultérieure sur notre faculté de représenter formellement les systèmes biologiques. Nous n’en dirons pas plus ici sur sa carrière 876 . Mais qu’il nous suffise de préciser que dans son ouvrage posthume de 2000, il reprendra le même formalisme que celui de son premier article de 1958 mais pour servir à une toute autre démonstration 877 . Significativement, en 1964, Rosen publiera encore un article sur les systèmes biologiques abstraits conçus comme « machines séquentielles » 878 . Depuis les publications du mathématicien américain S. Ginzburg, en 1962 879 , il avait en effet été suggéré que le terme antérieur de « boîte noire » soit remplacé par celui, plus précis, de « machine mathématique séquentielle ». Mais il n’en demeure pas moins qu’il s’agit là, pour Rosen, d’une sorte de retour à la représentation mathématique (inspirée par la technologie et la théorie des automates) telle que celle à laquelle il avait eu recours dans son premier travail.

De son côté, avec du recul, et alors qu’il a quitté l’université de Chicago (en 1965) pour sa retraite et pris un poste au Mental Health Research Institute de l’université du Michigan – Ann Arbor, Rashevsky constate que cette approche par la théorie des catégories (qu’il cite et admire toujours) n’a finalement pas résolu un problème pour lui encore essentiel : celui de la représentation mathématique de ces relations à la fois multilatérales, complexes d’un point de vue temporel et qui caractérisent le fonctionnement d’un organisme 880 . Elle a certes eu l’intérêt de montrer que l’on pouvait employer un formalisme mathématique encore plus général que celui de la topologie. Mais elle n’a pas eu d’autres applications que celle que Rosen avait su trouver à la fin de son article dans sa dérivation de la théorie des automates 881 .

Notes
872.

“An automaton consists, in the first approximation, of a black box and a finite number of inputs and outputs, each of which satisfies the special property that it is capable of assuming precisely two observable states”, [Rosen, R., 1958b], p. 337.

873.

“as a mapping the range of which is the ‘coin-tossing space’ A, and the domain of which is a cartesian product of A with itself, taken a number of times equal to the number of inputs to the automaton”, [Rosen, R., 1958b], p. 337.

874.

[Rosen, R., 1958b], p. 340.

875.

Voir les titres des travaux de quelques uns des derniers étudiants de Rashevsky cités in [Rashevsky, N., 1966c], pp. 660-661. Ils se concentreront davantage sur le principe de la conception optimale ou sur de nouvelles approches, matricielle par exemple, du principe de l’épimorphisme.

876.

Indiquons simplement qu’il obtiendra ensuite un poste au Center for Theoretical Biology de l’Université d’Etat de New York, à Buffalo, puis à l’Université Dalhousie où il terminera sa carrière comme professeur émérite. Une liste assez complète de ses travaux se trouve dans son dernier ouvrage [Rosen, R., 2000], pp. 343-345. Dans ce livre, qui a été collationné par sa fille, Judith Rosen, les deux articles de 1958 ne sont pas cités. Pour sa famille ou pour lui-même, sa bibliographie commencerait donc seulement en 1959… C’est en effet la date à partir de laquelle il va commencer à remettre fondamentalement en question l’idée même selon laquelle il est possible de représenter formellement un système biologique par un automate ou par un quelconque mécanisme mathématique. Cette thèse sera par la suite son cheval de bataille, jusqu’en 1998, date de sa mort. Auparavant, il avait fait chaleureusement écho aux prises de position de René Thom en ces matières.

877.

Voir [Rosen, R., 2000], pp. 261-263.

878.

“Abstract Biological Systems as Sequential Machines”, Bulletin of Mathematical Biophysics, 1964, vol. 26, pp. 103-111, cité dans [Rashevsky, N., 1968], p. 258.

879.

An Introduction to Mathematical Machine Theory, Reading Mass., Addisson-Wesley Publ. Co., 1962, cité par [Lindenmayer, A., 1968a], pp. 281-282 et 299.

880.

[Rashevsky, N., 1966a], p. 292.

881.

[Rashevsky, N., 1960a], Tome 2, p. 394.