4.4. LA NOTION DE REPRESENTATION EN DEBAT DANS LES NEUROSCIENCES COGNITIVES.

4.4.1. L'émergence et l'autopoïèse.

F.J. Varela 726 , dans une réflexion épistémologique et éthique, prend d'emblée une position "méta" pour dresser un tableau des différentes positions prises au sein des sciences cognitives autour de la question de la représentation pour déconstruire et problématiser cette notion.

Théoriser la question de la connaissance et de la conscience conduit à définir la notion de représentation et à établir les conditions de productions de ces représentations. F.J. Varela dégage deux grands courants de pensée au sein des sciences cognitives se développant autour de conceptions différentes de la notion de représentation: le courant "cognitiviste" et le courant "connexionniste".

L'hypothèse à la base du courant cognitiviste repose sur l'analogie, plus ou moins forte, entre l'intelligence humaine et le fonctionnement des ordinateurs. L'esprit humain est décrit comme obéissant aux lois de la logique permettant le traitement d'informations constituées par des représentations symboliques. "Le comportement intelligent présuppose la faculté de se représenter le monde d'une certaine façon. Ainsi, nous ne pouvons pas expliquer le comportement cognitif à moins de présumer qu'un agent réagisse en représentant les éléments pertinents des situations dans lesquelles il se trouve. Dans la mesure où sa représentation de la situation est fidèle, le comportement de l'agent sera adéquat, toutes choses égales par ailleurs." 727 Cette formulation repose sur une hypothèse implicite concernant la nature des représentations traitées par ce système qualifié de "computationel", en référence au traitement informatique. F.J. Varela formule cette hypothèse ainsi: "La cognition consiste à agir sur la base de représentations d'un monde extérieur prédéterminé qui ont une réalité physique sous forme de code symbolique dans un cerveau ou une machine." 728 Le code symbolique qui permet le travail cognitif est constitué d'éléments qui représentent directement ce à quoi ils correspondent. C'est la critique de cette conception de la représentation comme duplication d'un monde extérieur prédéterminé qui va servir de base au courant dit "connexionniste".

Le courant dit "connexionniste" conteste l'hypothèse "cognitiviste" du caractère symbolique des représentations liées à une correspondance directe avec le monde extérieur. Pour ce courant, le fonctionnement neurobiologique du cerveau fournit un modèle organisateur du fonctionnement mental qui s'oppose au modèle "computationel" basé sur un stockage d'information et un système central de processeurs logiques. Il s'agit d'un fonctionnement "distribué" selon des réseaux interconnectés offrant des configurations de liens variables. Cet ensemble possède une aptitude à l'auto-organisation et à la mise en coopération globale des réseaux interconnectés. C'est alors la mise en lien dynamique de composants de base qui produit des propriétés dites "émergentes" qui n'existent pas au niveau du composant élémentaire. La cognition est, dans cette perspective: "L'émergence d'états globaux dans un réseau de composant simple." 729 Une propriété émergente est identifiable à une faculté cognitive.

Selon le modèle dit "cognitiviste" la représentation correspond directement à un objet en fonction d'un lien clairement identifiable pour l'observateur. Selon le modèle "connexionniste", la représentation est fonction de l'état global du système. Autrement dit, ce qui produit la signification dans le modèle connexionniste n'est pas la nature du lien entre représentation et objet représenté, mais un schéma complexe d'activité, un processus organisateur. Les conceptions développées par C.D. Frith, à propos de la schizophrénie, peuvent être assimilées au premier modèle alors que les travaux de G.M. Edelman, de A.R. Damasio et J.D. Vincent rentrent plutôt dans la deuxième catégorie.

Pour F.J. Varela, ces deux approches sont complémentaires et représentent des niveaux différents dans un rapport d'inclusion. "L'émergence" est considérée comme relevant d'un niveau supérieur à la "computation". Mais surtout ces deux approches reposent sur un même présupposé: seul un monde prédéfini peut être représenté, c'est-à-dire un monde dont les caractéristiques sont établies préalablement à l'activité cognitive et à la mise en jeu de représentations.

Selon F.J. Varela: "Le vrai défi posé aux Sciences et aux Technologies Cognitives… est la mise en cause du préjugé le plus enfoui de notre tradition scientifique, à savoir que le monde tel que nous le percevons est indépendant de celui qui le perçoit. Si nous devons au contraire conclure que la cognition ne peut être adéquatement comprise sans ce sens commun, qui n'est rien d'autre que notre histoire physique et sociale, il nous faut en déduire que celui qui sait et ce qui est su, le sujet et l'objet, sont la spécification réciproque et simultanée l'un de l'autre." 730 La critique de ce "préjugé" fondamental remet en cause, par voie de conséquence, le critère d'évaluation majeur du "cognitivisme" comme du "connexionnisme" qui repose sur une représentation interne adéquate d'un monde extérieur prédéterminé, indépendant de celui qui le représente.

La troisième voie que propose F.J. Varela repose sur l'idée que la cognition vivante, quotidienne, dépend de la faculté de poser les questions pertinentes qui apparaissent à chaque moment de la vie. Il s'agit de rendre compte, à l'aide des sciences cognitives, de l'expérience quotidienne, du sens de l'expérience humaine, dans les situations quotidiennes. L'activité cognitive n'est pas prédéfinie "… mais enactée, on la fait-émerger sur un arrière-plan, et les critères de pertinence sont dictés par notre sens commun, d'une manière toujours contextuelle." 731 La clef de voûte de la cognition devient la faculté de "faire-émerger", d'enacter 732 . Dans cette optique l'information n'est pas préétablie comme un ordre intrinsèque, mais elle correspond aux régularités émergeantes des activités cognitives elles-mêmes. C'est l'organe qui construit le monde plutôt qu'il ne le réfléchit. En contrecoup, la notion d'intelligence évolue: "… l'intelligence ne se définit plus comme la faculté de résoudre un problème mais comme celle de pénétrer un monde partagé." 733

F.J. Varela oppose deux modèles d'information d'un système vivant, un modèle basé sur la représentation et un modèle basé sur l'énaction. La représentation, d'un point de vue "cognitiviste" ou "connexionniste", repose sur l'extraction de ce qui est déjà donné dans le monde externe et son utilisation dans le système cognitif. L'énaction fait émerger l'information par l'activité autonome d'un système. Avec ce deuxième modèle c'est l'activité du système autonome qui crée le sens et non un système "perceptif" qui gère des données "entrantes".

Il faut noter que le terme de "représentation" est une sorte de "faux ami" dans le dialogue entre neurosciences cognitives et psychanalyse. D'un point de vue "cognitiviste" ou "connexionniste", le terme de représentation renvoie plus au fonctionnement de l'appareil perceptif qu'au processus de représentation décrit par la psychanalyse. Alors que la notion d'enaction est plus proche du processus représentatif psychanalytique dans la mesure où elle crée, par son activité auto-organisée, une notion de monde externe. L'objectif n'est pas ici de rentrer dans une comparaison terme à terme des concepts issus de corpus théoriques différents mais de repérer des modalités générales dans l'approche de "l'esprit" afin de les mettre en perspective avec les approches de la "psyché".

Le modèle global que propose F.J. Varela est donc centré sur l'étude du fonctionnement des systèmes qui ne sont pas organisés par une activité représentative tournée vers un monde prédéterminé, mais qui ont une capacité à donner une signification aux interactions avec leur environnement. Ce modèle prend en compte deux idées étroitement liées. D'une part, le phénomène central de la cognition est celui de l'autonomie des systèmes vivants. D'autre part, ce système repose sur la prise en compte systématique du rôle et de la place de l'observateur dans la définition de ce qui peut être connu d'un système vivant. Ces deux idées peuvent être considérées comme des prolongements des notions d'assimilation et d'accommodation théorisées par J. Piaget. Pour F.J. Varela, un système vivant est "autopoïètique", c'est-à-dire "… organisé comme un réseau de processus de production de composants qui: (a) régénèrent continuellement par leurs transformations et leurs interactions le réseau qui les a produit, et qui (b) constituent le système en tant qu'unité concrète dans l'espace où il existe, en spécifiant le domaine topologique (la production de cet espace) où il se réalise comme réseau." 734

Les rapports dynamiques d'un système vivant, "autopoïètique", avec son environnement constituent ce que F.J. Varela appelle le "couplage structurel": "Les interactions continues d'un système structurellement plastique au sein d'un environnement source de perturbations récurrentes produiront une sélection continue au sein des structures possibles du système. Cette structure (produit de la sélection) déterminera, d'une part, l'état du système et le domaine de perturbations permises (celles qui ne tuent pas le système), d'autre part elle lui permettra de fonctionner sans se désintégrer au sein de son environnement. Nous nommons ce processus le couplage structurel." 735 Cette notion souligne la dimension historique de la structure de tout système vivant. L'autopoïèse engendre donc une unité, un système vivant, qui à son tour spécifie les interactions de ce système vivant avec son environnement.

La notion d'autopoïèse est complétée par un autre concept plus général, celui de la "clôture opérationnelle". "Nous dirons d'un système … (qu'il) est opérationnellement clos si son organisation est caractérisée par des processus: (a) dépendant récursivement les uns des autres pour la génération et la réalisation des processus eux-mêmes, et (b) constituant le système comme une unité reconnaissable dans l'espace (le domaine) où les processus existent." 736 La clôture opérationnelle engendre une unité qui forme un des composants du système vivant.

L'autopoïèse et la clôture opérationnelle décrivent des systèmes sans entrées ni sorties ("input" et "output" dans le vocabulaire dérivé de l'informatique), d'où l'abandon de la notion de "stimulus" venue du comportementalisme au profit de la notion de "perturbation" se définissant à partir des transformations internes du système. Ce modèle se distingue également de la notion de "feed-back" qui suppose une source de référence externe identifiée.

En résumé, l'autopoïèse est la forme d'organisation d'un réseau dans lequel chaque composant doit participer à la production ou à la transformation des autres. Certains de ces composants forment une sorte de frontière, ou clôture opérationnelle, qui circonscrit le réseau de transformations tout en continuant de participer à son auto-production. Ce réseau peut être considéré comme à la fois fermé et ouvert. Comme chaque composant est produit par les autres composants du même réseau, le système entier est clos sur le plan de l'organisation. Cependant, il reste ouvert par rapport à l'environnement, assurant la circulation d'énergie et de matière nécessaires au maintien de son organisation et à la régénération continuelle de sa structure.

Avec des notions comme l'enaction et l'autopoïèse, F.J. Varela sort de la modélisation cognitiviste assimilant l'esprit au dispositif expérimental qui l'étudie, un esprit réduit à une sorte de dispositif expérimental objectivant qui scrute une réalité interne ou externe. Selon lui l'esprit n'est pas une machine à extraire et gérer de l'information, mais la propriété par laquelle un système autonome crée des significations. En se référant à un abord plus phénoménologique de l'expérience humaine, il cherche à penser un esprit co-déterminé par son environnement et non pas un esprit se développant à partir des modalités complexes de traitement d'informations venant d'un environnement externe prédéfini et indépendant des individus. Son étude de l'esprit s'articule directement sur une élucidation de la relation entre le sujet et l'environnement. Le système autopoïétique ne repose pas sur un système de représentations du monde extérieur, mais sur un système de compensation des perturbations que ce monde extérieur induit dans le système autoïétique. Les modes de compensation peuvent être considérés comme des formes représentatives des agents perturbateurs. Mais le lien entre perturbation et compensation n'est pas nécessairement spécifique. La représentation ne représente rien pour le sujet tant qu'elle n'est pas "enactée", tant qu'elle n'est pas prise dans un couplage structurel qui la fait émerger. L'étymologie du terme "informer" est porteuse de cette position ambiguë, informer vient d'expressions latines signifiant "donner forme", "former à l'intérieur", pour F.J. Varela, le cerveau ne recueille pas les informations, mais il les forme et les impose à l'environnement.

Ce modèle d'auto-organisation pourrait être qualifié de "narcissique" par l'approche psychanalytique, il tranche avec les modèles d'auto-organisation ouverts sur l'environnement, sur "l'objet". Ce changement de perspective change également la nature de la représentation. Dans le premier cas, la représentation est une forme d'auto-information sur les états internes du système dans ses échanges avec l'environnement, une sorte d'information "subjective". Dans le deuxième cas, la représentation est une information sur l'état de l'environnement appréhendé par le système, une sorte d'information "objective".

Notes
726.

VARELA F.J., 1988, Invitation aux sciences cognitives, Éd. du Seuil, 1989.

727.

VARELA F.J., 1988, op. cit., p. 37.

728.

VARELA F.J., 1988, op. cit., p. 38.

729.

VARELA F.J., 1988, op. cit., p. 77.

730.

VARELA F.J., 1988, op. cit., p. 99.

731.

VARELA F.J., 1988, op. cit., p. 91.

732.

Enacter reproduit le néologisme anglais "enaction", F.J. Varela utilise le terme de "faire-émerger" en lui donnant le même sens mais intégrant la référence à la tradition phénoménologique dont il est issu.

733.

VARELA F.J., 1988, op. cit., p. 113.

734.

VARELA F.J., 1988, Autonomie et connaissance, Éd. du Seuil, 1989, p. 45.

735.

VARELA F.J., 1988, Autonomie et connaissance, Éd. du Seuil, 1989, p. 64.

736.

VARELA F.J., 1988, Autonomie et connaissance, Éd. du Seuil, 1989, p. 86.