3.2.1. Arguments pharmacologique : rôle de la sérotonine dans le trouble obsessionnel-compulsif et dans les troubles impulsifs

L’hypothèse d’un spectre de syndromes apparentés au trouble obsessionnel-compulsif est supportée par les données de la neuropharmacologie au travers de l’implication du système de neurotransmission sérotoninergique.

La sérotonine influence un large champ de fonctions comportementales telles que les conduites d’appétence alimentaire, les conduites sexuelles, l’activité locomotrice, les comportements impulsifs et agressifs, le sommeil, la réactivité sensori-motrice et la sensibilité à la douleur ainsi que les comportements moteurs et l’humeur (Lucki, 1998). La sérotonine aurait un rôle plus général dans l’inhibition comportementale (Soubrié, 1986) ainsi qu’un rôle inhibiteur au sein des processus de traitement de l’information (Spoont, 1992). Une diminution de l’activité sérotoninergique est associée, par exemple, à un accroissement de l’activité locomotrice et à une potentialisation de la réponse de l’organisme aux stimuli activateurs. Inversement, une augmentation de l’activité sérotoninergique conduit à une inhibition de cette même activité locomotrice et à une réduction de la réponse de l’organisme aux stimuli activateurs (Spoont, 1992). Les sites de liaison sur lesquels elle agit sont aussi bien situés dans le cortex cérébral que dans les noyaux de la base et dans le tronc cérébral.

De nombreuses études suggèrent un dysfonctionnement de la neurotransmission sérotoninergique dans les troubles impulsifs et compulsifs. Les troubles caractérisés par la présence de symptômes obsessionnels et compulsifs, en particulier le TOC, seraient associés à un hyperfonctionnement sérotoninergique alors que les troubles impulsifs seraient associés au contraire à un hypofonctionnement sérotoninergique (Coccaro, 1992 ; Olivier, Mos, van Oorschot et Hen, 1995 ; Hollander et Cohen, 1996). Il a été ainsi démontré que le trouble obsessionnel-compulsif ainsi que l’anorexie nerveuse étaient corrélés avec une concentration accrue de 5-hydroxyindolacétique (5-HIAA), le métabolite principal de la sérotonine, dans le liquide céphalo-rachidien (LCR) (Hollander et Cohen, 1996). A l’inverse, la relation entre un taux bas de 5-HIAA dans le LCR et comportements impulsifs et agressifs est une donnée établie en psychiatrie biologique (Coccaro, Kavoussi, Cooper et Hauger, 1997 ; Staner et Mendlewicz, 1998). Une diminution de la concentration de ce métabolite de la sérotonine a été observée chez des sujets présentant des comportements impulsifs et agressifs (sujets présentant un trouble de la personnalité et des scores élevés à des échelles d’agressivité, d’impulsivité, d’hostilité, d’irritabilité ou de psychopathie, chez des sujets délinquants présentant des passages à l’acte impulsifs et hétéro-agressifs) et suicidaires. Plusieurs études ont également étudié les effets de la déplétion de tryptophane, l’un des acides aminés précurseurs de la sérotonine, sur la désinhibition des comportements impulsifs et agressifs (Pihl, Young, Harden, Plotnick, Chamberlain et Ervin, 1995 ; Moeller, Dougherty, Swann, Collins, Davis et Cherek, 1996 ; Le Marquand et coll., 1998). Enfin, on observe une augmentation de la sévérité des symptômes obsessionnels et compulsifs ainsi que dépressifs en réponse à des agonistes de la sérotonine (tels que le m-chlorophenylpiperazine, m-CPP) dans le trouble obsesionnel-compulsif, les troubles des conduites alimentaires et le syndrome de Gilles de la Tourette (Hollander et Cohen, 1996). Leckman, Goodman, Riddle, Hardin et Anderson (1990) ont cependant rapporté deux cas de sujets présentant un trouble obsessionnel-compulsif dont les taux de sérotonine dans le LCR étaient particulièrement bas. Les deux sujets présentaient des obsessions sévères à type de phobie d’impulsions avec des pensées et des images intrusives agressives et de violence. Un des deux sujets présentait par ailleurs un syndrome de Gilles de la Tourette comorbide.

Au niveau des indices pharmacologiques, il a été démontré une réponse positive des symptômes obsessionnels-compulsifs aux inhibiteurs de recapture de la sérotonine (IRSs) dans 60 % des cas (Benkelfat, Murphy, Zohar, Hill, Grover et Insel, 1989 ; Barr, Goodman, Price, McDougle and Charney, 1992 ; Hollander, 1998 ; Baumgarten et Grozdanovic, 1998 ; Blier et de Montigny, 1998). Dans le cas où le trouble est particulièrement sévère, on peut, à l’inverse, observer une exacerbation des compulsions (Hollander et Cohen, 1996). Cet effet positif des IRSs est également démontré sur les troubles se caractérisant à la fois par un trouble du contrôle des impulsions et des comportements compulsifs tels que la trichotillomanie ((Hollander et Cohen, 1996). Enfin, une seule étude à notre connaissance indique une amélioration comportementale et des troubles de l’humeur chez des patients présentant un trouble de personnalité caractérisée par une importante symptomatologie de type impulsive immédiatement après administration d’IRSs (Coccaro, Siever, Owen et Davis, 1990). Hollander et Cohen (1996) suggèrent qu’une administration aiguë d’IRSs peut entraîner une aggravation des symptômes compulsifs et, au contraire, une amélioration des conduites impulsives. Une administration chronique de ce type de traitement entraînerait, inversement, une amélioration des compulsions et une aggravation des comportements impulsifs.

En conclusion, la sérotonine est supposée intervenir dans un système qui médiatise les processus d’inhibition comportementale (Stein, Trestman, Mitropoulou, Coccaro, Hollander et Siever, 1996). L’accroissement de l’activité sérotoninergique aurait un effet inhibiteur et une diminution de cette activité, au contraire un effet facilitateur (Spoont, 1992). L’impulsivité serait ainsi associée à un hypofonctionnement sérotoninergique alors que la compulsivité serait associée à une réponse exacerbée des récepteurs sérotoninergiques.