II.1.Modèles théoriques de traitement de séquences discrètes

Deux types de représentations du contexte peuvent être envisagés pour les modèles théoriques :

• De façon externe au modèle : Une sorte de "spatialisation" du temps est effectuée (Time-Delay Neural Networks ; TDNN). Les séquences temporelles d’événements sont transformées en séquences spatiales. Seulement, il n'est pas clair que les systèmes biologiques puissent utiliser de tels registres.
• De façon interne au modèle : Les évènements passés sont encodés à l’aide de connexions supplémentaires (connexions récurrentes).

Les modèles biologiques intègrent dans leur architecture des connexions récurrentes afin de traiter le contexte de manière interne au modèle.