La présence de coûts de transaction permet de rationaliser l’existence de la « firme bancaire » comme celle de toute autre firme ordinaire. On doit cette démarche à Coase (1937), pionnier de l’approche transactionnelle, qui, en reprenant l’interrogation posée par Robertson (1923) : « Pourquoi émergent dans l’océan de la coopération inconsciente des îlots de pouvoirs conscients ? », distingue deux modes alternatifs de coordination économique et d’allocation des ressources : le marché (coordonné par un système de prix) et la firme (coordonnée par un système administratif et hiérarchisé).
Cherchant à percer le mystère de « la nature de la firme », Coase (1937) relève qu’il : « […] existe un coût de fonctionnement du marché, et qu’en créant une organisation (firme) et en permettant à une autorité (un entrepreneur) de répartir les ressources, certains coûts peuvent être évités » (traduction française, p.141). Il suggère alors la nécessité d’introduire explicitement des coûts de transaction positifs dans l’analyse économique, de façon à pouvoir étudier le monde réel.
En effet, en l’absence de ces coûts, le marché serait parfait et il n’y aurait pas de base économique pour justifier l’existence de la firme. Cette nouvelle interprétation marque un tournant dans l’analyse économique car elle reconnaît à la firme un rôle essentiel dans le processus d’affectation des ressources au sein de l’économie, rôle auparavant ignoré par la théorie néo-classique qui la réduisait à une « boite noire » (firme point) transformant mécaniquement des inputs en outputs (firme automate). Il reviendra à Williamson de poursuivre dans cette voie en établissant les bases de la théorie des coûts de transaction 75 (approche néo-institutionnelle).
L’allocation des ressources par le marché implique donc des coûts de transaction nécessaires au transfert des droits de propriétés. Lorsque certains opérateurs économiques rationnels (entrepreneurs) prennent conscience de cette situation, ils cherchent à réduire ces coûts en les internalisant. Cela va donner naissance à des organisations qui vont prendre la forme de firmes.
Le procédé consiste alors à remplacer le mécanisme bilatéral (décentralisé) du contrat marchand par un système multilatéral (centralisé) de relations (Coase, 1937) ou encore par « un nœud de traités 76 » qui prend à sa charge, l’ensemble des fonctions précédemment assumées par le mécanisme des prix, mais de manière moins coûteuse et plus efficace (Williamson, 1987, 1990, 1991).
Autrement dit, la firme substitue la coordination administrative à la coordination marchande du marché (Chandler, 1990). Elle aura, alors, une taille croissante jusqu’à ce que : « les coûts d’organisation de transactions supplémentaires en son sein deviennent égaux aux coûts de réalisation de cette même transaction par le biais d’un échange sur le marché. » (Coase, 1937, p.144). Le principe du marginalisme va ainsi tracer la frontière entre marché et firme : les coordinations trop coûteuses dans la firme pourront être à nouveau organisées par le marché.
L’existence de la firme étant subordonnée à celle des coûts de transaction, il semble nécessaire de mieux préciser la nature de ces derniers (1.1.1), leur origine (1.1.2) et leurs déterminants (1.1.3). Après cela, nous verrons comment la théorie bancaire s’est appropriée le concept de coûts de transaction (1.1.4).
Williamson (1998) parle désormais « d’économie des coûts de transaction » qu’il définit comme une approche institutionnelle comparative qui propose une étude de l’organisation économique où la transaction est l’unité de base de l’analyse.
Cette conception diffère de la conception originale de Coase (1937) en atténuant l’opposition entre firme et marché. En effet, Williamson (1990) met la lumière sur l’existence de formes intermédiaires comme les structures bilatérales (alliant, sous-traitance, partenariat, etc.), ce qui le conduit à l’analyse des types de contrats et à la construction d’une théorie générale du choix des « arrangements institutionnels ». (Coriat et Weinstein, 1995, p.53).