2.2. La conception formaliste des mathématiques

La seconde conception présentée ici, en raison notamment des liens qui s’opéreront quelques décennies plus tard avec l’enseignement des mathématiques, est apparue à la fin du 19ème siècle. Elle porte le nom de formalisme. Elle se caractérise par l’usage de formules, par l’assemblage de symboles dénués de toute signification propre et se retrouve à partir de 1938 chez bon nombre de Bourbakistes dont les plus engagés dans ce courant mettaient un point d’honneur à utiliser le moins de figures possible en géométrie. Pour Bourbaki, il était hors de question d’associer une image à un concept. Thom ⁴² , dont une partie des travaux s’inscrivait dans ce courant, s’était d’ailleurs élevé contre ce formalisme. Le mathématicien Lichnerowitz, membre du groupe Bourbaki, interrogé par Nimier (1989), décrit ce qui lui semble caractériser d’une manière générale l’activité des mathématiciens ; il résume ainsi cette seconde conception des mathématiques : vous vous posez une question, vous vous préoccupez d’un problème … Vous commencez par travailler un peu de manière apparente à une table avec un bout de papier, pas très longtemps. Le but en fait, le plus souvent le problème, est un prétexte. Le but est de faire à ce propos une méthode ou de créer des êtres mathématiques qui, dans le réseau de la connaissance mathématique, irradient.

De même, Joyal (in Nimier, 1989), considéré comme l’un des plus grands mathématiciens du Québec, affiche clairement sa préférence pour les mathématiques théoriques, affirmant qu’il serait moins créateur s’il faisait d’autres types de problèmes.

Pour les formalistes, un problème mathématique porte sur des objets et des propriétés nommés élémentaires par Hilbert. Par exemple, l’ensemble des entiers naturels constitue un objet élémentaire et les énoncés de la forme x₁ ... x_n, f(x₁, ..., x_n) = 0, où f est une fonction récursive, c'est-à-dire calculable, sont un exemple de propriété élémentaire. Selon Hilbert, le problème doit être résolu par une démonstration à l’aide de règles formelles fixées à l’avance et permettant de construire certains assemblages de symboles. Cependant il convient de distinguer :

(i) la conception de Hilbert orientée vers l’étude des structures, au sens de systèmes formels ⁴³ mettant en commun des résultats en vue de résoudre une famille de questions bien déterminées.

(ii) la conception née dans les années quarante prônant l’idée du développement de structures formelles pour elles-mêmes. Cette conception a notamment été marquée par la publication des Éléments de mathématique (Bourbaki ⁴⁴ , 1939-1998) qui séparaient les théorèmes de leurs applications.

La référence au formalisme nous conduit à établir un lien étroit avec les problèmes, puisque Hilbert, l’un de ses fondateurs, est aussi le créateur des vingt-trois problèmes présentés lors du Congrès international de mathématiques, en 1900, à Paris. Plusieurs de ces problèmes ne sont d’ailleurs pas entièrement résolus en ce début du 21ème siècle.

N°2 - Peut-on prouver la consistance de l'arithmétique ?  En d'autres termes, peut-on démontrer que les axiomes de l'arithmétique ne sont pas contradictoires et, subséquemment, sont-ils indépendants ?

N°6 - Peut-on axiomatiser la physique ? 

N°10 - Existe-t-il un algorithme universel permettant de conclure à l'existence de solutions d'une équation diophantienne ?

N°20 - Étudier la solution générale des problèmes de valeur limite (généralisation du problème de Dirichlet).

N°23 - Développer une méthode générale de résolution dans le calcul des variations.

Hilbert (1900)