Le raisonnement mathématique se caractérise par un série d'opérations spécifiques:
- la définition consiste à substituer un terme plus simple à une expression construite ;
- la démonstration possède a) une valeur psychologique (faire admettre un énoncé) et b) logique (relier des énoncés en en dégageant les connexions objectives).
Puisqu'il n'est possible ni de tout définir, ni de tout démontrer, le mathématicien doit poser:
- des axiomes, des propositions évidentes qu'il serait absurde de nier;
- des postulats, des propositions dont le contraire est concevable, mais qui ont un rôle dans le système démonstratif.
N. B. l'évidence est toujours supecte: certains principes qui semblent évidents peuvent se révéler faux dans certains contexte. Robert Blanché (L'axiomatique) donne l'exemple de la proposition "le tout est plus grand que la partie" qui est faux en ce qui concerne les ensembles infinis.
Une axiomatique désigne alors
"un système où sont totalement explicités les termes non définis et les propriétés non démontrées, ces dernières étant posées comme de simples hypothèses à partir desquelles toutes les propositions du système peuvent se construire selon des règles logiques parfaitement et expressément fixées" (L'axiomatique, ch. I).
De tels raisonnements mobilisent aussi bien l'abstraction que l'intuition: par ex. la proposition d'Euclide selon laquelle le tracé de deux cercles à partir de deux points A et B forment un triangle équilatéral ABM - où M est le point d'intersection entre les deux cercles - n'est pas démontrable sans intuition spatiale.
En ce sens, les mathématiques se développent vers une abstraction toujours grandissante, mais elles ne peuvent s'émanciper de l'intuition (il faut au moins intuitionner les modèles symboliques qui représentent les réalités). La dualité de l'abstrait et du concret est ainsi relative: il y a toujours une matière concrète de la réflexion mathématique, même si cette matière peut être abstraite par rapport à une autre réalité.
L'activité mathématique consiste dans
l'établissement ou l'aperception d'une correspondance analogue entre le schéma symbolique [qui donne une règle] et le modèle concret [qui donne la direction de la réflexion mathématique : l'expérience concrète]
Elle mobilise une imagination formelle, qui permet de trouver de nouvelles relations entre l'abstrait et le concret.
Ces réflexions invitent à laisser une place, dans la découverte mathématique, à une forme d'inventivité. Henri Poincaré, dans sa conférence sur "L'invention mathématique" (1908) a en particulier insister sur :
- l'importance des analogies entre domaines à priori sans relation;
- l'importance d'un travail inconscient, qui trouve des solutions inédites;
- mais ce travail inconscient "n'est fécond que s’il est d’une part précédé, et d’autre part suivi d’une période de travail conscient" qui suscite et vérifie les hypothèses.
