Les mathématiques sont l'étude des systèmes d'objets élémentaires, dont
l'existence est abstraite (indépendante du monde physique), et dont
chaque constituant (élément, relation) a pour seule nature le fait
d'être exact, sans ambiguïté : deux objets sont égaux ou
différents,
reliés ou non,
une opération donne un résultat exactement, etc.
La logique mathématique est l'étude du fondement des mathématiques,
description mathématique du monde des mathématiques lui-même.
Les mathématiques se divisent en théories, cadres implicites ou
explicites de tout travail mathématique. Chaque théorie est l'étude des
systèmes (ou «mondes»...) de forme décrite d'une manière précise
(mathématique) appelée son fondement : listes de types de
constituants, structures qui les relient, et formules de propriétés à
satisfaire appelées axiomes.
Il y a aussi une hiérarchie entre théories, certaines pouvant en fonder
d'autres. Notamment, les fondements de plusieurs théories peuvent avoir
une partie commune formant une théorie plus simple, dont les
développements sont réapplicables à toutes.
Les mathématiques, et chaque théorie, peuvent être vues de manière soit
réaliste, soit formaliste.
Le point de vue réaliste (aussi appelé
idéaliste ou platonicien)
s'attache aux mondes ou systèmes étudiés, vus comme réalités
préexistantes dont l'étude serait une exploration (Platon l'appelait un
ressouvenir). C'est l'approche de l'intuition qui flaire l'ordre global
des choses.
Le point de vue formaliste est l'approche
syntaxique et rigoureuse d'une théorie, partant de son fondement
(expression formelle), et cheminant conformément aux règles.
D'abord et à chaque instant, le fondement
des mathématiques, ou d'une théorie, est ce qu'on en connait ou qu'on a
choisi d'accepter, d'après quoi on peut avancer. On avance en
choisissant des développements possibles, nouvelles notions et
connaissances qui résultent du fondement précédent et s'y ajoutent pour
former le fondement suivant. Ce qui n'est pas développé à un instant
pourra toujours l'être plus tard car le fondement qui pouvait
l'engendrer subsiste. Dès lors les développements sont au moins
l'exploration d'une réalité définie comme totalité des développements
possibles.
Généralement, un travail fondamental est
de développer, à partir d'un fondement initial simple, un fondement
plus complet facilitant le mieux d'autres développements intéressants.
Bien sûr, la pensée humaine ne peut pas opérer de manière totalement
réaliste, mais seulement
effectuer des raisonnements traduisibles en développement formel à
partir d'un fondement (protégeant des erreurs de l'intuition).
De plus, la réalité du monde mathématique dépasse toute conception
réaliste qu'on peut en avoir: toute invocation
d'une réalité doit être précisée par une théorie, mais aucune théorie
ne pourra épuiser la réalité mathématique capable de s'élargir au-delà
de toute totalité un instant supposée. Heureusement, certaines théories
relativement simples peuvent modéliser des réalités d'étendue
largement suffisante pour la plupart des besoins.
Mais le formalisme n'est pas non plus
absolu, chaque
formalisme n'ayant de clarté et d'élémentarité que relative: il a dû
être choisi, défini et motivé plus ou moins arbitrairement de
l'extérieur, quelque part dans la réalité mathématique, intuitivement
ou par un formalisme préexistant. Une vision intuitive d'un problème
peut sembler plus claire qu'un raisonnement rigoureux. En pratique, on
utilise des preuves semi-formelles, juste assez rigoureuses pour une
intuition qui «sent» qu'une formalisation totale serait possible, sans
l'avoir explicitée complètement.
Malgré l'élémentarité des objets mathématiques, le fondement des
mathématiques (avec recherche du fondement de chaque fondement trouvé,
à l'inverse d'un travail mathématique ordinaire qui admet son
fondement), s'avère assez complexe (quoique bien moins qu'une théorie
du tout de la physique dont la complexité s'annonce monstrueuse): au
lieu d'un point de départ, il ressemble à une vaste dynamique quasiment
bouclée sur elle-même, formée d'étapes plus ou moins difficiles.
Cette situation ressemble à celle des dictionnaires définissant chaque
mot par d'autres mots, ou de cette autre science des systèmes finis
qu'est l'informatique. On peut en effet simplement utiliser les
ordinateurs, sachant ce qu'on fait sans savoir pourquoi cela
fonctionne. Leur fonctionnement se fonde sur des logiciels qui furent
rédigés dans un certain langage puis compilés par des logiciels, ainsi
que sur le matériel et l'architecture du processeur dont la conception
et la fabrication furent assistées par
ordinateur. Et c'est nettement mieux ainsi qu'à la naissance de cette
discipline.
Ce cycle des fondements des
mathématiques, est véritablement fondateur, ses parties étant riches de
notions utiles à différentes branches des mathématiques. Il est dominé
par deux théories:
La théorie des ensembles étudie
les objets mathématiques, des plus simples aux plus complexes comme les
systèmes infinis (dans un langage fini). Mais il y a une diversité
(potentiellement infinie) de théories des ensembles possibles (non
équivalentes).
La théorie des modèles est la
théorie des théories avec leur formalisme (les règles du langage
mathématique: structure des formules comme systèmes de symboles, règles
de démonstration), et des systèmes (mondes),
aussi appelés modèles, pouvant constituer leur objet d'étude
(leur
signification).
Elle est essentiellement unique, donnant une signification claire et
définitive
aux concepts de théorie et de théorème de chaque théorie (et mériterait
d'être introduite au niveau licence, en laissant intuitives les notions
de formules et de démonstrations).
Chacune est le cadre convenable pour
formaliser l'autre:
toute théorie des ensembles se formalise naturellement comme théorie
axiomatique décrite par la théorie des modèles; laquelle s'obtient par
développement de la théorie des ensembles (construisant théories et
modèles comme objets particuliers, ce qui est bien plus raisonnable que
d'axiomatiser la théorie des modèles directement). Mais ces
formalisations nécessiteront un long travail pour être complétées.
Les logiciens ont conçu et adopté une
théorie axiomatique des ensembles dite de Zermelo-Fraenkel (ZF, ou ZFC
avec axiome du choix) convenant à leur besoin de théorie puissante dans
un cycle fondateur élargi, permettant de démontrer beaucoup d'énoncés
difficiles ou leur indémontrabilité.
Les mathématiques démarrent en introduisant certaines notions simples
(dans le cycle fondateur), qui puissent sembler ne pas s'appuyer sur
d'autres notions. Il est notamment naturel de démarrer par une théorie
des ensembles dite naïve car non totalement formalisée
axiomatiquement.
Les théories naïves des ensembles sont habituellement présentées comme
forme vulgarisée ou implicite de ZFC, aux axiomes supposés nécessaires
ou évidents. Mais le sens et l'usage des axiomes viennent d'autres
évidences (la théorie des modèles), à quoi ils visent à ajouter des
informations supplémentaires. Or ZFC n'est pas une reférence idéale
pour une théorie naïve. Ses axiomes sont moins naturels qu'ils peuvent
sembler; leur pleine justification est plus subtile qu'une simple
intuituion historiquement sélectionnée pour la cohérence et la
commodité du système qui en résulte.
Les multiples outils (notions et théorèmes) nécessaires à la pratique
des mathématiques n'en résultent que par des développements complexes.
Il suppose aussi que tout objet est un ensemble, et donc un ensemble
d'ensembles indéfiniment, construits sur l'ensemble vide; mais en
pratique, beaucoup d'objets ne s'utilisent que comme purs éléments. Le
rôle de ces éléments pouvant être joué par des ensembles, cet usage n'a
pas besoin d'être formalisé, mais constitue une dissemblance entre la
«théorie» et la pratique des mathématiques.