Une branche fondamentale

Introduction - paradoxe de Galilée

À la fin du XIXe siècle, un mathématicien, Georg Cantor, posa les bases de la théorie des ensembles. L'étude des ensembles en mathématique est donc relativement récente. Le développement de cette théorie a permis d'apporter certaines réponses à des questions mathématiques délicates sur l'infini.

Le problème se pose avec un énoncé qui semble très intuitif (considéré même comme un axiome) qui est le suivant: «le tout est plus grand que la partie». Cet axiome a été énoncé au départ par Euclide et semblait tellement évident que certains mathématiciens comme Leibniz ne pouvaient même pas imaginer qu'il soit mis en défaut. Pourtant, cet axiome mène à un paradoxe: le paradoxe de Galilée.

Ce paradoxe est simple à énoncer: «un segment de 2 cm ne contient pas plus de points qu'un segment de 1 cm». Cette fois ci on a vraiment quelque chose de contre-intuitif !! Mais si on arrive à démontrer cette assertion, on aura une contradiction avec l'axiome vu précédemment ce qui l'invaliderai. Voyons si c'est possible.

Intuitivement, on se dit que le segment de 2 cm contient deux fois plus de points que le segment de 1 cm (donc il y a plus de point). Mais le nombre de points est infini et il faut se méfier de l'intuition. Dans ce cas, comment comparer le nombre de points? On va essayer de préciser ce que l'on entend par «même nombre de points» et surtout, comment on fait pour le savoir.

C'est très simple, même intuitif. Si on a deux groupes de personnes par exemple (un groupe «A» et un groupe «B»), et que l'on veut savoir si il y a autant de personnes dans chaque groupe, un moyen possible est de ranger ces personnes par groupes de deux. Dans chacun de ces groupes de deux, on a une personne du groupe «A» et une personne du groupe «B». Si cela est possible sans qu'il reste de personne en dehors de ce groupement, alors il y a autant de personnes dans le groupe «A» que dans le groupe «B».

Appliquons cela pour les points des segments. Pour y voir plus clair, on va placer les deux segments de telle sorte qu'ils aient une extrémité en commun (que nous appeler O) et que les segment soient superposées. Si on choisit un point quelconque sur le petit segment, il est a une certaine distance de O (distance comprise entre zéro et un centimètre). À ce point on va faire correspondre un point deux fois plus éloigné de O, on aura que cet autre point est sur le grand segment. On peut faire correspondre à chaque point sur le petit segment un point sur le grand segment et inversement. On a donc réussi à faire ce groupement par deux et la conclusion est là: il y a autant de points sur le grand que sur le petit segment!

De ce genre de considérations va naître la théorie des ensembles. Parler d'ensemble infini mène parfois à des paradoxes si on n'y prend pas garde. Cela ne veut pas dire que ces ensembles n'existent pas (dans le sens qu'ils seraient impossibles à définir mathématiquement) mais qu'il faudra faire bien attention.

La crise des fondements

Au départ, la théorie des ensembles (qualifiée aujourd'hui souvent de «naïve») a été développée principalement par Cantor. Cette théorie a vite montré ses lacunes car on a découvert des paradoxes dans la théorie ce qui a provoqué une sorte de crise des mathématiques: la crise des fondements.

Donnons en exemple un paradoxe nommé "Paradoxe de Russell".

Ce paradoxe peut s'énoncer assez simplement. On considère l'ensemble des ensembles n'appartenant pas à eux-mêmes. Cet ensemble est-il élément de lui même ou pas?

1. Si on répond que oui, alors par définition, il n'est pas élément de lui même...
2. Si on répond que non, alors par définition, il est cette fois ci élément de lui même.

On a là une contradiction apparemment incontournable, ce qui a intrigué beaucoup de mathématiciens.

Il existe une formulation plus simple de ce paradoxe, une illustration attribué à Russell en personne. Il s'agit du paradoxe du barbier:

C'est un barbier à qui l'on demande de raser tous les hommes du village qui ne se rasent pas eux-mêmes, et seulement ceux-là. Le problème est le suivant: se rase-t-il lui-même ou pas?

1. Si il se rase lui-même, il ne doit pas se raser...
2. Si il ne se rase pas lui-même, alors il doit se raser!

Cette illustration simple du paradoxe de Russell a l'avantage d'être facile à résoudre: on voit que la règle imposée au barbier est absurde, et qu'un barbier capable de respecter cette règle n'existe pas. Tout comme il est absurde de définir un ensemble comme étant l'ensemble des ensembles n'appartenant pas à eux-mêmes.

Pour éviter ce genre de paradoxe, il faut donc axiomatiser la théorie des ensembles. En effet, nous avons vu que toute théorie doit être basée sur une axiomatique, et que cette théorie doit être consistante. Si on tombe sur des paradoxes, la théorie n'est pas consistante, et il faut changer un ou plusieurs axiomes.

C'est le travail qui a été fait par les mathématiciens sur la théorie des ensembles. On obtient alors l'axiomatisation de Zermelo-Fraenkel, et on obtient une théorie consistante. On ajoute à cette axiomatique un axiome supplémentaire: l'axiome du choix, et on parle donc souvent de l'axiomatique ZFC.

Quelques remarques sur les axiomes ZFC

On a donc des objets mathématiques appelés ensembles qui sont simplement définis comme étant des groupements d'objets. Attention, il s'agit d'une définition «naïve», la notion d'ensemble est défini correctement par les axiomes ZFC.

Les axiomes de la théorie des ensembles sont en fait assez simples à comprendre et la seule difficulté c'est peut être de comprendre l'axiome écrit de manière formelle. Il faut préciser en effet que les notions vues dans le cours de logique sont supposées connues, car les axiomes sont écrit dans le langage de la logique des prédicats égalitaire, avec juste le symbole $\in$ en plus (plus d'autre que l'on peut définir, c'est à dire des symboles non primitifs, comme $\subset$ par exemple). On peut donner un sens intuitif à «$\in$»: si on écrit $A\in B$ par exemple, on dit que $A$ est un élément de $B$.

On peut encore préciser qu'en théorie des ensembles, on ne considère que des ensembles, par exemple, tout les éléments d'un ensemble sont des ensembles (et on verra même que l'on peut considérer les nombres $0,1,2,3,...$ comme des ensembles!).

Une dernière remarque: vous verrez peut être des cours de théorie des ensembles où il y a plus d'axiomes, mais dans ce cas certains axiomes peuvent se déduire des autres. Ici, j'ai choisi de ne mettre que des axiomes indépendants.