Notions de logique et étude du langage mathématique

 Langage mathématique, discours mathématique, expressions mathématiques 

Les linguistes distinguent la langue, qui est un système de signes qui permet la communication, du langage, qui est la mise en activité de la langue, par un sujet, à des fins de communication (voir par exemple Rebière, 2013, p. 221). En logique mathématique, 109 3.1 un langage est un ensemble de signes, avec lesquels sont construites les formules (voir la définition d’une formule en annexe page 446). C’est dans le sens des linguistes qu’il faut entendre langage dans l’expression langage des mathématiciens, mais c’est dans le sens des logiciens qu’il faut entendre langage dans l’expression langage mathématique, que je vais maintenant décrire. Le langage mathématique est une partie de ce que j’appellerai discours mathématique, qui est l’ensemble des phrases, et de certains éléments de ces phrases (ceux à qui l’on peut donner un sens même si on les isole du reste de la phrase), prononcés, écrits, pensés dans un contexte où une ou des personnes font des mathématiques. Parmi elles, certaines sont des phrases qui disent des faits sur les objets mathématiques. Ce sont ces phrases, et certains de leurs éléments, qui constituent le langage mathématique. Elles sont des propositions au sens déjà donné par Aristote de phrases dans lesquelles réside le vrai ou le faux. Par exemple, la phrase « Tous les nombres réels ont un carré positif » fait partie du langage mathématique, c’est une proposition. Dans la proposition équivalente « pour tout réel x, x 2 > 0 », la formalisation dans le langage des prédicats permet d’isoler les éléments à partir desquels la proposition est construite : le quantificateur universel portant sur la variable x, et la proposition x 2 > 0, à l’intérieur de laquelle nous pouvons isoler des éléments qui désignent des objets mathématiques : x 2 et 0. Finalement, le langage mathématique est constitué d’expressions mathématiques qui peuvent être vues comme : des assemblages de signes qui obéissent à certaines règles et à certaines conventions, lesquelles peuvent être soit très générales (voire universellement admises) soit particulières à un contexte donné (un ouvrage, un chapitre, un paragraphe. . . ) (Cori, s. d., p. 3) Voici quelques exemples d’expressions mathématiques : (a) 2x + y = −3. (b) L’ensemble des multiples de 7. (c) {x | f(x) = a}. (d) x 7→ ∫ x 1 tdt. (e) a est solution de l’équation x 2 − xy = 0 d’inconnue réelle x. (f) La suite (un)n∈N définie, pour tout entier naturel n, par un = 1 n + 1 (g) Le cercle de diamètre [AB] est l’ensemble des points M du plan vérifiant −−→AM.−−→BM = 0. On peut classer les expressions mathématiques en deux grandes catégories : – les expressions qui servent à désigner des objets mathématiques, que nous appellerons des NOMS (qui correspondent aux termes du langage des prédicats : voir en annexe page 449) ; – les expressions qui disent des faits concernant les objets mathématiques ; nous les appellerons des PROPOSITIONS (qui correspondent aux formules du langage des prédicats, voir en annexe page 449). Une proposition est susceptible d’être vraie ou fausse, c’està-dire que cela a un sens de se demander si elle est vraie ou fausse, même si nous 110 3.1 ne sommes pas forcément en mesure de répondre à cette question. Nous reviendrons là-dessus dans la section suivante, qui concerne les variables. Nous dirons que deux expressions mathématiques sont SYNONYMES si : – ou bien ce sont deux noms et ces deux noms désignent le même objet quelles que soient les circonstances ; – ou bien ce sont deux propositions et ces deux propositions sont en même temps vraies et en même temps fausses, quelles que soient les circonstances. Dans le cas des propositions, on dit souvent ÉQUIVALENTES au lieu de synonymes. Je préciserai plus loin ce que signifie « quelles que soient les circonstances » (voir page 113). Certains assemblages de signes ne sont pas des expressions mathématiques. Il en va ainsi des assemblages qui sont « mal formés », au sens où ils ne respectent pas la syntaxe des signes utilisés, par exemple : « cos = x 2 », « {x ∈ R ». D’autres assemblages sont bien formés, mais ne sont pas des expressions mathématiques. Par exemple, « nous avons donc montré que le carré d’un nombre réel est toujours positif » n’est pas une phrase du langage mathématique car elle ne dit pas un fait sur des objets mathématiques, mais un fait sur l’activité d’êtres humains. C’est une phrase du discours mathématique, que nous pourrions rencontrer dans un texte de démonstration. Les phrases exprimant une inférence, par exemple (∗) : « n est pair donc n 2 est pair », ne font pas non plus partie du langage mathématique. La logique mathématique formalise de telles phrases, mais ce ne sont pas des propositions. Cela n’a effectivement pas de sens de se demander si elles sont vraies ou fausses. On pourrait être tenté de dire que la phrase (∗) est vraie, mais on serait gêné de dire que la phrase « 3 est pair donc 3 2 est pair » est vraie, pourtant elle n’est qu’une instanciation de la phrase (∗). La phrase (∗) exprime un raisonnement, la question qui se pose par rapport à ce raisonnement n’est pas celle de sa vérité mais celle de sa validité (voir distinction déjà faite par Aristote, page 37). Reprenant elle aussi dans sa thèse 1 un cours de D. Lacombe, F. Rakotovoavy situe de telles phrases, et d’autres qui plus généralement permettent de suivre le raisonnement, au niveau épimathématique : Nous dirons que, dans un endroit donné d’un texte mathématique donné, un certain syntagme se situe au niveau épimathématique, lorsque ce syntagme ne désigne aucun objet mathématique, mais fournit au lecteur une indication sur la manière dont il convient de compléter, de rectifier et de relier entre elles les portions strictement mathématiques du texte environnant ce syntagme, de façon à obtenir soit une proposition mathématique correcte et complète, soit une démonstration mathématique convenablement mise en forme. (Rakotovoavy, 1983, p. 14) Autre exemple d’expression se situant au niveau épimathématique : « soit x un nombre réel dont le carré est inférieur à 4 ». Cette phrase sert à introduire la variable x dans 1. Intitulée « Difficultés linguistiques et pédagogiques soulevées par l’emploi, dans les textes mathématiques, de certains adjectifs marqueurs de variance. » 

Le discours

Il ne s’agit pas seulement de préciser dans quel ensemble la variable x peut prendre ses valeurs, cette phrase atteste d’un acte d’un locuteur qui donne un nom à un objet mathématique, et qui va ensuite dire des choses sur cet objet. Le caractère « quelconque » de cet objet permet de savoir que ce qui va être affirmé de x pourra l’être de tout nombre réel dont le carré est inférieur à 4. Par contre, une phrase telle que : « la démonstration suivante se fait facilement par récurrence » ne se situe pas au niveau épimathématique, c’est un commentaire sur l’activité mathématique, elle n’est pas nécessaire, même si elle peut être utile, pour suivre le raisonnement. Revenons maintenant aux expressions mathématiques. On les utilise comme des briques qui permettent, comme dans un jeu de construction, de fabriquer d’autres expressions mathématiques. Par exemple, à partir des noms x et 1, on peut former le nom x + 1. Puis : la proposition : x + 1 = 0, le nom : l’équation x + 1 = 0, la proposition : l’équation x + 1 = 0 n’a pas de solution positive. Mettre au jour une telle construction relève d’une analyse syntaxique des expressions mathématiques. D’une certaine façon, c’est faire de la grammaire du langage mathématique. L’analyse grammaticale occupe une place importante dans l’enseignement des langues, mais elle est peu présente dans l’enseignement mathématique (bien sûr les textes officiels soulignent l’importance du travail sur l’expression en mathématiques, mais pas au sens d’un travail syntaxique). Dans l’activité mathématique, la vocation des propositions est d’être énoncées, et cette énonciation constitue l’acte d’affirmation de leur vérité. Dans la pratique, on ne dit pas « la proposition “tous les réels ont un carré positif” est vraie » mais simplement « tous les réels ont un carré positif ». L’énonciation d’une proposition constitue un acte de langage (Austin, 1970) : l’acte d’assertion. Nous avons vu que, dans son Idéographie, Frege utilisait un symbole pour le jugement (voir page 66) qu’il distinguait de la « simple combinaison d’idées, à propos de laquelle celui qui l’écrit n’exprime pas s’il lui attribue la vérité ou non » (Frege, 1999, p. 15). Le logicien fait alors un pas de côté pour s’intéresser aux propositions en tant qu’objets (ce que faisaient déjà Aristote et les Stoïciens, la grande nouveauté de la logique mathématique ayant été d’en faire des objets mathématiques), notamment d’un point de vue syntaxique en en analysant les constituants. C’est ce que nous allons faire maintenant, en commençant par un élément caractéristique du langage mathématique : les variables. 

 Variable

En mathématiques aujourd’hui, nous utilisons des lettres, majuscules ou minuscules, de différents alphabets, pour représenter les variables. Les signes « x », « f », où x et f sont des variables, constituent à eux seuls des expressions mathématiques, ce sont des noms, au même titre que les expressions « 2 », « la fonction sinus ». L’utilisation d’une variable en mathématiques s’accompagne de la précision du type d’objet que la variable désigne, c’est-à-dire de la mention d’un certain ensemble auquel la variable est astreinte. Toutes les expressions mathématiques qui peuvent être formées avec le nom « 2 » sont encore des expressions mathématiques de même nature (nom ou proposition) quand on y remplace 2 par une variable x, astreinte par exemple à l’ensemble des nombres réels (sous réserve que l’expression ait un sens pour tous les nombres réels). Ainsi, « x 2 est positif » est une proposition, au même titre que « 2 2 est positif », la première dit un fait sur un objet qui s’appelle x, la deuxième sur 2. L’inverse n’est cependant pas vrai : si on remplace la variable x par 2 dans l’expression « pour tout réel x, x 2 est positif », on obtient « pour tout réel 2, 2 2 est positif », qui n’est pas une expression mathématique. Il y a en effet une différence fondamentale entre les propositions « 2 2 est positif » et « x 2 est positif », c’est la possibilité de former à partir de la deuxième proposition des expressions dans laquelle la variable x est muette, telles que « pour tout réel x, x 2 est positif ». Cette proposition ne parle pas de x, elle donne une information sur l’ensemble des nombres réels. Un cas bien connu de variable muette (on dit aussi variable liée) est la variable d’intégration dans une intégrale 2 , par exemple t dans ∫ 1 0 t 2 dt. Cette expression est le nom d’un nombre réel, qui ne « dépend » pas d’un objet qui s’appellerait t. D’ailleurs le nombre réel désigné par cette expression a aussi pour nom 1 3 , où la variable t ne figure pas. En revanche, la variable x n’est pas muette dans l’expression ∫ x 0 t 2 dt, qui est syntaxiquement proche de la précédente. Ici, l’objet désigné par ce nom « dépend » de x. Un autre nom du même objet est 1 3 x 3 , et il est impossible de lui trouver un nom dans lequel la variable x ne figure pas. La variable x dans cette expression est parlante (on dit aussi variable libre). On peut maintenant préciser dans quels cas on obtient encore une expression mathématique en substituant une valeur à une variable : une telle substitution est possible quand la variable est libre. Les variables libres ont ainsi un rôle de marque-place dans les expressions. Cette substitution qui conserve le statut d’expression n’est pas possible dans le cas de variables muettes : l’expression ∫ 1 0 3 2 d3 n’a pas de sens. Revenons alors à la précision « quelles que soient les circonstances » utilisée dans la définition d’expressions synonymes (voir page 111). Les noms x et y ne sont pas synonymes, et les propositions 2x + 6 = 0 et 2y + 6 = 0 ne sont pas équivalentes. En effet, dans 2. Les manuels de Terminale utilisent cette terminologie, en disant par exemple que la variable est muette car « elle n’intervient pas dans le résultat ». 113 3.2 ces expressions les variables x et y sont libres, ces expressions prennent différentes « valeurs » selon les valeurs attribuées aux variables x et y, qui n’ont aucune raison d’être les mêmes. Ceci est souvent une difficulté, notamment pour les élèves qui ont en tête que « peu importe la lettre choisie pour la variable », ce qui est vrai pour les variables muettes, puisque les expressions dans lesquelles elles sont utilisées ne dépendent pas d’elles. C’est généralement à propos de variables muettes que le professeur peut être amené à tenir ce discours, par exemple à propos de la variable d’intégration. Mais quand les variables sont libres, deux variables différentes n’ont aucune raison de désigner le même objet « quelles que soient les circonstances ». Peut-être peut-on s’en convaincre en tenant le raisonnement suivant : Supposons que les propositions (1) 2x + 6 = 0 et (2) 2y + 6 = 0 soient équivalentes, ainsi que les expressions (1’) x = −3 et (2’) y = −3, alors toutes expressions dans lesquelles (1) et (2), ou (1’) et (2’), seraient à la même place, seraient équivalentes. Par exemple, « Si 2x + 6 = 0 alors x = −3 » et « Si 2x + 6 = 0 alors y = −3 » seraient équivalentes. On voit assez facilement que ça n’est pas le cas. Le statut (libre ou liée) d’une variable dans une expression est indépendant de la signification de cette expression. Il s’agit d’une notion purement syntaxique : une variable est liée quand elle est dans le champ d’un mutificateur (« signe qui rend muet »). Nous avons déjà vu que le signe d’intégrale ∫ … … . . . d . . . est un mutificateur, il en est de même, par exemple 3 , du signe de somme indexée ∑… ···=… . . ., de la flèche d’application . . . 7→ . . . , du syntagme « équation d’inconnue. . . », et bien sûr des quantificateurs. Une proposition qui ne comporte pas de variables libres est une proposition close, par exemple la proposition « il existe un réel x tel que x + 3 = 0 », dans laquelle la variable x est astreinte à R. Une proposition qui contient des variables libres est une proposition ouverte, par exemple la proposition « x + 3 = 0 », dans laquelle la variable x est astreinte à R. On pourrait alors être tenté de donner un critère sémantique pour distinguer le statut de la variable x dans ces deux propositions : des connaissances mathématiques me permettent de savoir que la première proposition est vraie, alors qu’il n’est pas possible d’attribuer une valeur de vérité à la deuxième proposition, par manque d’information sur l’individu x. V. Durand-Guerrier dit qu’un énoncé est contingent pour un sujet donné à un instant donné « si ce sujet n’a pas les moyens de se prononcer sur la vérité de cet énoncé, soit que la valeur de vérité de l’énoncé ne soit pas contrainte par la situation, soit que le sujet ne dispose pas des informations nécessaires pour se prononcer » (Durand-Guerrier, 2005, p. 41). Il s’agit d’une caractéristique sémantique et pragmatique. La proposition « x + 3 = 0 » est contingente dans le premier sens donné par V. Durand-Guerrier. Mais les notions de proposition ouverte et de proposition contingente ne sont pas identiques : une proposition telle que « x 2 + 3 > 0 » dans laquelle la variable x est astreinte à R,