Comment émerger ?

L’enseignement de la théorie des ensembles est une tâche ardue. Tout repose sur le choix du bon angle d’approche, sur la capacité à trouver ce point d’ancrage subtil qui permet d’insuffler dès le départ juste assez d’enthousiasme pour que la soif de connaissance jaillisse et se propage dans la salle comme une onde vibrante.

Seulement voilà, l’étendue des possibilités introductives sur ce thème est immensément vaste, et de ce fait, la décision pédagogique n’a rien d’évident, surtout lorsque la leçon est programmée en tout début d’après-midi. À cette heure où les soupirs étouffés et les premiers gargouillis digestifs d’un auditoire somnolent ne tardent jamais à se manifester…

Pourtant, malgré cet horaire délicat, l’amphithéâtre apparaît bien rempli. Bien plus que d’ordinaire, à dire vrai. Depuis mon bureau, tout en bas, je fais ma mise au point et balaie chaque rangée du regard pour vérifier que je ne me suis pas trompé de salle. Parmi les visages qui se détachent, certains me semblent familiers. D’autres par contre sont définitivement vagues, pour ne pas dire incongrus. C’est d’ailleurs un sentiment assez étrange, celui de ne pas reconnaître ses propres élèves, quoiqu’assez répandu chez les enseignants qui sont confrontés quotidiennement à une multitude d’individus. Il n’est donc pas étonnant non plus qu’au sein d’un tel échantillon, on puisse déceler quelques anomalies, des données aberrantes, des personnes qui détonnent par rapport au reste. En l’espèce ici, il s’agit de trois messieurs d’un âge avancé qui sont installés au tout premier rang et dont la présence, je dois dire, me perturbe. Clairement ces trois zigomars ne font pas partie de mes étudiants habituels. Leurs regards insistants sont fixés sur moi depuis que je suis entré dans l’amphithéâtre et je sens chez eux comme une très forte attente. Un peu comme si… Comme s’ils s’étaient constitués en jury exceptionnel pour jauger l’étendu de mon savoir en se basant sur cette seule et unique prestation. Qui peuvent-ils bien être ? D’éminents confrères venus évaluer l’état de mes recherches sur la conjecture de Syracuse ? Peu probable, mais pas totalement impossible. Très certainement plutôt des auditeurs libres, des vieilles âmes nostalgiques en mal de souvenirs estudiantins.

Bref.

Inutile de s’attarder sur les motivations des uns et des autres. Après tout, peu importe qui assiste au cours, il est temps de commencer. Je décide d’ouvrir sur la diagonale de Cantor. À mes yeux, c’est le meilleur préambule : cet argument ébranle d’emblée la notion intuitive d’infini tout en revenant sur les fondements historiques qui ont donné naissance à cette fascinante théorie des ensembles. L’effervescence intellectuelle générée par Georg Cantor à la fin du XIXᵉ siècle a littéralement scindé la communauté mathématique en deux. Les débats houleux entre intuitionnistes et formalistes qui s’en suivirent ne peuvent qu’attiser la curiosité des esprits passionnés qui me font face, quels que soient leur âge ou leur parcours académique.

Sans plus attendre, je plante le décor : la bouillonnante université de Göttingen, véritable creuset intellectuel où les plus grands esprits de l’époque s’affrontent et collaborent ; la volonté farouche de David Hilbert d’axiomatiser les mathématiques après que Cantor a introduit sa théorie, naïve mais suffisamment audacieuse pour démanteler les certitudes établies. Satisfait de cette entrée en matière, j’enchaîne avec assurance sur les failles inhérentes que la théorie comporte encore à ce stade embryonnaire. J’évoque le paradoxe de Russel et plus généralement les problèmes d’auto-référencement bien connus depuis l’antiquité. Et pendant que je développe mes explications, mon attention flottante s’arrête sur l’un des intrus assis au bout du premier rang.

L’homme, au bout de la rangée, enroule distraitement un doigt autour de l’extrémité recourbée de sa moustache blanche, épaisse et impeccablement taillée. Sa tête ronde et légèrement joufflue s’incline vers le bas, comme alourdie par une réflexion silencieuse, tandis que son regard distrait s’égare vers une dalle carrée du plafond, visiblement descellée et qui vibre sous le souffle discret de la ventilation. L’égarement du moustachu me rend quelque peu perplexe et je décide de couper court avec mes ambages sur Épiménide. La digression sur le paradoxe du menteur était-elle vraiment nécessaire ? C’est de mathématiques dont nous parlons dans cette salle de classe, pas de philosophie antique et s’il y a bien une chose que je ne souhaite pas, c’est de risquer de perdre mon auditoire. D’autant que l’hypothèse que ces trois-là puissent effectivement être des mathématiciens de renom reste, en considérant bien les choses, une éventualité.

Sans doute faut-il opter pour une approche plus frontale. Entrer dans le vif du sujet et évoquer directement Gödel. Ses théorèmes, réduisant à néant les espoirs d’Hilbert, ont à jamais bouleversé la face des mathématiques. Encore aujourd’hui, ces résultats limitatifs suscitent une forme de sidération, même chez ceux qui en maîtrisent toutes les subtilités. Je m’avance vers le tableau poussiéreux et je note en majuscule les trois mots fatidiques : Incohérence, Incomplétude, Indécidabilité. Tout en écrivant, j’adopte un ton exagérément solennel, presque théâtral, pour annoncer que toute théorie mathématique, même fondée sur des bases axiomatiques solides, contient, de manière intrinsèque, des zones d’ombre, des énoncés voués à rester irrésolus, des propositions qui échappent à toute tentative d’élucidation rationnelle. Le crissement de la craie résonne dans l’amphithéâtre silencieux lorsque j’ajoute le point sur le i du mot Indécidabilité. Après ce dernier effet des plus dramatiques, je me retourne finalement pour contempler la stupéfaction qui normalement doit s’afficher sur les visages ébahis.

Rien.

Aucune réaction. Le calme plat. Pire encore : au premier rang, le plus grand des trois visiteurs, celui assis au milieu, semble s’être à moitié assoupi. Ses cheveux argentés balayent frénétiquement la table chaque fois qu’il sursaute dans son demi-sommeil, accentuant encore mon impression de décalage total entre mes ambitions pédagogiques et la réalité de cette scène improbable.

L’anxiété commence à s’installer. Quelque chose m’échappe. D’ordinaire, ces notions fondamentales suscitent toujours une certaine curiosité, mais cette fois-ci, un silence pesant s’étire dans l’amphithéâtre. Je me tais, le temps de rassembler mes idées, tandis que la gêne palpable enfle entre les rangs. Heureusement, un étudiant au sourire rassurant lève timidement la main et articule avec difficulté une question sur le lien entre le théorème d’incomplétude de Gödel et la complétude au sens de Turing. Soulagé par cette intervention salutaire, j’essaye de formuler intérieurement une réponse aussi claire que possible à cette interrogation tout à fait pertinente.

Il est vrai, les calculateurs universels reposent sur la codification numérique de Gödel, mais j’hésite. Cette digression risque de nous éloigner de l’objet initial du cours qui porte sur les ensembles. Pour autant, la machine de Turing reste un bon exemple pour présenter l’indécidabilité sous la forme du problème de l’arrêt. Je m’apprête à répondre et commence à peine ma phrase lorsqu’une silhouette floue, tapie au fond de la salle, intervient à son tour.

Sa voix mièvre marmonne quelque chose d’inaudible au sujet du Jeu de la vie de Conway, maladroitement assimilé à la fourmi de Langton. Cette nouvelle intervention ajoute à la confusion et me fait soupirer intérieurement. De toute évidence, les automates cellulaires ont leur place dans cette discussion, mais emprunter ce chemin signifierait m’éloigner encore davantage du sujet. Au moment où cette crainte me traverse l’esprit, la troisième tête grise du premier rang, celle qui est assise à gauche de celui qui semble maintenant dormir profondément, se met à me sourire. Lentement, avec une insistance presque délibérée, comme si elle savourait l’instant. Je peine à interpréter ce signal correctement. Derrière l’apparente bienveillance, je crois déceler une pointe de raillerie. Ses yeux bleus clairs et perçants se plissent à mesure que ses lèvres s’allongent jusqu’aux fossettes. Il sait ! il sait que je suis en train de perdre le fil et il s’en amuse. Le bougre.

Bon.

On se ressaisit et on reprend les commandes. Après tout, puisqu’il est question de décidabilité, c’est à moi de décider et d’orienter ce cours comme je l’entends. Il suffit de revenir sur l’axiomatisation. C’est la clé de voûte de ce chapitre introductif. Maintenant, quel est le dénominateur commun entre la machine de Turing, les automates cellulaires et la récursivité des axiomes en théorie des ensembles ? L’émergence, bien sûr. C’est à partir d’elle que tout devient possible, y compris la réversibilité. Et c’est justement cette notion qui va me permettre de revenir à mon point de départ.

J’improvise.

— Vous faites bien de mentionner les automates cellulaires. Ils nous ramènent exactement là où je voulais en venir cet après-midi. Au bout du compte, la question essentielle qui doit être posée est la suivante : comment des règles simples et déterministes peuvent-elles engendrer des variations infiniment complexes ? Le Jeu de la vie de Conway, l’algorithme qui gouverne la machine de Turing, les axiomes de la théorie des ensembles… Dans tous ces cas, nous partons d’évidences élémentaires qui, par combinaisons successives, donnent naissance à des configurations insoupçonnées. Modifiez le cinquième postulat d’Euclide et vous obtenez des géométries contre-intuitives certes, mais redoutablement efficaces d’un point de vue relativiste. Sélectionnez adéquatement les cellules initiales du Jeu de la vie et vous parviendrez à recréer, au sein même du jeu… un autre Jeu de la vie. Fascinant, n’est-ce pas ? D’aucuns diraient même imprévisible.

Mais attention, et j’insiste sur ce point : l’imprévisibilité consécutive de l’indécidabilité n’est qu’apparente. En ce sens, elle ne doit pas être confondue avec le hasard qui régit les systèmes non-linéaires. Dans un cas, nous sommes face à des valeurs discrètes ; dans l’autre, à des valeurs continues. L’aléatoire algorithmique découle de la complexité, tandis que l’aléatoire dynamique naît de l’imprécision dans la mesure.

Autrement dit, mes chers amis, nous ne vivons pas dans un immense algorithme réglé d’avance par un grand horloger. Et c’est précisément pour cette raison que, dans les systèmes dynamiques qui caractérisent notre physique et qui sont particulièrement sensibles aux conditions initiales… À partir d’une infime déviation, un léger clinamen, très rapidement, vous obtenez…

Du chaos.

Je prononce le mot et au même instant, un grand papillon bleu à rayures jaunes surgit de la dalle entrouverte qui mobilisait encore toute l’attention du songeur du bout du rang.

Bon sang, mais qu’est-ce qui m’a pris de parler de ça ? Quelle idée de divaguer sur les systèmes dynamiques ! Je reste figé, complètement muet à la vue de ce magnifique papillon qui me rappelle l’effet du même nom et qui me ramène inéluctablement à la théorie du chaos. Mes pensées s’emballent. Je pense à la symétrie parfaite des ailes du papillon, aux fractales, aux attracteurs étranges… Tout se mélange dans un imbroglio inextricable. Mon souffle se coupe. Je m’adosse au tableau pour ne pas vaciller, tentant désespérément de me raccrocher à une idée, une seule, qui m’aiderait à ne pas perdre la face.

Les conditions initiales.

Mon point d’ancrage. Réfléchis, vite ! Quel est l’exemple le plus simple, le plus évident qui se rapporte aux conditions initiales ? Le pendule. Mais oui bien sûr ! C’est mon dernier espoir d’arranger la situation. Je passe une main moite sur mon front, balayant les premières perles de sueur. D’un geste tremblant, je me saisis de la craie et commence à tracer sur le tableau l’équation d’évolution du pendule. Dérivée seconde de l’angle θ par rapport au temps… Égal à… Cosinus θ ? Non. Sinus θ. Multiplié par… Multiplié par…

Par quoi déjà ?

Un frisson me traverse. Le vide. Le trou noir. Le blocage total. Impossible de m’en souvenir. Comment peut-on oublier une formule aussi élémentaire ? Une formule aussi simple ? Aussi simple que la conjecture de Syracuse et pourtant personne n’a jamais réussi à la démontrer….

Un ricanement me sort brutalement de ma stupeur. C’est le vieux malicieux du premier rang. Il me regarde et il rit maintenant à gorge déployée. Je n’ose pas me retourner, pas encore. Mais je le sens, derrière moi : l’auditoire tout entier s’agite. Un frisson glacé me parcourt l’échine. D’un mouvement hésitant, je jette un regard inquiet par-dessus mon épaule.

Hilarité générale.

Tout vacille autour de moi. Les contours se brouillent. Mon champ de vision se rétrécit. Je ne vois plus que les trois visages flétris qui sont à l’origine de la discorde, ceux qui ont fait émerger le chaos.

À gauche, le persifleur me désigne du doigt, un rictus narquois aux lèvres. Avec la pointe de son index, il mime le mouvement du pendule, oscillant inlassablement de gauche à droite.

À côté de lui, au centre, le ronflement du grand type avachi se fait de plus en plus volubile. Et tout à droite… le moustachu, lui, ne bouge plus d’un cil. Il garde les yeux rivés sur la dalle suspendue au plafond, cette dalle qui ne tient maintenant plus qu’à un fil. Chaque mouvement infinitésimal l’a conduit inexorablement vers sa chute fracassante. Cette dernière pensée me tétanise complètement. Je ne sens plus du tout mes jambes. Comme cette dalle qui ne tient plus, moi aussi, je vais m’écraser au sol…

Et m’éclater en mille morceaux.