Avez-vous déjà observé un dessin où une main en croque une autre, tandis que cette seconde main esquisse simultanément la première ? Cette image, créée par l'artiste M.C. Escher, capture l'essence du chef-d'œuvre de Douglas Hofstadter. Ce livre plonge dans la manière dont l'autoréférence - le fait pour un système de se désigner lui-même - donne naissance à la magie de l'esprit humain. Hofstadter convoque trois génies pour nous guider : le compositeur Johann Sebastian Bach, l'artiste M.C. Escher et le mathématicien Kurt Gödel. Bien qu'ils aient œuvré dans des domaines radicalement différents, ils ont tous mis au jour le même motif mystérieux. Hofstadter le baptise « boucle étrange ».
Une boucle étrange se produit lorsque, en parcourant les niveaux d'un système, vous revenez soudainement à votre point de départ. Imaginez un escalier qui ne monte que vers le haut, et qui, contre toute attente, vous ramène au rez-de-chaussée. En musique, Bach a composé une « offre musicale » (un canon à ton montant) qui change subtilement de tonalité jusqu’à retrouver sa note initiale. En art, Escher a dessiné des bâtiments où, malgré une ascension perpétuelle, les personnages suivent un cercle sans fin. En mathématiques, Gödel a trouvé le moyen pour que des nombres se décrivent eux-mêmes. Ces boucles démontrent que les systèmes peuvent être à la fois logiques et paradoxaux.
Pourquoi est-ce crucial ? Hofstadter soutient que notre « moi » – notre conscience et notre âme – résulte précisément de ces boucles. Notre cerveau est constitué de « matériel » physique, comme des neurones et des cellules, soumis à des règles strictes. Pourtant, de ces règles émerge un « logiciel » : nos pensées, nos sentiments et notre identité. Nous avons l'illusion de commander à notre esprit, mais c'est lui qui crée notre « identité ». Il s'agit d'une hiérarchie enchevêtrée où le niveau supérieur (nos pensées) et le niveau inférieur (nos neurones) s'alimentent mutuellement en permanence.
Loin d'être un texte académique austère, cet ouvrage est une aventure ludique jalonnée d'histoires et de dialogues. Hofstadter met souvent en scène Achille et la Tortue pour expliquer des concepts complexes par l'humour et les énigmes. En entremêlant logique, musique et biologie, il suggère que l'intelligence n'est pas une étincelle magique, mais ce qui survient lorsqu'un système devient assez complexe pour se regarder dans un miroir et se reconnaître. Cela ouvre la voie à toutes les réflexions, des limites des mathématiques à l'avenir de l'intelligence artificielle.
Pour comprendre le fonctionnement d'un cerveau ou d'un ordinateur, il faut d’abord saisir ce que Hofstadter appelle les « systèmes formels ». Considérez-les comme un jeu régi par des règles très strictes. Il comporte des symboles (les pièces du jeu), un axiome (la position de départ) et des règles d'inférence (les mouvements autorisés). Le but est de déterminer quels « théorèmes » (nouvelles positions) peuvent être atteints en respectant ces règles. Hofstadter utilise le « système MIU » pour illustrer ce processus : partant de la chaîne « MI », on tente de former « MU » en n'appliquant que quelques transformations permises.
Ce qui est fascinant, c'est la différence d'interaction entre l'humain et la machine face à ces systèmes. Un programme informatique suivra scrupuleusement les règles, indéfiniment, même si la tâche est impossible. C'est ce que l'auteur appelle le « mode mécanique ». L'humain, lui, peut passer en « mode intelligent ». Nous sommes capables de prendre du recul, de repérer des motifs et de réaliser que « MU » ne pourra jamais être formé, quels que soient nos efforts. Nous possédons la faculté de nous arrêter, de repenser le système, voire de quitter le jeu. Ce « pas de côté » hors du système est un élément clé de notre intelligence.
Dans ces systèmes, le sens naît de l'« isomorphisme » : un terme formel pour désigner une correspondance entre des symboles et le monde réel. Par exemple, si un système utilise des symboles simples, nous pouvons constater que leurs interactions reproduisent exactement l'addition (2 + 3 = 5). En percevant ce motif, les symboles acquièrent une « signification passive ». Nous interprétons les éléments comme des nombres et des signes opératoires. Cependant, le système lui-même ignore tout de l'addition ; il se contente d'appliquer mécaniquement ses règles de manipulation.
Hofstadter explore aussi les limites de ces systèmes. Pendant longtemps, les mathématiciens ont cru pouvoir prouver chaque vérité par de telles règles. Ils recherchaient une « procédure de décision », un test infaillible pour déterminer si un énoncé est vrai ou faux. Or, les systèmes capables de modifier leurs chaînes de symboles ou de s'auto-analyser deviennent infiniment plus complexes. Il s'avère que la logique finit toujours par se heurter à un mur, ce qui nous conduit directement aux travaux de Kurt Gödel.
Kurt Gödel a ébranlé les fondements des mathématiques en démontrant son théorème d'incomplétude. Auparavant, on pensait qu'un système mathématique cohérent (exempt de contradictions) était nécessairement « complet » (capable de démontrer toute vérité). Gödel a prouvé que c'était impossible. Il a démontré que, dans tout système logique puissant, il existera toujours des énoncés vrais qui ne peuvent être prouvés au moyen des règles de ce même système. Cette découverte montre que la « vérité » est plus vaste que la « démontrabilité ».
Il a réalisé cet exploit grâce à une astuce géniale : la « numérotation de Gödel ». Il a trouvé une méthode pour convertir chaque symbole et règle mathématique en un nombre unique. Ainsi, une longue suite de chiffres pouvait représenter un énoncé mathématique, tout en servant de code secret. Gödel a donc permis aux mathématiques de « parler » d'elles-mêmes. Il a formulé un énoncé qui affirmait en substance : « Cet énoncé ne peut être prouvé dans ce système. » C'est la version mathématique du paradoxe du menteur : si l'énoncé est vrai, il est indémontrable ; s'il était démontrable, alors il serait faux-rendant le système incohérent.
Cela révèle un fossé profond entre la logique mécanique et la pensée humaine. Pensez au rapport « figure-fond » en dessin : la figure est l'objet regardé, tandis que le fond est l'espace environnant. En logique, certains systèmes possèdent un « espace négatif » de vérités inaccessibles aux règles du système. Ces vérités existent comme des spectres qui hantent le système. Elles montrent que, dès qu'un système est assez puissant pour parler de lui-même, il devient vulnérable à ces « boucles étranges » qui créent des failles dans sa logique.
Hofstadter illustre cela par l'histoire de la géométrie. Pendant des siècles, nous avions cru que les règles d'Euclide étaient l'unique manière de décrire l'espace. Mais en modifiant une seule règle, les mathématiciens ont découvert la géométrie « non euclidienne », parfaitement cohérente bien que contre-intuitive. Cela nous a appris que les systèmes sont définis par leurs règles internes, et non par une vérité universelle extérieure. Le travail de Gödel va plus loin : peu importe le nombre de règles ajoutées pour colmater les « trous » d'un système, celui-ci en engendrera toujours de nouveaux, plus profonds encore.
La récursion est un concept qui semble complexe mais qui est, en réalité, naturel : c'est le processus par lequel une structure contient une version réduite d'elle-même. Hofstadter utilise l'exemple de la « pile » informatique ou de notre « pile mentale » quotidienne. Imaginez que vous racontiez une histoire à un ami, mais que vous l'interrompiez pour expliquer une blague entendue il y a deux semaines. Pour expliquer cette blague, vous devez décrire le film qui l'a inspirée. Vous « imbriquez » des histoires dans des histoires. Une fois le film expliqué, vous revenez à la blague, puis à l'histoire initiale.
Pour gérer cela, notre cerveau utilise une « pile » (un empilement). Vous « empilez » l'histoire principale pour faire place à la blague, et vous « empilez » la blague pour parler du film. Lorsque vous terminez une sous-tâche, vous la « dépilez » pour revenir au niveau supérieur. C'est ainsi que fonctionne la récursion en informatique et dans le langage. C'est une manière de diviser des problèmes complexes en morceaux plus simples qui ressemblent au tout. Cela crée un sentiment de « similitude dans la différence ».
Nous observons cela partout. En musique, un compositeur peut moduler du ton principal vers un autre, créant une tension, avant de ressentir le soulagement du retour à la tonique. En art, Escher crée des images récursives de poissons contenant des poissons plus petits, ou des lézards qui sortent d'un dessin pour devenir tridimensionnels, avant d'y replonger. Ces visuels reflètent la manière dont les fonctions récursives mathématiques engendrent des structures complexes comme les fractales, où la forme du tout se retrouve dans chaque détail.
La récursion n'est pas qu'un outil mathématique ; c'est une structure fondamentale de l'univers. Hofstadter cite la physique des particules : un électron n'est pas un simple point, mais un « enchevêtrement récursif » entouré de particules virtuelles, elles-mêmes entourées d'événements plus minuscules. Cet emboîtement de niveaux est probablement la manière dont nos esprits sont formés. En superposant des règles simples et des boucles récursives, le cerveau crée un système capable de gérer une complexité inouïe, nous permettant de reconnaître un « style » ou une « identité » à travers différentes échelles d'expérience.
L'une des questions centrales du livre est : où réside le sens ? Est-il intrinsèque au message ou créé par celui qui le reçoit ? Hofstadter se penche sur l'ADN pour trouver une réponse. Un brin d'ADN est un message, mais il n'est rien sans les mécanismes de la cellule pour transformer ce code en organisme vivant. Ici, la signification de l'ADN est implicite ; elle agit comme un déclencheur pour un système plus vaste. Tout message possède ainsi trois strates : le « message cadre » (je suis un message !), le « message externe » (comment me décoder) et le « message interne » (le contenu effectif).
Cela implique des conséquences majeures pour l'intelligence artificielle. Les premiers chercheurs pensaient qu'il suffisait de fournir une liste de faits (données) à un ordinateur pour qu'il devienne intelligent. Hofstadter rétorque que l'intelligence est liée à un savoir « procédural ». Elle est ancrée dans la manière dont le système agit, et pas seulement dans ce qu'il sait. Un champion d'échecs, par exemple, ne calcule pas toutes les possibilités comme une machine. Il utilise une intelligence « enchevêtrée » : il perçoit le plateau par « blocs » et se concentre sur les stratégies clés, utilisant son intuition pour ignorer des millions de mauvais coups qu'une machine perdrait du temps à traiter.
Pour qu'une machine soit véritablement intelligente, il lui faudrait des « métarègles » : des règles sur les règles. Elle devrait pouvoir modifier sa propre personnalité ou son comportement selon le contexte. Hofstadter suggère que l'intelligence implique de naviguer entre divers niveaux de réalité. Un programme qui suit une routine fixe est comme une guêpe qui répète inlassablement une tâche, même si la situation change. Un système intelligent doit pouvoir « sortir » du cadre pour corriger ses propres contradictions.
C'est là qu'apparaît l'idée du « soi ». Si un système possède suffisamment de niveaux et de boucles, il commence à surveiller sa propre activité. Il génère un « symbole de soi » qui le représente au sein de sa propre cartographie du monde. Cette activité symbolique est ce que nous nommons conscience. Nous ne ressentons pas le déclenchement de nos neurones, mais uniquement nos pensées de haut niveau. Le sens émerge lorsque ces symboles internes correspondent de manière cohérente au monde réel. L’intelligence est donc la capacité de transformer des règles mécaniques rigides en une pensée flexible et créative.
Hofstadter présente un système nommé TNT (Théorie typographique des nombres) pour illustrer comment transformer la logique en un jeu de symboles. La TNT cherche à capturer tout ce qui est vrai concernant les nombres-comme 2 + 2 = 4 ou la nature des nombres premiers-en utilisant un nombre restreint de symboles. C'est un environnement régi par des règles strictes. Pourtant, la TNT bute sur l'incomplétude : elle peut prouver des faits précis, mais peine parfois à démontrer des vérités universelles valables pour tous les nombres. Pour combler ce vide, on a recours à la « règle d'induction », qui permet de passer d'exemples précis à une loi générale.
Bien que les mathématiques semblent éloignées de la religion, Hofstadter établit un parallèle surprenant avec le bouddhisme Zen. Le Zen utilise des « koans »-ces énigmes paradoxales-pour aider l'étudiant à briser les chaînes de la pensée logique. Le Zen enseigne que le monde est une toile holistique où tout est lié. En utilisant des mots ou de la logique, nous découpons cette toile en fragments. Le Zen vise l'éveil en transcendant ces divisions et en sortant du « système » du langage lui-même.
La lutte de l'étudiant Zen face à un koan ressemble à celle du mathématicien cherchant à prouver un énoncé dans un système formel. Dans les deux cas, on recherche un « métasystème », un niveau de compréhension supérieur situé hors des règles en vigueur. De même qu'un système mathématique ne peut prouver sa propre cohérence, le Zen suggère que la vérité ultime ne peut être capturée par les seuls mots. Les deux disciplines pointent vers une même réalité : la vérité se loge souvent dans l'interstice entre les règles.
Cela nous mène au concept de « Mu ». Dans la tradition Zen, Mu est une réponse qui « déconstruit » la question. Si une interrogation repose sur une prémisse fausse, inutile de répondre par oui ou par non : dites « Mu ». Hofstadter utilise ce concept dans le débat entre le « réductionnisme » (nous ne serions qu'une collection d'atomes) et le « holisme » (l'idée d'une âme unifiée). Il suggère que la réponse n'est ni l'un ni l'autre. À l'instar d'une fourmilière dont l'intelligence émerge de fourmis pourtant simples, nous sommes simultanément les parties et le tout.
Pour expliquer comment le cerveau crée un « soi », Hofstadter conte l'histoire d'une colonie de fourmis nommée Tante Hillary. Individuellement, les fourmis ne sont guère intelligentes. Elles suivent des pistes chimiques par instinct. Pourtant, la colonie dans son ensemble agit comme un être intelligent unique capable de résoudre des problèmes, de trouver de la nourriture et de se protéger. La colonie possède une « intelligence collective » issue des interactions de milliers d'éléments simples. Les « fourmis » sont ici comme les neurones de notre cerveau : un neurone seul ne « pense » pas ; il transmet un signal. Mais la coopération de milliards d'entre eux génère le « vous ».
Cela passe par les « symboles actifs ». Dans la colonie, des groupes de fourmis forment des « équipes » pour porter des messages. Dans le cerveau, des groupes de neurones forment des « symboles » représentant des concepts comme « pomme » ou « mère ». Ils peuvent être « dormants » (quand vous n'y pensez pas) ou « actifs » (quand ils sont sollicités). Lorsqu'un symbole s'active, il en entraîne d'autres, créant le flux de la conscience. Nous avons conscience des symboles-les pensées de haut niveau-sans percevoir les décharges neuronales sous-jacentes.
Cela crée un niveau de description « clos ». Vous pouvez comprendre la personnalité d'une personne sans rien connaître à sa chimie cérébrale, tout comme vous comprenez un film sans connaître la programmation des pixels. Notre sentiment du « soi » est un symbole de haut niveau qui surveille tous les autres. C'est un sous-système qui suit notre activité mentale et crée un modèle de qui nous sommes.
C'est ce modèle qui nous donne l'illusion de la volonté et de l'identité. Comme nous ne pouvons voir les règles mécaniques de nos neurones, nous percevons nos pensées comme libres et magiques. Hofstadter soutient cependant que cette « âme » est un épiphénomène : une conséquence d'une organisation d'une grande complexité. Tout comme une forêt est bien plus que la somme de ses arbres, le « soi » dépasse de loin l'assemblage de neurones. Ce qui importe, c'est le motif de leur interaction. Cela signifie que si nous parvenions à reproduire ce motif dans un ordinateur, il pourrait, lui aussi, développer un « soi ».
La thèse de Church-Turing est un concept majeur en informatique. Elle stipule que tout ce qu'un humain peut accomplir par une méthode définie peut être réalisé par un ordinateur. Hofstadter va plus loin : tous nos processus mentaux, y compris l'intuition et la créativité, découleraient d'une base physique calculable. Cela signifierait qu'un génie mathématique comme Ramanujan, capable de percevoir instantanément des vérités profondes, utilisait lui aussi un « logiciel » sophistiqué tournant sur le matériel biologique de son cerveau.
Il distingue les processus « survolables » des processus « non survolables ». L'arithmétique est survolable ; nous pouvons facilement expliquer comment l'automatiser. Mais comprendre une blague ou reconnaître un visage est « non survolable ». Cela implique des couches multiples de symboles et d'analogies « percolant » dans le cerveau. Une intelligence artificielle véritable pourrait donc être impossible si nous nous concentrons uniquement sur la logique de haut niveau. Il faudrait peut-être simuler le « fouillis neuronal » de bas niveau pour obtenir une machine pensant comme un humain.
Un aspect fascinant de notre intelligence est notre capacité à penser dans le mode « subjonctif » : le monde du « et si ? ». Nous imaginons constamment des alternatives. Pour cela, nous faisons « glisser » certains concepts tout en en maintenant d'autres constants. Par exemple, si vous dites : « Et si j'avais raté le bus ? », vous gardez votre identité tout en modifiant un événement temporel. Cette capacité à établir des analogies et à faire varier les concepts est le secret de notre créativité.
Enfin, Hofstadter examine les retombées de l'incomplétude. Si la logique comporte des failles, notre esprit en possède-t-il aussi ? Il suggère que des paradoxes comme « Cette phrase est fausse » pourraient causer des « chocs » physiques dans notre matériel neuronal. Nos cerveaux sont des systèmes formels à la base, mais des systèmes informels au sommet. L'« âme » de notre intelligence réside dans l'espace entre ces niveaux : cette organisation complexe et brouillonne qui nous permet d'être logiques un instant et follement créatifs l'instant d'après.
Au terme du voyage de Hofstadter, nous revenons à la « hiérarchie enchevêtrée ». La plupart des systèmes présentent un sommet et une base distincts. Dans une entreprise, le patron est en haut, les employés en bas. Mais dans une hiérarchie enchevêtrée, les niveaux se replient sur eux-mêmes. Il utilise Galerie d'estampes d'Escher pour illustrer cela : au cours du dessin, un homme regarde une ville, mais à mesure que l'on suit le trait, on réalise que l'homme est lui-même à l'intérieur de la ville qu'il observe. Une boucle où l'on ne distingue plus le monde « réel » du « dessin ».
C'est exactement ainsi que fonctionne notre conscience. Nous possédons un « symbole de soi » qui observe nos pensées... mais ce symbole est lui-même une pensée. C'est comme deux miroirs se faisant face, créant un couloir infini de reflets. C'est de cette « résonance » que naît le sentiment du « Je ». Nous nous croyons dotés d'un libre arbitre car notre symbole de soi surveille constamment nos choix, mais il ne peut percevoir les rouages mécaniques du cerveau tournant en dessous. Nous sommes piégés dans une magnifique boucle d'auto-connaissance et d'auto-ignorance.
Ce point de vue n'enlève rien à la beauté de l'aventure humaine ; il l'éclaire. Hofstadter se penche sur la musique de J.S. Bach, où les thèmes se transforment, se renversent et se jouent à l'envers (un « canon à écrevisse »). Ces structures musicales sont profondément mathématiques, mais aussi profondément émouvantes. Elles démontrent qu'un système fondé sur des règles rigides peut engendrer quelque chose d'infini et de profond. Le « fantôme dans la machine » n'est pas une âme distincte ; c'est le motif complexe de la machine elle-même.
En fin de compte, Gödel, Escher, Bach nous enseigne que nous sommes tous des « boucles étranges ». Nous sommes des systèmes ayant atteint une masse critique de complexité, nous autorisant à nous retourner pour nous contempler. Qu'il s'agisse d'un mathématicien prouvant un théorème, d'un artiste dessinant un paradoxe ou d'un programme informatique tentant de comprendre son propre code, le but reste identique : trouver du sens dans les motifs. Notre conscience est un « vortex » où le monde physique et le monde des symboles se rencontrent pour ne faire qu'un.