Pourquoi l’intelligence artificielle ne peut pas égaler l’intelligence humaine ?

Il y a quelques années, j’ai découvert Kurt Gödel. Depuis lors, ce personnage me fascine. J’aurais vraiment aimé le connaitre.

Le spectacle d’une pensée qui déroule son fil, d’une intelligence qui se cherche et qui cherche sans relâche à gravir des montagnes de difficultés pour pouvoir contempler ses sommets me ravit.

J’admire également ceux qui ont écrit sur Gödel et en particulier Pierre Cassou-Noguès. Dans son livre passionnant « Les démons de Gödel »[1], ce mathématicien-philosophe, donne au lecteur l’impression de pouvoir s’insérer à l’intérieur d’un esprit en quête de sens et qui déploie des efforts surhumains pour tenter de produire des réponses qui se tiennent.

Dans cet article, je tenterai de démontrer qu’à partir des théorèmes d’incomplétude de Godël, du donné scientifique dans le domaine des neurosciences et des travaux de Gilles Fauconnier[2], on peut démontrer que l’intelligence artificielle dite « forte » (strong en anglais) est condamnée à ne jamais pouvoir égaler l’intelligence humaine.

Je déroulerai le fils de ma pensée pour faire saisir au lecteur ma vision du sujet. Je ne dévoilerai pas la structure des développements et ce en accord avec Paul Feyerabend qui considérait qu’imposer un exposé trop systématique revenait à lui conférer un aspect dogmatique et à enfermer le fils conducteur d’une pensée dans un cadre castrateur.

La mise en musique des concepts d’anarchisme épistémologique cher à Paul Feyerabend et d’intégration conceptuel de Gilles Fauconnier, conjuguée à l’exploration de la pensée dans toute sa diversité à travers la lecture des productions d’un maximum de disciplines, est une addiction, selon moi, nécessaire car éminemment féconde.

Le bénéfice d’une telle disposition d’esprit réside dans la capacité de relier des sujets, éloignés en apparence, pour générer suivant le langage de Gilles Fauconnier de nouveaux espaces mentaux capables de produire de nouvelles idées notamment au moyen du mécanisme d’intégration conceptuelle.

Prenons l’exemple de la preuve diabolique, concept issu du droit romain.

L’idée est la suivante : on ne peut jamais en principe prouver un fait négatif. Pour s’en convaincre, que le lecteur tente de prouver à son épouse qu’il ne l’a jamais trompée. Evidemment rapporter une telle preuve est impossible. L’inverse en revanche est le plus souvent possible.

Mais quel rapport avec Gödel ? En l’espèce il s’agit d’un simple analogie. Celui avec qui Albert Einstein se promenait chaque jour dans le parc de l’université de Princeton, démontra justement qu’il était « possible de démontrer que certaines propositions importantes en arithmétique ne pouvaient être démontrées. ».

D’une manière plus générale, il est possible de produire des démonstrations qui démontrent l’impossibilité de démontrer une proposition.

Dans l’ouvrage d’Ernest Nagel et de James R. Newman intitulé « Le théorème de Gödel »[3], il est rappelé qu’en arithmétique, il existe de nombreuses propositions générales non formellement démontrées auxquelles on n’a trouvé jusqu’à présent aucune exception.

A titre d’exemple, on peut citer la conjecture de Goldbach selon laquelle « tout nombre pair est la somme de deux nombres premiers » n’a jamais été démontrée.

Mais revenons au choc que déclencha en 1931, la publication d’un jeune mathématicien de 25 ans nommé Kurt Gödel.

A cet époque, un certain optimisme régnait. Bertrand Russell et Alfred North Whitehead avait publié le fameux « Principia Mathematica » lequel reposait sur l’idée qu’il était possible d’axiomatiser l’arithmétique dans le cadre d’un système formel constitué d’un nombre fini d’axiomes, d’un vocabulaire et de règles d’inférence déterminées.

Ainsi, il était tacitement admis que dans le domaine de l’arithmétique par exemple, un système formel constitué d’un nombre d’axiomes fini pouvait permettre le développement systématique de la totalité des propositions vraies relevant de l’arithmétique.

Le théorème d’incomplétude de Gödel vint briser l’espoir d’une génération de mathématiciens en quête d’un avenir radieux.

En simplifiant, on peut dire que Kurt Gödel démontra qu’il existait des propositions mathématiques correctement formulées dans le langage d’un système formel, mais qui n’étaient pas démontrables dans le système en question.

Ainsi, même en partant des axiomes et en respectant les règles d’inférence du système, il était possible de ne jamais pouvoir aboutir à une proposition dont on pouvait démontrer par l’usage des métamathématiques qu’elle était vraie.

En d’autres termes, celui qu’Einstein comparait à Aristote, le maître de la logique, démontra qu’un système formel pouvait permettre de formuler des propositions dites « indécidables » dans le système et que par conséquent, le système en question était nécessairement incomplet.

Un autre conclusion s’imposait également, à savoir, la reconnaissance de l’intuition mathématique.

Afin que le lecteur comprenne la différence entre les mathématiques et les métamathématiques, voici deux exemples : « 2+1=3 » est une proposition mathématique. « 2+1=3 est l’expression d’une égalité » est un énoncé qui ressort des métamathématique. Parler des mathématiques, revient à produire des énoncés métamathématiques.

Pour parvenir à sa démonstration dont la compréhension requiert pas moins que la maîtrise de 46 définitions préliminaires et de plusieurs théorèmes fondamentaux, Kurt Gödel va inventer un technique révolutionnaire.

En simplifiant à l’extrême on pourrait dire de ce cette méthode qu’elle consiste notamment :

A formuler une proposition métamathématique,
A la traduire en une proposition arithmétique grâce à un système d’une ingéniosité prodigieuse proche du concept de projection,
puis à partir du résultat de l’arithmétisation de cet énoncé métamathématique, à la transcrire dans le langage du système formel.

Ainsi Godël compensera l’incomplétude du système formel par son intuition mathématique qui lui permettra, en se plaçant à l’extérieur du système, de démontrer la véracité d’une proposition indécidable dans le système.

On pourrait imaginer intégrer cette proposition vraie dans le système à titre d’axiome afin d’enrichir le système et de réduire son degré d’incomplétude. Pour autant, en procédant ainsi, même après avoir injecté de nombreux nouveaux axiomes, il subsisterait toujours d’innombrables propositions indécidables formulables dans le système.

Ce qui ont suivi le raisonnement, devraient commencer à entrevoir pourquoi, le projet de construire une intelligence artificielle qui égalerait l’intelligence humaine est impossible.

En effet, tout ordinateur repose sur le principe de la machine de Turing et est similaire à un système formel fini.

Or à la différence de l’être humain, un ordinateur ne peut s’extirper du système formel qui détermine son comportement. Il ne peut se placer à un méta-niveau.

Par ailleurs, une machine de Turing ne serait susceptible de reproduire un cerveau humain seulement si, et cette condition n’est pas suffisante, si le nombre des états mentaux « par lesquels l’esprit humain était susceptible de passer » était fini.

Pour Gödel, le seul moyen de dépasser l’incomplétude des systèmes serait de révolutionner les mathématiques.

Cette révolution qu’il appelle de ses vœux, devrait selon lui s’appuyer sur cette propriété particulière de l’esprit qu’est la réflexivité.

Il imagine également le développement de nouvelles mathématiques basées sur une théorie des « analog », ayant perçu que la fonction analogique est nécessaire pour dépasser les potentialités des machines de Turing.

Finalement Gödel nous apprend en quelque sorte que la technique du « Machine Learning » inconnue à son époque revient finalement à tenter d’injecter de nouveaux axiomes dans le système, mais que la production de ces axiomes ne résultant pas de la mise en œuvre d’une forme d’intuition formée à la fois sur deux spécificités du cerveau humain, la réflexivité et sa capacité à découvrir des analogies, la production de nouveaux axiomes ne pourra permettre à la machine d’intégrer ces deux spécificités humaines, la réflexivité et l’analogie.

Quant au spécialiste des neurosciences, il affirmera que le cerveau humain ne se limite pas à un fonctionnement digital mais se caractérise également par son fonctionnement analogique, le tout résultant d’un long processus d’évolution.

L’analogie ou plutôt la recherche d’analogies, l’emploi de métaphores, est selon Gilles Fauconnier un prérequis du processus d’intégration conceptionnelle qui est à l’origine de la créativité et donc de la découverte.

Même si elle difficile d’expliquer ce concept en quelques lignes, il convient d’en dire quelques mots.

Selon Gilles Fauconnier, une conversation par exemple, générera l’ouverture d’un espace mental caractérisé par une certaine structure et une sémantique. Le cerveau qui n’a de cesse de scanner de manière imperceptible son contenu, recherche en permanence des analogies, à travers la reconnaissance de similarités structurelles.

Il peut par exemple découvrir un espace mental disposant de certains éléments de similarité de sorte que deux espaces mentaux soient désormais en mesure de s’intégrer pour en produire un troisième, résultat de l’intégration de deux premiers et susceptible de produire de la nouveauté.

Finalement, les scientifiques, en particulier depuis Galilée, n’ont eu de plus en plus recours aux expériences de pensée fondées sur l’analogie. On peut citer le cas d’Einstein qui pour réfléchir à l’équivalence de la masse inertielle et de le masse traditionnelle, imagine une personne enfermée dans un ascenseur sans fenêtre.

Selon lui, cette personne qui ressent une accélération n’a pas la possibilité de savoir si la cause de cette sensation est une force gravitationnelle dont elle est l’objet ou le mouvement accéléré de l’ascenseur.

Digression ? Non. Au contraire, mon propos est le suivant : la possibilité pour un être humain de réaliser des expériences de pensée, lesquelles requièrent notamment la possibilité pour le cerveau de repérer des analogies, n’est pas à la portée d’une machine de Turing.

La combinaison de sa capacité à repérer des analogies, de scanner sans cesse son contenu, pour produire toute sorte de pensées spontanées[4], de faire preuve de créativité, d’user de l’intuition mathématique, ne semblent pas à la portée d’une machine de Turing.

Notre conjecture est donc la suivante. L’intelligence artificielle ne sera jamais en mesure d’égaler l’intelligence humaine. Cependant par honnêteté scientifique nous proposons, répondant ainsi à l’injonction poppérienne, le falsificateur suivant :

Si un jour, un ordinateur était capable d’inventer une démonstration similaire au théorème d’incomplétude de Gödel, nous n’hésiterions pas à admettre la falsification de notre hypothèse.

Nous conclurons sur deux remarques dont une d’ordre sociologique que Thomas Samuel Kuhn aurait pu formuler.

L’attachement à un paradigme et notamment à celui qui consiste à admettre l’hypothèse d’une intelligence artificielle forte, c’est-à-dire pouvant intégrer toutes les capacités de l’esprit humain, est nécessairement l’objet d’un fort attachement pour ceux que la promotion de ce paradigme nourrit.

Il est effectivement plus vendeur pour les professionnels de l’intelligence artificielle de passer sous silence les limitations des machines Turing pour ne pas assombrir l’esprit des investisseurs et les laisser baigner dans une sorte d’euphorie, pourvoyeuse pour le chercheur de fonds illimités, de laboratoires sympathiques, de villas agréables, et du bonheur familial qui accompagnent habituellement ces gratifications.

Enfin, les scientifiques feraient bien d’étudier le risque éventuel d’involution résultant justement, de l’interaction entre des cerveaux humains et des dispositifs à base d’algorithmes fonctionnant exclusivement de manière digitale.

La question est la suivante :

A force de s’adapter à des machines plus limitées que lui, qui n’utilisent ni l’intuition ni l’analogie créative, l’être humain ne risque t-il pas de mettre en sommeil ces facultés exceptionnelles qui font sa singularité et le distingue d’une simple machine de Turing ?

[1] Amazon.fr – Les Démons de Gödel. Logique et folie ((Réédition)) – Cassou-Noguès, Pierre – Livres

[2] The Way We Think: Conceptual Blending And The Mind’s Hidden Complexities : Fauconnier, Gilles, Turner, Mark: Amazon.fr: Livres

[3] Amazon.fr – Le Théorème de Gödel – Nagel, Ernest – Livres

[4] The Oxford Handbook of Spontaneous Thought: Mind-Wandering, Creativity, and Dreaming (Oxford Library of Psychology) (English Edition) eBook : Fox, Kieran C.R., Christoff, Kalina: Amazon.fr: Boutique Kindle