Pour le site Marx21.ch, le 8 avril dernier, Jean Batou s’est entretenu avec Hubert Krivine sur son dernier livre ChatGPT, une intelligence sans pensée, Paris, éd. Cassini, 2024. En guise d’introduction, nous reproduisons le premier paragraphe de sa quatrième de couverture : « L’intelligence artificielle moderne opère essentiellement par induction, c’est-à-dire anticipe le nouveau à partir d’extrapolations de l’ancien. Mais cet ‘ancien’, issu des big data, même fort de milliards de données s’enrichissant en permanence, est loin d’épuiser le monde réel, infiniment plus vaste ». L’image titre représente le Golem, un être humanoïde de la mythologie juive d’Europe centrale, fait d’argile, doté provisoirement de vie, mais privé de libre-arbitre, destiné à obéir à son créateur…
— En quoi l’intelligence artificielle se distingue-t-elle des autres inventions qui ont jalonné l’histoire de l’humanité ?
L’étude de ce qu’on appelle improprement l’IA est un formidable moteur pour l’étude de l’intelligence humaine. C’est une originalité par rapport à la plupart des outils fabriqués jusqu’ici, comme les machines à vapeur ou le téléphone. Si tout le monde ne comprenait pas exactement comment ils fonctionnaient, on se rassurait en pensant que leurs concepteurs, eux, le savaient. Ce qui est troublant avec l’IA, c’est que ce n’est plus nécessairement le cas. Toutes les conjectures deviennent possibles. Depuis celles qui avancent que IA dépassera l’intelligence humaine à celles qui n’y croient pas. Et dans la première catégorie, celles qui y voient le danger d’une IA malfaisante et, dans la seconde, l’assurance d’un immense progrès pour l’humanité. En fait, ces deux visions ne s’opposent pas, parce que la croyance dans les possibilités de nuisance de l’IA est d’autant plus convaincante que ses succès sont éclatants.
— Comment fonctionne un assistant virtuel comme ChatGPT ?
Il repose sur l’induction, c’est-à-dire sur la généralisation de cas particuliers. À partir des connaissances actuelles qui comptent des centaines de milliards de données, l’IA produit des « cartes » et ChatGPT en extrait de manière très sophistiquée, en partant du « prompt » (de la question que tu lui poses), les opinions ou les prévisions qu’il juge les plus probables à un moment donné. Ce qui lui réussit, tant qu’il peut opérer sur le mode « toutes choses égales par ailleurs ». Mais ce n’est pas possible dans la même mesure dans tous les domaines. Il y a, derrière cette démarche, l’idée que les mêmes causes produisent les mêmes effets, ce qui semble la base de la démarche scientifique, même s’il faut manier cela avec prudence.
— Peux-tu me donner des exemples concrets des limites du raisonnement inductif ?
Des exemples ? Quelle que soit la matière dont une bille est faite, de même que son plan de roulement, et quelle que soit la pichenette initiale qu’on lui donne, une bille lancée finira toujours par s’arrêter. Par induction, on en conclurait qu’une force est nécessaire pour entretenir le mouvement. De même, l’expérience mille fois répétée enseignerait que les corps tombent d’autant plus vite qu’ils sont lourds. Malgré leur généralisation possible, ces constatations conduiraient à des lois erronées, parce qu’elles négligent (entre autres) les frottements qui sont inévitables dans toute expérience réelle. C’est « l’expérience de pensée » qui a permis à Galilée de réfuter les conclusions d’Aristote sur la gravitation, et non l’expérience (inventée) de la chute d’objets du haut de la tour de Pise. De même, La relativité d’Einstein a pu être vérifiée expérimentalement, mais elle a été découverte antérieurement par une démarche théorique, sur la base des contradictions de la mécanique newtonienne et des équations de Maxwell. Je dirais la même chose de la mécanique quantique.
— Pourquoi les mêmes effets gravés dans les big data ne peuvent pas être le produit des mêmes causes ?
Parce que, comme Maxwell le signalait, il y a près d’un siècle et demi, il est évident que tout événement n’apparaîtra jamais qu’une seule fois et qu’ainsi les causes et les effets d’un phénomène ne peuvent jamais être les mêmes. On pourrait tenter de remédier à cette tare congénitale en étudiant d’autres phénomènes semblables, mais à des échelles différentes, puis, en jouant avec des proportionnalités, de les ramener au cas étudié. Mais ce serait une erreur, parce qu’on doit se méfier de la non-proportionnalité des causes aux effets. Ainsi, Diderot se trompait lorsqu’il affirmait : « Posez une cause, un effet s’ensuit ; d’une cause faible, un faible effet ; d’une cause momentanée, un effet d’un moment ; d’une cause intermittente, un effet intermittent […] » Même quand on connaît parfaitement la loi d’évolution d’un système, le chaos déterministe nous enseigne que, dans certains cas, une toute petite variation des conditions initiales ou de l’environnement (l’effet papillon) peut entraîner des variations colossales des conditions finales…
– Il n’en reste pas moins vrai que tout phénomène à une cause, même si elle est n’est pas reproductible, non ?
Il n’est pas vrai que tout phénomène a une cause. Le problème réside dans ce une. Chaque explication renvoie à une cascade infinie d’autres explications. Pour comprendre un phénomène, il faut définir la focale temporelle et spatiale de cette cascade. Prenons un exemple : la mort de Henri IV. Cause immédiate, le poignard du fanatique Ravaillac. Mais au-delà, son fanatisme renvoie aux guerres de religion qui, elles-mêmes, sont le produit de conflits socio-économiques… Le bon historien est celui qui est capable de choisir dans ce fouillis de causes, celles qui répondent aux questions qu’il veut étudier.
— Comment travaillent les scientifiques ?
Les scientifiques, travaillent non seulement avec les connaissances déjà répertoriées, ce qui se passe quand ils utilisent ChatGPT, mais aussi sur le « terrain ». Ils cherchent « à expliquer le réel compliqué par de l’invisible simple » (Jean Perrin). C’est ce qu’on appelle la « théorie » et elle ne résulte jamais de la simple accumulation de données. Comme Poincaré l’affirmait : « On fait la science avec des faits, comme on fait une maison avec des pierres : mais une accumulation de faits n’est pas plus une science qu’un tas de pierres n’est une maison ». Autrement dit, la carte n’est pas le « terrain ». Quelles que soient sa résolution et la richesse de ses couleurs, elle est et restera infiniment plus pauvre.
— Shakespeare fait dire à Hamlet : « Il y a plus de choses sur la terre et dans le ciel, Horatio, qu’il n’en est rêvé dans votre philosophie », une phrase que Marx et Freud aimaient beaucoup… Ne distingue-t-il pas précisément ce « terrain » aux propriétés infinies qui ne peut se résumer à une « carte » ?
Qu’est-ce qu’un terrain ? C’est sa faune, sa flore, avec ses milliards d’espèces en interaction, son prix de vente, sa poésie, ses odeurs, son emplacement, bref une quantité infinie de paramètres que l’être humain doit trier suivant l’usage qu’il veut en faire. L’arbre du botaniste n’est pas celui du psychanalyste, pour qui il peut évoquer un symbole phallique ; pour l’arboriculteur, il sera plutôt une source de revenus. De même, la carte génétique d’un être vivant n’épuise pas ses potentialités, comme la musique ne se réduit pas à la partition ou l’individu à sa carte d’identité…
— Quels éléments essentiels manquent au raisonnement inductif ?
L’induction, le raisonnement du type « jamais deux sans trois » est utile dans la vie courante. Elle a aussi permis des découvertes importantes. Mais, elle fait abstraction de l’interaction des phénomènes avec leur environnement et avec leur propre histoire. Or, la médecine ou l’économie ne peuvent pas s’abstraire de l’environnement ou de l’histoire. Mieux encore, les phénomènes politiques et sociaux sont en constante interaction avec la mémoire du passé et le monde qui les entoure… Est-ce à dire que ces domaines échappent à toute démarche scientifique ? Non, bien sûr, mais l’induction ne leur est pas d’un grand secours. Je peux te donner un autre exemple tiré d’une science « dure » : on sait calculer et prédire avec une grande précision le mouvement de deux planètes, mais pas de trois, et encore moins celui de toutes. C’est ici l’environnement qui rend l’induction impraticable.
— À t’écouter, il me semble que l’IA peine particulièrement à saisir les sauts de l’évolution, les changements inopinés dans la progression d’un processus, qui caractérisent pourtant la plupart des phénomènes dans la durée…
ChatGPT appuie son intelligence sur la moyenne statistique d’un très grand nombre de données. Ainsi, peut-il prendre des corrélations hasardeuses pour des causalités. Par ailleurs, il ne peut éviter de reproduire aveuglement les biais racistes ou sexistes enregistrés par les big data. C’est pourquoi les analyses statistiques classiques ne procèdent pas de cette façon : elles raisonnent à partir d’échantillons plus réduits, constitués à partir d’hypothèses théoriques qui visent à corriger de tels biais. Mais c’est précisément la capacité de déterminer des hypothèses qui fait défaut à l’IA. Par ailleurs, l’histoire change de cours à la suite d’événements exceptionnels. Il suffit de penser à la disparition des dinosaures… sans parler des révolutions sociales. En réalité, l’évolution est déterminée par une série d’événements hors du commun, que la réduction à la moyenne, par définition, ne peut pas appréhender. De façon plus générale, tous les phénomènes chaotiques échappent en grande partie à l’IA.
— Nietzsche a écrit qu’il fallait porter en soi un chaos pour accoucher d’une étoile qui danse ? En d’autres termes, la pensée créative nécessite-t-elle d’autres facultés que le raisonnement inductif ?
Tu me fais penser à une réflexion d’Oriol Bohigas, un physicien nucléaire, spécialiste du chaos quantique, qui grommelait chaque fois qu’on rangeait son bureau. « On m’empêche de penser, protestait-il : mon bureau est (dés)organisé comme mon esprit ». Pascal distinguait ainsi l’esprit de finesse, qui ne nécessite pas le raisonnement rationnel, de l’esprit de géométrie, qui sont pourtant tous deux nécessaires au chercheur. Einstein revendiquait lui aussi son esprit artistique et sa faculté de puiser librement dans son imagination. Plus concrètement, pour comprendre comment aller au-delà de la formule x =1/2 g t2, qui permet de mesurer la distance parcourue par un objet en chute libre à la verticale, il faut prendre en compte la résistance de l’air, la déviation vers l’est (due au fait que la Terre n’est pas un point de référence galiléen), l’influence de tous les autres corps pesants sur cet objet, la relativité, et, si le corps est petit, la mécanique quantique… Je doute fort que l’induction puisse arriver à tout ça avant longtemps.
— Quel problème vois-tu dans le caractère privé de l’IA et le pouvoir qu’elle donne à ses détenteurs ?
Cette intelligence est en contradiction évidente avec la propriété privée, parce qu’elle est intrinsèquement sociale, c’est-à-dire en interaction constante avec les productions de l’humanité et avec son environnement vivant ou inanimé. Il est trop tôt pour évaluer la portée de ChatGPT. Dans bien des domaines, elle s’avère contradictoire. Elle peut favoriser les progrès de la connaissance comme les entraver. Par exemple, l’étude du « repliement des protéines », qui leur confère leurs fonctions a fait d’énormes progrès grâce à l’IA, ce qui devrait permettre de trouver de nouveaux médicaments.
— ChatGPT ne pose-t-il pas des problèmes particuliers dans le domaine de l’enseignement ?
On écrit de moins en moins, ce qui n’est pas grave, parce qu’on ne lit plus les textes longs : les résumés de ChatGpt s’en occupent très bien. En Angleterre, on envisage même la correction des devoirs écrits par l’IA. Sous forme de boutade, je pourrais te dire que, dans la mesure où ils auront été écrits par l’IA, ce sera davantage une autocorrection ! Mais, cela pose évidemment de redoutables problèmes aux enseignants, beaucoup plus sérieux que ceux qu’avait posé la calculette en son temps. Pour s’en rendre compte, il suffit de songer à cette réflexion de Kepler dans Astronomie nouvelle : « Les voies par lesquelles les hommes arrivent à comprendre les choses célestes me semblent aussi admirables que les choses elles-mêmes ». Or, quelques clics sur ChatGPT ne peuvent susciter un bien grand émerveillement.
— J’ai demandé à ChatGPT ce qu’il « pensait » de ton livre et il m’a répondu notamment : « la pensée, selon lui, indique des intentions », soit le contraire de ce que tu écris…
Il s’est donc trompé. Ça arrive… Mais, les détracteurs de l’IA affaiblissent leur propos lorsqu’ils se focalisent sur ses erreurs (curieusement baptisées « hallucinations », comme s’il s’agissait d’un cerveau humain). Ces bourdes pourront être — et seront — corrigées. Mais revenons au concept même de pensée. Peut-on dire que la pensée progresse, comme on le dit de l’intelligence ?
— Quelle différence fais-tu entre l’intelligence et la pensée, que tu opposes dans le titre de ton livre ?
Une masse de définitions existent à ce sujet. Je me contenterai de dire, grosso modo, que l’intelligence définit la capacité à résoudre un problème en théorie ou en pratique. Et ce, de façon consciente ou pas (ce terme vient de « inter legere »). L’étymologie de « comprendre » est très voisine (« cum prehendere », c’est-à-dire prendre avec, unifier). En revanche, je renoncerai à définir la pensée autrement que par le bouillonnement de tout ce qui se passe dans le cerveau, causé par ses interactions avec l’ensemble de l’univers (le « terrain », ou le « tout », y compris notre corps). C’est peut-être bien flou, mais comment définir plus précisément un concept aussi protéiforme sans l’amputer de bien de ses usages ? La pensée peut susciter des problèmes qu’il reviendra à l’intelligence de résoudre. En d’autres termes, l’intelligence est finalisée, pas la pensée. Peut-on parler d’une pensée artificielle ? La machine à penser n’existe pas, ou bien (actuellement encore ?) c’est le cerveau, ou plutôt les cerveaux, comme le dit bien le biologiste Antoine Triller :
« Ce qui fait la pensée, ce n’est pas le cerveau ; mais les cerveaux. C’est l’interaction des cerveaux les uns avec les autres […] C’est un phénomène collectif des cerveaux par l’intermédiaire du corps […] La question du corps fait partie du système qui alimente le cerveau en permanence. Un cerveau tout seul, ça ne sert à rien, ça ne marche pas […]. Il faut des humains, des hommes et des femmes qui interagissent entre eux pour que la pensée émerge comme étant quelque chose dans le collectif de l’ensemble des cerveaux. » (Extrait d’une conférence donnée à l’Académie des sciences, le 4 avril 2023)
* Hubert Krivine est un physicien connu pour ses travaux en physique théorique et ses réflexions sur la philosophie des sciences. Il est l’auteur de plusieurs autres ouvrages, dont La Terre : des mythes au savoir (2011) ; De l’atome imaginé à l’atome découvert : contre le relativisme (avec Annie Grosman) (2016) ; Petit traité de hasardologie (2016) ; Comprendre sans prévoir, prévoir sans comprendre (2018) ; L’IA peut-elle penser ? Miracle ou mirage de l’Intelligence Artificielle (2021) ; On nous aurait menti ? De la rumeur au fake news (2022).
