Category: ISC1000

Posted on

Semaine 4 : Localisation cérébrale et neurones miroirs : Du « où et quand » à l’architecture fonctionnelle

La critique de Fodor : Localiser n’est pas expliquer. Jerry Fodor pose une question dérangeante : pourquoi cette fascination pour la localisation des fonctions mentales dans le cerveau ? Les techniques d’imagerie cérébrale nous révèlent où et quand certaines régions s’activent durant des tâches cognitives spécifiques. Un secteur s’illumine quand on pense aux théières, un autre quand on entend des noms plutôt que des verbes, un autre encore quand on voit des légumes. Mais quelle connaissance gagnons-nous vraiment ?

L’argument central de Fodor est simple mais dévastateur : savoir où se produit une fonction ne nous dit rien sur comment elle se réalise. Son analogie avec le carburateur est parlante. Comprendre le fonctionnement d’un moteur exige de saisir que le carburateur aère l’essence, qu’il contribue ainsi au fonctionnement global. Mais pourquoi importe-t-il de savoir où exactement le carburateur se situe dans le moteur ? À moins de vouloir le retirer chirurgicalement, cette information topographique n’ajoute rien à la compréhension du mécanisme. 

De même pour le cerveau. Personne ne doute sérieusement que parler, faire du vélo ou construire un pont dépend de processus cérébraux quelque part au nord du cou. Mais pourquoi préciser à quel point au nord ? Fodor souligne que les neuroscientifiques accumulent des cartes cérébrales sans hypothèses claires sur ce qu’elles sont censées nous révéler. Ce sont des scientifiques « qui ont une caméra mais pas d’hypothèse ».

La corrélation entre activité neuronale et fonction mentale ne constitue pas une explication causale du fonctionnement. Elle nous dit « quand » et « où », mais reste muette sur le « comment » et le « pourquoi ». Cette critique méthodologique est redoutable : si la recherche la plus coûteuse en neurosciences se contente de localiser sans expliquer, elle absorbe des ressources qui pourraient servir à élucider les mécanismes réels. (Attention : Fodor ne conteste aucunement la valeur de la localisation à la neurologie ou à la neuropsychologie cliniques.)

Les neurones miroirs : Un cas d’école apparent. La découverte de Rizzolatti des neurones miroirs semble, à première vue, illustrer parfaitement la critique de Fodor. Ces neurones dans le cortex précentral ventral du macaque s’activent aussi bien quand le singe exécute une action (saisir un objet) que lorsqu’il observe un autre individu exécuter la même action. Des neurones aux propriétés similaires ont été localisés dans le lobule pariétal inférieur. Chez l’humain, les données d’EEG, MEG, TMS et d’imagerie (TEP, IRMf) confirment l’existence d’un système miroir.

Pendant des années, cette découverte semblait offrir peu plus qu’une cartographie sophistiquée : voici où se produit l’activité miroir, voici quand elle s’active. L’imitation est une capacité comportementale que nous savions déjà posséder, partagée avec de nombreuses espèces, opérant dans plusieurs modalités sensorielles et motrices. Mais identifier les corrélats neuronaux de cette capacité ne révélait pas comment le cerveau la réalise. Aucun message utile pour les roboticiens cherchant à rétro-ingénierier cette réciprocité entre la perception sensorielle et la production motrice. Ce nr sont que des paramètres de localisation spatiotemporelle pour une fonction qui est déjà connue. Cette lecture initiale inscrivait les neurones miroirs dans le paradigme que critique Fodor : beaucoup de technologie coûteuse pour localiser ce que nous savions déjà exister, sans avancer d’un pas vers la compréhension mécanistique.

Le tournant : De la localisation à l’architecture. Mais cette lecture était trop rapide. Ce qui est important n’est pas la localisation d’un type de neurone en un lieu précis, mais la découverte d’un pattern systématique : la fonction miroir se révèle être omniprésent, multimodal, et architecturalement canonique.

Rizzolatti montre que les neurones miroirs ne se contentent pas de coder des actes moteurs isolés. Certains sont « contraints par l’action » : ils ne s’activent que si l’acte moteur observé s’inscrit dans une action spécifique. Un neurone peut décharger pour « saisir-pour-manger » mais pas pour « saisir-pour-placer ». Cette spécificité permet à l’observateur non seulement de reconnaître l’acte moteur observé, mais aussi de coder ce que sera le prochain acte moteur, donc de comprendre l’intention de l’agent.

Au-delà de l’action motrice, le mécanisme miroir opère aussi pour les émotions. L’insula antérieure et le cortex cingulaire antérieur s’activent à la fois quand un sujet éprouve du dégoût directement (exposition à des odeurs répugnantes) et quand il observe l’expression faciale du dégoût chez autrui. Des résultats similaires émergent pour la douleur. Le mécanisme miroir constitue ainsi la base neuronale de l’empathie.

Ce qui importe n’est donc pas qu’il existe un « module du dégoût » localisé dans l’insula, mais que la même structure qui élabore nos propres réponses émotionnelles s’active lors de l’observation des émotions d’autrui. Le pattern révèle un principe architectural : la compréhension d’autrui procède par transcription dans nos propres systèmes moteurs et émotionnels.

Transcription sensori-motrice. Rizzolatti souligne un point crucial : l’observation visuelle seule, sans implication du système moteur, ne fournit qu’une description des aspects visibles du mouvement. Elle n’informe pas sur ce que signifie réellement cette action. Cette information ne peut être obtenue que si la forme de l’action observée est aussi codée dans le système moteur de l’observateur. L’activation du circuit miroir devient ainsi essentielle pour donner à l’observateur une compréhension réelle, expérientielle de la production de l’action perçue.

Voilà ce qui échappe à la critique de Fodor appliquée mécaniquement. Il ne s’agit pas simplement de savoir où se trouve un module d’imitation, mais de reconnaitre que l’apparence perceptive chez autrui est conforme avec sa production chez soi-même. Le mécanisme miroir relie le codage de ce que ça fait de voir l’action par les aires visuelles complexes, vers les aires motrices qui codent ce que ça fait de faire cette action. Ce n’est pas une simple corrélation topographique, c’est un principe fonctionnel : comprendre l’action d’autrui, c’est savoir comment (et pourquoi) la produire soi-même.

Implications pour les origines du langage. Le mécanisme miroir offre un cadre pour aborder les origines gestuelles de la parole (qui seront traitées dans les semaines 6 à 8). Depuis Condillac, plusieurs auteurs ont suggéré que la voie menant à la parole est née des communications gestuelles et non des cris des animaux. Les neurones miroirs créent un lien direct entre l’émetteur du message et le receveur. Grâce au mécanisme miroir, les actions exécutées par un sujet deviennent des messages compris par un observateur sans médiation cognitive.

L’observation d’un sujet saisissant une pomme est immédiatement comprise puisqu’elle évoque le même codage moteur dans le système miroir de l’observateur. Rizzolatti et Arbib ont proposé que le mécanisme miroir soit le système basique à partir duquel a évolué le langage. Le mécanisme miroir aurait résolu deux problèmes fondamentaux de la communication : la parité (ce qui compte pour l’émetteur compte aussi pour le receveur) et la compréhension directe (aucun symbole arbitraire n’est nécessaire).

Évidemment, le mécanisme miroir n’explique pas à lui seul l’extrême complexité de la parole. Mais il aide à résoudre une difficulté fondamentale : comment un message valable pour l’émetteur le devient également pour le receveur. La réciptocit.sensori-moteur fournit une base pré-linguistique pour la communication intentionnelle.

De la simple localisation au pattern architectural. La portée des neurones miroirs dépasse donc largement la simple localisation d’une fonction dans le cortex prémoteur ventral. Ce qui compte, c’est le pattern : la capacité de mirroring est omniprésente (motrice, émotionnelle), multimodale (vision-action, son-action, émotion-expression), et distribuée à travers plusieurs régions interconnectées (cortex prémoteur, lobule pariétal, insula, cortex cingulaire).

Ce pattern révèle quelque chose d’architectural sur l’organisation fonctionnelle du cerveau : la compréhension d’autrui, qu’elle soit motrice, émotionnelle ou communicative, procède par transcription dans les systèmes propres de l’observateur. Cette transcription n’est pas une simple « copie » passive, mais aussi une activation ressentie qui permet la compréhension.

Fodor a raison : savoir où se trouvent les neurones miroirs ne constitue pas en soi une explication. Mais le pattern systématique de leur distribution multimodale et de leur fonctionnement révèle un principe architectural : la perception et la production sont intimement couplées, la compréhension passe par la réciprocité sensori-motrice.

L’imitation et l’apprentissage. Rizzolatti distingue deux aspects de l’imitation : la capacité de reproduire immédiatement une action observée, et celle d’apprendre une nouvelle action par observation. La répétition immédiate est assurée par le système miroir seul. Mais l’apprentissage par imitation exige l’intervention du lobe préfrontal, qui combine des actes moteurs élémentaires codés par le système miroir pour produire des configurations motrices nouvelles.

Cette distinction est cruciale. Le système miroir fournit les « copies motrices » d’actions observées, mais la composition de nouvelles séquences motrices requiert des mécanismes combinatoires préfrontaux supplémentaires. Encore une fois, ce n’est pas la localisation qui importe, mais la compréhension que différents niveaux de capacités imitatives recrutent différentes architectures neuronales en interaction.

Implications cliniques et évolutives.

Les données montrent que les enfants autistes ont un déficit dans leur système miroir, et que la sévérité de leur affection corrèle avec l’importance de ce déficit. Ceci suggère que le système miroir joue un rôle dans les capacités sociales fondamentales, notamment la compréhension d’autrui et la communication.

D’un point de vue évolutif, on peut voir le mécanisme miroir comme une solution au problème de la communication interindividuelle et de la cognition sociale. L’évolution darwinienne – le « Blind Watchmaker » – a résolu le problème de l’implémentation de cette capacité. Mais identifier ce que l’évolution a construit ne dispense pas les sciences cognitives de leur tâche : la rétro-ingénierie de cette capacité. Comprendre comment le cerveau réalise le réciprocité perception-production reste un défi ouvert.

Conclusion : Au-delà de Fodor. La critique de Fodor garde toute sa force contre une neuroscience qui se contenterait de cartographier sans théoriser. Savoir où et quand certaines régions s’activent ne suffit pas. Mais lorsque les données de localisation révèlent un pattern systématique – la distribution multimodale et fonctionnellement cohérente du mécanisme miroir – elles contraignent nos théories sur l’architecture fonctionnelle.

Les neurones miroirs ne sont pas intéressants parce qu’ils sont dans le cortex prémoteur plutôt qu’ailleurs. Ils sont intéressants parce que leur pattern de distribution révèle un principe : la compréhension sensori-motrice, émotionnelle et communicative d’autrui procède par transcription dans nos propres systèmes. Cette transcription constitue le substrat expérientiel de la compréhension.

La question n’est plus « où sont les neurones miroirs ? » mais « comment le cerveau implémente-t-il cette capacité de mirroring multimodale ? » Voilà une question que même Fodor pourrait peut-être juger digne d’investigation. Elle ne demande pas simplement une caméra, mais une hypothèse sur le mécanisme qui permet à la perception de se transcrire en représentation motrice, réciproquement et d’ainsi fonder la compréhension.

L’évolution a résolu le problème de l’implémentation. Aux sciences cognitives de faire leur travail de rétro-ingénierie.

Post-scriptum : La critique de Fodor à propos de la neuro-imagerie et de la localisation ne concerne pas seulement le phénomène des neurones miroirs lui-même, mais aussi le fait que la neuro-imagerie permet de poursuivre l’étude des capacités miroirs chez l’humain de manière inoffensive, plutôt que par des expériences invasives et cruelles sur les singes. La neuro-imagerie rend ce remplacement possible aussi dans beaucoup d’autres domaines de recherche neuroscientifique qui causent la souffrance aux animaux non humains.

Posted on

L’argument de La Chambre Chinoise de Searle

L’article de John Searle de 1980, Minds, Brains, and Programs, n’était pas une attaque générale contre l’intelligence artificielle, ni un plaidoyer mystique en faveur de l’ineffable humain. Sa cible était une thèse bien précise, qu’il a maladroitement baptisée « Strong AI », mais qui correspond à ce que l’on appelle plus clairement aujourd’hui le computationnalisme (« C = C »): l’hypothèse que la cognition n’est rien de plus que de la computation, autrement dit que les états mentaux sont des états computationnels, indépendants du support matériel qui les implémente.

Dans le cadre du cours, il est crucial de formuler correctement la cible de Searle. Il ne s’agit pas de savoir si les ordinateurs sont utiles pour modéliser la cognition (ce que Searle accepte), ni si des machines peuvent faire des choses impressionnantes. La question est celle-ci : si un système purement computationnel réussissait le test de Turing verbal (T2) à l’échelle d’une vie entière, serait-il pour autant en train de comprendre ce qu’il dit ? Le test est radical : pas un jeu de cinq minutes, pas une démonstration de surface, mais une indiscernabilité verbale durable avec des interlocuteurs humains normaux, sur n’importe quel sujet.

L’expérience de pensée de la Chambre chinoise suppose précisément ce cas. Imaginons qu’un programme permette à un ordinateur de passer avec succès un tel test en chinois. Searle, qui ne comprend pas le chinois, est placé dans une pièce et reçoit des chaînes de symboles chinois. À l’aide de règles formelles (un algorithme) exprimées en anglais, il manipule ces symboles et renvoie d’autres symboles chinois. De l’extérieur, à ces interlocuteurs chinois, le mots de Searle sont indistinguable de ceux d’un locuteur chinois natif : questions, réponses, discussions prolongées sur n’importe quel sujet imaginable. Pourtant, du point de vue interne, Searle n’a aucune compréhension du chinois. Il ne sait pas ce que signifient les symboles qu’il manipule.

L’argument repose alors sur un principe central du computationnalisme : l’indépendance du logiciel (l’algorithme) de son implémentation matérielle (la machine de Turing qui manipule les symboles (les mots chinois). Si comprendre une langue était une propriété purement computationnelle, alors tout système implémentant le bon programme devrait comprendre, indépendamment du matériel qui exécute le logiciel (un Mac, un PC) . Or ici c’est Searle qui exécute ce logiciel qui réussi le T2 chinois. Et pourtant, Searle ne comprend les symboles chinois qu’il est en train de manipuler. C’est ici qu’intervient ce qu’on a appelé plus tard « le périscope de Searle » : une occasion exceptionnelle de pénétrer la barrière des autres esprits. Normalement, une personne ne peut aucunement savoir si une autre personne ressent quoi que ce soit: une idée, une humeur, une sensation. Mais si la cognition était identique à une computation, alors en devenant lui-même l’implémentation matérielle du logiciel qui réussit le T2 chinois, Searle devrait lui-même ressentir la compréhension du chinois en exécutant toutes les manipulations de symboles qui font la compréhension du chinois (C=C). Mais il peut nous faire le témoignage: « Je manipule les symboles qu’on me donne comme entrées, selon les règles de manipulation qu’on me donne aussi, mais je n’en comprends absolument rien. Je ne comprends toujours pas le chinois. Donc la conclusion est inévitable : la cognition n’est pas de la computation (C≠C). Plus précisément, elle ne peut pas être exclusivement computationnelle.

C’est là que commencent les malentendus, souvent entretenus par Searle lui-même. La réponse la plus célèbre est la « System Reply » selon laquelle Searle ne serait qu’une partie du système; pourtant c’est le système global — Searle + les règles, les symboles, la pièce — qui comprendrait le chinois. Searle réplique facilement en internalisant le système intégral : il n’aurait qu’àmémoriser les règles et effectuer toutes les manipulations dans sa tête. Rien ne change : il n’y a toujours aucune compréhension. Cette réplique est décisive contre l’idée que la simple agrégation de composants syntaxiques (la manipulation des symboles de forme arbitraire d’après les règles) puisse engendrer une compréhension du sens.

Mais beaucoup de critiques ont refusé la conclusion en raison de formulations confuses. D’abord, l’usage par Searle des termes « Strong AI » et « Weak AI » a brouillé le débat. « Weak AI » ne désigne en réalité que la la thèse forte de Church-Turing : que la computation peut simuler pratiquement n’importe quel objet ou processus dans l’univers. Cette thèse est compatible avec l’argument de Searle. L’argument ne montre pas que la cognition ne peut pas être simulée, mais qu’une simulation computationnelle n’est pas, en elle-même, l’objet simulé: la bonne recette pour faire un gâteau végane n’est pas elle même le gâteau végane; et l’exécution de la recette végane n’est pas juste de la computation: c’est de l’impression 3D: On mélange les ingrédients, puis on fait cuire le gâteau au four. Ce qui n’est plus juste de la computation: Cuisiner n’est pas juste de la computation!

Deuxième confusion : l’idée que Searle aurait réfuté le test de Turing en tant que tel. C’est faux. L’argument montre seulement que T2, pris isolément et sous une interprétation strictement computationnelle, ne garantit pas la compréhension. Il ne dit rien contre T3 (ancrage sensorimoteur) ni contre T4 (duplication structurelle complète). En fait, l’argument laisse entièrement ouverte la possibilité qu’un système hybride — computationnel et non computationnel — puisse comprendre, ou qu’un système robotique ancré dans le monde puisse acquérir des significations que Searle, enfermé dans sa pièce, ne peut pas acquérir.

Troisième erreur fréquente : croire que Searle aurait montré que « la cognition n’est pas computationnelle du tout ». L’argument ne montre rien de tel. Il montre seulement que la cognition ne peut pas être uniquement computationnelle. La computation peut parfaitement jouer un rôle causal essentiel dans un système cognitif, sans en épuiser les propriétés sémantiques. Sur ce point, la « System Reply » avait une intuition juste, même si elle échouait comme réfutation : comprendre peut être une propriété d’un système global, mais pas d’un système purement syntaxique.

Enfin, Searle a lui-même surinterprété sa conclusion en suggérant que la solution devait nécessairement passer par la duplication des pouvoirs causaux du cerveau biologique. Rien dans l’argument n’impose un tel saut vers T4. Il reste une vaste gamme de possibilités intermédiaires : systèmes dynamiques non computationnels, architectures hybrides, réseaux neuronaux couplés au monde, agents sensorimoteurs apprenant par interaction. L’argument ne tranche pas en faveur des neurosciences contre la science cognitive. Il tranche uniquement contre le computationnalisme pur.

Malgré ces excès et ces confusions, l’importance historique de la Chambre chinoise est considérable. Elle a forcé la discipline à distinguer clairement syntaxe et sémantique, simulation et instanciation, performance verbale et compréhension. Elle a aussi préparé le terrain pour ce qui deviendra explicitement, quelques années plus tard, le problème de l’ancrage des symboles : comment des symboles formels peuvent-ils acquérir une signification intrinsèque pour un système, plutôt que seulement une interprétation extrinsèque par un observateur ?

La leçon méthodologique centrale est donc la suivante : passer un test comportemental, même très exigeant, n’explique pas en soi comment le sens est généré. L’argument de Searle ne ferme pas la route vers une science mécaniste de la cognition. Il ferme seulement une impasse : celle qui croyait pouvoir expliquer l’esprit par la manipulation de symboles non ancrés. En ce sens, loin d’être un obstacle, la Chambre chinoise a été un déclencheur. Elle a rendu inévitable la question qui structure la suite du cours : comment relier les symboles au monde, et le langage à l’action et à la perception.

Posted on

Le test de Turing et la rétro-ingénierie de la capacité cognitive

L’article de Turing de 1950 ne proposait ni un tour de passe-passe, ni un concours de tromperie, ni un jeu d’imitation à court terme. Il proposait un tournant méthodologique pour une future science de l’esprit : cesser de demander ce qu’est la pensée et chercher plutôt à expliquer comment les penseurs peuvent faire ce qu’ils peuvent faire. Le remplacement de la question vague « Les machines peuvent-elles penser ? » par un critère opérationnel ne visait pas à banaliser la cognition, mais à l’ancrer dans la capacité de performance empirique. L’enjeu n’était pas de duper des juges, mais de rétro-ingénier la totalité des capacités cognitives humaines de manière à les rendre reproductibles par une explication causale dont nous comprenons le fonctionnement. La question centrale n’est pas de savoir si une machine peut passer pour un penseur, mais comment et pourquoi les humains pensants peuvent faire tout ce qu’ils peuvent faire.

La terminologie malheureuse de « jeu » et d’« imitation » a entretenu une confusion durable. L’intuition méthodologique de Turing est que la cognition est invisible, alors que la performance ne l’est pas. Nous ne pouvons pas observer la pensée directement, ni chez autrui ni chez les machines, mais nous pouvons observer ce que les penseurs ont la capacité de faire. Le test n’a donc jamais porté sur la supercherie, mais sur l’indiscernabilité en capacité de faire (dites « l’indiscernabilité Turingienne »). L’interrogateur n’est pas un naïf, mais n’importe quel penseur humain neurotypique. Le véritable critère n’est pas que des personnes soient trompées, mais qu’il n’existe aucun moyen de distinguer le candidat d’un être humain normal à partir de sa performance observable. S’il y a une différence discernable, le candidat échoue. Sinon, alors la rétroingénieurie a réussi et le mécanisme interne qui a produit le succès constitue une potentielle explication causale de la capacité cognitive humaine.

Cela soulève immédiatement la question de l’étendue et de la durée du Test de Turing. La remarque occasionnelle de Turing sur cinq minutes et des pourcentages a été interprétée de façon absurde. Il s’agit d’une prédiction démographique, non d’un critère scientifique. La science cognitive n’est pas l’art de tromper certaines personnes pendant un certain temps. Un test sérieux de la cognition rétro-ingéniérée doit être ouvert et, en principe, valable sur toute une vie. Le candidat doit pouvoir continuer à faire ce que les humains peuvent faire, à travers les domaines et les contextes, sans s’épuiser dans des astuces pré-programmées ou des bases finies de cas. Un système qui s’effondre lorsque la conversation s’aventure en terrain imprévu, ou lorsqu’il est soumis à des sondages persistants, ne révèle pas une capacité cognitive générale. Il révèle un artefact de performance borné.

Tout aussi importante est la restriction au canal verbal. Turing a introduit l’interaction dactylographiée comme un moyen de mettre entre parenthèses l’apparence et les indices physiques non pertinents, non comme une thèse selon laquelle la cognition serait épuisée par le langage. L’exclusion de la voix, du geste et de l’incarnation visait à neutraliser des indices superficiels, non à nier que les humains sont des agents sensorimoteurs dans un monde physique. Interpréter le test comme intrinsèquement verbal revient à confondre une commodité méthodologique avec un engagement théorique. La capacité cognitive humaine n’est pas un simple module de clavardage. Elle est ancrée dans la perception, l’action et l’interaction causale avec le monde. Un système qui ne peut qu’échanger des symboles, sans pouvoir voir, se déplacer, manipuler et être affecté par son environnement, manque une grande partie de ce que les humains peuvent faire.

C’est pourquoi la distinction entre une indiscernabilité purement verbale et une indiscernabilité robotique complète est cruciale. Un système qui réussirait une vie entière d’échanges par courriel serait déjà une prouesse d’ingénierie remarquable, mais il laisserait ouverte la question de savoir si ce même système pourrait, par exemple, sortir, regarder le ciel et dire si la lune est visible, apprendre à utiliser des outils inconnus, se déplacer dans un environnement encombré, ou acquérir de nouvelles catégories ancrées dans les choses qu’il y a dans le monde auxquelles réfèrent leurs noms, par essais et erreurs. Ce ne sont pas des options accessoires. Elles font partie du répertoire ordinaire de la performance cognitive humaine. Traiter le langage comme un module autonome, c’est risquer de confondre une interface puissante avec un esprit complet.

Cela conduit à la question de la computation. Le travail de Turing sur la calculabilité, et la thèse de Church-Turing, portent sur ce qui peut être calculé par manipulation de symboles selon des règles. Ils n’affirment pas que tous les processus causaux sont computationnels, ni que la cognition n’est rien d’autre que de la computation. Le test lui-même est agnostique quant aux mécanismes internes. Il n’exige pas que le candidat réussi soit un ordinateur numérique. Ce qu’il exige, c’est que nous l’ayons construit et que nous comprenions, au moins en principe, comment il fonctionne. L’objectif est l’explication, non la simple duplication. Cloner un être humain, même si cela produisait un performer indiscernable, ne constituerait pas une explication de la cognition, car nous n’aurions rien rétro-ingéniéré. Nous aurions simplement reproduit ce que nous cherchions à expliquer.

Turing semble parfois glisser vers une restriction aux ordinateurs numériques, en partie en raison de l’universalité de la computation. Mais l’universalité de la simulation n’est pas l’universalité de l’instanciation physique. Un avion simulé ne vole pas, et un robot simulé n’agit pas dans le monde. L’équivalence formelle ne confère pas de capacité causale dans le monde réel. Un agent sensorimoteur virtuel dans un environnement virtuel peut être utile pour la modélisation et les tests, mais il ne satisfait pas en lui-même à un critère de performance dans le monde réel. Si la cognition dépend en partie d’un couplage sensorimoteur réel avec l’environnement, alors un système purement computationnel, aussi sophistiqué soit-il, peut ne pas satisfaire au critère complet de performance.

Il ne s’agit pas d’une thèse métaphysique sur l’incarnation pour elle-même. Il s’agit d’une thèse empirique sur ce que les humains peuvent faire. La compétence verbale humaine est plausiblement ancrée dans l’expérience non verbale (sensori-motrice, robotique. Une grande partie de ce que nous pouvons dire présuppose ce que nous pouvons voir, toucher, reconnaitre, identifier, dénommer, décrire, manipuler et apprendre par interaction. Un système qui n’a jamais rencontré le monde autrement que par le texte est contraint de s’appuyer sur des descriptions verbales indirectes produites par d’autres. Ce n’est pas équivalent à un ancrage sensorimoteur propre. La différence est décisive si l’objectif n’est pas de mimer un comportement de surface dans des contextes restreints, mais de correspondre à la capacité humaine générique.

Le succès contemporain des grands modèles de langage rend ce point particulièrement saillant. Ces systèmes présentent une fluidité verbale et une étendue de connaissances apparentes extraordinaires. Ils peuvent soutenir de longs échanges, s’adapter à de nombreux sujets et paraître souvent étonnamment humains dans des interactions textuelles. Mais ils y parviennent en s’entraînant sur des corpus massifs de langage produit par des humains. Ils héritent, en effet, d’un immense réservoir de descriptions verbales du monde de seconde main . Ce n’est pas un ancrage au sens pertinent pour la rétro-ingénierie de la cognition. C’est une structure empruntée. Le système n’a pas appris ses catégories en agissant dans le monde et en recevant un retour correctif. Il a appris des régularités statistiques dans le texte qui reflètent la manière dont des humains ancrés parlent du monde.

C’est ce qui rend le phénomène de la « grosse gorgée » à la fois fascinant et méthodologiquement trompeur. Il peut produire des performances verbales impressionnantes sans que le système lui-même ait l’histoire causale qui, chez les humains, sous-tend normalement cette performance. Il devient alors plus difficile de déterminer, à partir du seul comportement verbal, si le système possède une capacité générale ou s’il exploite un proxy massif mais en fin de compte fini de l’expérience. Une sonde de type Turing purement verbale devient donc de plus en plus vulnérable à des facteurs de confusion. Le système peut réussir de nombreux tests conversationnels non pas parce qu’il peut faire ce que les humains peuvent faire, mais parce qu’il a absorbé un enregistrement massif de ce que les humains ont dit sur ce qu’ils peuvent faire.

Cela ne montre pas que Turing avait tort avec son test. Cela montre que le canal verbal n’est plus un test de résistance suffisant. Si le test doit conserver son rôle comme critère de cognition rétro-ingéniérée, il doit être compris dans son sens complet, non abrégé. Le véritable étalon n’est pas une interface de clavardage, mais un système qui peut vivre dans le monde comme nous, acquérir de nouvelles catégories, apprendre des conséquences, corriger ses erreurs et intégrer perception, action et langage dans une seule capacité de performance cohérente.

La discussion par Turing des objections reste ici instructive. L’objection de Lady Lovelace, selon laquelle les machines ne peuvent faire que ce que nous leur disons de faire, repose sur une conception erronée des règles et de la nouveauté. Des systèmes gouvernés par des règles peuvent néanmoins produire des résultats imprévisibles en pratique, et le comportement humain n’est pas moins régi causalement par des régularités. La question profonde n’est pas de savoir si les machines peuvent nous surprendre, mais si nous pouvons expliquer comment un système en vient à posséder les capacités flexibles et ouvertes qui caractérisent les humains. La surprise est bon marché ; la compétence générique ne l’est pas.

De même, les arguments fondés sur Gödel concernant l’intuition mathématique manquent la cible s’ils sont interprétés comme montrant que la pensée humaine transcende mécaniquement toute explication causale. Savoir qu’une proposition est vraie n’est pas la même chose qu’avoir une preuve formelle, et aucun de ces faits n’établit, à lui seul, que la cognition ne puisse être mécanisée au sens de la performance pertinent pour le test. Le test de Turing ne tranche pas les questions métaphysiques sur l’esprit ou la conscience. Il fournit un critère d’adéquation explicative en science cognitive.

Cela conduit à la distinction cruciale entre faire et ressentir. Même un système qui satisferait pleinement au critère de performance ne serait pas, pour autant, connu comme ressentant. C’est le « problème des autres esprits », qui s’applique aussi bien aux humains qu’aux machines. Le test n’est pas une solution au problème de la conscience. C’est une solution au problème méthodologique de l’évaluation de l’explication de la capacité cognitive: le succès de la rétro-ingénierie. Un candidat réussi nous donnerait, au mieux, une explication de la manière dont le faire est généré. La question de savoir s’il y a du ressenti, et comment le ressenti surgit, resterait un problème distinct, et peut-être insoluble.

Dans cette perspective, les affirmations selon lesquelles les LLM actuels auraient « réussi le test de Turing » confondent une indiscernabilité locale, à court terme et textuelle, avec une capacité cognitive générique, incarnée et valable sur toute une vie. Elles confondent également la tromperie démographique avec l’explication scientifique. Un système qui peut induire en erreur une fraction de juges pendant quelques minutes n’a pas, pour autant, été montré comme possédant une cognition de niveau humain. Il a montré que nos intuitions verbales (et nos capacités neurones-mirroir) sont faillibles et que la fluidité de surface est plus facile à obtenir qu’une compétence profonde et ancrée.

La contribution durable de Turing n’a pas été de nous donner un jeu de société, mais de fixer un programme empirique de recherche. La science cognitive, dans cette optique, consiste à rétro-ingénier la capacité de faire ce que les penseurs peuvent faire. Le test est le critère d’aboutissement de cette entreprise, non un raccourci pour la contourner. Si l’on prend cela au sérieux, le véritable défi n’est pas de construire de meilleurs bavards, mais de construire des systèmes capables d’agir, d’apprendre et de vivre dans le monde d’une manière indiscernable, en principe et en pratique, de ce que les humains peuvent faire au cours d’une vie. Ce n’est qu’alors qu’il serait raisonnable de dire que le projet de rétro-ingénierie a réellement abouti.

Turing, A. M. (1950/1990). Machines informatiques et intelligence. Mind, 49, 433-460.

Harnad, S. (2008) The Annotation Game: On Turing (1950) on Computing,Machinery and Intelligence. In: Epstein, Robert & Peters, Grace (Eds.) Parsing the Turing Test: Philosophical and Methodological Issues in the Quest for the Thinking Computer. Springer 

Posted on

Qu’est-ce que la computation?

Depuis le début du XXe siècle, une question apparemment technique a joué un rôle fondateur bien au-delà de la logique et des mathématiques : qu’est-ce que de « calculer » ? Lorsque nous disons qu’un mathématicien calcule, que fait‑il exactement ? Quelles opérations sont légitimes, lesquelles ne le sont pas, et comment les caractériser sans faire appel à l’intuition vague du « bon raisonnement » ou de l’ingéniosité humaine ? C’est ce problème précis qui a mobilisé, dans les années 1930, plusieurs logiciens – Church, Turing, Post, Kleene, Gödel – et qui a conduit à une clarification conceptuelle dont les retombées structurent encore aujourd’hui les sciences cognitives.

Il est essentiel de rappeler que le but initial n’était pas de construire des ordinateurs, ni d’expliquer l’esprit humain, mais de formaliser ce que font effectivement les mathématiciens lorsqu’ils effectuent un calcul rigoureux. Il s’agissait de cerner la notion de « procédure effective » : une suite d’étapes finies, explicites, mécaniquement applicables, qui transforment des symboles initiaux en symboles finaux. Autrement dit, il fallait rendre explicite ce qui, jusque‑là, était implicitement confié à l’intelligence humaine.

Ce qui est frappant rétrospectivement, c’est que ces auteurs ont proposé des modèles très différents en apparence. Church a introduit le λ‑calcul, Gödel des fonctions récursives, Post des systèmes de production, Kleene des schémas formels, et Turing sa célèbre machine abstraite « la machine de Turing ». Pourtant, malgré leurs différences de présentation, tous ces modèles se sont révélés complètement équivalents : tout ce qui est calculable dans l’un l’est aussi dans les autres. Cette convergence inattendue a donné un poids considérable à l’idée qu’ils avaient tous, chacun à sa manière, capturé la même notion fondamentale : la computation.

Parmi ces modèles, la machine de Turing s’est imposée non parce qu’elle serait plus puissante, mais parce qu’elle est conceptuellement la plus simple et la plus parlante. Elle permet de voir, presque physiquement, ce qu’est une computation. Une machine de Turing se compose d’un ruban potentiellement infini, divisé en cases, sur lesquelles sont inscrits des symboles discrets pris dans un alphabet fini. Une tête de lecture‑écriture parcourt ce ruban, une case à la fois. À chaque étape, la machine se trouve dans un état interne déterminé, parmi un ensemble fini d’états possibles.

Le fonctionnement est entièrement régi par une table de règles. Chaque règle dit : si la machine est dans tel état interne et si le symbole actuellement lu sur le ruban a telle forme, alors il faut accomplir exactement trois choses : éventuellement remplacer ce symbole par un autre, déplacer la tête d’une case vers la gauche ou vers la droite, et passer dans un nouvel état interne. Rien de plus. Il n’y a ni compréhension, ni interprétation, ni « prise de décision » au sens psychologique. Tout est déterminé par la forme du symbole et par l’état courant de la machine. Et ceci est ce que veut dire « la manipulation des symboles » .

La computation est:

la manipulation des symboles:

suivant des règles (algorithmes)

qui ne portent que sur la forme (arbitraire) des symboles

(pas sur leur sens)

et qui sont independents du matériel mais….

interprétable sémantiquement (par l’utilisateur)

Il est crucial d’insister sur la forme arbitraire des symboles. Les symboles manipulés par une machine de Turing n’ont aucune signification « intrinsèque ». Ils peuvent être des 0 et des 1, des lettres, des traits, ou n’importe quelle autre marque distincte. Ce qui compte, ce n’est pas ce qu’ils représentent éventuellement pour un observateur humain, mais uniquement leurs différences de forme, car ce sont ces différences qui déclenchent les règles de transition (manipulation). La computation est donc, par définition, une manipulation syntaxique (formelle) : elle opère sur des formes, non sur des significations.

Les règles elles‑mêmes sont ce qu’on appelle des algorithmes. Un algorithme est une procédure formelle, finiment spécifiée, qui détermine sans ambiguïté quelles opérations doivent être effectuées à chaque étape. Un point fondamental, souvent mal compris, est que l’algorithme ne « sait » pas ce qu’il fait. Il ne calcule pas parce qu’il vise un résultat ou comprend un problème, mais parce que ses règles sont suivies mécaniquement. Le fait que le résultat puisse ensuite être interprété comme la solution d’une équation ou la réponse à une question est entièrement externe à la computation elle‑même.

Cette distinction conduit à une autre propriété centrale de la computation : son indépendance par rapport à l’implémentation matérielle. Une même machine de Turing abstraite peut être réalisée de multiples façons physiques : avec des engrenages, des relais électromécaniques, des circuits électroniques, ou même, en principe, avec du papier et un crayon, pourvu qu’un humain suive les règles à la lettre. Tant que la même suite d’états et de manipulations symboliques est respectée, c’est exactement la même computation qui est effectuée. Les différences matérielles n’affectent pas la nature du calcul, seulement sa vitesse, sa fiabilité ou son coût.

Cette indépendance est décisive pour les sciences cognitives, car elle implique que la computation, en tant que telle, est définie au niveau formel, non au niveau physique. Le matériel réalise l’algorithme, mais ne le définit pas. Inversement, l’algorithme n’inclut aucune référence à ce que le matériel est ou à ce qu’il représente. Il n’y a là aucune place pour la sémantique, sauf comme interprétation ajoutée par un observateur externe.

C’est dans ce contexte qu’il faut comprendre la thèse dite de Church‑Turing, dans sa version « faible ». Elle affirme que tout ce qu’un mathématicien humain peut calculer par une procédure effective peut, en principe, être calculé par une machine de Turing. Il ne s’agit pas d’une hypthèse empirique au sens habituel, ni d’un théorème formel qu’on peut démontrer mathématiquement, mais d’une thèse conceptuelle : une conjecture qu’on peut falsifier, mais pas proouver vraie. Elle repose sur l’argument que les différentes tentatives de formalisation du calcul effectif convergent toutes vers la même classe de fonctions calculables, et que jusqu’à présent, aucune contre‑exemple convaincant n’a été proposé.

Il est important de ne pas surinterpréter cette thèse. Elle ne dit pas que tout ce qui existe est calculable, ni que l’esprit humain se réduit à une machine de Turing. Elle dit quelque chose de beaucoup plus précis et plus modeste : si une activité mérite le nom de calcul effectif, alors elle est Turing‑calculable. Cette précision sera essentielle lorsque nous aborderons, plus tard dans le cours, les questions de cognition, de langage et de compréhension.

On parle parfois d’une version « forte » de la thèse de Church‑Turing, selon laquelle presque tout processus physique peut être simulé par une machine de Turing avec une précision arbitraire. Cette idée est largement acceptée dans les sciences physiques contemporaines, mais elle est souvent mal comprise. Simuler un phénomène n’est pas le réaliser. Une simulation numérique d’un ouragan ne mouille personne, et une simulation de digestion ne produit aucune calorie. De la même façon, une simulation informatique d’un cœur ne pompe pas de sang.

L’analogie avec « l’impression 3D » est éclairante. Un programme peut décrire formellement la structure d’un objet ; cette description peut être utilisée pour en simuler le comportement, par exemple dans un environnement virtuel. Mais pour produire l’objet réel, il faut un dispositif physique supplémentaire, capable de transformer la description en matière. La computation fournit la description et la simulation, non la réalisation matérielle. Confondre les deux conduit à des erreurs conceptuelles profondes.

Ces distinctions – entre syntaxe et sémantique, entre algorithme et interprétation, entre simulation et réalité – ne sont pas de simples subtilités philosophiques. Elles constituent l’armature conceptuelle qui permettra, dans les semaines à venir, de poser correctement les questions sur la cognition, le langage, le test de Turing, l’argument de la pièce chinoise, et le problème de l’ancrage symbolique. Avant de se demander si la cognition est computationnelle, ou si une machine peut comprendre, il faut d’abord savoir, avec précision, ce que la computation est, et ce qu’elle n’est pas.

Et qu’est-ce qui est une « machine » ?  Il faut aussi dissiper une autre confusion, plus générale encore, qui revient sans cesse dans les discussions sur l’esprit, la cognition et l’intelligence artificielle. On entend souvent des déclarations du genre : « Ça, c’est quelque chose qu’une machine ne pourra jamais faire. » Mais, prise littéralement, cette phrase est presque toujours vide. Tout système dynamique qui évolue conformément aux lois de la causalité est, en ce sens minimal et non métaphorique, une machine — un mécanisme. Qu’il soit conçu par des humains ou qu’il se trouve tel quel dans la nature n’y change rien. Une horloge, une automobile, un ordinateur, un robot, une imprimante 3D, un système autonome, un cerveau humain, un organisme biologique, une colonie de bactéries, un système planétaire ou une constellation stellaire sont tous des systèmes causaux : à un état donné succède un autre état, selon des régularités déterminées par leur structure et par les lois physiques. Dire qu’un humain n’est « pas une machine » mais qu’un ordinateur en est une, ce n’est pas une thèse scientifique ; c’est une façon de parler. La vraie question n’est jamais de savoir si quelque chose est ou n’est pas une machine, mais de quel type de mécanisme il s’agit, et de quelles capacités ce mécanisme peut ou ne peut pas générer. Si une capacité est causale — si elle consiste à faire quelque chose dans le monde — alors, par définition, elle doit être produite par un mécanisme. Affirmer qu’« une machine » ne pourrait jamais faire X revient donc soit à une hypothèse empirique précise (à discuter), soit à une erreur conceptuelle. En cas de doute, il vaut mieux suspendre l’affirmation et examiner de quel mécanisme on parle réellement.