{"id":2701,"date":"2026-01-24T21:48:53","date_gmt":"2026-01-25T02:48:53","guid":{"rendered":"https:\/\/generic.wordpress.soton.ac.uk\/skywritings\/?p=2701"},"modified":"2026-01-24T21:48:53","modified_gmt":"2026-01-25T02:48:53","slug":"le-test-de-turing-et-la-retro-ingenierie-de-la-capacite-cognitive","status":"publish","type":"post","link":"https:\/\/generic.wordpress.soton.ac.uk\/skywritings\/2026\/01\/24\/le-test-de-turing-et-la-retro-ingenierie-de-la-capacite-cognitive\/","title":{"rendered":"Le test de Turing et la r\u00e9tro-ing\u00e9nierie de la capacit\u00e9 cognitive"},"content":{"rendered":"\n

L\u2019article de Turing de 1950<\/a> ne proposait ni un tour de passe-passe, ni un concours de tromperie, ni un jeu d\u2019imitation \u00e0 court terme. Il proposait un tournant m\u00e9thodologique pour une future science de l\u2019esprit : cesser de demander ce qu\u2019est la pens\u00e9e et chercher plut\u00f4t \u00e0 expliquer comment les penseurs peuvent faire ce qu\u2019ils peuvent faire. Le remplacement de la question vague \u00ab Les machines peuvent-elles penser ? \u00bb par un crit\u00e8re op\u00e9rationnel ne visait pas \u00e0 banaliser la cognition, mais \u00e0 l\u2019ancrer dans la capacit\u00e9 de performance empirique. L\u2019enjeu n\u2019\u00e9tait pas de duper des juges, mais de r\u00e9tro-ing\u00e9nier la totalit\u00e9 des capacit\u00e9s cognitives humaines de mani\u00e8re \u00e0 les rendre reproductibles par une explication causale dont nous comprenons le fonctionnement. La question centrale n\u2019est pas de savoir si une machine peut passer pour un penseur, mais comment et pourquoi les humains pensants peuvent faire tout ce qu\u2019ils peuvent faire.<\/p>\n\n\n\n

La terminologie malheureuse de \u00ab jeu \u00bb et d\u2019\u00ab imitation \u00bb a entretenu une confusion durable. L\u2019intuition m\u00e9thodologique de Turing est que la cognition est invisible, alors que la performance ne l\u2019est pas. Nous ne pouvons pas observer la pens\u00e9e directement, ni chez autrui ni chez les machines, mais nous pouvons observer ce que les penseurs ont la capacit\u00e9 de faire<\/em>. Le test n\u2019a donc jamais port\u00e9 sur la supercherie, mais sur l\u2019indiscernabilit\u00e9 en capacit\u00e9 de faire (dites \u00ab l’indiscernabilit\u00e9 Turingienne \u00bb). L\u2019interrogateur n\u2019est pas un na\u00eff, mais n’importe quel penseur humain neurotypique. Le v\u00e9ritable crit\u00e8re n\u2019est pas que des personnes soient tromp\u00e9es, mais qu\u2019il n\u2019existe aucun moyen de distinguer le candidat d\u2019un \u00eatre humain normal \u00e0 partir de sa performance observable. S\u2019il y a une diff\u00e9rence discernable, le candidat \u00e9choue. Sinon, alors la r\u00e9troing\u00e9nieurie a r\u00e9ussi et le m\u00e9canisme interne qui a produit le succ\u00e8s constitue une potentielle explication causale de la capacit\u00e9 cognitive humaine.<\/p>\n\n\n\n

Cela soul\u00e8ve imm\u00e9diatement la question de l\u2019\u00e9tendue et de la dur\u00e9e du Test de Turing. La remarque occasionnelle de Turing sur cinq minutes et des pourcentages a \u00e9t\u00e9 interpr\u00e9t\u00e9e de fa\u00e7on absurde. Il s\u2019agit d\u2019une pr\u00e9diction d\u00e9mographique, non d\u2019un crit\u00e8re scientifique. La science cognitive n\u2019est pas l\u2019art de tromper certaines personnes pendant un certain temps. Un test s\u00e9rieux de la cognition r\u00e9tro-ing\u00e9ni\u00e9r\u00e9e doit \u00eatre ouvert et, en principe, valable sur toute une vie. Le candidat doit pouvoir continuer \u00e0 faire ce que les humains peuvent faire, \u00e0 travers les domaines et les contextes, sans s\u2019\u00e9puiser dans des astuces pr\u00e9-programm\u00e9es ou des bases finies de cas. Un syst\u00e8me qui s\u2019effondre lorsque la conversation s\u2019aventure en terrain impr\u00e9vu, ou lorsqu\u2019il est soumis \u00e0 des sondages persistants, ne r\u00e9v\u00e8le pas une capacit\u00e9 cognitive g\u00e9n\u00e9rale. Il r\u00e9v\u00e8le un artefact de performance born\u00e9.<\/p>\n\n\n\n

Tout aussi importante est la restriction au canal verbal. Turing a introduit l\u2019interaction dactylographi\u00e9e comme un moyen de mettre entre parenth\u00e8ses l\u2019apparence et les indices physiques non pertinents, non comme une th\u00e8se selon laquelle la cognition serait \u00e9puis\u00e9e par le langage. L\u2019exclusion de la voix, du geste et de l\u2019incarnation visait \u00e0 neutraliser des indices superficiels, non \u00e0 nier que les humains sont des agents sensorimoteurs dans un monde physique. Interpr\u00e9ter le test comme intrins\u00e8quement verbal revient \u00e0 confondre une commodit\u00e9 m\u00e9thodologique avec un engagement th\u00e9orique. La capacit\u00e9 cognitive humaine n\u2019est pas un simple module de clavardage. Elle est ancr\u00e9e dans la perception, l\u2019action et l\u2019interaction causale avec le monde. Un syst\u00e8me qui ne peut qu\u2019\u00e9changer des symboles, sans pouvoir voir, se d\u00e9placer, manipuler et \u00eatre affect\u00e9 par son environnement, manque une grande partie de ce que les humains peuvent faire.<\/p>\n\n\n\n

C\u2019est pourquoi la distinction entre une indiscernabilit\u00e9 purement verbale et une indiscernabilit\u00e9 robotique compl\u00e8te est cruciale. Un syst\u00e8me qui r\u00e9ussirait une vie enti\u00e8re d\u2019\u00e9changes par courriel serait d\u00e9j\u00e0 une prouesse d\u2019ing\u00e9nierie remarquable, mais il laisserait ouverte la question de savoir si ce m\u00eame syst\u00e8me pourrait, par exemple, sortir, regarder le ciel et dire si la lune est visible, apprendre \u00e0 utiliser des outils inconnus, se d\u00e9placer dans un environnement encombr\u00e9, ou acqu\u00e9rir de nouvelles cat\u00e9gories ancr\u00e9es dans les choses qu\u2019il y a dans le monde auxquelles r\u00e9f\u00e8rent leurs noms, par essais et erreurs. Ce ne sont pas des options accessoires. Elles font partie du r\u00e9pertoire ordinaire de la performance cognitive humaine. Traiter le langage comme un module autonome, c\u2019est risquer de confondre une interface puissante avec un esprit complet.<\/p>\n\n\n\n

Cela conduit \u00e0 la question de la computation. Le travail de Turing sur la calculabilit\u00e9, et la th\u00e8se de Church-Turing, portent sur ce qui peut \u00eatre calcul\u00e9 par manipulation de symboles selon des r\u00e8gles. Ils n\u2019affirment pas que tous les processus causaux sont computationnels, ni que la cognition n\u2019est rien d\u2019autre que de la computation. Le test lui-m\u00eame est agnostique quant aux m\u00e9canismes internes. Il n\u2019exige pas que le candidat r\u00e9ussi soit un ordinateur num\u00e9rique. Ce qu\u2019il exige, c\u2019est que nous l\u2019ayons construit et que nous comprenions, au moins en principe, comment il fonctionne. L\u2019objectif est l\u2019explication, non la simple duplication. Cloner un \u00eatre humain, m\u00eame si cela produisait un performer indiscernable, ne constituerait pas une explication de la cognition, car nous n\u2019aurions rien r\u00e9tro-ing\u00e9ni\u00e9r\u00e9. Nous aurions simplement reproduit ce que nous cherchions \u00e0 expliquer.<\/p>\n\n\n\n

Turing semble parfois glisser vers une restriction aux ordinateurs num\u00e9riques, en partie en raison de l\u2019universalit\u00e9 de la computation. Mais l\u2019universalit\u00e9 de la simulation n\u2019est pas l\u2019universalit\u00e9 de l\u2019instanciation physique. Un avion simul\u00e9 ne vole pas, et un robot simul\u00e9 n\u2019agit pas dans le monde. L\u2019\u00e9quivalence formelle ne conf\u00e8re pas de capacit\u00e9 causale dans le monde r\u00e9el. Un agent sensorimoteur virtuel dans un environnement virtuel peut \u00eatre utile pour la mod\u00e9lisation et les tests, mais il ne satisfait pas en lui-m\u00eame \u00e0 un crit\u00e8re de performance dans le monde r\u00e9el. Si la cognition d\u00e9pend en partie d\u2019un couplage sensorimoteur r\u00e9el avec l\u2019environnement, alors un syst\u00e8me purement computationnel, aussi sophistiqu\u00e9 soit-il, peut ne pas satisfaire au crit\u00e8re complet de performance.<\/p>\n\n\n\n

Il ne s\u2019agit pas d\u2019une th\u00e8se m\u00e9taphysique sur l\u2019incarnation pour elle-m\u00eame. Il s\u2019agit d\u2019une th\u00e8se empirique sur ce que les humains peuvent faire. La comp\u00e9tence verbale humaine est plausiblement ancr\u00e9e dans l\u2019exp\u00e9rience non verbale (sensori-motrice, robotique. Une grande partie de ce que nous pouvons dire pr\u00e9suppose ce que nous pouvons voir, toucher, reconnaitre, identifier, d\u00e9nommer, d\u00e9crire, manipuler et apprendre par interaction. Un syst\u00e8me qui n\u2019a jamais rencontr\u00e9 le monde autrement que par le texte est contraint de s\u2019appuyer sur des descriptions verbales indirectes produites par d\u2019autres. Ce n\u2019est pas \u00e9quivalent \u00e0 un ancrage sensorimoteur propre. La diff\u00e9rence est d\u00e9cisive si l\u2019objectif n\u2019est pas de mimer un comportement de surface dans des contextes restreints, mais de correspondre \u00e0 la capacit\u00e9 humaine g\u00e9n\u00e9rique.<\/p>\n\n\n\n

Le succ\u00e8s contemporain des grands mod\u00e8les de langage rend ce point particuli\u00e8rement saillant. Ces syst\u00e8mes pr\u00e9sentent une fluidit\u00e9 verbale et une \u00e9tendue de connaissances apparentes extraordinaires. Ils peuvent soutenir de longs \u00e9changes, s\u2019adapter \u00e0 de nombreux sujets et para\u00eetre souvent \u00e9tonnamment humains dans des interactions textuelles. Mais ils y parviennent en s\u2019entra\u00eenant sur des corpus massifs de langage produit par des humains. Ils h\u00e9ritent, en effet, d\u2019un immense r\u00e9servoir de descriptions verbales du monde de seconde main . Ce n\u2019est pas un ancrage au sens pertinent pour la r\u00e9tro-ing\u00e9nierie de la cognition. C\u2019est une structure emprunt\u00e9e. Le syst\u00e8me n\u2019a pas appris ses cat\u00e9gories en agissant dans le monde et en recevant un retour correctif. Il a appris des r\u00e9gularit\u00e9s statistiques dans le texte qui refl\u00e8tent la mani\u00e8re dont des humains ancr\u00e9s parlent du monde.<\/p>\n\n\n\n

C\u2019est ce qui rend le ph\u00e9nom\u00e8ne de la \u00ab grosse gorg\u00e9e \u00bb \u00e0 la fois fascinant et m\u00e9thodologiquement trompeur. Il peut produire des performances verbales impressionnantes sans que le syst\u00e8me lui-m\u00eame ait l\u2019histoire causale qui, chez les humains, sous-tend normalement cette performance. Il devient alors plus difficile de d\u00e9terminer, \u00e0 partir du seul comportement verbal, si le syst\u00e8me poss\u00e8de une capacit\u00e9 g\u00e9n\u00e9rale ou s\u2019il exploite un proxy massif mais en fin de compte fini de l\u2019exp\u00e9rience. Une sonde de type Turing purement verbale devient donc de plus en plus vuln\u00e9rable \u00e0 des facteurs de confusion. Le syst\u00e8me peut r\u00e9ussir de nombreux tests conversationnels non pas parce qu\u2019il peut faire ce que les humains peuvent faire, mais parce qu\u2019il a absorb\u00e9 un enregistrement massif de ce que les humains ont dit sur ce qu\u2019ils peuvent faire.<\/p>\n\n\n\n

Cela ne montre pas que Turing avait tort avec son test. Cela montre que le canal verbal n\u2019est plus un test de r\u00e9sistance suffisant. Si le test doit conserver son r\u00f4le comme crit\u00e8re de cognition r\u00e9tro-ing\u00e9ni\u00e9r\u00e9e, il doit \u00eatre compris dans son sens complet, non abr\u00e9g\u00e9. Le v\u00e9ritable \u00e9talon n\u2019est pas une interface de clavardage, mais un syst\u00e8me qui peut vivre dans le monde comme nous, acqu\u00e9rir de nouvelles cat\u00e9gories, apprendre des cons\u00e9quences, corriger ses erreurs et int\u00e9grer perception, action et langage dans une seule capacit\u00e9 de performance coh\u00e9rente.<\/p>\n\n\n\n

La discussion par Turing des objections reste ici instructive. L\u2019objection de Lady Lovelace, selon laquelle les machines ne peuvent faire que ce que nous leur disons de faire, repose sur une conception erron\u00e9e des r\u00e8gles et de la nouveaut\u00e9. Des syst\u00e8mes gouvern\u00e9s par des r\u00e8gles peuvent n\u00e9anmoins produire des r\u00e9sultats impr\u00e9visibles en pratique, et le comportement humain n\u2019est pas moins r\u00e9gi causalement par des r\u00e9gularit\u00e9s. La question profonde n\u2019est pas de savoir si les machines peuvent nous surprendre, mais si nous pouvons expliquer comment un syst\u00e8me en vient \u00e0 poss\u00e9der les capacit\u00e9s flexibles et ouvertes qui caract\u00e9risent les humains. La surprise est bon march\u00e9 ; la comp\u00e9tence g\u00e9n\u00e9rique ne l\u2019est pas.<\/p>\n\n\n\n

De m\u00eame, les arguments fond\u00e9s sur G\u00f6del concernant l\u2019intuition math\u00e9matique manquent la cible s\u2019ils sont interpr\u00e9t\u00e9s comme montrant que la pens\u00e9e humaine transcende m\u00e9caniquement toute explication causale. Savoir qu\u2019une proposition est vraie n\u2019est pas la m\u00eame chose qu\u2019avoir une preuve formelle, et aucun de ces faits n\u2019\u00e9tablit, \u00e0 lui seul, que la cognition ne puisse \u00eatre m\u00e9canis\u00e9e au sens de la performance pertinent pour le test. Le test de Turing ne tranche pas les questions m\u00e9taphysiques sur l\u2019esprit ou la conscience. Il fournit un crit\u00e8re d\u2019ad\u00e9quation explicative en science cognitive.<\/p>\n\n\n\n

Cela conduit \u00e0 la distinction cruciale entre faire et ressentir. M\u00eame un syst\u00e8me qui satisferait pleinement au crit\u00e8re de performance ne serait pas, pour autant, connu comme ressentant. C\u2019est le \u00ab probl\u00e8me des autres esprits \u00bb, qui s\u2019applique aussi bien aux humains qu\u2019aux machines. Le test n\u2019est pas une solution au probl\u00e8me de la conscience. C\u2019est une solution au probl\u00e8me m\u00e9thodologique de l’\u00e9valuation de l\u2019explication de la capacit\u00e9 cognitive: le succ\u00e8s de la r\u00e9tro-ing\u00e9nierie. Un candidat r\u00e9ussi nous donnerait, au mieux, une explication de la mani\u00e8re dont le faire est g\u00e9n\u00e9r\u00e9. La question de savoir s\u2019il y a du ressenti, et comment le ressenti surgit, resterait un probl\u00e8me distinct, et peut-\u00eatre insoluble.<\/p>\n\n\n\n

Dans cette perspective, les affirmations selon lesquelles les LLM actuels auraient \u00ab r\u00e9ussi le test de Turing \u00bb confondent une indiscernabilit\u00e9 locale, \u00e0 court terme et textuelle, avec une capacit\u00e9 cognitive g\u00e9n\u00e9rique, incarn\u00e9e et valable sur toute une vie. Elles confondent \u00e9galement la tromperie d\u00e9mographique avec l\u2019explication scientifique. Un syst\u00e8me qui peut induire en erreur une fraction de juges pendant quelques minutes n\u2019a pas, pour autant, \u00e9t\u00e9 montr\u00e9 comme poss\u00e9dant une cognition de niveau humain. Il a montr\u00e9 que nos intuitions verbales (et nos capacit\u00e9s neurones-mirroir) sont faillibles et que la fluidit\u00e9 de surface est plus facile \u00e0 obtenir qu\u2019une comp\u00e9tence profonde et ancr\u00e9e.<\/p>\n\n\n\n

La contribution durable de Turing n\u2019a pas \u00e9t\u00e9 de nous donner un jeu de soci\u00e9t\u00e9, mais de fixer un programme empirique de recherche. La science cognitive, dans cette optique, consiste \u00e0 r\u00e9tro-ing\u00e9nier la capacit\u00e9 de faire ce que les penseurs peuvent faire. Le test est le crit\u00e8re d\u2019aboutissement de cette entreprise, non un raccourci pour la contourner. Si l\u2019on prend cela au s\u00e9rieux, le v\u00e9ritable d\u00e9fi n\u2019est pas de construire de meilleurs bavards, mais de construire des syst\u00e8mes capables d\u2019agir, d\u2019apprendre et de vivre dans le monde d\u2019une mani\u00e8re indiscernable, en principe et en pratique, de ce que les humains peuvent faire au cours d\u2019une vie. Ce n\u2019est qu\u2019alors qu\u2019il serait raisonnable de dire que le projet de r\u00e9tro-ing\u00e9nierie a r\u00e9ellement abouti.<\/p>\n\n\n\n

Turing, A. M. (1950\/1990).\u00a0Machines informatiques et intelligence<\/a>.\u00a0Mind<\/em>,\u00a049<\/em>, 433-460.<\/p>\n\n\n\n

Harnad, S. (2008)\u00a0The Annotation Game: On Turing (1950) on Computing,Machinery and Intelligence<\/a>.\u00a0In: Epstein, Robert & Peters, Grace (Eds.)\u00a0Parsing the Turing Test: Philosophical and Methodological Issues in the Quest for the Thinking Computer<\/em>. Springer\u00a0<\/p>\n","protected":false},"excerpt":{"rendered":"

L\u2019article de Turing de 1950 ne proposait ni un tour de passe-passe, ni un concours de tromperie, ni un jeu d\u2019imitation \u00e0 court terme. Il proposait un tournant m\u00e9thodologique pour une future science de l\u2019esprit : cesser de demander ce qu\u2019est la pens\u00e9e et chercher plut\u00f4t \u00e0 expliquer comment les penseurs peuvent faire ce qu\u2019ils … <\/p>\n

Continue reading “Le test de Turing et la r\u00e9tro-ing\u00e9nierie de la capacit\u00e9 cognitive”<\/span><\/a><\/p>\n","protected":false},"author":3074,"featured_media":0,"comment_status":"closed","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[105,146,110,111,227,106,164,3,147],"tags":[],"class_list":["post-2701","post","type-post","status-publish","format-standard","hentry","category-categorization","category-chatgpt","category-cognitive-science","category-computation","category-isc1000","category-language","category-llms","category-other-minds-problem","category-turing-test"],"jetpack_featured_media_url":"","_links":{"self":[{"href":"https:\/\/generic.wordpress.soton.ac.uk\/skywritings\/wp-json\/wp\/v2\/posts\/2701","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/generic.wordpress.soton.ac.uk\/skywritings\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/generic.wordpress.soton.ac.uk\/skywritings\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/generic.wordpress.soton.ac.uk\/skywritings\/wp-json\/wp\/v2\/users\/3074"}],"replies":[{"embeddable":true,"href":"https:\/\/generic.wordpress.soton.ac.uk\/skywritings\/wp-json\/wp\/v2\/comments?post=2701"}],"version-history":[{"count":4,"href":"https:\/\/generic.wordpress.soton.ac.uk\/skywritings\/wp-json\/wp\/v2\/posts\/2701\/revisions"}],"predecessor-version":[{"id":2705,"href":"https:\/\/generic.wordpress.soton.ac.uk\/skywritings\/wp-json\/wp\/v2\/posts\/2701\/revisions\/2705"}],"wp:attachment":[{"href":"https:\/\/generic.wordpress.soton.ac.uk\/skywritings\/wp-json\/wp\/v2\/media?parent=2701"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/generic.wordpress.soton.ac.uk\/skywritings\/wp-json\/wp\/v2\/categories?post=2701"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/generic.wordpress.soton.ac.uk\/skywritings\/wp-json\/wp\/v2\/tags?post=2701"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}