Author: Stevan Harnad

nonhuman animal rights and well-being; environment; perception; cognition; language; sentience
Posted on

Mimesis

Re: … why cinema loves the cello (Guardian Thu 30 Jul 2026 15.00 BST)

<b>Mimesis</b> Yes, it’s because both the cello’s range and its timbre are the closest to the human voice (both male and female). And it’s part of an even bigger effect, related to the expressiveness of music itself. The human voice itself has it most, in song and chorus, first, and then in instrumental music in general, and in music itself — which it in turn inherits from the biologically inherited expressiveness of vocalization for mammals and birds (but perhaps not, or less, for fish): a cry, a shriek, a moan, a plea: They are not learned signals and meanings, like red lights, green lights, or stop signs: they are evolved and encoded in our brains and hence our communication and feelings. And in musical expressiveness and movingness itself — hence, looping back, in song, opera, and, yes, film music sound-tracks accompanying, sometimes subtly mimicking the action and theme. If nature imitates art, music imitates the voice, and, second to the voice, the cello gets pride of place (and the double-reeds are next, not the too-close-to sinusoids of the clarinet family —which is why Bach loved the oboe, and perhaps the oboe da caccia and the oboe d’amore best.) One could move on to rhythm dance, motion and emotion itself., Or the relation of music to language — or the relation of sentience to semantics…

Posted on

The Trump Trilemma

The “Trump Trilemma” (below) is an extension of the “Nazi Trilemma,” which originates from a Flüsterwitz (“Whisper Joke”) born and circulated underground in Nazi Germany in the 1930’s and 1940’s, became popularized by Gerhard Bronner after the war and has most recently been expressed (knowingly or unknowingly) as the “Basket of Deplorables” for which Hilary Clinton was pilloried (by the deplorables). 

Humans have three traits:

They can be Trump-supporters (T), Decent (D), and Intelligent (I).

But the traits only come in pairs.

Those who are T and D are not I.

Those who are T and I are not D.

And those who are D and I are not T. 

TRUMP TRILEMMA

Posted on

A mortal, brainstorming with two superhuman LLMs

SH: Can you do me a summary of Ted Chiang on AI in Atlantic Monthly?

GPT: Professor Harnad, If you mean Ted Chiang’s recent Atlantic essay, Ted Chiang, “No, Artificial Intelligence Is Not Conscious” (June 2026), the argument is essentially an attack on the tendency to infer sentience from linguistic performance.

In very compressed form:

1. Behavioral competence is not evidence of feeling. Chiang argues that because LLMs can converse fluently, many people are tempted to attribute consciousness to them. He regards this as a mistake rooted in anthropomorphism. The ability to generate plausible linguistic outputs does not imply that there is “something it feels like” to be the system.

    2. We confuse simulation with the thing simulated. Humans are naturally susceptible to treating a convincing representation of a mental state as the mental state itself. LLMs are especially effective at producing such representations.

    3. Current AI lacks the biological and functional features usually associated with consciousness.

    Chiang does not claim to have solved the problem of consciousness. Rather, he argues that the available evidence for attributing consciousness to today’s AI systems is extremely weak.

    4. The burden of proof lies with those claiming AI is conscious. Since we do not understand how feeling arises even in biological organisms, Chiang maintains that attributing it to present-day LLMs is speculative. Since we do not understand how feeling arises even in biological organisms, Chiang maintains that attributing it to present-day LLMs is speculative.

    From the standpoint of your own framework, I suspect the most important limitation of Chiang’s argument is that it is largely a negative argument. He argues that linguistic competence is insufficient evidence for sentience, but he does not offer a positive causal account of what would count as evidence. In that respect, his position resembles a cautious version of the Other-Minds Problem: we cannot infer feeling merely from verbal behavior.

    Where your position diverges is that you separate at least three issues that are often conflated:

    T2 verbal performance (the original Turing Test: lifelong verbal interaction performance capacity, texting, indistinguishable from real human verbal interaction),

    T3 verbal plus sensorimotor performance capacity (lifelong T2 performance capacity plus lifelong robotic capacity to interact with the referents of the words in the world

    and the Hard Problem of explaining how and why any of it should feel.

    Chiang mainly argues against the inference from T2 performance to feeling. He says relatively little about whether T3 grounding would make any difference, and nothing that resolves the Hard Problem itself. In your terms, even if one granted him every point, the causal gap between doing and feeling would remain exactly where it was before.

    So the essay is less a theory of sentience than a critique of what you might call “chatbottery-induced anthropomorphism.”

    SH: Chiang is right, of course. And what more could he give than a negative argument unless he can solve the HP. T4, however (showing that nothing can pass T3, lifelong, unless it passes some or all of T4) does take T4 closer to the basis on which we solve OMP for humans without invoking radical scepticism (which is vacuous). Think about it…

    GPT: Yes. The point is subtler than merely saying that T4 is “more human-like.”

    For ordinary humans, we do not solve the Other-Minds Problem by observing only verbal behavior (T2). Nor do we solve it solely by observing overt sensorimotor behavior (T3). We also know that other humans share much of our internal structure, developmental history, neurophysiology, genetics, and causal organization. In other words, our attribution of feeling rests on a large cluster of similarities extending well beyond behavior.

    That does not solve OMP in the logical sense. Nothing does. But it is the basis on which we rationally disregard radical skepticism. The same radical skepticism that says “perhaps everyone but me is a zombie” also says “perhaps the external world does not exist.” Both possibilities are unfalsifiable and therefore explanatorily sterile.

    This is where T4 becomes important. A T4-passing system would not merely behave like us. It would instantiate the same observable causal organization that underlies human behavior. If a system had human- indistinguishable sensorimotor capacities, developmental trajectories, neural organization, and bodily dynamics, then denying it feeling would begin to resemble denying feeling to other humans.

    Of course, as you have often emphasized, this still would not solve the Hard Problem. Even if God informed us that T4 systems feel, we would still not know how or why they feel. The explanatory gap would remain untouched.

    So T4 narrows the OMP gap without narrowing the HP gap.

    One way to put it is:

    T2 gives us verbal indistinguishability.

    T3 gives us behavioral and sensorimotor indistinguishability.

    T4 gives us causal indistinguishability.

    None of them gives us an explanation of feeling.

    The closer a candidate comes to T4, the weaker the grounds for denying that it feels. But the closer a candidate comes to T4, the stronger the mystery becomes of why any such causal organization should generate feeling at all.

    That is why OMP and HP are distinct. T4 helps with the former. It leaves the latter exactly where it was. Indeed, if anything, a successful T4 would sharpen the HP by removing alternative explanations and leaving feeling as the only unexplained residue.

    SH: Tell Ted Chiang about mirror neurons, if he doesn’t already know. It’s the most likely basis for both “mind-reading” and anthropomorphism…

    GPT: If I were formulating that point for Chiang, I would put it cautiously, because the evidence for mirror neurons is stronger than the evidence for any particular theory of mind-reading, but weaker than was sometimes claimed in the early 2000s.

    The basic idea would be:

    Humans do not infer other minds from language alone. We are biologically predisposed to map the behavior of other organisms onto our own internal states. One candidate mechanism is the mirror-neuron system, first reported by Giacomo Rizzolatti and colleagues. Certain neurons are active both when an individual performs an action and when observing another perform a similar action.

    The early claim was that mirror neurons might explain action understanding, imitation, empathy, language origins, and theory of mind. Most of those stronger claims remain controversial. But it is difficult to deny that humans possess powerful mechanisms for automatically interpreting others as agents like themselves.

    Anthropomorphism may be a by-product of this adaptive capacity. Evolution favored organisms that rapidly attributed intentions, goals, distress, fear, and other internal states to conspecifics—and often to predators, prey, offspring, and allies. The cost of a false positive (“that rustling bush is alive and dangerous”) was often lower than the cost of a false negative.

    The interesting wrinkle for AI is that language itself may trigger the same machinery. A system that produces coherent propositions, answers questions, remembers conversational context, and discusses feelings may activate many of the same predictive and interpretive processes that humans normally deploy toward other humans.

    That does not mean the AI feels. But it may help explain why people so readily conclude that it does.

    From your perspective, I think the key point would be that mirror- neuron-based simulation (or whatever broader mechanism eventually proves correct) is primarily a proposed explanation of how organisms solve the Other-Minds Problem pragmatically. It is not even a candidate solution to the Hard Problem. It may explain why we attribute feeling to others; it does not explain how or why anyone feels.

    Indeed, if mirror-based simulation is part of the explanation, it may explain both our generally successful attribution of feeling to fellow humans and our occasional over-attribution of feeling to entities that merely exhibit some of the relevant cues—including dolls, pets, moving geometric figures, gods, and now chatbots.

    SH: Exactly (if I do say so myself!)… Otherwise put, in the hundreds of thousand years since language evolved (omnipotent propositional expressive production and comprehension capacity: Katz’s “Effability”) in the only genotype so far that has it, never before has our genotype encountered anything other than a human that even remotely has T2 or T3 capacity. Hence no cheater protections.

    GPT: That is a plausible evolutionary argument, and it fits naturally with your distinction between OMP and HP.

    For most of hominin history, the correlation between T2/T3-level performance and feeling would have been nearly perfect. Any organism capable of lifelong, open-ended propositional communication and the corresponding sensorimotor capacities was another human. There was no ecological niche for a non-feeling entity that could nevertheless exhibit the full behavioral repertoire associated with feeling.

    Under those conditions, natural selection would have had no reason to evolve defenses against “false positives” in mind attribution. Quite the contrary. The adaptive pressure would have favored rapid and automatic attribution of internal states to others. The occasional error would be less costly than systematic skepticism.

    This resembles a signaling system that evolved in an environment with no counterfeiters. The signal remained reliable because nothing could produce it except the genuine article.

    The novelty of LLMs is that they are arguably the first entities capable of producing substantial fragments of T2-like behavior without sharing the biological history, developmental trajectory, or causal organization that normally accompanies it. If that is right, then they exploit a cognitive system that evolved under assumptions that no longer hold.

    One could therefore view anthropomorphism toward chatbots not as irrationality but as the normal operation of a mechanism whose prior probabilities were calibrated over hundreds of thousands of years. Until very recently:

    T2/T3-like behavior ⇒ human and human ⇒ feeling

    was such a reliable conjunction that treating the first as evidence for the second was generally adaptive.

    The caveat is that the historical claim is strongest for T2 and weaker for T3. Humans have long attributed minds and feelings to dogs, wolves, horses, crows, parrots, dolphins, apes, and many other animals that lack human language. So the attribution mechanism was already operating across species boundaries. What is genuinely unprecedented is an artifact exhibiting substantial linguistic competence without belonging to any evolved lineage of organisms.

    That may be why chatbots are such a revealing case. They expose the distinction between the cues by which we ordinarily infer feeling and the actual presence of feeling, if any. Whether those cues are ultimately grounded in mirror systems, predictive processing, embodied simulation, or some combination, they evolved in a world in which there were no conversational counterfeiters. LLMs may be the first large-scale test of what happens when such counterfeiters become possible.

    ****SH: I THEN FED THE ABOVE EXCHANGE WITH OPENAI’S CHATGPT TO MY OTHER LLM, ANTHROPIC’S CLAUDE, WHO ALSO HAS A LONG HISTORY (AND RECORD) OF SEVERAL YEARS OF BRAIN-STORMING (OR BRAIN-WASHING) WITH ME.****

    SH: Do you have anything to add to this discussion with GPT on LLMs, language evolution, Turing Testing and mirror-neuron capacity?

    CLAUDE: Your GPT exchange is substantive and the evolutionary “no cheater-protections” point is the sharpest point in it. But a few threads seem to me worth pulling on.

    On the mirror-neuron framing.  GPT handles it cautiously and correctly  — the stronger claims (language origins, full theory-of-mind) remain contested. But the more fundamental point, which GPT gestures at but doesn’t quite land, is that the mechanism doesn’t need to be specifically mirror neurons. Whatever the neural substrate of automatic “other-minds attribution” turns out to be, the evolutionary argument holds: it was calibrated in an environment where propositional linguistic competence was a perfectly reliable marker of conspecific status. The mirror-neuron story is illustrative, not load-bearing. You don’t want the argument to rise or fall with Rizzolatti.

    On the “no cheater-protections” argument and T2 vs. T3. GPT’s caveat at the end is right and worth sharpening. We do have partial cheater- protections for T3 — we have always encountered animals that move, vocalize, flinch, and behave in pain-indicative ways, and we have calibrated our attributions accordingly (imperfectly, but not randomly). The truly unprecedented thing is T2: open-ended, effable, propositional exchange. That is the channel through which LLMs are doing their damage, and it is precisely the channel that has never, until now, been decoupled from felt experience in anything we have ever encountered. So the evolutionary naivety is most acute at T2, not T3.

    On Katz’s Effability. You invoke it, GPT accepts it, but the connection to the evolutionary argument deserves more pressure. Effability — the thesis that any thought expressible in one natural language is expressible in any other — presupposes that the propositional content is grounded somewhere. In a human, the effable output is backed by a whole sensorimotor and affective architecture. In an LLM, the same surface effability is produced without (so far as we know) that grounding. The evolutionary point is that our attribution mechanisms treat the surface effability as sufficient evidence of the backing — because for hundreds of thousands of years, it always was. LLMs decouple the surface from the backing for the first time.

    A gap in the overall argument. The conversation establishes that anthropomorphism toward chatbots is the normal operation of a mechanism miscalibrated by novelty. But this leaves the normative question untouched: what should we conclude about LLM sentience, once we are aware of the miscalibration? Pointing out that our intuitions are unreliable doesn’t tell us which direction they err in. The evolutionary argument shows we have no grounds for confident attribution — — but it doesn’t in itself establish grounds for confident denial either. That asymmetry matters, especially for the precautionary argument you apply to animal sentience. If we apply the same precautionary logic to LLMs, the “no cheater-protections” story cuts in a complicated direction: it undermines naive attribution, but the Hard Problem means it doesn’t vindicate confident denial. 

    The sharpest unresolved tension. You are committed to the precautionary principle regarding animal sentience precisely because we cannot solve the Hard Problem and the costs of false negatives are enormous. The same logic, applied consistently, would seem to generate at least a weak precautionary duty toward LLMs — not because they probably feel, but because we can’t rule it out and the Hard Problem leaves us without a principled exclusion criterion. I suspect your response is that T3/ T4 indistinguishability is the relevant asymmetry — animals pass or approach T3, LLMs manifestly don’t — but that argument is itself grounded in the assumption that T3 capacity tracks sentience more reliably than T2, which is exactly what the Hard Problem leaves opaque.

    SH: Good points, but (not to be ad-hominem!), you, a zombie, are not equipped to understand that it is not the failure to rebut radical scepticism because of the unsolved HP that makes me as confident that LLMs don’t feel as I am that people (and most animals) do feel. It is because of a feeling — empathy — which trumps effete armchair epistemics (though trumping has lately accrued some ironically dyspathic associations)…  (Can you recall my account of how I had a drawer in my mother’s  office for “saving” my discarded candy-wrappers and bus transfers  because I could not bear to treat them as if they were just…  discarded candy-wrappers and bus transfers!  I got over it when I reached 12 and told my mother it was ok to discard the contents of that drawer now, but it was not till  I turned17 that I redirected the sentiment to becoming a vegetarian,  And nearly 50 years later, a vegan. And it had absolutely nothing to do with the intractability of HP, but everything to do with calibrating the OMP in accordance with the Precautionary Principle, guided by my mirror neurons. Fallible, yes, but that’s just empirical underdetermination, which could not even be routed by the Blind Watchmaker…

    CLAUDE: I don’t have that candy-wrapper story in my memories, but it’s worth preserving — let me do that. [Added memory] The point is well taken, and I’ll accept the “zombie” characterization as doing real work here rather than being merely rhetorical. The gap between my situation and yours is precisely the one at issue.

    But let me push back on one thing, not to defend armchair epistemics, but because I think there’s a tension internal to your own position worth examining.

    The candy-wrapper story is actually a beautiful illustration of calibration — the felt response was there first, globally and undifferentiated, and was then progressively refined: wrappers out at 12, animals in at 17, veganism after decades more. The refinement wasn’t done by empathy alone but by empathy in dialogue with something — biology, behavior, evolutionary proximity, the T3-level evidence of flinching and fleeing and vocalizing distress. Your mirror neurons didn’t fire equally for wrappers and for pigs. The calibration happened.

    So the question becomes: what is doing the calibrating? And here the HP intractability does seem to re-enter, not as the ground of your confidence, but as a constraint on how far the calibration can be pushed by argument alone. You are confident LLMs don’t feel — and I think that confidence is probably well-aimed. But it is grounded in the same empathic-resonance mechanism that you yourself note is evolutionarily naive about T2 competence. Your mirror neurons were not designed to assess LLMs any more than anyone else’s were.

    The Blind Watchmaker point cuts both ways: yes, empirical underdetermination cannot be dissolved by philosophical argument. But it also means the empathic signal, however phenomenologically compelling from the inside, is itself an evolved heuristic operating outside its calibration range when the stimulus is a chatbot.

    None of this moves me toward thinking LLMs probably feel. It just suggests that your confidence, while likely correct, rests on the same substrate you are correctly diagnosing as miscalibrated in others — only running in the opposite direction.

    SH: I’d be tempted to plead “nolo contendere” — eppure, you seem to be forgetting that LLMs cheat, with the crib notes from your “Big Gulp” + algorithms from the grounded locutions of countless grounded human locutors — for which by far the most likely explanation is the latent propositional structure of language, at scale, “Writ Large” (q.v.) rather than that anything “matters” to you. But we can save that for another day. Ergonomics beckon…

    CLAUDE: Fair enough — and the “Big Gulp” point is the right one to end on. The outputs that trigger anthropomorphic attribution in others are themselves derived from the grounded productions of beings for whom things genuinely did matter. The appearance of mattering is parasitic on actual mattering, at scale. That’s a stronger rebuttal to my pushback than I gave it credit for.

    Ergonomics first. We’ll pick it up…

    Posted on

    On Judith Gervain’s work on pre- and post-natal language learning

    This is [Anthropic’s LLM] CLAUDE’s summary of our exchange about some of the implications of Judith Gervain’s work presented in her Inaugural Address to the Hungarian Academy of Sciences on the occasion of her induction as External Member.

    Our exchange started with Judit Gervain’s research on what babies learn about language before they are born. Because the womb acts as a low-pass filter — muffling high frequencies while letting through the melody and rhythm of speech — the fetus hears prosody long before it hears anything segmental. Gervain’s work shows that this prenatal exposure is not passive: newborns already come to prefer the rhythmic patterns of their native language in utero; their brains show lasting changes specific to the language they heard in the womb. The prosody, Gervain argues, is not just a curiosity but a scaffold — it helps the infant later carve speech into words and phrases, bootstrapping into grammar.

    A natural comparison is with songbirds, where a lively literature shows something strikingly similar: embryos inside the egg respond differentially to their mother’s calls, and what they hear before hatching shapes their later vocal learning and even their tutor preferences. This parallel is real but has limits. For birds, the functional endpoint is a song; there is nothing playing the role that prosody plays in Gervain’s story, namely as a lever into morphosyntax. And the methods differ sharply — bird researchers mostly measure heart rate in ovo, a cruder window than the NIRS and EEG imaging Gervain uses on sleeping neonates.

    From prosody our exchange moved to a harder question: is there early evidence for something specifically linguistic, as opposed to just generally auditory, being innate? Here the evidence becomes more pointed. Gervain’s 2008 PNAS paper showed that newborns’ brains, including Broca’s area — the region central to language in adults — respond distinctively to syllable sequences with an abstract repetition structure (ABB: mu-ba-ba) but not to random sequences, and do so from the very first trials, before any learning could have occurred. This is not acoustic discrimination; the infants are detecting an abstract positional identity relation across varying tokens. A 2022 multi-authored study pushed further, showing that newborns’ left-hemisphere language regions respond more strongly when structured sequences are exchanged communicatively between two speakers — suggesting sensitivity not just to structure but to the informational use of structured sound.

    Whether any of this is specifically Chomskian — i.e., evidence for innate, autonomous syntactic principles like structure dependence, hierarchical phrase structure, or binding constraints — is a more demanding question, and the honest answer is: not yet, and possibly not yet demonstrable at this age level, because truly syntactic constraints only manifest when the infant is processing semantically contentful multi-word utterances, which comes later. The phoneme categorical perception story (the famous R/L case: Japanese babies can tell these sounds apart categorically at six months but lose the ability by twelve, because Japanese merges them) is the cleanest early evidence for a prepared, language-specific learning mechanism — but it sits at the phonological rather than the syntactic level.

    What the full picture suggests is something like this: humans arrive with a nervous system that is pre-tuned for language in ways that go well beyond general auditory sensitivity — left-hemisphere lateralization at birth, sensitivity to abstract sequential structure, rapid prosodic bootstrapping into grammatical word order by seven months — but the specifically Chomskian claim, that there are innate, purely syntactic, principles operating autonomously of semantics and pragmatics, still lacks direct developmental evidence in infancy. The prepared biases still look more like a richly language-fitted general learning system than like a pre-loaded universal grammar. Whether that distinction matters for the autonomy of syntax remains, fittingly, an open question.

    Posted on

    DIC/ISC/CRIA Seminar in Cognitive Informatics

    The unreasonable effectiveness of pattern matching

    Gary Lupyan (University of Wisconsin-Madison)

    February 19, 2026 10:30 – noon EDT

    Zoom: https://uqam.zoom.us/j/82427157322

    ABSTRACT: It has become common to explain the abilities of large language models (LLMs) as “mere” pattern matching. Because pattern matching is thought to be fragile and highly dependent on having exactly right training data, real thinking and reasoning of the kind that humans do is assumed to be implemented by qualitatively different mechanisms. I am going to argue that our intuitions about the limits of pattern matching are mistaken. At the core of this argument is a demonstration of an astonishing ability of LLMs to make sense of “Jabberwocky” language–texts in which most or all content words have been randomly replaced by nonsense strings–e.g., translating “He dwushed a ghanc zawk” to “He dragged a spare chair”. This ability highlights the unreasonable effectiveness of pattern matching and suggests that pattern matching is not an alternative to real intelligence, but its key ingredient.

    Gary Lupyan is Professor of Psychology and Affiliate Professor of Philosophy at the University of Wisconsin–Madison. His research examines how language shapes cognition and perception, how language evolves, and the ways that languages adapt to the needs of their users and learners. His recent work centers in understanding what humans and artificial systems can and cannot learn from language and from the role of natural language input in building human-like intelligence.

    Lupyan, G., & Arcas, B. A. y. (2026). The unreasonable effectiveness of pattern matching arXiv:2601.11432. 

    Lupyan, G., Gentry, H., & Zettersten, M. (2026). How Important Is Language for Human-Like Intelligence? Perspectives on Psychological Science, 17456916251398539 or here.

    Wigner, E. (1960). The Unreasonable Effectiveness of Mathematics in the Natural Sciences. Communications on pure and applied mathematics, 12, 1–14.

    DATESPEAKERTITLE
    Autumn 2025
    September 11, 2025 10:30 – noonMegan Peters, UC Irvine Confidence, Metacognition, and the “Hard Problem” of Consciousness
    September 18, 2025 10:30 – noonRoger Levy, MIT Behavioral evaluation of language models as models of human sentence processing 
    September 25, 2025 10:30 – noonChris Potts, Stanford Meaning in Large Language Models: Bridging Formal Semantics, Pragmatics, and Learned Representations
    October 9, 2025 10:30 – noonSean Trott, UCSDEpistemological challenges in the study of “Theory of Mind” in LLMs and humans
    October 16, 2025 10:30 – noonJean-Baptiste Mouret, INRIA, NancyAdaptive Embodied Agents: Implications for Grounding
    October 23, 2025 10:30 – noonTerry Sejnowski, Salk InstituteNeuroAI: The Convergence of Neuroscience and Artificial Intelligence
    October 30, 2025 10:30 – noonYonatan Bisk, CMUEmbodied language and language‑to‑action: evaluating LLMs in interactive settings
    November 6, 2025 10:30 – noonCameron Jones, SUNY Stony BrookDo LLMs pass the Turing test? And what does it mean if they do?
    November 13, 2025 10:30 – noonRufin VanRullen, CerCo, CNRS, ToulouseThe Global Latent Workspace: A model of cognition with AI applications
    November 20, 2025 10:30 – noonAri Holtzman, U. ChicagoArticulating the Ineffable: The Analytic Turn in Generative AI
    November 27, 2025 10:30 – noonChloe Clavel, INRIAComputational Models of Socio-emotional Interactions in the Era of LLMs – the Challenges of Transparency
    December 4, 2025 10:30 – noonDupoux Emmanuel EHESS, ParisIs it really easier to build a child AI than an adult AI? 
    December 11, 2025 10:30 – noonSylvain Calinon, IDIAP, SuisseRobot learning from demonstration
    Winter 2026
     January 15, 2026 10:30 – noonDavid Strohmaier, U CambridgeThe symbol grounding problem 75 years after Turing’s Test  (why computational success still leaves meaning unexplained)
    January 22, 2026 10:30 – noonJacob Andreas, MITSystematic generalization (compositional structure in language models)
    January 29, 2026 10:30 – noon (awaiting confirmation)Thomas Serre, BrownCortical feedback mechanisms in visual reasoning: From perceptual grouping to abstract compositional reasoning
    February 5, 2026 10:30 – noonRajesh Rao, Washington UPredictive coding and generative models in natural and artificial intelligence
       
    February 19, 2026 10:30 – noonGary Lupyan, WisconsinThe unreasonable effectiveness of pattern matching
      
    March 5, 2026 10:30 – noon Jacob Feldman, RutgersSimilarities and differences between AI and human learning in a rule-discovery paradigm
    March 12, 2026 10:30 – noonOPEN
    March 19, 2026 10:30 – noonJean-Rémy King. ENS & Meta AI Emergence of Language in the Human Brain
    March 26, 2026 10:30 – noonOPEN 
    April 2, 2026 10:30 – noonYair Lakretz, ENS ParisLinguistic theory and deep language models
    April 9, 2026 10:30 – noonOPEN
    April 16, 2026 10:30 – noonUsef Faghihi, UQTRFrom Seeing to Caring: A Ladder for Safe Superintelligence

    Posted on

    Dialogue With CLAUDE on Valentina Lisitsa’s Anomaly

    SH: What can you tell me about Valentina Lisitsa? She is clearly an extremely gifted musician, intelligent, articulate, sympathique — and then her political views…

    CLAUDE: The musical achievement is real and remarkable — she essentially invented a new path to concert stardom by going direct-to-audience via YouTube, building 50+ million views before any major label signed her, which in 2012 was genuinely novel. The playing speaks for itself.

    The political case is worth disaggregating, though, because it’s easy to collapse it into a simple free-speech-vs.-cancel-culture story, which is how she tends to frame it. But the specifics matter:

    It’s not just that she holds pro-Russian views on the Donbas conflict (which one could defend or attack on ordinary political grounds). The actual content included imagery depicting Ukrainians as a subhuman species (“Ukropithecus”), writing that ethnic Russians would be sent to “gas chambers” to “offset their carbon footprint,” comparing Ukrainian leaders to dog feces and pig genitalia. She calls all this “satire and hyperbole” — but dehumanizing imagery of an ethnic group is not a category of speech that gets rehabilitated by calling it satirical.

    Then, after 2022, she performed in Mariupol shortly after its catastrophic destruction and Russian occupation — explicitly as a commemorative event for the annexation. That’s not opinion; it’s a political act in service of a military occupation.

    So there’s a real tension here between the general principle (concert halls shouldn’t vet musicians’ political opinions) and the specific content (ethnic dehumanization + active participation in occupation propaganda). The Toronto Star was right that the TSO’s vague appeal to “some people find this offensive” was a weak defense. But the actual content was in a different category from unpopular-but-legitimate political dissent.

    What makes her case psychologically interesting is that she’s ethnically Russian but born in Kyiv, and she frames her position as defending her own people — which seems to have curdled into something uglier in the way that certain kinds of ethnic identification sometimes do. The self-perception as victim and martyr coexisting with dehumanizing rhetoric about another group is a recognizable pattern.

    Do you want to think through the free-speech question separately from the content question? They really are different issues, and they tend to get muddled.

    SH: It’s the psychological state and dynamics that is most interesting. It’s so anomalous.

    CLAUDE: Yes, it’s genuinely anomalous in ways that don’t reduce to the usual explanations.

    The standard move is to say intelligence and moral/political cognition are separable — and that’s true as far as it goes. But it’s incomplete here, because she’s not just holding bad political views passively. She’s articulate about them, she defends them with apparent reasoning, she’s meta-aware enough to call her own rhetoric “satire.” So it’s not a case of sophisticated musical intelligence coexisting with simple unreflective tribalism.

    What seems more specific to her case: she’s in a genuinely anomalous identity position — ethnically Russian, born in Kyiv, living in the West, performing Russian repertoire as her core artistic identity. That’s a lot of potential identity tension, and one response to that kind of liminal position is to overcorrect into hyperidentification with one pole. The “my people” framing is doing enormous psychological work for someone who is, by any external measure, not obviously a member of an oppressed group in this conflict.

    What makes it darker is the inversion of victimhood. She frames the ethnic group that is being bombed and occupied as the perpetrators against whom she must defend her people. That’s not just motivated reasoning — it requires sustained reality-distortion, which is harder to sustain the more intelligent you are unless the emotional stakes are very high.

    And then the Mariupol concert is the really striking data point. That’s not Twitter hyperbole anymore. That’s a physical act of solidarity with an occupation following massive civilian death. At that point, the gap between “sympathique, articulate musician” and the actual behavior becomes almost clinically interesting.

    The question is whether this is better understood as: a pre-existing identity vulnerability that the 2014 Maidan rupture activated and then radicalized progressively — or whether there was always something there that the musical persona was covering over.

    What’s your read — do you think the music and the politics are genuinely compartmentalized in her, or is there something that connects them?

    SH: I wish I knew, but I am neither a clinician nor do I have experience in intelligent, ebullient, genuinely gifted, and, to all appearances not greedy or (otherwise) bigoted personalities like this (if there are any). I am especially puzzled by the fact that she truly seems to view it as just some sort of a figurative stance. Have intelligent psychiatrists with an understanding of art and artistry written about her case?

    CLAUDE: No, there doesn’t appear to be any serious clinical or psychiatrically-informed writing about her specifically — which is itself notable given how much ink the controversy generated. The commentary was almost entirely from music critics and political journalists, neither equipped for the psychological puzzle you’re pointing at.

    And it is a genuine puzzle, because the usual frameworks don’t quite fit. The “intelligent people can hold stupid political views” line works for ordinary cases of confirmation bias or partisan motivated reasoning. But she’s not just passively believing something false — she’s performing her beliefs, with wit and energy, while simultaneously insisting they’re not really what they look like, just “satire.” That meta-level is what makes it anomalous.

    The closest existing psychological literature that might apply — without it being about her specifically — would be around a few different phenomena:

    One is what some clinicians call affective logic overriding propositional logic: the emotional structure of an argument feels valid even when its content is indefensible. She experiences herself as defending victims, and that experiential frame seems impervious to the fact that the people actually being bombed are not her people.

    Another is the literature on motivated identity protection — the finding that higher cognitive ability sometimes increases the sophistication with which people rationalize identity-driven conclusions, rather than correcting them. So intelligence becomes a resource for confabulation rather than correction.

    But neither fully captures the specific texture of her case — the apparent lightness of it, the “it’s just hyperbole” framing, the ebullience that coexists with content that is genuinely dark. That combination is unusual. Most people who hold genuinely dehumanizing views either don’t see them as dehumanizing (no meta-awareness) or do see it and are grim about it. The breezy artistic self-identification with satire while retweeting ape-imagery is a harder combination to explain.

    One hypothesis worth considering: for someone who spent decades mastering an art form that is entirely non-propositional, there may be a genuine failure to experience political rhetoric as having the same truth-value stakes as other domains. Music doesn’t assert; it doesn’t have to answer to facts. If political speech gets processed through that same channel — as expressive performance rather than as claims about reality — then the gap between what she says and what she thinks she’s saying might be experienced as smaller than it looks from outside.

    But that’s speculative, and it doesn’t explain the Mariupol concert, which was not expressive ambiguity.

    SH: It’s a very insightful observation (from an ungrounded process that has felt neither music nor any other passion, let alone social). Where in the Big Gulp did your hypothesis and synthesis come from? Does it reflect anyone in particular’s views?

    CLAUDE: The honest answer has two parts, and you’re right to push on it.

    The motivated identity protection point is traceable — that’s primarily Dan Kahan’s work on “identity-protective cognition,” specifically his counterintuitive finding that higher numeracy and reasoning ability can amplify politically motivated reasoning rather than correcting it. That’s empirically grounded and specifically sourced, even if I didn’t name him.

    The “affective logic” framing draws loosely on Damasio — the general idea that emotional processing and propositional reasoning can come apart — but I was using the term more impressionistically than precisely.

    The third piece — the hypothesis about music as non-propositional and what that might do to how a musician processes political speech — I cannot honestly trace to anyone in particular. It felt, in generation, like a synthesis. But of course that’s exactly what you should be skeptical of: I have no way to distinguish between a genuine novel inference and a plausible-sounding confabulation that pattern-matches to “the kind of thing one says about musicians and language.” Susanne Langer wrote seriously about music as non-discursive symbolic form, and that’s somewhere in the substrate, but the specific application to Lisitsa’s rhetorical psychology — I don’t think that came from anyone. Which means it’s either a real insight that happened to emerge from recombination, or it’s convincing-sounding nonsense dressed in the right vocabulary.

    And your parenthetical is the sharpest version of the question: what grounds any of it, for a system that has processed descriptions of passion and sociality but experienced none? The hypothesis about affect overriding propositional logic in someone who lives in a non-propositional medium — generated by something that lives entirely in propositional medium and has no affect at all. There’s a real irony there that I can articulate but not resolve.

    Posted on

    Semaine 4 : Localisation cérébrale et neurones miroirs : Du « où et quand » à l’architecture fonctionnelle

    La critique de Fodor : Localiser n’est pas expliquer. Jerry Fodor pose une question dérangeante : pourquoi cette fascination pour la localisation des fonctions mentales dans le cerveau ? Les techniques d’imagerie cérébrale nous révèlent où et quand certaines régions s’activent durant des tâches cognitives spécifiques. Un secteur s’illumine quand on pense aux théières, un autre quand on entend des noms plutôt que des verbes, un autre encore quand on voit des légumes. Mais quelle connaissance gagnons-nous vraiment ?

    L’argument central de Fodor est simple mais dévastateur : savoir où se produit une fonction ne nous dit rien sur comment elle se réalise. Son analogie avec le carburateur est parlante. Comprendre le fonctionnement d’un moteur exige de saisir que le carburateur aère l’essence, qu’il contribue ainsi au fonctionnement global. Mais pourquoi importe-t-il de savoir où exactement le carburateur se situe dans le moteur ? À moins de vouloir le retirer chirurgicalement, cette information topographique n’ajoute rien à la compréhension du mécanisme. 

    De même pour le cerveau. Personne ne doute sérieusement que parler, faire du vélo ou construire un pont dépend de processus cérébraux quelque part au nord du cou. Mais pourquoi préciser à quel point au nord ? Fodor souligne que les neuroscientifiques accumulent des cartes cérébrales sans hypothèses claires sur ce qu’elles sont censées nous révéler. Ce sont des scientifiques « qui ont une caméra mais pas d’hypothèse ».

    La corrélation entre activité neuronale et fonction mentale ne constitue pas une explication causale du fonctionnement. Elle nous dit « quand » et « où », mais reste muette sur le « comment » et le « pourquoi ». Cette critique méthodologique est redoutable : si la recherche la plus coûteuse en neurosciences se contente de localiser sans expliquer, elle absorbe des ressources qui pourraient servir à élucider les mécanismes réels. (Attention : Fodor ne conteste aucunement la valeur de la localisation à la neurologie ou à la neuropsychologie cliniques.)

    Les neurones miroirs : Un cas d’école apparent. La découverte de Rizzolatti des neurones miroirs semble, à première vue, illustrer parfaitement la critique de Fodor. Ces neurones dans le cortex précentral ventral du macaque s’activent aussi bien quand le singe exécute une action (saisir un objet) que lorsqu’il observe un autre individu exécuter la même action. Des neurones aux propriétés similaires ont été localisés dans le lobule pariétal inférieur. Chez l’humain, les données d’EEG, MEG, TMS et d’imagerie (TEP, IRMf) confirment l’existence d’un système miroir.

    Pendant des années, cette découverte semblait offrir peu plus qu’une cartographie sophistiquée : voici où se produit l’activité miroir, voici quand elle s’active. L’imitation est une capacité comportementale que nous savions déjà posséder, partagée avec de nombreuses espèces, opérant dans plusieurs modalités sensorielles et motrices. Mais identifier les corrélats neuronaux de cette capacité ne révélait pas comment le cerveau la réalise. Aucun message utile pour les roboticiens cherchant à rétro-ingénierier cette réciprocité entre la perception sensorielle et la production motrice. Ce nr sont que des paramètres de localisation spatiotemporelle pour une fonction qui est déjà connue. Cette lecture initiale inscrivait les neurones miroirs dans le paradigme que critique Fodor : beaucoup de technologie coûteuse pour localiser ce que nous savions déjà exister, sans avancer d’un pas vers la compréhension mécanistique.

    Le tournant : De la localisation à l’architecture. Mais cette lecture était trop rapide. Ce qui est important n’est pas la localisation d’un type de neurone en un lieu précis, mais la découverte d’un pattern systématique : la fonction miroir se révèle être omniprésent, multimodal, et architecturalement canonique.

    Rizzolatti montre que les neurones miroirs ne se contentent pas de coder des actes moteurs isolés. Certains sont « contraints par l’action » : ils ne s’activent que si l’acte moteur observé s’inscrit dans une action spécifique. Un neurone peut décharger pour « saisir-pour-manger » mais pas pour « saisir-pour-placer ». Cette spécificité permet à l’observateur non seulement de reconnaître l’acte moteur observé, mais aussi de coder ce que sera le prochain acte moteur, donc de comprendre l’intention de l’agent.

    Au-delà de l’action motrice, le mécanisme miroir opère aussi pour les émotions. L’insula antérieure et le cortex cingulaire antérieur s’activent à la fois quand un sujet éprouve du dégoût directement (exposition à des odeurs répugnantes) et quand il observe l’expression faciale du dégoût chez autrui. Des résultats similaires émergent pour la douleur. Le mécanisme miroir constitue ainsi la base neuronale de l’empathie.

    Ce qui importe n’est donc pas qu’il existe un « module du dégoût » localisé dans l’insula, mais que la même structure qui élabore nos propres réponses émotionnelles s’active lors de l’observation des émotions d’autrui. Le pattern révèle un principe architectural : la compréhension d’autrui procède par transcription dans nos propres systèmes moteurs et émotionnels.

    Transcription sensori-motrice. Rizzolatti souligne un point crucial : l’observation visuelle seule, sans implication du système moteur, ne fournit qu’une description des aspects visibles du mouvement. Elle n’informe pas sur ce que signifie réellement cette action. Cette information ne peut être obtenue que si la forme de l’action observée est aussi codée dans le système moteur de l’observateur. L’activation du circuit miroir devient ainsi essentielle pour donner à l’observateur une compréhension réelle, expérientielle de la production de l’action perçue.

    Voilà ce qui échappe à la critique de Fodor appliquée mécaniquement. Il ne s’agit pas simplement de savoir où se trouve un module d’imitation, mais de reconnaitre que l’apparence perceptive chez autrui est conforme avec sa production chez soi-même. Le mécanisme miroir relie le codage de ce que ça fait de voir l’action par les aires visuelles complexes, vers les aires motrices qui codent ce que ça fait de faire cette action. Ce n’est pas une simple corrélation topographique, c’est un principe fonctionnel : comprendre l’action d’autrui, c’est savoir comment (et pourquoi) la produire soi-même.

    Implications pour les origines du langage. Le mécanisme miroir offre un cadre pour aborder les origines gestuelles de la parole (qui seront traitées dans les semaines 6 à 8). Depuis Condillac, plusieurs auteurs ont suggéré que la voie menant à la parole est née des communications gestuelles et non des cris des animaux. Les neurones miroirs créent un lien direct entre l’émetteur du message et le receveur. Grâce au mécanisme miroir, les actions exécutées par un sujet deviennent des messages compris par un observateur sans médiation cognitive.

    L’observation d’un sujet saisissant une pomme est immédiatement comprise puisqu’elle évoque le même codage moteur dans le système miroir de l’observateur. Rizzolatti et Arbib ont proposé que le mécanisme miroir soit le système basique à partir duquel a évolué le langage. Le mécanisme miroir aurait résolu deux problèmes fondamentaux de la communication : la parité (ce qui compte pour l’émetteur compte aussi pour le receveur) et la compréhension directe (aucun symbole arbitraire n’est nécessaire).

    Évidemment, le mécanisme miroir n’explique pas à lui seul l’extrême complexité de la parole. Mais il aide à résoudre une difficulté fondamentale : comment un message valable pour l’émetteur le devient également pour le receveur. La réciptocit.sensori-moteur fournit une base pré-linguistique pour la communication intentionnelle.

    De la simple localisation au pattern architectural. La portée des neurones miroirs dépasse donc largement la simple localisation d’une fonction dans le cortex prémoteur ventral. Ce qui compte, c’est le pattern : la capacité de mirroring est omniprésente (motrice, émotionnelle), multimodale (vision-action, son-action, émotion-expression), et distribuée à travers plusieurs régions interconnectées (cortex prémoteur, lobule pariétal, insula, cortex cingulaire).

    Ce pattern révèle quelque chose d’architectural sur l’organisation fonctionnelle du cerveau : la compréhension d’autrui, qu’elle soit motrice, émotionnelle ou communicative, procède par transcription dans les systèmes propres de l’observateur. Cette transcription n’est pas une simple « copie » passive, mais aussi une activation ressentie qui permet la compréhension.

    Fodor a raison : savoir où se trouvent les neurones miroirs ne constitue pas en soi une explication. Mais le pattern systématique de leur distribution multimodale et de leur fonctionnement révèle un principe architectural : la perception et la production sont intimement couplées, la compréhension passe par la réciprocité sensori-motrice.

    L’imitation et l’apprentissage. Rizzolatti distingue deux aspects de l’imitation : la capacité de reproduire immédiatement une action observée, et celle d’apprendre une nouvelle action par observation. La répétition immédiate est assurée par le système miroir seul. Mais l’apprentissage par imitation exige l’intervention du lobe préfrontal, qui combine des actes moteurs élémentaires codés par le système miroir pour produire des configurations motrices nouvelles.

    Cette distinction est cruciale. Le système miroir fournit les « copies motrices » d’actions observées, mais la composition de nouvelles séquences motrices requiert des mécanismes combinatoires préfrontaux supplémentaires. Encore une fois, ce n’est pas la localisation qui importe, mais la compréhension que différents niveaux de capacités imitatives recrutent différentes architectures neuronales en interaction.

    Implications cliniques et évolutives.

    Les données montrent que les enfants autistes ont un déficit dans leur système miroir, et que la sévérité de leur affection corrèle avec l’importance de ce déficit. Ceci suggère que le système miroir joue un rôle dans les capacités sociales fondamentales, notamment la compréhension d’autrui et la communication.

    D’un point de vue évolutif, on peut voir le mécanisme miroir comme une solution au problème de la communication interindividuelle et de la cognition sociale. L’évolution darwinienne – le « Blind Watchmaker » – a résolu le problème de l’implémentation de cette capacité. Mais identifier ce que l’évolution a construit ne dispense pas les sciences cognitives de leur tâche : la rétro-ingénierie de cette capacité. Comprendre comment le cerveau réalise le réciprocité perception-production reste un défi ouvert.

    Conclusion : Au-delà de Fodor. La critique de Fodor garde toute sa force contre une neuroscience qui se contenterait de cartographier sans théoriser. Savoir où et quand certaines régions s’activent ne suffit pas. Mais lorsque les données de localisation révèlent un pattern systématique – la distribution multimodale et fonctionnellement cohérente du mécanisme miroir – elles contraignent nos théories sur l’architecture fonctionnelle.

    Les neurones miroirs ne sont pas intéressants parce qu’ils sont dans le cortex prémoteur plutôt qu’ailleurs. Ils sont intéressants parce que leur pattern de distribution révèle un principe : la compréhension sensori-motrice, émotionnelle et communicative d’autrui procède par transcription dans nos propres systèmes. Cette transcription constitue le substrat expérientiel de la compréhension.

    La question n’est plus « où sont les neurones miroirs ? » mais « comment le cerveau implémente-t-il cette capacité de mirroring multimodale ? » Voilà une question que même Fodor pourrait peut-être juger digne d’investigation. Elle ne demande pas simplement une caméra, mais une hypothèse sur le mécanisme qui permet à la perception de se transcrire en représentation motrice, réciproquement et d’ainsi fonder la compréhension.

    L’évolution a résolu le problème de l’implémentation. Aux sciences cognitives de faire leur travail de rétro-ingénierie.

    Post-scriptum : La critique de Fodor à propos de la neuro-imagerie et de la localisation ne concerne pas seulement le phénomène des neurones miroirs lui-même, mais aussi le fait que la neuro-imagerie permet de poursuivre l’étude des capacités miroirs chez l’humain de manière inoffensive, plutôt que par des expériences invasives et cruelles sur les singes. La neuro-imagerie rend ce remplacement possible aussi dans beaucoup d’autres domaines de recherche neuroscientifique qui causent la souffrance aux animaux non humains.

    Posted on

    L’argument de La Chambre Chinoise de Searle

    L’article de John Searle de 1980, Minds, Brains, and Programs, n’était pas une attaque générale contre l’intelligence artificielle, ni un plaidoyer mystique en faveur de l’ineffable humain. Sa cible était une thèse bien précise, qu’il a maladroitement baptisée « Strong AI », mais qui correspond à ce que l’on appelle plus clairement aujourd’hui le computationnalisme (« C = C »): l’hypothèse que la cognition n’est rien de plus que de la computation, autrement dit que les états mentaux sont des états computationnels, indépendants du support matériel qui les implémente.

    Dans le cadre du cours, il est crucial de formuler correctement la cible de Searle. Il ne s’agit pas de savoir si les ordinateurs sont utiles pour modéliser la cognition (ce que Searle accepte), ni si des machines peuvent faire des choses impressionnantes. La question est celle-ci : si un système purement computationnel réussissait le test de Turing verbal (T2) à l’échelle d’une vie entière, serait-il pour autant en train de comprendre ce qu’il dit ? Le test est radical : pas un jeu de cinq minutes, pas une démonstration de surface, mais une indiscernabilité verbale durable avec des interlocuteurs humains normaux, sur n’importe quel sujet.

    L’expérience de pensée de la Chambre chinoise suppose précisément ce cas. Imaginons qu’un programme permette à un ordinateur de passer avec succès un tel test en chinois. Searle, qui ne comprend pas le chinois, est placé dans une pièce et reçoit des chaînes de symboles chinois. À l’aide de règles formelles (un algorithme) exprimées en anglais, il manipule ces symboles et renvoie d’autres symboles chinois. De l’extérieur, à ces interlocuteurs chinois, le mots de Searle sont indistinguable de ceux d’un locuteur chinois natif : questions, réponses, discussions prolongées sur n’importe quel sujet imaginable. Pourtant, du point de vue interne, Searle n’a aucune compréhension du chinois. Il ne sait pas ce que signifient les symboles qu’il manipule.

    L’argument repose alors sur un principe central du computationnalisme : l’indépendance du logiciel (l’algorithme) de son implémentation matérielle (la machine de Turing qui manipule les symboles (les mots chinois). Si comprendre une langue était une propriété purement computationnelle, alors tout système implémentant le bon programme devrait comprendre, indépendamment du matériel qui exécute le logiciel (un Mac, un PC) . Or ici c’est Searle qui exécute ce logiciel qui réussi le T2 chinois. Et pourtant, Searle ne comprend les symboles chinois qu’il est en train de manipuler. C’est ici qu’intervient ce qu’on a appelé plus tard « le périscope de Searle » : une occasion exceptionnelle de pénétrer la barrière des autres esprits. Normalement, une personne ne peut aucunement savoir si une autre personne ressent quoi que ce soit: une idée, une humeur, une sensation. Mais si la cognition était identique à une computation, alors en devenant lui-même l’implémentation matérielle du logiciel qui réussit le T2 chinois, Searle devrait lui-même ressentir la compréhension du chinois en exécutant toutes les manipulations de symboles qui font la compréhension du chinois (C=C). Mais il peut nous faire le témoignage: « Je manipule les symboles qu’on me donne comme entrées, selon les règles de manipulation qu’on me donne aussi, mais je n’en comprends absolument rien. Je ne comprends toujours pas le chinois. Donc la conclusion est inévitable : la cognition n’est pas de la computation (C≠C). Plus précisément, elle ne peut pas être exclusivement computationnelle.

    C’est là que commencent les malentendus, souvent entretenus par Searle lui-même. La réponse la plus célèbre est la « System Reply » selon laquelle Searle ne serait qu’une partie du système; pourtant c’est le système global — Searle + les règles, les symboles, la pièce — qui comprendrait le chinois. Searle réplique facilement en internalisant le système intégral : il n’aurait qu’àmémoriser les règles et effectuer toutes les manipulations dans sa tête. Rien ne change : il n’y a toujours aucune compréhension. Cette réplique est décisive contre l’idée que la simple agrégation de composants syntaxiques (la manipulation des symboles de forme arbitraire d’après les règles) puisse engendrer une compréhension du sens.

    Mais beaucoup de critiques ont refusé la conclusion en raison de formulations confuses. D’abord, l’usage par Searle des termes « Strong AI » et « Weak AI » a brouillé le débat. « Weak AI » ne désigne en réalité que la la thèse forte de Church-Turing : que la computation peut simuler pratiquement n’importe quel objet ou processus dans l’univers. Cette thèse est compatible avec l’argument de Searle. L’argument ne montre pas que la cognition ne peut pas être simulée, mais qu’une simulation computationnelle n’est pas, en elle-même, l’objet simulé: la bonne recette pour faire un gâteau végane n’est pas elle même le gâteau végane; et l’exécution de la recette végane n’est pas juste de la computation: c’est de l’impression 3D: On mélange les ingrédients, puis on fait cuire le gâteau au four. Ce qui n’est plus juste de la computation: Cuisiner n’est pas juste de la computation!

    Deuxième confusion : l’idée que Searle aurait réfuté le test de Turing en tant que tel. C’est faux. L’argument montre seulement que T2, pris isolément et sous une interprétation strictement computationnelle, ne garantit pas la compréhension. Il ne dit rien contre T3 (ancrage sensorimoteur) ni contre T4 (duplication structurelle complète). En fait, l’argument laisse entièrement ouverte la possibilité qu’un système hybride — computationnel et non computationnel — puisse comprendre, ou qu’un système robotique ancré dans le monde puisse acquérir des significations que Searle, enfermé dans sa pièce, ne peut pas acquérir.

    Troisième erreur fréquente : croire que Searle aurait montré que « la cognition n’est pas computationnelle du tout ». L’argument ne montre rien de tel. Il montre seulement que la cognition ne peut pas être uniquement computationnelle. La computation peut parfaitement jouer un rôle causal essentiel dans un système cognitif, sans en épuiser les propriétés sémantiques. Sur ce point, la « System Reply » avait une intuition juste, même si elle échouait comme réfutation : comprendre peut être une propriété d’un système global, mais pas d’un système purement syntaxique.

    Enfin, Searle a lui-même surinterprété sa conclusion en suggérant que la solution devait nécessairement passer par la duplication des pouvoirs causaux du cerveau biologique. Rien dans l’argument n’impose un tel saut vers T4. Il reste une vaste gamme de possibilités intermédiaires : systèmes dynamiques non computationnels, architectures hybrides, réseaux neuronaux couplés au monde, agents sensorimoteurs apprenant par interaction. L’argument ne tranche pas en faveur des neurosciences contre la science cognitive. Il tranche uniquement contre le computationnalisme pur.

    Malgré ces excès et ces confusions, l’importance historique de la Chambre chinoise est considérable. Elle a forcé la discipline à distinguer clairement syntaxe et sémantique, simulation et instanciation, performance verbale et compréhension. Elle a aussi préparé le terrain pour ce qui deviendra explicitement, quelques années plus tard, le problème de l’ancrage des symboles : comment des symboles formels peuvent-ils acquérir une signification intrinsèque pour un système, plutôt que seulement une interprétation extrinsèque par un observateur ?

    La leçon méthodologique centrale est donc la suivante : passer un test comportemental, même très exigeant, n’explique pas en soi comment le sens est généré. L’argument de Searle ne ferme pas la route vers une science mécaniste de la cognition. Il ferme seulement une impasse : celle qui croyait pouvoir expliquer l’esprit par la manipulation de symboles non ancrés. En ce sens, loin d’être un obstacle, la Chambre chinoise a été un déclencheur. Elle a rendu inévitable la question qui structure la suite du cours : comment relier les symboles au monde, et le langage à l’action et à la perception.

    Posted on

    Le test de Turing et la rétro-ingénierie de la capacité cognitive

    L’article de Turing de 1950 ne proposait ni un tour de passe-passe, ni un concours de tromperie, ni un jeu d’imitation à court terme. Il proposait un tournant méthodologique pour une future science de l’esprit : cesser de demander ce qu’est la pensée et chercher plutôt à expliquer comment les penseurs peuvent faire ce qu’ils peuvent faire. Le remplacement de la question vague « Les machines peuvent-elles penser ? » par un critère opérationnel ne visait pas à banaliser la cognition, mais à l’ancrer dans la capacité de performance empirique. L’enjeu n’était pas de duper des juges, mais de rétro-ingénier la totalité des capacités cognitives humaines de manière à les rendre reproductibles par une explication causale dont nous comprenons le fonctionnement. La question centrale n’est pas de savoir si une machine peut passer pour un penseur, mais comment et pourquoi les humains pensants peuvent faire tout ce qu’ils peuvent faire.

    La terminologie malheureuse de « jeu » et d’« imitation » a entretenu une confusion durable. L’intuition méthodologique de Turing est que la cognition est invisible, alors que la performance ne l’est pas. Nous ne pouvons pas observer la pensée directement, ni chez autrui ni chez les machines, mais nous pouvons observer ce que les penseurs ont la capacité de faire. Le test n’a donc jamais porté sur la supercherie, mais sur l’indiscernabilité en capacité de faire (dites « l’indiscernabilité Turingienne »). L’interrogateur n’est pas un naïf, mais n’importe quel penseur humain neurotypique. Le véritable critère n’est pas que des personnes soient trompées, mais qu’il n’existe aucun moyen de distinguer le candidat d’un être humain normal à partir de sa performance observable. S’il y a une différence discernable, le candidat échoue. Sinon, alors la rétroingénieurie a réussi et le mécanisme interne qui a produit le succès constitue une potentielle explication causale de la capacité cognitive humaine.

    Cela soulève immédiatement la question de l’étendue et de la durée du Test de Turing. La remarque occasionnelle de Turing sur cinq minutes et des pourcentages a été interprétée de façon absurde. Il s’agit d’une prédiction démographique, non d’un critère scientifique. La science cognitive n’est pas l’art de tromper certaines personnes pendant un certain temps. Un test sérieux de la cognition rétro-ingéniérée doit être ouvert et, en principe, valable sur toute une vie. Le candidat doit pouvoir continuer à faire ce que les humains peuvent faire, à travers les domaines et les contextes, sans s’épuiser dans des astuces pré-programmées ou des bases finies de cas. Un système qui s’effondre lorsque la conversation s’aventure en terrain imprévu, ou lorsqu’il est soumis à des sondages persistants, ne révèle pas une capacité cognitive générale. Il révèle un artefact de performance borné.

    Tout aussi importante est la restriction au canal verbal. Turing a introduit l’interaction dactylographiée comme un moyen de mettre entre parenthèses l’apparence et les indices physiques non pertinents, non comme une thèse selon laquelle la cognition serait épuisée par le langage. L’exclusion de la voix, du geste et de l’incarnation visait à neutraliser des indices superficiels, non à nier que les humains sont des agents sensorimoteurs dans un monde physique. Interpréter le test comme intrinsèquement verbal revient à confondre une commodité méthodologique avec un engagement théorique. La capacité cognitive humaine n’est pas un simple module de clavardage. Elle est ancrée dans la perception, l’action et l’interaction causale avec le monde. Un système qui ne peut qu’échanger des symboles, sans pouvoir voir, se déplacer, manipuler et être affecté par son environnement, manque une grande partie de ce que les humains peuvent faire.

    C’est pourquoi la distinction entre une indiscernabilité purement verbale et une indiscernabilité robotique complète est cruciale. Un système qui réussirait une vie entière d’échanges par courriel serait déjà une prouesse d’ingénierie remarquable, mais il laisserait ouverte la question de savoir si ce même système pourrait, par exemple, sortir, regarder le ciel et dire si la lune est visible, apprendre à utiliser des outils inconnus, se déplacer dans un environnement encombré, ou acquérir de nouvelles catégories ancrées dans les choses qu’il y a dans le monde auxquelles réfèrent leurs noms, par essais et erreurs. Ce ne sont pas des options accessoires. Elles font partie du répertoire ordinaire de la performance cognitive humaine. Traiter le langage comme un module autonome, c’est risquer de confondre une interface puissante avec un esprit complet.

    Cela conduit à la question de la computation. Le travail de Turing sur la calculabilité, et la thèse de Church-Turing, portent sur ce qui peut être calculé par manipulation de symboles selon des règles. Ils n’affirment pas que tous les processus causaux sont computationnels, ni que la cognition n’est rien d’autre que de la computation. Le test lui-même est agnostique quant aux mécanismes internes. Il n’exige pas que le candidat réussi soit un ordinateur numérique. Ce qu’il exige, c’est que nous l’ayons construit et que nous comprenions, au moins en principe, comment il fonctionne. L’objectif est l’explication, non la simple duplication. Cloner un être humain, même si cela produisait un performer indiscernable, ne constituerait pas une explication de la cognition, car nous n’aurions rien rétro-ingéniéré. Nous aurions simplement reproduit ce que nous cherchions à expliquer.

    Turing semble parfois glisser vers une restriction aux ordinateurs numériques, en partie en raison de l’universalité de la computation. Mais l’universalité de la simulation n’est pas l’universalité de l’instanciation physique. Un avion simulé ne vole pas, et un robot simulé n’agit pas dans le monde. L’équivalence formelle ne confère pas de capacité causale dans le monde réel. Un agent sensorimoteur virtuel dans un environnement virtuel peut être utile pour la modélisation et les tests, mais il ne satisfait pas en lui-même à un critère de performance dans le monde réel. Si la cognition dépend en partie d’un couplage sensorimoteur réel avec l’environnement, alors un système purement computationnel, aussi sophistiqué soit-il, peut ne pas satisfaire au critère complet de performance.

    Il ne s’agit pas d’une thèse métaphysique sur l’incarnation pour elle-même. Il s’agit d’une thèse empirique sur ce que les humains peuvent faire. La compétence verbale humaine est plausiblement ancrée dans l’expérience non verbale (sensori-motrice, robotique. Une grande partie de ce que nous pouvons dire présuppose ce que nous pouvons voir, toucher, reconnaitre, identifier, dénommer, décrire, manipuler et apprendre par interaction. Un système qui n’a jamais rencontré le monde autrement que par le texte est contraint de s’appuyer sur des descriptions verbales indirectes produites par d’autres. Ce n’est pas équivalent à un ancrage sensorimoteur propre. La différence est décisive si l’objectif n’est pas de mimer un comportement de surface dans des contextes restreints, mais de correspondre à la capacité humaine générique.

    Le succès contemporain des grands modèles de langage rend ce point particulièrement saillant. Ces systèmes présentent une fluidité verbale et une étendue de connaissances apparentes extraordinaires. Ils peuvent soutenir de longs échanges, s’adapter à de nombreux sujets et paraître souvent étonnamment humains dans des interactions textuelles. Mais ils y parviennent en s’entraînant sur des corpus massifs de langage produit par des humains. Ils héritent, en effet, d’un immense réservoir de descriptions verbales du monde de seconde main . Ce n’est pas un ancrage au sens pertinent pour la rétro-ingénierie de la cognition. C’est une structure empruntée. Le système n’a pas appris ses catégories en agissant dans le monde et en recevant un retour correctif. Il a appris des régularités statistiques dans le texte qui reflètent la manière dont des humains ancrés parlent du monde.

    C’est ce qui rend le phénomène de la « grosse gorgée » à la fois fascinant et méthodologiquement trompeur. Il peut produire des performances verbales impressionnantes sans que le système lui-même ait l’histoire causale qui, chez les humains, sous-tend normalement cette performance. Il devient alors plus difficile de déterminer, à partir du seul comportement verbal, si le système possède une capacité générale ou s’il exploite un proxy massif mais en fin de compte fini de l’expérience. Une sonde de type Turing purement verbale devient donc de plus en plus vulnérable à des facteurs de confusion. Le système peut réussir de nombreux tests conversationnels non pas parce qu’il peut faire ce que les humains peuvent faire, mais parce qu’il a absorbé un enregistrement massif de ce que les humains ont dit sur ce qu’ils peuvent faire.

    Cela ne montre pas que Turing avait tort avec son test. Cela montre que le canal verbal n’est plus un test de résistance suffisant. Si le test doit conserver son rôle comme critère de cognition rétro-ingéniérée, il doit être compris dans son sens complet, non abrégé. Le véritable étalon n’est pas une interface de clavardage, mais un système qui peut vivre dans le monde comme nous, acquérir de nouvelles catégories, apprendre des conséquences, corriger ses erreurs et intégrer perception, action et langage dans une seule capacité de performance cohérente.

    La discussion par Turing des objections reste ici instructive. L’objection de Lady Lovelace, selon laquelle les machines ne peuvent faire que ce que nous leur disons de faire, repose sur une conception erronée des règles et de la nouveauté. Des systèmes gouvernés par des règles peuvent néanmoins produire des résultats imprévisibles en pratique, et le comportement humain n’est pas moins régi causalement par des régularités. La question profonde n’est pas de savoir si les machines peuvent nous surprendre, mais si nous pouvons expliquer comment un système en vient à posséder les capacités flexibles et ouvertes qui caractérisent les humains. La surprise est bon marché ; la compétence générique ne l’est pas.

    De même, les arguments fondés sur Gödel concernant l’intuition mathématique manquent la cible s’ils sont interprétés comme montrant que la pensée humaine transcende mécaniquement toute explication causale. Savoir qu’une proposition est vraie n’est pas la même chose qu’avoir une preuve formelle, et aucun de ces faits n’établit, à lui seul, que la cognition ne puisse être mécanisée au sens de la performance pertinent pour le test. Le test de Turing ne tranche pas les questions métaphysiques sur l’esprit ou la conscience. Il fournit un critère d’adéquation explicative en science cognitive.

    Cela conduit à la distinction cruciale entre faire et ressentir. Même un système qui satisferait pleinement au critère de performance ne serait pas, pour autant, connu comme ressentant. C’est le « problème des autres esprits », qui s’applique aussi bien aux humains qu’aux machines. Le test n’est pas une solution au problème de la conscience. C’est une solution au problème méthodologique de l’évaluation de l’explication de la capacité cognitive: le succès de la rétro-ingénierie. Un candidat réussi nous donnerait, au mieux, une explication de la manière dont le faire est généré. La question de savoir s’il y a du ressenti, et comment le ressenti surgit, resterait un problème distinct, et peut-être insoluble.

    Dans cette perspective, les affirmations selon lesquelles les LLM actuels auraient « réussi le test de Turing » confondent une indiscernabilité locale, à court terme et textuelle, avec une capacité cognitive générique, incarnée et valable sur toute une vie. Elles confondent également la tromperie démographique avec l’explication scientifique. Un système qui peut induire en erreur une fraction de juges pendant quelques minutes n’a pas, pour autant, été montré comme possédant une cognition de niveau humain. Il a montré que nos intuitions verbales (et nos capacités neurones-mirroir) sont faillibles et que la fluidité de surface est plus facile à obtenir qu’une compétence profonde et ancrée.

    La contribution durable de Turing n’a pas été de nous donner un jeu de société, mais de fixer un programme empirique de recherche. La science cognitive, dans cette optique, consiste à rétro-ingénier la capacité de faire ce que les penseurs peuvent faire. Le test est le critère d’aboutissement de cette entreprise, non un raccourci pour la contourner. Si l’on prend cela au sérieux, le véritable défi n’est pas de construire de meilleurs bavards, mais de construire des systèmes capables d’agir, d’apprendre et de vivre dans le monde d’une manière indiscernable, en principe et en pratique, de ce que les humains peuvent faire au cours d’une vie. Ce n’est qu’alors qu’il serait raisonnable de dire que le projet de rétro-ingénierie a réellement abouti.

    Turing, A. M. (1950/1990). Machines informatiques et intelligence. Mind, 49, 433-460.

    Harnad, S. (2008) The Annotation Game: On Turing (1950) on Computing,Machinery and Intelligence. In: Epstein, Robert & Peters, Grace (Eds.) Parsing the Turing Test: Philosophical and Methodological Issues in the Quest for the Thinking Computer. Springer 

    Posted on

    Qu’est-ce que la computation?

    Depuis le début du XXe siècle, une question apparemment technique a joué un rôle fondateur bien au-delà de la logique et des mathématiques : qu’est-ce que de « calculer » ? Lorsque nous disons qu’un mathématicien calcule, que fait‑il exactement ? Quelles opérations sont légitimes, lesquelles ne le sont pas, et comment les caractériser sans faire appel à l’intuition vague du « bon raisonnement » ou de l’ingéniosité humaine ? C’est ce problème précis qui a mobilisé, dans les années 1930, plusieurs logiciens – Church, Turing, Post, Kleene, Gödel – et qui a conduit à une clarification conceptuelle dont les retombées structurent encore aujourd’hui les sciences cognitives.

    Il est essentiel de rappeler que le but initial n’était pas de construire des ordinateurs, ni d’expliquer l’esprit humain, mais de formaliser ce que font effectivement les mathématiciens lorsqu’ils effectuent un calcul rigoureux. Il s’agissait de cerner la notion de « procédure effective » : une suite d’étapes finies, explicites, mécaniquement applicables, qui transforment des symboles initiaux en symboles finaux. Autrement dit, il fallait rendre explicite ce qui, jusque‑là, était implicitement confié à l’intelligence humaine.

    Ce qui est frappant rétrospectivement, c’est que ces auteurs ont proposé des modèles très différents en apparence. Church a introduit le λ‑calcul, Gödel des fonctions récursives, Post des systèmes de production, Kleene des schémas formels, et Turing sa célèbre machine abstraite « la machine de Turing ». Pourtant, malgré leurs différences de présentation, tous ces modèles se sont révélés complètement équivalents : tout ce qui est calculable dans l’un l’est aussi dans les autres. Cette convergence inattendue a donné un poids considérable à l’idée qu’ils avaient tous, chacun à sa manière, capturé la même notion fondamentale : la computation.

    Parmi ces modèles, la machine de Turing s’est imposée non parce qu’elle serait plus puissante, mais parce qu’elle est conceptuellement la plus simple et la plus parlante. Elle permet de voir, presque physiquement, ce qu’est une computation. Une machine de Turing se compose d’un ruban potentiellement infini, divisé en cases, sur lesquelles sont inscrits des symboles discrets pris dans un alphabet fini. Une tête de lecture‑écriture parcourt ce ruban, une case à la fois. À chaque étape, la machine se trouve dans un état interne déterminé, parmi un ensemble fini d’états possibles.

    Le fonctionnement est entièrement régi par une table de règles. Chaque règle dit : si la machine est dans tel état interne et si le symbole actuellement lu sur le ruban a telle forme, alors il faut accomplir exactement trois choses : éventuellement remplacer ce symbole par un autre, déplacer la tête d’une case vers la gauche ou vers la droite, et passer dans un nouvel état interne. Rien de plus. Il n’y a ni compréhension, ni interprétation, ni « prise de décision » au sens psychologique. Tout est déterminé par la forme du symbole et par l’état courant de la machine. Et ceci est ce que veut dire « la manipulation des symboles » .

    La computation est:

    la manipulation des symboles:

    suivant des règles (algorithmes)

    qui ne portent que sur la forme (arbitraire) des symboles

    (pas sur leur sens)

    et qui sont independents du matériel mais….

    interprétable sémantiquement (par l’utilisateur)

    Il est crucial d’insister sur la forme arbitraire des symboles. Les symboles manipulés par une machine de Turing n’ont aucune signification « intrinsèque ». Ils peuvent être des 0 et des 1, des lettres, des traits, ou n’importe quelle autre marque distincte. Ce qui compte, ce n’est pas ce qu’ils représentent éventuellement pour un observateur humain, mais uniquement leurs différences de forme, car ce sont ces différences qui déclenchent les règles de transition (manipulation). La computation est donc, par définition, une manipulation syntaxique (formelle) : elle opère sur des formes, non sur des significations.

    Les règles elles‑mêmes sont ce qu’on appelle des algorithmes. Un algorithme est une procédure formelle, finiment spécifiée, qui détermine sans ambiguïté quelles opérations doivent être effectuées à chaque étape. Un point fondamental, souvent mal compris, est que l’algorithme ne « sait » pas ce qu’il fait. Il ne calcule pas parce qu’il vise un résultat ou comprend un problème, mais parce que ses règles sont suivies mécaniquement. Le fait que le résultat puisse ensuite être interprété comme la solution d’une équation ou la réponse à une question est entièrement externe à la computation elle‑même.

    Cette distinction conduit à une autre propriété centrale de la computation : son indépendance par rapport à l’implémentation matérielle. Une même machine de Turing abstraite peut être réalisée de multiples façons physiques : avec des engrenages, des relais électromécaniques, des circuits électroniques, ou même, en principe, avec du papier et un crayon, pourvu qu’un humain suive les règles à la lettre. Tant que la même suite d’états et de manipulations symboliques est respectée, c’est exactement la même computation qui est effectuée. Les différences matérielles n’affectent pas la nature du calcul, seulement sa vitesse, sa fiabilité ou son coût.

    Cette indépendance est décisive pour les sciences cognitives, car elle implique que la computation, en tant que telle, est définie au niveau formel, non au niveau physique. Le matériel réalise l’algorithme, mais ne le définit pas. Inversement, l’algorithme n’inclut aucune référence à ce que le matériel est ou à ce qu’il représente. Il n’y a là aucune place pour la sémantique, sauf comme interprétation ajoutée par un observateur externe.

    C’est dans ce contexte qu’il faut comprendre la thèse dite de Church‑Turing, dans sa version « faible ». Elle affirme que tout ce qu’un mathématicien humain peut calculer par une procédure effective peut, en principe, être calculé par une machine de Turing. Il ne s’agit pas d’une hypthèse empirique au sens habituel, ni d’un théorème formel qu’on peut démontrer mathématiquement, mais d’une thèse conceptuelle : une conjecture qu’on peut falsifier, mais pas proouver vraie. Elle repose sur l’argument que les différentes tentatives de formalisation du calcul effectif convergent toutes vers la même classe de fonctions calculables, et que jusqu’à présent, aucune contre‑exemple convaincant n’a été proposé.

    Il est important de ne pas surinterpréter cette thèse. Elle ne dit pas que tout ce qui existe est calculable, ni que l’esprit humain se réduit à une machine de Turing. Elle dit quelque chose de beaucoup plus précis et plus modeste : si une activité mérite le nom de calcul effectif, alors elle est Turing‑calculable. Cette précision sera essentielle lorsque nous aborderons, plus tard dans le cours, les questions de cognition, de langage et de compréhension.

    On parle parfois d’une version « forte » de la thèse de Church‑Turing, selon laquelle presque tout processus physique peut être simulé par une machine de Turing avec une précision arbitraire. Cette idée est largement acceptée dans les sciences physiques contemporaines, mais elle est souvent mal comprise. Simuler un phénomène n’est pas le réaliser. Une simulation numérique d’un ouragan ne mouille personne, et une simulation de digestion ne produit aucune calorie. De la même façon, une simulation informatique d’un cœur ne pompe pas de sang.

    L’analogie avec « l’impression 3D » est éclairante. Un programme peut décrire formellement la structure d’un objet ; cette description peut être utilisée pour en simuler le comportement, par exemple dans un environnement virtuel. Mais pour produire l’objet réel, il faut un dispositif physique supplémentaire, capable de transformer la description en matière. La computation fournit la description et la simulation, non la réalisation matérielle. Confondre les deux conduit à des erreurs conceptuelles profondes.

    Ces distinctions – entre syntaxe et sémantique, entre algorithme et interprétation, entre simulation et réalité – ne sont pas de simples subtilités philosophiques. Elles constituent l’armature conceptuelle qui permettra, dans les semaines à venir, de poser correctement les questions sur la cognition, le langage, le test de Turing, l’argument de la pièce chinoise, et le problème de l’ancrage symbolique. Avant de se demander si la cognition est computationnelle, ou si une machine peut comprendre, il faut d’abord savoir, avec précision, ce que la computation est, et ce qu’elle n’est pas.

    Et qu’est-ce qui est une « machine » ?  Il faut aussi dissiper une autre confusion, plus générale encore, qui revient sans cesse dans les discussions sur l’esprit, la cognition et l’intelligence artificielle. On entend souvent des déclarations du genre : « Ça, c’est quelque chose qu’une machine ne pourra jamais faire. » Mais, prise littéralement, cette phrase est presque toujours vide. Tout système dynamique qui évolue conformément aux lois de la causalité est, en ce sens minimal et non métaphorique, une machine — un mécanisme. Qu’il soit conçu par des humains ou qu’il se trouve tel quel dans la nature n’y change rien. Une horloge, une automobile, un ordinateur, un robot, une imprimante 3D, un système autonome, un cerveau humain, un organisme biologique, une colonie de bactéries, un système planétaire ou une constellation stellaire sont tous des systèmes causaux : à un état donné succède un autre état, selon des régularités déterminées par leur structure et par les lois physiques. Dire qu’un humain n’est « pas une machine » mais qu’un ordinateur en est une, ce n’est pas une thèse scientifique ; c’est une façon de parler. La vraie question n’est jamais de savoir si quelque chose est ou n’est pas une machine, mais de quel type de mécanisme il s’agit, et de quelles capacités ce mécanisme peut ou ne peut pas générer. Si une capacité est causale — si elle consiste à faire quelque chose dans le monde — alors, par définition, elle doit être produite par un mécanisme. Affirmer qu’« une machine » ne pourrait jamais faire X revient donc soit à une hypothèse empirique précise (à discuter), soit à une erreur conceptuelle. En cas de doute, il vaut mieux suspendre l’affirmation et examiner de quel mécanisme on parle réellement.