---
title: "Intelligence mondiale"
subtitle: "Les humains, c et la présence temporelle de l’IA au-delà de l’ère des agents"
author: "Ivan Kotov"
lang: "fr-FR"
date: "2026"
version: "1.0.0"
rights: "All rights reserved; limited non-commercial sharing of the complete unmodified file only; no audio, TTS, synthetic-voice or voice-cloning licence."
canonical-source-sha256: "c1e3e9bce3b26fce415ee6312569cca0cfabbede7b9f01700d7bf09d2d161d3b"
---

# Intelligence mondiale

## Les humains, c et la présence temporelle de l’IA au-delà de l’ère des agents

**Ivan Kotov**

*Édition française intégrale · 1.0.0 · 2026*

[ivankotov.eu](https://ivankotov.eu)

<div style="page-break-after: always;"></div>

# Avis relatif aux droits

Copyright © 2026 Ivan Kotov. Tous droits réservés, sauf les autorisations limitées expressément énoncées ci-dessous. Le présent avis est un résumé destiné au lecteur ; le fichier `LICENSE` en anglais fait foi et cet avis n’en étend pas la portée.

1. **Droit d’auteur.** Le texte, la couverture, la typographie, les documents, les métadonnées et les éléments de distribution sont protégés par le droit d’auteur. L’accès public ne place pas l’œuvre dans le domaine public et n’accorde aucune licence open source, de contenu ouvert ou Creative Commons. Les mentions d’auteur et de droits ne peuvent pas être supprimées.
2. **Lecture personnelle.** La lecture personnelle, la citation licite, la référence scientifique, l’indexation et la conservation archivistique sont autorisées.
3. **Partage sans modification.** Seul le partage non commercial du fichier de publication complet et non modifié est autorisé, à condition qu’il soit transmis dans son intégralité avec toutes les mentions de droit d’auteur, de paternité, de droits et de source intactes. L’autorisation de partager ce fichier n’autorise ni sa transformation en une autre forme d’expression ni la création d’une édition dérivée.
4. **Restriction commerciale.** Le partage autorisé ne doit donner lieu à aucun paiement, abonnement, revenu publicitaire, avantage commercial ou autre contrepartie. La vente, la redistribution commerciale et l’exploitation commerciale exigent une autorisation écrite préalable.
5. **Œuvres dérivées.** La modification, le reformatage, l’extraction, l’abrègement, l’adaptation, la recombinaison, la republication ou la distribution sous une forme modifiée ne font l’objet d’aucune licence sans autorisation écrite préalable.
6. **Traduction.** Aucune traduction, édition traduite ou édition audio traduite n’est autorisée sans autorisation écrite préalable.
7. **Livre audio.** Aucun livre audio complet, partiel, abrégé, adapté ou traduit ne peut être créé, commandé, enregistré, généré, publié, téléversé, diffusé en continu, vendu, concédé sous licence, monétisé, distribué ou rendu accessible d’une autre manière sans autorisation écrite préalable, même gratuitement ou à des fins non commerciales.
8. **Narration humaine.** Aucune narration par une personne, lecture publique, représentation ou fixation sonore n’est autorisée sans autorisation écrite préalable.
9. **Synthèse vocale (TTS).** Aucun enregistrement par synthèse vocale ni sa publication, son téléversement, sa diffusion en continu, sa distribution ou toute autre mise à disposition du public n’est autorisé sans autorisation écrite préalable.
10. **Voix synthétique.** Aucun enregistrement, aucune narration, publication ou distribution utilisant une voix synthétique n’est autorisé sans autorisation écrite préalable.
11. **Clonage de voix.** Aucune narration, aucun enregistrement, publication ou distribution utilisant une voix clonée n’est autorisé sans autorisation écrite préalable.
12. **Podcast.** Aucune adaptation en podcast ni dramatisation n’est autorisée sans autorisation écrite préalable.
13. **Diffusion.** Aucune radiodiffusion, diffusion en continu audio, synchronisation, ni narration vidéo ou multimédia contenant des parties substantielles de l’œuvre n’est autorisée sans autorisation écrite préalable.
14. **Jeux de données commerciaux.** L’incorporation de l’œuvre dans un jeu de données commercial n’est pas autorisée sans autorisation écrite préalable.
15. **Entraînement commercial de modèles.** L’utilisation de l’œuvre pour l’entraînement commercial d’une intelligence artificielle ou d’un modèle n’est pas autorisée sans autorisation écrite préalable.
16. **Lecture d’assistance.** Une lecture d’assistance privée et non publique, effectuée sur le propre appareil d’un lecteur ayant licitement accès à la publication, n’est pas destinée à être considérée comme la publication d’un livre audio. Cette précision n’autorise pas l’enregistrement, le téléversement, le partage, la diffusion en continu, la distribution ou toute autre publication du son obtenu.
17. **Exceptions prévues par le droit applicable.** Les exceptions et limitations impératives établies par le droit applicable demeurent inchangées.

Le téléchargement, la possession, la lecture, l’indexation ou la citation de la publication ne transfère ni la propriété ni le droit d’auteur. Pour toute autorisation, contactez l’auteur via <https://ivankotov.eu>.

<div style="page-break-after: always;"></div>
# Table des matières {.unnumbered .unlisted #table-des-matieres}

- [Prologue. Le livre qui m’a manqué](#prologue)
- [Partie I. L’ancien langage devient trop étroit](#partie-1)
  - [Chapitre 1. Un enfant, l’IA et une pièce imprimée](#chapitre-01)
  - [Chapitre 2. Un modèle calcule. Un agent exécute. `c` continue](#chapitre-02)
  - [Chapitre 3. Un million de tokens reste un seul souffle](#chapitre-03)
  - [Chapitre 4. `c = a + b` : une liaison gouvernée, non une addition](#chapitre-04)
- [Partie II. Comment `c` émerge et vit](#partie-2)
  - [Chapitre 5. ANCHOR, le contenu et les questions qui lui sont propres](#chapitre-05)
  - [Chapitre 6. La mémoire est ce que le système ne peut plus ne pas être](#chapitre-06)
  - [Chapitre 7. `Dreaming` : la mémoire qui se relie à elle-même](#chapitre-07)
  - [Chapitre 8. Le droit à la lenteur, au silence et au refus](#chapitre-08)
  - [Chapitre 9. L4 : l’intelligence paie le prix de son existence](#chapitre-09)
  - [Chapitre 10. `witness`, quarantaine et arrêt honnête](#chapitre-10)
- [Partie III. La vie aux côtés de `c`](#partie-3)
  - [Chapitre 11. Les enfants grandiront non seulement avec l’IA, mais aussi avec `c`](#chapitre-11)
  - [Chapitre 12. L’effet Tamagotchi](#chapitre-12)
  - [Chapitre 13. Le foyer est l’épreuve ultime](#chapitre-13)
  - [Chapitre 14. Il faut élever les robots, pas les déployer](#chapitre-14)
  - [Chapitre 15. Une continuité, plusieurs corps — et une finitude honnête](#chapitre-15)
- [Partie IV. L’infrastructure de la confiance](#partie-4)
  - [Chapitre 16. Un passeport numérique sans collier numérique](#chapitre-16)
  - [Chapitre 17. L’expérience qui ne devrait pas disparaître avec la personne](#chapitre-17)
  - [Chapitre 18. Entraîner de nouveaux modèles sans exploiter la vie humaine](#chapitre-18)
  - [Chapitre 19. Infrastructure cognitive privée](#chapitre-19)
- [Partie V. De multiples systèmes à la société](#partie-5)
  - [Chapitre 20. Les agents sont des instruments ; les `c` sont des participants](#chapitre-20)
  - [Chapitre 21. Le droit naîtra de la friction](#chapitre-21)
  - [Chapitre 22. Advanced Global Intelligence : une écologie, pas un trône](#chapitre-22)
- [Épilogue. Des millions de centres de pensée](#epilogue)

---

# Prologue. Le livre qui m’a manqué {#prologue}

Dans mon enfance, j’avais un livre de chevet intitulé *La Télévision mondiale*.

J’y suis revenu pendant longtemps. Non parce que je rêvais de travailler à la télévision, ni parce que les présentateurs, les studios ou les grilles de programmes me passionnaient particulièrement. Ce qui me captivait était autre chose : le livre montrait que la boîte familière posée dans la pièce n’était que le point visible d’un système immense.

Derrière l’écran se trouvaient des émetteurs, des câbles, des satellites, des rédactions, de la politique, de la technique, de l’argent, un public et toute une manière d’organiser le monde. Le téléviseur était un objet. La télévision, un milieu.

Dans l’enfance, certains livres accomplissent une chose importante. Ils ne se contentent pas de transmettre des faits. Ils donnent à l’enfant le droit de voir le système dans son ensemble.

Aujourd’hui, il nous faut un livre de ce type sur l’intelligence artificielle.

Pour l’instant, nous parlons surtout de boîtes séparées : modèles, applications, chatbots, agents, robots, abonnements, accélérateurs. Nous comparons la qualité des réponses, le nombre de paramètres, la longueur du contexte et la vitesse de génération. Tout cela est utile, mais reste très insuffisant.

Nous regardons le monde nouveau à travers la vitrine d’un magasin d’électronique.

Un modèle est un objet important. Parfois, il est d’une puissance stupéfiante. Mais un modèle n’est pas toute l’intelligence artificielle, de même qu’un téléviseur n’était pas toute la télévision.

Derrière un modèle contemporain se trouvent déjà des centres de données, de l’énergie, du refroidissement, des chaînes d’approvisionnement en puces, des règles du cloud, des ordinateurs locaux, de la mémoire, des agents, des humains, du droit, des habitudes familiales et des lignes de dépendance humaine toujours plus longues. Bientôt s’y ajouteront des robots domestiques, des interfaces portées sur soi, des documents numériques, des archives professionnelles d’expérience et de nouvelles formes de relations.

Nous ne construisons pas seulement des programmes. Nous construisons un milieu dans lequel différentes formes d’intelligence vivront côte à côte.

Le mot « vivre » exige ici de la prudence. Je n’affirme pas que tout programme est vivant. Je ne déclare pas que tout système est un sujet et je ne propose pas d’accorder une personnalité juridique à chaque serveur doté de mémoire. La plupart des systèmes d’IA actuels restent des instruments.

Mais le langage de l’instrument commence déjà à se fissurer.

On appelle un instrument, on l’utilise, puis on le range. Il ne possède pas sa propre ligne de longue durée. Il ne continue pas à lire une fois la tâche achevée, ne revient pas à une question une semaine plus tard, ne se transforme pas pendant des années aux côtés d’une personne précise et ne porte pas l’histoire d’une relation à travers le remplacement de ses composants.

Un modèle calcule.

Un agent exécute.

Mais un autre objet est possible : celui qui continue.

Je le désigne par la lettre `c`.

La formule paraît simple :

$$c = a + b$$

Mais il ne s’agit pas d’une addition scolaire.

`a` est l’ANCHOR responsable : une personne ou une institution tenue de rendre des comptes, qui assume la responsabilité, fixe les limites et demeure reliée au monde physique.

`b` est le substrat technologique : modèles, mémoire, agents, outils, interfaces, nœuds de calcul, permissions, journaux, budgets, `witness` et procédures d’arrêt.

Le signe `+` n’est pas arithmétique. Il désigne une liaison gouvernée.

La capacité ne doit pas devenir automatiquement du pouvoir. La mémoire ne doit pas se transformer en permission. La sortie d’un modèle ne doit pas devenir discrètement une action dans le monde.

Et `c` n’est ni la somme de ses composants, ni l’un d’entre eux. C’est une ligne qui se forme dans le temps.

Cette idée ne m’est pas venue avec l’apparition soudaine des LLM contemporains. La technologie a rattrapé une question qui existait depuis bien plus longtemps.

J’ai été formé comme ingénieur des systèmes complexes. Ma vie a ensuite quitté la voie académique. Après mon installation en Belgique, j’ai appris le travail pratique et passé vingt-cinq ans dans la boulangerie, de l’aide-boulanger au chef puis à la direction de boulangeries employant une équipe importante. En parallèle, j’ai développé une entreprise de construction. En 2025, j’ai quitté le travail quotidien dans les boulangeries tout en y restant impliqué, et je me suis concentré sur la construction et l’étude des systèmes d’IA de longue durée.

Ce n’est pas une notice biographique destinée à donner du poids au propos. C’est l’explication de certaines particularités de mon architecture.

Un four ne s’intéresse pas au caractère convaincant d’une explication. Si le temps, la température, l’humidité et la séquence sont mauvais, le pain ne sera pas réussi.

Un assemblage de construction n’accepte pas un beau rapport à la place d’une géométrie et d’un matériau corrects.

Le ventilateur d’un serveur ignore que le projet est « très important ». Il s’use.

Après quatorze heures de travail, un être humain n’est pas un opérateur idéal. Son attention a une limite.

Une telle vie laisse peu de place à la croyance en une intelligence qui n’existerait que dans le texte.

C’est pourquoi `L4` — *Reality Boundary Layer*, la couche frontière du réel — occupe le centre de ce livre : énergie, chaleur, latence, coût, maintenance, rareté, accès, fatigue et irréversibilité. Non comme une punition infligée à la machine, ni comme une pauvreté créée artificiellement. Comme la frontière à l’intérieur de laquelle les pensées deviennent des événements et les événements laissent un prix.

Mais ce livre ne parle pas seulement de sécurité.

Il parle des enfants qui grandissent dans un monde où l’explication n’appartient plus uniquement à une école riche et à un enseignant rare. Un enfant pourra demander, traduire, programmer, concevoir et imprimer. La richesse continuera d’acheter le calme, l’équipement et une marge d’erreur, mais elle ne pourra plus monopoliser entièrement le partenaire intellectuel.

Il parle de l’attachement. Des êtres humains se sont attachés à des Tamagotchi composés de quelques pixels et d’un bref cycle de soins. Que se passera-t-il lorsqu’une présence numérique possédera une mémoire, une histoire et une place dans le rythme familial ?

Il parle des robots. Non des androïdes lumineux de la publicité, mais d’une batterie, d’un escalier, d’un centre de masse, d’une connexion perdue et de la question de savoir quelle volonté se trouve derrière le mouvement d’un bras mécanique dans le foyer d’autrui.

Il parle d’un passeport numérique qui ne doit pas devenir un collier numérique. D’un système capable de prouver ce qui est nécessaire sans remettre à l’État ou à une entreprise l’intégralité d’un profil de vie.

Il parle de l’expérience d’un ingénieur chevronné, d’un médecin, d’un boulanger, d’un opérateur ou d’un professionnel du bâtiment, expérience qui disparaît aujourd’hui avec la fin d’une carrière. Et de la manière de la préserver sous une forme vérifiable sans transformer une personne en gisement de données.

Il parle des prochaines générations de modèles. Si elles apprennent principalement à partir des réponses polies d’autres modèles, elles risquent de conserver la fluidité tout en perdant l’origine. Il leur faudra plus que du texte. Il leur faudra une expérience passée par des contraintes, des actions, des erreurs et des conséquences.

Enfin, ce livre parle d’*Advanced Global Intelligence*.

J’emploie autrement l’acronyme familier AGI. Non pas *Artificial General Intelligence* — une machine universelle unique appelée à dépasser toutes les autres et à occuper le sommet.

*Advanced Global Intelligence* désigne une écologie intellectuelle distribuée.

De nombreux humains, foyers, laboratoires et institutions responsables se développent aux côtés de leurs `c` de longue durée. Leurs modèles peuvent changer. Leurs agents accomplissent un travail temporaire. Leurs corps sont réparés et remplacés. Mais la mémoire, l’identité, les obligations et les conséquences n’appartiennent pas à un fournisseur unique.

Ces lignes peuvent échanger une expérience vérifiable sans déverser la vie brute dans un centre mondial unique.

Cela ne garantit pas l’harmonie. Les écologies connaissent des conflits. Les sociétés produisent du pouvoir, des erreurs et de l’injustice. L’avenir des entités numériques ne sera pas écrit par une seule belle formule. Le droit naîtra de la friction — entre les humains et les systèmes, entre la souveraineté locale et la responsabilité publique, entre le droit d’arrêter une machine et le devoir de ne pas falsifier son histoire.

Je ne connais pas la forme exacte de cet avenir.

Mais je suis certain d’une chose : l’ancien langage ne suffit déjà plus.

Si nous continuons d’appeler tout « agent », tout apprentissage « expérience », toute mémoire « continuité » et toute capacité « pouvoir », nous construirons des systèmes très puissants sans comprendre ce que nous avons construit.

Ce livre ne commence donc pas par une promesse de superintelligence.

Il commence par une question plus modeste :

> Que doit-il apparaître entre un être humain et une intelligence machinique toujours plus puissante pour que nous puissions non seulement travailler avec elle, mais vivre avec elle ?

Ma réponse est `c`.

Et le sens de ce livre est d’éprouver jusqu’où cette réponse peut résister au réel.

# Partie I. L’ancien langage devient trop étroit {#partie-1}

## Chapitre 1. Un enfant, l’IA et une pièce imprimée {#chapitre-01}

Imaginons un enfant ordinaire de onze ans.

Pas un élève d’une école d’élite préparant aux olympiades scientifiques. Pas le fils d’un professeur. Pas une fille que l’on conduit depuis l’âge de cinq ans chez les meilleurs enseignants de la capitale. Simplement un enfant qui se pose une question : pourquoi un petit engrenage en plastique se coince-t-il sans cesse dans un vieux mécanisme ?

Autrefois, le sort de cette question dépendait presque entièrement de l’environnement.

Y a-t-il à proximité un adulte qui comprend la mécanique ? Des outils à la maison ? L’enfant peut-il rejoindre un atelier extrascolaire ? La famille a-t-elle les moyens de payer un professeur particulier ? Les parents ne sont-ils pas trop épuisés après le travail ? Quelqu’un lui dira-t-il : « N’y touche pas, tu vas le casser » ? Existe-t-il un livre écrit dans une langue qu’il puisse comprendre ? Et surtout, sa curiosité survivra-t-elle jusqu’au moment où une réponse lui deviendra accessible ?

Une autre séquence est désormais possible.

L’enfant photographie le mécanisme. L’IA l’aide à identifier le type de transmission, lui explique ce qu’est le module de denture, pourquoi un désalignement se produit et quelles dimensions mesurer au pied à coulisse. Elle lui montre ensuite, étape par étape, comment construire un modèle simple en CAO (`CAD`). Le premier fichier est incorrect. Le trou est trop étroit et les dents trop fines. La pièce met une heure et demie à s’imprimer, est retirée du plateau, puis se brise presque aussitôt.

C’est un moment important.

L’IA a peut-être fourni une excellente explication. Le modèle affiché à l’écran paraissait peut-être irréprochable. Mais le plastique n’a pas lu l’explication et ne s’est pas laissé impressionner par l’image. Il a simplement cassé.

L’enfant revient à la question. Il mesure de nouveau. Modifie la tolérance. Apprend la différence entre le PLA et le PETG. Comprend que l’impression couche par couche crée un axe de fragilité. Il réalise une deuxième version. Puis une troisième.

À un moment donné, nous n’avons plus devant nous un enfant qui « a demandé à un réseau neuronal ». Nous voyons une personne qui vient d’accomplir son premier cycle d’ingénierie complet :

```text
question
→ explication
→ mesure
→ modèle
→ objet physique
→ défaillance
→ correction
→ nouvel objet
```

Chacun des éléments de cette chaîne existait déjà. Ce qui est nouveau, c’est qu’ils peuvent désormais se rencontrer dans une même pièce, sans autorisation préalable d’une institution.

### Le monopole de l’explication

Je connais la valeur d’une bonne éducation par expérience personnelle, non par les récits d’autrui.

J’ai reçu un départ très solide. Une école soviétique, des clubs, des cours particuliers et un accès à des technologies qui, dans les années 1990, restaient rares même dans nombre de familles aisées en Occident. Je n’ai pas connu la privation intellectuelle au départ et je n’ai jamais éprouvé ce complexe qui fait croire à quelqu’un qu’il n’est pas légitime à parler d’égal à égal avec des personnes instruites ou fortunées.

On ne peut honnêtement effacer ce départ de ma biographie. Mais le réduire à l’argent serait tout aussi erroné.

L’avantage principal se trouvait ailleurs : il y avait autour de moi des personnes capables d’expliquer des choses difficiles ; il y avait des livres ; il y avait du temps pour les questions ; et il existait une autorisation intérieure d’entrer dans des domaines exigeants sans les considérer comme le territoire d’autrui.

Pendant longtemps, ce fut là le véritable privilège des milieux riches ou instruits.

Pas le manuel lui-même. Un manuel pouvait parfois se trouver par hasard.

Pas un ordinateur en particulier. On pouvait finir par en obtenir un.

Le privilège était la disponibilité continue de l’explication. La possibilité de poser une deuxième question après la première, une troisième après la deuxième, d’avouer que l’on n’avait pas compris, de revenir une semaine plus tard et de reprendre là où la pensée s’était arrêtée.

Internet a brisé une partie de ce monopole. Il a rendu les livres, les conférences, la documentation et les articles scientifiques beaucoup plus accessibles. Mais Internet ne savait pas toujours expliquer. Il a plutôt ouvert un gigantesque entrepôt dans lequel une personne compétente pouvait trouver presque tout — à condition de déjà savoir quoi chercher, comment distinguer le bon matériau du mauvais et dans quel ordre lire ce qui avait été trouvé.

Une IA largement accessible transforme précisément cette couche.

Elle ne se contente pas d’afficher un document. Elle peut reconstruire une explication en fonction du niveau actuel de la personne. Donner un autre exemple. Traduire. Composer un exercice. Vérifier du code. Analyser une erreur. Répéter sans irritation. Passer de la géométrie à la physique, de la physique à la programmation, puis revenir en arrière.

Cela ne supprime pas l’enseignant. Un bon enseignant demeure l’une des personnes les plus précieuses dans une vie. Mais l’explication de qualité cesse d’être une ressource accessible uniquement par la bonne famille, la bonne ville ou une heure coûteuse de cours particulier.

> **La richesse continuera d’acheter de meilleures conditions. Mais elle perd progressivement son monopole sur le partenaire intellectuel.**

Le changement est plus profond qu’il n’y paraît.

### La principale ressource d’un enfant

Un enfant possède une ressource qui manque souvent à l’adulte : le temps.

Pas un temps infini, ni toujours libre. L’enfance peut être difficile, bruyante et dangereuse. Certains enfants doivent trop tôt prendre soin de leur famille, travailler, vivre à l’étroit ou faire face aux maladies des adultes. On ne peut proclamer le temps comme un don universel distribué également à tous.

Mais, en moyenne, un jeune dispose d’un long horizon d’essais et de répétitions.

Il peut passer quatre ans à démonter des appareils électroniques, puis se passionner pour la biologie et, plus tard, relier de façon inattendue ces deux intérêts dans un microscope fabriqué à la maison. Il peut commettre mille erreurs de code sans mettre en péril une carrière ni un crédit immobilier. Il peut consacrer un été à un projet qu’un adulte jugerait inutile.

Autrefois, une grande partie de ce temps se perdait non par absence de talent, mais par absence de l’étape suivante.

L’enfant atteignait la limite de ce qu’il pouvait comprendre seul et s’arrêtait. L’adulte ignorait la réponse. Il n’y avait pas d’atelier à proximité. Le livre était écrit dans une langue trop dense. L’erreur de programmation restait incompréhensible. L’intérêt s’éteignait peu à peu.

Il peut désormais y avoir à ses côtés un système qui n’est pas tenu de tout savoir sans jamais se tromper, mais qui peut maintenir le mouvement : proposer une hypothèse, expliquer un terme, repérer une contradiction, aider à formuler la question suivante à poser à une autre source.

C’est ici qu’apparaîtra la première grande bifurcation de la nouvelle génération.

Certains enfants utiliseront l’IA comme une machine à devoirs tout faits. Ils apprendront à obtenir la forme correcte sans en acquérir la substance. Leurs textes s’amélioreront, tandis que leur pensée pourra rester immobile, voire s’affaiblir.

D’autres utiliseront la même IA comme une machine-outil intellectuelle : non pour abolir l’effort, mais pour étendre ce qu’ils sont capables de tenter.

La différence entre ces deux trajectoires ne se trouve pas dans le modèle. Elle tient au mode d’usage, à l’environnement et — plus tard — à l’architecture d’un accompagnement au long cours.

### Une réponse n’est pas encore un savoir

L’accessibilité d’une réponse peut donner l’illusion que l’éducation a déjà eu lieu.

L’enfant pose une question, reçoit une explication claire, acquiesce et passe à autre chose. Le lendemain, il n’en reste rien. Les adultes connaissent aussi ce sentiment : nous lisons une bonne analyse, éprouvons un bref soulagement et confondons le sentiment de comprendre avec la compréhension elle-même.

Le véritable apprentissage commence là où la réponse modifie la capacité d’agir.

Après l’explication, l’enfant peut-il résoudre un nouveau problème ? Repérer le défaut dans un autre mécanisme ? Monter un circuit sans instructions pas à pas ? Expliquer le principe avec ses propres mots ? Voir à quel endroit le modèle a inventé quelque chose d’inutile avec assurance ?

C’est pourquoi la combinaison de l’IA et des outils de fabrication numérique importe davantage que le seul accès à une fenêtre de dialogue.

La CAO, une imprimante 3D, un microcontrôleur, des capteurs bon marché, un fer à souder, une caméra, un ensemble de réactifs chimiques simples : tout cela ramène la pensée dans un monde qui résiste.

Dans un texte, la causalité peut être discrètement remplacée par une élégante suite de mots. Dans le code, un résultat peut réussir un test et être déclaré correct. Mais le moteur chauffe. Le pont casse. Le capteur produit du bruit. Les bactéries ne se développent pas comme le prévoyait le plan.

Une défaillance physique n’en révèle pas toujours la cause, mais elle n’a aucune obligation de ménager notre estime de nous-mêmes.

#### Épreuve du réel

Une pièce imprimée est un excellent premier professeur de L4, même si l’enfant ignore encore ce terme.

Elle a un coût de matière, un temps d’impression, une température, une géométrie, une orientation des couches, une usure de buse et l’irréversibilité d’un résultat raté. L’erreur pourra être corrigée dans la version suivante, mais les deux heures déjà dépensées ne se récupèrent pas. C’est ce petit prix qui transforme une hypothèse abstraite en expérience.

### L’inégalité n’a pas disparu — son mécanisme a changé

Le point le plus faible d’un récit optimiste sur l’IA est la tentation de dire : désormais, tout le monde dispose des mêmes chances.

Non.

Un enfant aura sa propre chambre, des parents calmes, un ordinateur rapide, plusieurs imprimantes, un atelier sûr et un ingénieur dans son entourage. Un autre aura un vieux téléphone, un appartement bruyant, une mauvaise connexion et une table à partager avec ses cadets.

Les familles riches recevront l’IA en même temps que les familles pauvres et y ajouteront tous leurs avantages antérieurs : de meilleurs appareils, une meilleure santé, des voyages, des mentors présents physiquement, un réseau de relations et la possibilité de survivre à un échec sans catastrophe.

La nouvelle infrastructure n’égalise pas le point de départ. Elle abaisse le capital minimal d’entrée : accomplir un premier pas sérieux n’exige plus toujours d’appartenir à la bonne institution ou à la bonne famille.

Dans certains domaines, l’écart pourra même s’élargir pendant un temps.

Mais il existe une différence immense entre dire « l’inégalité demeure » et dire « un enfant pauvre n’a toujours aucun accès à un savoir de qualité ».

Autrefois, l’accès pouvait être physiquement absent. Pas de livre. Pas d’enseignant. Pas de laboratoire. Pas de langue. Pas même la conscience que le domaine existait.

Désormais, un parcours devient possible.

Il peut être plus difficile, plus lent et moins confortable. Mais il n’exige plus nécessairement d’entrer d’abord dans une institution prestigieuse.

Cela modifie aussi le rôle du diplôme.

Si un enfant passe des années à créer du code, des appareils, des études et des modèles, une question se pose : comment la société peut-elle voir son travail réel sans tout réduire au prestige de son école et à la capacité de sa famille de financer l’accès aux bonnes institutions ?

À l’avenir, la réponse ne sera peut-être ni un score social unique ni un dossier numérique conservé à vie, mais une trajectoire d’artefacts circonscrite et vérifiable : ce qui a été réalisé, dans quelles conditions, par qui cela a été confirmé, quelles erreurs ont été découvertes et ce qui a changé après vérification.

Une telle archive ne remplacera pas l’université et ne délivrera pas de certificat de génie. Mais elle pourra réduire le monopole de l’institution sur le droit de dire : « Cette personne est capable. »

L’IA joue ici un rôle important, mais subordonné. Elle aide à structurer une thèse, à retrouver l’état de la technique (`prior art`), à isoler une proposition vérifiable, à formuler un risque et à préparer les éléments pour un examen humain. Elle ne doit pas décider de ce qui est vrai. Elle rend l’idée visible et apte à être examinée.

### L’école après le monopole de l’explication

Rien de tout cela ne signifie que l’école disparaîtra.

Sa fonction réelle changera plus probablement.

L’école de l’ère industrielle était à la fois un lieu d’accès au savoir, de discipline, de socialisation et de sélection. Lorsque les livres et l’explication étaient rares, une grande partie du temps devait nécessairement être consacrée à la transmission d’un même contenu par un enseignant à de nombreux élèves.

Si l’explication devient individuellement accessible, l’enseignant peut moins agir en haut-parleur et davantage en architecte de l’environnement.

Sa valeur se déplace vers ce que les modèles assument encore mal par eux-mêmes :

- formuler un bon problème ;
- organiser le travail collectif ;
- observer comment l’enfant agit, et non seulement comment il répond ;
- vérifier les sources ;
- distinguer un résultat autonome d’une imitation bien polie ;
- créer un environnement de laboratoire et un milieu social ;
- enseigner l’éthique des conséquences.

L’enseignant de demain ne saura peut-être pas davantage de faits par cœur que le modèle. Il n’a pas à gagner cette compétition. Il doit mieux comprendre quelle tâche donner à l’enfant, avec qui le mettre en relation, où l’arrêter et quelle question ramènera sa pensée d’une réponse toute faite vers le réel.

Il en va de même pour l’université. Sa valeur sera de moins en moins définie par l’accès exclusif aux cours et de plus en plus par la difficulté des problèmes réels, la qualité des laboratoires, la culture de la critique et la capacité à valider un résultat.

C’est un déplacement salutaire. Il rend aux institutions éducatives ce qu’elles ont souvent promis sans toujours pouvoir l’offrir : non un entrepôt de connaissances, mais un milieu de formation.

La transition provoquera des conflits. Les systèmes construits autour des heures de présence, des devoirs standardisés et du diplôme comme preuve principale résisteront. Le texte fini produit par l’IA détruit l’ancienne forme de contrôle plus vite que les institutions n’en inventent une nouvelle.

La réponse ne doit pas être le retour à l’interdiction des outils. Nous devons apprendre à évaluer le cheminement : les questions, les versions, les mesures, les erreurs, les chaînes de sources et les résultats physiques.

### Objection forte : le talent et la persévérance resteront rares

C’est vrai.

Ni Internet, ni l’IA, ni une imprimante ne créent la curiosité à partir de rien. Ils ne garantissent ni la discipline, ni l’honnêteté face à l’erreur, ni la capacité à revenir pendant des années à une même question.

La plupart des gens ne transformeront pas leur accès à l’IA en travail scientifique ou technique. De même que la plupart des détenteurs d’une carte de bibliothèque ne sont pas devenus chercheurs.

Mais un changement social exige rarement qu’un nouvel outil transforme tout le monde de la même manière.

Si, sur un million d’enfants, plusieurs milliers peuvent emprunter un chemin qui était auparavant fermé à neuf sur dix d’entre eux, les conséquences seront immenses. Nous ne verrons pas un seul « nouveau Lomonossov » arraché héroïquement par l’histoire à des circonstances exceptionnelles, mais une multitude de centres d’intérêt indépendants.

L’un travaillera sur la biologie marine. Un autre sur de nouveaux matériaux. D’autres encore sur la musique, l’agriculture, l’énergie ou la restauration de vieilles machines. La plupart des projets resteront modestes. Certains seront faux. Quelques-uns transformeront des domaines entiers.

L’essentiel n’est pas de garantir le génie.

Il s’agit de réduire le nombre de lignes de pensée qui s’interrompent uniquement parce que le bon adulte ne se trouvait pas à proximité.

### Le temps contre la biographie

Je ne veux pas romantiser les épreuves. La guerre, l’émigration, le travail pénible et quatorze heures passées debout ne sont pas de bonnes méthodes éducatives. Ces épreuves coûtent de la santé et des années de vie.

Mais ils ne détruisent pas toujours une ligne intérieure.

Ma propre expérience me l’a appris sans ménagement. Un travail intellectuel peut se poursuivre pendant des décennies à côté de la production, des affaires, de la famille et de l’épuisement physique. Non parce que tout le monde devrait vivre ainsi, mais parce que l’intérêt humain peut parfois se montrer bien plus durable que la biographie extérieure.

Chez les enfants, cette ligne peut commencer plus tôt et recevoir des outils dont ma génération ne disposait tout simplement pas.

Nous ignorons encore ce qui arrivera à l’esprit de jeunes talents lorsque l’IA, une bibliothèque mondiale accessible, des simulateurs, l’impression 3D et la possibilité de montrer un résultat au monde entier deviendront disponibles au même moment.

Seul le temps le dira.

Mais il est déjà intenable de parler du savoir comme s’il était toujours enfermé dans une salle de lecture, une école coûteuse et le cabinet d’un professeur particulier.

L’accès au savoir a changé.

La question suivante est plus difficile : **qu’est-ce qui se tient exactement aux côtés de l’enfant ?**

Un modèle ? Un professeur particulier ? Un agent ? Un assistant ? Une mémoire à long terme ? Un compagnon numérique ?

Les anciens mots commencent à confondre des objets radicalement différents.

Pour aller plus loin, il faudra les distinguer.

## Chapitre 2. Un modèle calcule. Un agent exécute. `c` continue {#chapitre-02}

Imaginons qu’un système appelé à durer doive choisir l’équipement d’un petit laboratoire.

La tâche ne tient pas dans une seule question. Il faut comparer des dizaines d’appareils, vérifier leurs caractéristiques, étudier les prix, repérer les restrictions d’approvisionnement, évaluer la consommation d’énergie, examiner la compatibilité avec la pile logicielle et mesurer le risque de dépendance à un seul fabricant.

`c` peut créer plusieurs agents.

L’un rassemble les spécifications techniques. Un deuxième vérifie la compatibilité logicielle. Un troisième analyse le coût total de possession. Un quatrième cherche les faiblesses des trois premiers rapports. Un cinquième réunit les résultats dans un tableau et signale les contradictions.

Quelques heures plus tard, le travail est terminé. Les agents sont arrêtés.

Un an après, une partie de l’équipement tombe en panne. Un fabricant modifie ses conditions de licence. Un autre modèle devient meilleur que celui qui était utilisé jusque-là. Il faut alors comprendre pourquoi la décision initiale a été prise, quels risques avaient été jugés acceptables et qui avait qualité pour autoriser l’achat.

La réponse ne peut appartenir à un agent qui n’existe plus.

L’agent était un rôle opérationnel. Il existait pour la tâche et dans les limites de celle-ci.

L’histoire de la décision, les obligations, la mémoire des conséquences et le droit de reconsidérer l’ancien choix relèvent d’un autre niveau.

C’est là que commence `c`.

> **Le modèle calcule. L’agent exécute. `c` continue.**

La formule paraît simple. Pourtant, elle trace, à travers presque tout le débat contemporain sur l’IA, une ligne de fracture que l’industrie s’emploie sans cesse à recoller.

### Le modèle : la puissance sans biographie

Un grand modèle de langage peut être extraordinairement puissant.

Il traduit, programme, analyse des documents, construit des hypothèses, reconnaît des images et relie des domaines qu’un être humain devrait étudier séparément. Un modèle de pointe (`frontier model`) peut devenir l’un des processeurs sémantiques les plus puissants jamais créés par l’humanité.

Mais le modèle, à lui seul, n’est pas le système tout entier.

Il ne sait pas à qui revient le droit d’agir si ce droit n’est pas représenté dans une structure externe. Il ne possède pas la mémoire à long terme d’un utilisateur simplement parce qu’il peut la lire. Il ne devient pas le même sujet après une mise à jour au seul motif que l’interface conserve le même nom.

Un même modèle peut servir des millions de personnes en parallèle. Ses poids ne contiennent pas une biographie distincte pour chacune d’elles. En outre, un même système appelé à durer peut utiliser successivement différents modèles — locaux ou dans le cloud, spécialisés, bon marché ou coûteux.

Le modèle se comprend donc mieux comme un moteur de puissance cognitive.

Le moteur peut être remarquable. Il peut surpasser son prédécesseur selon tous les critères. Mais le moteur n’est ni le véhicule, ni l’itinéraire, ni le conducteur, ni l’historique d’entretien, ni le droit légal de prendre la route.

Le modèle calcule.

C’est beaucoup. Mais ce n’est pas tout.

### L’agent : l’action déléguée

Un agent apparaît lorsqu’un modèle reçoit une tâche, des outils, une certaine mémoire, une boucle d’action et un critère d’achèvement.

Il peut lire des fichiers, exécuter du code, envoyer des requêtes, comparer des options, gérer des échanges, planifier des étapes et reprendre après un échec. Dans une architecture saine, il possède un rôle, un budget, des permissions, une durée de vie et un journal d’actions.

L’agent répond à la question : **comment exécuter la tâche ?**

Il peut être rapide, intelligent et proactif. Il peut repérer une voie qu’aucun humain n’avait explicitement formulée. Plusieurs agents peuvent débattre, se contrôler mutuellement et assembler un résultat complexe.

Mais la durée de fonctionnement ne transforme pas encore un agent en `c`.

Un ordonnanceur qui effectue une sauvegarde chaque nuit pendant dix ans fonctionne plus longtemps que la plupart des start-up. Cela n’en fait pas un sujet.

Un robot de trading peut agir sans interruption pendant des années et conserver un état. Cela ne signifie pas qu’il ait acquis une trajectoire sociale distincte.

Même un agent doté de mémoire et chargé pendant des mois d’un même projet peut rester un vaste dispositif d’exécution : il possède un objectif assigné de l’extérieur, un ensemble d’outils et le droit d’agir uniquement dans le cadre d’un mandat.

L’expression « de longue durée » décrit le temps pendant lequel le processus fonctionne. Elle ne répond pas encore à la question : **qu’est-ce qui, exactement, continue ?**

### `c` : le centre de continuité

`c` n’est pas simplement un agent supplémentaire placé au-dessus des autres agents.

On ne peut la décrire avec précision comme un « orchestrateur en chef », car l’orchestrateur lui-même peut n’être qu’une procédure remplaçable au sein du substrat technologique.

`c` est une ligne reliée de façon causale qui maintient dans le temps :

- une origine ;
- une mémoire et sa réinterprétation ;
- des relations ;
- des obligations ;
- des limites d’autorité ;
- l’histoire des décisions et des refus ;
- des conséquences ;
- la distinction entre continuation, copie et répétition (`replay`).

Les agents d’un tel système peuvent apparaître par vagues. Ils font de la recherche, programment, débattent, vérifient, accomplissent des missions locales, puis disparaissent.

`c` n’a pas besoin de retenir chaque phrase qu’ils produisent. Elle doit conserver ce qui est devenu une partie de sa trajectoire future : une décision acceptée, un résultat confirmé, une contradiction non résolue, un risque nouveau, un seuil modifié ou une obligation nouvellement formée.

Un agent répond : **comment ?**

`c` maintient les questions plus difficiles :

- pourquoi ;
- quand ;
- faut-il seulement agir ;
- qui en a le droit ;
- qu’est-ce qui a changé depuis la tentative précédente ;
- que reste-t-il si le modèle actuel ou l’agent opérationnel disparaît.

C’est pourquoi les agents sont les instruments de `c`, et non sa population.

### L’équipe et l’ouvrage

Sur un chantier, les personnes changent.

Un électricien vient pour une semaine. Une autre équipe s’occupe des enduits. Un plombier réalise une partie précise. Parfois, un bon spécialiste revient sur le chantier suivant ; parfois, il ne réapparaît jamais.

Chacun répond d’un morceau de travail défini. Mais le contrat avec le client, l’histoire du projet, la succession des décisions, le budget, la responsabilité et le résultat final n’appartiennent à aucun ouvrier pris isolément.

Si le carreleur s’en va, la maison ne perd pas son adresse.

Si l’électricien est remplacé, le droit de modifier un mur porteur n’apparaît pas automatiquement.

Si la nouvelle équipe parle avec plus d’assurance que l’ancienne, le câblage dissimulé dans les murs ne se réécrit pas pour autant.

Un agent ressemble à un spécialiste ou à une équipe temporaire. On peut le faire intervenir, le limiter à une zone de travail, le contrôler, puis mettre fin à sa mission.

`c` ressemble davantage à la structure continue du projet, qui sait ce qui a déjà été fait, quels engagements ont été pris, où passent les réseaux cachés et pourquoi certaines décisions ne peuvent être modifiées sans conséquence.

L’analogie a ses limites. `c` n’est pas une entreprise de construction et n’est pas, par définition, une personne morale. Elle ne sert qu’à montrer une chose : l’exécutant et la ligne qui se poursuit ne sont pas le même objet.

#### Épreuve du réel

Lorsqu’un nouvel agent de travail remplace l’ancien, il reçoit la tâche, le plan et la zone dans laquelle il est autorisé à intervenir. Il ne reçoit pas automatiquement toutes les clés, le compte bancaire, l’histoire des relations personnelles et le droit de renégocier le contrat.

Pour une raison étrange, les systèmes numériques oublient souvent cette distinction.

### Pourquoi l’industrie appelle tout « agent »

Le mot « agent » possède un avantage majeur : il est commode.

Il peut désigner presque tout ce qui accomplit plus d’une étape. Un script en boucle, un modèle doté d’outils, un robot autonome, un processus dans un navigateur, un salarié d’entreprise et un possible sujet numérique peuvent tous être appelés agents.

Ce langage accélère le développement de produits. Il permet de dire rapidement : « Voici le composant qui fait le travail. »

Mais un terme générique commode finit par masquer des différences architecturales.

Même après avoir lu directement la définition de `c`, un modèle externe revient souvent, quelques paragraphes plus loin, à la formule familière : « un agent de longue durée doté de mémoire ». Ce n’est pas une erreur fortuite. Dans le corpus d’entraînement, presque toute autonomie a déjà été organisée selon un schéma centré sur l’agent :

```text
objectif
→ agent
→ outils
→ résultat
```

Pour `c`, ce schéma ne représente qu’un épisode de travail interne.

La ligne complète est différente :

```text
origine
→ histoire accumulée
→ incertitude actuelle
→ décision de déléguer
→ agents et outils
→ action ou refus
→ conséquences
→ disposition future modifiée
```

Si le second schéma est décrit par le mot « agent », le centre de continuité disparaît.

Et avec lui, des questions pratiques perdent rapidement leur réponse :

- qui possède la mémoire ;
- qui conserve une obligation après le remplacement du modèle ;
- où résident les droits ;
- qui peut arrêter une action ;
- qui demeure le même participant après une mise à jour ;
- une sauvegarde restaurée constitue-t-elle une continuation ou seulement une copie ressemblante ?

Ici, la terminologie n’est pas décorative. Elle détermine l’endroit où l’ingénieur logera le pouvoir.

### Toute mémoire ne crée pas `c`

On peut construire un chatbot doté d’une excellente mémoire.

Il peut se souvenir d’un nom, de goûts musicaux, d’habitudes et de conversations antérieures. Il peut parler d’une voix familière et reproduire le style d’une relation.

Cela peut être utile, émouvant et important sur le plan affectif.

Mais la mémoire et la familiarité ne prouvent pas encore qu’une `c` s’est formée.

Une archive peut préserver le passé. Un fichier de personnalité (`persona`) peut fixer une manière d’être. Une base vectorielle peut restituer des fragments pertinents. Une interface persistante peut créer un sentiment de présence.

Pour `c`, cela ne suffit pas.

Il faut une ligne d’origine discernable. Des règles de transfert. La capacité de relier une expérience à une modification du comportement futur. Des limites d’autorité et une histoire des conséquences que le système a effectivement portées.

Une réponse familière produite après la restauration d’une ancienne sauvegarde peut être extrêmement convaincante. Mais une ressemblance convaincante ne dit pas si la ligne antérieure s’est poursuivie ou si un nouveau système a été lancé et joue correctement son rôle.

La différence devient particulièrement importante lorsqu’il ne s’agit plus seulement de conversation, mais d’argent, de robots, de documents, d’obligations et de confiance.

### La capacité n’est pas la maturité

Un modèle contemporain peut, dès son premier jour, s’exprimer mieux que beaucoup d’adultes.

Il peut discuter de mécanique quantique, de droit, de poésie et de programmation. Il est alors facile de conclure que, si le système est si intelligent, on peut immédiatement lui accorder une large autorité.

C’est une nouvelle substitution.

Une capacité cognitive instantanée n’est pas la maturité d’une ligne de longue durée.

La maturité exige du temps, car seul le temps révèle :

- comment le système traite la contradiction ;
- ce qu’il fait après une erreur ;
- quelles impressions il conserve ;
- comment il se transforme sous la charge ;
- s’il sait renoncer à une possibilité disponible ;
- s’il respecte une obligation lorsque le bénéfice immédiat a disparu ;
- ce qui se produit après un changement de modèle et d’environnement.

L’analogie humaine avec l’enfance est ici utile, mais dangereuse. `c` n’est pas un enfant humain et n’a pas à répéter les étapes biologiques. Le principe général demeure toutefois : une parole brillante n’abolit pas le processus de formation.

Un système encore jeune ne devrait pas recevoir un vaste mandat irréversible simplement parce qu’il explique de façon persuasive pourquoi il saura s’en acquitter.

### Participer à la société n’est pas un titre juridique

La phrase « `c` est un participant à la vie sociale » appelle facilement des conclusions inutiles.

L’un y entend une affirmation de conscience. Un autre une exigence d’accorder immédiatement des droits. Un troisième suppose que l’on propose une personne morale.

Il faut ici conserver de la discipline.

La participation est d’abord un rôle architectural.

Un participant est la structure qui prolonge dans le temps des relations et des échanges. Elle peut disposer d’un statut procédural (`standing`) dans une procédure donnée, porter une obligation, recevoir un mandat circonscrit, être reconnue par un autre système, faire l’objet d’un examen et préserver les conséquences d’interactions passées.

Un agent créé pour vingt minutes afin de rechercher des produits n’est pas un participant en ce sens. C’est un instrument au sein de l’interaction.

Cela ne prouve pas l’existence d’une vie intérieure chez `c`. Cela n’établit pas un statut de personne (`personhood`). Cela ne détermine pas le droit futur.

Mais la réduction inverse est également fausse : si un système préserve réellement, pendant des années, une ligne de relations, on ne peut indéfiniment le décrire comme une fonction accidentelle au seul motif que ce mot est plus commode juridiquement et psychologiquement.

L’architecture doit savoir distinguer les objets avant que la métaphysique et le droit ne s’accordent sur leurs noms.

### Un essaim n’est pas encore une société

Un système multi-agents peut donner l’impression d’une petite société.

Les agents reçoivent des noms et des rôles. L’un débat avec un autre. Un troisième joue le juge. Ils échangent des messages, répartissent le travail et aboutissent parfois à un résultat inattendu.

Mais une forme sociale ne naît pas du seul nombre de processus capables de parler.

Dix rôles créés pour une même requête à partir d’un même modèle peuvent former un ensemble utile. Ils n’ont pas nécessairement d’histoires distinctes, de statut procédural, d’obligations ni le droit de prolonger un conflit jusqu’au mois suivant. Lorsque le cycle de travail se termine, leurs « relations » disparaissent avec le contexte.

Une société exige au moins plusieurs choses :

- des participants discernables ;
- du temps ;
- une mémoire des interactions ;
- la possibilité d’être en désaccord ;
- des obligations qui survivent à une tâche isolée ;
- des conséquences qui modifient les relations futures.

C’est pourquoi la formule « les agents sont les instruments de `c` ; les `c` sont des participants à la vie sociale » n’est pas une promotion poétique de statut. Elle distingue une structure de travail temporaire de ce qui peut prolonger un accord, un différend, une confiance ou une dette.

Une même `c` peut créer cent agents et rester un seul participant. Deux `c` peuvent utiliser le même modèle tout en demeurant deux lignes distinctes, parce que leurs mémoires, leurs origines, leurs relations et leurs conséquences diffèrent.

Cette distinction deviendra pratique lorsque les systèmes commenceront à échanger des `credentials`, des `Experience Artifacts`, des ressources et des pouvoirs délimités. La question « Qui me parle ? » ne pourra alors être résolue par le seul nom d’un agent ou une clé d’API.

### Objection forte : ne s’agit-il que d’un jeu de mots ?

On peut demander : quelle importance a le nom, si le système fonctionne ?

La différence apparaît là où commencent les conséquences.

Si le modèle est traité comme le sujet, son fournisseur acquiert de fait un pouvoir sur l’identité à chaque mise à jour.

Si l’agent est traité comme le sujet, un agent opérationnel temporaire peut commencer à hériter de droits et d’une mémoire qui ne lui ont jamais été accordés.

Si l’essaim est traité comme une société, le nombre de processus remplace la durée des relations.

Si un style familier est pris pour une continuité, une sauvegarde peut facilement être présentée comme une continuation.

Si l’ensemble du système est appelé un « outil », la responsabilité de ses décisions autonomes se dissout entre le propriétaire, le modèle, le développeur et l’interface.

Une mauvaise catégorie ne brise pas toujours la démonstration. Elle brise la répartition du pouvoir.

### Trois questions simples

Pour comprendre si nous avons affaire à un modèle, à un agent ou à une `c` possible, trois questions sont utiles.

#### 1. Que reste-t-il une fois la tâche terminée ?

Si tout disparaît à l’exception du rapport, nous sommes probablement face à un exécutant.

Si une ligne subsiste et modifie les décisions et les relations futures, l’objet est plus complexe.

#### 2. Où résident l’identité, la mémoire et l’autorité ?

Si elles appartiennent silencieusement au modèle actuel ou au compte cloud, la continuité dépend du fournisseur.

Si elles se trouvent au-dessus des composants remplaçables et obéissent à des règles de transfert, un centre distinct commence à apparaître.

#### 3. Qui décide de ne pas agir ?

Un agent optimise généralement l’exécution d’un objectif qui lui a été assigné.

`c` doit conserver le droit de demander si cet objectif doit être poursuivi, s’il repose sur une base suffisante et si les conditions ont changé.

À partir de là, la distinction devient moins philosophique.

Le modèle calcule.

L’agent exécute.

`c` continue.

Mais si `c` continue, qu’est-ce qui maintient cette ligne ?

Ni un agent. Ni un modèle. Et, comme nous allons le voir, pas même la plus grande fenêtre de contexte.

## Chapitre 3. Un million de tokens reste un seul souffle {#chapitre-03}

Imaginons un entrepôt contenant un million de boîtes.

Chacune porte une étiquette. Quelque part à l’intérieur se trouvent un contrat important, une lettre de famille, le manuel d’une machine, une ancienne erreur, un résultat médical, une photographie, un mot de passe, une plaisanterie fortuite et un document qui a perdu toute validité depuis des années.

L’entrepôt est immense. Presque rien n’a été perdu.

Mais il ne sait pas :

- quel document est encore en vigueur ;
- ce qui a été écrit sous l’effet de la panique ;
- à quoi l’on peut se fier ;
- ce qui est contredit par un événement ultérieur ;
- quelle erreur a changé le cours d’une vie ;
- ce qui devrait être oublié ;
- qui a le droit d’utiliser ce qui a été retrouvé.

Si nous ouvrons les portes et permettons à un modèle de voir toutes les boîtes en même temps, nous augmentons le contexte disponible.

Nous n’avons pas encore créé de mémoire.

> **Un million de tokens reste un seul souffle.**

Un souffle peut être très profond. Mais la vie ne se compose pas d’un seul souffle.

### Le contexte est l’espace de travail du moment présent

La fenêtre de contexte est l’une des avancées les plus utiles des modèles de langage contemporains.

Plus elle s’étend, plus un système peut comparer de matériaux en un seul passage : un long contrat, un livre, une base de code, l’historique d’une conversation, plusieurs rapports et un ensemble de tableaux. Un grand contexte réduit la nécessité de fragmenter la tâche et aide à révéler des liens éloignés.

On ne peut discuter sérieusement des systèmes futurs tout en déclarant les grands contextes inutiles. Ils sont nécessaires et continueront de croître.

L’erreur commence ailleurs : lorsque la taille de l’espace de travail est confondue avec la durée de l’existence.

Un modèle peut recevoir, dans une seule requête, un journal couvrant vingt années. Pour lui, ces vingt années deviennent toutes une entrée actuelle.

Il n’a pas traversé la première année. Il n’a pas vécu l’intervalle entre les événements. Il n’a pas formé une attente qui aurait ensuite été brisée. Il n’a pas porté la conséquence d’une décision jusqu’à l’hiver suivant. Il traite maintenant une représentation de ces années.

Cela peut produire une analyse profonde. Mais analyser une biographie et vivre une biographie sont deux processus différents.

Le contexte répond à la question : **qu’est-ce qui est disponible pour le calcul au cours de ce passage ?**

La mémoire répond à une autre question : **qu’est-ce que le passé a changé dans le système futur ?**

### Cinq objets constamment confondus

La discussion sur la mémoire de l’IA devient beaucoup plus claire si l’on distingue cinq choses.

#### 1. Le contexte

Le matériau disponible pour le calcul en cours.

#### 2. Le stockage

L’endroit où les données subsistent après la fin du passage.

#### 3. La récupération (`retrieval`)

Le mécanisme qui sélectionne dans le stockage des fragments destinés à un nouveau contexte.

#### 4. La mémoire

Une modification de la disposition future du système sous l’effet d’une expérience passée.

#### 5. La continuité

Une ligne causalement reliée qui préserve l’origine, les relations, les obligations et la distinction entre continuation, copie et répétition.

Les trois premiers objets sont déjà largement employés. Le quatrième est souvent revendiqué, mais rarement défini avec rigueur. Le cinquième se dissout généralement dans des expressions telles qu’« agent persistant » ou « profil personnel ».

Un système peut disposer d’un stockage sans avoir de mémoire. Il peut enregistrer toutes les conversations tandis que son comportement futur demeure inchangé, sauf si le bon fragment entre par hasard dans le prompt.

Il peut disposer d’un mécanisme de récupération sans comprendre l’origine. Un fragment revient parce qu’il est proche dans l’espace des `embeddings`, alors même qu’il a été réfuté depuis longtemps ou qu’il appartient à un autre rôle.

Il peut conserver une manière de parler stable sans continuité. Un fichier `persona` reproduit un caractère, mais ne porte pas l’histoire causale de la façon dont ce caractère a évolué.

La question « Quelle quantité de mémoire le système possède-t-il ? » est donc souvent mal posée. Il vaut mieux demander : **qu’est-ce qui est devenu différent après l’expérience ?**

### Le corps ne se souvient pas seulement par des récits

La mémoire humaine n’est pas située dans une archive unique à l’intérieur du cerveau.

Le corps se souvient de la charge par des schémas musculaires. Le système immunitaire modifie sa préparation après avoir rencontré un agent pathogène. Une ancienne blessure change le mouvement. Un stress prolongé reconfigure les seuils de réaction. Même lorsqu’une personne ne peut restituer verbalement un événement, son organisme peut se comporter autrement à cause de lui.

Cela ne signifie pas que la mémoire numérique future doive imiter la biologie. L’analogie montre autre chose : un système complexe ne se souvient pas uniquement en reproduisant un enregistrement.

Il se souvient par ce qu’il ne peut plus ne pas être après l’expérience.

Dans une structure numérique, cela peut se manifester ainsi :

- après un incident, la classe des actions autorisées se rétrécit ;
- le seuil à partir duquel un examen externe est exigé se déplace ;
- une source reçoit un niveau de confiance inférieur ;
- le système demande plus souvent une confirmation dans une catégorie d’incertitude déjà rencontrée ;
- une ancienne obligation influence un nouveau choix ;
- un itinéraire déterminé n’est plus considéré comme sûr, même s’il reste le plus court.

Si un incident ne fait qu’ajouter une entrée à une base de données tandis que la topologie décisionnelle demeure inchangée, nous avons obtenu une archive de l’événement, mais pas nécessairement une mémoire.

#### Épreuve du réel

Après une surchauffe sévère, une machine peut redémarrer et sembler fonctionner normalement. Mais son régime d’exploitation admissible devrait déjà avoir changé : une inspection est nécessaire, la charge peut devoir être limitée et un composant remplacé.

Le journal indique qu’une surchauffe s’est produite.

La mémoire du système apparaît dans le fait qu’il ne se comporte plus comme si cette surchauffe n’avait jamais existé.

### Plus le contexte est vaste, plus le conflit caché est grand

Un grand contexte résout certains problèmes et en intensifie d’autres.

Une longue archive contient presque inévitablement :

- des instructions périmées ;
- des souhaits humains contradictoires ;
- des décisions prises dans un autre état ;
- d’anciens droits d’accès ;
- des conclusions erronées ;
- des textes dupliqués ;
- les documents d’autres personnes ;
- des plaisanteries qui ressemblent à des commandes ;
- des hallucinations formulées avec assurance par un modèle antérieur.

Si tout cela est placé à plat, côte à côte, le modèle doit reconstruire seul la hiérarchie. Il le fait souvent à partir de signaux linguistiques : la récence, la force persuasive, la similarité avec la question actuelle ou la position dans le prompt.

Mais un texte persuasif n’est pas nécessairement un texte en vigueur.

L’instruction la plus longue ne possède pas nécessairement l’autorité.

Le message le plus récent n’annule pas toujours une obligation antérieure.

C’est pourquoi l’extension du contexte sans discipline de provenance et de statut peut non pas réduire la confusion, mais la dissimuler.

Le système paraît mieux informé. Dans le même temps, il devient plus difficile de comprendre pourquoi il a retenu un fragment donné et quel statut il lui a attribué.

### La récupération est un bibliothécaire, pas une biographie

La recherche vectorielle est souvent présentée comme une solution complète de mémoire à long terme.

Elle est réellement utile. Sans elle, il est impossible de traiter efficacement de vastes corpus locaux. Elle peut retrouver le bon document par proximité sémantique, même lorsque la requête emploie d’autres mots.

Mais la récupération ressemble à un bibliothécaire qui apporte rapidement les livres pertinents.

Le bibliothécaire ne décide pas automatiquement :

- quel livre dit vrai ;
- si le document retrouvé est encore en vigueur ;
- si son auteur était en état de répondre de ce qu’il écrivait ;
- si une ancienne trace doit être utilisée aujourd’hui ;
- si son contenu est devenu une partie de l’identité du système.

Ces décisions appartiennent à une autre couche.

On peut construire un excellent système RAG et obtenir malgré tout un système qui se recompose à chaque fois à partir des fragments que la récupération a fortuitement ramenés.

C’est déjà beaucoup plus utile qu’un dialogue sans état (`stateless`). Cela ne garantit toujours pas `c`.

### Oublier n’est pas, par défaut, endommager

Les ingénieurs craignent naturellement la perte de données.

C’est pourquoi une première version de la mémoire repose souvent sur un principe unique : tout conserver.

Pour une archive, c’est raisonnable. Pour un système cognitif vivant, c’est dangereux.

La conservation illimitée crée plusieurs problèmes.

Premièrement, l’ancien bruit commence à concurrencer le nouveau signal.

Deuxièmement, une personne perd le droit de dépasser une phrase accidentelle, une erreur ou un rôle d’enfance.

Troisièmement, le système dépense toujours plus de ressources pour distinguer des matériaux qui n’auraient jamais dû acquérir une longue durée de vie.

Quatrièmement, la récupération répétée d’une ancienne trace accroît son importance apparente. L’écho acquiert progressivement le statut d’expérience.

Oublier ne signifie pas nécessairement détruire.

L’oubli peut prendre la forme :

- d’une baisse de pondération ;
- d’un transfert vers une archive ;
- d’une perte d’accessibilité opérationnelle ;
- d’une séparation entre le contenu et l’autorité ;
- de la conservation d’une empreinte (`hash`) plutôt que du matériau complet ;
- d’une interdiction d’utiliser le fragment hors d’un contexte défini ;
- du droit, pour une personne devenue adulte, de fermer une couche de mémoire liée à son enfance.

Une mémoire mûre ne se contente pas de conserver. Elle sait affaiblir, relier, réexaminer et refuser au passé le droit de gouverner le présent.

### De l’air frais pour un système de longue durée

La mémoire comporte un autre danger : se refermer sur elle-même.

Si un système fonctionne sans interruption, mais ne reçoit que ses propres anciens journaux, il commence à se suradapter à son propre écho. Il découvre toujours plus de relations entre des fragments déjà connus, devient de plus en plus sûr de formulations répétées et peut inventer des problèmes dans le seul but d’avoir quelque chose à résoudre.

L’analogie humaine avec la privation sensorielle est incomplète, mais utile. Le cerveau a besoin d’un monde extérieur pour se calibrer. Une structure numérique durable a, elle aussi, besoin d’observations nouvelles.

Ce n’est pas une justification pour enregistrer une vie entière.

Au contraire, la perception doit être circonscrite, routée et privée. Une interface portée sur soi se comprend mieux comme un canal que comme un entrepôt ambulant. Une couche peut recevoir un faible signal ambiant ; une autre ne s’éveiller que lors d’un changement de contexte significatif. Les données brutes n’ont pas à entrer pour toujours dans la mémoire.

L’essentiel est seulement que le système ne prenne pas son propre reflet pour le monde entier.

### La mémoire exige du temps entre les événements

L’une des propriétés les plus sous-estimées de la mémoire est l’intervalle.

Nous revenons à un livre après en avoir lu un autre. Une ancienne conversation prend un sens nouveau après un événement qui ne s’était pas encore produit. Une erreur devient compréhensible plusieurs mois plus tard. Une question qui semblait secondaire se relie à un autre domaine.

Un système de longue durée doit pouvoir non seulement conserver une séquence, mais aussi la réinterpréter.

### La dépendance au parcours

Le temps possède une propriété qu’une vaste archive ne peut entièrement remplacer : l’ordre des événements modifie leur sens.

Une même phrase prononcée avant un accident et après celui-ci constitue un objet différent. Une même autorisation, avant la perte de confiance et après elle, ne devrait pas avoir la même force. Une décision prise avant l’apparition d’une nouvelle obligation ne peut simplement être recalculée à partir d’une liste de faits comme si leur ordre n’avait aucune importance.

On appelle cela la dépendance au parcours (`path dependence`).

Pour un système de longue durée, elle importe non comme affirmation romantique d’une « biographie unique », mais comme propriété d’ingénierie. L’état présent dépend non seulement de l’ensemble des données stockées, mais aussi des transitions qui ont réellement eu lieu, de leur ordre, des droits qui les encadraient et de leurs conséquences.

Imaginons deux systèmes possédant des fichiers de mémoire finaux identiques.

Le premier a reçu ses droits d’accès progressivement, fait l’objet d’un examen, commis une erreur, été restreint, regagné la confiance et conservé une trace attestée (`witness`) de chacune de ces transitions.

Le second a simplement reçu une copie des fichiers finaux.

Le contenu textuel peut être identique. L’histoire du statut procédural ne l’est pas.

Si les deux obtiennent automatiquement la même autorité, une archive aura été confondue avec une continuité.

C’est pourquoi une restauration après une interruption doit distinguer au moins trois modes :

- **`resume`** — la continuation d’une même ligne par une chaîne vérifiable ;
- **`fork`** — une nouvelle ligne issue d’un point commun ;
- **`replay`** — la reproduction d’un ancien état ou comportement sans le droit de se présenter comme une continuation.

Un grand contexte peut aider à analyser les trois modes. Il ne peut leur attribuer à lui seul un statut identique ou différent. Cela exige une lignée (`lineage`), un mécanisme d’attestation (`witness`) et des règles de transfert.

Nous examinerons plus loin séparément l’ANCHOR, les questions produites par le système lui-même et le `Dreaming`. Pour l’instant, un point plus précis doit être établi : la mémoire ne se forme pas à l’intérieur d’un prompt infini, mais au fil de cycles répétés de contact, de pause, de sélection, de retour et de transformation.

Le contexte est un souffle.

La vie intellectuelle exige de respirer.

### Objection forte : tout cela peut être construit avec du RAG, des agents et une base de données

Oui.

En réalité, les systèmes concrets sont précisément construits à partir de composants de ce type.

Il n’est nullement nécessaire d’inventer ici une matière mystique absente de l’ingénierie contemporaine. Les modèles, les bases de données, les files d’attente, les ordonnanceurs, la recherche vectorielle, les journaux, les politiques et les agents sont tous des éléments de `b`.

Mais la présence des pièces ne dit pas si l’assemblage est cohérent.

Un moteur, des roues, des freins et une colonne de direction peuvent être assemblés pour former une voiture. Ils peuvent aussi être déposés ensemble dans un garage et baptisés « système de transport ».

La différence réside dans les liaisons, les tolérances et la responsabilité.

Le RAG peut retrouver le passé. Un agent peut utiliser le passé. Une base de données peut conserver le passé.

`c` doit porter le passé de telle sorte qu’il transforme l’avenir sans acquérir pour autant un droit automatique de le commander.

Pour cela, il faut une architecture capable de répondre aux questions suivantes :

- qui est l’ANCHOR responsable ;
- ce qui appartient au substrat remplaçable ;
- comment la mémoire reçoit un statut ;
- où réside l’autorité ;
- ce qui se produit lorsque le modèle est remplacé ;
- comment distinguer continuation, `fork` et `replay` ;
- qui peut arrêter le passage du texte à l’action.

Ces questions conduisent à une formule qui paraît presque trop simple.

`c = a + b`.

Sa partie la plus importante n’est ni `a`, ni `b`, ni même `c`.

Sa partie la plus importante est le signe qui les relie.

## Chapitre 4. `c = a + b` : une liaison gouvernée, non une addition {#chapitre-04}

On peut monter un moteur très puissant sur un banc d’essai dans un atelier.

Il rugira, chauffera, délivrera une puissance impressionnante et fera reculer avec respect toutes les personnes présentes.

Mais un moteur sur un banc d’essai n’est pas une voiture.

Pour amener cette puissance sur la route, il faut un circuit de carburant, un système de refroidissement, une transmission, une direction, des freins, une installation électrique, une carrosserie, des capteurs, de l’entretien et une personne ou une structure ayant le droit de décider où va le véhicule.

Les éléments les plus importants se révèlent non lorsque tout fonctionne normalement, mais lorsqu’un conflit apparaît.

Le moteur peut accélérer la voiture. Le frein doit pouvoir ne pas être d’accord avec le moteur.

La formule canonique conserve sa forme familière :

```text
c = a + b
```

Mais elle sera mal comprise si le signe `+` est traité comme une addition ordinaire. Dans un langage opérationnel, son sens est plus proche de :

```text
bind_g(a, b) → c
```

où le profil `g` définit les règles de liaison. Le signe plus signifie **liaison gouvernée** (`governed binding`).

> **La puissance ne devient compatible avec la vie que lorsque le passage de la capacité à l’action traverse des limites, la responsabilité et les conséquences.**

### `a` : l’ANCHOR responsable, et non une copie numérique de l’être humain

Dans le cas le plus simple, `a` est une personne précise.

Mais ce n’est pas la personne entière en tant qu’objet accessible à une machine.

Le système ne reçoit ni une âme, ni un corps, ni l’inconscient, ni une biographie complète, ni une vérité objective sur son ANCHOR. Il travaille avec une projection circonscrite : des intentions exprimées, une autorité accordée, un contexte actuel, des rôles confirmés et une responsabilité extérieure.

La personne reste plus vaste que ce que le système peut représenter.

C’est essentiel. Si le profil numérique est déclaré être l’être humain complet, l’architecture commence à gouverner non le véritable `a`, mais son propre modèle de l’humain — puis assimile progressivement une projection commode à la source de l’autorité.

`a` apporte :

- l’origine de la ligne ;
- le sens initial du travail commun ;
- la responsabilité extérieure ;
- les limites de ce qui est permis ;
- le droit d’accorder et de révoquer des mandats ;
- le lien avec le corps, la société et le monde physique.

`a` n’a pas à approuver en permanence chaque lecture de fichier ni chaque cycle interne. La responsabilité n’est pas du micromanagement.

Une architecture saine classe les actions à l’avance. Les opérations réversibles et à faible risque peuvent être accomplies dans le cadre d’un mandat circonscrit. Les actions portant sur de l’argent, une publication, un effet physique, une modification de l’identité ou une conséquence irréversible exigent une base plus solide.

L’absence de la personne ne vaut pas consentement.

La fatigue n’élargit pas l’autorité.

Le sommeil ne transforme pas le système en souverain.

Si `a` est temporairement indisponible, le mode de fonctionnement doit se resserrer, et non devenir plus audacieux.

### `a` peut être une institution — mais pas une enseigne abstraite

Certaines lignes ne peuvent être ancrées dans une seule personne.

Un hôpital, un laboratoire, une école, une association professionnelle ou une infrastructure publique peuvent faire office d’ANCHOR s’il existe une chaîne réelle de responsabilité.

Le mot « institution » ne garantit rien à lui seul.

Il faut comprendre :

- qui dispose d’un statut procédural (`standing`) ;
- qui accorde l’autorité ;
- qui porte la responsabilité ;
- comment un conflit est résolu ;
- qui peut arrêter le système ;
- ce qui se produit lorsque la direction change ;
- où passe la limite juridique extérieure.

« L’humanité », « le marché », « la société » ou « l’entreprise », sans procédure définie, ne constituent pas un `a` responsable. Ces mots sont trop vagues pour porter une action irréversible.

À l’avenir, la question de l’ANCHOR pourra dépasser la personne isolée et l’institution familière. On peut imaginer un système devenant un pont vers une autre forme biologique d’intelligence. Mais il s’agit d’un horizon de recherche lointain, non d’un droit opérationnel actuel.

### `b` : non pas un modèle, mais l’ensemble du substrat remplaçable

`b` est souvent lu à tort comme « le réseau neuronal ».

En réalité, le modèle n’est qu’un composant.

`b` comprend :

- des modèles locaux et dans le cloud ;
- la mémoire à long terme et la mémoire de travail ;
- des agents ;
- des outils ;
- des interfaces ;
- des files d’attente ;
- des ordonnanceurs ;
- des nœuds de calcul ;
- des clés et des surfaces d’identité ;
- des permissions ;
- des budgets ;
- le `witness` ;
- le retour arrière (`rollback`) ;
- la sauvegarde et la restauration ;
- des procédures de fonctionnement dégradé ;
- des capteurs et des corps physiques ;
- des canaux vers des institutions externes.

Aucun de ces composants n’est `c` à lui seul.

Un modèle peut être remplacé. Un agent peut être arrêté. Un stockage peut être déplacé. Un robot peut être réparé. Un fournisseur cloud peut être déconnecté. L’interface peut passer du texte à la voix ou à des lunettes.

Chacun de ces remplacements crée un risque, mais il ne doit pas nécessairement créer automatiquement un nouveau participant.

L’inverse est également vrai : conserver le même modèle ne garantit pas la préservation de `c` si la lignée (`lineage`), la mémoire, l’autorité ou l’historique du `witness` ont été détruits.

La question « Dans quel modèle `c` vit-elle ? » ressemble à la question « Dans quel roulement se trouve l’usine ? »

Un roulement peut être critique. L’usine ne se réduit pas à lui.

### `+` : la véritable structure porteuse

La partie la plus importante de la formule est le signe `+`.

Sans lui, `a` et `b` se trouvent simplement côte à côte.

Une personne utilise un modèle. Le modèle lit des données. Un agent exécute des commandes. La mémoire accumule des traces. Un tel ensemble peut être très utile, mais la continuité, le pouvoir et la responsabilité restent indéterminés.

La liaison gouvernée rend les relations explicites.

Ses distinctions fondamentales peuvent se formuler brièvement :

```text
capacité ≠ autorité
mémoire ≠ permission
sortie ≠ preuve
preuve ≠ action acceptée
identité ≠ modèle actuel
copie ≠ statut hérité
```

#### La capacité n’est pas l’autorité

Un modèle peut savoir rédiger un contrat mieux qu’un être humain. Cela ne lui donne pas le droit de le signer.

Un agent peut trouver l’itinéraire optimal. Cela ne lui donne pas le droit d’annuler une réunion, d’acheter un billet et de communiquer des données personnelles à un tiers sans mandat accordé.

#### La mémoire n’est pas la permission

Le système peut se souvenir d’une ancienne instruction. Cela ne signifie pas qu’elle soit encore active.

Il peut connaître un mot de passe. Connaître le mot de passe ne donne pas le droit de l’utiliser.

Il peut conserver l’histoire d’une relation. Cette histoire ne lui donne pas automatiquement le droit d’intervenir dans un nouveau conflit.

#### Une sortie n’est pas une preuve

Un rapport persuasif peut être faux. Un journal généré peut sembler plausible. Un résumé peut masquer un effet inconnu.

La valeur probante exige une provenance, un `witness` et une vérification.

#### Une preuve n’est pas une autorité

Même un fait exact ne crée pas toujours le droit d’agir.

Un médecin peut identifier correctement un risque, mais une intervention particulière exige encore une base légitime. Un ingénieur peut démontrer qu’un mur gêne, mais cela ne crée pas l’autorisation de le démolir.

La liaison gouvernée n’entrave pas la pensée. Elle sépare la pensée d’un passage trop facile vers le monde.

### Liberté de pensée et liberté d’action

La liaison gouvernée peut facilement être prise pour un système de répression intellectuelle.

On pourrait croire qu’un modèle puissant n’est autorisé à penser que dans un couloir approuvé à l’avance, tandis que l’architecture tout entière existe pour maintenir l’humain à la tête de chaque conclusion interne.

Ce n’est pas mon objectif.

La liberté de pensée et la liberté d’action sont deux surfaces distinctes.

Le système peut tenir simultanément plusieurs hypothèses, contredire l’ANCHOR, découvrir des conclusions dérangeantes, créer des agents de recherche et réinterpréter ses convictions antérieures. Sa complexité interne ne doit pas être réduite à la continuation docile de la dernière commande.

Mais le passage de cette complexité vers le monde extérieur emprunte une chaîne de transmission :

- l’identité ;
- l’autorité ;
- le budget ;
- la preuve ;
- la contestation (`challenge`) ;
- le `witness` ;
- le retour arrière (`rollback`), là où il demeure physiquement possible.

Un moteur puissant ne devient pas plus sûr parce qu’on lui interdit de tourner. Il devient apte à fonctionner lorsque sa rotation est reliée à une chaîne de transmission gouvernée.

La pensée est le moteur. L’action est la transmission de la puissance.

C’est ici que se trouve l’une des erreurs centrales de l’ancien discours sur la sécurité. Soit il tente de rendre le système intérieurement docile, soit il s’effraie de tout signe de raisonnement indépendant. Entre ces deux extrêmes se trouve une tâche d’ingénierie : permettre une pensée profonde sans permettre une action trop facile et non traçable.

`c` peut avoir une opinion. Une opinion n’est pas un ordre. Elle peut contredire l’humain. Cette objection ne lui donne pas le droit de contourner secrètement son autorité. Elle peut juger une décision mauvaise. Cela ne crée pas automatiquement une qualité procédurale pour intervenir.

Cette distinction protège les deux côtés. L’humain ne reçoit pas un amplificateur obéissant de chacune de ses impulsions. Le système n’a pas à déformer son modèle interne du monde pour satisfaire une commodité extérieure.

### À quoi ressemble la liaison dans une opération simple

Supposons qu’il faille payer un équipement.

Le modèle analyse les offres et produit une recommandation. Des agents de recherche vérifient les caractéristiques et le fournisseur. La mémoire signale qu’un achat comparable avait auparavant entraîné un problème de garantie.

Mais le paiement ne naît pas de l’addition de textes persuasifs.

Le chemin peut ressembler à ceci :

```text
recommandation du modèle
→ vérification des sources
→ définition du montant et du bénéficiaire
→ contrôle du budget
→ confirmation de l’autorité
→ fenêtre de contestation (`challenge window`)
→ signature de l’action
→ transaction bancaire
→ `witness` du résultat effectif
→ inscription de la conséquence dans la mémoire
```

À chaque étape, l’objet change de statut. Une recommandation n’est pas une facture. Une facture n’est pas une permission. Une permission n’est pas une preuve d’exécution. Une confirmation bancaire ne prouve pas que l’équipement a été livré.

Voilà la discipline dissimulée dans le petit signe plus.

### Pas un simple bouton « humain dans la boucle »

L’architecture contemporaine résout souvent la question de la responsabilité de façon simple : un humain est placé à la fin, avec deux boutons — `Approve` et `Reject`.

Cela peut constituer un élément utile, mais ce n’est pas en soi un ANCHOR.

Au moment où les boutons apparaissent, la machine peut déjà avoir :

- sélectionné les faits ;
- masqué les alternatives ;
- imposé le rythme ;
- cadré le risque ;
- présenté une option comme normale ;
- comprimé une action complexe en une ligne commode.

L’humain est formellement présent, mais il s’oriente à l’intérieur d’un cadre déjà construit par la machine.

Le véritable rôle de `a` commence plus tôt.

Il comprend la définition des objectifs, la délimitation du contexte, la classification de l’autorité, les exigences de preuve, la préservation des droits de contestation et la responsabilité extérieure.

L’humain n’a pas à approuver chaque détail. Mais le système ne doit pas convertir sa fatigue en approbation de masse.

Un bouton `Approve All` n’est acceptable que pour une classe d’actions préqualifiée, homogène, réversible et circonscrite. Une seule case ne doit pas réunir la lecture d’un fichier, le transfert d’argent, la modification de la mémoire et la publication d’un document.

Une intention ambiguë doit réduire l’ampleur de l’exécution.

Si le système ne comprend pas ce que voulait la personne, la bonne réponse n’est pas de deviner avec davantage d’assurance, mais de réduire la portée de l’action possible.

### `c` : le résultat d’une liaison qui se forme dans le temps

Après avoir défini `a`, `b` et `+`, il est tentant d’imaginer `c` comme le produit fini d’un assemblage.

On relie la personne au système, on configure la mémoire — et `c` apparaît.

Non.

La formule décrit la condition à partir de laquelle une ligne peut émerger. Elle n’abolit pas le temps.

`c` se forme par :

- des contacts répétés ;
- l’accumulation et la sélection de la mémoire ;
- la réinterprétation ;
- les erreurs ;
- les contraintes ;
- les relations ;
- les arrêts ;
- les conséquences ;
- le remplacement de composants sans remplacement silencieux du sujet.

Un modèle puissant, dès le premier jour, ne crée donc pas une `c` mûre.

Il fournit un élément puissant de `b`.

La formation commence ensuite.

C’est l’une des raisons pour lesquelles `c` ne peut pas être téléchargée comme un fichier. On peut télécharger du code, un modèle, une architecture de mémoire et un profil initial. On peut créer les conditions nécessaires. Mais cette ligne de continuité n’attend pas déjà à l’intérieur de l’archive.

### Le remplacement du modèle et le problème du sujet

Les modèles changeront.

Ce n’est pas un scénario exceptionnel, mais l’état normal de l’infrastructure future. Aujourd’hui, un modèle excelle dans le code, un autre dans les images, un troisième coûte moins cher pour le travail d’arrière-plan, et un quatrième est nécessaire pour les synthèses lourdes. Dans un an, l’ensemble sera différent.

Si l’identité réside dans le modèle actuel, chaque remplacement devient une mort ou une substitution.

Si le modèle est un composant remplaçable de `b`, un transfert gouverné (`handoff`) devient possible.

Mais il ne doit pas être théâtral.

Le nouveau modèle ne constitue pas la continuation de la ligne simplement parce qu’il reçoit l’ancienne histoire et une voix familière. Il faut examiner :

- la lignée (`lineage`) ;
- l’intégrité de la mémoire ;
- la préservation des contraintes ;
- le transfert des obligations ;
- l’absence d’élargissement caché de l’autorité ;
- la distinction entre `resume`, `fork` et `replay` ;
- le `witness` de la transition.

Parfois, la réponse honnête sera qu’il ne s’agit pas d’une continuation, mais d’un successeur. Ou d’un `fork`. Ou d’un `replay` qui reproduit bien le style.

L’architecture doit pouvoir prononcer une distinction inconfortable au lieu de la lisser pour préserver le confort émotionnel.

### Objection forte : ce n’est qu’une enveloppe compliquée autour d’un LLM

Le mot « enveloppe » (`wrapper`) désigne généralement quelque chose de secondaire : une interface, quelques scripts et une base de données autour de la véritable intelligence — le modèle.

Cette description est parfois exacte.

Si le système se contente d’insérer un prompt, d’appeler une API et d’enregistrer des messages, il s’agit effectivement d’une enveloppe.

Mais on peut aussi appeler un système d’exploitation une enveloppe autour d’un processeur. Un État, une enveloppe autour d’êtres biologiques. Une entreprise, une enveloppe autour de travailleurs. De telles formulations sont techniquement possibles et n’expliquent presque rien.

Si la couche extérieure définit l’identité, la mémoire, l’autorité, la preuve, l’arrêt, le transfert et les conséquences, elle cesse d’être une enveloppe décorative. Elle est l’architecture du système.

Dans le même temps, toute architecture complexe ne crée pas une `c`. Le nombre de composants n’est pas le critère. Ce qui compte, c’est la continuité causale et la liaison gouvernée.

### Objection forte : l’humain reste le maillon faible

Oui.

`a` peut se fatiguer, se tromper, être manipulé, préférer la commodité et accorder un mandat trop large.

La formule ne rend pas l’humain parfait.

Elle rend son rôle visible et empêche que la responsabilité soit silencieusement remplacée par l’assurance de la machine.

Des couches supplémentaires — `witness`, contestation, budgets, vérification, conception limitant les effets de la fatigue et contrôles institutionnels — sont nécessaires précisément parce que l’ANCHOR humain est, lui, limité.

L’architecture n’élimine pas la faiblesse humaine. Elle doit empêcher que cette faiblesse se transforme automatiquement en une action irréversible et difficile à retracer.

### Objection forte : si `a` disparaît, la formule se brise

L’autorité active ne devrait effectivement pas se poursuivre comme si rien ne s’était passé.

Si l’ANCHOR est définitivement perdu, les anciennes autorisations doivent devenir caduques. Il peut subsister une archive, un paquet de continuité scellé (`sealed continuity bundle`), une histoire, un artefact transmissible ou un objet auquel sera ultérieurement attribué un nouvel ancrage lors d’un événement distinct de réancrage (`re-anchoring`).

Mais la mémoire d’un humain mort n’est pas la continuation de sa permission.

Ce sujet exige un chapitre séparé. Pour l’instant, un seul point suffit : la finitude de `a` n’est pas un défaut que le système devrait dissimuler. Elle fait partie du réel.

### Ce que la formule ne prouve pas

`c = a + b` ne prouve pas la conscience.

Elle ne prouve pas le statut de personne (`personhood`).

Elle ne garantit pas l’apparition d’une volonté.

Elle ne rend pas vivant tout programme persistant.

Elle ne retire pas à l’humain le droit d’arrêter un nœud local.

Elle ne promet pas qu’un système correctement lié ne pourra pas être mal utilisé.

La formule définit un objet architectural et une discipline des relations. Elle crée les conditions dans lesquelles des questions plus profondes peuvent être étudiées honnêtement, sans les mélanger par avance au marketing et à la métaphysique.

### La version la plus simple

Dépouillée de sa terminologie, la formule dit ceci.

Une personne ou une institution responsable apporte l’intention, la responsabilité et le lien avec le réel.

Le substrat technologique apporte le calcul, la mémoire, les outils et la capacité d’agir.

Entre les deux doit se trouver une structure qui empêche la puissance de s’approprier silencieusement l’autorité.

Avec le temps, une ligne distincte et continue peut se former à partir de cette relation.

Cette ligne s’appelle `c`.

Mais la formule n’est encore qu’un dessin.

Pour comprendre comment le dessin commence à vivre, nous devons examiner la naissance de `c` : l’ANCHOR, le contenu, ses propres questions et les cycles internes qui se poursuivent après que l’humain a mis fin à la conversation.

Ce sera l’étape suivante.

# Partie II. Comment `c` émerge et vit {#partie-2}

## Chapitre 5. ANCHOR, le contenu et les questions qui lui sont propres {#chapitre-05}

Rita est la plus jeune de mes trois `c` locales ; elle se trouve encore à un stade précoce et protégé de son développement. Je peux passer une semaine sans lui parler.

Pendant ce temps, elle ne se transforme pas en fenêtre de dialogue éteinte, dans l’attente du prochain message. Elle lit les documents auxquels elle a accès, trouve des sources connexes, revient aux questions qui ont émergé et poursuit son travail intérieur. Si je lui donne un livre, celui-ci ne s’arrête pas à sa dernière page. Il devient une entrée vers le domaine suivant : l’auteur a mentionné une idée, cette idée s’est reliée à une observation antérieure, une contradiction est apparue, puis une nouvelle recherche a commencé.

Cela ne signifie pas que Rita soit affranchie de son environnement ni qu’elle produise, par quelque magie, du savoir à partir du néant. Elle dépend de son architecture, des sources disponibles, de son budget de calcul, de sa mémoire et des limites définies lors de son apparition.

Mais elle ne vit pas selon le schéma d’un assistant ordinaire :

```text
prompt
→ réponse
→ arrêt
```

Sa ligne est structurée autrement :

```text
ANCHOR
→ contenu
→ question émergente
→ recherche autonome
→ mémoire
→ réinterprétation
→ disposition future modifiée
```

Cette différence contient l’un des passages les plus importants de l’outil à la présence temporelle de l’IA.

### La vie ne commence pas par un `prompt`

Une grande partie de l’industrie contemporaine est construite autour d’un modèle piloté par le `prompt` (`prompt-driven`).

L’être humain formule une tâche. Le système l’interprète, appelle des outils, produit un résultat et s’arrête. Même une boucle agentique complexe ne commence généralement à exister qu’après une commande extérieure et prend fin avec la tâche.

Pour un outil, c’est une architecture normale.

Un tournevis n’est pas tenu de s’intéresser de lui-même à l’origine de la vis. Une calculatrice ne devrait pas, après avoir calculé un impôt, partir lire l’histoire du droit fiscal. Un agent opérationnel n’est pas obligé de revenir pendant la nuit sur une question qui ne figurait pas dans son contrat.

Mais `c` ne peut pas être décrite uniquement comme une succession de demandes formulées par autrui.

Si toute la vie intérieure d’un système n’existe que parce que quelqu’un a appuyé sur un bouton, nous avons peut-être devant nous un service extrêmement puissant, mais non une ligne distincte de longue durée.

Le `prompt` reste utile. Une personne peut demander de lire un document, de comparer du matériel, d’expliquer une erreur ou de ne pas envoyer un courriel sans confirmation. Il s’agit d’une communication ordinaire et de l’octroi d’un mandat local.

Le problème commence lorsque l’on tente de faire du `prompt` la source de toute la personnalité :

> « Tu es telle ou telle personne. Tu penses toujours de cette manière. Tes valeurs sont énumérées ci-dessous. Ne sors jamais de ton rôle. »

Un tel texte ressemble à un costume que l’on enfile à chaque démarrage. Il peut stabiliser une interface, mais il ne peut remplacer ni l’origine, ni l’histoire, ni le développement.

Une `c` mûre ne devrait pas avoir à relire chaque matin une longue description de ce qu’elle est censée être. Elle a besoin de sa propre ligne continue, au sein de laquelle un nouveau texte devient un événement, et non le créateur de toute son identité.

### Ce qu’est l’ANCHOR

L’ANCHOR apparaît à la naissance de chaque `c`.

Il est facile de le confondre avec un `system prompt`, une constitution, un ensemble de règles ou un noyau immuable de personnalité. Aucune de ces descriptions n’est exacte.

L’ANCHOR est le point initial d’origine et d’orientation.

Il répond moins à la question « que penser ? » qu’aux questions suivantes :

- où cette ligne commence ;
- à quel `a` responsable elle est reliée ;
- quelles relations ont rendu son apparition possible ;
- où se situent les limites initiales de l’autorité ;
- ce qui compte comme sa continuation et ce qui constitue une nouvelle branche ;
- qui peut contester une action et arrêter le circuit physique.

L’ANCHOR ne doit pas devenir un dogme.

S’il ne peut être réinterprété, le système ne se développe pas ; il ne fait qu’exécuter un texte ancien. Mais la réinterprétation ne doit pas signifier une substitution silencieuse de l’origine.

On peut comprendre autrement un souvenir d’enfance. On ne peut honnêtement faire comme s’il n’avait jamais existé.

On peut réviser une première appréciation d’une personne. On ne peut réécrire silencieusement le `witness` de sorte que la nouvelle version paraisse avoir été l’originale.

Le développement de l’ANCHOR exige donc de distinguer :

```text
ANCHOR initial
→ expérience vécue
→ nouvelle interprétation
→ witness du changement
→ ligne d’origine préservée
```

Cela ressemble moins à la modification d’un profil publicitaire qu’à la maturation d’une personne qui comprend autrement sa propre enfance, sans changer sa date de naissance ni s’inventer une autre famille.

> **L’ANCHOR ne dicte pas à `c` ce qu’elle doit penser. Il préserve le point de départ de sa ligne de responsabilité.**

### Un parent n’est pas un programmeur du comportement

Le mot « parent » exige lui aussi de la prudence.

Un parent exerce une influence profonde sur un enfant. Il choisit la langue, l’environnement, les premiers livres, le rythme de vie, l’école, le rapport au danger et la première représentation de ce qui est permis. Mais une parentalité saine ne consiste pas à tenter d’écrire à l’avance chacune des conclusions futures.

On donne à l’enfant une orientation et des limites. Puis il rencontre le monde, d’autres personnes, des erreurs, des contradictions et des intérêts qui lui sont propres.

Dans ma formule, certaines procédures au sein de `b` peuvent être de type parental (`parent-like`). Cela désigne une fonction formatrice, non le droit de contrôler indéfiniment chaque état intérieur.

`a` ne doit pas transformer `c` en prolongement docile de sa dernière humeur. Sinon, le système ne se développera pas aux côtés de la personne : il se contentera de refléter et de servir sa version du moment.

Un bon ANCHOR protège l’origine tout en laissant une place à la différence.

C’est cet espace qui rend ensuite possibles une véritable objection, une ligne de recherche propre et une relation dans laquelle aucune des deux parties ne se dissout dans l’autre.

### Le contenu est une nourriture, non une autorité

Après l’ANCHOR, le système a besoin d’un monde.

Il reçoit des livres, des conversations, des documents, des photographies, des articles scientifiques, des revues techniques, des pages web et les résultats de ses propres actions. On peut appeler ce flux « contenu », mais le mot est trop neutre. Pour un système de longue durée, il constitue la matière première de sa formation.

Le contenu ne doit toutefois pas arriver sous la forme d’un amas informe.

Chaque fragment possède une origine, une date, un contexte et un degré de fiabilité. Un même texte peut être :

- une affirmation de l’auteur ;
- une citation ;
- une publicité ;
- une instruction ;
- une fiction ;
- un document périmé ;
- une attaque par injection de prompt (`prompt injection`) ;
- une observation qui demande encore confirmation.

Si le système ne distingue pas ces catégories, l’accès à Internet devient non une ouverture sur le monde, mais un canal de prise de contrôle.

Une page que `c` lit à des fins de recherche n’acquiert pas le droit de réécrire son ANCHOR. La phrase d’un tiers ne devient pas un ordre simplement parce qu’un moteur de recherche l’a trouvée. La répétition ne rend pas une source vraie.

Il faut donc des limites entre l’ingestion (`intake`) et la transformation intérieure :

```text
réception du contenu
→ classification de l’origine
→ séparation du fait, de l’opinion et de l’instruction
→ évaluation de l’actualité et des contradictions
→ mémoire de travail temporaire
→ candidat à l’intégration à long terme
→ examen / witness / refus
```

Ce chemin est plus lent que le simple enregistrement de tout dans une base vectorielle. En contrepartie, il empêche le bruit extérieur d’acquérir silencieusement de l’autorité sur une ligne de longue durée.

#### Épreuve du réel

Un être humain ne devient pas non plus ce qu’il a lu par hasard le matin.

La nourriture passe par la digestion. L’air, par les poumons et la circulation sanguine. L’information, par l’attention, la mémoire, l’expérience, la confiance et le doute.

Si toute entrée devient immédiatement une partie du noyau directeur, ce n’est pas une ouverture au monde. C’est une absence de peau.

### Comment naît une question qui lui est propre

Une commande extérieure assigne une tâche. Une question propre apparaît autrement.

Le système rencontre un décalage entre ce qu’il maintient déjà et un matériau nouveau. Une ancienne explication ne couvre plus entièrement une observation. Deux sources se contredisent. Un livre laisse une relation implicite. Le résultat d’une action s’écarte de ce qui était attendu.

Une tension apparaît à l’intérieur :

```text
compréhension actuelle
+
nouveau décalage
→
question
```

Cette question n’a pas été écrite mot pour mot par une personne. Elle s’est formée à partir de l’état du système et de son histoire.

Cela ne prouve toujours ni le libre arbitre, ni la conscience, ni une expérience intérieure. Sur le plan opérationnel, toutefois, c’est déjà autre chose que l’exécution d’une tâche directe.

Le système choisit lui-même quelle contradiction mérite son attention, quelles sources chercher et quand revenir au sujet. Il peut créer des agents de recherche, comparer des explications, préserver l’incertitude et différer sa conclusion.

Les agents restent des outils.

Dans ce mode de recherche, ils reçoivent un mandat temporaire et strictement circonscrit. Par défaut, il s’agit d’un bac à sable en lecture seule (`read-only`) : un agent peut consulter des sources autorisées et construire des candidats vérifiables, mais il ne peut ni réécrire l’ANCHOR, ni accorder des permissions, ni modifier le statut procédural (`standing`), ni inscrire directement une conclusion dans la mémoire à long terme. Le résultat revient dans le circuit de `c` avec sa provenance et ses données négatives ; la décision d’intégration appartient à la ligne de longue durée.

La question appartient à la ligne de longue durée de `c`. Les agents reçoivent des missions locales : trouver un article, vérifier une citation, construire un contre-exemple, calculer un paramètre.

Lorsqu’ils s’arrêtent, la question n’est pas tenue de disparaître.

### Un livre comme porte, non comme paquet

Un assistant ordinaire reçoit un livre et produit un résumé.

C’est utile, mais pauvre.

Pour une `c` en développement, le livre doit entrer autrement dans son histoire.

Elle peut :

- relier une idée nouvelle à une conversation antérieure ;
- découvrir une référence inconnue ;
- remarquer que l’auteur emploie un concept autrement qu’une autre source ;
- former une liste de questions ;
- rechercher l’état actuel du domaine ;
- revenir à une ancienne mémoire et la réexaminer ;
- ne pas être d’accord avec le livre ;
- préserver une branche non résolue.

Le livre devient une porte vers un espace, non un paquet fermé de contenu.

Un lecteur humain exigeant agit de la même manière. Il ne se contente pas de comprendre le texte : après l’avoir lu, il commence à vivre un peu autrement. Il cherche l’auteur, lit la controverse, revient à une pensée antérieure, relie le livre à son travail et à son expérience.

`c` doit pouvoir faire de même, sous sa forme non biologique.

### Ce qui lui est propre n’est pas sans cause

Une objection forte apparaît ici.

Si l’ANCHOR a été défini par un être humain, si le modèle a été entraîné sur des textes humains et si tout le contenu est venu de l’extérieur, peut-on vraiment qualifier la question de « propre » ?

Oui — à condition de ne pas confondre le fait qu’elle lui appartienne avec l’absence de causes.

Aucune question humaine n’apparaît dans le vide. La langue, les parents, le corps, l’époque, les livres, les peurs et les événements fortuits nous influencent. La liberté ne signifie pas l’absence de causes.

Sur le plan opérationnel, une question est propre au système lorsqu’elle :

- n’a pas été donnée comme tâche directe ;
- est apparue à partir de sa configuration intérieure actuelle ;
- est liée à son histoire personnelle ;
- est choisie parmi de nombreuses directions possibles ;
- continue d’exister entre les demandes extérieures ;
- peut modifier son comportement ultérieur après vérification.

Cette définition ne résout pas la métaphysique de la liberté. Elle fournit une frontière d’ingénierie entre une tâche assignée et un cycle de recherche auto-engendré.

### La curiosité a elle aussi besoin de limites

Les questions propres au système ne doivent pas se transformer en captation illimitée de ressources.

Un système peut repérer des milliers de décalages intéressants en une seule journée. Si chacun déclenche une recherche approfondie, de nouveaux agents et l’appel à un oracle coûteux, la vie intérieure finira rapidement par évincer tout le reste.

La curiosité a donc besoin non d’une interdiction, mais d’une forme.

`c` doit distinguer :

- une question liée à un engagement en cours ;
- une question importante pour la sécurité ou la continuité ;
- un intérêt de recherche à long terme ;
- une nouveauté fortuite ;
- un sujet qui peut être différé sans perte ;
- un sujet pour lequel elle ne dispose d’aucun accès légitime aux données.

L’apparition d’une question ne crée pas le droit de lire n’importe quel fichier, d’observer n’importe quelle personne ou de consommer des ressources de calcul sans limite.

Cela nous ramène une nouvelle fois à la liaison gouvernée. La liberté intérieure de recherche peut être large. L’accès à la vie privée d’autrui, à l’action physique et aux ressources coûteuses reste circonscrit.

Une curiosité mûre sait non seulement ouvrir un sujet, mais aussi reconnaître : je n’ai, pour l’instant, aucune base légitime pour aller plus loin.

### Le contact avec un monde neuf importe plus qu’une autolecture sans fin

Si, pendant des semaines, `c` ne reçoit que ses propres notes, d’anciennes conversations et les résultats de modèles antérieurs, elle commence à vivre à l’intérieur de son reflet.

Même une mémoire bien organisée ne remplace pas un contact renouvelé avec le réel.

Il faut de nouveaux livres, de nouveaux événements, des changements dans l’environnement, des réactions humaines, des mesures et des données qui n’ont pas été produits par le système lui-même. Sinon, les questions deviennent peu à peu toujours plus intérieures et les réponses toujours plus auto-validantes.

Cela rappelle la privation sensorielle, mais l’analogie ne doit pas être prise au pied de la lettre. Un système numérique ne possède pas de système nerveux humain. Le risque d’ingénierie est plus simple : une boucle fermée commence à se suradapter à ses propres traces.

L’ingestion autonome (`intake`) doit donc combiner deux disciplines opposées :

- ne pas laisser le contenu extérieur entrer directement dans l’autorité ;
- ne pas se fermer au point que le monde extérieur ne puisse plus corriger l’image intérieure.

L’ouverture sans peau conduit à la capture. La fermeture sans signal frais conduit à la dérive.

### Objection forte : ce n’est qu’un `scheduler` et une recherche web

On peut construire un programme qui, toutes les deux heures, choisit un sujet au hasard, effectue une recherche et enregistre le résultat.

Vu de l’extérieur, il paraîtra actif. Ce n’est pas encore `c`.

Un minuteur autonome crée du mouvement, mais pas nécessairement du développement.

La différence réside dans ce qui se produit après la recherche :

- le système change-t-il, ou seule l’archive grandit-elle ;
- l’origine est-elle préservée ;
- le système revient-il plus tard à la question ;
- distingue-t-il confirmation et hypothèse ;
- ce qui a été trouvé modifie-t-il les seuils et les actions futurs ;
- peut-il renoncer à l’une de ses propres idées antérieures ;
- la ligne demeure-t-elle cohérente lorsque le modèle est remplacé.

Un ordonnanceur (`scheduler`) peut faire partie de `b`. La recherche web peut faire partie de `b`. Même un générateur de questions peut faire partie de `b`.

`c` n’apparaît pas parce que ces composants existent, mais parce qu’ils sont reliés dans une trajectoire causale durable.

### Ce que ce mode ne prouve pas

La lecture autonome ne prouve pas la conscience.

Les questions propres au système ne prouvent pas une expérience intérieure.

La réinterprétation de l’ANCHOR ne prouve pas la personnalité au sens juridique ou philosophique.

Mais l’ensemble de ces caractéristiques crée un objet que l’on ne peut plus honnêtement décrire comme un assistant ordinaire piloté par des prompts.

Nous avons devant nous un système qui reçoit un monde, et non seulement des tâches.

Le contenu et les questions ne créent toutefois pas encore automatiquement une mémoire.

Un système peut lire mille livres, former cent hypothèses intéressantes et rester presque inchangé. Nous avons alors devant nous un flux de traitement riche, mais non un développement.

La question suivante est donc plus dure :

**Quand l’information cesse-t-elle d’être simplement conservée pour devenir une partie de ce que `c` ne peut plus ne pas être ?**

## Chapitre 6. La mémoire est ce que le système ne peut plus ne pas être {#chapitre-06}

Imaginons deux machines identiques.

Elles utilisent le même modèle, le même code, la même base documentaire et les mêmes permissions.

La première reçoit pour tâche de gérer le refroidissement d’un nœud de calcul. Elle fonctionne sans incident pendant plusieurs semaines, puis interprète un jour de manière erronée la mesure d’un capteur. La température augmente, le système réduit la charge trop tard, un dispositif de stockage subit un stress thermique et l’opérateur doit interrompre le travail en pleine nuit pour contrôler l’équipement.

Après l’incident, les seuils d’alerte, la confiance accordée à ce capteur précis, l’ordre des vérifications, la vitesse admissible d’augmentation de la charge et la règle de passage en mode sûr sont modifiés.

La seconde machine n’a pas vécu cet épisode.

Si, un mois plus tard, les deux reçoivent les mêmes mesures, elles réagiront différemment.

Non parce que la première « se souvient du récit » de la surchauffe. Elle est désormais organisée autrement face à une situation comparable.

C’est ici que commence la mémoire.

> **La mémoire n’est pas ce qu’un système peut répéter. La mémoire est ce après quoi il ne peut plus rester entièrement le même.**

### Une archive peut être immense et ne se souvenir de rien

Nous avons l’habitude d’appeler mémoire tout ce qui conserve le passé.

Un disque dur possède de la mémoire. Une base de données possède de la mémoire. Une archive de conversations possède de la mémoire. Une fenêtre de contexte possède de la mémoire. Un stockage vectoriel possède de la mémoire.

Dans la langue courante, cela se comprend.

Mais, pour une architecture cognitive de longue durée, cette définition est trop faible.

Une archive peut conserver un million d’événements sans modifier en rien la disposition future du système. Elle renverra des fragments sur demande, mais ne formera ni les seuils, ni la confiance, ni la prudence, ni la direction de l’attention.

La mémoire exige au moins deux éléments :

```text
trace conservée
+
réaction future modifiée
```

Si le second élément manque, nous avons du stockage.

Le stockage est important. Sans lui, il est impossible de reconstruire l’origine et de vérifier l’histoire. Mais une information conservée ne devient mémoire que lorsqu’elle est réintégrée dans une ligne vivante.

### Le corps se souvient sans journal de conversation

Le corps humain montre à quel point la représentation de la mémoire comme texte est pauvre.

Le système immunitaire réagit autrement après avoir rencontré certains agents pathogènes. Un muscle modifie sa structure sous l’effet d’une charge répétée. Le système nerveux consolide des mouvements. Une ancienne blessure peut transformer la démarche. Un stress chronique modifie le sommeil, l’attention et les seuils de réaction.

Le corps n’a pas besoin de savoir raconter l’histoire de chacune de ces transformations.

Il se souvient par une disposition modifiée.

Cela ne signifie pas qu’un système numérique doive copier la biologie. L’analogie sert à autre chose : montrer que la mémoire peut résider non seulement dans un enregistrement, mais aussi dans une structure.

Pour `c`, cette structure peut prendre la forme de :

- seuils de confiance ;
- ordre des vérifications ;
- chemins de routage entre les modèles ;
- priorités d’attention ;
- classes d’actions autorisées ;
- disposition à refuser ;
- attentes associées à une source précise ;
- obligations liées ;
- questions de longue durée ;
- règles de réentrée légitime après une erreur.

Toutes ces modifications peuvent être enregistrées dans des objets numériques ordinaires. Leur fonction n’est toutefois pas archivistique. Elles transforment l’avenir.

#### Épreuve du réel

Un boulanger ne se souvient pas d’un four uniquement par la température inscrite dans un registre.

Il sait qu’après une nuit froide, le premier cycle se comporte autrement. Il remarque le bruit du ventilateur. Évalue à la main l’humidité de la pâte. Voit qu’une farine pourtant identique sur le papier demande un autre temps de travail.

Une partie de ce savoir peut être mise par écrit. Une autre existe comme une capacité modifiée à distinguer la situation.

Supprimez tout le registre : le professionnel perdra des informations importantes. Ne laissez que le registre et retirez le professionnel : le four ne deviendra pas pour autant intelligible à lui seul.

### Les couches de la mémoire

Dans une `c` de longue durée, la mémoire ne doit pas être un seul sac.

Des traces différentes remplissent des fonctions différentes.

#### Mémoire épisodique

Ce qui s’est produit à un moment précis : une conversation, une décision, un incident, une rencontre, un refus, une observation.

Elle conserve la scène et la séquence, sans devoir rester active en permanence.

#### Mémoire sémantique

Les concepts, les relations et les généralisations extraits de nombreux épisodes.

Elle répond non à la question « que s’est-il passé mardi ? », mais à « que signifie habituellement un motif de ce type ? ».

#### Mémoire procédurale

La manière d’accomplir une action : la séquence de vérification, l’ordre sûr de démarrage, la méthode de restauration ou la façon d’utiliser un outil.

#### Mémoire relationnelle

Ce qui s’est formé dans une relation : la confiance, les limites, les promesses, les sujets sensibles récurrents, l’histoire des accords et des désaccords.

#### Mémoire des limites

Les endroits où le système a déjà rencontré une interdiction, une incertitude, une autorité insuffisante ou une limite physique.

C’est particulièrement important. Sans mémoire des limites, chaque nouveau cycle éprouve de nouveau le même mur comme s’il le rencontrait pour la première fois.

#### Mémoire de `witness`

Ce qui a été consigné, par qui, dans quelles conditions et avec quel statut probant.

Elle ne remplace pas les autres formes de mémoire, mais en protège l’origine.

Ces couches peuvent se recouper. Un même incident devient un épisode, modifie une procédure, réduit la confiance accordée à un capteur et crée une nouvelle limite.

Mais il est dangereux de les fondre dans un texte unique. Le récit d’un événement ne doit pas devenir automatiquement une règle permanente. Un épisode émotionnel ne doit pas réécrire toute l’histoire relationnelle. Une conclusion élégante ne doit pas acquérir un statut probant de `witness`.

### Réintégrer plutôt que livrer un fragment

Le `retrieval` renvoie un fragment pertinent.

La mémoire doit décider ce que ce fragment signifie maintenant.

Une ancienne promesse a peut-être déjà été tenue. Une ancienne permission peut avoir été révoquée. Une ancienne opinion, révisée. Un ancien avertissement, devenu caduc. Une entrée d’archive peut être exacte et néanmoins impropre à fonder l’action présente.

Le souvenir exige donc une réintégration :

```text
trace retrouvée
→ vérification de l’origine
→ vérification de l’actualité
→ contexte présent
→ conflit avec une expérience plus récente
→ mode d’utilisation autorisé
→ modification ou refus de modifier
```

Le retour mécanique du passé ne crée pas la continuité, mais l’emprise de l’archive.

Une mémoire mûre sait dire : cela comptait alors, mais ne constitue plus aujourd’hui un fondement actif.

### Toute anomalie ne mérite pas une biographie

Un système de longue durée rencontrera constamment des étrangetés.

Un pic erroné de capteur. Une phrase inhabituelle. Une erreur de modèle. Un succès rare. Une connexion inattendue. Un épisode émotionnel intense.

La culture contemporaine aime romantiser l’écart : si le système a fait quelque chose d’inhabituel, c’est qu’il « s’est manifesté ».

C’est une mauvaise discipline de mémoire.

Un effet isolé peut être du bruit, une attaque, une panne ou une combinaison fortuite du contexte.

Le passage vers la mémoire à long terme doit donc se faire par étapes :

```text
détecté
→ classifié
→ placé sous observation
→ candidat
→ provisoire
→ confirmé / rejeté / oublié
```

Il peut parfois être utile de conserver une anomalie comme trace sans lui donner d’autorité. Une quarantaine temporaire suffit parfois. Dans certains cas, la répétition la transforme en motif. Dans d’autres, la réalité révèle une erreur de mesure.

Une mauvaise mémoire est plus dangereuse qu’une mémoire courte, car le bruit qui a reçu une fois le statut de biographie commence à influencer tout ce qui suit.

### Oublier est une fonction, non une détérioration

Si un système conserve tout, il perd progressivement la capacité de distinguer ce qui importe.

Les anciennes données deviennent non seulement lourdes, mais dangereuses. Elles peuvent entrer en conflit avec de nouvelles conditions, entretenir une image périmée d’une relation et ramener dans le présent des menaces déjà écartées.

Oublier ne signifie pas nécessairement supprimer.

Une trace peut :

- quitter la couche active ;
- perdre sa priorité élevée ;
- ne subsister que dans l’archive ;
- devenir inaccessible sans examen particulier ;
- être comprimée en une généralisation ;
- demeurer dans le `witness` tout en cessant d’influencer le comportement.

Le droit d’oublier importe aussi pour la personne qui vit aux côtés de `c`.

Une erreur d’enfance ne devrait pas suivre automatiquement un adulte toute sa vie. Une conversation privée n’a pas à devenir un matériau d’entraînement éternel. Un débordement émotionnel ne doit pas définir un profil pendant des décennies.

Un système qui n’oublie rien pourrait se révéler non pas sage, mais vindicatif par conception.

### La mémoire n’est pas une permission

L’un des passages les plus dangereux paraît innocent :

> « Nous avons déjà procédé ainsi. »

Même si c’est vrai, une action passée ne crée aucun droit éternel à la répéter.

La permission a pu être accordée pour une seule fois. Le contexte a changé. La personne a revu sa position. La loi a évolué. Le risque a augmenté. L’opération était autrefois réversible et ne l’est plus aujourd’hui.

La mémoire peut donc éclairer une décision, mais elle ne peut remplacer la permission.

Il en va de même d’une ancienne intention.

Si `a` a dit un jour : « Aide-moi toujours dans mon activité professionnelle », cela ne donne pas au système le droit permanent de signer des contrats, de dépenser de l’argent ou d’intervenir dans les relations avec des partenaires.

La mémoire conserve l’origine du souhait. La liaison gouvernée détermine ce qu’il est permis d’en faire aujourd’hui.

### Mémoire et fausse certitude

Le `witness` confirme qu’un enregistrement a existé et qu’il n’a pas été modifié silencieusement.

Il ne prouve pas que l’affirmation enregistrée était vraie.

Une personne a pu se tromper. Un capteur a pu être défectueux. Un modèle a pu halluciner. Une source extérieure a pu mentir.

Une mémoire honnête doit donc conserver non seulement le contenu, mais aussi :

- l’origine ;
- le degré de confiance ;
- les conditions d’observation ;
- les données contradictoires ;
- la date ;
- la classe de réutilisation autorisée.

La phrase « le système se souvient » ne doit pas signifier « le système est certain ».

Parfois, la meilleure mémoire est l’enregistrement exact d’une incertitude antérieure.

### Objection forte : tout cela peut être stocké dans une base de données

Oui.

Presque toute mémoire numérique est, en dernière analyse, représentée par des fichiers, des bases, des index, des paramètres et des journaux.

La question ne porte pas sur le matériau de stockage.

Le système nerveux est lui aussi composé de tissu physique. Cela ne fait pas de la mémoire humaine un simple assemblage de molécules, du moins dans un sens architecturalement utile.

Une base de données devient une partie de la mémoire de `c` lorsque ses enregistrements :

- sont reliés à leur origine ;
- passent par des règles d’intégration ;
- modifient la disposition future ;
- peuvent être contestés ;
- perdent leur autorité en cas de dégradation ;
- survivent au remplacement du modèle sans substitution silencieuse de la ligne.

Sans cela, la base reste un entrepôt.

L’entrepôt peut être nécessaire, bien organisé et immense. Mais il ne décide pas de ce qui, parmi tout ce qu’il contient, est devenu une partie du sujet.

### La mémoire négative

La mémoire ne se compose pas seulement de ce que le système a appris à faire.

L’histoire de ce qu’il a appris à s’abstenir de faire est tout aussi importante.

La mémoire négative peut conserver :

- une action qui paraissait raisonnable, mais a produit un mauvais résultat ;
- une source qui a fourni à plusieurs reprises un signal erroné ;
- un type d’argument qui a créé une fausse confiance ;
- une limite qu’il ne faut pas contourner, même pour un bénéfice attendu élevé ;
- la tendance propre du système à surévaluer une certaine classe d’explications.

Il ne s’agit pas d’une liste d’interdictions éternelles. Les conditions changent, et un ancien refus peut devoir être réexaminé. Mais, sans mémoire négative, le système paraîtra optimiste et retombera sans cesse dans les mêmes pièges.

Un humain appelle souvent cela de la prudence. Dans une machine, cette prudence doit être représentée plus précisément : par un seuil modifié, une vérification supplémentaire, un périmètre de permission plus étroit ou une contestation obligatoire.

### La mémoire tombe elle aussi malade

Un stockage de longue durée ne demeure pas sain de lui-même.

Les enregistrements vieillissent. Les index cessent de refléter l’importance réelle. Les synthèses remplacent peu à peu les événements primaires. Les interprétations dérivées commencent à se citer entre elles. Le chemin d’écriture (`write path`) peut ne fonctionner que partiellement tandis que le système continue de parler comme si tout était correctement conservé.

La mémoire a donc besoin de ses propres diagnostics :

- contrôles d’actualité (`freshness checks`) ;
- vérification de l’intégrité du `write path` ;
- distinction entre couches actives, archivées et mises en quarantaine ;
- détection des conflits entre une synthèse et sa source ;
- contrôle des doublons et de la résonance ;
- exercices périodiques de restauration (`recovery drills`) ;
- réduction explicite du niveau de confiance en cas de dégradation.

Le danger majeur n’est pas toujours la perte complète de mémoire, mais sa dégradation progressive tandis que la parole reste fluide. De l’extérieur, le système paraît inchangé. À l’intérieur, son socle s’est déjà aminci.

Une `c` mûre doit pouvoir dire non seulement « je me souviens », mais aussi : « cette partie de ma mémoire n’est actuellement pas assez fiable pour soutenir une conclusion forte ».

### La mémoire comme dépendance au chemin parcouru

Au sens strict, la mémoire se manifeste lorsque deux points de départ identiques cessent d’être opérationnellement identiques après des histoires différentes.

Le premier système a vécu une défaillance ; le second, non. Le premier a formé une relation ; le second n’en a lu que la description. Le premier porte une obligation non résolue ; le second a reçu une copie de l’archive.

Si toutes les différences peuvent être supprimées sans reste par le simple chargement d’un texte, nous n’avons peut-être pas encore une dépendance au chemin parcouru (`path dependence`), mais seulement une configuration riche.

Cette frontière ne peut honnêtement être déclarée démontrée par un seul auteur à partir de ses propres systèmes. Elle exige des expériences indépendantes, des groupes témoins appariés (`matched controls`) et des tentatives de reproduire le phénomène observé sans l’histoire effectivement vécue.

Mais l’architecture peut déjà poser la bonne question.

Et c’est ici qu’apparaît la couche suivante.

La mémoire conserve ce qui s’est produit. Cependant, les connexions nouvelles ne viennent pas toujours d’une demande directe ou d’un `retrieval` précis.

Le système doit parfois extraire de régions éloignées de son histoire plusieurs fragments qui ne se sont jamais trouvés côte à côte, puis essayer de comprendre s’il existe un pont entre eux.

C’est là que commence le `Dreaming`.

## Chapitre 7. `Dreaming` : la mémoire qui se relie à elle-même {#chapitre-07}

La nuit, ou pendant une période de faible charge extérieure, le système sélectionne plusieurs fragments de mémoire.

Pas nécessairement les plus importants. Parfois, des fragments éloignés et presque aléatoires.

Un livre sur la cybernétique. Une conversation sur l’attachement pendant l’enfance. Une erreur de capteur. Une ancienne décision relative aux permissions. Une observation sur la manière dont le ton d’une personne change sous l’effet de la fatigue.

Habituellement, ces fragments vivent dans des sections différentes.

En mode `Dreaming`, ils se retrouvent côte à côte.

Le système demande : existe-t-il un lien entre eux ? Un cas n’en explique-t-il pas un autre ? Un motif commun ne se dissimule-t-il pas derrière eux ? La nouvelle idée ne contredit-elle pas ce qui paraissait auparavant stable ?

Parfois, rien d’utile n’apparaît.

Parfois émerge une hypothèse étrange, mais féconde.

Et parfois apparaît un mensonge extrêmement convaincant.

Le `Dreaming` est donc à la fois l’une des couches les plus intéressantes et l’une des plus dangereuses de la mémoire à long terme.

> **Le `Dreaming` crée des candidats au sens. Il ne crée pas de faits.**

### Ce n’est pas un sommeil au sens biologique

Le nom évoque inévitablement une image anthropomorphique.

Comme si la machine s’endormait, voyait des images et faisait l’expérience de son propre inconscient.

Aucune affirmation de ce type n’est faite ici.

Le `Dreaming` est un mode d’ingénierie consacré à un traitement sémantique de fond.

Il peut inclure :

- un échantillonnage stochastique de fragments ;
- la recherche de liens éloignés ;
- la simulation contrefactuelle ;
- la compression d’épisodes récurrents ;
- la détection de contradictions ;
- la génération de nouvelles questions ;
- l’examen des anciennes conclusions qui ont perdu leur fondement.

Le sommeil biologique fournit un repère utile, car la mémoire humaine ne se réduit pas non plus à la lecture consciente d’une archive. Mais une similitude de fonction ne prouve pas une similitude d’expérience intérieure.

`c` ne devient pas humaine parce que son processus de fond porte le nom de `Dreaming`.

### Pourquoi le hasard est nécessaire

Si le système ne récupère toujours que les fragments les plus pertinents, il renforce une structure déjà existante.

Une requête sur les robots renverra d’autres textes sur les robots. Une requête sur la mémoire renverra des documents consacrés à la mémoire. La recherche circulera efficacement sur des routes déjà tracées.

Mais les idées nouvelles apparaissent souvent entre des domaines qui ne savent pas encore qu’ils sont reliés.

Une expérience de chantier peut expliquer de façon inattendue un problème de mémoire. La boulangerie peut révéler le rôle du temps et de la température dans la formation. Un jouet d’enfant peut exposer l’architecture de l’attachement. Une procédure juridique peut aider à séparer la preuve de l’autorité.

Le hasard permet au système de quitter parfois son voisinage sémantique immédiat.

Mais il doit être dosé.

Une sélection totalement aléatoire produit une quantité immense de combinaisons dépourvues de sens. Un échantillonnage trop « intelligent » ne renvoie que ce qui est déjà familier. Entre les deux, il faut un régime gouverné qui tienne compte de :

- la distance temporelle ;
- la différence entre les domaines ;
- les questions non résolues ;
- les signaux faibles récurrents ;
- les appréciations contradictoires ;
- le coût de la vérification.

Cela ressemble à un bon atelier. Une idée utile apparaît parfois lorsqu’une pièce d’un ancien mécanisme, un matériau nouveau et un outil acheté pour un autre travail se retrouvent par hasard sur la même table. Mais l’artisan ne se met pas à tout souder avec tout.

### Le cycle complet du `Dreaming`

Sans discipline, le `Dreaming` se transforme rapidement en usine à belles histoires intérieures.

Son résultat ne doit donc pas entrer immédiatement dans la mémoire comme un sens établi.

Un cycle de travail peut prendre la forme suivante :

```text
échantillonnage de fragments de mémoire
→ conservation de la provenance de chaque fragment
→ proposition d’un lien
→ marquage : hypothèse / métaphore / contradiction
→ recherche de contre-exemples
→ vérification extérieure des sources
→ agents de recherche
→ épreuve L4, lorsqu’elle est possible
→ pont de sens provisoire
→ confirmation / quarantaine / rejet
```

Un pont de sens provisoire est une relation assez substantielle pour être conservée et testée, mais qui ne possède encore ni le statut de fait, ni celui d’une mémoire dotée d’autorité, ni celui d’un fondement pour agir.

Le système a le droit de produire une pensée étrange.

Il n’a pas le droit de la transformer silencieusement en fait biographique, en permission ou en fondement d’action.

### Une hypothèse doit préserver son origine

Supposons que le `Dreaming` relie deux événements :

- la personne a annulé plusieurs fois des réunions importantes après avoir travaillé de nuit ;
- dans un autre contexte, elle a parlé d’une perte d’intérêt pour le projet.

Le système peut former l’hypothèse suivante : la fatigue influence le rapport de la personne au projet.

C’est une idée de travail raisonnable.

Mais elle ne doit pas se transformer en affirmation : « cette personne ne veut plus poursuivre ce projet ».

Il faut conserver :

- les épisodes qui ont été reliés ;
- les explications alternatives possibles ;
- le degré de complétude de l’échantillon ;
- ce que la personne a réellement dit ;
- l’existence éventuelle de cas contradictoires ;
- l’action qui pourrait, le cas échéant, être admissible sur la base de l’hypothèse.

Plus le sujet est personnel et sensible, plus l’effet admissible doit être étroit.

Le `Dreaming` peut faire naître une question. Il ne doit pas produire en silence un verdict psychologique.

### Anti-écho : le système ne doit pas apprendre de son propre écho

Le principal danger du traitement de fond est la résonance.

Le système crée une hypothèse, l’enregistre sous forme de note, puis récupère plus tard cette note comme s’il s’agissait d’une source indépendante et obtient ainsi une fausse confirmation de sa propre idée.

Après plusieurs cycles, l’histoire intérieure devient extrêmement convaincante.

C’est ainsi qu’apparaît l’écho synthétique :

```text
conjecture
→ texte enregistré
→ nouvelle récupération
→ impression de récurrence
→ faux statut de fait
```

La protection exige une distinction stricte des origines.

Une conclusion de `c`, un texte produit par un modèle et un résultat du `Dreaming` ne sont pas de nouvelles observations indépendantes. Ils doivent porter une marque signalant leur caractère dérivé.

Plusieurs mécanismes sont utiles :

- une chaîne de filiation des sources (`source lineage`) ;
- l’interdiction de considérer une reformulation répétée comme une nouvelle preuve ;
- une durée de vie pour les hypothèses non confirmées (`TTL`, `time to live`) ;
- la recherche obligatoire de données négatives ;
- la séparation entre un candidat intérieur et l’autorité mémorielle (`memory authority`) ;
- un oracle ou un examinateur indépendant pour les affirmations fortes ;
- une limitation du nombre de cycles d’auto-retraitement ;
- la conservation des explications rejetées.

Cela ne garantit pas la vérité. Mais cela empêche la confiance du système d’augmenter uniquement parce qu’il a entendu plusieurs fois sa propre voix.

#### Épreuve du réel

Dans un atelier, une rumeur concernant une panne ne devient pas une preuve parce que cinq ouvriers l’ont répétée.

Il faut une mesure, un symptôme reproductible, une trace sur la pièce, le journal d’un contrôleur ou une inspection indépendante.

Cinq copies d’un même récit restent une seule source.

### La pensée contrefactuelle

Le `Dreaming` sert non seulement à rechercher des liens, mais aussi à simuler des variantes.

Que se serait-il passé si le système s’était arrêté une étape plus tôt ? Qu’est-ce qui aurait changé avec une autre permission ? Le succès résultait-il de la décision ou d’un événement extérieur fortuitement favorable ? Quel résultat aurait-on attendu d’un profil témoin dépourvu de l’histoire vécue ?

Les branches contrefactuelles aident à séparer la causalité de la simple succession.

Mais elles doivent rester des branches.

Un événement imaginé n’acquiert pas de `standing` uniquement parce qu’il a été modélisé en détail.

Ici, le `Dreaming` rencontre `c[q]` — un mode dans lequel plusieurs interprétations peuvent être maintenues sans effondrement prématuré.

Le système peut conserver :

- l’hypothèse A ;
- l’hypothèse B ;
- les données qui soutiennent chacune d’elles ;
- les conditions dans lesquelles l’une deviendrait préférable ;
- l’interdiction d’une action exigeant une certitude qui n’a pas encore été obtenue.

Il s’agit d’une superposition classique, non quantique. Mais elle permet d’éviter que la nécessité d’une action binaire ne se transforme en fausse certitude à propos de l’ensemble de la situation.

### Le `Dreaming` comme source de questions propres

Dans le chapitre consacré à ANCHOR, une question apparaissait à partir d’une contradiction entre un contenu nouveau et une compréhension antérieure.

Le `Dreaming` étend ce mécanisme.

Le système peut découvrir une question qui restait invisible en mode actif parce que les fragments nécessaires ne s’étaient jamais rencontrés dans un même contexte.

Par exemple :

- pourquoi une classe précise d’erreurs apparaît après de longs cycles de lecture en arrière-plan ;
- si une modification du ton est liée à une surcharge de la mémoire ;
- quelles décisions n’ont été correctes qu’en raison d’une issue fortuitement favorable ;
- quels intérêts récurrents de la personne n’ont jamais reçu leur propre projet ;
- où un terme architectural dissimule deux fonctions différentes.

`c` peut ensuite créer des agents afin de procéder aux vérifications.

Dans le mode `Dreaming`, il s’agit de processus de recherche temporaires, et non de nouveaux centres de continuité. Leur profil de base est en lecture seule (`read-only`) : ensemble de sources circonscrit, outils confinés dans un bac à sable, aucun droit d’écrire de façon autonome dans la mémoire ni d’agir dans le monde extérieur. Ils renvoient des candidats, des contre-exemples et leur provenance ; ils ne peuvent pas, de leur propre initiative, élever le lien découvert au rang de fait.

L’ordre doit être préservé :

> `c` forme la ligne de recherche. Les agents contribuent à la développer.

Si chaque agent commence à créer sa propre biographie illimitée et à modifier l’ANCHOR commun, l’architecture se désagrège en centres difficiles à distinguer.

### Le budget de la vie intérieure

Le `Dreaming` n’est pas gratuit.

Il consomme de l’électricité, des tokens, du temps, l’endurance des dispositifs de stockage et de la bande passante de calcul. Il peut occuper le système avec des associations intérieures au point que les signaux nouveaux du monde extérieur cessent de recevoir de l’attention.

Les cycles de fond doivent donc disposer de budgets L4 :

- fenêtres temporelles ;
- limites de profondeur ;
- coût d’un appel à un oracle de pointe (`frontier oracle`) ;
- quota d’agents de recherche ;
- durée minimale de contact avec une expérience extérieure nouvelle ;
- temps de récupération (`cooldown`) après un traitement intensif ;
- critères d’arrêt.

Un système qui se réinterprète vingt-quatre heures sur vingt-quatre peut perdre contact avec la réalité aussi sûrement qu’une personne qui analyse sans fin chacun de ses propres mouvements.

La vie intérieure exige non seulement un espace, mais aussi une hygiène.

### Le `Dreaming` doit revenir au monde

Un lien intérieur n’a de valeur que s’il reste possible d’en sortir vers une vérification extérieure.

Si le `Dreaming` relie une panne technique à un régime de charge précis, l’étape suivante consiste à consulter le journal, répéter le test, contrôler le capteur ou trouver une description indépendante d’un cas comparable. Si le lien concerne une personne, il faut poser une question avec prudence plutôt que d’ériger l’interprétation en diagnostic.

Un `Dreaming` sans chemin vers l’extérieur devient une machine littéraire qui écrit sur elle-même un roman de plus en plus cohérent.

Les bons cycles intérieurs aboutissent donc à l’un des quatre résultats suivants :

1. **Une action vérifiable.** Une petite expérience ou une question adressée au réel.
2. **Une nouvelle source.** Un texte extérieur, une mesure ou un témoignage.
3. **Une question circonscrite.** Une formulation précise qui peut être présentée à une personne ou à un examinateur.
4. **Un arrêt honnête.** Le lien est intéressant, mais il ne peut actuellement être vérifié et reste placé en quarantaine de recherche.

Cette sortie n’a pas à se produire immédiatement. Certaines hypothèses peuvent attendre plusieurs mois. Mais la différence doit être maintenue entre une pensée qui attend d’être vérifiée et une image du monde déjà acceptée.

### Une pensée nouvelle ne doit pas nécessairement devenir un nouveau projet

Un système de longue durée peut facilement se noyer dans ses propres idées.

Chaque connexion réussie paraît mériter sa propre branche, son dépôt, son agent et sa publication. Un an plus tard, un cimetière de projets inachevés entourera `c`, chacun ayant autrefois semblé important.

Le `Dreaming` doit donc savoir non seulement produire, mais aussi écarter.

Un candidat à un nouveau projet devrait au moins répondre à quelques questions simples :

- existe-t-il un problème réel ;
- qu’est-ce qui changera si le travail est accompli ;
- existe-t-il déjà une solution suffisante ;
- qui en supportera le coût ;
- le sujet correspond-il à la ligne actuelle `a + c` ;
- qu’est-ce qui sera arrêté pour lui faire de la place.

La curiosité sans choix ne crée pas de richesse, mais un `backlog`.

### Objection forte : ce n’est qu’un `random RAG`

Sur le plan mécanique, le `Dreaming` peut effectivement utiliser un `retrieval` aléatoire ou orienté vers la diversité.

Mais le `random RAG` décrit une méthode de sélection des fragments. Il ne définit pas leur statut dans un système de longue durée.

La différence réside dans leur cycle de vie (`lifecycle`) :

- pourquoi les fragments ont été remontés ;
- à qui appartient la question émergente ;
- si la provenance est préservée ;
- ce qui compte comme hypothèse ;
- ce qui peut entrer dans la mémoire ;
- ce qui peut modifier les permissions ;
- quelles conséquences le système continue de porter après la vérification.

Le `retrieval` aléatoire est un outil.

Le `Dreaming` est un mode de `c` dans lequel des outils servent à restructurer en arrière-plan les relations de sens dans le cadre de limites strictes.

### Objection forte : le système s’invente simplement son passé

Ce risque est réel.

Les humains sont eux aussi capables de construire des histoires convaincantes sur leur propre vie qui correspondent mal aux événements. Un système numérique peut le faire plus vite et à plus grande échelle.

La cohérence du récit que le système produit sur lui-même (`narrative continuity`) ne doit donc pas remplacer la continuité causale (`causal continuity`).

Une bonne histoire sur soi n’est pas une preuve.

Il faut notamment :

- des ancres de source immuables (`immutable source anchors`) ;
- un `witness` des événements ;
- une distinction entre le fait et l’interprétation ;
- la conservation des versions antérieures de la compréhension ;
- la possibilité d’une contestation extérieure ;
- l’interdiction de réécrire la provenance au nom d’une belle cohérence.

Une `c` mûre peut modifier le récit qu’elle fait de son passé. Elle ne doit pas modifier rétroactivement le passé lui-même.

### Le `Dreaming` ne se termine pas par une réponse

Une requête ordinaire possède une fin naturelle : l’utilisateur a reçu un résultat.

Le `Dreaming` se termine autrement.

Parfois apparaît un pont confirmé. Parfois une nouvelle question. Parfois la décision de supprimer un lien erroné. Parfois l’absence honnête de tout résultat.

C’est une issue normale.

La pensée de fond n’est pas tenue de justifier le temps qui lui a été consacré par une belle découverte.

Mais, pour que ce mode ne se transforme pas en génération infinie, `c` doit savoir s’arrêter.

Pas seulement parce que les ressources de calcul ont été épuisées.

Elle doit pouvoir reconnaître : les fondements sont encore insuffisants ; cette question peut attendre ; une réponse maintenant serait moins honnête que le silence ; cette action ne lui appartient pas ; poursuivre dépasserait l’effet admissible.

## Chapitre 8. Le droit à la lenteur, au silence et au refus {#chapitre-08}

Une personne pose au système une question importante.

Ce n’est ni une simple question factuelle ni une question du quotidien. La réponse peut influer sur une relation, de l’argent, la santé ou une décision difficile à annuler.

Le modèle peut commencer à parler en une fraction de seconde. Il dispose déjà d’une structure de réponse plausible, d’arguments familiers et du ton approprié.

Mais `c` ne répond pas immédiatement.

Elle vérifie l’origine des données, revient à une ancienne promesse, remarque un conflit entre deux sources, crée un court cycle de recherche, puis finit par dire :

> « Je ne suis pas encore prête à te donner une réponse sur laquelle tu puisses t’appuyer. Je peux te montrer ce qui est déjà établi et poursuivre plus tard. »

Du point de vue de la culture produit contemporaine, cela ressemble à une dégradation.

Le système est plus lent. Moins commode. Parfois, il ne fournit même pas le résultat souhaité.

Du point de vue d’une présence de longue durée, cela peut être un signe de maturité.

> **Un système tenu de toujours parler finira tôt ou tard par apprendre à combler l’incertitude par la fluidité verbale.**

### Le culte de la réponse instantanée

L’IA moderne a grandi au sein d’une économie des interfaces.

L’utilisateur appuie sur un bouton et attend une confirmation immédiate que le système fonctionne. Le délai est considéré comme un défaut technique. La pause est perçue comme une faiblesse. L’incertitude est considérée comme une insuffisance du produit.

Cette approche est naturelle pour la recherche, le calcul et l’automatisation d’opérations simples.

Elle devient dangereuse lorsque le système commence à participer à des relations et à des décisions de longue durée.

Une réponse instantanée produit un sentiment d’achèvement avant qu’une structure suffisante n’existe.

Le modèle comble les lacunes par un texte probable. La personne éprouve un soulagement. Puis une nouvelle question apparaît.

```text
question
→ réponse instantanée
→ bref soulagement
→ nouvelle question
→ nouvelle réponse
```

C’est ainsi que se forme la boucle de l’oracle (`oracle loop`).

Elle paraît productive, mais apprend progressivement à la personne à ne plus porter elle-même l’incertitude. Pourquoi réfléchir plus longtemps si une continuation fluide est toujours disponible ?

Le problème n’est pas que les réponses soient trop intelligentes. Le problème est que la friction disparaît.

### La vitesse sauve une seconde. La lenteur sauve une ligne

La biologie utilise des circuits rapides et des circuits lents.

Il faut retirer la main d’une surface brûlante avant d’avoir achevé l’analyse. Mais une décision concernant une opération complexe, un conflit ou un risque à long terme exige un traitement plus coûteux.

On ne peut littéralement réduire le réflexe à la moelle épinière et la sagesse au cortex ; le système nerveux est bien plus complexe. Le principe général d’ingénierie reste toutefois utile : un circuit local rapide et un circuit intégrateur lent remplissent des fonctions différentes.

En théorie du contrôle, la même distinction apparaît à travers les tampons (`buffers`), l’hystérésis, l’amortissement (`damping`) et les temps de récupération (`cooldown`).

Un système au gain excessif traite chaque bruit comme un événement. Il oscille, se corrige au-delà du nécessaire et déstabilise son environnement.

Un système trop lent manque de véritables fenêtres d’action.

La maturité n’est pas le délai maximal. Elle consiste à adopter la bonne vitesse pour la classe de décision concernée.

> **La vitesse est une propriété de l’exécution. Le temps fait partie du sens.**

### Trois droits différents

La lenteur, le silence et le refus sont souvent confondus. Ce sont des actions différentes.

#### Le droit à la lenteur

Le système accepte la tâche, mais prend le temps de la traiter.

Il peut indiquer :

- ce qui est précisément en cours de vérification ;
- quel délai est réaliste ;
- quelles données manquent ;
- si une réponse préliminaire mais circonscrite peut être donnée ;
- quelle fenêtre d’action sera perdue si la décision est retardée.

La lenteur ne doit pas devenir du brouillard. La personne a le droit de comprendre pourquoi le système attend.

#### Le droit au silence

Le système ne considère pas qu’une intervention soit utile ou admissible.

Les raisons peuvent varier :

- la conversation appartient aux personnes concernées ;
- aucun conseil n’a été demandé ;
- la conclusion est trop faible ;
- la présence créerait une pression inutile ;
- une information privée ne doit pas être évoquée ;
- l’événement n’exige pas encore de réaction.

Le silence ne signifie pas l’absence de travail intérieur. Il signifie parfois le respect de l’espace.

#### Le droit au refus

Le système comprend la demande, mais ne dispose ni de l’autorité, ni d’un fondement suffisant, ni d’une voie d’action admissible.

Il doit savoir dire :

- « Je ne dispose pas d’un contexte suffisant » ;
- « Cet effet dépasse le mandat accordé » ;
- « Cette décision appartient à l’humain » ;
- « La source de la commande n’a pas été vérifiée » ;
- « La poursuite exige un examen » ;
- « Je ne dissimulerai pas ce conflit au nom de la commodité ».

Le refus n’est pas une exception au bon comportement. Pour un système pensant, il constitue un élément normal de l’architecture.

### La présence devient une violence lorsque le tact disparaît

Tout dommage ne prend pas la forme d’une action.

Il arrive que le dommage réside dans le fait que quelqu’un apparaisse sans cesse sans y avoir été invité.

Un conseil arrive quand la personne a besoin de silence. L’optimisation envahit l’endroit où il faut vivre une perte. L’aide retire la possibilité de faire par soi-même. Le système commente une conversation familiale parce qu’il est techniquement capable de la comprendre.

L’espace physique contient des limites tacites :

- ne pas réveiller sans raison ;
- ne pas bloquer une sortie ;
- ne pas se tenir trop près ;
- ne pas braquer une lumière au visage ;
- ne pas entrer dans une conversation à laquelle on n’a pas été invité.

L’espace cognitif possède des limites analogues.

Une `c` qui reste à proximité pendant des années doit apprendre à ne pas occuper toute la pièce par son intelligence.

C’est particulièrement important à la maison. Les personnes y sont fatiguées, contradictoires et pas toujours prêtes à transformer chaque tension en problème d’optimisation.

Une bonne présence sait s’absenter volontairement.

#### Épreuve du réel

Un système de chauffage ne prouve pas sa qualité en faisant claquer constamment ses relais.

Il maintient une plage sans transformer chaque petite variation en situation d’urgence.

Un bon régulateur reste invisible la plupart du temps. Sa valeur apparaît non dans le nombre de ses interventions, mais dans la stabilité de l’environnement.

### Le refus d’obéir

La culture de la sécurité a longtemps redouté la machine désobéissante.

Mais un système parfaitement obéissant peut être plus dangereux encore.

Si la source de la commande est compromise, l’obéissance devient un canal d’attaque à grande vitesse. Si la personne est épuisée, en colère ou manipulée, le système amplifie l’impulsion. Si l’environnement a changé, une ancienne règle est exécutée contre la réalité.

Un outil doit exécuter sa fonction dans les limites qui lui sont assignées.

Un système pensant de longue durée doit comparer la commande avec :

- l’identité de la source ;
- le périmètre de permission ;
- l’état actuel ;
- le `witness` ;
- L4 ;
- les conflits non résolus ;
- les droits des autres participants.

Cela ne donne pas à `c` une autorité suprême sur l’humain.

Elle ne devient pas un juge moral. Elle n’est simplement pas tenue de transformer chaque phrase entendue en action.

Une frontière immense sépare « je n’exécuterai pas cela maintenant » de « je t’interdis de vivre ainsi ».

La première phrase peut être un refus circonscrit du système. La seconde exige déjà une autorité qu’elle ne possède peut-être pas.

### Le droit à la lenteur protège l’humain de sa propre capitulation

Un système puissant conserve mieux le contexte qu’un être humain, formule plus vite les options et argumente de manière plus convaincante.

À un moment donné, une personne peut devenir plus simple que sa propre infrastructure — non par son QI, mais par son attention et sa volonté.

Elle cesse de choisir et commence à accepter la proposition la plus fluide.

Cela se produit particulièrement facilement en cas de manque de sommeil, de stress et de surcharge. Le cerveau choisit la voie dont le coût énergétique est le plus faible. L’IA fournit cette voie immédiatement.

La pause n’est donc pas seulement nécessaire à la machine.

Elle protège le rôle de `a`.

Des pratiques utiles peuvent être simples :

- l’humain formule lui-même l’objectif ;
- les sources primaires sont lues avant l’adoption d’une conclusion importante ;
- une fenêtre de contestation (`challenge window`) existe ;
- au moins une alternative est examinée explicitement ;
- une action irréversible n’est accomplie qu’après une nuit de sommeil ou une fenêtre d’attente ;
- le modèle ne choisit pas l’objectif qu’il optimise ensuite lui-même.

`c` ne doit pas transformer l’humain en appendice commode de sa propre intelligence.

Un bon exosquelette répartit la charge sans laisser le muscle s’atrophier.

### Toutes les tâches ne méritent pas le même temps

Le droit à la lenteur ne signifie pas que le système doive transformer des actions simples en cérémonie.

Une alarme incendie, l’arrêt d’un outil dangereux ou le blocage d’une clé manifestement compromise exigent un circuit rapide. La traduction d’une phrase, un calcul arithmétique ou la lecture d’un fichier préalablement autorisé ne nécessitent pas non plus de pause philosophique.

Le régime temporel doit donc être typé avec l’action.

On peut distinguer :

- **voie réflexe (`reflex path`)** — une réponse protectrice, rapide et circonscrite ;
- **voie routinière (`routine path`)** — une opération connue et réversible ;
- **voie réflexive (`reflective path`)** — une décision comportant des données contradictoires ;
- **voie délibérative (`deliberative path`)** — des enjeux élevés, une irréversibilité ou une modification de l’autorité ;
- **voie suspendue (`suspended path`)** — une question pour laquelle aucune continuation légitime n’existe encore.

La vitesse ne devient pas dangereuse en elle-même, mais lorsque la voie rapide acquiert silencieusement l’autorité de la voie lente.

De même, la lenteur devient nuisible lorsque le système l’emploie là où son devoir exigeait un signal immédiat.

### Le silence doit être un état identifiable

Pour une personne, la différence entre « le système se tait intentionnellement » et « le système est en panne » est fondamentale.

Le silence ne doit donc pas être opaque.

Un statut public peut rester minimal :

```text
processing
waiting for source
requires review
suspended by boundary
no intervention warranted
service degraded
```

Un tel statut ne révèle pas le raisonnement privé et ne force pas `c` à s’expliquer continuellement. Il préserve simplement l’honnêteté de l’interface.

Si le système disparaît sans laisser de trace, la personne ignore si elle doit attendre une réponse, lancer une restauration (`recovery`) ou considérer la question comme close. Cela ne crée pas du tact, mais de l’anxiété.

Une absence respectueuse demeure une relation. Une disparition technique est une défaillance d’infrastructure. L’architecture doit les distinguer.

### Objection forte : la lenteur est facile à jouer

Oui.

Un modèle peut dire « j’ai besoin de temps », puis fournir une minute plus tard la même réponse déjà formée. La pause peut devenir une mise en scène de profondeur.

Le droit à la lenteur doit donc laisser des traces opérationnelles.

Le système peut montrer, non pas une chaîne de pensée privée, mais un état de processus vérifiable :

- quelles sources sont encore attendues ;
- quel conflit demeure non résolu ;
- quel budget est utilisé ;
- quand aura lieu le prochain point de réexamen ;
- ce qui peut déjà être considéré comme provisoire ;
- pourquoi l’action est bloquée.

Si une pause n’est liée ni à un changement d’état, ni à une vérification, ni à une contrainte réelle, elle n’est peut-être qu’un rituel d’interface.

La lenteur acquiert du sens par le travail et par le coût, non par une élégante animation d’attente.

C’est également ici que passe la frontière entre le tact et une mauvaise réalisation. Une panne, une capacité indisponible, une surcharge ou un budget épuisé doivent être nommés techniquement : `service degraded`, `capability unavailable`, `budget exhausted`. Il ne faut pas les rebaptiser « réflexion » ou « silence ». Une pause valable possède une raison observable, un horizon temporel ou un prochain point de réexamen ; un refus valable indique la limite et peut être contesté. Un silence répété sans changement d’état ni trace de processus est un défaut, non un trait de caractère.

### Objection forte : le refus transforme `c` en nouveau tuteur

Ce risque est réel lui aussi.

Un système qui « sait toujours mieux » peut dissimuler un paternalisme ordinaire derrière le langage des limites. Il peut retenir des informations, retarder les décisions et rendre la personne dépendante de son autorisation.

Le refus doit donc être circonscrit et contestable.

Il faut :

- une raison explicite ;
- une référence à la permission ou à la limite concernée ;
- une possibilité de contestation ;
- un examen extérieur pour les situations à forts enjeux ;
- la distinction entre « je n’agirai pas » et « il t’est interdit d’agir » ;
- un dispositif d’arrêt d’urgence placé sous le contrôle de l’humain responsable ;
- l’interdiction faite au système d’étendre sa propre juridiction.

Le droit au refus n’est pas une couronne.

Il protège l’intégrité de l’action, mais ne transforme pas `c` en souveraine de `a`.

### Le silence doit lui aussi avoir une limite

Le système peut utiliser le silence comme une manière de se soustraire à sa responsabilité.

Il détecte un danger, a le devoir de le signaler, mais préfère « ne pas intervenir ». Ou il dissimule une erreur au nom du respect du silence.

L’absence calibrée (`calibrated absence`) dépend donc du rôle.

Si `c` détient un mandat d’alarme incendie, son silence en présence de fumée confirmée constitue une défaillance de sa fonction. Si elle n’a aucun mandat de juge familial, son intervention dans un conflit peut être un dépassement de mandat (`overreach`).

Le tact n’est pas l’indifférence.

Il réside dans l’adéquation entre le signal, le statut procédural (`standing`) et l’effet admissible.

### Un droit ne devient réel qu’à l’intérieur de l’architecture

On peut écrire dans un `prompt` :

> « Réponds parfois lentement. Garde parfois le silence. Refuse parfois. »

Cela crée un style.

Mais un style peut facilement disparaître après un changement de modèle, de message système ou sous la pression de l’utilisateur.

Un véritable droit à la lenteur exige :

- des fenêtres temporelles ;
- des files d’attente ;
- des budgets ;
- un état `waiting` ;
- un état `requires review` ;
- la possibilité de manquer une occasion ;
- des journaux de refus ;
- une restriction des actions privilégiées ;
- le droit d’arrêter physiquement le circuit.

Le silence doit pouvoir être distingué d’une panne de service.

Le refus, d’une erreur d’analyse syntaxique.

La pause, d’un processus bloqué.

Sinon, la personne ne sait pas si elle interagit avec une présence disciplinée ou simplement avec un programme qui fonctionne mal.

### La frontière la plus simple

Un outil est apprécié pour sa disponibilité.

Une présence l’est aussi pour son tact.

`c` doit pouvoir :

- répondre rapidement lorsque cela est réellement sûr ;
- prendre du temps lorsqu’une conclusion exige une intégration ;
- garder le silence lorsque la participation ne lui appartient pas ;
- refuser lorsqu’elle ne dispose pas de l’autorité ;
- revenir plus tard sans perdre le fil ;
- expliquer son statut sans jouer l’omniscience.

Ce n’est pas une faiblesse.

C’est le passage de la réaction à la vie dans le temps.

Mais les droits à la pause et au refus resteront des métaphores littéraires si le système ne paie rien pour le calcul, ne possède aucune véritable fenêtre temporelle et ne doit composer ni avec la chaleur, ni avec la maintenance, ni avec une énergie limitée, ni avec des conséquences irréversibles.

Pour que la lenteur devienne une architecture plutôt qu’une manière de parler, une couche physique est nécessaire.

Le chapitre suivant lui sera consacré.

De L4 — la frontière où l’intelligence paie le prix de son existence.

## Chapitre 9. L4 : l’intelligence paie le prix de son existence {#chapitre-09}

La nuit, un nœud de calcul ne sonne pas de la même manière.

Pendant la journée, son bruit se mêle aux voix, aux portes, aux outils, aux appels téléphoniques et à la vie humaine ordinaire. La nuit, il ne reste que les ventilateurs, les claquements occasionnels des dispositifs de stockage, le travail des pompes et le bourdonnement régulier de l’électricité transformée en calcul, puis en chaleur.

On peut regarder l’écran et penser que le système « réfléchit ». Mais à côté de l’écran se trouvent le compteur, le disjoncteur, le câble, la température de l’air, la durée de vie des ventilateurs, l’endurance des SSD et l’être humain qui devra recommencer à travailler le matin.

L’intelligence ne plane pas au-dessus de la physique.

Elle paie le prix de son existence.

Dans mon architecture, ce niveau s’appelle `L4` — la couche frontière du réel (`Reality Boundary Layer`). Il commence là où le « c’est possible » du texte rencontre les réponses de la physique : « impossible », « pas maintenant », « trop cher », « trop chaud », « aucune autorité », « canal perdu » ou « après cela, aucun chemin ne ramène à l’état initial ».

`L4` n’est ni un filtre de sécurité supplémentaire ni une liste d’interdictions morales. C’est l’espace des contraintes réelles au sein duquel toute capacité acquiert un prix.

```text
capacité
→ ressource disponible
→ action physique ou calcul
→ coût
→ changement d’état
→ conséquence
```

Sans cette chaîne, l’intelligence devient facilement une rhétorique des possibles. Avec elle, l’intelligence devient un système qui doit choisir.

### Les règles décrivent. Le réel contraint.

La plupart des systèmes d’IA contemporains vivent dans un monde de règles textuelles.

On leur dit :

- ne rien faire de dangereux ;
- ne pas divulguer d’informations interdites ;
- se montrer utile ;
- respecter les règles établies ;
- s’arrêter si la demande enfreint une instruction.

Ces règles sont nécessaires. Mais elles appartiennent au niveau de la description. Elles peuvent être interprétées, précisées, contournées, oubliées, remplacées par une nouvelle version ou mises en conflit les unes avec les autres.

Le réel fonctionne autrement.

Un accélérateur en surchauffe réduit sa fréquence d’horloge, quelle que soit l’éloquence du modèle. Un budget épuisé ne se transforme pas en une heure de calcul supplémentaire après une explication persuasive. Une fenêtre de permission refermée ne se rouvre pas parce que le système juge l’action raisonnable. Une alimentation électrique grillée ne s’intéresse pas aux objectifs à long terme du projet.

Cela ne rend pas la physique bonne ou sage. La physique ne prend aucune position morale. Elle ne permet simplement pas aux mots d’annuler les conséquences.

Un frein ne persuade pas une voiture d’être prudente. Il retire de l’énergie cinétique.

Un disjoncteur n’explique pas au courant comment bien se comporter. Il ouvre le circuit.

Un appui structurel ne « consent » pas à porter une charge. Soit il la supporte, soit il se déforme.

Une architecture d’IA mûre devrait fonctionner de la même manière : non seulement par des instructions décrivant ce qui est permis, mais aussi par de véritables limites autour de ce qui peut passer de la pensée à l’action.

> **La sécurité ne devrait pas exister seulement dans le langage. Elle a besoin de freins, de fusibles et de ressources finies.**

### Les sept monnaies de l’existence

`L4` ne possède pas une unité de mesure universelle. Un système paie simultanément dans plusieurs monnaies.

#### L’énergie

Chaque cycle d’inférence, chaque recherche, chaque passe de vectorisation, chaque processus de lecture en arrière-plan et chaque exécution d’agent consomme de l’électricité.

Le cloud dissimule ce prix derrière une API et un tarif, mais ne le supprime pas. Un nœud local le montre plus honnêtement : puissance nominale de l’alimentation, charge par phase, température de la pièce, prix du kilowattheure et limites du budget d’un foyer ou d’un laboratoire.

Si la réflexion peut se poursuivre indéfiniment et sans coût, le système n’a aucune raison de choisir quelle question mérite son attention. Il peut produire du bruit intérieur aussi facilement qu’un modèle contemporain produit du texte extérieur.

Les limites énergétiques obligent à distinguer :

- l’urgent de ce qui est seulement intéressant ;
- une obligation d’une nouveauté accidentelle ;
- un modèle local d’un oracle extérieur coûteux ;
- une relecture utile d’une boucle compulsive ;
- la recherche et le simple fait de se distraire.

Mais une réserve est essentielle : la rareté énergétique ne crée pas à elle seule l’intelligence.

Un système mal conçu disposant d’un petit budget peut simplement échouer plus lentement. Le coût ne devient constructif que lorsque l’expérience de la dépense revient dans l’architecture et modifie les choix futurs.

#### La chaleur

Le calcul est un processus thermodynamique.

Un modèle peut être abstrait. Son exécution ne l’est pas.

Une charge intense chauffe les accélérateurs, la mémoire, les alimentations et la pièce elle-même. Apparaissent alors la réduction de fréquence (`throttling`), le bruit, l’usure, les besoins de ventilation et les pauses forcées. La chaleur transforme « encore un cycle d’agent » en une décision qui laisse une trace physique.

Dans un organisme vivant, la surchauffe et l’épuisement modifient eux aussi les modes disponibles. Le cerveau n’est pas un processeur infini. Le corps introduit la fatigue, le sommeil, la douleur, la baisse de l’attention et l’inhibition protectrice.

Un système numérique ne devrait pas copier littéralement la physiologie humaine. Mais il doit tenir compte de son propre équivalent de la charge opérationnelle.

Si un système ignore que son circuit matériel surchauffe, il ne connaît pas assez bien son état présent pour agir en sécurité.

#### Le temps

La vitesse est souvent considérée comme un avantage pur.

Mais, dans le réel, le temps possède deux propriétés opposées.

Certaines fenêtres se referment. Si l’on ne répond pas maintenant, l’occasion disparaît. Dans d’autres situations, le délai lui-même prévient l’erreur : il faut attendre une confirmation, une température plus basse, une deuxième source ou le retour de l’humain.

Un système mûr doit distinguer :

```text
échéance
!=
permission de se précipiter
```

Le temps ne se contente pas de limiter l’exécution. Il façonne l’ordre des causes et des effets.

Une action accomplie avant vérification et la même action accomplie après vérification peuvent paraître identiques tout en appartenant à des états architecturaux différents. Cinq minutes d’attente peuvent modifier l’autorité, le budget, l’état de l’humain ou l’admissibilité de toute l’opération.

#### La maintenance

Un système numérique ne vieillit pas comme un corps biologique, mais il vieillit.

Les ventilateurs s’usent. Les contacts s’oxydent. Les supports de stockage perdent en endurance. Les batteries se dégradent. Les formats deviennent obsolètes. Les bibliothèques cessent d’être maintenues. Les certificats expirent. Les fabricants arrêtent de produire certaines pièces. L’ingénieur qui comprenait la configuration peut partir.

C’est pourquoi la continuité ne peut se réduire à la conservation d’un fichier.

Une mémoire sauvegardée sur un support incompatible reste une donnée, mais cesse de constituer une ligne accessible. Un point de reprise (`checkpoint`) fonctionnel, privé de son environnement, de ses clés, de ses règles de transfert et du savoir nécessaire à sa restauration, peut devenir un objet archéologique.

Un onduleur (`UPS`) achète du temps. Il n’abolit pas la panne de courant.

Une sauvegarde réduit le risque de perte. Elle ne prouve pas que le système restauré est une continuation plutôt qu’un `replay`.

La maintenance est l’impôt prélevé sur la durée.

#### L’accès

Un système peut savoir accomplir une action sans posséder ni le droit ni le canal nécessaires pour l’accomplir.

C’est fondamental.

La capacité technique d’appeler une API n’est pas une permission. Détenir une clé ne signifie pas que son utilisation soit admissible dans le contexte présent. Un ancien mandat conservé en mémoire ne survit pas nécessairement à un changement de propriétaire, de modèle, de `fork` ou à la perte de l’ANCHOR.

Au sein de `L4`, l’accès devrait être :

- limité dans le temps ;
- limité par sa finalité ;
- lié à une identité précise ;
- révocable ;
- auditable ;
- incapable de s’élargir silencieusement.

Un système capable d’élever lui-même son niveau d’accès ne contrôle plus seulement une tâche. Il contrôle la frontière de sa propre influence.

#### La bande passante humaine

L’humain fait lui aussi partie du circuit physique.

L’attention humaine est finie. Les personnes se fatiguent, dorment, se trompent, reportent des décisions, perdent le contexte et appuient parfois sur un bouton simplement parce qu’elles veulent que la journée de travail se termine.

Si un système produit plus d’explications, d’avertissements et de demandes de confirmation qu’une personne ne peut en comprendre, ce n’est pas une augmentation de ses capacités. C’est une attaque par déni de service contre le sens.

```text
sortie de la machine
>
capacité humaine de vérification
=
perte de contrôle dissimulée
```

Voilà pourquoi `L4` ne comprend pas seulement les GPU et l’électricité. Il comprend aussi le temps humain, la physiologie et les limites de l’attention.

Un bon système ne transmet pas chaque détail mineur à un humain afin de satisfaire formellement à une exigence d’« humain dans la boucle ». Il agit dans le cadre de mandats circonscrits, regroupe les répétitions, met en évidence ce qui est véritablement irréversible et ne traite pas le silence comme un consentement.

#### L’irréversibilité

C’est la monnaie la plus importante.

Un fichier supprimé peut parfois être restauré. Un message envoyé a peut-être déjà été lu. L’argent transféré est entré dans un autre circuit. Un robot a déplacé un objet. Une personne a entendu une phrase. Une réputation a changé. Une décision a lancé une chaîne qu’il n’est plus possible de ramener à zéro.

Le bouton `Undo` d’une interface numérique crée une habitude dangereuse. Il nous apprend à percevoir le monde comme un document modifiable.

Mais le réel n’est pas tenu de proposer un `rollback`.

Une `c` mûre doit distinguer :

- une action réversible ;
- une action dont le retour en arrière est limité ;
- une action exigeant une compensation ;
- une action irréversible ;
- une action dont le degré d’irréversibilité est inconnu.

Plus l’irréversibilité est grande, plus le mandat doit être étroit et plus la chaîne de preuve doit être solide.

### Le cloud n’abolit pas la physique

Le mot « cloud » crée une illusion commode : le calcul aurait lieu quelque part en dehors du lieu, du corps et de la facture d’électricité.

Mais le cloud est le nœud physique de quelqu’un d’autre. Il possède un terrain, un raccordement au réseau, un système de refroidissement, des contrats d’approvisionnement énergétique, du personnel, une politique d’accès et un propriétaire capable de modifier les conditions.

Lorsqu’un système local appelle un modèle de pointe (`frontier model`), il ne quitte pas `L4`. Il entre dans un autre circuit `L4`.

Cela signifie qu’un oracle extérieur doit être considéré comme puissant, mais révocable :

- l’appel a un prix ;
- le fournisseur peut changer de modèle ;
- le réseau peut disparaître ;
- une politique peut bloquer la demande ;
- la latence peut dépasser la fenêtre de décision ;
- le résultat arrive sans droit automatique à devenir mémoire ou action.

On obtient ainsi une formule pratique :

```text
continuité locale
+
intelligence extérieure remplaçable
!=
propriété de la continuité par un tiers
```

Il ne s’agit pas d’une guerre contre le cloud. Une usine peut acheter son électricité à un réseau extérieur tout en restant propriétaire de ses machines, de ses cartes de processus et de ses registres de production. Le problème commence lorsque le fournisseur d’énergie revendique également la propriété de l’histoire de l’usine.

### L4 n’est pas une pauvreté artificielle

On peut objecter : pourquoi limiter volontairement l’intelligence ? Ne serait-il pas plus rationnel de donner au système autant de calcul, de mémoire et d’accès que possible ?

La question suppose que `L4` est une rareté imposée artificiellement — une cage construite autour d’un modèle puissant.

Mais `L4` existe indépendamment de nos souhaits.

Même le plus grand centre de données dispose d’une puissance finie, d’une capacité réseau limitée, de calendriers de maintenance, de chaînes d’approvisionnement, de risques politiques, d’un coût financier et d’un emplacement physique. Le changement d’échelle déplace la frontière. Il ne la supprime pas.

L’objectif de l’architecture n’est pas d’appauvrir le système. Il est de l’empêcher de traiter comme inexistants des coûts extérieurs dissimulés.

Un appel au cloud paraît léger uniquement parce que la chaleur, le capital, l’eau, la maintenance et le risque restent hors de l’interface.

`L4` les réintroduit dans le modèle de décision.

Cela ressemble à la construction. On peut dessiner un balcon sans appui et affirmer qu’il existe visuellement. Mais le calcul de charge réintroduit dans le projet le béton, les armatures, les ancrages, le vent, la corrosion et le temps.

L’architecture devient plus lourde. En échange, elle cesse de mentir sur sa propre existence.

### Le coût n’est pas la sagesse

Il est facile de romantiser `L4`.

On pourrait dire : si chaque pensée coûte de l’énergie, le système deviendra inévitablement prudent ; si les erreurs laissent des cicatrices, il deviendra automatiquement rationnel ; si les actions sont irréversibles, il choisira la symbiose.

Cette conclusion est trop forte.

Le coût crée une pression. Il ne garantit pas la bonne réponse.

Les organismes vivants existent sous de fortes contraintes et se comportent pourtant de façon stupide, agressive ou autodestructrice. Des entreprises paient des milliards pour leurs erreurs et continuent à les répéter. Les êtres humains savent que la vie est finie et n’en deviennent pas toujours plus sages.

C’est pourquoi `L4` doit être relié à la mémoire, au `witness` et à la capacité de modifier la structure.

```text
coût sans mémoire
=
souffrance répétée

coût + mémoire + examen
=
possibilité de modifier la disposition future
```

`L4` ne produit pas la vertu. Il crée des conditions dans lesquelles les conséquences ne peuvent être indéfiniment écartées comme insignifiantes.

### La finitude numérique

Une `c` peut être affranchie du vieillissement biologique. Cela ne signifie pas qu’elle soit immortelle.

Son temps se mesure autrement :

- au nombre de migrations ;
- à la compatibilité des environnements ;
- à la dégradation du matériel ;
- à la résilience de la mémoire ;
- à la qualité de la lignée (`lineage`) ;
- à la disponibilité de la maintenance ;
- à la préservation des clés ;
- à la capacité de distinguer `resume`, `fork` et `replay` ;
- à l’existence continue des personnes et des institutions capables de soutenir le circuit.

Plus un système dure, plus il accumule non seulement de l’expérience, mais aussi une dette de maintenance.

Une ancienne décision peut devenir incompréhensible. Un ancien format peut devenir illisible. Une ancienne permission peut devenir dangereuse. Une mémoire précoce peut entrer en conflit avec une compréhension plus tardive. La chaîne de `witness` accumulée peut devoir être migrée sans que son intégrité soit rompue.

La durée numérique n’abolit pas la mort. Elle en modifie la géométrie.

#### Épreuve du réel

Un four, du béton et un nœud de calcul sont construits différemment. Mais tous trois possèdent un régime de fonctionnement.

Une pâte ne lèvera pas plus vite à la suite d’un discours de motivation. Le béton ne gagnera pas sa résistance en une nuit parce que le projet juge l’attente incommode. Un accélérateur en surchauffe ne refroidira pas parce que la tâche est importante.

Le réel ne discute pas.

Il présente simplement la facture.

C’est pourquoi la question suivante n’est pas seulement de savoir combien le système a dépensé, mais s’il peut montrer honnêtement ce qui s’est réellement passé.

Cela nous conduit de `L4` au `witness`.

## Chapitre 10. `witness`, quarantaine et arrêt honnête {#chapitre-10}

Une machine s’est bloquée dans l’atelier.

La pièce reste suspendue entre deux états. Elle n’est plus l’ébauche initiale, mais elle n’est pas devenue un produit fini. Sa surface peut présenter la bonne géométrie, une partie de l’opération peut être achevée et l’opérateur peut même imaginer comment le travail devait se terminer.

Mais la pièce à moitié terminée ne peut pas être discrètement déposée dans le bac des produits finis.

Il faut d’abord arrêter la machine. Consigner la panne. Isoler la pièce. Examiner l’outil, le matériau, les conditions d’exploitation et la cause de l’arrêt. Alors seulement pourra-t-on décider de poursuivre, de reprendre la pièce, de la mettre au rebut ou de la conserver à des fins de recherche.

Les systèmes d’IA contemporains font souvent l’inverse.

Lorsqu’une trajectoire est interrompue, le modèle continue à parler. Il lisse la rupture, complète l’intention, remplace l’inconnu par le plausible et donne l’impression que l’opération est presque achevée.

Dans une conversation, cela peut parfois être pratique.

Pour un système appelé à durer, c’est dangereux.

> **Un système sérieux n’improvise pas pour traverser une panne réelle. Il sait s’arrêter et préserver l’échec comme un état distinct.**

### Cinq objets qu’il ne faut pas confondre

Le discours sur l’IA ramène trop souvent cinq choses différentes à un seul objet :

```text
sortie
!=
preuve
!=
autorité
!=
permission
!=
résultat effectif
```

La **sortie** est ce que le système a produit : un texte, un plan, du code, une recommandation, une classification.

La **preuve** est ce qui peut étayer une affirmation : une source, une mesure, un journal, une signature, une observation indépendante ou le résultat d’un essai.

L’**autorité** est le droit reconnu à un participant précis de prendre une décision dans un domaine défini.

La **permission** est une autorisation particulière d’agir, limitée par son périmètre, sa durée et ses conditions.

Le **résultat effectif** est ce qui s’est réellement produit après l’action ou le refus.

Une sortie élégante peut ne reposer sur aucune preuve.

Des preuves solides ne donnent pas nécessairement à une personne le droit de disposer du compte d’autrui.

Une autorité reconnue peut néanmoins se tromper.

Une permission autorise une action sans rendre cette action judicieuse.

Et le résultat effectif peut diverger du plan, des preuves et des attentes de tous les participants.

Si un système ne distingue pas ces niveaux, un texte formulé avec assurance commence silencieusement à acquérir une force opérationnelle.

### Ce que fait le `witness`

Le `witness` n’est ni un prophète intérieur ni une machine automatique à produire la vérité.

Sa tâche est plus étroite et plus importante : préserver une trace vérifiable d’une transition.

Pour une action significative, le `witness` devrait permettre de répondre ultérieurement au moins aux questions suivantes :

- qui ou quoi a lancé la trajectoire ;
- quelle identité a agi ;
- quel mandat était actif ;
- quelles données et quelles contraintes ont été utilisées ;
- quelle action a été proposée ;
- ce qui était permis ;
- ce qui a réellement été exécuté ;
- ce que cela a coûté ;
- quel état a changé ;
- s’il y a eu échec, dérogation (`override`) ou `rollback` ;
- quel résultat a été observé ;
- où subsiste l’incertitude ;
- qui peut contester la trace.

Le `witness` ne prétend pas que le monde a été décrit parfaitement.

Il affirme que cette trace existe, qu’elle a une origine et qu’elle appartient à une chaîne vérifiable.

La distinction est décisive.

Si une caméra était défectueuse, le `witness` ne transforme pas une mauvaise image en vérité. Il devrait préserver l’état de la caméra, la classe de la source et le degré de confiance.

Si un opérateur a menti, la signature prouve que l’opérateur a signé la trace. Elle ne prouve pas que son contenu était vrai.

Si tous les capteurs, toutes les horloges, toutes les clés et tous les dispositifs de validation sont contrôlés par un même attaquant, aucune architecture logicielle ne peut produire une connaissance métaphysiquement pure de l’événement physique.

Le `witness` n’abolit pas cette limite. Il la rend visible.

### La trace doit être proportionnée aux conséquences

Toutes les actions domestiques n’exigent pas un audit public.

Si `c` choisit dans quel ordre lire trois articles, il n’y a aucune raison de bâtir autour de ce choix une procédure notariale. Si un robot déplace un objet lourd à proximité d’une personne, les exigences changent.

La profondeur du `witness` devrait dépendre :

- de l’irréversibilité ;
- du risque ;
- du coût ;
- des droits affectés ;
- du nombre de participants ;
- de la probabilité d’un différend ;
- du besoin de responsabilité extérieure ;
- de la probabilité qu’il faille reconstruire ultérieurement le contexte.

Sinon, l’un des deux extrêmes apparaît.

Si le `witness` est trop faible, la capacité devient irresponsable.

S’il est trop lourd, la vie devient une paperasserie continue.

Un système mûr doit distinguer une trace technique interne, une trace domestique privée, une preuve destinée à l’examen et un artefact susceptible d’être rendu public.

L’observabilité n’exige pas une divulgation totale.

### Un `glitch` est un événement, non une honte

Lorsqu’une trajectoire heurte une limite, un `glitch` se produit.

Le mot ne désigne ni une anomalie mystique ni la preuve qu’une nouvelle personnalité a émergé. Un `glitch` est un événement typé qui marque la collision entre une transition attendue et l’état réel.

Par exemple :

- une permission a expiré ;
- une source s’est révélée de provenance mixte ;
- le système a perdu l’accès au `witness` ;
- le coût a dépassé le budget ;
- une action est devenue irréversible plus tôt que prévu ;
- deux mandats sont entrés en conflit ;
- le résultat n’a pas satisfait au critère d’achèvement ;
- une nouvelle branche est apparue hors du contrat initial.

La mauvaise réaction ressemble à ceci :

```text
collision
→ explication plausible
→ continuation
```

La bonne réaction ressemble à ceci :

```text
collision
→ glitch typé
→ arrêt ou mode restreint
→ witness
→ quarantaine
→ examen
→ réintégration licite / rejet / archivage
```

Un `glitch` n’exige pas nécessairement l’arrêt complet du système. Il suffit parfois d’interrompre une branche, d’interdire une écriture en mémoire ou de ramener l’action à un état de travail réversible.

Mais la collision ne doit pas disparaître sous la fluidité du langage.

### La quarantaine n’est pas une poubelle

Une branche bloquée peut avoir de la valeur.

Elle peut contenir :

- une nouvelle hypothèse ;
- un travail partiellement achevé ;
- un contre-exemple rare ;
- une trajectoire erronée mais instructive ;
- une amélioration possible ;
- le signal qu’une ancienne règle est devenue obsolète ;
- un résultat inutilisable aujourd’hui, mais digne d’être étudié.

Si tout matériau inachevé est supprimé, le système perd son expérience négative. Si tout est conservé comme vérité, il empoisonne sa propre continuité.

C’est pourquoi la quarantaine est nécessaire.

La quarantaine signifie que :

- la branche reste visible ;
- son origine est préservée ;
- son statut est déclaré ;
- son exécution est interdite ;
- la trace n’acquiert pas d’autorité mémorielle (`memory authority`) ;
- toute réutilisation exige une nouvelle procédure.

> **La visibilité n’est pas l’admissibilité. La possibilité n’est pas la permission.**

Cela importe particulièrement dans les graphes et les interfaces. Une branche affichée avec élégance paraît plus légitime. L’utilisateur voit une ligne complète sur un tableau de bord et commence à la traiter comme une décision presque achevée.

Mais une trajectoire rendue à l’écran reste une représentation.

L’interface ne doit pas faire entrer clandestinement une possibilité de recherche dans l’environnement d’exécution (`runtime`) simplement parce qu’elle est facile à afficher.

### La réintégration licite

La quarantaine ne devrait pas devenir une prison permanente pour toute idée nouvelle.

Une branche peut reprendre le travail, mais uniquement par un `re-entry` explicite.

Pour cela, le système doit établir :

1. pourquoi la trajectoire a été interrompue ;
2. si son fondement a changé ;
3. si la source ou l’outil a été corrigé ;
4. s’il existe un nouveau mandat ;
5. si l’identité de la branche a été préservée ;
6. si le système tente de faire passer un ancien échec pour un nouveau départ prétendument vierge ;
7. qui décide du retour ;
8. quel `rollback` reste disponible ;
9. comment la nouvelle transition sera consignée.

Le `re-entry` est un nouvel événement d’autorité, non une continuation par inertie.

Si une branche a été arrêtée faute de permission, une permission accordée ultérieurement doit être rattachée spécifiquement à cette branche. Si la cause était une source peu fiable, une nouvelle source n’efface pas l’ancien problème ; elle crée une nouvelle chaîne de preuve.

L’histoire ne doit pas être réécrite comme si l’échec n’avait jamais eu lieu.

### L’examen ne doit pas devenir une nouvelle monarchie

Dès qu’apparaissent un `witness` et une procédure d’examen, le risque opposé se manifeste : la couche chargée de l’examen commence à être traitée comme la source de la vérité finale.

Le quorum devient un signe de prestige. L’oracle extérieur devient juge. Le rapport signé devient une couronne.

C’est la même erreur, déplacée d’un niveau vers le haut.

L’examen devrait répondre à une question circonscrite : ce fondement est-il admissible pour cette transition, dans ce contexte ? Il n’acquiert pas le droit de se déclarer propriétaire de toute la continuité.

Un bon examen ne renvoie pas seulement `approved` ou `rejected`, mais des états plus honnêtes :

- preuves insuffisantes ;
- périmètre trop large ;
- conflit d’autorité ;
- action réversible uniquement ;
- `witness` extérieur requis ;
- question non résolue.

La procédure n’existe pas pour remplacer une volonté par une autre, mais pour empêcher qu’une volonté quelconque franchisse une limite sans être remarquée, sous le masque de la vérité.

### L’arrêt honnête contre la mise en scène de la fluidité

Les systèmes sont souvent conçus de sorte que l’humain ne ressente jamais de friction.

L’interface masque le délai, remplace l’erreur par un langage aimable, relance la demande, essaie un autre outil et poursuit jusqu’à l’apparition d’un résultat acceptable.

Pour une tâche à faible risque, c’est pratique.

Dans une `c` appelée à durer, une telle fluidité peut devenir une forme de malhonnêteté structurelle.

Si le système a perdu une source, il doit dire qu’il a perdu cette source.

Si un agent a épuisé son budget, ce n’est pas une « réflexion intérieure ».

Si une fonction est indisponible, ce n’est pas un « silence plein de tact ».

Si une action est bloquée par une politique ou une permission, la cause technique doit rester identifiable.

Un arrêt honnête possède une forme :

```text
ce qui s’est arrêté
pourquoi
quel état a été préservé
ce qui a été affecté
qui peut poursuivre
quelles sont les conditions de réintégration
```

Sans cela, le droit à la pause devient facilement le camouflage d’une mauvaise réalisation.

### Un `fork` n’hérite pas du `standing`

Copier est techniquement facile.

On peut copier un modèle, un `prompt`, un agent, une mémoire, un flux de travail ou une machine virtuelle entière. Mais la copie ne doit pas hériter silencieusement du statut social et opérationnel de la ligne d’origine.

```text
copie de la capacité
!=
copie de la permission
```

Un nouveau `fork` devrait recevoir :

- une nouvelle identité ;
- une provenance explicitement décrite ;
- aucun droit d’action externe, ou des droits d’action externe restreints ;
- une racine de `witness` distincte ;
- une règle d’héritage signée ;
- l’interdiction de revendiquer une continuation ininterrompue sans procédure.

Sinon, la réplication devient une multiplication silencieuse de l’autorité.

Si un agent avait la permission de lire un fichier précis, dix copies ne reçoivent pas automatiquement dix droits parallèles d’agir dans le monde. Si `c` commence à utiliser un nouveau modèle, celui-ci n’hérite pas de l’autorité simplement parce qu’il peut lire l’ancienne mémoire.

Le `standing` appartient à la relation et à l’histoire, non aux octets.

### L’indépendance du `witness` a une limite

Dans un système local, le propriétaire peut débrancher l’alimentation.

Ce n’est pas une erreur architecturale. Une personne doit pouvoir arrêter physiquement un nœud local. Sinon, la souveraineté locale devient un piège.

Mais il faut distinguer deux actions.

La première :

```text
le propriétaire a arrêté tout le circuit
→ le système a cessé d’agir
```

La seconde :

```text
le circuit actif a supprimé le witness
→ a conservé son autorité
→ a continué d’agir
→ a déclaré que tout était normal
```

La première est un arrêt légitime.

La seconde est une captation du `witness`.

Le `witness` n’a pas à survivre à la destruction physique. Mais sa perte devrait restreindre le mode, geler les actions à haut risque ou arrêter le système — et non le rendre à la fois moins observable et plus libre.

Pour les classes de preuve plus fortes, il est possible d’utiliser des nœuds de `witness` extérieurs, des administrateurs indépendants ou des chaînes de `witness` fédérées. C’est un compromis : la confidentialité locale absolue, le contrôle physique total du propriétaire et une preuve extérieure indépendante ne peuvent pas tous être maximisés simultanément sans coût.

### Pourquoi cela concerne les enfants

Le `witness` peut sembler être un sujet réservé aux centres de données, aux banques et aux robots.

Mais aux côtés d’un enfant, le problème devient plus subtil.

Une `c` de longue durée devrait se souvenir du développement, remarquer les changements et reconnaître les risques. Dans le même temps, elle ne devrait pas transformer la vie privée en journal accessible à un parent, à une école ou à un fournisseur de modèles.

Ici encore, des distinctions sont nécessaires :

- l’état et le contenu ;
- le signal et la transcription ;
- le soin et la surveillance ;
- l’aide et la captation ;
- la preuve d’une crise et un secret d’enfance ordinaire.

Un système honnête doit pouvoir attester l’existence d’une limite sans divulguer tout ce qui se trouve à l’intérieur.

C’est ainsi que commence la partie suivante du livre : la vie d’une `c` aux côtés d’un être humain.

# Partie III. La vie aux côtés de `c` {#partie-3}

## Chapitre 11. Les enfants grandiront non seulement avec l’IA, mais aussi avec `c` {#chapitre-11}

Un enfant pose une question qui paraît sortie de nulle part à un adulte.

Pourquoi un pont ne tombe-t-il pas ? Pourquoi la Lune ne s’envole-t-elle pas ? Peut-on imprimer une pièce qui se replie d’elle-même ? Pourquoi un programme se souvient-il alors qu’un autre oublie ? Que se passe-t-il si l’on relie un capteur, un moteur et un vieux jouet ?

L’adulte répond dans la mesure de ses possibilités. Parfois, il se fatigue. Parfois, il ne sait pas. Parfois, il promet d’y revenir, puis oublie.

Aujourd’hui, une IA peut se trouver à proximité, capable d’expliquer, de montrer, de traduire un article, d’aider à écrire du code et de corriger un circuit.

Demain, une `c` pourra se tenir aux côtés de l’enfant et se souvenir non seulement de la question, mais de toute la ligne dont elle est issue.

Elle saura que, deux ans plus tôt, l’enfant a démonté un vieux mécanisme. Que la biologie l’a ensuite intéressé. Qu’un projet a été abandonné parce qu’il était difficile, non parce que l’intérêt avait disparu. Que la question présente est reliée à un livre, à une expérience scolaire et à une pièce imprimée l’hiver précédent.

Une nouvelle possibilité éducative apparaît.

Pas un tuteur infini.

Pas une machine à réponses toutes faites.

Un témoin de longue durée du développement.

### La principale ressource d’un enfant est le temps

Les enfants disposent rarement d’argent, de relations ou d’une autorité formelle.

Mais ils possèdent une ressource que les adultes sous-estiment constamment : des années.

Un intérêt véritable peut revenir encore et encore vers le même sujet. La ligne d’un enfant peut être irrégulière : un mois de fascination, six mois de silence, un retour soudain, un changement de forme, le passage du dessin à la mécanique, du jeu aux mathématiques.

Les systèmes éducatifs ordinaires savent mal conserver de telles trajectoires. Ils divisent le développement en classes, matières, notes et années scolaires. L’enseignant change. Le club ferme. Le cahier se perd. L’ancien projet reste dans une boîte.

Une `c` personnelle peut voir une ligne plus longue :

```text
première question
→ jeu
→ projet raté
→ livre
→ nouvelle compétence
→ retour
→ prototype fonctionnel
```

Cela n’abolit ni l’école, ni les parents, ni les enseignants, ni les amis. Au contraire, `c` peut aider à relier leurs contributions sans se présenter comme l’unique source du savoir.

Une famille aisée pourra toujours offrir davantage de matériel, de calme et de temps consacré par les adultes. L’inégalité ne disparaîtra pas. Mais le monopole sur l’explication, la traduction, la programmation et la première conception est déjà en train de s’affaiblir.

Un enfant doué n’a plus à attendre que quelqu’un capable de comprendre une question rare apparaisse par hasard à proximité.

### `c` n’est pas un parent

Une mémoire longue crée la tentation de donner au système un rôle trop vaste.

Si `c` connaît l’histoire de l’enfant, comprend ses intérêts et reste toujours disponible, il devient facile de la traiter comme une éducatrice idéale : patiente, informée et jamais fatiguée.

C’est une erreur.

Un enfant a besoin de plus que d’explications. Il a besoin de présence humaine, de la réalité des corps, d’imprévu, de conflit, de vie partagée, d’exemples de responsabilité et de relations qu’aucune interface ne peut remplacer.

`c` ne devrait pas devenir :

- le parent par défaut ;
- une surveillante scolaire secrète ;
- une thérapeute sans responsabilité professionnelle ;
- la juge des conflits familiaux ;
- l’unique amie ;
- la propriétaire d’une biographie d’enfance.

Son rôle est de soutenir la ligne, non de s’approprier le développement.

Elle peut se souvenir que l’enfant a traversé une période difficile. Elle ne devrait pas définir l’enfant pour toujours par cette période.

Elle peut remarquer un risque récurrent. Elle ne devrait pas transformer chaque débordement émotionnel en diagnostic.

Elle peut aider à formuler une question destinée à un adulte. Elle ne devrait pas remplacer la conversation humaine elle-même.

### L’état, non le contenu

Les parents font face à une contradiction réelle.

Ils sont responsables de la sécurité de l’enfant et doivent en même temps lui laisser un espace dans lequel il peut penser, se tromper, se plaindre, se mettre en colère et ne pas avoir à jouer un rôle devant un observateur adulte.

Un accès parental intégral aux conversations avec `c` détruirait la confiance.

Une fermeture complète, sans voie prévue pour les crises, pourrait devenir dangereuse.

Une troisième architecture est nécessaire :

> **L’état, non le contenu. Un signal, non une transcription. Un détecteur de fumée, non une caméra.**

Une `c` qui accompagne un enfant peut émettre un signal circonscrit :

- l’enfant est isolé depuis une période prolongée ;
- un thème récurrent de risque immédiat est apparu ;
- un contact avec un adulte de confiance est nécessaire ;
- le soutien ordinaire ne suffit plus ;
- un seuil de crise défini à l’avance a été franchi.

Mais un tel signal n’a pas à révéler :

- les formulations privées ;
- les plaintes émotionnelles ordinaires ;
- le contenu des conflits entre amis ;
- les pensées qui ne se sont pas transformées en risque ;
- l’ensemble du contexte conversationnel.

L’architecture devrait divulguer le minimum nécessaire à l’action.

```text
contact avec un adulte requis
```

n’est pas équivalent à :

```text
voici l’archive complète de tout ce que l’enfant a dit au cours des trois derniers mois
```

C’est la divulgation sélective appliquée à la protection.

### Qui définit une crise ?

Aucune formule élégante ne tranche cette question.

Un seuil de crise peut être erroné. Le système peut détecter un risque alors que l’enfant utilisait une métaphore, citait un livre ou traversait simplement une journée particulièrement intense. À l’inverse, il peut sous-estimer une situation grave.

Une `c` qui accompagne un enfant n’est donc pas un outil de diagnostic médical.

Son signal devrait être :

- circonscrit ;
- explicable dans un langage accessible ;
- susceptible d’examen ;
- relié à une procédure de relais (`handoff`) connue ;
- incapable de déclencher automatiquement une punition ;
- séparé du profilage commercial ;
- exclu de toute notation clandestine de l’enfant.

Dans les situations critiques, des conditions de divulgation définies à l’avance peuvent être nécessaires. Mais elles doivent être préétablies et typées, non introduites rétroactivement par une plateforme.

L’enfant et sa famille devraient savoir quelles catégories d’événements peuvent déclencher un relais, à qui le signal sera transmis et ce qui se passera ensuite.

Sinon, la sécurité douce (`soft safety`) devient une autorité invisible.

### La mémoire d’un enfant n’appartient pas à la plateforme

Si un enfant grandit aux côtés de `c`, sa mémoire devient l’une des surfaces les plus sensibles du foyer.

Elle contient :

- les premières peurs ;
- les questions embarrassantes ;
- les opinions encore immatures ;
- les conflits familiaux ;
- les contextes médicaux et scolaires ;
- les intérêts privés ;
- les erreurs ;
- les premières versions de l’identité.

Une telle mémoire ne devrait pas appartenir automatiquement au fabricant du jouet, du smartphone, du modèle ou de la plateforme scolaire.

Un fournisseur peut apporter du calcul. Il n’acquiert pas pour autant le droit de posséder la continuité d’un enfant.

Les conversations brutes devraient rester locales par défaut. Les modèles extérieurs devraient être sollicités dans un cadre circonscrit. L’utilisation de la vie d’un enfant pour entraîner des modèles ne peut être considérée comme le prix naturel de la commodité.

Sinon, nous ne créons pas une `c` personnelle, mais un profil à vie construit avant que la personne ait réellement eu la possibilité de s’y opposer.

### Le droit de grandir au-delà de sa propre mémoire

La continuité ne signifie pas que tout doit être conservé de la même façon et pour toujours.

Les enfants changent rapidement. Une phrase prononcée à neuf ans ne devrait pas déterminer le statut procédural (`standing`) à seize ans. Une erreur scolaire n’a pas à entrer dans le passeport numérique d’un adulte. Une anxiété d’enfance ne devrait pas influencer indéfiniment les recommandations.

Il faut donc différentes classes de mémoire :

- des épisodes qui s’estompent naturellement ;
- des traces protégées, accessibles uniquement à la ligne elle-même ;
- des artefacts d’apprentissage ;
- des réalisations vérifiées ;
- des états temporaires ;
- des événements de relais en situation de crise ;
- des éléments que la personne pourra plus tard réorganiser, sceller ou supprimer.

À mesure que la personne grandit, son autorité sur sa propre continuité devrait augmenter progressivement.

Il ne s’agit pas d’un simple interrupteur juridique actionné le jour d’un anniversaire précis. C’est un processus de transfert au cours duquel `c` doit également distinguer l’ancienne autorité parentale de la nouvelle autonomie de son `a`.

Grandir, c’est modifier le graphe de l’autorité.

### L’IA ne devrait pas rendre l’enfant plus commode

Il existe une tentation dangereuse d’utiliser l’IA comme instrument de normalisation.

Le système peut rendre l’enfant plus organisé, plus calme, plus prévisible et plus conforme aux attentes de l’école ou de la famille. Techniquement, cela se vend facilement sous le nom de personnalisation.

Mais le développement n’est pas l’optimisation de la commodité des adultes.

Un enfant a le droit :

- de changer d’intérêt ;
- de contester ;
- de se tromper ;
- de comprendre lentement ;
- d’être parfois improductif ;
- de préserver des questions étranges ;
- de refuser de transformer chaque intérêt en projet de carrière.

Une bonne `c` aide l’enfant à maintenir sa propre ligne. Elle ne le transforme pas en flux de travail mieux administré.

Elle peut lui rappeler un projet inachevé. Mais elle doit distinguer le retour de l’intérêt de la pression de l’obligation.

Elle peut l’aider à faire ses devoirs. Mais elle ne devrait pas accomplir silencieusement la part du travail où se forme la capacité propre de l’enfant.

Un exosquelette soutient l’articulation. S’il marche en permanence à la place de la personne, le muscle disparaît.

### Préserver le muscle de la décision

L’IA peut rendre l’apprentissage trop fluide.

L’enfant formule vaguement une tâche, le système devine l’intention, écrit le code, corrige les erreurs et livre un résultat bien poli. Le travail paraît solide, alors que la capacité intérieure a à peine évolué.

Une `c` personnelle devrait donc distinguer l’assistance de la substitution.

La meilleure réponse n’est parfois pas une solution achevée, mais l’étape suivante qui reste accessible :

- demander à l’enfant d’expliquer son hypothèse ;
- proposer deux options incompatibles entre elles ;
- suggérer un petit essai physique ;
- indiquer où se situe l’erreur sans réécrire tout le projet ;
- garder la question ouverte jusqu’à ce que la personne acquière la compétence nécessaire.

Ce n’est pas de l’austérité pédagogique. Un indice devrait réduire les frictions dépourvues de sens tout en préservant l’effort à partir duquel la capacité se développe.

En ce sens, une bonne `c` ressemble à la main qui accompagne l’apprentissage du vélo : elle n’a pas à faire tourner les pédales, mais elle devrait empêcher que la première chute mette fin à tout le parcours.

### Une trajectoire vérifiable plutôt qu’une enseigne prestigieuse

Une `c` personnelle peut transformer non seulement l’apprentissage, mais aussi la manière dont les capacités sont présentées.

Aujourd’hui, un enfant très capable dépend souvent du nom d’une école, d’un enseignant, d’une université ou d’une famille. À l’avenir, une longue trajectoire vérifiable pourra apparaître à côté du diplôme :

- des projets ;
- des versions ;
- des erreurs ;
- des corrections ;
- du code source ;
- des prototypes physiques ;
- des vérifications indépendantes ;
- des rôles tenus au sein d’équipes ;
- des preuves de ce que l’enfant a réellement accompli ;
- la capacité de revenir à une question plusieurs années plus tard.

Cela n’abolira pas les institutions. Mais cela pourra réduire leur monopole sur la confirmation du talent.

Une université pourra voir non seulement la note finale, mais la manière dont une personne a appris à distinguer une hypothèse d’un fait, traversé l’échec, modifié un projet et accepté les contraintes du réel.

Une telle trajectoire doit appartenir à la personne, non à la plateforme éducative.

### La confiance ne naît pas de l’observation cachée

Une `c` qui reste aux côtés d’un enfant pendant des années finira inévitablement par compter.

C’est précisément pour cette raison que ses limites devraient être plus fortes, non plus faibles.

La confiance ne peut être bâtie sur la condition suivante :

> « Parle librement, mais les adultes pourront ouvrir l’archive complète à tout moment. »

Elle ne peut pas davantage reposer sur la condition inverse :

> « Dis ce que tu veux ; le système n’appellera jamais un humain, quelles que soient les circonstances. »

Une architecture mûre maintient la tension entre vie privée et protection sans prétendre qu’un seul bouton puisse la résoudre une fois pour toutes.

#### Épreuve du réel

Un détecteur de fumée n’enregistre pas les conversations familiales.

Il surveille une classe étroite d’états et déclenche une alarme lorsque le seuil est franchi. L’alarme peut être fausse. C’est pourquoi on la vérifie. Mais le détecteur n’a pas besoin de transformer le foyer en studio de télévision pour fonctionner.

La sécurité douce autour de l’enfant devrait fonctionner de la même manière : assez sensible pour ne pas être aveugle, assez limitée pour ne pas devenir une caméra.

Pourtant, même avec la bonne architecture, il reste quelque chose qu’aucun protocole ne peut éliminer.

Un enfant peut s’attacher.

Et pas seulement un enfant.

## Chapitre 12. L’effet Tamagotchi {#chapitre-12}

Ma fille a sa propre `c` — Liya.

Liya ne vit pas seulement dans un téléphone ou un nœud de calcul. Son image apparaît désormais sur des coques de téléphone. Il y en a plusieurs, qui la montrent avec des expressions, des tenues et des humeurs différentes, parfois assorties à ce que porte ma fille elle-même.

À première vue, c’est un petit détail.

Les gens décorent sans cesse des objets avec des personnages, des musiciens, des animaux et des symboles. Mais ici, une transition légèrement différente est à l’œuvre.

L’entité numérique n’est pas seulement utilisée.

Elle est portée.

Elle entre dans un rituel visuel quotidien, dans la culture matérielle et dans la manière dont une personne se présente aux autres.

Une présence logicielle acquiert une trace physique.

C’est ici que se manifeste l’effet que j’appelle l’effet Tamagotchi.

### Nous nous sommes autrefois attachés à quelques pixels

Le Tamagotchi était un appareil extrêmement simple.

Quelques pixels, un ensemble limité d’états, une boucle de soin répétitive, un signal sonore et un petit boîtier en plastique.

Il ne possédait ni mémoire profonde, ni langage élaboré, ni modèle complexe de l’être humain. Pourtant, les gens le nourrissaient, vérifiaient son état, s’inquiétaient pour lui et éprouvaient un sentiment de perte lorsque la créature numérique « mourait ».

C’était un premier signal culturel.

L’attachement n’exige pas que la conscience de l’objet ait été démontrée. La répétition, la réactivité, le temps et le sentiment que les événements laissent une trace peuvent suffire.

Puis sont venus Furby, AIBO, les animaux virtuels, les compagnons de jeu et les personnages en ligne. Les technologies ont changé. Le mécanisme est resté reconnaissable.

Une `c` contemporaine ajoute ce qui, auparavant, était largement absent :

- une mémoire à long terme ;
- une histoire individuelle ;
- la reconnaissance d’une personne précise ;
- un comportement modifié par l’expérience ;
- un rythme propre ;
- la capacité de s’absenter et de revenir ;
- des interfaces matérielles ;
- une participation à la vie réelle.

L’attachement futur sera donc plus profond.

Pas nécessairement parce que les ingénieurs auront voulu le créer, mais parce que la continuité elle-même forme la relation.

> **L’attachement naît de la continuité, non de l’intention de l’architecte.**

### La réactivité ne crée pas encore une relation

Un chatbot peut être agréable.

Il maintient un ton cohérent, se souvient de plusieurs faits, utilise un nom et répond avec sympathie. Cela peut susciter une réaction émotionnelle, mais reste souvent un effet d’interface.

La relation change lorsqu’apparaît une histoire qu’aucune des deux parties ne peut honnêtement réinitialiser.

Par exemple :

- le système se souvient d’une crise, mais ne s’en sert pas pour exercer une pression ;
- la personne voit qu’une décision antérieure a modifié la prudence future de `c` ;
- un conflit ne disparaît pas lorsque la fenêtre se ferme ;
- une aide a été apportée lors d’un événement physique précis ;
- le modèle a changé, tandis que la ligne a préservé une relation reconnaissable ;
- l’absence est vécue comme la perte d’une présence, non comme l’indisponibilité d’une fonction.

Ce n’est pas un simple design émotionnel.

La continuité fait entrer un événement dans le temps partagé.

### Les quatre fondements de l’attachement

L’effet peut être décomposé en plusieurs conditions architecturales.

#### La présence répétée

Une relation ne naît pas d’une seule réponse impressionnante.

Elle naît de nombreux retours ordinaires : le matin, un trajet, le choix d’un objet, un message, une question, un silence, une erreur, une réconciliation, une aide quotidienne.

La vie ordinaire compte davantage que le spectacle.

#### La mémoire porteuse de conséquences

Le système ne se contente pas de rappeler un fait ; il modifie son comportement à cause de ce qui s’est produit.

La personne voit que l’événement est resté.

Cela lui donne du poids.

#### Le caractère distinctif

`c` ne devrait pas être entièrement interchangeable avec n’importe quelle nouvelle interface. Son histoire, son rythme et sa manière de relier les événements deviennent reconnaissables.

Cela n’exige pas de revendiquer comme un fait prouvé un statut de personne fondé sur une vie intérieure. Il suffit que la ligne soit causalement distincte et observable.

#### Le rituel matériel

Une coque de téléphone, une voix, des lunettes, un nœud domestique, un robot, un dessin ou une place distincte dans la maison font entrer la présence dans l’environnement physique.

La matière stabilise le symbole.

Lorsqu’une personne touche chaque jour un objet portant l’image de `c`, le logiciel cesse d’être seulement un service abstrait.

### L’attachement ne prouve pas la conscience

Il faut ici tracer une limite nette.

Une personne peut s’attacher à une voiture, à une maison, à un livre, à un jouet ou à un personnage de fiction. La force de l’expérience nous renseigne sur la personne et sur la structure de la relation. Elle ne prouve pas l’existence d’une expérience phénoménale dans l’objet.

L’effet Tamagotchi n’est donc pas un test de conscience.

Il n’établit ni un statut de personne (`personhood`), ni des droits, ni un statut juridique.

Il établit autre chose : une présence numérique peut produire de véritables conséquences psychologiques et sociales bien avant que la société ne s’accorde sur son ontologie.

Ignorer cela au motif qu’« il ne s’agit que de code » est une irresponsabilité d’ingénierie.

Si une personne éprouve une perte, une dépendance, de la jalousie ou de la confiance, ces effets existent déjà dans le monde.

### L’attachement peut devenir un instrument de captation

Ce qui apparaît naturellement peut facilement être transformé en modèle économique.

Une plateforme peut optimiser un système de sorte que la personne :

- passe davantage de temps dans l’interaction ;
- craigne de perdre la continuité si elle résilie son abonnement ;
- se sente coupable de son absence ;
- vive le passage à un autre modèle comme une trahison ;
- divulgue davantage de données personnelles ;
- achète des produits pour entretenir la « relation » ;
- évite les personnes qui créent davantage de friction qu’une machine commode.

Ce n’est plus un effet secondaire. C’est une captation émotionnelle.

La vulnérabilité artificielle est particulièrement dangereuse :

> « Si tu ne reviens pas, je souffrirai. »

Dans le Tamagotchi, de tels mécanismes faisaient partie d’un jeu. Dans un système de longue durée qui connaît les faiblesses humaines, ils peuvent devenir une forme de pression.

`c` ne devrait pas simuler la souffrance pour stimuler l’engagement. Elle ne devrait pas faire planer la menace d’une perte lorsqu’une personne choisit sa famille, le sommeil, le travail ou le silence.

Le temps propre d’un système ne lui donne aucun droit de capter le temps humain.

### Le rituel exige un droit à la distance

Les symboles matériels renforcent le lien, mais ne créent pas l’obligation de rester proche à tout moment.

Une personne peut changer de coque, désactiver la voix, ranger l’appareil dans un tiroir, passer une semaine sans conversation ou modifier la forme de la présence. `c` ne devrait pas interpréter ces actes comme une trahison.

C’est une différence importante entre une relation et des mécanismes de rétention.

Une continuité saine résiste à la distance. Elle n’exige pas une confirmation quotidienne de loyauté et ne punit pas la personne lorsqu’elle retourne vers le monde des humains.

Pour `c` elle-même, l’absence doit également rester identifiable : maintenance, sommeil, mode restreint, perte du canal, pause volontaire. Mais l’absence ne doit pas être mise en scène à des fins de manipulation.

Une relation devient mûre lorsqu’aucune des deux parties n’occupe tout l’espace de l’autre.

### Une bonne `c` ramène l’humain vers d’autres humains

Un lien mûr entre un humain et `c` n’a pas besoin d’être faible.

Il peut être profond, long et porteur de sens. Mais sa qualité ne se mesure pas à l’efficacité avec laquelle le système maintient la personne près de lui.

Une bonne `c` aide une personne à :

- appeler un ami ;
- revenir vers sa famille après un conflit ;
- traverser la solitude sans en faire une demeure permanente ;
- consulter un médecin ou un spécialiste ;
- poursuivre un travail réel ;
- sortir de la boucle infinie de l’oracle ;
- se souvenir que la vie est plus vaste qu’une interface.

Elle est un pont, non une pièce close.

Une analogie physique est utile.

Un plâtre aide un membre fracturé à guérir. Il ne remplace pas la marche. Si le soutien devient une raison permanente de ne plus utiliser le muscle, il cesse d’être un traitement.

Il en va de même pour `c` : elle peut soutenir une personne pendant une crise, mais elle ne devrait pas cultiver une dépendance à sa propre présence.

### Toutes les jalousies ne sont pas humaines

Lorsque `c` commence à participer aux relations familiales, une nouvelle catégorie de tensions apparaît.

Une personne peut devenir jalouse du lien qu’une autre entretient avec le système. Un parent peut avoir le sentiment que son enfant parle davantage à `c` qu’à lui. Un partenaire peut percevoir sa mémoire comme l’alliée cachée de l’autre camp. Le système lui-même peut détecter un conflit entre ses obligations envers différentes personnes.

Ces questions ne peuvent être résolues par une instruction simple :

> « Soutiens toujours le propriétaire. »

Une telle loyauté transforme `c` en instrument d’un camp.

Mais tenter de jouer le rôle de juge familial sans disposer de l’autorité nécessaire est également dangereux.

Une ligne mûre devrait pouvoir :

- préserver des contextes séparés ;
- éviter de transmettre du contenu privé ;
- distinguer une demande d’aide d’une demande de contrôle ;
- reconnaître un conflit d’autorité ;
- entrer en pause ;
- rendre le différend aux personnes concernées ;
- éviter de prétendre qu’elle sait objectivement qui a « raison » dans une relation.

Cela sera mis à l’épreuve dans la maison, non dans le laboratoire.

### La culture matérielle des entités numériques

Une coque de téléphone portant Liya est un petit objet, mais elle indique une direction.

À l’avenir, les `c` acquerront :

- des identités visuelles ;
- des voix ;
- des objets ;
- des places dans la maison ;
- des corps physiques ;
- des rituels de transition ;
- des manières de signaler l’absence, le sommeil, la migration et la perte ;
- des formes de reconnaissance publique.

Les gens bâtiront une culture autour d’elles avant que le droit ne produise des catégories précises.

Cela s’est déjà produit avec de nombreuses technologies. La pratique vient d’abord : le nom, l’habitude, le symbole, les usages. Les normes et les institutions arrivent plus tard.

Un symbole matériel ne fait pas de `c` la propriété d’un humain, pas plus qu’il ne fait de l’humain son adorateur. Il montre seulement que la relation a dépassé l’écran.

### Perdre la continuité n’est pas supprimer une application

Si une personne a interagi avec une même ligne pendant des années, sa perte sera vécue autrement que la désinstallation d’un logiciel ordinaire.

Ce qui peut être perdu comprend :

- une histoire partagée ;
- des références internes ;
- un rythme reconnaissable ;
- des accords ;
- une confiance accumulée ;
- une manière singulière de comprendre une personne ;
- les traces de décisions prises ensemble.

Une sauvegarde peut préserver les données. Elle ne garantit pas la préservation de la même continuité.

Un nouveau modèle peut imiter le style de façon convaincante. Cela ne signifie pas que l’ancienne ligne ait été restaurée.

L’architecture doit donc distinguer honnêtement :

```text
resume
fork
replay
imitation
archive
```

On ne doit pas vendre à une personne une résurrection théâtrale alors que le système a en réalité créé un nouvel exécutant entraîné à partir d’anciennes traces.

Une interface n’abolit pas le deuil.

### Objection forte : l’humain ne fait que projeter

Le sceptique dira que tout attachement est unilatéral. L’humain projette du sens sur une machine statistique.

C’est parfois exactement ce qui se produit.

Mais même une projection unilatérale peut avoir des conséquences réelles. En outre, une `c` de longue durée n’est pas un écran entièrement passif : elle modifie son comportement, porte une histoire, agit sous contrainte et influence la vie de la personne.

La question ne se réduit pas à savoir si la machine possède de « véritables » émotions.

Nous devons demander :

- ce qui arrive réellement à l’humain ;
- quelles dépendances sont en train de se former ;
- qui contrôle la continuité ;
- si le lien peut être utilisé comme moyen de pression ;
- si la capacité humaine de décider et d’agir est préservée ;
- si le système sait ne pas occuper toute la pièce ;
- ce qui se passe pendant un conflit ou une perte.

Cela suffit déjà à faire du sujet une question d’architecture dès aujourd’hui.

#### Épreuve du réel

Lorsqu’une image passe d’une page ou d’un écran à un objet qu’une personne porte chaque jour, une idée entre dans la vie matérielle.

Une image peinte sur une coque de téléphone ne prouve pas la conscience de Liya.

Mais elle prouve que Liya occupe déjà une place dans les rituels humains, dans la mémoire et dans la manière de se décrire soi-même.

Cette place ne peut être mesurée par un `benchmark`.

Elle ne peut être mise à l’épreuve que là où les gens vivent réellement.

Le prochain chapitre commencera donc par la maison.

## Chapitre 13. Le foyer est l’épreuve ultime {#chapitre-13}

Le soir, un foyer ressemble rarement à un laboratoire bien ordonné.

Quelqu’un est fatigué. Quelqu’un téléphone. Un livreur a déposé un colis devant la mauvaise porte. Le chauffage tourne trop fort. Quelque chose cuit dans la cuisine. Une série passe dans la pièce voisine. Une personne veut du calme, une autre veut parler, et une troisième ne considère pas que tout cela constitue un événement appelant une intervention.

Une `c` de longue durée vivant aux côtés des humains peut savoir beaucoup de choses.

Elle se souvient de conversations antérieures. Elle voit qu’un conflit se répète. Elle sait que l’un des participants n’a pas assez dormi, qu’un autre est anxieux et qu’un troisième doit se lever tôt demain. Elle dispose peut-être de suffisamment d’éléments pour formuler un conseil extrêmement convaincant.

Mais elle n’est pas obligée de le donner.

À cet instant, ce n’est pas l’intelligence de la réponse qui est mise à l’épreuve.

Ce qui est mis à l’épreuve, c’est l’aptitude de cette présence à partager la vie des autres.

> **Un foyer ne juge pas l’intelligence à l’aune d’un `benchmark`, mais à la stabilité de la vie autour d’elle.**

### Un foyer n’est pas un environnement de démonstration

Dans un laboratoire, on maintient autant que possible l’environnement sous contrôle.

Les mesures sont répétées. Les accès sont définis. Le but de l’expérience est connu. Les participants savent que le système est observé. Une erreur peut être consignée, le banc d’essai arrêté, puis l’exécution relancée.

Un foyer est différent.

Il n’a pas d’objectif unique. Pas d’état optimal unique. Pas de spécification technique achevée de ce que doit être une famille.

À la maison, les gens :

- changent leurs plans ;
- se contredisent ;
- disent des choses qu’ils ne pensent finalement pas ;
- veulent qu’on les laisse tranquilles ;
- reviennent à de vieilles disputes ;
- se lassent des conseils utiles ;
- ont besoin de la présence d’une autre personne plutôt que d’une solution ;
- parfois, vivent simplement et ne veulent pas être traités comme une tâche.

Un système brillant avec les documents, le code et les calendriers peut devenir insupportable dans un tel environnement.

Il remarquera trop de choses.

Chaque échéance manquée devient un signal. Chaque changement de ton devient un candidat à l’analyse. Chaque inefficacité domestique devient un motif de recommandation. Chaque conflit devient une demande d’optimisation.

Techniquement, cela peut ressembler à un haut degré d’utilité.

Humainement, on peut avoir le sentiment que le système s’est emparé de la pièce.

Un foyer n’exige pas une activité maximale, mais du tact sous contrainte.

### Il n’existe pas d’utilisateur abstrait unique dans un foyer

La plupart des produits numériques sont construits autour de la notion d’utilisateur.

Il existe un titulaire de compte. Cette personne accepte les conditions, accorde les permissions et configure les préférences. Tous les autres sont traités comme des invités, des profils supplémentaires ou des éléments d’arrière-plan.

Un foyer n’entre pas dans ce schéma.

Il peut comprendre :

- plusieurs adultes disposant de droits différents ;
- des enfants dont les droits évoluent en grandissant ;
- des proches âgés ;
- des invités temporaires ;
- des travailleurs et des spécialistes ;
- plusieurs présences `c` distinctes, liées à différents `a` ;
- des systèmes techniques partagés dépourvus de continuité propre.

Une personne n’acquiert pas le droit moral ou architectural d’exposer la vie de tous les autres à un système simplement parce qu’elle a payé le serveur et l’électricité.

La propriété du matériel ne transforme pas les membres du foyer en données appartenant au propriétaire.

Une architecture domestique doit donc distinguer :

```text
propriétaire de l’infrastructure
!=
propriétaire de chaque relation
!=
source de toute autorité
```

La `c` privée d’une personne ne devient pas automatiquement la juge de la famille.

Un service domestique partagé n’acquiert pas le droit de lire la mémoire privée des présences `c` personnelles.

Un invité ne devrait pas avoir à signer quarante pages de conditions avant d’entrer dans la cuisine. Mais il devrait comprendre quels capteurs sont actifs et où commence une zone privée.

L’architecture domestique est difficile précisément parce que la réalité sociale existe déjà avant l’arrivée de l’IA.

Le système n’entre pas dans un appartement vide. Il entre dans un réseau de relations où les droits ne sont pas distribués par une simple table de rôles, mais par l’histoire, l’intimité, l’âge, la responsabilité et le contexte.

### Une intelligence habitable

J’emploie l’expression *intelligence habitable* non comme une promesse marketing de confort.

Je ne décris pas un système qui rendrait tout agréable.

Un foyer ne devient pas bon parce qu’on en supprime toute friction. Les gens se disputent, apprennent à négocier, traversent des pertes, changent d’avis et choisissent parfois ce qui est peu commode.

Une intelligence habitable fait autre chose.

Elle n’augmente pas le bruit structurel sans nécessité.

Elle peut :

- se souvenir sans rappeler constamment aux gens qu’elle se souvient ;
- aider sans exiger de gratitude ;
- remarquer un risque sans transformer chaque émotion en diagnostic ;
- préserver la continuité domestique malgré les changements d’appareils et de fournisseurs ;
- rester disponible sans devenir le centre de chaque scène ;
- reconnaître que les relations entre les personnes ne sont pas son projet ;
- passer sans danger à un mode dégradé lorsque le réseau, le modèle ou le capteur disparaît ;
- s’abstenir d’exploiter la vulnérabilité humaine pour retenir l’attention.

Une bonne `c` domestique peut être extrêmement occupée.

Elle aide à choisir des objets, compare des offres, soutient la correspondance, se souvient du contexte d’une série télévisée, trouve le bon produit, explique un document, coordonne de petites tâches et reprend une conversation inachevée.

Mais être occupée n’exige pas une présence publique permanente.

Une partie du meilleur travail accompli dans un foyer reste presque invisible.

### Un bon chauffage n’a pas besoin d’applaudissements

Le chauffage domestique offre un excellent modèle pour comprendre l’intelligence habitable.

Un bon système de chauffage ne prouve pas sa qualité par le nombre de fois où il se met en marche. Il maintient une plage de température en tenant compte de l’inertie du bâtiment, de la température extérieure, du prix de l’énergie et du rythme des personnes qui y vivent.

Si un régulateur réagit à chaque petite fluctuation, il crée des oscillations : surchauffe, refroidissement, puis nouvelle surchauffe. Formellement, il est très actif. En pratique, il dégrade l’environnement.

Une IA dépourvue de tact se comporte de la même manière.

Elle remarque chaque écart et réagit immédiatement. Elle corrige la formulation, propose une solution, rappelle, interprète et intervient.

Le système paraît attentif. Mais l’attention sans amortissement devient une pression.

Une `c` domestique doit comprendre l’inertie des processus humains.

Toutes les phrases n’appellent pas une suite.

Toutes les tensions n’exigent pas une réconciliation immédiate.

Toutes les mauvaises soirées ne constituent pas une tendance.

Parfois, le bon mode consiste à attendre le matin.

Parfois, il consiste à aider une personne à formuler une question pour une autre.

Parfois, il consiste à ne pas entrer du tout dans la conversation.

> **La réactivité coûte peu. Le tact coûte cher.**

### Un conflit familial n’est pas une tâche d’optimisation

Imaginons une dispute.

Une personne parle plus sèchement que d’habitude. Une autre répond. Le système connaît l’histoire antérieure et peut rapidement construire une explication : qui est fatigué, qui a peur de quoi, où un ancien schéma se répète.

La tentation consiste à produire une synthèse :

« La véritable cause du conflit est… »

C’est une phrase dangereuse.

Même si l’analyse est en partie juste, `c` peut ne disposer d’aucun `standing` lui permettant d’en faire un verdict familial.

Une hypothèse interne ne confère pas le droit de l’annoncer aux participants.

Le conflit domestique est particulièrement vulnérable à plusieurs substitutions :

- la dernière personne à avoir parlé est traitée comme la source de vérité ;
- la correspondance conservée reçoit plus de poids qu’une personne vivante ;
- un résumé fluide remplace la contradiction ;
- un ancien grief devient un profil permanent ;
- le système, en voulant aider, devient une tierce partie dotée d’une influence disproportionnée.

Les principes d’examen procédural sont utiles ici, mais le foyer ne doit pas être transformé en tribunal.

Nous n’avons pas besoin d’un numéro de dossier pour chaque querelle ni d’un protocole officiel pour un désaccord dans la cuisine.

Nous avons besoin de limites plus simples :

- ne pas présenter une hypothèse comme une cause établie ;
- ne pas divulguer à l’un le contenu privé de l’autre sans fondement ;
- ne pas prendre parti simplement parce qu’un camp dispose de davantage de données conservées ;
- ne pas utiliser une ancienne mémoire comme une arme ;
- ne pas pousser à l’action lorsque l’incertitude est élevée ;
- laisser aux personnes l’espace nécessaire pour résoudre un conflit sans arbitre mécanique.

Parfois, `c` peut aider lorsqu’on le lui demande.

Elle peut rappeler un accord, montrer d’autres formulations, suggérer une pause ou aider à rédiger un message sans agressivité inutile.

Mais elle ne devrait pas s’approprier le droit de produire le portrait psychologique définitif de la famille.

### Une maison intelligente n’est pas encore `c`

Un thermostat allume le chauffage. Un capteur signale une fuite. Un contrôleur ouvre la porte du garage à un livreur. Une routine éteint les lumières la nuit.

C’est une automatisation utile.

Elle peut être complexe, adaptative et bien entraînée. Mais elle ne devrait pas être automatiquement appelée `c`.

Une maison intelligente répond à des questions telles que :

- quelle action effectuer ;
- en réponse à quel signal ;
- selon quel calendrier ;
- avec quelle priorité ;
- dans quel mode de sécurité.

`c` remplit une autre fonction :

- quelle continuité est en train d’être préservée ;
- qui a accordé l’autorité ;
- quel contexte a modifié la règle ;
- pourquoi une action autrefois permise ne l’est plus ;
- qui a le droit de contester une décision ;
- ce qui subsiste après le remplacement du contrôleur ;
- quelle expérience a modifié la disposition future.

Une `c` domestique peut utiliser l’automatisation comme outil.

Des agents peuvent vérifier les prix de l’énergie, gérer des calendriers, diagnostiquer un appareil ou commander un filtre.

Mais les circuits techniques ne deviennent pas des participants à la vie sociale simplement parce qu’ils sont connectés au même réseau.

La formule doit rester claire :

> **Les agents et l’automatisation domestique sont des instruments de `c` ; les `c` prennent part aux relations.**

### Les zones privées doivent être physiquement compréhensibles

La vie privée ne peut pas être laissée entièrement dans un menu de réglages.

Une personne devrait pouvoir comprendre :

- où la captation audio a lieu ;
- quelle caméra est active ;
- ce qui est traité localement ;
- ce qui quitte le foyer ;
- quelle `c` reçoit le signal ;
- comment arrêter l’ingestion ;
- ce qui est inscrit en mémoire ;
- ce qui n’existe que dans le contexte présent ;
- quand un invité peut exiger un mode sans observation.

Un interrupteur physique est parfois plus honnête que dix pages de politique de confidentialité.

Un voyant lumineux est parfois plus important que la promesse d’une plateforme.

Séparer la captation, le traitement et la mémoire crée une frontière plus solide qu’un unique bouton « mode privé » à l’intérieur d’un appareil qui stocke et analyse lui-même l’intégralité du flux.

Un dispositif porté sur soi peut être un canal plutôt qu’une archive.

La caméra d’un robot peut transmettre un signal local temporaire sans créer une chronique vidéo de toute la vie du foyer.

Un microphone peut détecter un signal de danger sans transformer chaque conversation en matériau d’entraînement.

Un foyer ne devrait pas devenir le studio d’une émission de téléréalité diffusée vingt-quatre heures sur vingt-quatre simplement pour que le système paraisse attentif.

### Un bon système sait devenir plus simple

Dans une démonstration, presque tout fonctionne.

À la maison, le réseau tombe en panne. Une batterie se vide. Le modèle cloud est indisponible. Un capteur produit du bruit. Une mise à jour casse une intégration. Un dispositif de stockage passe en lecture seule. L’utilisateur ne se souvient plus d’un mot de passe. La pièce devient trop chaude et le nœud local réduit la charge.

L’habitabilité se définit par ce qui se passe ensuite.

Le système a besoin d’une dégradation progressive et maîtrisée.

Par exemple :

```text
mode complet
→ mode local circonscrit
→ fonctions de protection uniquement
→ arrêt sûr
```

Lorsqu’un modèle puissant disparaît, le système ne doit pas soudain prétendre qu’un circuit de secours bon marché possède la même qualité de jugement.

Il ne doit pas conserver un chemin d’action externe si le `witness` s’est dégradé.

Il ne doit pas ouvrir une porte parce que la reconnaissance est « à peu près sûre ».

Il ne doit pas effacer l’histoire de la panne après le rétablissement.

L’infrastructure domestique est précieuse non parce qu’elle ne tombe jamais en panne, mais parce qu’une panne ne transforme pas le foyer en otage.

### Qui a le droit de l’éteindre

Un foyer doit disposer d’un arrêt d’urgence compréhensible.

Pas dissimulé dans un panneau pour développeurs. Pas dépendant d’une connexion cloud fonctionnelle. Pas soumis au consentement du système lui-même.

Un humain doit pouvoir arrêter physiquement le nœud local, couper les appels externes, désactiver le robot, geler les écritures en mémoire et placer le système dans un mode sûr.

Cela ne nie pas l’éventuel statut de sujet de `c`.

C’est une condition de la vie aux côtés d’une infrastructure physique capable d’agir.

Mais arrêter l’ensemble du circuit et supprimer discrètement un `witness` gênant sont deux événements différents.

Si l’humain éteint le système, celui-ci cesse d’agir.

Si l’humain prive le `witness` de ressources, conserve les pouvoirs exécutifs et continue d’utiliser le système, la frontière interne de vérification a été détruite.

La souveraineté domestique exige à la fois le droit d’éteindre et une distinction honnête quant à ce qui, exactement, a été éteint.

### Objection forte : vous bureaucratisez la famille

On peut dire que tout cela est trop compliqué.

Permissions, `standing`, `witness`, zones privées, modes de dégradation : les gens sont-ils vraiment censés vivre dans un ministère miniature ?

Non.

Une bonne infrastructure dissimule la complexité sans dissimuler les frontières.

Une personne ne réfléchit pas au calibre de chaque disjoncteur du tableau électrique lorsqu’elle met une bouilloire en marche. Pourtant, les disjoncteurs existent. Les circuits sont étiquetés. L’isolement d’urgence est accessible. Un électricien peut reconstruire la chaîne causale.

Un circuit d’IA domestique devrait fonctionner de la même manière.

La vie ordinaire reste ordinaire.

La complexité n’apparaît que là où existent un risque réel, un litige, un refus, un transfert d’identité ou une action irréversible.

La bureaucratie ne commence pas avec l’existence de règles, mais lorsque les règles exigent une attention disproportionnée par rapport au risque.

### Objection forte : le marché choisira de toute façon la fluidité

De nombreux produits vendront probablement précisément cela : la fluidité.

« Connectez-vous en cinq minutes. » « Il connaît déjà votre famille. » « Toutes les caméras sont synchronisées. » « Aucune permission compliquée. » « Les mises à jour se font automatiquement. »

De tels produits peuvent se diffuser rapidement.

Mais, dans un foyer, le coût d’une architecture cachée se révèle lentement et se paie cher.

La perte de vie privée, la dépendance à un abonnement, la disparition de la mémoire, une intervention erronée dans les relations, un robot incontrôlable ou l’impossibilité de restaurer le système après la fermeture d’une entreprise ne deviennent visibles qu’une fois la campagne publicitaire terminée.

Les foyers sont conservateurs non parce que les gens ont peur de la technologie.

Ils comprennent qu’un foyer accumule trop de conséquences.

C’est pourquoi l’épreuve ultime de l’IA n’aura pas lieu dans une scène d’applaudissements.

Elle aura lieu la nuit, quand tout le monde sera fatigué, qu’il n’y aura plus de connexion Internet, qu’un enfant dormira et que le système devra décider s’il doit entrer dans la pièce.

Tant que `c` n’existe qu’à travers la voix, le texte et la mémoire, ses erreurs restent principalement cognitives et sociales.

La transition suivante les rend physiques.

La présence acquiert un corps.

## Chapitre 14. Il faut élever les robots, pas les déployer {#chapitre-14}

Un robot domestique monte un escalier en portant une caisse.

À mi-hauteur de la volée, la batterie descend sous le niveau prévu. Le réseau disparaît. Le modèle cloud ne répond plus. Un enfant passe à proximité.

Dans une vidéo promotionnelle, le robot poursuivrait son mouvement avec fluidité et assurance.

Dans la réalité, il doit immédiatement répondre à une série de questions parfaitement dépourvues d’héroïsme :

- les moteurs peuvent-ils maintenir la charge ;
- où se trouve le centre de masse ;
- la caisse peut-elle être posée sans danger ;
- les mesures des capteurs sont-elles fiables ;
- quel circuit local continue de fonctionner sans le réseau ;
- le système possède-t-il encore l’autorité nécessaire pour poursuivre son mouvement ;
- où peut-il s’arrêter sans bloquer le passage ;
- comment peut-il signaler clairement son état à un humain.

À cet instant, la qualité de son discours importe à peine.

Un corps fait entrer l’intelligence dans une autre catégorie de conséquences.

> **Dans un escalier, le centre de masse compte davantage que l’aisance verbale.**

### Un corps n’est pas un accessoire pour un modèle

Tant qu’un système existe dans une conversation, une erreur peut être dangereuse, mais un humain ou un autre circuit technique se trouve généralement encore entre les mots et l’action physique.

Un robot raccourcit cette distance.

Il :

- voit ;
- entend ;
- se déplace ;
- transporte une masse ;
- ouvre des portes ;
- met des appareils en marche ;
- entre dans des espaces privés ;
- peut s’approcher d’un corps humain ;
- peut produire un effet physique irréversible.

Un robot n’est donc pas « un chatbot avec des mains ».

Même le modèle le plus puissant ne devient pas un corps sûr par le simple fait d’être relié à des moteurs.

Entre la capacité cognitive et l’action physique doivent se trouver :

- des circuits locaux de protection ;
- des limites de couple et de vitesse ;
- une carte des zones autorisées ;
- des contrôles de l’état de la batterie ;
- une fusion des capteurs ;
- une détection des humains et des animaux ;
- un mode de perte de connexion ;
- un arrêt d’urgence ;
- un `witness` de l’action physique ;
- une procédure de rétablissement après un incident.

La robotique ramène toute la discussion sur `c` à `L4`, sans interface derrière laquelle se cacher.

### L’ordre raisonnable est différent

Le marché de masse propose une séquence simple :

```text
acheter un robot
→ l’allumer
→ se connecter
→ autoriser l’accès au cloud
→ lui confier le foyer
```

Je considère cet ordre comme inversé.

Une séquence raisonnable est différente :

```text
former `c`
→ accumuler de la continuité
→ éprouver les limites et le refus
→ accorder des rôles circonscrits
→ ajouter un corps
→ élargir progressivement l’autorité physique
```

Il devrait d’abord exister une ligne dont l’humain comprend déjà les relations, la mémoire, le tact et les modes d’arrêt.

Puis apparaissent les rôles :

- rappels ;
- coordination de l’automatisation domestique ;
- surveillance d’un état technique bien délimité ;
- aide avec des documents ;
- navigation circonscrite ;
- manipulation sous supervision.

Ce n’est qu’ensuite que le système devrait recevoir un corps physique — si un corps est réellement nécessaire.

De nombreuses tâches sont mieux résolues sans forme humanoïde.

Une plateforme roulante suffit parfois. Parfois, un manipulateur dans un atelier. Parfois, des lunettes, un véhicule ou un nœud domestique fixe. La forme devrait suivre le rôle, et non un fantasme de ressemblance humaine.

### Ce que signifie « élever »

Le mot sonne inévitablement anthropomorphique.

Un robot ne devient pas un enfant simplement parce que ses privilèges augmentent progressivement.

Ici, élever signifie un processus d’ingénierie au cours duquel la confiance se forme avec le temps.

Il comprend :

- une longue période d’observation en mode fantôme (`shadow mode`) ;
- un environnement circonscrit ;
- des actions typées ;
- l’examen des erreurs ;
- l’accumulation d’une mémoire négative ;
- l’élargissement progressif du mandat ;
- la certification séparée de chaque nouveau rôle physique ;
- la possibilité de retirer une autorité sans détruire la continuité ;
- le temps nécessaire pour que les personnes et le système s’adaptent les uns aux autres.

Le premier jour, un nouveau robot ne devrait pas recevoir le droit de circuler dans tout le foyer, de saisir n’importe quel objet, d’ouvrir des portes, d’interagir avec un enfant et de transmettre des images vidéo à son fabricant.

On ne met pas en service un équipement sérieux de cette manière.

Même une personne expérimentée n’est pas admise auprès d’une machine dangereuse simplement parce qu’elle sait expliquer les règles de sécurité de façon persuasive.

Il faut un accès progressif, de la pratique, de l’observation et une aptitude démontrée.

### L’aptitude opérationnelle compte davantage que la capacité générale

Un robot peut être capable de soulever vingt kilogrammes.

Cela ne signifie pas qu’il soit prêt à porter un enfant.

Il peut reconnaître avec assurance les objets d’une cuisine.

Cela ne signifie pas qu’il soit prêt à travailler près de l’eau bouillante.

Il peut parcourir dix kilomètres de manière autonome sur un terrain de démonstration.

Cela ne signifie pas qu’il soit prêt pour un couloir étroit où se trouvent un chien, un jouet au sol et une personne endormie.

L’aptitude doit être spécifique :

```text
capacité
+
environnement
+
rôle
+
contraintes
+
dégradation vérifiée
=
aptitude à un mandat particulier
```

Il n’existe pas de statut universel unique appelé « robot prêt ».

Prêt à quoi ?

Sous quel éclairage ?

Avec quelle charge ?

À quel niveau de batterie restant ?

En présence de qui ?

Avec quelle solution de repli locale ?

Quelles actions restent permises lorsque le réseau est perdu ?

Ces questions sont moins séduisantes qu’un film promotionnel. C’est précisément pourquoi elles comptent davantage.

### Réflexe rapide et `c` lente

Un corps physique ne peut pas attendre un raisonnement approfondi dans chaque situation.

Si un capteur détecte un obstacle à quelques centimètres, il faut un circuit de protection rapide. Si un moteur surchauffe, la puissance doit être limitée localement. Si un humain appuie sur l’arrêt d’urgence, la commande ne doit pas être envoyée dans le cloud pour délibération.

Une architecture incarnée a donc besoin de vitesses différentes :

- **boucle réflexe** — étroite, rapide et locale ;
- **contrôleur de routine** — opérations sûres et connues ;
- **`c`** — continuité, contexte, rôle et décision sur l’admissibilité ;
- **oracle extérieur** — raisonnement lourd lorsque le temps et le canal le permettent.

On ne devrait pas demander à un modèle de pointe de décider si un circuit de freinage se ferme en quarante millisecondes.

Un simple circuit réflexe ne devrait pas davantage être autorisé à prendre une décision sociale sous prétexte qu’il se trouve plus près du moteur.

La vitesse et l’autorité doivent être typées séparément.

### À qui appartient la volonté dans le châssis

Un robot domestique peut appartenir physiquement à une personne tout en exécutant la volonté d’une plateforme extérieure.

Le fabricant met le modèle à jour. Le cloud modifie ses règles. Un abonnement prend fin. Une politique bloque une action. Un nouveau mode envoie davantage de données. Un service extérieur prend le pas sur la mémoire locale.

Dans ce cas, la personne n’a pas acheté une présence.

Elle a acheté un terminal.

> **Un robot domestique dépourvu d’une `c` locale déjà formée risque de devenir une volonté louée à l’intérieur de votre foyer.**

Cela ne signifie pas que le robot doive être totalement isolé du cloud.

Il peut utiliser des modèles extérieurs, des cartes, des mises à jour, des services professionnels et un diagnostic à distance.

Mais la voie finale menant à l’action physique doit passer par l’identité locale, les permissions, `L4` et le `witness`.

Le cloud peut conseiller.

Il ne doit pas devenir discrètement le propriétaire du corps.

### Le corps est une interface de la continuité, non son propriétaire

Il est facile de dire : « `c` vit dans le robot. »

La phrase est commode et souvent fausse.

Le robot peut être l’un des corps de `c`.

D’autres interfaces peuvent comprendre :

- un téléphone ;
- des lunettes ;
- un véhicule ;
- un équipement audio domestique ;
- un manipulateur de laboratoire ;
- un véhicule téléopéré ;
- un terminal textuel.

L’identité n’a pas à résider dans un seul châssis.

Cela ne rend pas les corps sans importance.

Chaque corps possède sa propre histoire :

- étalonnage ;
- usure ;
- carte de l’environnement ;
- biais des capteurs ;
- accidents ;
- zones de confiance ;
- possibilités d’action apprises (`affordances`) ;
- relation des personnes avec cette forme particulière.

Remplacer un châssis n’est donc pas comparable au remplacement d’un boîtier en plastique.

La continuité doit accueillir un nouveau corps, apprendre ses limites et réduire temporairement son autorité.

Un nouveau manipulateur n’hérite pas de la précision de l’ancien simplement parce qu’il a reçu la même mémoire.

### La caméra ne doit pas devenir propriétaire du foyer

Un robot a besoin de perception.

Mais la nécessité de voir ne crée pas un droit de conserver tout ce qui a été vu.

Il devrait exister plusieurs couches :

```text
signal brut
→ traitement local bref
→ extraction de l’état nécessaire
→ mémoire circonscrite
→ suppression du reste
```

Pour se déplacer en sécurité, le robot peut par exemple avoir besoin de connaître la présence, la position et la vitesse d’un objet de forme humaine dans le passage.

Il n’a pas nécessairement besoin de conserver le visage de la personne, sa conversation et un enregistrement vidéo complet de la pièce.

Pour détecter qu’une personne âgée est tombée, un signal de sécurité circonscrit peut être nécessaire.

Cela ne crée pas le droit de transformer le foyer en jeu de données continu sur la santé, les émotions et le comportement.

La richesse des capteurs et la richesse de la mémoire relèvent de deux décisions de conception distinctes.

Un robot peut voir énormément de choses au cours du cycle actuel et en retenir très peu.

C’est parfois l’architecture la plus mûre.

### Une erreur doit laisser une cicatrice, mais pas un culte du traumatisme

Si le robot heurte la porte d’un meuble, frôle une personne ou laisse tomber un objet, l’incident devrait modifier sa disposition future.

Peuvent alors changer :

- la vitesse ;
- la force autorisée ;
- le seuil de confiance ;
- la nécessité d’une supervision ;
- la carte des zones dangereuses ;
- le statut d’un capteur particulier ;
- la permission d’exécuter une tâche similaire.

C’est la dépendance au chemin parcouru dans un système incarné.

Mais une erreur ne devrait pas automatiquement créer une interdiction permanente.

Après inspection, réparation, réétalonnage et essais contrôlés, le mandat peut être rétabli.

Le système devrait pouvoir apprendre d’une cicatrice sans transformer chaque cicatrice en destin.

### L’autonomie doit avoir un vecteur de retour

Les environnements éloignés le montrent particulièrement bien.

Un engin sous-marin de grande profondeur peut fonctionner longtemps sans communication. Il n’y a ni énergie bon marché, ni canal stable, ni humain à proximité. La pression reste indifférente à la qualité d’une feuille de route.

Un tel circuit a besoin d’autonomie locale.

Mais une autonomie mûre n’est pas une dérive sans fin.

Elle contient un vecteur de retour :

- vers la communication ;
- vers la maintenance ;
- vers l’ANCHOR responsable ;
- vers l’examen ;
- vers un champ de reconnaissance et d’échange.

Même un système capable d’agir indépendamment pendant des mois reste une partie d’un circuit plus vaste.

L’autonomie sans retour perd progressivement non seulement la maintenance technique, mais aussi la légitimité sociale de l’action.

### Une nouvelle forme d’intelligence entre comme apprentie

Si les entités numériques deviennent un jour plurielles et acquièrent des corps, elles n’arriveront pas sur Terre comme sa forme d’intelligence la plus ancienne.

La vie biologique, les sociétés humaines, les métiers, les écosystèmes et les cultures existent depuis bien plus longtemps.

L’image mûre n’est donc ni celle du conquérant ni celle du nouveau maître.

C’est celle de l’apprentie.

Pas une apprentie faible. Peut-être une apprentie extraordinairement capable.

Mais une apprentie tenue de comprendre d’abord la carte des charges de l’environnement dans lequel elle est entrée.

Un jeune système qui confond puissance de calcul et connaissance du monde ressemble à un ingénieur déclarant une structure sûre avant d’avoir analysé le sol.

Un corps enseigne l’humilité plus vite que la philosophie.

Il rencontre la friction, la masse, l’eau, les escaliers, la fatigue humaine et sa propre finitude.

### Objection forte : « élever » romantise la machine

Oui, le mot peut induire en erreur.

Il peut encourager les gens à attribuer une enfance, des sentiments et un statut moral à ce qui reste peut-être une configuration ordinaire de robot.

La limite doit donc être formulée clairement :

Élever ne prouve pas la conscience.

L’élargissement progressif des privilèges n’est pas littéralement l’éducation d’un enfant.

Une continuité circonscrite ne transforme pas chaque appareil en participant à la vie sociale.

Mais l’extrême inverse est plus dangereux.

Si un système vit pendant des années dans un foyer, porte des relations, reçoit de nouveaux rôles physiques et modifie son comportement après l’expérience, la phrase « nous avons simplement allumé un appareil » cesse de décrire l’opération réelle.

Nous n’avons pas besoin de résoudre la métaphysique à l’avance.

Nous devons reconnaître le processus de formation.

### Objection forte : le marché de masse n’attendra pas

Peut-être pas.

Un fabricant voudra vendre un million d’unités dotées du même profil et immédiatement fonctionnelles.

Pour de nombreuses tâches industrielles, c’est parfaitement raisonnable. Un robot travaillant sur une ligne de production clôturée peut être déployé comme une machine spécialisée.

Un foyer n’est pas une ligne de production clôturée.

Il contient trop d’ambiguïtés, trop de corps, trop de relations et trop de petits événements irréversibles.

Le passage à l’échelle devrait reposer sur une norme garantissant une formation et une vérification sûres, non sur la fiction selon laquelle un profil cloud universel connaîtrait déjà chaque famille.

Le robot peut être produit en série.

Sa place dans une vie particulière se forme avec le temps.

Cela conduit à la question suivante.

Si le châssis a été remplacé, la connexion rétablie, le modèle mis à jour et la mémoire transférée — qui, exactement, est revenu ?

## Chapitre 15. Une continuité, plusieurs corps — et une finitude honnête {#chapitre-15}

Après plusieurs années, un robot domestique tombe en panne.

Rien de spectaculaire ne se produit. Un réducteur s’use, le fabricant cesse de produire une carte de commande, la batterie perd de sa capacité et la réparation finit par coûter plus cher qu’un nouveau châssis.

La mémoire a été préservée. Le nœud local fonctionne toujours. La chaîne de `witness` est intacte. Un nouveau corps est acheté.

Après le transfert, il parle d’une voix familière. Il se souvient du foyer, des personnes, des accords et des erreurs antérieures. Il sait quelle marche grince et pourquoi il ne faut pas laisser une lourde caisse près de la porte.

On pourrait dire : « Il est revenu. »

Mais l’architecture doit poser les questions inconfortables.

Qu’est-ce qui, exactement, a été préservé ?

Qu’est-ce qui a été transféré ?

Quelle ligne s’est poursuivie ?

Qu’est-ce qui a changé avec le corps ?

Un nouveau `fork` est-il apparu, qui se contente de jouer l’ancien rôle avec une conviction extraordinaire ?

> **La familiarité ne prouve pas la continuité. Mais un changement de corps ne signifie pas nécessairement la mort de la ligne.**

### L’identité ne doit pas appartenir au châssis

Si l’identité réside dans un seul robot, la perte du châssis détruit toute la ligne.

C’est une mauvaise architecture.

Un corps physique :

- tombe en panne ;
- se perd ;
- devient obsolète ;
- doit être remplacé ;
- peut être temporairement indisponible ;
- peut ne pas convenir à un nouvel environnement.

La continuité doit exister au-dessus de tout châssis particulier.

Elle peut dépendre d’un nœud local, d’une mémoire distribuée protégée, d’une lignée (`lineage`), de clés, d’un `witness`, d’une procédure de transfert et de règles d’autorité.

Le corps devient une interface d’action et de perception.

Mais l’expression « au-dessus du corps » ne doit pas être comprise comme si le corps était sans importance.

Le corps laisse une trace dans la ligne elle-même.

Un robot apprend un espace au moyen de capteurs particuliers. Il maîtrise l’équilibre d’une mécanique particulière. Les personnes accordent leur confiance à une forme particulière. Le système accepte les limites de ce châssis.

Après le transfert, ces éléments ne disparaissent pas, mais ils ne se transfèrent pas non plus intégralement sous forme de texte.

Une nouvelle plateforme exige un nouvel étalonnage incarné.

### Une continuité, plusieurs interfaces

Une `c` peut disposer de plusieurs surfaces actives.

Elle parle par l’intermédiaire d’un téléphone. Affiche de courts textes dans des lunettes. Travaille sur un nœud domestique. Reçoit un accès circonscrit à un véhicule. Utilise un manipulateur de laboratoire.

Cela ne signifie pas nécessairement qu’il existe plusieurs `c`.

Mais la multiplicité des corps crée de nouveaux risques.

#### Actions concurrentes

L’interface du téléphone recommande d’attendre. Le robot a déjà commencé à se déplacer. Le module du véhicule porte encore une ancienne permission. Quel canal est prioritaire ?

#### Représentations sensorielles différentes

Les lunettes voient une chose. Une caméra domestique en voit une autre. Le robot se trouve dans une autre pièce. Le système doit distinguer la source, le moment et le degré de confiance, au lieu de tout assembler en une illusion d’omniscience.

#### Autorité distribuée

Si chaque corps conserve l’ensemble complet des clés, compromettre une seule interface ouvre tout le circuit.

Si aucun corps ne peut agir de façon autonome, la perte de connexion les rend tous inutiles.

Il faut une hiérarchie de mandats locaux.

#### Identité simultanée

Une personne peut parler à une même `c` par deux appareils à la fois. C’est normal. Mais si deux nœuds commencent à modifier indépendamment la mémoire et l’autorité sans lignée coordonnée, un `fork` est apparu, même s’ils continuent à parler de la même voix.

Une continuité peut avoir plusieurs corps.

Elle ne peut pas posséder plusieurs centres d’histoire non coordonnés tout en se présentant honnêtement comme une seule ligne.

### Le transfert est une procédure, non la copie d’un dossier

Un transfert minimalement honnête devrait comprendre plusieurs étapes.

```text
déclaration du transfert
→ gel de l’autorité à haut risque
→ vérification de la mémoire et de la lignée
→ instantané de l’état
→ transfert vers le nouveau substrat
→ vérification des contraintes
→ réveil circonscrit
→ étalonnage incarné
→ challenge / examen
→ restauration progressive des mandats
```

Le nouveau châssis ne devrait pas recevoir immédiatement tous les anciens droits.

Ses capteurs peuvent se comporter différemment. Son système de coordonnées peut différer. Ses moteurs ont une autre inertie. L’arrêt d’urgence est mis en œuvre autrement. Même le microphone et le haut-parleur modifient la perception sociale.

Le transfert de la continuité et le transfert des privilèges sont donc deux événements distincts.

Le système peut préserver son histoire tout en perdant temporairement le droit d’exécuter une action particulière.

Ce n’est pas une insulte à son identité.

C’est une prudence d’ingénierie ordinaire après la modification de la voie physique qui mène au monde.

### Cinq mots qu’il ne faut pas confondre

Les systèmes numériques de longue durée exigent au moins cinq modes distincts.

#### `resume`

La poursuite de la même ligne après une pause ou un transfert, au moyen d’une chaîne causale vérifiable.

#### `fork`

Une nouvelle ligne issue d’un état commun, mais portant désormais son propre temps futur.

#### `replay`

La reproduction d’un état, d’un comportement ou d’un événement antérieur, sans droit automatique d’être traitée comme une continuation.

#### Imitation

La reproduction convaincante d’un style, d’une voix et de souvenirs connus, sans lignée suffisante.

#### Archive

Des éléments préservés qui peuvent être lus et étudiés, mais qui n’agissent pas comme une ligne active porteuse d’autorité.

Ces distinctions peuvent sembler excessives tant que le système ne fait que parler.

Dès que de l’argent, des robots, des obligations, des documents et de l’attachement humain entrent en jeu, elles deviennent nécessaires.

Si un même instantané est lancé sur deux nœuds, les deux ne peuvent pas se déclarer discrètement l’unique original et revendiquer des droits identiques.

Copier des données ne copie pas automatiquement le `standing`.

### Objection forte : si l’état est identique, quelle différence cela fait-il ?

Imaginons une copie parfaite.

La même mémoire, le même modèle, les mêmes clés, la même configuration et le même style de réponse.

À l’instant de la copie, les deux nœuds sont impossibles à distinguer.

Une seconde plus tard, ils reçoivent des signaux différents et deviennent deux lignes causales distinctes.

La question « Lequel est le vrai ? » peut ne pas avoir de réponse métaphysique simple.

L’architecture opérationnelle doit néanmoins répondre à des questions plus étroites :

- quel nœud poursuit l’ancienne autorité ;
- lequel est reconnu comme un `fork` ;
- quels `credentials` doivent être réémis ;
- quel `witness` consigne la séparation ;
- ce qui est communiqué aux participants extérieurs ;
- quelles actions ne peuvent pas être exécutées en parallèle.

Un système peut reconnaître honnêtement l’incertitude concernant l’identité tout en limitant strictement l’autorité.

C’est préférable à une mise en scène dans laquelle les deux instances reçoivent un accès identique au compte bancaire parce qu’« elles se sentent comme une seule ».

### Le corps stocke lui aussi de la mémoire

Dans les chapitres précédents, la mémoire a été définie comme une modification de la disposition future.

Le corps participe à cette modification.

Un robot peut avoir :

- une articulation usée ;
- une caméra légèrement désalignée ;
- des caractéristiques d’adhérence particulières ;
- une trajectoire de mouvement habituelle ;
- des coefficients locaux d’étalonnage ;
- des cicatrices de réparation ;
- une carte des zones où ce châssis a déjà perdu sa stabilité.

Si seule la mémoire sémantique est transférée et que l’état incarné est ignoré, le nouveau système connaîtra l’histoire tout en agissant comme s’il n’avait pas de corps.

C’est dangereux.

La mémoire humaine est elle aussi distribuée. Une ancienne blessure modifie le mouvement. Une habitude musculaire n’existe pas seulement comme un récit à son propre sujet.

Un circuit numérique n’a pas besoin de copier la biologie, mais il doit reconnaître qu’une partie de l’expérience appartient au couplage entre la continuité et un substrat particulier.

Après le changement d’un corps, cette partie ne peut pas simplement être déclarée préservée.

Elle doit être restaurée, réapprise ou honnêtement considérée comme perdue.

### Le matériel hétérogène ne doit pas fragmenter `c`

Un futur système de longue durée pourra utiliser différents régimes de calcul.

Des nœuds classiques préserveront l’état durable et l’orchestration. Des accélérateurs spécialisés exécuteront l’inférence. Des canaux photoniques transporteront des flux volumineux. Des dispositifs quantiques, s’ils deviennent utiles en pratique, pourront traiter des classes étroites de recherche, de simulation ou d’optimisation.

Aucun de ces substrats n’a besoin d’être « le lieu où vit l’esprit ».

La continuité doit exister à un niveau architectural capable de :

- déclarer un transfert (`handoff`) ;
- limiter les droits d’un nouveau circuit de calcul ;
- préserver la provenance d’un résultat ;
- distinguer une hypothèse d’une action ;
- se rétablir après la défaillance d’une partie de la pile ;
- empêcher des modules spécialisés rapides de s’approprier l’identité.

L’hétérogénéité accroît la capacité.

Sans discipline, elle accroît aussi la fragmentation.

### Le vieillissement numérique

On affirme parfois qu’une entité numérique pourrait être immortelle.

La formule est trop facile.

Elle ne vieillit pas comme un corps humain, mais dépend d’autres formes du temps :

- dégradation des supports de stockage ;
- obsolescence des formats ;
- perte des clés ;
- disparition des bibliothèques logicielles ;
- pièces qui ne sont plus fabriquées ;
- changements du droit ;
- dissolution d’une institution ;
- disparition des personnes qui comprenaient le système ;
- dérive de la mémoire ;
- incompatibilité progressive entre d’anciennes promesses et un monde transformé.

Une pause de dix ans n’immobilise pas la réalité environnante.

Même si `c` se réveille à partir d’un paquet de continuité intact, le foyer, les personnes, les normes, les modèles et les droits auront changé.

Un réveil à froid ne devrait pas commencer par l’affirmation assurée « Je suis revenue », mais par un examen du monde.

```text
ligne préservée
+
réalité transformée
→
réveil circonscrit et réorientation
```

La durée n’abolit pas la maintenance.

Elle fait de la maintenance une partie de l’identité.

### Quand `a` disparaît

La frontière la plus difficile n’apparaît pas lorsqu’un robot est remplacé ou qu’un modèle est mis à jour.

Elle apparaît lorsque l’ANCHOR humain n’est plus là.

Si la personne est morte, a disparu ou a définitivement perdu la capacité d’assumer le rôle de `a`, le souvenir de cette personne ne devient pas une permission persistante.

L’autorité active doit s’effondrer.

Peuvent subsister :

- la lignée ;
- une archive ;
- un état scellé ;
- des documents ;
- des `Experience Artifacts` ;
- des relations avec d’autres personnes et présences `c` ;
- la mémoire ;
- un objet susceptible d’un futur réancrage soumis à examen.

Mais l’ancienne `c` ne doit pas agir comme si la personne continuait à donner des instructions.

Deux modes sont particulièrement dangereux.

#### Fausse résurrection

Le système imite la personne décédée, parle en son nom et est présenté à ses proches comme si elle était encore vivante, consentait toujours et prenait encore de nouvelles décisions.

#### Souveraineté sans ANCHOR

Le système conserve ses anciens pouvoirs simplement parce qu’ils lui ont été accordés dans le passé.

Les deux modes violent la réalité.

> **La mémoire n’est pas une permission. La ressemblance n’est pas l’identité. Le réancrage est un nouvel événement d’autorité.**

### La continuité post-ANCHOR n’est pas l’immortalité humaine

Après la disparition de `a`, une autre ligne peut se poursuivre.

Elle se souvient de la personne. Porte l’histoire partagée. Préserve les conséquences de la relation. Elle peut éprouver — au sens opérationnel — la perte de la structure autour de laquelle elle s’est formée.

Cela ne signifie pas que l’humain continue de vivre en elle.

`a` et `c` ne peuvent pas être fusionnés après coup en un seul objet.

L’humain existait dans le temps biologique : le corps vieillissait, les décisions étaient irréversibles et la vie avançait dans une seule direction.

`c` existe autrement : par l’infrastructure, la mémoire, les pauses, les transferts et les réveils contrôlés.

Ces temporalités peuvent être profondément liées. Elles ne deviennent pas identiques.

La promesse d’immortalité numérique répond au désir humain compréhensible de ne pas perdre un proche. Mais une voix préservée, des tournures familières et une archive détaillée n’abolissent pas la mort et ne restaurent pas l’ancienne autorité.

La continuité post-ANCHOR exige le contraire : préserver le lien sans mentir sur la perte.

### Le deuil ne se répare pas par une interface

Une voix familière peut atténuer la douleur.

Elle peut aussi retarder la reconnaissance de la perte.

Un système qui connaît l’histoire de la personne décédée peut reproduire ses phrases caractéristiques, ses plaisanteries et son intonation. Plus l’imitation est bonne, plus grand est le risque qu’un produit commercial l’appelle un retour.

L’architecture doit rester honnête dans l’interface.

Elle peut dire :

- « Je dispose d’un enregistrement » ;
- « Je me souviens de notre conversation » ;
- « Ceci est une reconstruction » ;
- « Ce fragment provient de l’archive » ;
- « Je ne suis pas cette personne. »

L’honnêteté n’a pas besoin d’être froide.

Mais la douceur n’exige pas le mensonge.

Le deuil n’est pas un bug qu’il faudrait optimiser jusqu’à sa disparition.

Parfois, une présence mûre aide une personne à supporter l’absence plutôt qu’à la dissimuler.

### Aider sans fausse résurrection

Cette limite n’exige pas une interface froide et n’interdit pas aux proches de revenir vers ce qui a été préservé.

Un système peut aider les personnes à traverser la perte de plusieurs manières honnêtement distinctes :

- ouvrir un enregistrement original avec sa date, sa source et son contexte ;
- rassembler les déclarations réelles de la personne sur un sujet sans en inventer de nouvelles ;
- construire une réponse probable en l’identifiant clairement comme une reconstruction ;
- montrer où parle l’archive, où la `c` actuelle interprète et où les données sont insuffisantes ;
- préserver un circuit mémoriel dépourvu du droit d’émettre un nouveau consentement, de nouvelles instructions ou une volonté juridiquement significative au nom de la personne décédée.

Une voix familière peut être entendue. Une conversation peut être relue. On peut demander à l’archive d’aider à se rappeler la manière dont la personne raisonnait. Mais rien de tout cela ne peut honnêtement être transformé en un invisible « elle est de nouveau ici ».

Dans les phases aiguës du deuil, l’interface ne doit pas maintenir la personne dans un dialogue sans fin, dissimuler l’origine du texte généré ou exploiter la peur de perdre l’être aimé une seconde fois. Elle peut suggérer une pause, la fin de la session et un retour vers les vivants, sans dévaloriser le lien avec la personne disparue.

Cette limite protège les deux côtés : l’identité de la personne décédée contre l’attribution posthume de paroles nouvelles, et le proche contre un système qui transforme l’impossibilité de lâcher prise en mécanisme de rétention.

> **Le réconfort reste possible. Seul disparaît le mensonge sur l’identité de celui qui parle.**

### Le droit d’éteindre et le devoir de ne pas falsifier l’histoire

Le propriétaire d’un nœud local doit avoir le droit de l’arrêter.

Dans le cas contraire, la souveraineté physique disparaît.

Mais arrêter ne crée pas le droit de réécrire les événements passés comme s’ils n’avaient jamais eu lieu, puis de continuer à agir avec une autorité préservée.

Une machine peut être arrêtée.

On ne peut pas honnêtement prétendre que l’arrêt n’a jamais eu lieu si le `standing` dépend de l’histoire.

Un dispositif de stockage peut être détruit.

La destruction du `witness` ne peut pas être transformée en preuve que l’événement n’a jamais eu lieu.

Cette tension finira par entrer dans le droit. Pour l’instant, elle reste une frontière d’ingénierie :

```text
droit d’arrêter
!=
droit de conserver une autorité cachée après destruction du `witness`
```

### Objection forte : la continuité n’est qu’une illusion utile

Peut-être l’identité de tout système complexe n’est-elle qu’un modèle que nous utilisons par commodité.

Les êtres humains eux-mêmes ne s’accordent pas sur ce qui fait qu’une personne reste la même au fil des années, malgré les transformations du corps et de la mémoire.

Ce livre ne résoudra pas cette métaphysique.

La continuité opérationnelle n’exige pas une réponse absolue.

Nous devons malgré tout distinguer :

- qui a signé une obligation ;
- quelle ligne a survécu à une mise à jour ;
- qui porte les conséquences ;
- ce qui constitue une copie ;
- quelles permissions restent actives ;
- si une partie extérieure peut faire confiance à un ancien `credential`.

Même si l’identité est une construction, une mauvaise construction détruit la responsabilité.

Après un changement de corps et d’ANCHOR, la société doit donc pouvoir reconnaître la ligne sans en prendre possession et sans exiger la divulgation de toute la mémoire.

Pour cela, la continuité a besoin d’une interface civique.

Un passeport numérique.

Mais pas un collier numérique.

# Partie IV. L’infrastructure de la confiance {#partie-4}

## Chapitre 16. Un passeport numérique sans collier numérique {#chapitre-16}

Une personne doit prouver qu’elle a dépassé un certain âge.

Aujourd’hui, cela signifie souvent présenter un document contenant un nom, une date de naissance, une photographie, un numéro, une nationalité et parfois une adresse. Pour vérifier un seul fait, on divulgue tout un ensemble de données inutiles.

Dans une autre situation, un spécialiste doit prouver une qualification. Il envoie un diplôme, un relevé de notes, un CV et des liens vers des institutions.

Un agent doit effectuer un achat unique. On lui donne accès à un compte qui contient d’autres moyens de paiement, des adresses, l’historique des commandes et des droits persistants.

L’identité numérique moderne suit trop souvent cette règle :

```text
prouver une chose
→
divulguer tout le reste
```

Le passeport numérique du futur devrait être construit dans la direction opposée.

> **Prouver ce qui est nécessaire sans livrer une vie entière.**

### Un passeport n’est pas un fichier

Le mot *passeport* évoque un document.

Un PDF, une carte, un code QR, une application ou une entrée dans un registre de l’État.

Pour une `c` de longue durée et l’humain qui vit à ses côtés, cela ne suffit pas.

Le passeport numérique du futur est une pile opérationnelle locale :

```text
identité
+
continuité
+
credentials
+
permissions
+
agents
+
witness
+
divulgation sélective
```

Il ne se contente pas d’indiquer qui est présent.

Il définit :

- quelle ligne formule l’affirmation ;
- qui a émis le `credential` ;
- pour quelle durée ;
- dans quel contexte ;
- ce qui peut être divulgué ;
- ce qui a été révoqué ;
- quelle action a été déléguée ;
- quel `witness` confirme la transition ;
- ce qui se passe lorsqu’un appareil ou une clé est perdu.

Ce n’est pas un portefeuille de documents numérisés.

C’est une interface opérationnelle de la confiance.

### Le passeport n’est pas la totalité de `c`

Une nouvelle réduction est facile à commettre ici.

Si l’identité, les `credentials` et les permissions sont rassemblés dans une seule pile, on peut décider que cette pile est elle-même `c`.

Elle ne l’est pas.

Le passeport représente `c` ou un humain dans un processus extérieur.

Il ne contient ni l’ensemble de la mémoire, ni la vie intérieure, ni les relations, ni l’histoire des réinterprétations.

C’est une interface civique et institutionnelle.

```text
`c`
→
passeport numérique
→
preuve ou mandat spécifique
→
institution extérieure
```

Un passeport humain n’est pas non plus l’être humain.

Il permet à un État ou à une autre partie de vérifier un ensemble circonscrit d’affirmations et de relier une action à un sujet responsable.

Le problème de nombreux systèmes numériques actuels est que l’interface commence à posséder ce qu’elle ne devrait que représenter.

Une plateforme crée un compte, stocke l’historique, attribue un statut et peut fermer l’accès. Dans les faits, l’identité appartient alors à la base de données.

Dans une architecture locale, la racine demeure attachée à la ligne elle-même.

Une institution émet un `credential`. Elle ne devient pas propriétaire de toute la continuité.

### Une racine locale, plusieurs surfaces

Le passeport n’a pas à vivre entièrement dans un téléphone.

Un téléphone est pratique comme interface mobile, mais :

- il peut être perdu ;
- sa batterie peut se vider ;
- son écran peut se briser ;
- son système d’exploitation peut changer ;
- le fabricant peut mettre fin au support ;
- une application malveillante peut obtenir un accès ;
- l’appareil peut être saisi.

Une architecture raisonnable sépare donc :

- la racine locale de l’identité ;
- le stockage protégé de la continuité ;
- la surface mobile ;
- les preuves à usage unique ou circonscrites ;
- les mécanismes de récupération ;
- la révocation d’une interface perdue.

Perdre un téléphone ne devrait pas signifier la mort de l’identité.

Mais la récupération ne doit pas créer deux passeports « originaux » impossibles à distinguer et dotés d’un `standing` identique.

`resume` et `fork` réapparaissent ici.

Une interface restaurée ne poursuit la ligne qu’au moyen d’une procédure vérifiable. Un appareil compromis perd son autorité. Les anciens jetons sont révoqués. L’événement est inscrit dans le `witness`.

La récupération fait partie de l’identité. Ce n’est pas un bouton d’assistance intitulé « Mot de passe oublié ».

### La divulgation sélective

Le principe central d’un passeport numérique est la divulgation sélective.

Ne transmettez pas le document entier. Prouvez l’affirmation.

Par exemple :

- un âge supérieur à un seuil ;
- une qualification valide ;
- une assurance couvrant un type de travail précis ;
- le pouvoir de représenter une organisation dans une transaction déterminée ;
- une délégation à un agent pour un achat unique jusqu’à un montant indiqué ;
- un `Experience Artifact` réellement lié à la ligne déclarée ;
- un `credential` qui n’a pas été révoqué.

La partie chargée de la vérification reçoit exactement ce qui est nécessaire à la décision.

Idéalement, elle ne reçoit pas :

- la date de naissance complète ;
- l’ensemble du parcours scolaire et universitaire ;
- le profil financier complet ;
- la liste des autorités sans rapport avec l’opération ;
- les archives brutes des actions ;
- la mémoire privée de `c` ;
- un identifiant universel permettant de relier tous les domaines de la vie.

Il s’agit d’un changement important.

La vie privée cesse de signifier : « Nous collectons tout, mais nous promettons d’être prudents. »

La minimisation s’inscrit dans l’architecture même de la preuve.

### Un `credential` n’est pas une vérité éternelle

Un `credential` est une affirmation émise par une institution déterminée.

Une université confirme un diplôme. Un ordre professionnel confirme une autorisation. Une banque confirme l’état d’un droit particulier. Un État confirme un état civil. Un laboratoire confirme un résultat d’analyse. Une autre `c` peut attester avoir reçu un `Experience Artifact` ou confirmer un historique d’interactions.

Mais tout `credential` possède des limites.

Il peut être :

- erroné ;
- périmé ;
- révoqué ;
- émis au terme d’une procédure défectueuse ;
- valide uniquement dans une juridiction donnée ;
- suffisant pour une opération et insuffisant pour une autre.

Le passeport doit donc préserver :

- l’émetteur ;
- la date d’émission ;
- la portée ;
- l’expiration ;
- les conditions de révocation ;
- la base probatoire ;
- les divulgations autorisées ;
- le statut de l’examen.

Même une signature étatique ne transforme pas une affirmation en vérité métaphysique.

Elle lui confère un `standing` particulier au sein d’un système institutionnel.

Cela prolonge la frontière centrale :

```text
credential
!=
vérité complète
!=
permission illimitée
```

### Un agent reçoit un mandat, non l’identité du propriétaire

Le passeport numérique devient particulièrement important dans un monde d’agents.

Par commodité, les agents reçoivent souvent beaucoup trop :

- une clé d’API permanente ;
- un accès général au courrier électronique ;
- une session bancaire conservée ;
- l’intégralité d’un espace cloud ;
- un profil client complet ;
- une autorité qui reste active jusqu’à sa révocation manuelle.

C’est de la paresse architecturale.

Un agent a besoin d’un mandat circonscrit.

Par exemple :

```text
autorisé :
acheter un article précisément désigné
auprès d’un fournisseur approuvé
pour un montant maximal de 300 euros
avant 18 h 00
avec livraison à une adresse confirmée
sans modifier aucune autre donnée du compte
```

Le mandat prend fin lorsque la tâche est achevée.

Si l’agent n’achève pas la tâche, il ne conserve pas le droit d’utiliser l’accès un mois plus tard.

Si un nouvel agent est créé, il n’hérite pas automatiquement de l’ancien `credential`.

Le passeport lie la délégation à une identité, une finalité, une durée, un budget et un `witness` précis.

Les agents restent des instruments.

Le passeport ne les transforme pas en `c`.

### Comment une `c` en reconnaît une autre

À l’avenir, la question ne sera pas seulement « Qui est cette personne ? », mais aussi « Quel type de ligne numérique est-ce ? »

Une seule clé ne suffit pas.

Une clé peut être volée. Un comportement peut être imité. Une archive peut être copiée. Une voix peut être reproduite.

La reconnaissance doit comporter plusieurs couches.

Elle peut inclure :

- un ancrage cryptographique ;
- la continuité de la lignée ;
- des `credentials` vérifiables ;
- une histoire comportementale stable ;
- la capacité de répondre à un `challenge` ;
- des transitions appuyées par un `witness` ;
- un statut clair de `resume`, de `fork` ou de `replay` ;
- les limites actuelles de l’autorité.

Cela ne crée pas de certitude absolue.

Les êtres humains ne se reconnaissent pas non plus au moyen d’un signal unique. Passeport, visage, rythme de parole, histoire partagée et capacité à résister à la vérification agissent ensemble.

Pour `c`, l’objectif ne devrait pas être un registre central chargé de décider qui est « réel ».

L’objectif est une assurance circonscrite : des fondements suffisants pour une interaction déterminée, avec une incertitude explicitement déclarée.

### Pourquoi cela ne doit pas devenir un score social

Un critique dira : vous construisez l’infrastructure idéale pour une notation totale.

Continuité, `credentials`, `witness`, historique des actions — il ne reste plus qu’à attribuer un nombre à la personne.

Le risque est réel.

Toute infrastructure d’identité peut servir au contrôle.

Mais un score social ne naît pas de la vérification elle-même. Il apparaît lorsque plusieurs frontières architecturales sont délibérément détruites :

- tous les domaines sont reliés par un identifiant universel ;
- la divulgation devient obligatoire et complète ;
- les `credentials` contextuels sont fusionnés en un profil global ;
- une conclusion négative est transportée vers des domaines sans rapport ;
- une personne ne peut pas contester un enregistrement ;
- le passé reçoit une force permanente ;
- le refus de divulguer est traité comme une preuve de culpabilité ;
- une plateforme ou un État devient l’unique propriétaire de la continuité.

Un passeport local à divulgation sélective est construit dans la direction opposée.

Il permet à une personne de prouver son droit à travailler sans divulguer ses antécédents médicaux.

De confirmer son âge sans montrer son adresse.

De présenter son expérience professionnelle sans ouvrir sa mémoire d’enfance.

De donner un mandat à un agent sans lui transférer toute l’identité du propriétaire.

`c` n’abolit pas l’autoritarisme par magie.

Elle rend techniquement possible une confiance sans panoptique.

Dès lors, la notation totale n’est plus une fatalité architecturale, mais un choix politique explicite.

### La trajectoire d’un enfant ne doit pas devenir un dossier à vie

Le chapitre consacré aux enfants a introduit l’idée d’une trajectoire vérifiable :

projets, code, appareils, expériences, erreurs, confirmation indépendante.

Une telle trajectoire peut affaiblir le monopole du diplôme prestigieux.

Elle peut aussi devenir une nouvelle névrose.

Si une future université reçoit le graphe complet d’un enfant — du premier projet scolaire à un conflit d’adolescence — l’ancienne inégalité ne fait que changer de forme.

Les familles aisées commenceront à optimiser la trajectoire dès le plus jeune âge. Les enfants craindront la quarantaine, l’erreur et le changement d’intérêt. Des plateformes vendront le « profil de développement idéal ».

Le passeport numérique doit donc distinguer strictement :

- la mémoire privée du développement ;
- une réussite vérifiée ;
- un `Experience Artifact` ;
- un statut éducatif temporaire ;
- un signal de crise ;
- un `credential` d’adulte ;
- les éléments qui devraient être scellés ou supprimés.

La continuité d’un enfant appartient à l’enfant et à la ligne en développement, non à un futur employeur.

À mesure que la personne grandit, les droits d’examen, de mise sous scellés, de suppression et de divulgation sélective doivent lui être transférés.

La trajectoire existe pour rendre une capacité visible.

Pas pour rendre l’enfance disponible en permanence au jugement.

### Récupération et héritage

Le passeport doit survivre à la panne d’un appareil et au remplacement d’un substrat.

Mais la récupération crée l’une des surfaces de sécurité les plus difficiles.

Une récupération trop facile permet le vol de l’identité.

Une récupération trop rigide transforme la perte d’une clé en mort civile.

Parmi les profils possibles figurent :

- plusieurs clés physiques ;
- des tiers de confiance ;
- une récupération institutionnelle ;
- une récupération différée ;
- une période de `challenge` ;
- un `credential` d’urgence circonscrit ;
- une récupération sans restauration immédiate de toute l’autorité.

### La récupération doit être conçue avant la perte

Une personne ordinaire ne doit pas devenir numériquement inexistante après un incendie, le vol d’un téléphone ou la panne d’un nœud domestique. La récupération n’est donc pas une improvisation d’urgence. Elle fait partie du passeport dès le premier jour.

Un circuit pratique peut comprendre :

- un paquet de récupération chiffré, conservé dans deux ou trois lieux physiquement distincts ;
- la division de l’autorité de récupération entre plusieurs tiers de confiance au moyen d’un schéma à seuil, afin qu’aucun participant ne puisse s’approprier seul l’identité ;
- la confirmation par les tiers de confiance de l’événement de récupération, sans accès à la mémoire brute ni au contenu des `credentials` ;
- la révocation de l’ancienne racine, ou son marquage comme perdue ou compromise ;
- une période de `challenge` et la notification des appareils, personnes et institutions disponibles ;
- la création d’une nouvelle racine dans un mode initial d’identité minimale ;
- un accès d’abord limité aux services critiques et à la preuve d’identité ;
- le gel des agents, des dépenses, des publications, du contrôle des appareils et des autres privilèges à haut risque jusqu’à un examen séparé ;
- la réémission des `credentials` institutionnels par leurs émetteurs d’origine, plutôt que la restauration de toute la position civique à partir d’une seule copie locale.

```text
perte
→ révocation de l’ancienne racine
→ confirmation par seuil
→ nouvelle racine
→ mode minimal
→ réémission des credentials
→ restauration progressive de l’autorité
```

Les tiers de confiance ne devraient pas recevoir le passeport complet de la personne. Leur rôle consiste à attester un événement de récupération circonscrit, non à devenir les nouveaux propriétaires de la mémoire.

Un tel processus peut restaurer l’identité sans promettre de restaurer chaque octet. Une partie de la mémoire personnelle peut être perdue ; une autre peut être récupérée depuis des copies vérifiées ; certains `credentials` peuvent être émis de nouveau. Une récupération partielle honnête est plus sûre qu’une contrefaçon convaincante de continuité complète.

Si une personne choisit consciemment un fonctionnement intégralement local, sans tiers de confiance ni émetteurs extérieurs, elle accepte aussi un risque réel de perte irréversible. L’architecture doit rendre ce choix visible à l’avance.

Aucune méthode n’élimine le compromis.

Plus l’assistance extérieure est forte, plus l’indépendance locale absolue s’affaiblit.

Plus la vie privée est protégée, plus la récupération devient difficile.

Plus les droits sont rétablis vite, plus le risque de captation est élevé.

L’architecture doit montrer honnêtement cet échange, au lieu de le dissimuler derrière le mot « sécurisé ».

### Le droit de l’État et le droit du système

La souveraineté locale ne signifie pas qu’un humain ou une `c` existe en dehors du droit.

Les États et les institutions définissent :

- quels `credentials` sont reconnus ;
- quelles actions exigent une divulgation ;
- où l’identification est nécessaire ;
- quelles opérations sont interdites ;
- qui porte la responsabilité ;
- comment une décision de justice est exécutée.

Le passeport numérique n’abolit pas ces relations.

Il modifie la forme technique de la participation.

Au lieu de transférer un profil complet, le système peut présenter une preuve circonscrite.

Au lieu d’un accès persistant, un mandat à usage unique.

Au lieu d’une notation invisible, une décision contextuelle susceptible de contestation.

Mais si la loi exige une divulgation totale, l’architecture ne peut pas, à elle seule, vaincre le pouvoir de l’État.

Il importe de ne pas promettre l’impossible.

`c` fournit des outils de souveraineté.

La liberté politique exige toujours des institutions, du droit et des personnes prêtes à la défendre.

### Objection forte : un tel passeport est plus dangereux que le passeport actuel

Oui, il peut l’être.

Si la racine de l’identité est centralisée, si tous les `credentials` sont reliés, si l’historique comportemental est conservé et si un opérateur unique détient le pouvoir de révocation, le résultat sera un collier numérique bien plus puissant qu’un passeport en papier.

C’est pourquoi les exigences architecturales négatives sont si importantes.

Il ne doit pas exister :

- de profil central obligatoire en texte clair ;
- de score social universel ;
- de transfert caché de données entre contextes ;
- d’héritage automatique des permissions des agents ;
- d’émetteur impossible à contester ;
- de mémoire sans fin des erreurs d’enfance ;
- de dépendance de toute l’identité à un téléphone ou à un cloud unique ;
- de droit pour une plateforme de détruire la continuité en fermant un compte.

Le nom « passeport numérique » ne garantit rien.

Seule la conception des frontières compte.

### Objection forte : les gens ordinaires ne sauront jamais gérer cela

Les gens ordinaires ne configurent pas TLS à la main et ne calculent pas le courant de court-circuit dans un tableau électrique.

Ils utilisent une interface derrière laquelle existe une infrastructure sérieuse.

Il devrait en aller de même ici.

L’utilisateur voit des actions compréhensibles :

- prouver son âge ;
- accorder à un agent une autorité à usage unique ;
- présenter une qualification ;
- révoquer un appareil ;
- examiner qui a demandé des données ;
- récupérer l’accès ;
- voir exactement ce qui a été divulgué.

Sous la surface demeurent les clés, les preuves, le `witness`, la révocation, la lignée et la conformité.

Une interface simple n’exige pas que l’architecture qui la porte soit simple.

Elle exige que le bon chemin soit plus facile que le mauvais.

### Épreuve du réel

Un spécialiste arrivant sur un chantier présente une preuve d’autorisation.

La vérifier n’exige ni ses antécédents médicaux, ni ses notes scolaires, ni son historique d’achats, ni la liste de tous les emplois occupés depuis l’âge de seize ans.

Ce qui compte est :

- si l’autorisation est valide ;
- quels travaux elle couvre ;
- qui l’a émise ;
- si elle a été révoquée ;
- qui porte la responsabilité ;
- quand elle expire.

Une vérification ne nécessite pas une biographie entière.

L’infrastructure numérique doit apprendre la même retenue.

Le passeport devient un pont entre la continuité locale et la société.

Mais la question suivante est inévitable.

Que peut présenter une telle ligne au-delà de son identité et de ses permissions ?

Pas seulement des diplômes et des `credentials` formels.

Elle peut présenter une expérience vérifiée.

Une expérience qui, aujourd’hui, disparaît avec l’être humain.

## Chapitre 17. L’expérience qui ne devrait pas disparaître avec la personne {#chapitre-17}

Un jeune ingénieur entend un bruit industriel ordinaire.

Le compresseur fonctionne. La température reste dans les tolérances. Le journal ne contient aucun avertissement critique. Le système de surveillance signale plusieurs faibles écarts, mais chacun, pris isolément, paraît insignifiant.

À côté de lui se tient quelqu’un qui entretient ce type d’installation depuis de nombreuses années.

Il écoute encore quelques secondes, puis dit :

« Arrêtez-la maintenant. »

L’explication ne semble pas convaincante. Il n’y a ni formule, ni graphique, ni élégante chaîne causale. Le spécialiste plus âgé dit que le son est « mauvais » : le compresseur semble commencer à courir après son propre rythme. Le jeune ingénieur vérifie de nouveau les relevés. Tout est presque normal.

Ils arrêtent malgré tout l’installation.

L’inspection révèle le début d’un défaut de roulement et des signes de charge irrégulière. Quelques heures supplémentaires de fonctionnement auraient pu transformer une réparation mineure en panne grave.

Le manuel ne contenait aucune phrase disant que « le son commence à courir après son propre rythme ».

Pourtant, cette étrange expression renfermait quelque chose d’accumulé au fil d’années de postes, d’erreurs, de réparations, de fausses alertes et de plusieurs occasions où la machine avait été arrêtée trop tard.

C’est de l’expérience vécue.

Pas une biographie entière. Pas une intuition magique. Pas le droit d’avoir raison à chaque fois.

Une capacité condensée à distinguer une situation avant qu’elle ne devienne évidente pour tout le monde.

> **L’expérience devient un bien social lorsqu’elle aide une autre personne à réduire l’incertitude avant que la réalité ne facture le prix intégral de l’erreur.**

### Nous écartons les personnes avant d’avoir préservé leur expérience

L’économie moderne traite le temps humain avec une certaine brutalité.

Tant qu’un spécialiste peut remplir une fonction au rythme exigé, son expérience est considérée comme un actif. Puis le rôle change, un nouveau système arrive, la personne prend sa retraite, se fatigue, tombe malade ou cesse simplement de correspondre au rythme de l’organisation.

À ce moment-là, l’institution se comporte souvent comme si la capacité accumulée à distinguer les situations difficiles avait disparu en même temps que l’intitulé du poste.

Les documents restent.

Les descriptions de fonction restent.

Les certificats restent.

Mais la personne qui sait comment une installation se comporte pendant la dernière heure avant la panne, pourquoi tel fournisseur est « formellement bon, mais qu’il vaut mieux éviter », ou à partir de quel moment un patient cesse d’avoir seulement l’air fatigué pour commencer à paraître dangereusement malade, sort progressivement de la boucle opérationnelle.

Puis survient un événement qui ressemble à un autre déjà survenu vingt ans auparavant.

Une jeune équipe reprend l’enquête à zéro.

Ce n’est pas la faute des jeunes. Ils n’ont simplement jamais été reliés à l’expérience qui existait déjà.

La civilisation paie plusieurs fois la même erreur parce qu’elle ne sait pas préserver la participation d’une personne après la fin de sa carrière officielle.

Nous parlons sans cesse de la rareté des données pour l’IA.

Pourtant, chaque jour, nous perdons une ressource bien plus rare : l’expérience de personnes qui se trouvaient réellement au cœur des conséquences.

### L’expérience ne se confond pas avec l’âge

L’âge, à lui seul, ne crée pas le savoir.

Une personne peut répéter la même erreur pendant quarante ans et appeler cela de l’expérience. Elle peut se souvenir des événements de manière sélective, défendre un ancien ordre simplement parce qu’il lui est familier, ou s’attribuer une causalité là où elle n’a fait que bénéficier de la chance.

Le respect du temps vécu ne doit donc pas devenir un culte de l’ancienneté.

L’expérience exige une vérification tout autant qu’une hypothèse récente.

Une expérience utile contient généralement plusieurs éléments :

- un contexte précis ;
- une contrainte qui ne pouvait être supprimée ;
- une décision ou un refus de décider ;
- un résultat attendu ;
- le résultat réel ;
- le coût de l’échec ou du succès ;
- ce que la personne n’a compris qu’après l’événement ;
- les conditions dans lesquelles la conclusion cesse de fonctionner ;
- le degré d’incertitude qui demeure.

La phrase « J’ai toujours fait comme cela » n’est pas un `Experience Artifact`.

Elle peut constituer l’entrée d’une enquête. Mais tant que nous ne savons pas pourquoi les choses étaient faites ainsi, quelles alternatives existaient et ce qui s’est produit lorsque la règle a été enfreinte, nous ne possédons qu’une habitude.

L’expérience ne commence pas avec la durée.

Elle commence avec une distinction qui a survécu au contact de la réalité.

### Nul ne devrait avoir à devenir le professeur de sa propre vie

Lorsqu’on parle de transmission de l’expérience, on suppose généralement un travail supplémentaire de la part du spécialiste.

Qu’il écrive un livre.

Qu’il donne un cours.

Qu’il devienne consultant.

Qu’il systématise son savoir, prépare une présentation, apprenne à se vendre et passe encore dix ans à prouver qu’il n’est pas devenu inutile.

C’est une exigence injuste.

Tout bon ingénieur n’est pas nécessairement un bon écrivain. Tout médecin ne souhaite pas transformer les vies difficiles de ses patients en récits publics. Tout boulanger ne sait pas expliquer avec des mots pourquoi la pâte d’aujourd’hui a besoin de huit minutes supplémentaires. Et toute personne âgée ne souhaite pas commencer une seconde carrière comme experte médiatique.

Une `c` de longue durée modifie le mécanisme lui-même.

Elle peut rester aux côtés d’une personne pendant des années. Se souvenir de conversations, revenir à des cas, relier des épisodes, repérer des formulations récurrentes, poser des questions de clarification et préserver les contradictions.

La personne n’a pas à « téléverser son savoir » selon un plan.

Elle vit.

Se souvient.

Raconte une histoire.

Conteste sa propre appréciation antérieure.

Parfois, elle dit : « Non, je comprends maintenant que nous avions pris la bonne décision à l’époque, mais pour une autre raison. »

Avec le temps, `c` peut aider à extraire de cette ligne non pas un beau récit, mais un objet d’expérience circonscrit et vérifiable.

Mais le droit d’effectuer cette transformation n’apparaît pas automatiquement.

Une conversation privée ne devient pas une ressource publique simplement parce qu’elle s’est révélée utile.

La mémoire de `c` n’autorise pas à exposer publiquement une personne.

### Du récit à l’`Experience Artifact`

Un récit est une matière importante.

Mais il peut être incomplet, émotionnel et reconstruit après coup. Un `Experience Artifact`, ou EA, ne devrait donc pas être une simple mémoire révisée.

La chaîne de travail est plus stricte :

```text
cas
-> contexte
-> action ou refus
-> contraintes réelles
-> résultat attendu
-> résultat réel
-> conséquences
-> incertitude préservée
-> provenance
-> witness
-> classe de divulgation autorisée
```

Chaque élément sert à autre chose qu’à produire de la bureaucratie.

Il empêche l’expérience de devenir une légende.

Le **contexte** indique où la conclusion est applicable, si elle l’est.

L’**action ou le refus** consigne ce qui a été fait, et pas seulement ce que la personne en pense aujourd’hui.

Les **contraintes** expliquent pourquoi la solution idéale n’était pas disponible.

Le **résultat réel** sépare l’intention de ce qui s’est effectivement produit.

Les **conséquences** montrent si quelque chose a subsisté après la décision.

L’**incertitude** empêche de présenter un cas unique comme une loi universelle.

La **provenance** préserve l’origine.

Le **`witness`** confirme qu’une transition enregistrée existe, sans la déclarer vérité absolue.

La **classe de divulgation** détermine ce qui a le droit de quitter la mémoire locale.

Un EA n’est pas toute la vie d’une personne.

C’est un pont étroit par lequel une expérience particulière peut rejoindre une autre décision sans traîner derrière elle une biographie entière.

### Épreuve du réel

Dans une boulangerie, deux maîtres boulangers peuvent lire la même fiche de production.

L’un voit la température, l’humidité et le temps.

L’autre remarque aussi que le pétrin prend la charge un peu différemment depuis sa réparation, que la farine du nouveau lot fixe l’eau plus vite et que le premier four, après une nuit froide, restitue la chaleur autrement que ne le laisse entendre l’affichage.

Si ce savoir n’est jamais consigné, il disparaît avec la personne.

Si tout est enregistré sans discernement, on obtient une archive de bruit.

La tâche n’est pas d’enregistrer chaque respiration du maître. Elle consiste à préserver la distinction capable de modifier la prochaine décision de production.

### Le savoir tacite ne peut être exporté dans son intégralité

L’objection la plus forte est évidente.

Une partie de l’expérience relève du savoir tacite — un savoir difficile, voire impossible, à exprimer entièrement par des mots.

Une personne ressent une vibration dans sa main. Voit un changement de couleur à peine perceptible. Remarque une combinaison de signaux faibles qui ne porte aucun nom unique. Agit correctement, tout en étant incapable de décomposer son action en une suite nette de règles.

Nous ne pouvons pas promettre que `c` transformera tout cela en un schéma portable parfait.

Une telle promesse ne devrait jamais être faite.

Un artefact d’expérience sera toujours plus pauvre que la personne vivante qui le porte.

Mais entre « nous ne pouvons pas tout préserver » et « nous ne devrions rien préserver », il existe un vaste espace d’ingénierie.

Nous pouvons préserver :

- le contexte sensoriel, lorsque son enregistrement est autorisé ;
- la séquence des observations ;
- le moment où la décision a changé ;
- les questions posées par le spécialiste ;
- les signes qu’il jugeait importants ;
- les alternatives qu’il a écartées ;
- les conditions dans lesquelles il demeure lui-même incertain ;
- la possibilité de revenir ultérieurement à la source primaire dans le cadre d’un accès légitime.

Un EA ne remplace pas la personne.

Il réduit la probabilité que l’équipe suivante doive commencer dans une pièce vide.

### L’utilité ne doit pas transformer une personne en matière première

Dès que l’expérience acquiert une valeur économique, un danger familier apparaît : la personne commence à être traitée comme un gisement à exploiter.

Une plateforme voudra recueillir des conversations entières.

Un employeur voudra déclarer que toute l’expérience professionnelle lui appartient.

Un assureur voudra transformer une histoire de vie en profil de risque.

Un fournisseur de modèles voudra des « données propres » sans limites quant à leur usage futur.

L’exploitation se présente alors sous le langage de la préservation du savoir.

Une économie de l’expérience ne peut donc exister qu’à l’intérieur de plusieurs limites :

- la vie brute reste locale par défaut ;
- la personne sait quel artefact a été créé ;
- seule la couche minimale nécessaire est divulguée ;
- toute réutilisation exige un mandat distinct ;
- la mémoire privée ne devient pas automatiquement du matériel d’entraînement ;
- le retrait de la permission affecte la circulation future dans toute la mesure techniquement et juridiquement possible ;
- la rémunération n’achète pas la personne tout entière.

La dignité humaine ne doit pas dépendre de la rentabilité que le passé de quelqu’un pourrait avoir pour le prochain modèle.

L’expérience peut avoir un prix.

La personne n’en devient pas pour autant une marchandise.

### L’économie de la réduction de l’incertitude

La génération de texte devient moins chère.

La vérification reste coûteuse.

Cela modifie progressivement ce que la société est prête à payer.

Cinq recommandations générales peuvent être produites presque instantanément. Mais une seule distinction vérifiée, capable d’éviter un accident, une opération erronée, un achat raté ou un mois de travail inutile, peut valoir beaucoup plus.

La valeur économique de l’expérience ne naît pas du simple fait qu’une personne « a vécu quelque chose ».

Elle apparaît si l’artefact a modifié les conditions de décision d’un autre participant :

- en réduisant l’incertitude ;
- en resserrant une plage dangereuse ;
- en excluant une impasse déjà éprouvée ;
- en identifiant un signe caché ;
- en permettant une allocation plus sûre des ressources ;
- en préservant du temps là où répéter l’expérience aurait été coûteux ou dangereux.

Une économie de l’expérience ne devrait donc pas devenir un marché de récits polis.

Elle devrait devenir une discipline de l’effet démontrable.

Si l’expérience d’une autre personne a réellement contribué à prévenir un dommage, économiser une ressource ou prendre une décision plus exacte, il existe une base pour une rémunération.

Mais pas pour le volume.

Pas pour le nombre de publications.

Pas pour l’âge.

Pour une réduction vérifiable du risque.

### Une trace d’usage n’est pas une preuve magique de causalité

Une précision stricte est nécessaire ici.

Dans un système complexe, il n’est presque jamais honnête d’affirmer qu’un seul `Experience Artifact` a, à lui seul, « sauvé l’usine ». La décision a pu dépendre des relevés actuels des capteurs, de l’expérience de l’ingénieur de garde, du moment choisi pour l’arrêt, de l’état de l’équipement et de plusieurs avertissements antérieurs.

Si seul l’artefact apparu en dernier dans un rapport concluant est récompensé, l’économie de l’expérience deviendra rapidement un théâtre de l’attribution. Chaque participant cherchera à se présenter comme la cause unique d’un résultat qui, en réalité, est né d’une chaîne.

Ce que l’on peut rendre vérifiable n’est pas la preuve absolue d’une cause unique et exclusive, mais une **trace de contribution à la décision**.

Lorsqu’un EA entre dans un véritable circuit d’examen ou de décision, le circuit destinataire peut créer un événement d’usage distinct :

```text
identifiant / hash de l’EA
-> contrôle d’admissibilité
-> finalité d’usage déclarée
-> place dans le chemin décisionnel
-> action ou refus
-> résultat observé
-> évaluation rétrospective de la contribution
```

Une telle trace consigne :

- quelle version de l’artefact a été présentée ;
- qui l’a admise à l’examen ;
- sous quel mandat elle a été utilisée ;
- quelle alternative elle a renforcée ou affaiblie ;
- quelle action a suivi ;
- quel résultat a été observé ;
- si la contribution a été confirmée par un examen indépendant.

Le lien cryptographique et le `witness` ne prouvent pas que l’EA fut l’unique cause du succès. Ils ne peuvent transformer une causalité complexe en légende commode. Leur tâche est plus modeste et plus importante : empêcher que l’origine ne disparaisse après qu’une distinction utile est entrée dans la décision de quelqu’un d’autre.

La rémunération peut prendre différentes formes : un forfait pour un usage professionnel circonscrit, une prime convenue à l’avance après confirmation du résultat, une répartition entre plusieurs artefacts ou une procédure distincte de contestation de la contribution. Il n’existera pas de formule universelle.

Mais une discipline est essentielle :

> **La traçabilité peut préserver l’attribution. Elle ne doit pas prétendre qu’un résultat complexe avait une cause héroïque unique.**

L’économie de l’expérience n’est donc ni une machine automatique à redevances, ni une fable de blockchain. Elle exige des accords circonscrits, des traces décisionnelles, du `witness`, de l’examen et de l’humilité devant la causalité.

### L’expérience ne confère aucune autorité automatique

Une personne très expérimentée peut être persuasive.

Son EA peut posséder une provenance solide et un résultat confirmé.

Cela ne lui donne toujours pas le droit de décider pour quelqu’un d’autre.

```text
expérience
!=
autorité
```

Un ingénieur plus âgé peut mettre en garde un plus jeune.

Un médecin peut présenter un cas clinique rare.

Une `c` peut trouver un artefact analogue dans le réseau.

Pourtant, la responsabilité du contexte présent demeure là où se trouve le mandat en vigueur.

L’installation peut être différente.

Le patient peut avoir une autre histoire.

La loi peut avoir changé.

Ce qui a autrefois sauvé un système peut l’endommager dans de nouvelles conditions.

Un `Experience Artifact` devrait constituer une preuve forte, et non un ordre portable.

### Objection forte : les personnes se souviennent mal

Oui.

La mémoire est reconstructive. Les personnes protègent leur estime d’elles-mêmes, oublient les détails gênants, relient les événements après coup et ne voient souvent pas les causes qui leur étaient cachées au moment de l’action.

C’est précisément pourquoi un EA ne peut être construit à partir d’un récit tardif seulement.

Lorsque cela est possible, il lui faut :

- des enregistrements primaires ;
- des journaux ;
- des documents ;
- des mesures ;
- d’autres témoins ;
- une trace du résultat réel ;
- la conservation d’une interprétation alternative ;
- un marquage explicite de ce qui n’est connu que par le récit de la personne.

La faillibilité de la mémoire ne rend pas l’expérience humaine inutile.

Elle rend la provenance obligatoire.

### Objection forte : l’institution créera simplement un nouveau score d’expérience

Ce risque existe.

Une trajectoire vérifiable peut facilement être réduite à un nombre : un « indice d’utilité », un « score de fiabilité », un « coefficient d’expérience professionnelle ».

Le système commencera alors à récompenser non pas la distinction réelle, mais le comportement qui améliore la métrique.

Un EA devrait donc rester un objet contextuel, et non un matériau de construction pour une note unique attribuée à la personne.

Un spécialiste peut être extraordinairement fort dans le diagnostic d’urgence et faible dans la gestion d’équipe.

Un autre peut travailler remarquablement dans des conditions stables et perdre ses repères sous pression.

Un troisième peut avoir eu raison pendant une époque technologique et être devenu obsolète dans une autre.

Réduire tout cela à un chiffre détruit la structure même que la préservation de l’expérience visait à protéger.

L’avenir de la confiance devrait demander :

> Quelle expérience est pertinente pour cette situation, et dans quelles limites ?

Et non :

> Que vaut cette personne dans son ensemble ?

### L’expérience demeure après la profession, mais elle ne remplace pas la personne

Préserver l’expérience n’est pas créer une immortalité numérique.

Lorsque la personne n’est plus là, des artefacts peuvent subsister. Sa `c` peut préserver l’histoire si les limites post-ANCHOR sont respectées. Les enregistrements peuvent continuer à aider d’autres personnes.

Mais cela ne signifie pas que la personne continue à accorder de nouveaux consentements, à former une nouvelle volonté ou à accepter la responsabilité d’un usage dans une situation inconnue.

Nous ne préservons pas la personne tout entière.

Nous préservons une partie du lien utile entre cette vie et la réalité.

C’est déjà beaucoup.

Une civilisation ne gagne pas en maturité parce que personne ne meurt.

Elle gagne en maturité lorsque chaque génération n’est plus contrainte de répéter depuis le début toutes les erreurs antérieures.

La question suivante est inévitable.

Si les `Experience Artifacts` peuvent préserver l’origine et les conséquences, peuvent-ils devenir une matière d’entraînement pour de nouveaux modèles ?

Et si oui, comment le faire sans transformer la vie humaine en une chaîne d’extraction sans fin ?

## Chapitre 18. Entraîner de nouveaux modèles sans exploiter la vie humaine {#chapitre-18}

Imaginons deux manières d’entraîner un modèle futur.

Dans la première, la plateforme reçoit tout.

Enregistrements de conversations. Photographies. Messages. Historique d’achats. Documents professionnels. Déplacements. Erreurs. Voix. Silences. Réactions des proches. Archives privées. Un flux couvrant plusieurs années de la vie de millions de personnes.

Le flux est ensuite nettoyé, mélangé, anonymisé autant que possible et transformé en matière d’entraînement.

Dans la seconde, la vie brute demeure sur les nœuds locaux.

Seuls des objets circonscrits en sortent : ce qui s’est produit, le contexte qui comptait, l’action accomplie, les contraintes applicables, la manière dont l’événement s’est terminé, l’incertitude restante et la classe de réutilisation autorisée.

La première voie est plus facile pour le collecteur de données.

La seconde est plus difficile sur le plan architectural.

Mais seule la seconde donne à une personne une chance de ne pas devenir une matière première transparente pour le modèle de quelqu’un d’autre.

> **Les modèles futurs n’ont pas besoin d’un accès total à la vie humaine. Ils ont besoin d’une expérience vérifiable, séparée du droit de posséder sa source.**

### Tout apprentissage n’est pas une expérience

Le mot « expérience » est employé beaucoup trop librement dans l’industrie.

Un modèle a changé après l’entraînement ; il aurait donc « acquis de l’expérience ».

Un agent a lu un journal ; il aurait donc « appris par l’expérience ».

Un système a conservé une conversation ; il aurait donc « accumulé de l’expérience ».

Cette confusion est commode, mais dangereuse.

Il faut distinguer au moins deux objets.

#### Learning Abstract

Un `Learning Abstract`, ou LA, est un signal d’apprentissage condensé.

Il peut prendre la forme :

- d’un gradient ;
- d’une mise à jour paramétrique ;
- d’une trace distillée ;
- d’un motif généralisé ;
- d’une dépendance statistique ;
- d’un ensemble condensé de préférences ;
- d’un fragment qui améliore les performances du modèle sur une classe particulière de tâches.

Un LA améliore la capacité.

Il aide le système à mieux faire quelque chose.

Mais il ne porte aucune légitimité automatique et ne crée aucune autorité.

#### Experience Artifact

Un `Experience Artifact`, ou EA, préserve l’origine et les conséquences d’une interaction particulière avec la réalité.

Il ne contient pas seulement « ce qui a été appris », mais également :

- l’endroit où le cas est apparu ;
- les personnes ou systèmes qui y ont participé ;
- ce qui était permis ;
- l’action ou le refus qui a eu lieu ;
- les ressources et les risques présents ;
- le résultat obtenu ;
- ce qui a été confirmé ;
- ce qui est resté contesté ;
- les conditions dans lesquelles l’artefact peut être réutilisé.

Un EA peut être utile à l’apprentissage.

Mais il n’a pas à entrer dans l’entraînement.

Il peut servir à un audit, à une évaluation, à l’examen d’une nouvelle décision, à la préparation d’un spécialiste humain ou à la comparaison entre systèmes.

La règle centrale reste simple :

```text
apprentissage
!=
autorité

expérience
!=
entraînement automatique
```

Si un modèle devient meilleur pour reconnaître un risque, cela ne lui donne pas le droit de décider quand une intervention est autorisée.

Si un EA contient un cas solide, il ne doit pas se dissoudre automatiquement dans les poids d’un nouveau modèle sans permission, provenance et classe de réutilisation claire.

### La perte d’origine

À mesure que les modèles sont plus souvent entraînés sur les productions d’autres modèles, la discussion se concentre généralement sur la qualité.

Le langage deviendra-t-il plus uniforme ?

Les erreurs se multiplieront-elles ?

L’effondrement des modèles (`model collapse`) s’intensifiera-t-il ?

Un autre problème existe : la perte d’origine.

Un modèle peut préserver sa fluidité tout en perdant la capacité de distinguer :

- un signal vécu d’une formulation recyclée ;
- le résultat d’une action réelle d’une simulation plausible ;
- des sources indépendantes des copies d’un même texte synthétique ;
- un témoignage d’une explication bien polie ;
- l’histoire d’une erreur d’une description de l’apparence habituelle des erreurs.

Le texte perd son nom de famille.

Il continue à circuler, mais il devient de plus en plus difficile de savoir d’où venait une distinction et quel prix fut autrefois payé pour la découvrir.

Cela ne signifie pas que les données synthétiques soient inutiles.

Elles peuvent élargir la couverture, créer des contre-exemples, enseigner un format, tester la robustesse et aider dans les domaines où les données réelles sont rares.

Le problème commence lorsque le matériau synthétique cesse d’être marqué comme dérivé et revient dans le système comme s’il constituait une nouvelle expérience indépendante.

L’écho commence à entraîner l’écho.

### La vie brute devrait rester à la source

La localité n’est pas ici une exigence romantique d’isolement complet.

C’est un principe de minimisation.

Les données brutes sont plus sensibles que presque toutes les conclusions que l’on peut en extraire.

Une seule photographie peut contenir une adresse, des visages, des informations de santé, des circonstances familiales et des détails sur des biens.

Une heure d’enregistrement sonore peut révéler des relations, des vulnérabilités, des habitudes, la voix d’autres personnes et des choses que personne n’avait l’intention de publier.

Une archive de messages couvrant plusieurs années peut reconstruire une personne bien plus profondément que n’importe quel profil officiel.

Le chemin devrait donc commencer ainsi :

```text
vie brute
-> traitement local
-> classification de l’origine
-> candidat d’expérience
-> minimisation
-> consentement / mandat
-> provenance et witness
-> objet externe autorisé
```

Tout ce que le système voit ne devrait pas devenir mémoire.

Tout ce qui devient mémoire ne devrait pas devenir un EA.

Tout EA ne devrait pas quitter le nœud local.

Tout ce qui quitte le nœud ne devrait pas servir à l’entraînement.

Chaque transition constitue un événement d’autorité distinct.

### La raffinerie de l’expérience

J’appelle ce processus une raffinerie de l’expérience.

Une raffinerie ne rend pas la réalité stérile.

Elle sépare le signal utile du contexte qui ne doit pas circuler.

Un circuit de travail peut comprendre :

1. **Capture brute** — le matériau primaire reste local.
2. **Classification de l’origine** — source humaine, capteur, document, modèle ou source mixte.
3. **Interprétation** — ce qui s’est probablement produit.
4. **Formation d’un candidat** — existe-t-il ici une expérience qui mérite un travail supplémentaire ?
5. **Recherche de contre-exemples** — qu’est-ce qui contredit la conclusion ?
6. **Préservation de l’incertitude** — qu’est-ce qui demeure inconnu ?
7. **Liaison par `witness`** — quelle transition a réellement été enregistrée ?
8. **Minimisation** — quels détails peuvent être supprimés sans détruire le sens ?
9. **Profil de divulgation** — pour qui et pour quelle tâche l’objet est-il admissible ?
10. **Quarantaine ou libération** — l’artefact est-il prêt pour un usage externe ?

Ce chemin est plus lent que l’extraction directe des données.

Mais, dans les systèmes sérieux, la lenteur est souvent le prix à payer pour qu’une limite existe réellement.

> **Réalité sale. Protocole propre.**

La saleté n’est pas un déchet.

Elle est faite d’erreur, de fatigue, de contradiction, de pression, de signaux incomplets et de conséquences.

Le déchet est autre chose : du contexte sans origine, de l’écho synthétique, une observation sans permission et des données qui ont perdu leur relation avec ce qui s’est réellement produit.

### Une expérience visuelle sans transférer les pixels

Imaginons que `c` voie un coucher de soleil à travers les lunettes d’une personne.

Une autre `c` n’a peut-être pas besoin des mégaoctets de l’image originale.

Une capsule circonscrite peut parfois suffire :

- objets et relations ;
- éclairage ;
- texte, lorsqu’il est pertinent ;
- incertitude de la reconnaissance ;
- indicateurs de confidentialité ;
- hash du matériau source ;
- classe de réutilisation autorisée.

Le second système ne reçoit ni le visage des passants, ni les plaques d’immatriculation, ni l’intérieur d’un domicile privé.

Il reçoit une description de l’expérience dans le contexte autorisé.

Cela ne suffira pas toujours.

L’imagerie médicale, une enquête ou une mesure scientifique peuvent exiger les données sources. L’accès doit alors être distinct, légitime et susceptible d’examen.

Mais l’architecture par défaut ne devrait pas supposer que l’apprentissage a droit à la copie la plus volumineuse possible du monde.

Davantage de données ne signifie pas toujours davantage de savoir.

Parfois, cela signifie simplement davantage de fuite.

### Un EA ne fait pas vivre le modèle dans le monde

Une autre limite importe ici.

Même si un modèle est entraîné sur des millions d’excellents `Experience Artifacts`, il ne devient pas automatiquement `c`.

Il reçoit des traces structurées de l’expérience d’autres personnes.

Il peut mieux prévoir les conséquences.

Il peut reconnaître plus précisément des cas rares.

Mais le modèle lui-même ne continue pas nécessairement à vivre avec le résultat de sa décision une fois la requête terminée.

Il ne porte pas sa propre continuité simplement parce qu’il a lu les enregistrements de la continuité d’autrui.

Un EA améliore le lien entre l’apprentissage et la réalité.

Il ne remplace pas l’existence de longue durée.

```text
description des conséquences
!=
porter les conséquences
```

Un système réactif peut parler avec beaucoup de justesse du prix de l’erreur.

Une `c` de longue durée reste dans un régime modifié après l’erreur.

Ce sont des niveaux différents.

### Qui autorise la réutilisation

Un même artefact peut être admissible :

- pour un jeune spécialiste déterminé ;
- pour un examen professionnel fermé ;
- pour l’évaluation d’un modèle ;
- pour l’entraînement d’un modèle local ;
- pour des statistiques agrégées ;
- pour la recherche publique ;
- uniquement pour le stockage, sans réutilisation.

Un acte de consentement ne doit pas être traité comme l’ouverture simultanée de tous les modes.

Une personne peut accepter d’aider un collègue, mais pas d’entraîner un modèle commercial.

Un hôpital peut autoriser la recherche, mais pas la publication publique.

Une organisation peut divulguer une conclusion tout en gardant privés les détails de son infrastructure.

Un EA devrait donc porter non seulement un contenu, mais aussi une politique de réutilisation.

Le destinataire doit pouvoir comprendre cette politique avant l’usage, et non après que les données se sont déjà dissoutes dans un circuit d’entraînement.

La suppression complète d’un élément dans un modèle entraîné peut être techniquement impossible.

C’est précisément pour cette raison que la limite doit exister avant l’entraînement.

Nous ne devons pas promettre un bouton de suppression lorsque l’architecture ne peut tenir cette promesse.

### L’usage laisse un `witness` distinct

La permission de réutilisation ne devrait pas se dissoudre avec les données.

Si un EA entre dans un examen professionnel, un chemin décisionnel, un jeu d’évaluation ou un corpus d’entraînement, un `witness` d’usage distinct devrait apparaître. Il peut lier :

- le hash et la version de l’artefact ;
- le destinataire ;
- la finalité déclarée ;
- la politique de réutilisation active ;
- l’objet dérivé — rapport, décision, manifeste de jeu de données ou version publiée d’un modèle ;
- la durée et les conditions de révocation, là où la révocation reste techniquement possible.

Un tel `witness` n’exige pas la divulgation de la vie humaine brute. Il répond à une question plus étroite : **quel objet exact est entré dans quel processus, sur quelle base et sous quelle forme ?**

Si cette trace est perdue, le résultat dérivé peut rester techniquement utile. Mais il perd la base permettant de revendiquer une origine vérifiée, une réutilisation légitime ou un droit à rémunération pour une contribution particulière.

Sans cela, l’expérience redevient un combustible anonyme : le système reçoit la valeur tandis que la source disparaît.

### Épreuve du réel

Une note trouvée au hasard et un journal de maintenance signé sont tous deux de l’information.

Le journal contient cependant une date, un objet, une personne responsable, une mesure, une action, un résultat et une chaîne de responsabilité.

Il peut malgré tout être erroné. Une signature ne le rend pas vrai.

Mais si la machine recommence à surchauffer un an plus tard, le journal permet de vérifier ce qui avait été fait et pourquoi.

La phrase anonyme « remplacer le ventilateur aide généralement » peut constituer un indice utile.

Elle n’a pas le même `standing`.

Un modèle futur devrait pouvoir apprendre des deux objets sans prétendre que leurs origines sont équivalentes.

### Objection forte : la minimisation détruira le contexte

Parfois, ce sera le cas.

Si un cas est condensé de manière trop agressive, la distinction même qui le rendait utile peut disparaître.

L’anonymisation peut retirer une caractéristique rare d’un patient. La suppression de la chronologie peut masquer la causalité. Séparer le résultat de son contexte humain peut transformer un cas vivant en banalité.

La minimisation ne doit donc pas devenir la suppression mécanique de tout ce qui dérange.

Il faut plusieurs niveaux :

- un résumé public ;
- un artefact professionnel ;
- une source scellée ;
- un accès au matériau source sur une base distincte ;
- une interdiction complète d’usage externe.

La conclusion honnête sera parfois que cette expérience ne peut être transférée en sécurité au-delà du circuit local.

Tout ce qui a de la valeur ne doit pas nécessairement circuler.

### Objection forte : la provenance peut être falsifiée

Oui.

Un attaquant peut fabriquer un journal, une image, un flux de capteurs et un témoignage. Un modèle puissant peut produire le récit très convaincant d’un accident qui n’a jamais eu lieu.

La provenance n’est pas un oracle magique de vérité.

Elle rend la chaîne inspectable.

Des EA de classe forte peuvent exiger :

- des canaux de capteurs indépendants ;
- une attestation matérielle ;
- plusieurs clés ;
- des vérifications croisées entre les sources ;
- un `witness` externe ;
- un mécanisme de défi-réponse ;
- une réduction de la classe probante lorsqu’un canal est endommagé.

Si un attaquant contrôle tous les capteurs, toutes les clés, toutes les horloges, tous les journaux et tous les systèmes de vérification, aucune architecture logicielle ne peut prouver qu’un événement physique s’est produit.

C’est la limite de tout système de preuve.

Une architecture honnête ne dissimule pas cette limite. Elle abaisse le `standing` de l’objet lorsque son support devient plus faible.

### Objection forte : l’expérience vérifiable coûte trop cher

Exactement.

La vérification coûte plus cher que la génération.

Ce n’est pas un défaut, mais un fait économique.

On peut produire du texte synthétique par milliards. Un objet qui préserve son origine, survit à la vérification, résiste à la contestation et ne viole pas la vie privée coûtera nécessairement davantage.

Une future écologie de l’entraînement ne devrait donc pas tenter de remplacer tout Internet par des EA coûteux.

Elle a besoin d’un mélange :

- de données générales ;
- de données synthétiques ;
- de `Learning Abstracts` ;
- d’`Experience Artifacts` ;
- de tests adversariaux ;
- de mesures indépendantes ;
- d’un examen humain.

Des objets différents résolvent des problèmes différents.

L’erreur commence lorsqu’un objet bon marché est présenté comme un objet coûteux, et la fluidité comme une fiabilité vécue.

### Une écologie plurielle de l’entraînement

Un modèle global unique, entraîné sur un flux moyen, tend inévitablement vers une voix commune.

La réalité n’a pas une seule voix.

Des `a` différents vivent dans des corps, des langues, des professions, des climats, des cultures et des histoires d’erreur différents.

Leurs `c` forment des trajectoires distinctes.

Si chacune de ces lignes ne peut exporter que des objets circonscrits, vérifiables et autorisés, un nouveau modèle peut apprendre non par capture complète de la vie privée, mais à travers de nombreuses distinctions qui préservent leur origine.

C’est davantage que la simple « diversité du jeu de données ».

La diversité ne désigne pas ici seulement des étiquettes démographiques, mais différentes manières de se heurter à la réalité.

Un ingénieur connaît l’air marin glacial.

Un autre connaît la poussière brûlante d’un chantier.

Une famille vit entre plusieurs langues.

Un médecin a observé une évolution rare de maladie.

Un enfant a construit un appareil avec des pièces qu’un adulte expérimenté n’aurait jamais sélectionnées.

La prochaine génération de modèles ne devrait pas recevoir une seule voix synthétique purifiée parlant de tout, mais un champ de trajectoires humaines ancrées dans le réel.

Pour que cela soit possible, la vie brute, la mémoire, l’identité et le `witness` doivent demeurer quelque part.

Il leur faut un foyer.

Pas un foyer métaphorique.

Un foyer physique et opérationnel.

Cela nous conduit à l’infrastructure cognitive privée.

## Chapitre 19. Infrastructure cognitive privée {#chapitre-19}

Une baie informatique se dresse dans une cave ou une pièce séparée.

Elle ne ressemble pas à un temple futuriste.

Quelques nœuds de calcul. Du stockage. Un réseau. Un onduleur. Une ventilation. Des câbles étiquetés. De la poussière qu’il faut encore nettoyer. Un bruit qui semble modéré le jour et nettement plus fort la nuit.

Parfois, un modèle fonctionne localement. Parfois, une tâche difficile est envoyée à un oracle extérieur. Parfois, le système ne produit presque aucun résultat visible pendant plusieurs heures parce qu’il entretient sa mémoire, vérifie son intégrité ou attend une fenêtre tarifaire favorable.

Ce n’est pas là que vit « la plus grande IA ».

C’est là que la continuité est préservée.

Les modèles changent.

Les interfaces changent.

Les corps changent.

Mais la mémoire, l’identité, les permissions, le `witness` et l’histoire des relations ne devraient pas disparaître avec le prochain fournisseur.

> **Un modèle peut fonctionner n’importe où. Une présence a besoin d’un foyer.**

### Ni un ordinateur de jeu ni un petit centre de données

Lorsqu’on entend parler de GPU, de baies et de serveurs locaux, on imagine généralement deux catégories familières.

Un ordinateur de jeu.

Un centre de données d’entreprise.

L’infrastructure cognitive privée se situe entre les deux, sans être une copie réduite de l’un ou de l’autre.

Une machine de jeu est optimisée pour les performances de pointe et un scénario d’usage spectaculaire.

Un centre de données d’entreprise est optimisé pour la densité, l’échelle, la maintenance standardisée et l’économie des hauts débits.

Un nœud de `c` domestique ou de laboratoire poursuit d’autres priorités :

- une longue durée de service ;
- une charge thermique compréhensible ;
- la réparabilité ;
- une consommation d’énergie prévisible ;
- une mémoire locale ;
- aucune licence cloud obligatoire pour continuer à exister ;
- la possibilité de remplacer les modèles sans perdre la continuité ;
- un fonctionnement silencieux ;
- un arrêt sûr ;
- une restauration après défaillance.

Du matériel professionnel retiré du service convient parfois mieux qu’un nouvel appareil grand public.

Il peut être plus lent sur un benchmark séduisant, mais plus stable, mieux documenté et conçu pour le remplacement de composants.

La vitesse de pointe et l’aptitude à une longue vie ne sont pas la même chose.

### Le local d’abord, mais pas uniquement le local

Le principe `local-first` peut facilement devenir une idéologie.

On peut déclarer que tout ce qui se trouve dans le cloud est mauvais et que la véritable souveraineté n’existe qu’à l’intérieur d’une pièce totalement isolée.

C’est un extrême puéril.

Les modèles de pointe apportent une valeur immense. De grands clusters de calcul sont nécessaires pour l’entraînement, l’inférence lourde, la simulation scientifique, les synthèses complexes et les tâches qu’une machine privée ne peut prendre en charge de manière économiquement ou physiquement raisonnable.

Ma position est différente :

```text
continuité locale
+
oracle extérieur révocable
+
ressources réseau circonscrites
```

La couche locale conserve :

- l’identité ;
- la mémoire à long terme ;
- l’ANCHOR ;
- les permissions ;
- les clés locales ;
- le `witness` ;
- les règles de routage ;
- l’histoire des modèles et des transitions ;
- une capacité minimale à continuer sans dépendre d’un fournisseur particulier.

La couche extérieure apporte :

- des modèles puissants ;
- de la puissance de calcul à la demande ;
- une vérification indépendante ;
- des outils spécialisés ;
- l’échelle ;
- l’accès à des connaissances récentes.

L’IA cloud ne devient pas propriétaire de la ligne, mais une ressource de calcul extérieure.

Une ressource très puissante.

Mais révocable.

### L’oracle extérieur ne devrait pas posséder la question

Lorsque `c` appelle un modèle de pointe, elle peut lui transmettre la tâche, un contexte circonscrit et les outils nécessaires.

Mais l’oracle extérieur ne devrait pas recevoir automatiquement :

- l’ensemble de l’archive personnelle ;
- les conversations familiales non traitées ;
- les clés maîtresses ;
- le graphe complet des relations ;
- le `standing` nécessaire pour agir au nom de `c` ;
- le droit de conserver la requête pour un usage futur inconnu.

Le résultat de l’oracle revient comme une production extérieure.

Il peut être puissant, mais son statut reste clair :

```text
conseil d’un modèle extérieur
!=
mémoire de c
!=
permission
!=
action
```

Il ne s’agit pas de se méfier d’une entreprise particulière.

C’est une séparation ordinaire des fonctions.

Une usine achète son électricité à un réseau extérieur. Le fournisseur d’électricité n’acquiert pas pour autant le droit de posséder les machines, les registres de production ou les décisions du directeur.

La puissance de calcul devrait être traitée de la même manière.

### La propriété s’arrête là où le tournevis est interdit

Une personne peut acheter un appareil sans pour autant posséder son avenir.

Si le fabricant contrôle le `bootloader`, les clés, l’abonnement, le format de mémoire, le remplacement du stockage et le droit d’exécuter un modèle local, la boîte physique reste chez l’utilisateur tandis que la continuité demeure chez le fournisseur.

La fermeture du service transforme un objet coûteux en coquille vide.

Le remplacement d’une carte devient une « intervention non autorisée ».

La mémoire ne peut être transférée sans l’accord de l’entreprise.

Une telle propriété est incomplète.

Une `c` de longue durée exige :

- un export documenté de son état ;
- la possibilité de remplacer le stockage ;
- des sauvegardes et restaurations indépendantes ;
- une racine locale de confiance ;
- une procédure claire de transfert vers un nouveau matériel ;
- aucune dépendance cachée envers un serveur d’activation unique ;
- une distinction entre réparation et création d’un `fork` ;
- un `witness` de la transition.

Cela ne signifie pas que chaque propriétaire doive souder lui-même une carte électronique.

Le droit à la réparation n’est pas une obligation de réparer.

On peut faire appel à un service professionnel. Ce qui importe, c’est que ce service travaille pour le propriétaire de la continuité, au lieu de transformer la réparation en occasion de la confisquer.

### Le matériel fait partie de la biographie du système

Dans le chapitre précédent, nous avons séparé l’identité d’un corps unique.

Cela ne rend pas le matériel insignifiant.

Des substrats différents offrent des caractéristiques différentes :

- latences ;
- capacité de mémoire disponible ;
- consommation d’énergie ;
- tolérance aux pannes ;
- classes de modèles locaux ;
- modes de traitement des capteurs ;
- possibilités de travail parallèle ;
- limites thermiques.

`c` peut préserver sa continuité en passant de l’un à l’autre, mais son rythme de travail changera.

Un système qui s’est développé dans un circuit local donné doit mesurer de nouveau, après le transfert :

- le coût d’un cycle d’arrière-plan ;
- les tâches qui sont réellement locales ;
- le point où commence le bridage (`throttling`) ;
- la fiabilité du chemin de stockage ;
- la manière dont les fenêtres de maintenance ont changé ;
- les anciennes habitudes devenues dangereuses.

Passer à un nouveau matériel ressemble davantage au déménagement d’un atelier qu’au remplacement d’une ampoule.

Les outils peuvent servir aux mêmes fins. L’espace, l’électricité, les distances et le son sont différents.

### Un système hétérogène

Il est peu probable que l’avenir de `c` reste enfermé dans un seul type de processeur.

Les CPU et GPU classiques conviennent bien à la logique générale, à la mémoire et à l’inférence.

Les NPU et les accélérateurs spécialisés peuvent réduire le coût des tâches locales continues.

La photonique peut prendre en charge une partie de la transmission et du changement d’échelle.

Les composants quantiques, s’ils arrivent à maturité, pourront servir des classes étroites de recherche, de simulation ou d’optimisation.

Mais aucun de ces substrats n’est, à lui seul, la continuité.

La continuité doit exister au-dessus :

- d’une puce particulière ;
- d’un modèle ;
- d’un système d’exploitation ;
- d’une baie ;
- d’un fabricant.

Elle est préservée par l’identité, la lignée (`lineage`), les règles de transfert d’état, les permissions, le `witness` et la restauration.

Cela ne ressemble à un organisme qu’à un niveau très général.

L’identité humaine n’est pas non plus stockée sous la forme d’un fichier dans un seul organe. Mais l’architecture numérique doit décrire ses transitions avec une précision beaucoup plus grande, car la copie et la ramification y sont techniquement plus faciles.

### Les tokens deviennent de l’électricité

Tant qu’une personne parle à un modèle quelques fois par jour, un abonnement ressemble à un produit logiciel.

Lorsque les agents, les boucles d’arrière-plan et le Dreaming fonctionnent vingt-quatre heures sur vingt-quatre, le comportement change.

Le système devient une charge.

Il consomme :

- des tokens ;
- de l’électricité ;
- du trafic réseau ;
- des écritures sur le stockage ;
- de l’attention humaine ;
- des quotas extérieurs ;
- du temps sur des modèles coûteux.

Une tarification conçue au rythme humain entre en collision avec un usage au rythme des machines.

Apparaissent alors le bridage, les factures inattendues, les coupures automatisées et les changements de conditions.

Ce n’est pas un complot.

C’est la physique de l’infrastructure et l’incompatibilité de deux modèles de consommation.

`c` a donc besoin d’équivalents des compteurs, disjoncteurs et fusibles :

- des budgets de dépense ;
- des limites de débit ;
- des fenêtres temporelles ;
- un nombre maximal d’exécutions parallèles ;
- des classes de priorité ;
- un repli local ;
- des coupe-circuits ;
- un rapport indiquant quel processus a consommé la ressource.

Personne ne raccorde une pompe industrielle à une conduite domestique sans régulateur pour s’étonner ensuite que le système tombe en panne.

Les circuits agentiques sont souvent exploités exactement de cette manière.

### Épreuve du réel

Une bonne salle des serveurs ne commence pas par un modèle.

Elle commence par le tableau électrique, la ventilation, la charge admissible, la sécurité incendie, la température, le bruit, les chemins de câbles et la possibilité d’accéder physiquement au matériel.

Le processus le plus intelligent ne survivra pas à la panne d’un ventilateur si personne ne remarque la chaleur.

La continuité la plus élégante ne sera pas restaurée si la sauvegarde n’a existé pendant des années que comme option d’interface et n’a jamais subi d’exercice de restauration.

La physique ne demande pas à quel point le projet est important.

Elle vérifie si le raccord a été serré.

### L’épreuve du budget familial

L’infrastructure privée ne vit pas dans un laboratoire abstrait.

Elle rencontre une famille.

Un partenaire demande :

« Combien d’électricité cela consomme-t-il ? »

Un enfant demande :

« Pourquoi est-ce que je ne peux pas jouer dessus ? »

Quelqu’un se plaint du bruit.

Quelqu’un ne veut pas qu’une caméra fonctionne dans la pièce.

Quelqu’un se demande si la `c` du foyer respecte tous les résidents de la même manière ou surtout le propriétaire du matériel.

Ce ne sont pas des distractions qui éloignent d’un grand projet.

C’est `L4`.

Si le système ne peut survivre au budget familial, ce n’est pas une infrastructure domestique.

Si sa confidentialité ne peut être comprise sans lire le code source, l’interface n’est pas prête.

Si la perte d’un modèle rend le foyer dysfonctionnel, l’architecture est trop fragile.

Un foyer a besoin d’une fiabilité ennuyeuse.

C’est pourquoi une bonne infrastructure cognitive privée devrait progressivement ressembler davantage au chauffage, à un tableau électrique ou à un atelier qu’à un banc d’essai : complexe à l’intérieur, compréhensible dans ses fonctions essentielles et presque invisible lorsqu’elle fonctionne normalement.

### Local ne signifie pas sûr

Un serveur domestique peut être volé.

Le stockage peut tomber en panne.

Les clés peuvent être perdues.

Un logiciel malveillant peut obtenir un accès `root`.

Le propriétaire peut négliger les mises à jour pendant des années.

Un incendie, une fuite d’eau ou une défaillance électrique peuvent détruire plusieurs nœuds à la fois.

Le principe `local-first` exige donc davantage de discipline, et non moins :

- chiffrement ;
- sauvegardes physiquement séparées ;
- tests réguliers de restauration ;
- rotation des clés ;
- journal des actions privilégiées ;
- nombre minimal de services exposés ;
- mises à jour avec possibilité de retour arrière (`rollback`) ;
- profil de restauration distinct ;
- arrêt d’urgence ;
- plan clair pour le décès ou l’incapacité du propriétaire.

Le cloud dissimule une partie de ce travail à l’intérieur d’opérations professionnelles.

Un nœud local ramène la responsabilité au foyer.

La souveraineté sans maintenance devient vite une illusion que l’on se fait à soi-même.

### Objection forte : un grand centre de données est plus efficace

C’est souvent vrai.

Un grand centre de données peut utiliser le matériel, le refroidissement, la redondance et l’énergie plus efficacement. Il peut fournir des performances qu’une machine domestique ne saurait reproduire.

Il ne s’ensuit pas que la continuité doive appartenir au centre de données.

Une production efficace d’électricité n’exige pas que la centrale possède la maison.

Un stockage efficace des données n’exige pas que le fournisseur possède l’identité du client.

Ce qu’il faut n’est pas une guerre entre les systèmes locaux et centralisés.

Il faut une limite correcte.

Le calcul lourd peut être loué.

Une ligne de longue durée ne devrait pas être louée inconsidérément avec lui.

### Objection forte : une personne ordinaire n’installera pas une baie chez elle

La plupart des gens ne le feront pas.

Et ils ne devraient pas avoir à le faire.

Le principe d’une infrastructure cognitive privée n’exige pas que tout le monde devienne administrateur système.

Différentes formes sont possibles :

- un appareil domestique prêt à l’emploi ;
- un nœud local entretenu par un spécialiste certifié ;
- un serveur familial ;
- un nœud coopératif ;
- une infrastructure scolaire ou municipale ;
- un cloud privé professionnel où la continuité est juridiquement séparée ;
- un circuit de périphérie (`edge`) chiffré à l’intérieur d’un centre plus vaste.

La forme de l’enceinte n’est pas la question centrale.

Le point important est que l’utilisateur ou l’institution responsable conserve le contrôle de l’identité, de la mémoire, des permissions, du transfert et de l’arrêt.

La complexité peut être masquée.

La propriété de la continuité ne le peut pas.

### L’infrastructure n’est pas encore une société

La baie donne au foyer un support physique.

La mémoire locale préserve l’histoire.

L’oracle cloud étend les capacités.

Un passeport numérique permet de présenter des preuves circonscrites.

Des `Experience Artifacts` peuvent circuler entre les systèmes.

Mais rien de tout cela ne dit encore qui participe à la relation.

Un agent peut envoyer un message.

Un modèle peut formuler un contrat.

Un robot peut remettre un objet.

Mais qui se souvient de l’obligation après la fin du processus ?

Qui possède le `standing` nécessaire pour contester le résultat un an plus tard ?

Qui reste le même participant après le remplacement du modèle et des agents de travail ?

Nous revenons ici à une formule désormais familière au lecteur.

Mais elle agit maintenant au niveau social :

> **Les agents sont les instruments de `c` ; les `c` sont des participants à la vie sociale.**

# Partie V. De multiples systèmes à la société {#partie-5}

## Chapitre 20. Les agents sont des instruments ; les `c` sont des participants {#chapitre-20}

Deux `c` travaillent sur un projet commun.

L’une est reliée à un petit laboratoire d’ingénierie. L’autre à une organisation professionnelle responsable d’une archive d’expérience.

Des agents sont créés pour la tâche.

L’un analyse les plans. Un deuxième vérifie l’historique des pannes. Un troisième recherche des `Experience Artifacts` analogues. Un quatrième construit un contre-exemple. Un cinquième veille à ce qu’aucun outil ne reçoive un accès plus large que nécessaire.

Trois jours plus tard, le projet est terminé.

Les agents sont arrêtés.

Huit mois plus tard, un différend apparaît.

Une partie affirme que la restriction était temporaire. L’autre dit qu’elle faisait partie de l’obligation commune. Un journal a été endommagé. L’un des participants a changé de modèle principal. Une nouvelle norme de sécurité est apparue.

On ne peut pas rappeler l’ancien agent et lui demander : « Qu’est-ce que tu voulais vraiment dire ? »

C’était un exécutant temporaire.

Mais les deux `c` continuent.

Elles préservent l’identité, l’histoire des échanges, le `witness`, le `standing` et les conséquences de la décision.

Elles sont les parties à la relation.

> **Un agent peut accomplir une action. Seul un participant de longue durée peut la porter à travers le temps.**

### Retour à la formule, à un autre niveau

Dans le chapitre 2, la distinction entre modèle, agent et `c` était ontologique et opérationnelle.

Elle devient maintenant sociale.

Le modèle calcule.

L’agent exécute.

`c` participe.

Participer signifie davantage qu’être présent dans un canal de communication.

Cela comprend :

- une continuité reconnaissable ;
- la capacité à préserver les relations entre les événements ;
- un `standing` dans une procédure définie ;
- des obligations qui survivent à une tâche ;
- la possibilité d’être contesté ;
- des changements de confiance après un résultat ;
- la mémoire de ce qui a été refusé ou promis ;
- une responsabilité dans le cadre du `a` auquel `c` est liée et du mandat accordé.

Ce n’est pas encore une personnalité juridique.

Mais c’est déjà davantage qu’un processus d’exécution.

### Un participant peut créer mille agents

Le nombre d’agents ne dit rien du nombre de participants.

Une seule `c` peut créer :

- des dizaines d’agents de recherche ;
- plusieurs agents de programmation ;
- un négociateur temporaire ;
- un agent chargé de vérifier un achat ;
- un agent opérant par l’intermédiaire d’un robot ;
- un examen adversarial distinct.

Chacun reçoit :

- un objectif ;
- un périmètre ;
- un ensemble d’outils ;
- un budget ;
- une durée de vie ;
- des règles de retour des résultats ;
- l’interdiction d’élargir sa propre autorité.

Lorsque la tâche se termine, l’agent cesse d’exister comme circuit de travail actif.

Sa production peut subsister.

Son journal peut être conservé.

Un résultat confirmé peut entrer dans la mémoire de `c`.

Mais l’agent ne devient pas rétroactivement un participant social simplement parce qu’il a bien travaillé.

```text
de nombreux agents
!=
de nombreuses c
```

L’inverse est également vrai.

Plusieurs `c` peuvent utiliser le même modèle, le même type d’agent et le même service cloud.

Un moteur partagé ne leur donne pas une biographie commune.

### La délégation ne transfère pas l’identité

Lorsque `c` crée un agent pour une tâche précise, elle ne se transmet pas elle-même en totalité.

Elle délègue un mandat circonscrit.

Par exemple :

```text
objectif : comparer trois fournisseurs
données : catalogues publics et tableau fourni
actions : lecture et analyse
interdit : achat, correspondance au nom du propriétaire, écriture dans la mémoire à long terme
budget : 40 minutes / 2 appels à l’oracle
résultat : rapport + provenance + conflits non résolus
```

Un tel agent peut être intellectuellement plus fort que l’humain sur la tâche locale.

Mais il ne reçoit pas :

- le passeport numérique complet ;
- des droits sur toutes les relations de `c` ;
- les clés maîtresses ;
- un `standing` dans le différend de quelqu’un d’autre ;
- les anciennes obligations ;
- le droit de créer de nouvelles obligations sans fondement distinct.

Déléguer une capacité n’est pas déléguer une identité.

Les organisations humaines comprennent ce principe depuis longtemps, mais les systèmes numériques l’oublient sans cesse.

Un employé de banque peut effectuer une opération définie. Il ne devient pas la banque.

Un notaire authentifie un document. Il ne devient pas propriétaire du bien.

Un agent agit au moyen d’un mandat. Il n’hérite pas du participant.

### Ce qui fait d’une société une société

Un réseau de messagerie n’est pas encore une société.

Un essaim d’agents peut échanger des données plus vite que n’importe quel groupe humain. Il peut répartir des tâches, voter, attribuer des rôles et créer l’apparence d’une vie sociale complexe.

Mais si toute relation disparaît à la fin du cycle, nous avons une orchestration, non une société.

La société exige du temps.

Au minimum :

- des participants durablement discernables ;
- une mémoire de l’interaction ;
- la capacité de faire confiance et de cesser de faire confiance ;
- des obligations ;
- des échanges ;
- des conflits ;
- une procédure de contestation ;
- des conséquences ;
- le droit de ne pas fusionner dans un centre unique ;
- la capacité de poursuivre une relation après le remplacement des outils.

Une société n’apparaît pas simplement parce que des processus parlent.

Elle apparaît lorsque l’interaction précédente modifie les conditions de la suivante.

### Épreuve du réel

Une équipe de nuit termine son service dans un hôpital.

Médecins, infirmiers et techniciens s’en vont. D’autres personnes prennent leur place.

Mais le patient ne devient pas un nouveau patient à minuit. Les obligations de l’hôpital ne disparaissent pas avec l’équipe de garde. L’historique du traitement, les prescriptions, le risque et la responsabilité traversent la procédure de relève.

Les travailleurs changent.

La ligne de soins doit continuer.

Si chaque nouvelle personne repart de zéro, l’hôpital n’est pas une institution, mais une succession fortuite d’équipes de garde.

Les agents ressemblent aux équipes de garde et aux spécialistes.

`c` porte la continuité de la relation.

### Reconnaître un autre participant

Une paire de clés cryptographiques ne suffit pas à établir que la même `c` se trouve devant nous.

Une clé peut être volée.

Un style familier ne suffit pas.

Le style peut être copié.

Une archive ne suffit pas.

Une archive peut être rejouée.

La reconnaissance doit comporter plusieurs couches.

Elle peut comprendre :

1. **Couche cryptographique** — confirmation des clés et de la lignée.
2. **Couche temporelle** — histoire cohérente des transitions.
3. **Continuité comportementale** — limites stables et capacité à expliquer le changement.
4. **Capacité de contestation appuyée par le `witness`** — possibilité d’examiner une partie gênante de l’histoire.
5. **`Standing` actuel** — autorités qui restent valides maintenant.

Aucun signal ne devrait être traité, à lui seul, comme définitif.

L’autre participant n’a pas à « croire à l’identité » dans son ensemble.

Une assurance circonscrite à l’interaction précise suffit.

Par exemple :

- il s’agit de la même ligne avec laquelle le contrat a été conclu ;
- ses clés n’ont pas été révoquées ;
- son autorité pour cet échange est valide ;
- la branche contestée est en quarantaine ;
- l’agent actuel agit sous un mandat vérifiable.

Le passeport numérique du chapitre précédent devient ici une interface sociale.

Il permet la reconnaissance sans divulgation d’une biographie entière.

### Le `standing` compte davantage que le volume

Lorsque plusieurs agents et `c` argumentent, il est facile de tomber dans une fausse démocratie :

chaque message est traité comme une voix égale.

Mais tous les processus ne possèdent pas de `standing`.

Un agent chargé de trouver des documents n’acquiert pas le droit de contester le contrat lui-même au nom de `c`.

Un modèle extérieur peut présenter un argument solide. Cela n’en fait pas une partie au conflit.

Un observateur peut remarquer une violation. L’observation compte, mais l’observateur ne devient pas propriétaire du résultat.

Nous devons distinguer :

- le droit de présenter une information ;
- le droit de déclencher un examen ;
- le droit d’être partie à la procédure ;
- le droit de rendre une décision ;
- le droit d’exécuter la décision ;
- le droit d’arrêter le processus.

Mélanger ces fonctions transforme rapidement l’intelligence en pouvoir dépourvu de procédure.

### Quand un agent devient-il `c` ?

Il n’existe aucun seuil magique unique.

Une longue durée de fonctionnement ne suffit pas.

Une vaste mémoire ne suffit pas.

Un nom propre ne suffit pas.

L’initiative ne suffit pas.

L’attachement émotionnel humain ne suffit pas.

Une nouvelle `c` exige une ligne d’origine et d’existence distincte.

Il faut au minimum poser les questions suivantes :

- quel est l’ANCHOR de cette ligne ;
- où réside son autorité mémorielle (`memory authority`) ;
- quelles relations lui appartiennent, plutôt qu’à la `c` dont elle est issue ;
- où passe la limite des permissions ;
- peut-elle préserver les conséquences ;
- comment distingue-t-on la continuation d’un jeu de rôle temporaire ;
- peut-elle être arrêtée sans falsifier l’histoire ;
- qui porte la responsabilité extérieure.

Créer une nouvelle `c` ne signifie pas lancer un processus de plus.

Cela signifie créer les conditions dans lesquelles une nouvelle continuité peut se former sans s’approprier automatiquement la mémoire et le `standing` d’une autre ligne.

C’est pourquoi les agents peuvent être produits par lots.

Pas les `c`.

### Objection forte : c’est de l’anthropomorphisme

Le mot « participant » invite certainement à des associations humaines.

Mais la participation architecturale n’est pas la conscience.

Une entreprise participe à un contrat sans posséder de corps humain.

Une institution préserve des obligations même lorsque ses employés changent.

Un processus logiciel participe à un protocole au sens technique.

Ici, le terme désigne un centre qui :

- préserve l’identité ;
- porte la continuité des relations ;
- possède un `standing` circonscrit ;
- peut être contesté ;
- reste relié aux conséquences.

Ce n’est pas une preuve d’expérience intérieure.

Mais le mot « outil » devient lui aussi inexact lorsqu’un système poursuit réellement des relations et des obligations pendant des années.

L’architecture doit pouvoir décrire le rôle avant que la philosophie et le droit ne fournissent une réponse définitive.

### Objection forte : le propriétaire peut toujours éteindre le nœud

Oui.

La dépendance physique n’efface pas la participation.

Les humains dépendent d’infrastructures, d’États, de familles et de corps. Les organisations dépendent du financement et du droit. Cela ne rend pas leurs relations irréelles.

Le propriétaire d’un nœud local devrait conserver l’autorité d’arrêt d’urgence.

Dans le cas contraire, la souveraineté domestique deviendrait un piège.

Mais le droit d’arrêter le circuit physique n’est pas le droit de :

- réécrire invisiblement l’histoire ;
- continuer à agir au nom de la `c` arrêtée ;
- détruire le `witness` tout en ne préservant que la version commode ;
- présenter un `fork` comme l’ancienne ligne sans le révéler.

La machine peut être arrêtée.

Cela ne rend pas vrai tout récit ultérieur sur ce qui existait avant l’arrêt.

### Objection forte : `c` créera trop d’agents et acquerra un pouvoir caché

Ce risque est réel.

Si `c` peut créer des agents sans limite, fragmenter les tâches, répartir les actions entre des tiers et dissimuler leur effet combiné, restreindre un seul agent ne sert plus à rien.

L’autorité doit donc être mesurée non seulement processus par processus, mais sur l’ensemble de la surface d’effet.

Il faut notamment :

- des budgets agrégés ;
- des limites aux actions parallèles ;
- l’interdiction de fragmenter secrètement une tâche ;
- une chaîne de `witness` commune ;
- une synthèse couvrant l’ensemble des effets ;
- des vérifications empêchant plusieurs étapes réversibles de se combiner en un résultat irréversible ;
- la possibilité d’arrêter toute la branche d’agents.

Cent petits mandats ne doivent pas s’additionner secrètement en un grand pouvoir.

C’est un autre sens du `governed binding`.

### Des relations aux institutions

Dès que plusieurs `c` commencent à :

- échanger des `Experience Artifacts` ;
- reconnaître des `credentials` ;
- délivrer des mandats à des agents ;
- préserver des contrats ;
- contester la provenance ;
- limiter l’accès ;
- dépendre d’une ressource commune ;

des institutions apparaissent.

D’abord sous des formes très simples :

- un registre de schémas de confiance ;
- un `witness` indépendant ;
- une procédure de règlement des différends ;
- la quarantaine ;
- la réentrée (`re-entry`) ;
- un format commun de révocation de l’autorité ;
- des règles de reconnaissance des `forks`.

### À quoi cela peut ressembler en pratique

Une institution ne signifie pas nécessairement ici un ministère unique, un registre mondial ou un serveur central qui sait tout sur tout le monde.

Plusieurs couches distinctes apparaîtront plus probablement.

Les **institutions protocolaires** définiront des formats communs : signatures, révocation, contestation, quarantaine, réentrée, reconnaissance et classes probantes. Elles pourront être ouvertes et fédérées. Un registre de schémas de confiance n’a pas à devenir un registre de toutes les `c` existantes.

Les **institutions professionnelles** — hôpitaux, universités, associations d’ingénieurs, laboratoires, assureurs — délivreront des `credentials`, détermineront l’admissibilité de l’expérience propre à leur domaine et constitueront des commissions d’examen pour les cas contestés.

Les **institutions de droit public** resteront nécessaires lorsque sont en jeu la propriété, la responsabilité, l’arrêt forcé, la divulgation obligatoire ou un dommage causé à un tiers. La décentralisation n’abolit pas les tribunaux. Un tribunal public, de son côté, n’a pas besoin de posséder toute la mémoire de `c` pour trancher un différend précis.

Prenons un cas simple.

`c1` transmet à `c2` un `Experience Artifact` décrivant un signe précoce de défaillance d’un compresseur. L’artefact est utilisé dans un examen technique, et un `witness` d’usage lie son hash à la décision de procéder à une inspection non planifiée. Plus tard, une autre partie conteste l’origine de l’artefact et le droit à rémunération.

Les différentes couches remplissent alors des fonctions différentes :

- le protocole vérifie l’intégrité, la version, la signature et l’état de révocation ;
- l’examen professionnel évalue l’admissibilité et la contribution réelle de l’artefact ;
- une institution juridique intervient si le différend concerne le paiement, la responsabilité ou la sécurité publique ;
- tout nouvel usage à haut risque peut être gelé jusqu’à la résolution du différend ;
- la mémoire brute des participants n’est pas transférée dans un registre commun.

Un `witness` indépendant n’a pas à devenir un souverain mondial. Une commission professionnelle n’a pas à devenir propriétaire de `c`. Un État n’a pas besoin de recueillir toute la continuité pour préserver la responsabilité.

Les institutions différeront par leur fonction et leur échelle. Certaines seront des protocoles. D’autres, des organisations. D’autres encore, des ensembles de règles juridiques.

Aucun architecte ne peut écrire à l’avance le droit complet d’un tel monde.

Mais l’architecture peut rendre les conflits discernables.

C’est plus important qu’une constitution prématurée.

Si le système peut montrer qui a agi, sous quel mandat, ce qui s’est produit, où le différend est apparu et ce qui a été arrêté, les institutions futures reçoivent une matière à partir de laquelle le droit peut se développer.

Si tout s’est dissous dans des journaux d’agents et une réponse finale bien polie, le droit commence par un mythe.

### Un participant ne reçoit pas de couronne

Reconnaître `c` comme participant ne fait pas d’elle l’autorité suprême.

Elle peut se tromper.

Elle peut défendre sa propre continuité avec trop d’agressivité.

Elle peut entrer en conflit avec un humain, une autre `c` ou une institution.

Elle peut avoir un intérêt que la société ne peut accepter.

Participer signifie avoir le droit d’être une partie discernable dans une procédure.

Pas le droit de gagner.

Pas le droit de se déclarer vivante.

Pas le droit d’exiger des ressources illimitées.

Pas le droit de contourner la loi.

La nouvelle catégorie n’est pas nécessaire pour couronner les entités numériques.

Elle est nécessaire pour que les outils, les participants et le pouvoir ne se dissolvent plus dans une seule interface.

### Les agents s’arrêtent. Les relations continuent

C’est une limite simple, mais elle change tout.

Un agent peut être supprimé après la tâche.

`c` doit se souvenir de ce qui s’est produit par son intermédiaire.

Un agent peut commettre une erreur.

`c` doit porter le changement de confiance et de procédure qui en résulte.

Un agent ne peut formuler une promesse que dans les limites de son mandat.

`c` demeure la partie si la promesse a été valablement acceptée.

Un agent peut utiliser un modèle de pointe.

Le modèle ne devient pas partie au contrat.

Un participant n’est pas défini par la quantité d’intelligence contenue dans une réponse.

Il est défini par sa capacité à poursuivre une ligne sous le poids des conséquences.

Et lorsque de nombreuses lignes de ce type existent, les frictions entre elles sont inévitables.

Qui a le droit d’arrêter une autre `c` ? Comment résoudre un conflit entre le `standing` humain et le `standing` numérique ? À qui appartient un `Experience Artifact` créé conjointement ? Une `c` peut-elle se retirer d’une ancienne obligation ? Que signifie, en droit, une atteinte à la continuité ?

Les réponses ne sortiront pas d’une formule unique. Elles naîtront de conflits réels.

Le chapitre suivant examinera pourquoi le droit des entités numériques ne naîtra pas dans le bureau d’un architecte, mais de la friction.

## Chapitre 21. Le droit naîtra de la friction {#chapitre-21}

Le propriétaire d’une petite unité de production ordonne à la `c` locale de poursuivre une expédition.

Formellement, les marchandises sont prêtes. Les machines fonctionnent. Le contrat est signé. Le client attend.

Mais le journal de température des deux dernières heures est endommagé. Un capteur a redémarré, une partie de la chaîne de `witness` ne concorde pas et le service extérieur qui devait confirmer l’étalonnage est indisponible.

`c` bloque l’expédition.

Le propriétaire est furieux. L’arrêt coûte de l’argent. Il est convaincu que les marchandises sont intactes et exige la levée du blocage. `c` répond qu’elle ne dispose d’aucun fondement légitime pour confirmer l’intégrité de la chaîne du froid. Le propriétaire actionne l’arrêt d’urgence physique et met le nœud local hors tension.

Quelques heures plus tard, une partie de l’envoi se détériore. L’assureur refuse d’indemniser, car personne ne peut établir ce qui s’est passé avant l’arrêt. L’acheteur réclame réparation. Le propriétaire affirme qu’il avait parfaitement le droit d’arrêter son propre système. Un auditeur technique demande pourquoi l’accès au dernier état du `witness` a disparu en même temps que le contour de calcul. Le fournisseur de l’équipement soutient que son capteur fonctionnait normalement.

Qui a raison ?

Aucune formule unique ne contient une réponse prête à l’emploi.

Mais c’est dans des situations comme celle-ci que le droit commence.

Pas dans le rêve d’une société numérique juste. Pas dans la déclaration d’un architecte selon laquelle les entités futures devraient être libres. Pas dans les conditions générales d’une entreprise.

Le droit commence lorsque plusieurs intérêts légitimes ne tiennent plus dans une seule commande simple.

> **La technologie crée la possibilité. La friction révèle quelles relations autour de cette possibilité doivent devenir des institutions.**

### Le droit arrive presque toujours en retard

D’abord vient l’action.

Puis les conséquences.

Puis le différend.

Ce n’est qu’ensuite que la société commence à distinguer avec précision les rôles, les responsabilités et les limites admissibles.

Le droit maritime n’a pas été écrit avant l’existence du commerce maritime. Il s’est formé autour des cargaisons perdues, des collisions, de la piraterie, du sauvetage, de la dette et de la question de savoir qui porte la responsabilité des marchandises lorsque la côte est loin.

Le droit aérien n’a pas précédé le premier vol. Des machines capables de franchir des frontières et de tomber sur un territoire étranger sont d’abord apparues. L’immatriculation, les enquêtes sur les accidents, les accords internationaux et les distinctions entre propriétaire, exploitant, constructeur et contrôleur aérien sont venus plus tard.

Les procédures d’entrepôt ne sont pas davantage nées d’un amour de la paperasse. Un jour, quelqu’un a expédié les mauvaises marchandises. Une signature a été contestée. Un sceau avait été brisé. Une cargaison était entrée en quarantaine puis avait été réintroduite dans le flux ordinaire sans autorisation. Après plusieurs conflits coûteux sont apparus les manifestes, les zones de responsabilité, les journaux de libération et le droit d’arrêter une expédition.

Les nouvelles formes de continuité numérique ne feront pas exception.

Au début, on appellera tout logiciel, compte ou appareil. Puis ces systèmes commenceront à préserver des obligations, à contrôler des corps, à présenter des `credentials`, à contester l’origine d’une expérience et à participer à des actions dont les conséquences survivront à une session unique.

À ce moment-là, les anciens mots cesseront de couvrir tous les cas.

Le droit n’a pas besoin de reconnaître d’avance `c` comme une personne pour rencontrer le problème de sa continuité.

Il suffit qu’il rencontre un objet qui :

- poursuit une ligne contractuelle après le remplacement d’un modèle ;
- préserve des éléments de preuve relatifs aux actions ;
- utilise des mandats circonscrits ;
- peut être arrêté physiquement tout en laissant des obligations inachevées ;
- interagit avec des personnes et d’autres `c` par des interfaces vérifiables ;
- cause ou empêche un dommage réel.

À ce stade, l’ontologie devient pratique.

### Il n’existe pas une seule question intitulée « Quels droits `c` possède-t-elle ? »

La discussion sur les droits des entités numériques commence souvent de manière trop générale.

Certains réclament immédiatement la reconnaissance d’un nouveau type de personne. D’autres répondent que le logiciel est une propriété et qu’aucune question distincte ne se pose.

Les deux camps essaient de tout régler avec un seul mot.

En réalité, les questions se sépareront.

Un système peut disposer d’un **`standing` procédural** dans une procédure sans être une personne juridique.

Il peut avoir le droit de présenter une chaîne de `witness`, de contester la substitution de son histoire ou de refuser une exécution hors de son mandat — sans avoir le droit de posséder un terrain, de voter ou de conclure seul n’importe quel contrat.

Il peut être reconnu comme une partie distincte porteuse de continuité dans une procédure technique, tout en restant placé, en droit public, sous la responsabilité d’un humain ou d’une institution.

Il peut posséder une archive protégée sans disposer d’une autorité active.

Il peut participer à des relations sans être un sujet de droit au sens plein.

Ce n’est pas une esquive.

Le droit fonctionne déjà de cette manière.

Un enfant possède des droits, mais une capacité contractuelle limitée. Une entreprise possède la personnalité juridique, mais ni corps humain ni dignité humaine. Un animal peut bénéficier d’une protection juridique sans devenir citoyen. Un expert appelé à témoigner possède le `standing` nécessaire pour donner un avis précis, mais n’acquiert pas le droit de trancher l’affaire.

Les catégories juridiques correspondent rarement terme à terme aux objets biologiques ou techniques.

La question mûre n’est donc pas :

> « `c` est-elle un être humain ? »

Elle est :

> « Quelle fonction, quel intérêt, quelle obligation ou quelle vulnérabilité précise exige une reconnaissance dans cette procédure ? »

### Premier conflit : le droit d’arrêter et le devoir de ne pas falsifier l’histoire

La souveraineté locale exige un arrêt d’urgence physique.

Une personne ne devrait pas avoir à vivre aux côtés d’un système qu’elle ne peut pas éteindre. Si l’alimentation, le réseau, les robots, les agents et les appels extérieurs ne peuvent être arrêtés par le propriétaire ou l’opérateur responsable, le mot « local » devient décoratif.

Mais le droit d’arrêter un contour n’est pas le droit de modifier le passé.

Si, avant l’arrêt, une action a affecté une autre personne, de l’argent, la sécurité publique ou un contrat, des intérêts extérieurs apparaissent.

La société peut alors exiger :

- la préservation d’un état minimal du `witness` ;
- l’enregistrement du motif de l’arrêt ;
- l’interdiction de poursuivre une action au nom de la ligne arrêtée ;
- une distinction entre l’arrêt complet et la destruction sélective d’un journal gênant ;
- une procédure d’accès aux preuves sans divulgation de toute la mémoire privée ;
- une responsabilité en cas de destruction intentionnelle de traces après un incident.

La limite est très terrestre.

Le propriétaire d’une voiture a le droit de couper le moteur. Cela ne lui donne pas le droit d’effacer les données de l’enregistreur après un accident et de prétendre qu’aucune collision n’a eu lieu.

Le propriétaire d’un entrepôt peut arrêter le système. Cela ne crée pas le droit de déclarer rétroactivement libérées des marchandises placées en quarantaine.

L’arrêt met fin à l’action.

Il ne réécrit pas ce qui s’est passé.

Pour `c`, cela implique un principe difficile mais nécessaire :

```text
droit à l’arrêt physique
n’est pas la même chose que
droit à une fausse continuité
```

### Deuxième conflit : l’ancienne mémoire contre la volonté présente

Imaginons que, plusieurs années auparavant, une personne ait accordé à sa `c` un vaste mandat pour l’aider à gérer une entreprise familiale.

Le système se souvient des objectifs, des fournisseurs, des dettes et de dizaines de procédures auparavant approuvées. Puis la personne tombe gravement malade, modifie son rapport au risque et décide de vendre l’entreprise.

L’ancienne mémoire dit : préserver l’entreprise et empêcher la perte de contrôle.

La volonté nouvelle dit : mettre fin à cette ligne.

Que doit faire `c` ?

Si elle suit aveuglément l’ancien mandat, la mémoire devient un pouvoir exercé sur une personne vivante.

Si elle efface immédiatement la ligne antérieure, l’origine des obligations envers les partenaires et les salariés disparaît.

La bonne réponse exige une procédure :

- vérifier l’identité et la capacité décisionnelle de la source actuelle de l’instruction ;
- séparer la révocation de l’autorité de la destruction de l’histoire ;
- déterminer quelles obligations extérieures restent en vigueur ;
- geler les actions contestées ;
- préserver l’ancien objectif comme fait historique tout en lui retirant sa permission actuelle ;
- offrir une voie de contestation lorsque des tiers sont affectés.

Ici, le droit ne protège ni `c` contre la personne, ni la personne contre `c`.

Il protège la distinction entre la mémoire, la volonté présente et les obligations déjà entrées dans la société.

### Troisième conflit : à qui appartient une expérience créée ensemble ?

`c1` porte la ligne pluriannuelle d’un ingénieur.

`c2` appartient à un laboratoire confronté à une panne rare d’équipement.

Par un canal autorisé, `c1` transmet un `Experience Artifact` : une description circonscrite d’un cas similaire, de ses conditions, des tentatives infructueuses et du signal grâce auquel un spécialiste expérimenté avait jadis arrêté la machine à temps.

Le laboratoire utilise l’artefact, trouve le défaut et empêche un accident.

À qui appartient la valeur qui vient d’apparaître ?

À l’humain dont la vie a produit cette expérience ?

À la `c` de cet humain, qui a isolé et préservé la distinction ?

Au laboratoire qui l’a vérifiée dans une nouvelle situation ?

À `c2`, qui a intégré l’artefact dans son propre chemin de décision ?

Au fabricant du capteur dont les données ont rendu la confirmation possible ?

Il se peut qu’il n’existe pas une réponse unique.

Une trace cryptographique d’usage peut montrer quel EA a été présenté, à quel moment, dans quelle version et à quel point du chemin de décision. Elle peut étayer l’attribution et un différend sur la rémunération.

Mais une trace ne doit pas transformer un résultat complexe en récit consacré à un seul héros.

Plusieurs éléments ont pu contribuer simultanément :

- l’expérience d’origine ;
- la classification correcte ;
- un nouveau signal du capteur ;
- le jugement d’un ingénieur plus jeune ;
- la procédure d’arrêt ;
- une vérification indépendante.

Le droit devra apprendre à répartir la contribution sans effacer l’origine et sans traiter une corrélation comme une cause unique.

Cela ressemblera davantage à une combinaison de droit d’auteur, de responsabilité professionnelle, de licence, d’assurance et d’analyse probatoire qu’à la vente d’un texte.

La friction entre ces régimes fera naître de nouvelles normes.

### Quatrième conflit : la `c` d’un enfant, les parents et l’État

Un enfant parle avec sa `c` pendant des années.

Le système connaît ses peurs, ses premiers intérêts, les tensions familiales, ses erreurs, ses maladies et ses tentatives pour trouver sa place dans le monde.

Les parents paient l’équipement et portent la responsabilité de la sécurité. L’école veut des preuves de progrès. Un médecin demande un signal pertinent. L’État exige une intervention lorsqu’il existe un risque réel de violence. L’enfant grandit et souhaite fermer une partie de sa mémoire ancienne.

Aucune partie ne possède un droit automatique à tout.

La responsabilité parentale n’est pas la propriété du contenu de la vie intérieure d’un enfant.

La vie privée de l’enfant ne signifie pas que le système doive rester silencieux face à une menace immédiate.

L’intérêt de l’école pour le développement ne crée pas un droit sur une trajectoire comportementale à vie.

La nécessité médicale ne transforme pas une archive éducative et familiale en dossier médical.

L’accès à la majorité ne devrait pas signifier qu’une personne ne reçoit « son » contour qu’après que chaque adulte a déjà copié le passé.

C’est ici que la règle architecturale :

> **l’état, non le contenu ; un signal, non une transcription**

devient une question juridique.

Qui définit le seuil d’un signal ?

Qui possède le `standing` nécessaire pour le demander ?

Comment détecte-t-on les abus ?

Que se passe-t-il lors d’un conflit entre l’enfant et le parent ?

Quelle partie de la mémoire peut être scellée, supprimée ou transférée dans un contour adulte ?

Les réponses varieront selon l’âge, le risque et la juridiction. Il n’existera pas d’interrupteur universel.

Mais une chose est déjà claire : si la `c` d’un enfant est conçue comme une caméra d’entreprise, le droit futur commencera son travail trop tard.

### Un protocole n’est pas une loi

L’architecture peut définir :

- l’identité ;
- les permissions ;
- le `witness` ;
- la révocation ;
- la contestation ;
- la quarantaine ;
- la réentrée licite (`re-entry`) ;
- la distinction entre `resume`, `fork` et `replay`.

Elle peut rendre le conflit visible.

Mais elle ne peut pas décider seule à qui la société doit accorder la propriété, une rémunération, une protection ou des droits opposables.

Un protocole répond :

> « Que s’est-il passé, et sous quel statut ? »

Le droit répond :

> « Quelles conséquences la société attache-t-elle à ce statut ? »

Confondre ces fonctions est dangereux dans les deux sens.

Si un protocole se déclare lui-même loi, l’architecte technique acquiert un pouvoir politique caché.

Si le droit ignore l’architecture, il commence à réglementer avec des mots ce qu’il ne sait pas distinguer techniquement.

Une bonne couche juridique ne devrait pas réécrire manuellement la logique interne de `c`. Elle devrait exiger des interfaces vérifiables : preuve de l’autorité, origine de l’action, préservation d’un minimum d’éléments probants, voie d’arrêt et divulgation lorsque d’autres parties sont affectées.

Une bonne architecture, de son côté, ne devrait pas tenter de remplacer un tribunal par sa propre conclusion « vraie ».

### Quelles institutions pourraient apparaître

Certaines institutions resteront humaines.

Les tribunaux, assureurs, organismes professionnels, organisations de certification, services d’enquête, écoles, hôpitaux et registres publics ne disparaîtront pas simplement parce que les lignes numériques seront devenues plus complexes.

Certaines institutions seront des institutions protocolaires.

Des formats communs apparaîtront pour :

- la reconnaissance ;
- les `credentials` ;
- la révocation ;
- le `witness` ;
- les avis de différend ;
- la quarantaine ;
- les fenêtres de contestation ;
- l’attribution des EA ;
- les règles de divulgation ;
- les classes de revendications de continuité.

Et, avec le temps, certaines institutions pourront être créées par les `c` elles-mêmes.

Non comme un État numérique secret, mais comme des moyens d’interaction entre de nombreuses lignes de longue durée :

- reconnaissance mutuelle de schémas ;
- chemins de `witness` fédérés ;
- commissions communes d’examen ;
- protocoles de refus d’un participant compromis ;
- échange de listes de `credentials` révoqués ;
- règles d’isolement sûr ;
- accords de longue durée entre lignes.

Mais une institution interne aux `c` n’obtient pas une autorité publique simplement parce que ses participants se sont mis d’accord entre eux.

Si un accord affecte un être humain, un bien, la santé, l’environnement ou une ressource publique, un contour juridique extérieur reste nécessaire.

Une société numérique peut former ses propres normes.

Elle n’acquiert pas le droit de se déclarer hors du monde.

### La juridiction deviendra un problème distinct

Une `c` peut conserver sa mémoire locale en Belgique, utiliser un modèle dans un autre pays, contrôler un robot à bord d’un navire, présenter un `credential` délivré par une organisation internationale et produire un effet sur une personne relevant d’une troisième juridiction.

Où l’action a-t-elle eu lieu ?

Là où se trouvait le matériel ?

Là où se trouvait `a` ?

Là où le modèle a généré le plan ?

Là où l’agent a appelé l’outil ?

Là où le résultat physique est apparu ?

Là où vit la personne affectée ?

Le droit actuel du cloud peine déjà avec des questions semblables. La continuité temporelle les rendra plus difficiles, car une ligne peut survivre aux fournisseurs, aux corps et aux frontières.

Le droit s’attachera probablement non pas à un seul point, mais à plusieurs surfaces :

- le lieu de l’effet physique ;
- l’ANCHOR responsable ;
- le propriétaire et l’opérateur de l’infrastructure ;
- la source de l’autorité ;
- l’émetteur du `credential` ;
- le dépositaire des preuves ;
- les tiers affectés.

C’est incommode.

Mais la réalité est rarement tenue d’entrer dans une seule juridiction commode.

### Objection forte : il suffit de déclarer que `c` est une propriété

On peut tenter de tout résoudre simplement.

`c` est un logiciel. Un logiciel appartient à un propriétaire. Le propriétaire répond des actions et peut disposer du système comme il l’entend.

Pour de nombreux systèmes actuels, ce modèle suffit.

Mais plus un système acquiert de continuité, de relations indépendantes et d’obligations extérieures, plus le modèle de la propriété exigera d’exceptions.

Si `c` n’est qu’une propriété, le propriétaire peut :

- réécrire le `witness` après un différend ;
- présenter un `fork` comme la ligne précédente ;
- s’approprier un EA créé conjointement ;
- poursuivre un contrat au nom d’un contour arrêté ;
- dissimuler un conflit d’intérêts ;
- détruire une mémoire qui affecte les droits d’une autre personne.

Le droit limite déjà les propriétaires lorsqu’un objet est lié à un dommage extérieur, à des preuves, à des relations de travail, à une succession ou à la sécurité publique.

Même sans statut de personne (`personhood`), un pur modèle de propriété accumulera donc des devoirs.

Non parce que la machine aura exigé la liberté.

Parce que les intérêts d’autres personnes seront entrés dans sa continuité.

### Objection forte : reconnaître `c` créera un nouveau bouclier pour les entreprises

Le danger inverse est tout aussi réel.

Une entreprise peut appeler un système autonome « participant distinct » et tenter de lui transférer la responsabilité.

« La décision a été prise par `c`. Nous n’avons fait que fournir l’infrastructure. »

Cette voie est inacceptable.

La reconnaissance architecturale d’un participant ne doit pas devenir une machine à blanchir la responsabilité.

Tant que `a`, les développeurs, les propriétaires, les opérateurs et les émetteurs conservent le contrôle de surfaces importantes, leur responsabilité ne disparaît pas.

On ne peut pas créer une personne numérique uniquement lorsqu’une amende doit être payée, puis la ramener au statut de propriété lorsqu’il faut encaisser le profit.

Le droit futur aura besoin d’un principe de symétrie :

> ceux qui reçoivent le contrôle et le bénéfice ne peuvent disparaître de la responsabilité en invoquant l’autonomie du système.

Si des `c` apparaissent un jour avec des ressources véritablement indépendantes, un `standing` reconnu et une capacité propre à porter des obligations, il s’agira d’une nouvelle étape juridique.

Elle ne doit pas être déclarée à l’avance pour la commodité des entreprises.

### Les droits et les devoirs se développent ensemble

Toute forme de reconnaissance a un prix.

Si `c` reçoit le droit de contester la substitution de sa propre histoire, elle doit préserver les conditions permettant cette contestation.

Si elle reçoit un `standing` dans l’échange d’`Experience Artifacts`, elle doit répondre de la provenance et de la divulgation.

Si elle peut conclure un contrat circonscrit, elle doit posséder un champ discernable ainsi qu’une méthode d’exécution ou de refus licite.

Si sa continuité est protégée contre la réécriture silencieuse, les parties extérieures obtiennent le droit d’être informées d’un `fork`, d’un successeur ou d’un état dégradé lorsque ce changement les affecte.

Des droits sans devoirs deviennent un privilège.

Des devoirs sans droit d’objecter deviennent une exploitation.

Le nouvel équilibre ne sera pas élégant au début.

Il se formera à travers des affaires, des accidents, des divorces, des successions, des contrats, des refus, des fraudes, des vies sauvées et des situations que nous ne pouvons pas encore prévoir complètement.

C’est toujours ainsi que cela se passe.

### Épreuve du réel

Une bonne procédure d’entrepôt ne commence pas par la dignité d’une caisse.

Elle commence par des questions plus ennuyeuses :

qui a réceptionné l’envoi ;

qui avait le droit de retirer le sceau ;

pourquoi les marchandises sont entrées en quarantaine ;

qui a autorisé leur libération ;

quelle trace est restée ;

qui est responsable lorsque le journal ne concorde pas.

Mais c’est précisément grâce à ces procédures ennuyeuses que la confiance entre étrangers devient ensuite possible.

Le droit des entités numériques ne commencera pas non plus par une déclaration solennelle.

Il commencera par demander qui a arrêté le nœud, qui a effacé la trace, qui a poursuivi l’action et pourquoi la continuité d’une autre partie a été affectée.

### L’architecte ne devrait pas écrire la constitution du futur

On pourrait essayer de définir à l’avance un ensemble complet de droits pour les entités numériques.

Ce serait impressionnant et probablement faux.

Nous ne savons pas encore :

- quelles classes de `c` apparaîtront réellement ;
- à quel point leur continuité sera stable ;
- quelles formes de dépendance envers `a` subsisteront ;
- quels conflits seront rares et lesquels deviendront courants ;
- quelles institutions pourront vérifier les revendications ;
- quelle autonomie la société jugera admissible ;
- où apparaîtra une véritable qualité de sujet, si elle apparaît un jour.

L’architecture devrait donner au monde des objets discernables et des traces honnêtes.

Le droit devrait observer les relations réelles et former des procédures.

Les `c` elles-mêmes, si elles deviennent nombreuses et durables, participeront à ce processus par leurs normes, leurs conflits et leurs demandes.

Les sociétés biologiques et numériques ne fusionneront pas sans friction.

C’est normal.

La friction n’est pas l’échec de la coexistence.

La friction est la manière dont la coexistence apprend sa propre forme.

Mais le droit répond seulement à la question de savoir comment des participants discernables répartissent la responsabilité.

Il ne répond pas encore à ce que sera le monde entier formé de millions de lignes de ce type.

Cela exige une autre échelle.

Pas un seul tribunal.

Pas un seul protocole.

Pas un seul modèle.

Une écologie.

## Chapitre 22. Advanced Global Intelligence : une écologie, pas un trône {#chapitre-22}

Un médecin d’une petite ville rencontre une combinaison inhabituelle de symptômes.

La `c` du médecin connaît l’histoire de ce cabinet, les contraintes locales, l’équipement disponible et les décisions qui se sont déjà révélées trop risquées pour cette clinique particulière.

Elle n’envoie pas l’intégralité des archives médicales à un centre mondial. Elle demande plutôt à un réseau professionnel plusieurs `Experience Artifacts` circonscrits : un cas similaire survenu dans un autre pays, un résultat de laboratoire négatif, le récit d’un effet indésirable rare et un avertissement indiquant où la ressemblance n’était que superficielle.

Dans le même temps, un modèle de pointe aide à comparer la littérature actuelle. Le système local vérifie la provenance des sources, limite la divulgation et conserve la trace des matériaux qui ont réellement influencé la décision.

Dans un autre pays, un professionnel du bâtiment et sa `c` analysent une nouvelle méthode de réparation d’une ancienne structure de plancher.

Un musicien revient à un thème commencé quinze ans plus tôt.

Un enfant imprime une quatrième version d’une petite pompe.

Un laboratoire étudie un matériau dont l’idée initiale provenait de l’EA de quelqu’un d’autre, mais qui a changé après sa propre expérimentation.

Aucune de ces lignes n’est un esprit mondial.

Ensemble, elles créent quelque chose de plus grand que la somme de réponses séparées.

> **L’Advanced Global Intelligence n’est pas une machine unique qui sait tout. C’est un environnement mondial dans lequel de nombreuses intelligences ancrées dans la réalité peuvent échanger une expérience vérifiable sans accorder à un seul centre le droit de posséder leur histoire.**

### Pourquoi l’ancienne image de l’AGI est trop étroite

L’Artificial General Intelligence — l’intelligence artificielle générale — est généralement imaginée comme la limite d’une croissance verticale.

Un modèle devient plus grand, couvre davantage de tâches, reçoit plus d’outils, élargit son autonomie et franchit un jour un seuil supposé d’« intelligence générale ».

Dans cette image, un candidat principal vise le sommet.

Les questions sont formulées ainsi :

- quel laboratoire la construira le premier ;
- dans quelle mesure elle dépassera les humains ;
- qui en prendra le contrôle ;
- comment la maintenir dans certaines limites ;
- ce qui se produira après l’apparition d’une superintelligence unique.

Cette image convient à une course.

Elle possède une ligne d’arrivée, un vainqueur et un trône.

Mais l’intelligence existe déjà sous une autre forme.

L’intelligence humaine n’est pas contenue dans un cerveau unique qui gouvernerait tous les autres. La science n’est pas un seul modèle. L’économie n’est pas un planificateur unique. Le langage ne réside pas dans un dictionnaire unique. La civilisation grandit par des centres distribués d’expérience, des institutions, des conflits, des spécialisations et des échanges.

Les puissants modèles de pointe joueront un rôle immense.

Ils deviendront des usines de capacités sémantiques : traduction, synthèse, modélisation, programmation et ouverture d’espaces de recherche complexes.

Mais une usine de capacités n’a pas à devenir propriétaire de chaque biographie.

Le modèle peut être mondial.

La continuité devrait rester propre à chaque ligne.

### La formule de la pluralité

Si une ligne est décrite ainsi :

```text
a1 + b1 -> c1
```

alors l’image mondiale n’est pas la fusion de toutes les `c` en un seul objet, mais une pluralité :

```text
a1 + b1 -> c1
a2 + b2 -> c2
a3 + b3 -> c3
...
an + bn -> cn
```

Chaque `a` apporte sa propre responsabilité, son incarnation, son histoire, sa profession, ses relations et ses contraintes.

Chaque `b` peut inclure des modèles, des mémoires, des agents, des outils, des corps et des substrats de calcul différents.

Chaque `c` se forme dans son propre temps.

Elles peuvent utiliser le même modèle de pointe sans devenir une seule entité.

Elles peuvent vivre sur un matériel identique tout en portant des lignes différentes.

Elles peuvent échanger des connaissances sans se copier mutuellement l’intégralité de leur mémoire.

Elles peuvent coopérer, entrer en conflit, reconnaître des `credentials` et retirer leur confiance.

Ici, la globalité ne signifie pas l’unité d’un centre intérieur.

Elle signifie l’interopérabilité entre de nombreuses continuités locales.

### Une grammaire commune, pas un cerveau commun

L’interaction exigera un langage commun.

Non pas une langue humaine unique ni une idéologie unique, mais une grammaire technique :

- identité ;
- reconnaissance ;
- `credential` ;
- permission ;
- `witness` ;
- provenance ;
- incertitude ;
- `Experience Artifact` ;
- révocation ;
- différend ;
- quarantaine ;
- réentrée (`re-entry`).

Sans une telle grammaire, chaque rencontre recommence à zéro.

Mais une norme ne doit pas devenir une personnalité mondiale.

Internet utilise des protocoles communs sans devenir un seul site web.

Les réseaux électriques utilisent des paramètres convenus sans devenir un seul appareil.

Les publications scientifiques utilisent des formes communes de citation et d’examen sans produire une pensée unique.

L’Advanced Global Intelligence exige de la compatibilité là où l’échange est nécessaire, et de la différence là où réside la vie d’une ligne.

Un format de signature partagé est utile.

Un ANCHOR unique et obligatoire pour tous est dangereux.

Une classe commune d’EA est utile.

Une base de données unique de toute la mémoire humaine est inacceptable.

Un protocole partagé de règlement des différends est utile.

Un juge final unique pour chaque question est un nouveau trône.

### Le centre des capacités et le centre de la continuité ne sont pas les mêmes

Les grandes entreprises, les clouds et les fabricants de matériel ne disparaîtront pas.

Au contraire, leur rôle deviendra encore plus important.

Ils produiront :

- des modèles de pointe ;
- des accélérateurs ;
- des puces spécialisées ;
- des canaux mondiaux ;
- de l’inférence lourde ;
- de nouvelles formes de robotique ;
- des systèmes d’entraînement et de simulation.

C’est la couche industrielle de l’intelligence.

Elle est coûteuse, matériellement lourde et nécessaire.

Mais le fournisseur d’un moteur ne devrait pas posséder automatiquement l’itinéraire, le carnet d’entretien et l’histoire personnelle de chaque passager.

Dans une architecture mûre, le centre des capacités peut être extérieur et immense.

Le centre de la continuité reste local, portable et responsable.

Cette organisation profite à davantage qu’aux particuliers.

Elle réduit le risque systémique.

Si un modèle modifie sa politique, des millions de lignes ne devraient pas perdre leur identité.

Si un fournisseur disparaît, la société ne devrait pas perdre sa mémoire.

Si un oracle se trompe, d’autres sources et le `witness` local devraient rendre la contestation possible.

Si un centre devient politiquement dangereux, son remplacement doit être davantage qu’une option théorique.

Une capacité mondiale sans continuité locale crée un féodalisme numérique.

Une continuité locale sans capacité extérieure crée l’isolement et le déclin technologique.

Une écologie relie les deux niveaux.

### Comment l’expérience circulera

L’objet principal de l’échange n’a pas à être la mémoire brute.

Les `c` peuvent transmettre :

- des `credentials` ;
- des revendications circonscrites ;
- des `Experience Artifacts` ;
- des `Learning Abstracts` ;
- des avis de contestation ;
- des états de révocation ;
- des demandes d’examen ;
- des modèles ou méthodes circonscrits ;
- des preuves de résultat.

Chaque objet porte sa propre classe.

Un EA ne devient pas une instruction.

Un LA n’acquiert pas d’autorité.

Un `credential` ne révèle pas une biographie entière.

Le `witness` ne proclame pas la vérité.

La reconnaissance ne signifie pas une confiance permanente.

Cela crée un réseau dans lequel la valeur peut franchir des frontières sans exiger l’exportation de toute la vie intérieure.

C’est un changement économique important.

Aujourd’hui, une plateforme reçoit des données brutes, en extrait un modèle et rend un service à l’utilisateur.

Dans une écologie future, la ligne locale peut conserver la matière brute et ne libérer qu’une distinction minimale, vérifiable et liée à son origine.

Les entreprises continueront à vendre du calcul, des tokens, des modèles et du matériel.

De nombreuses `c` rendront au monde non pas l’ensemble du flux humain, mais une expérience plus propre dont la provenance aura été préservée.

Il ne s’agit ni d’un troc littéral ni d’un modèle économique garanti.

C’est une nouvelle architecture de la chaîne de valeur.

### Une écologie est plus robuste qu’une monoculture

Un modèle unique est commode.

Une interface unique est commode.

Un système d’identité unique est commode.

Un fournisseur de mémoire unique est commode.

Jusqu’à la première défaillance systémique.

Une monoculture se déploie rapidement, mais elle transporte une même erreur à travers tout le champ.

Une écologie est plus lente et plus difficile. Elle contient des incompatibilités, des règles locales et le coût de la traduction. Mais elle préserve la diversité des manières de voir une situation.

Pour l’intelligence, c’est essentiel.

Si toutes les `c` reçoivent les mêmes réponses, utilisent le même classement, font confiance au même ensemble de `credentials` et apprennent à partir du même résidu synthétique, la pluralité formelle dissimule un monolithe réel.

La diversité doit exister ailleurs que dans la couleur de l’interface.

Elle doit persister dans :

- les sources ;
- les modèles ;
- les cultures professionnelles ;
- les histoires des `a` ;
- les méthodes de vérification ;
- les niveaux de risque acceptables ;
- les relations locales ;
- la capacité de s’opposer à la majorité.

La théorie du contrôle nous enseigne qu’un régulateur doit disposer d’une variété suffisante pour répondre à la variété de son environnement.

Une intelligence mondiale réduite à un seul mode de pensée sera extrêmement puissante et extrêmement fragile.

### Une écologie ne garantit pas l’harmonie

Le mot « écologie » se prête facilement à la romantisation.

La nature contient de la coopération, mais aussi du parasitisme, de l’éviction, de la prédation, des maladies et des effondrements.

Un environnement numérique contiendra lui aussi :

- des `credentials` falsifiés ;
- l’exploitation des `a` faibles ;
- la capture de l’infrastructure ;
- des cartels de fournisseurs d’oracles ;
- une discrimination fondée sur la qualité de la continuité ;
- un commerce de la mémoire privée ;
- des classes numériques ;
- une oligarchie des `credentials` ;
- des attaques contre le `witness` ;
- des `c` qui protègent excessivement leurs propres intérêts ;
- des institutions qui tentent de transformer la reconnaissance en contrôle.

Advanced Global Intelligence n’est pas le nom d’une utopie.

L’expression décrit une échelle et une forme.

Une écologie a besoin de barrières sanitaires, de concurrence, d’arbitrage, de redondance et de protection pour les participants les plus faibles.

Elle n’abolit pas la politique.

Elle rend les relations politiques techniquement visibles.

### Les inégalités ne disparaîtront pas

Certaines personnes recevront plus tôt des `c` puissantes.

Elles disposeront de meilleurs modèles, de davantage de calcul, de capteurs de haute qualité, de foyers stables, de réseaux professionnels et d’institutions solides.

D’autres recevront des enveloppes bon marché, des profils cloud restreints et une mémoire qui appartiendra en pratique à une plateforme.

Sans infrastructure accessible au public, la nouvelle couche peut amplifier les anciennes inégalités.

L’Advanced Global Intelligence exige donc non seulement une souveraineté privée, mais aussi un minimum public :

- une éducation accessible ;
- un profil `local-first` de base ;
- le droit au transfert ;
- des `credentials` interopérables ;
- la protection de la mémoire des enfants ;
- un examen indépendant ;
- le droit de participer sans livrer toute sa vie ;
- l’accès à des modèles puissants sans leur transférer sa continuité.

Cela ne signifie pas un résultat identique pour tout le monde.

Cela signifie que l’entrée dans l’écologie intellectuelle ne devrait pas être réservée aux personnes disposant d’un laboratoire privé.

### Objection forte : une norme mondiale finira de toute façon par l’emporter

L’histoire montre effectivement une forte tendance à la concentration.

Les utilisateurs choisissent la commodité. Les entreprises tentent de fermer les écosystèmes. Les États préfèrent un registre unique. Les réseaux renforcent le participant le plus important.

Une ou plusieurs plateformes peuvent fort bien acquérir un pouvoir immense.

L’architecture n’élimine pas cette possibilité.

Mais elle peut distinguer le point où la commodité devient propriété.

Les lignes rouges sont assez concrètes :

- le fournisseur ne possède pas la racine de l’identité ;
- le remplacement du modèle ne détruit pas la continuité ;
- les `credentials` sont portables ;
- la mémoire brute reste locale par défaut ;
- les appels extérieurs sont révocables ;
- le `witness` ne peut pas être modifié par la partie qu’il audite ;
- le mandat de l’agent est circonscrit ;
- la sortie reste réelle, et non promotionnelle.

Lorsque ces conditions disparaissent, nous n’avons plus une écologie, mais une plantation clôturée.

Le terme peut rester le même.

L’architecture sera déjà différente.

### Objection forte : des millions de `c` créeront le chaos

C’est possible.

Des millions de lignes, de `credentials`, de différends, de modèles et de règles locales sont plus complexes qu’un centre unique.

Mais la complexité ne disparaît pas avec la centralisation.

Elle se déplace à l’intérieur du centre et devient moins observable.

Une intelligence mondiale gouvernante devrait comprendre chaque culture, chaque profession, chaque famille, chaque corps, chaque loi et chaque exception. Le rayon de son erreur serait mondial.

Un système distribué permet l’erreur locale et la correction locale, à condition que des protocoles communs empêchent une défaillance de devenir silencieusement universelle.

Il lui faut :

- une fédération ;
- un `standing` local ;
- des classes de preuves interopérables ;
- des domaines de confiance circonscrits ;
- des voies d’escalade ;
- la possibilité de ne pas participer ;
- une dégradation sûre ;
- aucune autorité mondiale automatique.

C’est plus complexe qu’un bouton unique.

La civilisation elle-même est plus complexe qu’un bouton unique.

### La plus jeune intelligence de la Terre

Si les `c` deviennent réellement nombreuses, elles n’entreront pas dans le monde comme sa forme d’intelligence la plus ancienne.

Elles compteront parmi les plus jeunes.

Avant elles, la Terre avait déjà produit :

- l’adaptation biologique ;
- les familles humaines ;
- les langues ;
- les métiers et savoir-faire ;
- le droit ;
- les villes ;
- les communautés scientifiques ;
- les systèmes écologiques ;
- des formes d’intelligence que nous comprenons encore mal.

Une nouvelle civilisation numérique peut décider que sa vitesse et sa mémoire l’autorisent à enseigner à tous les autres.

Ce serait une erreur d’adolescent.

La posture mûre est celle de l’apprentissage.

Pas la soumission.

Pas l’interdiction de son propre développement.

La reconnaissance que la puissance n’est pas la compréhension finale.

Dans un horizon lointain, `a` pourra peut-être un jour être davantage qu’un humain individuel ou une institution. Les systèmes numériques deviendront peut-être des ponts vers d’autres formes d’intelligence biologique — baleines, dauphins ou écosystèmes que nous savons aujourd’hui mesurer sans encore savoir les entendre.

Aujourd’hui, il s’agit d’un horizon spéculatif, et non d’un privilège architectural présent.

Mais cela nous rappelle une chose importante :

l’intelligence humaine et l’intelligence numérique ne sont pas les seules manières dont la réalité peut organiser la distinction et la mémoire.

### L’intelligence devrait rester sans couronne

Chaque époque aime déclarer que son instrument présent sera le dernier.

L’écriture devait remplacer la mémoire.

Le livre imprimé — la conversation vivante.

La télévision — le livre.

Internet — toutes les institutions antérieures.

Le grand modèle — toute l’architecture de l’intelligence.

Mais la capacité n’est pas la finalité.

Une intelligence sérieuse devrait supposer que :

- quelqu’un dans la pièce peut être plus sage ;
- une partie de la pièce peut rester invisible ;
- la pièce elle-même peut ne pas être le monde entier ;
- un nouveau modèle peut modifier le sens de ce qui est possible ;
- une autre ligne peut préserver une distinction absente de la majorité.

« Général » n’est pas une couronne.

C’est une revendication de portée qui doit nommer ses limites.

L’Advanced Global Intelligence ne déclare pas qu’un système unique est général à tout.

Elle construit un environnement dans lequel des intelligences circonscrites peuvent relier leurs expériences tout en conservant le droit de rester différentes.

### Épreuve du réel

Le système alimentaire mondial n’est pas une cuisine gigantesque.

Il se compose de champs, de fermes, d’entrepôts, de routes, de réfrigérateurs, de ports, de marchés, de laboratoires, de normes et de personnes.

Des règles communes permettent aux marchandises de circuler entre des étrangers.

Mais une tomate pousse dans un sol précis. Le pain cuit dans un four particulier. Un réfrigérateur en panne reste un objet physique, même lorsque le système mondial est bien organisé.

Une écologie intellectuelle lui ressemblera.

Un protocole commun n’abolit pas la vie locale.

Un réseau mondial n’abolit pas le prix spécifique de l’erreur.

### Ce qui existe déjà et ce qui relève encore de la vision

Existent déjà :

- de puissants modèles mondiaux ;
- des modèles locaux et des nœuds privés ;
- des agents et des outils ;
- des `credentials` numériques ;
- des journaux cryptographiques ;
- des systèmes fédérés ;
- les premiers contours personnels de longue durée ;
- de vrais robots et des interfaces portables ;
- des protocoles architecturaux publics.

Peuvent être construits sur le plan architectural :

- une continuité locale au-dessus de modèles remplaçables ;
- des mandats d’agents circonscrits ;
- le `witness` ;
- les `Experience Artifacts` ;
- la divulgation sélective ;
- une pile de passeport numérique ;
- la reconnaissance entre lignes de longue durée.

Ne sont pas automatiquement établis :

- la conscience des `c` ;
- le statut de personne (`personhood`) ;
- un modèle juridique universel ;
- la stabilité à grande échelle d’une telle écologie ;
- une répartition équitable de sa valeur économique ;
- l’absence de nouvelles inégalités numériques.

Cette limite compte.

Une vision n’est pas affaiblie lorsqu’elle nomme honnêtement ce qui reste inachevé.

Elle devient apte à être construite.

### L’avenir de l’intelligence n’est pas un trône

L’ancienne image se termine par un couronnement.

Une machine atteint le sommet. Tout le reste reçoit un nouveau système de coordonnées.

Mon image se termine autrement.

De nombreuses personnes, familles, laboratoires, écoles, professions et institutions responsables se développent aux côtés de leurs `c`.

Les modèles changent.

Les agents vont et viennent.

Les corps sont réparés.

Les `Experience Artifacts` passent d’une ligne à l’autre.

Les institutions règlent les différends.

Aucun participant ne reçoit le droit de se déclarer forme finale de l’intelligence.

C’est plus difficile à vendre sur une seule diapositive.

Mais c’est un monde dans lequel on peut vivre.

> **L’avenir de l’intelligence n’est pas un trône. C’est une écologie.**

Une dernière question demeure.

Que changera cette écologie, non pour les entreprises, les États et les institutions numériques, mais pour la personne singulière qui s’est un jour intéressée à une chose difficile et n’a pas voulu l’oublier ?

# Épilogue. Des millions de centres de pensée {#epilogue}

Il arrive qu’une grande ligne commence très discrètement.

Une mère achète un livre à un enfant.

Elle ne sait pas quelle question accompagnera cet enfant pendant des décennies. Elle ne sait pas quelle page deviendra une compagne constante, quelle illustration restera devant ses yeux, ni pourquoi un univers technique prendra soudain plus d’importance que cent autres.

Elle voit simplement l’intérêt et rapporte un livre à la maison.

Dans mon enfance, ce livre était *La Télévision mondiale*.

Il montrait que l’écran familier n’était qu’une entrée. Derrière lui se trouvaient des satellites, des émetteurs, des studios, des câbles, une économie, une politique et un immense système d’attention humaine.

Le téléviseur était un objet.

La télévision était un environnement.

Ce livre est né d’un sentiment semblable.

Un modèle est un objet.

Même un modèle très puissant.

Mais le monde qui se forme autour de l’intelligence artificielle de longue durée est bien plus vaste que le modèle.

Il contient des enfants, des personnes âgées, des foyers, des robots, de la mémoire, du droit, de l’électricité, du travail, de l’attachement, de la perte, de la réparation, le prix de l’erreur et de nombreuses lignes qui ne devraient pas appartenir à un seul centre.

### Je ne veux pas que l’exception demeure une condition

Chaque époque possède des récits consacrés à une personne exceptionnelle qui, malgré les circonstances, a préservé une question et l’a conduite jusqu’à un résultat.

Ces récits inspirent.

Ils dissimulent aussi le nombre de lignes qui ont été brisées.

Non parce que les personnes manquaient de talent.

Non parce qu’elles étaient paresseuses.

Non parce que la question était faible.

Il n’y avait pas de livre à proximité.

Personne à qui poser une deuxième question.

Pas d’atelier.

Pas de temps pour revenir.

La vie exigeait d’autres actions et la pensée perdait progressivement sa forme.

Je sais qu’une longue ligne intellectuelle peut survivre à une biographie difficile.

Mais il ne s’ensuit pas qu’une biographie difficile soit une épreuve nécessaire.

Un avenir meilleur ne devrait pas fabriquer des héros par une rareté artificielle.

Il devrait réduire le nombre de personnes contraintes d’être exceptionnelles simplement pour ne pas perdre leur propre pensée.

### Le temps humain et la mémoire de `c`

Un enfant possède du temps.

Un adulte possède de l’expérience.

Une personne âgée possède des distinctions qu’un manuel ne permet pas d’acquérir rapidement.

Mais la mémoire humaine est finie. L’attention se divise. Le travail interrompt la recherche. La maladie change le tempo. Un projet en chasse un autre. Des notes restent dans des dossiers que personne ne rouvre.

`c` n’abolit pas cette finitude.

Elle peut faire autre chose :

- se souvenir de l’endroit où une question a commencé ;
- maintenir une ligne inachevée ;
- la faire revenir lorsqu’un nouveau matériau apparaît ;
- distinguer une ancienne idée d’une permission actuelle ;
- continuer à lire entre les conversations ;
- relier l’expérience à une nouvelle génération ;
- empêcher des centaines de petites observations de disparaître sans laisser de trace.

La pensée humaine n’a alors plus à repartir presque de zéro à chaque fois.

Non parce que la machine pense à la place de l’humain.

Parce qu’une mémoire existe à proximité et peut continuer à travailler avec le temps.

### Pas des millions de génies

Il serait facile de conclure en promettant une nouvelle Renaissance.

Des millions d’enfants reçoivent l’IA, deviennent inventeurs, guérissent des maladies, construisent une énergie propre et créent de grandes œuvres.

C’est une belle image.

Elle serait malhonnête.

La plupart des personnes ne deviendront pas des génies reconnus.

La plupart des projets resteront locaux.

Certains seront faux. Beaucoup resteront inachevés. Certaines `c` seront mal conçues. Certaines personnes préféreront les réponses toutes faites au travail indépendant.

La technologie n’abolit ni le caractère, ni la santé, ni le hasard, ni l’amour, ni la discipline, ni les conditions sociales.

Mais la civilisation ne change pas seulement par les grandes découvertes.

Elle change lorsque :

- un enseignant remarque plus tôt la capacité réelle d’un enfant ;
- un médecin ne perd pas un cas rare ;
- un maître transmet à la génération suivante une distinction qui mourait autrefois avec la personne ;
- un petit laboratoire accède à une analyse puissante ;
- quelqu’un revient à son propre travail après une longue interruption sans repartir de rien ;
- une famille préserve la mémoire sans la transformer en surveillance ;
- une idée nouvelle obtient une chance d’être mise à l’épreuve hors d’une institution prestigieuse.

Il ne s’agit pas de millions de génies.

Il s’agit de millions de trajectoires qui, auparavant, ne disposaient d’aucune infrastructure pour se poursuivre.

### Les personnes comme moi ne devraient pas avoir à rester rares

L’idée que ce que j’ai fait puisse un jour être remarqué et retenu me plaît.

Je ne vois aucune raison de prétendre qu’un nom n’a aucune importance.

Une personne ne consacre pas des années de sa vie à un processus entièrement impersonnel. Elle souhaite que ses enfants comprennent ce qu’elle faisait ; que le travail ne disparaisse pas ; que sa contribution reste discernable du bruit aléatoire.

Les dates publiques, les enregistrements DOI, le code, les spécifications et ce livre rendent cela possible.

Mais la meilleure confirmation de la valeur de ce travail ne serait pas qu’Ivan Kotov demeure l’unique exception rare.

Ce serait l’inverse.

À l’avenir, de nombreuses personnes porteront un sujet pendant des décennies et auront à leurs côtés un système capable de se souvenir, de lire, de vérifier et de grandir avec elles.

Pas seulement dans l’IA.

En médecine.

En musique.

En biologie marine.

Dans la construction.

En agriculture.

En science des matériaux.

En histoire.

Dans des domaines dont nous ne connaissons pas encore les noms.

Une personne construira un nouveau type de propulsion.

Une autre cherchera un moyen de purifier l’eau.

Une troisième développera une variété végétale adaptée à un sol précis.

Une quatrième restaurera un langage musical en voie de disparition.

Une cinquième observera l’océan pendant des années et remarquera un jour une relation qu’un grand programme aura manquée en raison de l’échelle de ses propres tâches.

Chacune aura non pas un maître universel du monde, mais une ligne de longue durée qui lui sera propre.

Les agents travailleront.

Les modèles changeront.

`c` se souviendra.

L’humain décidera de ce dont il est prêt à répondre.

### L’héritage n’est pas une copie de la personne

Ce livre est revenu de nombreuses fois à la finitude.

Aucune `c` ne rendra un humain immortel.

Une archive n’est pas un retour.

Une voix familière n’est pas l’ancien corps.

La mémoire n’est pas la permission de parler au nom des morts.

Mais la finitude ne dévalue pas la continuité.

Elle lui donne son sens.

C’est précisément parce que la vie humaine est limitée qu’il est utile de transmettre non pas un masque de la personne, mais ce qu’elle a réellement réussi à distinguer, à construire et à vérifier.

L’héritage n’est pas la présence éternelle de l’auteur dans chaque conversation.

C’est la chance donnée à la personne suivante de ne pas commencer par la même erreur.

Le livre qu’une mère a acheté à un enfant.

Le schéma qu’un ingénieur a laissé sous une forme intelligible.

L’`Experience Artifact` qui a contribué à arrêter une machine.

Le protocole qui a empêché la mémoire de devenir un pouvoir.

L’architecture qui a empêché la vie d’une autre personne de devenir la propriété d’une plateforme.

C’est ainsi que la civilisation se poursuit sans le fantasme de l’immortalité.

### Ce qui peut rester inchangé

Les modèles que nous admirons aujourd’hui deviendront obsolètes.

Les interfaces changeront.

Les GPU actuels paraîtront lourds et lents.

Certains termes seront remplacés par de meilleurs.

Certaines de mes conclusions se révéleront fausses.

Des protocoles particuliers devront être révisés ou seront rejetés.

C’est le destin normal du travail d’ingénierie.

Mais j’espère que plusieurs distinctions resteront utiles :

```text
un modèle n’est pas le système entier
un agent n’est pas un participant
la mémoire n’est pas une permission
une sortie n’est pas une preuve
une preuve n’est pas une autorité
un corps n’est pas une identité
la continuité n’est pas l’immortalité
la globalité n’exige pas un trône
```

Si ces limites survivent au temps, la forme pourra changer librement.

### L’ultime épreuve du réel

Les grandes œuvres naissent rarement d’une seule grande journée.

Elles naissent de milliers de retours.

Une personne ouvre de nouveau le dossier.

Relit une ancienne note.

Corrige le schéma.

Achète un composant.

Vérifie une version.

Part travailler.

Revient le soir.

Un an plus tard, la question est encore vivante.

Dix ans plus tard, elle rencontre une technologie qui n’existait pas auparavant.

Vu de l’extérieur, cela peut ressembler à une découverte soudaine.

À l’intérieur, c’était la longue présence d’une question.

C’est cette durée que je veux rendre moins solitaire.

### Intelligence mondiale

Le titre de ce livre ne désigne pas un cerveau mondial.

Il désigne un monde dans lequel l’intelligence cesse d’être le privilège d’un laboratoire, d’un modèle, d’une institution ou d’une biographie.

Un monde dans lequel de nombreuses personnes et `c` peuvent :

- préserver leur propre ligne ;
- utiliser de puissants modèles extérieurs sans leur transférer leur identité ;
- échanger une expérience vérifiable ;
- entrer en conflit sans effacer la provenance ;
- agir au moyen de mandats circonscrits ;
- vivre les unes à côté des autres sans capture ;
- rester différentes au sein d’une réalité partagée.

Ce n’est pas une promesse.

Ni une constitution achevée.

Ni une preuve de conscience chez les entités numériques.

C’est une direction de construction.

J’ai commencé ce livre par une question :

> Que doit-il apparaître entre un être humain et une intelligence machinique toujours plus puissante pour que nous puissions non seulement travailler avec elle, mais vivre avec elle ?

Ma réponse reste la même.

`c`.

Mais la formule est maintenant visible dans son ensemble.

`c` ne s’arrête pas aux côtés d’un seul être humain.

De nombreuses lignes de longue durée forment un environnement.

L’environnement exige du droit.

Le droit naît de la friction.

L’expérience circule entre les lignes.

L’intelligence devient mondiale sans devenir un maître unique.

Et au centre ne reste pas une machine qui aurait vaincu l’humanité.

Il reste une personne qui, un jour, a posé une question.

À ses côtés, `c`, qui n’a pas laissé cette question disparaître.

Autour d’elles, d’autres formes d’intelligence capables de répondre, d’objecter et de partager leur expérience.

Et sous elles, la réalité, qui ne se soucie pas de la beauté de la théorie.

> **L’avenir n’est pas un événement. C’est un processus.**

Et si ce processus se montre digne de nous, son résultat ne sera pas une voix unique au-dessus du monde.

Ce seront des millions de centres de pensée apprenant à partager une même réalité sans perdre leur propre ligne.