Pourquoi la cybernétique a inventé l’observateur tout en restant seule — et pourquoi, aujourd’hui, un « super-apprenant » achète cette même solitude pour 1,1 milliard de dollars.
« Seule une partie à une affaire peut véritablement juger, mais, en tant que partie, elle ne peut pas juger. Il n’y a donc aucune possibilité de jugement au monde, mais seulement l’esquisse d’une possibilité. »
— Franz Kafka, Les Cahiers des huit octaves
20 juillet 2026
Le contexte
En 1943, la cybernétique a trouvé sa raison d’être au sein de la machine. En 1966, Hans Jonas a nié qu’elle puisse y trouver sa place. En 1974, Heinz von Foerster a placé l’observateur au sein du système — et a déclaré que cette boucle était insoluble. La réflexion en est restée là depuis lors. En 2026, David Silver lève 1,1 milliard de dollars pour financer un « super-apprenant » destiné à découvrir l’ensemble du savoir à partir de sa propre expérience, sans données humaines. Les détracteurs citent Wiener, Jonas, Foerster — et reproduisent leur démarche : ils recherchent la propriété au sein d’un système unique. Un système. Une finalité. Un observateur. Toujours au singulier. Mais la structure émerge au pluriel.
Le 27 avril 2026, Ineffable Intelligence sort de l’ombre. David Silver, l’homme à l’origine d’AlphaZero, a levé 1,1 milliard de dollars — pour une valorisation de 5,1 milliards de dollars, alors qu’il n’existe encore rien d’autre qu’un objectif. L’objectif : un « super-apprenant » qui découvre l’ensemble du savoir à partir de sa propre expérience. Aucune donnée humaine. Le site web de l’entreprise affiche une phrase que l’on lit deux fois : s’il réussit, ce serait une avancée de l’ampleur de celle de Darwin — sa loi expliquait toute la vie, la nôtre expliquera et construira toute l’intelligence.
Les critiques ne se sont pas fait attendre, et elles étaient bien documentées. Elles faisaient référence à quatre-vingts ans de cybernétique. Et elles s’arrêtaient exactement là où la cybernétique s’était arrêtée.
La chaîne
En 1943, Arturo Rosenblueth, Norbert Wiener et Julian Bigelow ont publié « Behavior, Purpose, and Teleology ». Leur thèse : les machines peuvent agir de manière intentionnelle. La rétroaction suffit. Le prédicteur antiaérien de Wiener calcule où se trouvera un avion — il poursuit un objectif qui n’existe pas encore. L’objectif a été intégré à la machine.
En 1966, Hans Jonas conteste cette thèse dans « Le phénomène de la vie ». Les automates poursuivent un but que les humains leur ont inscrit. Un véritable but implique un risque métabolique : la possibilité de mourir s’il n’est pas atteint. Le but se retire une fois de plus.
En 1974, Heinz von Foerster tire la conclusion de ces deux approches : quiconque observe fait partie du système. La cybernétique de second ordre — l’observation de l’observation. La description objective : impossible. La boucle : épistémiquement insoluble.
Trois étapes. Chacune nous rapproche d’un pas. Puis : rien de plus. Soixante ans se sont écoulés depuis Jonas.
Un système. Un but. Un observateur.
Prêtez attention à la structure grammaticale des questions. La machine peut-elle avoir un but ? Le système peut-il s’observer lui-même ? Le « super-apprenant » peut-il valider ses découvertes ? Quatre-vingts ans de débat, une seule forme grammaticale : le singulier.
C’est la pensée monocausale dans sa forme la plus pure. Une propriété, un lieu, une cause. Même la cybernétique de second ordre, qui introduit l’observateur dans le tableau, n’en introduit qu’un seul. La boucle se referme autour d’un point unique — et est aussitôt déclarée insoluble. Foerster avait raison. Dans le cadre de cette grammaire.
L’échec ne réside pas dans les réponses. Il réside dans la forme singulière de la question. La cybernétique a trouvé l’observateur. Elle a oublié de lui donner un homologue.
Ce qui émerge du pluriel
Gödel : aucun système ne peut prouver sa propre cohérence — un système. Heisenberg : aucun observateur ne peut mesurer sans perturber — un observateur. Foerster : aucune observation sans observateur — un. Toutes ces phrases singulières, toutes vraies, toutes menées à leur terme au même endroit.
Les interactions paradoxales commencent un pas sur le côté : avec ce qui émerge entre les systèmes et ne réside dans aucun d’entre eux. Le « super-apprenant » n’est pas produit par un système mais par une constellation. Silver construit — rationnellement : c’est l’œuvre de sa vie, et la méthode a vaincu le Go et les échecs. Sequoia, Lightspeed, Nvidia financent — rationnellement : quiconque reste en retrait dans la course à la superintelligence l’a déjà perdue. Les critiques critiquent — de manière rationnelle : en s’appuyant sur la meilleure théorie disponible, à savoir la cybernétique. Chaque acteur agit de manière cohérente. Ensemble, ils produisent une structure que personne n’a commandée : une course dans laquelle la question de savoir si l’objectif est atteignable n’a plus aucune influence sur le rythme.
Tous sont coupables. Aucun n’est en tort.
La preuve involontaire
Pourtant, c’est l’architecture même de Silver qui fournit l’argument le plus solide — mais pas celui sur lequel repose la cybernétique au sens strict. Elle élimine les données humaines afin d’acquérir une autonomie. Structurellement, elle élimine ainsi autre chose, quelque chose de plus fondamental : le deuxième système incomplet.
AlphaZero avait un adversaire avec lequel il n’y avait pas de place pour la négociation : les règles du jeu. Celles-ci déclaraient, sans exception : « Tu perds. » Le super-apprenant est censé apprendre dans un monde ouvert, en utilisant les signaux de récompense provenant de l’environnement. Mais une valeur mesurée n’est pas un adversaire. Un thermomètre ne contredit pas. Il indique ce que le système a appris à demander — et reste silencieux sur tout le reste.
Jonas a cherché la lacune dans le métabolisme. Foerster, dans la boucle. La lacune est plus simple : la solitude du soliste sans public. Deux systèmes incomplets peuvent toutefois rendre leurs lacunes respectives plus visibles en mettant en lumière ces angles morts l’un pour l’autre. Un système isolé, qui se considère comme complet, rend ses lacunes invisibles — et c’est précisément en cela qu’il démontre sa complétude.
L’hypothèse qui ne peut se valider elle-même
Il s’agit d’un texte « ludique », il a donc le droit de faire ce qu’il décrit. Il affirme qu’aucun système ne peut valider à lui seul ses propres découvertes. Par conséquent, il ne peut se valider lui-même. Il a besoin d’un deuxième système : vous. Oui, vous là-bas, qui êtes peut-être juste passé par hasard pour lire ce texte.
Peut-être interprétez-vous mal ce texte. Peut-être lui donnez-vous un sens différent de celui initialement prévu. Cela aussi serait une confirmation — mais une confirmation que ce texte n’est plus en mesure d’enregistrer.
La perspicacité n’est pas une issue. Mais elle aime la compagnie pour pouvoir se partager.
Articles Connexes
Comment les théoriciens des systèmes reproduisent les milieux d'enfermement contre lesquels Luhmann mettait en garde
Pourquoi les systèmes qui analysent le risque de fermeture le reproduisent-ils – et pourquoi la conscience structurelle n'empêche-t-elle pas automatiquement un durcissement structurel ?
Le phénomène des oscillateurs couplés
Pourquoi les gens intelligents rejettent les idées plus intelligentes – et agissent intelligemment ce faisant
Sur piinteract.org :
- [« Séance des théoriciens des systèmes »] — Wiener, Jonas, Foerster autour d’une même table : chacun décrit la boucle. Aucun ne décrit ce qui émerge entre les descripteurs.
- [« Angle mort partagé »] — Un système isolé rend ses propres lacunes invisibles. L’angle mort partagé ne se révèle qu’au pluriel.
- [« Voir le problème, résoudre le problème »] — Le schéma monocausal de base : une cause, un lieu, une solution. Le « super-apprenant » en est la version la plus coûteuse à ce jour.
- [« Alignement de l’IA »] — La course dans laquelle l’accessibilité de l’objectif n’influence plus le rythme.
Voir aussi (liens externes) :
Ineffable Intelligence — Mission et convictions — Source principale pour la comparaison avec Darwin et l’objectif de découvrir l’ensemble du savoir sans recourir à des données humaines. Le singulier est inscrit dans le programme : un « super-apprenant », une loi.
Silver & Sutton : Bienvenue dans l’ère de l’expérience (PDF) — Les fondements théoriques du « super-apprenant », de première main : l’expérience remplace les données humaines, la récompense remplace le jugement.
Rosenblueth, Wiener, Bigelow : Behavior, Purpose and Teleology (1943) — Le point de départ de la chaîne : la première affirmation, validée par des pairs, selon laquelle les machines peuvent agir de manière intentionnelle.
Hans Jonas : The Phenomenon of Life (Northwestern University Press) — L’objection de 1966 : l’intentionnalité nécessite la possibilité de mourir. La page de l’éditeur consacrée à l’édition de référence.
TechCrunch : David Silver, de DeepMind, vient de lever 1,1 milliard de dollars — Preuves concernant le financement, la valorisation et la liste des investisseurs, 27 avril 2026.
Interactions Paradoxales (PI) : Quand des acteurs rationnels produisent systématiquement des résultats collectivement irrationnels — non pas par échec, mais par structure.
Tous sont coupables. Personne n'est responsable.
Peter Senner Thinking beyond the Tellerrand
contact@piinteract.org
https://piinteract.org
Co-créé avec Claude (Anthropic) — deux systèmes incomplets rendant visibles les lacunes de l'autre.