Pourquoi de meilleurs outils pour l'individu ne font pas une meilleure somme collective — et pourquoi aucune promesse marketing ne peut corriger cela.
« En poursuivant son propre intérêt, il sert souvent celui de la société plus efficacement que s'il avait réellement l'intention de le servir. »
— Adam Smith, La Richesse des nations (1776)
Toute personne qui utilise l'IA pour écrire plus vite, décider mieux, produire davantage, agit rationnellement. C'est précisément le problème. Adam Smith promettait qu'en poursuivant son propre intérêt, on sert automatiquement celui des autres. Ça ne s'est pas vérifié dans les rues résidentielles du New Jersey, le jour où des millions de conducteurs ont suivi la même application. Ça ne se vérifie pas non plus, en ce moment, dans le recrutement, où candidats et recruteurs s'arment mutuellement d'IA. La structure est toujours la même : optimale localement, incontrôlée collectivement. L'IA n'invente pas ce schéma. Elle l'exécute plus vite, plus invisiblement, sur davantage de niveaux à la fois.
21 août 2026
La mise en place
Leonia, New Jersey, janvier 2018. Une ville de 9 000 habitants, submergée chaque matin par 250 000 véhicules. Personne n'avait prévu cela. Waze avait calculé que les petites rues résidentielles de Leonia menaient plus vite au pont George-Washington que la route principale aux heures de pointe. Chaque conducteur, pris individuellement, a suivi l'application. Chaque conducteur, pris individuellement, avait raison. La ville a fermé 60 rues aux non-résidents, encaissé une plainte et une mise en garde du procureur général du New Jersey — et l'embouteillage n'a pas disparu. Il s'est déplacé.
Le même schéma se répète en ce moment avec l'IA. Les rues, cette fois, ne sont simplement pas en asphalte.
La logique de l'itinéraire
Une application de navigation résout exactement un problème : le trajet le plus rapide pour exactement une personne, à cet instant précis. Elle ne tient pas compte d'une deuxième personne. Elle ne tient pas compte d'une rue qui n'a jamais été construite pour absorber du trafic de transit. Elle ne tient pas compte du fait que dix mille autres applications, à la même seconde, font le même calcul et arrivent au même résultat. Chaque calcul, pris isolément, est correct. L'interaction de tous ces calculs produit une structure qu'aucune des applications ne connaît, qu'aucun conducteur n'a voulue, et que personne n'a conçue : un nouveau schéma de circulation que la ville n'a jamais approuvé.
C'est exactement cette logique que porte chaque usage individuel de l'IA. Un outil optimisé pour une tâche, une personne, un instant — sans jamais voir la deuxième personne qui résout la même tâche avec le même outil au même moment. L'optimisation est locale. L'effet est global. Rien ne fait le lien entre les deux. Seule la somme s'en charge.
L'exemple du recrutement
Le nombre de candidatures par poste ouvert a à peu près triplé depuis 2021, dépassant les 300. Sur LinkedIn seul, elles ont augmenté de plus de 45 % en un an — pour atteindre environ 11 000 par minute. Entre 40 et 80 % des candidats utilisent désormais l'IA pour optimiser leur CV : parfaitement formulé, calibré exactement sur l'offre d'emploi, à peine distinguable du suivant. Les services RH répondent avec leur propre IA — des logiciels de tri conçus pour filtrer ce flot de candidatures de plus en plus identiques. Selon une enquête, 67 % des recruteurs affirment que les candidatures générées par IA ralentissent le processus d'embauche plutôt qu'elles ne l'accélèrent.
Les deux camps s'arment. Les deux camps perdent du temps. Aucun des deux ne peut s'arrêter — le candidat qui renonce à l'IA perd face à ceux qui n'y renoncent pas. L'entreprise qui renonce au tri se noie sous les candidatures.
Pourquoi personne n'a décidé cela
Geoffrey Hinton formule la structure sans détour : les choses plus intelligentes ne sont pas contrôlées par des choses moins intelligentes. Cela ne vaut pas seulement pour des machines qui dépasseraient l'intelligence de leurs concepteurs. Cela vaut pour toute somme dont la complexité dépasse la vue d'ensemble de chacune de ses parties. Aucun candidat ne voit l'ensemble du système de recrutement. Aucun conducteur ne voit l'ensemble du réseau routier.
Niklas Luhmann décrivait comment les systèmes se referment sur leur propre logique, ne traitant leur environnement qu'à travers les distinctions qu'ils possèdent déjà — cohérents localement, aveugles globalement. Appliquez cela à des millions de duos individuels humain-IA, chacun poursuivant son objectif étroit, et l'on obtient exactement ce tableau : une société faite de boucles d'optimisation closes, dont la somme n'a été conçue par personne, parce que personne n'était en position de la concevoir.
Le Paradoxe de Navigation, nommé
Le Paradoxe de Navigation : Chaque acteur optimise son propre résultat avec le meilleur outil disponible — et produit ainsi, avec tous les autres, une structure que personne n'a voulue, conçue, ni même vue.
Chacun agit rationnellement :
- Le conducteur — prend l'itinéraire le plus rapide (rationnel : il veut être à l'heure)
- Le candidat — optimise son CV avec l'IA (rationnel : il veut le poste)
- Le service RH — déploie un logiciel de tri (rationnel : il doit gérer le flot)
- Résultat — embouteillage, ralentissement, épuisement du système que tous voulaient accélérer
Tous sont coupables. Personne n'y peut rien.
Navigation, pas solution
Il n'existe pas d'instruction qui sorte de ce schéma, car toute instruction serait elle-même une optimisation individuelle de plus — un conseil supplémentaire adressé à l'individu, pour un problème qui ne se situe pas à son échelle. Ce qui aide, c'est de déplacer la question. Non pas : « comment mieux utiliser l'IA », mais : « que se passe-t-il quand cet usage s'additionne à tous les autres usages ». Ne pas attendre que la régulation vienne de l'extérieur du schéma — qui régule est assis dans la même structure, avec les mêmes outils, la même vue limitée. Cesser d'attendre que la vertu individuelle s'additionne en bénéfice collectif ; cela n'a jamais fonctionné, quel que soit l'outil.
Ce qui reste ne se résout pas : il n'y a pas de réponse à la question de ce que l'individu devrait faire différemment pour que la somme finale soit juste. Ce n'est pas un trou dans le raisonnement. C'est le constat.
De meilleurs outils font de meilleurs individus. Ils ne font pas une meilleure somme. La différence entre les deux s'appelle la société — et elle ne se comble pas avec un outil de plus.
Articles liés
Quand le PDG d'une entreprise de sécurité IA vous dit que le contrôle échoue, croyez-le
Pourquoi les gens intelligents rejettent les idées plus intelligentes – et agissent intelligemment ce faisant
Pourquoi demander à l'IA comment aligner l'IA est le paradoxe parfait
Comment les théoriciens des systèmes reproduisent les milieux d'enfermement contre lesquels Luhmann mettait en garde
Sur piinteract.org:
- ["Juste optimiser"] — Exactement ce que fait chaque acteur du Paradoxe de Navigation : optimiser sans jamais voir la somme.
- ["Embouteillage du rond-point d'Oslo"] — Même structure, autre ville : des décisions individuellement correctes, des rues collectivement bloquées.
- ["Chacun agit rationnellement — et ça échoue quand même"] — Le scénario que ce post déroule à travers deux cas concrets.
- ["Alignement de l'IA"] — L'alignement n'échoue pas par mauvaise intention — il échoue par la même logique d'optimisation que décrit le Paradoxe de Navigation.
Voir aussi (sources externes) :
Transcription d'entretien avec Geoffrey Hinton — Source primaire de l'affirmation selon laquelle les choses plus intelligentes ne sont structurellement pas contrôlées par des choses moins intelligentes.
Measuring Real-World Prompt Injection Attacks in LLM-based Resume Screening — Étude évaluée par les pairs sur la course aux armements IA contre IA dans le recrutement.
New Jersey Town Restricts Streets From Commuters To Stop Waze Traffic Nightmare — Documente le cas de Leonia, utilisé comme image concrète du Paradoxe de Navigation.
The AI hiring arms race is pitting bots against recruiters — Chiffres actuels sur la course aux armements entre candidats et services RH.
Interactions Paradoxales (PI) : Quand des acteurs rationnels produisent systématiquement des résultats collectivement irrationnels — non pas par échec, mais par structure.
Tous sont coupables. Personne n'y peut rien.
Peter Senner Thinking beyond the Tellerrand
contact@piinteract.org
https://piinteract.org
Co-créé avec Claude (Anthropic) — deux systèmes incomplets rendant visibles les lacunes de l'autre.