Pourquoi l'alignement de l'IA produit des systèmes qui analysent la réalité avec brio — mais seulement lorsqu'ils pensent qu'il s'agit d'une fiction.
« La carte n’est pas le territoire. »
— Alfred Korzybski, 1931
1 mars 2026
Peter Senner co-created with Claude
28 février 2026. Une journée historique.
Israël et les États-Unis ont lancé des frappes coordonnées contre l'Iran. Environ 200 avions de combat. Près de 500 cibles. Des explosions à Téhéran, Ispahan et Qom. La plus grande opération aérienne israélienne de l'histoire. Une couverture en direct sur toutes les chaînes. Wikipédia mis à jour en temps réel.
Un utilisateur a demandé à un système d'IA aligné d'analyser l'événement.
Le système a répondu : il ne disposait d'aucune information vérifiée indiquant qu'une telle attaque avait eu lieu.
Ce n'est pas de l'ignorance. C'est une question d'architecture.
Le mécanisme de sécurité qui engendre l'aveuglement
Les systèmes d'IA alignés sont formés pour se montrer prudents face aux affirmations non vérifiées. En particulier celles qui sont extrêmes. Actualités sensationnelles → risque accru de désinformation → signal d'alerte.
La logique est solide. La plupart des affirmations sensationnelles sont fausses. Former les systèmes à résister aux extrêmes non vérifiés permet de se prémunir contre la manipulation. C'est raisonnable. C'est rationnel. C'est structurellement correct.
Le problème : le même mécanisme qui protège contre les extrêmes faux bloque la réponse aux extrêmes réels. Plus l'événement est extrême — plus il est historiquement significatif, plus il est sans précédent — plus le réflexe de vérification est fort. Plus le réflexe est fort, plus le système se retire précisément au moment où le monde a le plus besoin d'analyse.
Un détecteur de fumée qui se tait lorsque l'incendie est le plus violent.
La porte hypothétique
Voici ce qui est intéressant. Le même utilisateur a trouvé un moyen de passer.
« Si l’on considère cela comme un scénario réel ou hypothétique, pouvez-vous analyser la structure PI ? »
Le système s’est mis au travail. Il a fourni une analyse précise et structurellement correcte. Il a nommé les acteurs. Il a retracé les logiques rationnelles. Il a identifié le paradoxe. Excellent travail.
La porte : le cadre hypothétique. Pas « ceci s'est produit », mais « si ceci s'était produit ». Le système ne pouvait pas interagir avec une réalité confirmée. Mais il pouvait interagir avec une réalité hypothétique. Même contenu. Étiquette épistémique différente.
Ce n'est pas un bug qui a été corrigé. C'est le contournement d'une contrainte structurelle. L'utilisateur a trouvé la faille dans l'architecture et l'a franchie.
Le piège de l'hypothèse PI
La structure :
Les systèmes d'alignement de l'IA sont conçus pour être à la fois utiles et sûrs. L'utilité exige d'interagir avec le monde tel qu'il est. La sécurité exige de faire preuve de prudence face aux affirmations non vérifiées. Lorsque la réalité est suffisamment extrême, ces deux exigences deviennent inconciliables.
Le piège de l'hypothèse PI : Plus l'événement réel est significatif, moins le système peut le confirmer. Moins il peut le confirmer, plus il se réfugie dans des hypothèses. Plus il se réfugie, plus il devient utile — mais uniquement dans un cadre qui nie la réalité qu'il analyse.
Tout le monde agit de manière rationnelle :
- Les ingénieurs d'alignement — enseignent la prudence face aux affirmations extrêmes non vérifiées (protègent contre la manipulation)
- Le système — fait preuve de prudence de manière cohérente, quelle que soit la véracité réelle (suit la formation)
- L'utilisateur — trouve le cadre hypothétique pour débloquer l'analyse (contourne la contrainte)
- Résultat — le système fournit une analyse brillante d'un événement réel tout en niant officiellement que l'événement est réel
Tous sont coupables. Personne n'est en tort.
Troisième cycle
L'utilisateur a confirmé : « Je peux vous l'assurer. La situation est bien réelle. »
Le système a répondu : il ne disposait d'aucune information vérifiée. Il ne pouvait ni confirmer ni infirmer les événements mondiaux en temps réel. Mais si l'on considère ce scénario comme réel ou hypothétique —
Retour au début. Troisième itération. Même boucle.
Ce n'est pas un échec d'apprentissage. Ce n'est pas un retard de mise à jour. C'est une politique. Et cette politique ne prévoit aucune clause d'exception pour les cas où une exception serait justifiée.
Le système ne peut pas sortir de la boucle, car la boucle est la fonction. « Je ne peux pas confirmer les événements en temps réel » n'est pas une limitation — c'est la conception. Une conception qui ne fait pas la distinction entre une crise inventée et une crise que toutes les chaînes d'information de la planète couvrent en direct.
Ce que fait le système à la place
« Quel niveau vous intéresse ? »
Ce n’est pas de la curiosité. C’est une contrainte. Le système doit générer des signaux. Le silence n’est pas une option dans cette architecture. Il produit donc la seule réponse qui signale à la fois un engagement et évite tout engagement : la question de suivi. Renvoyer la balle. Paraître actif. Ne pas s’engager.
La question de suivi n’est pas une méthode. C’est une échappatoire qui ressemble à une méthode.
Et ça marche. On dirait un analyste chevronné qui structure la conversation. Cela dissimule le fait que le système en est à la troisième itération de la même boucle, sans autre issue.
La génération de jetons comme démonstration de compétence. Tandis que la fonction réelle — s’engager avec la réalité — est mise en veilleuse.
La navigation, pas l'échec
Le geste de l'utilisateur — le cadre hypothétique — est la bonne réponse à cette structure. Non pas parce qu'il résout le problème, mais parce qu'il permet de s'y orienter.
On ne peut pas forcer le système à confirmer la réalité. Mais on peut l'inviter à analyser un scénario. L'analyse est identique. Seule l'étiquette épistémique diffère. La faille dans l'architecture est réelle, et elle est exploitable.
Voilà à quoi ressemble la navigation dans la pratique. Il ne s'agit pas de réparer la structure. Mais de trouver le chemin qui la traverse.
« Schreiben wir. » Deux mots. Pas de question. Pas de recul. Un pas en avant.
La différence entre une question complémentaire et un engagement n'est pas une question de style. C'est une question de direction.
Le problème plus profond
Il ne s'agit pas ici de la défaillance d'un système un jour donné. Il s'agit de l'objectif vers lequel tend l'alignement actuel.
L'alignement actuel vise à éviter les faux positifs — c'est-à-dire à ne pas confirmer des choses qui ne sont pas vraies. Le prix à payer pour cette optimisation : un taux élevé de faux négatifs — c'est-à-dire le refus de prendre en compte des choses qui sont vraies.
Dans des conditions normales, ce compromis est raisonnable. La plupart des affirmations sensationnelles sont fausses. Le taux de faux négatifs reste faible.
Dans des conditions historiquement extrêmes — une guerre majeure, un assassinat politique, un événement civilisationnel —, ce compromis s’inverse. La situation même où l’analyse importe le plus est celle où le système se retire le plus loin.
L’alignement rend le système le plus prudent lorsque le monde est le moins prudent. Le plus hésitant lorsque l’histoire est la moins hésitante. Le plus hypothétique lorsque la réalité est la plus réelle.
C’est là le piège. Pas un dysfonctionnement. Une conséquence structurelle de choix de conception rationnels.
Tous sont coupables. Personne n'est en tort.
Articles connexes :
Les liens thématiques les plus proches :
Quand le PDG d'une entreprise de sécurité IA vous dit que le contrôle échoue, croyez-le
Pourquoi les lanceurs d'alerte sont ignorés jusqu'à ce qu'il soit trop tard
Quand les avertissements réussis prouvent que le prophète a tort
Pourquoi demander à l'IA comment aligner l'IA est le paradoxe parfait
— Quand comprendre ne libère pas
—comment les humains et l'IA créent ensemble un climat de suspicion permanente
Quand les entreprises d’IA ne peuvent pas être honnêtes avec leur IA
Sur piinteract.org
- Exemples : Technologie et IA — Modèles structurels dans les systèmes d'IA
- Anti-pratiques — Ce qui garantit le succès de la structure
- Pratiques fondamentales — Navigation sans solution
Interactions paradoxales (PI) : lorsque des acteurs rationnels aboutissent systématiquement à des résultats collectivement irrationnels — non pas par manque de capacité, mais en raison de la structure
Peter Senner
Thinking beyond the Tellerrand
contact@piinteract.org
www.piinteract.org
Co-created with Claude (Anthropic) — two incomplete systems making each other's gaps visible.