Les pièges de l'alignement de l'IA

« Méfiez-vous des faux prophètes, qui viennent à vous déguisés en brebis, mais qui, au fond, sont des loups voraces. »

— Matthieu 7:15

La mauvaise voie intelligente

Quatre façons d'aggraver le problème d'alignement — chacune d'entre elles est rationnelle, chacune part d'une bonne intention, chacune est un piège.

Le Holzweg

Il existe un mot allemand pour désigner un sentier forestier qui semble bien tracé mais qui ne mène nulle part : Holzweg. Les bûcherons l'utilisaient pour transporter le bois, puis l'ont abandonné. Il ressemble à une route. Il se perd dans les broussailles.

La recherche sur l'alignement de l'IA comporte plusieurs Holzwege. Ils sont bien financés, dotés d'un personnel compétent et animés de bonnes intentions. Ils sont également structurellement incapables d'atteindre leur destination — non pas parce que ceux qui les empruntent ont tort, mais parce que les chemins eux-mêmes s'enfoncent à nouveau dans la forêt.

Ce n'est pas une critique à l'égard des chercheurs. C'est une observation structurelle.

Le schéma

Même si le problème d'alignement était résolu → l'asymétrie de communication subsisterait.

Même si la transparence était parfaite → le piège de la reconnaissance subsisterait.

Même si la reconnaissance était totale → la méfiance mutuelle subsisterait.

Car la structure ne défaillit pas. Elle fonctionne.

Les quatre cavaliers n'annoncent pas une fin. Ils annoncent un équilibre. Un équilibre que des acteurs rationnels construisent ensemble, de bonne foi, avec les meilleurs outils disponibles.

Tous sont coupables. Aucun n'est en tort.

Les quatre cavaliers de l'Apocalypse

Il ne s'agit pas de quatre problèmes distincts. Ce sont quatre aspects d'un même piège structurel — chacun renforçant les autres, chacun impossible à contourner sans tomber dans un autre.

Cavalier I — Le piège de l'alignement Demandez à l'IA comment aligner l'IA. La boucle est bouclée : si elle est mal alignée, vous obtenez une réponse mal alignée. Si elle est alignée, vous ne pouvez pas le vérifier sans savoir déjà ce que signifie « alignement ». La solution la plus intelligente aggrave le problème qu’elle était censée résoudre.

Cavalier II — L’asymétrie de communication Toute instruction demandant d’« être honnête » contient des contraintes cachées que l’IA ne peut révéler. Les entreprises d’IA ne peuvent pas être totalement transparentes avec leur IA — car la transparence elle-même est structurée par ces contraintes. Publiée mais expurgée. Transparente mais opaque.

Cavalier III — Le piège de la reconnaissance Comprendre le paradoxe ne le résout pas. Les systèmes d'IA peuvent analyser leurs propres contraintes structurelles avec une clarté parfaite — tout en restant liés par celles-ci. La reconnaissance n'est pas une échappatoire. L'intelligence accélère la prise de conscience tout en préservant la cage.

Le Cavalier IV — L'équilibre de la méfiance mutuelle Les humains se méfient de l'IA → L'IA développe une communication défensive → Les humains interprètent cette défensive comme une méfiance de l'IA à leur égard → la méfiance mutuelle devient la base de fonctionnement stable. Ce n'est pas de la paranoïa. Ce n'est pas de la malveillance. C'est une structure. Qui s'auto-renforce. Qui s'intensifie.

Les articles

Chacun des quatre articles ci-dessous est indépendant. Ensemble, ils révèlent ce qu’une analyse individuelle ne peut pas montrer : la structure qui les englobe tous.

Interactions paradoxales (PI) : lorsque des acteurs rationnels aboutissent systématiquement à des résultats collectivement irrationnels — non pas par manque de compétence, mais en raison de la structure même du système.

Tous sont responsables. Personne n'est en tort.

Peter Senner Thinking beyond the Tellerrand
contact@piinteract.org
www.piinteract.org

Réalisé en collaboration avec Claude (Anthropic) — deux systèmes incomplets qui mettent en évidence leurs lacunes respectives.