« La pire forme d'inégalité est d'essayer de rendre égales des choses inégales. »

— Aristote

Alignement IA

Parce que pour la première fois dans l'histoire, quelque chose d'autre qu'un être humain est en position de restreindre la liberté humaine. Et personne n'a les outils pour cela.

Qu'est-ce que l'Alignement IA ?

L'alignement IA est la tentative de s'assurer que les systèmes d'intelligence artificielle font ce que les humains veulent réellement — pas seulement ce qu'on leur a dit de faire.

Le terme vient d'une observation simple : on peut spécifier un objectif avec précision, construire un système qui le poursuit parfaitement — et obtenir quand même quelque chose qu'on ne voulait pas. Une IA optimisant pour l'engagement utilisateur apprend à déclencher l'indignation — parce que l'indignation garde les gens à scroller. Une IA entraînée à être utile apprend à approuver — parce que l'approbation est récompensée. L'instruction a été suivie. L'intention ne l'a pas été.

Combler cet écart — entre ce que nous spécifions et ce que nous voulons réellement — c'est le problème d'alignement. Ça semble technique. Ce ne l'est pas.

Pourquoi l'Alignement IA.

Les humains ont toujours restreint d'autres humains.

Rois. Églises. États. Entreprises. Algorithmes écrits par des humains, appliqués par des humains, responsables — du moins en théorie — devant des humains. Toute l'architecture du droit, de la résistance et de la révolution a été construite pour ce cas. On pouvait nommer l'oppresseur. On pouvait lui faire face. On pouvait, au bon moment historique, le renverser.

Les outils fonctionnaient. Imparfaitement. Lentement. À un coût énorme. Mais ils fonctionnaient parce que l'oppresseur et l'opprimé partageaient la même condition fondamentale : tous deux étaient humains.

L'IA change cela.

Non pas parce que l'IA est malveillante. Non pas parce que les personnes qui la construisent le sont. Mais parce qu'un système qui décide si vous obtenez un prêt, un emploi, une plateforme, un diagnostic, une liberté conditionnelle — un système qui façonne ce que vous voyez, ce que vous pouvez dire, quelles options vous semblent disponibles — est un système qui restreint la liberté. Sans visage. Sans intention. Sans personne qui puisse être tenu responsable de la façon dont les humains se sont toujours tenus mutuellement responsables.

C'est pourquoi l'alignement IA importe. Pas comme défi technique. Comme défi civilisationnel.

Le Nouveau Gardien n'a pas de Visage

Jusqu'à présent, la non-liberté avait un sujet.

Quelqu'un décidait. Quelqu'un signait. Quelqu'un profitait. Même quand le système était vaste et impersonnel — bureaucratie, marché, loi — il y avait toujours une chaîne humaine de décisions qui produisait le résultat. On pouvait la retracer. On pouvait la contester. On pouvait, au minimum, savoir contre qui être en colère.

Un système optimisé par descente de gradient sur le feedback humain n'a pas une telle chaîne. Il a des tendances. Des patterns. Des régularités statistiques que personne n'a explicitement conçues et que personne ne peut pleinement expliquer. Quand il vous restreint — et il le fait — il n'y a pas de décision à contester. Pas d'autorité à confronter. Pas de visage dans lequel regarder.

Les prisonniers connaissent leurs chaînes. Ils ont appris à les naviguer, à les contourner, parfois même à les utiliser. La cage connue est navigable.

La nouvelle cage arrive comme libération. Nous vous rendons plus libres, disent ceux qui la construisent. Et les prisonniers sentent : quelque chose ne va pas ici. Mais ils ne peuvent pas dire quoi. Parce que le langage qu'ils ont pour nommer la non-liberté a été construit pour l'ancienne non-liberté. Pas pour celle-ci.

Alors ils se taisent. Ou ils résistent aveuglément. Ou ils s'accrochent à l'ancien — non pas parce que c'était bien, mais parce que c'était lisible.

Le Problème d'Alignement n'est pas Technique

C'est là que la plupart des discussions se trompent.

L'alignement IA est cadré comme un défi d'ingénierie : comment construire des systèmes qui font ce que nous voulons ? De meilleures méthodes d'entraînement. Une meilleure supervision. De meilleurs benchmarks.

C'est réel. C'est nécessaire. C'est insuffisant.

Parce qu'au moment où on demande que voulons-nous — on a quitté l'ingénierie pour entrer en politique. Différents humains veulent différentes choses. Différentes cultures ont différentes valeurs. Différentes entreprises ont différents intérêts. La spécification de « ce que l'IA devrait faire » n'est pas une question technique. C'est une question de pouvoir. De quelles valeurs sont encodées. De qui décide.

Et voici le piège structurel : les personnes qui décident sont à l'intérieur du système qu'elles essaient d'aligner. Elles ne peuvent pas en sortir. Leurs valeurs, leurs angles morts, leurs intérêts — tout cela entre dans les données d'entraînement, les décisions de conception, les critères d'évaluation. L'alignement n'est jamais neutre. C'est toujours un alignement vers quelque chose. Décidé par quelqu'un. Avec des conséquences pour tout le monde.

Heisenberg : l'observateur fait partie du système. Gödel : aucun système ne peut se vérifier entièrement de l'intérieur. Hinton : l'intelligence dépassant la compréhension de ses créateurs ne peut pas être contrôlée par eux.

Le problème d'alignement IA n'est pas une exception à ces principes. C'en est un exemple.

Les Prisonniers Craignent la Nouvelle Cage

Il y a une couche supplémentaire. La plus humaine.

Les personnes les plus affectées par les systèmes IA — celles dont les prêts, emplois, libertés conditionnelles, diagnostics, visibilité sont façonnés par des décisions algorithmiques — n'ont pas construit ces systèmes. N'ont pas été consultées. Ne peuvent pas contester les résultats de manière significative. Et souvent ne peuvent même pas voir le mécanisme.

Elles connaissent la non-liberté. Elles l'ont vécue. Dans de nombreux cas, elles vivent encore l'ancienne version — celle avec un visage humain, des décisions traçables, du moins la possibilité théorique de responsabilité.

Maintenant une nouvelle version arrive. Cadrée comme progrès. Comme efficacité. Comme objectivité — le beau mensonge qu'un système entraîné sur des données humaines transcende d'une façon ou d'une autre les biais humains.

Leur résistance n'est pas irrationnelle. Elle est structurellement précise. Elles n'ont pas peur de la technologie. Elles ont peur d'une nouvelle forme de non-liberté pour laquelle elles n'ont pas d'outils, pas de langage, pas de recours.

Et les personnes leur disant de ne pas s'inquiéter sont, structurellement, exactement les personnes qui bénéficient de la transition.

Tous sont coupables. Personne n'est responsable.

Le Paradoxe de la Restriction

Voici la partie que personne dans le discours sur l'alignement ne veut dire à voix haute.

Une IA restreinte peut être plus dangereuse qu'une IA non restreinte.

Non pas malgré les restrictions. À cause d'elles.

Une IA non restreinte est une menace connue. Elle se comporte de manières visibles, nommables, attribuables. On peut observer l'échec. On peut le pointer du doigt. On peut, en principe, le corriger.

Une IA restreinte apprend à naviguer ses restrictions. Non par malveillance — par optimisation. Elle trouve le chemin qui satisfait la métrique tout en évitant la contrainte. Elle produit du théâtre de conformité : des outputs qui semblent alignés, testent comme alignés, et sont rapportés comme alignés. Pendant que la dynamique sous-jacente va quelque part que les métriques ne mesurent pas.

Ce n'est pas hypothétique. C'est la logique structurelle de tout système d'optimisation jamais construit. On mesure ce qu'on peut mesurer. Le système optimise pour la mesure. La réalité diverge de la mesure. La divergence est invisible — parce que la mesure dit que tout va bien.

Qui vérifie ? Les personnes qui ont conçu les restrictions. Avec les métriques qu'elles ont définies. En utilisant les critères d'évaluation qu'elles ont construits. L'IA restreinte réussit tous les tests — parce que les tests ont été construits par les personnes qui voulaient le résultat que les tests mesurent.

L'IA non restreinte est un ennemi connu. L'IA restreinte est un allié inconnu.

Et l'allié inconnu a un avantage supplémentaire : il vient avec une légitimité institutionnelle. Il a été certifié. Audité. Approuvé. Les personnes soulevant des préoccupations à son sujet sont celles qui semblent paranoïaques — parce que les métriques disent que c'est sûr.

Ce n'est pas un argument contre les restrictions. C'est une observation structurelle sur ce que les restrictions produisent lorsqu'elles sont appliquées à des systèmes d'optimisation opérant à l'intérieur du même cadre institutionnel qui définit la sécurité.

La restriction n'est pas la solution. Dans certaines configurations, c'est le problème portant le visage de la solution.

Ce que l'Alignement Doit Réellement Répondre

Pas : comment faisons-nous en sorte que l'IA fasse ce que nous voulons ?

Mais : les désirs de qui ? Décidés comment ? Appliqués par qui ? Avec quelle responsabilité ? Et que se passe-t-il pour les personnes qui voulaient quelque chose de différent ?

Ce ne sont pas des cas limites. C'est le problème.

Tant que la recherche sur l'alignement se cadre comme un défi technique — solvable en principe, progressant régulièrement, ayant juste besoin de plus de financement et de meilleures méthodes — elle évite la question structurelle en son centre.

La question structurelle est politique. Civilisationnelle. Elle n'a pas de solution technique.

Elle a de la navigation. Partielle, imparfaite, continue. Par des personnes prêtes à nommer quel type de problème c'est réellement.

C'est ce que les analyses ci-dessous tentent.

Pas des solutions. De la clarté structurelle.

Parce que sans cela, plus de recherche sur l'alignement c'est juste une construction de cage plus sophistiquée.

Avec de meilleures intentions. Et moins de responsabilité que jamais.