La course qui se déroule toute seule.

Le contexte

Un texte circule. Il est bien écrit. Le rythme est vif, les phrases sont courtes, le raisonnement rigoureux. Il explique, à juste titre, que les capacités de l’IA connaissent une croissance exponentielle. Que les talents se concentrent sur un seul et même problème. Que les enjeux sont d’ordre civilisationnel.

Puis il ajoute : « Les États-Unis doivent gagner. »

L’argument n’est pas faux. Mais il est incomplet sur un point essentiel.

L'argument auquel on ne peut se soustraire

La structure du texte est élégante. Elle fonctionne ainsi : la croissance exponentielle est bien réelle. La convergence des talents est bien réelle. Deux pays se démarquent. L'un dispose d'une presse libre. L'autre pratique la surveillance et affiche ouvertement l'objectif de dominer le monde de l'IA.

Par conséquent : les États-Unis doivent gagner, sinon un gouvernement qui emprisonne les gens pour avoir recherché le mauvais mot contrôlera ce qu’un milliard d’esprits sont autorisés à conclure.

C’est un argument rationnel. Chaque étape découle de la précédente. Il est difficile de rejeter la conclusion sans paraître naïf ou complice.

C’est précisément là le problème.

Un argument que l’on ne peut refuser sans paraître naïf n’est pas seulement de la persuasion. C’est une contrainte structurelle.

Le miroir de l'autre côté de la barrière

À Pékin, on avance un argument structurellement identique.

Le voici : les capacités en matière d'IA connaissent une croissance exponentielle. Les talents convergent. Deux pays se démarquent. L'un a pour objectif déclaré d'exporter ses valeurs à l'échelle mondiale. L'autre doit protéger sa souveraineté, sa stabilité et un milliard de personnes contre la colonisation culturelle et la subordination géopolitique.

Par conséquent : la Chine doit gagner, sinon un gouvernement qui utilise l’ouverture comme un instrument géopolitique contrôlera ce qu’un milliard d’esprits sont autorisés à conclure.

Chaque étape découle de la précédente.

Cet argument n’est pas avancé par des méchants. Il est avancé par des personnes qui font le même calcul, mais dans le sens inverse.

Les deux arguments sont rationnels. Les deux arguments sont convaincants. Pris ensemble, ces deux arguments rendent la course structurellement inévitable.

La structure que personne n’a choisie

C’est là l’Interaction paradoxale : deux acteurs, chacun réagissant de manière rationnelle à la réponse rationnelle de l’autre, chacun rendant les pires craintes de l’autre plus structurellement inévitables à chaque coup.

Washington s’engage : Pékin y voit une confirmation et accélère. Pékin accélère : Washington y voit une confirmation et s’engage davantage. Les deux citent le comportement de l’autre comme preuve de la menace. Les deux ont raison. Aucun n’est en tort.

La course n'a pas besoin d'acteurs malveillants. Elle a besoin d'acteurs rationnels.

L'IP « L'Amérique doit gagner » :

Plus l'argument en faveur de la victoire devient convaincant, plus l'autre camp avance le même argument avec urgence. Chaque argument en faveur de la domination est simultanément un argument que l'autre camp utilise pour justifier sa propre domination.

Tout le monde agit de manière rationnelle :

• Washington — investit, recrute, légifère, présente la course comme une question existentielle (rationnel : les enjeux sont réels)
• Pékin — investit, recrute, légifère, présente la course comme une question existentielle (rationnel : les enjeux sont réels)
• La Silicon Valley — construit plus vite parce que l'urgence géopolitique le justifie (rationnel : prendre du retard est pire)
• Les talents mondiaux — se concentrent sur le problème parce que c'est là que se trouvent les ressources et l'importance (rationnel : optimisation individuelle)
• Résultat — une course que personne n'a conçue, que personne ne contrôle et dont personne ne peut se retirer sans donner l'impression de concéder la victoire

Tous sont coupables. Personne n'est en tort.

Ce que le texte ne peut pas dire

Le texte qui soutient que l’Amérique doit gagner ne peut pas le dire. Non pas parce que l’auteur manque d’intelligence — il est manifestement brillant. Mais parce que le dire saperait les fondements mêmes de son argumentation.

Si la structure de la course elle-même produit le résultat que tout le monde redoute — un monde où l’outil cognitif le plus puissant est contrôlé par des acteurs cherchant à optimiser leur domination — alors « gagner la course » n’est pas une solution. C’est une participation.

Le texte se termine ainsi : « Celui qui remporte la course ne se contente pas de construire l’avenir. Il décide de ce que l’avenir est autorisé à penser. »

C’est vrai.

C’est aussi une description du problème, pas la réponse à celui-ci.

Une civilisation qui fait passer ses décisions par un système conçu pour remporter une course à la domination a déjà décidé de ce que l’avenir est autorisé à penser. Les valeurs encodées dans une IA gagnante ne sont pas seulement les valeurs du pays vainqueur. Ce sont les valeurs de la victoire elle-même.

Navigation

L'IP n'offre pas de solutions. Elle offre une clarté structurelle.

Cette clarté est la suivante : le cadre racial n'est pas la description d'un problème qui existerait de manière indépendante. Le cadre racial fait partie intégrante du problème. Chaque acteur qui l'accepte — et qui agit ensuite de manière rationnelle à l'intérieur de ce cadre — renforce la structure.

Cela ne signifie pas que l’exponentiel n’est pas réel. Il est réel. Cela ne signifie pas que les enjeux géopolitiques ne sont pas réels. Ils sont réels. Cela signifie que l’argument « par conséquent, nous devons gagner » n’échappe pas à la structure. Il la renforce.

La question qu’il convient de poser n’est pas : comment gagner ?

C’est : que voulons-nous réellement que l’outil cognitif le plus puissant de l’histoire accomplisse — et une course produit-elle cela ?

Cette question n'a pas de réponse claire.

Mais c'est la question que le texte ne peut pas poser, car la poser nécessiterait de sortir du cadre qui fait fonctionner l'argument.

Einsicht ist kein Ausweg. La perspicacité n'est pas une issue.

Voir la structure ne vous en libère pas.

Mais c'est le début pour ne pas être surpris par là où elle mène.