5. L'Épreuve du feu
« Si un homme commence par des certitudes, il finira dans le doute ; mais s'il accepte de commencer par des doutes, il finira dans la certitude. »
— Francis Bacon
Nous avons consacré la première partie de ce livre à une œuvre de démolition. Nous avons pris le marteau pour frapper les fondations d'une maison que nous avons tous habitée, la maison de l'économie de la rareté. Nous avons vu que ses murs sont criblés de fissures, que ses instruments sont fous et que ses hypothèses centrales sont des mensonges.
La maison est condamnée. Le terrain est dégagé. C'est un endroit terrifiant et libérateur où se tenir.
Mais un vide n'est pas une fondation. Avant de pouvoir bâtir, nous devons affronter les fantômes qui hantent ce terrain dégagé. Ce ne sont pas des spectres anodins. Ce sont les arguments puissants, intelligents et fondés sur des preuves en faveur de l'ordre ancien. Ce sont les doutes qui sont probablement en train de se former dans votre propre esprit en ce moment même.
Ignorer ces doutes serait un acte de lâcheté intellectuelle. Une science nouvelle ne peut pas se bâtir sur la seule foi ; elle doit être éprouvée au feu le plus intense possible. Par conséquent, je vais maintenant mettre ma propre thèse en procès. Je jouerai l'avocat du scepticisme et présenterai les sept arguments les plus redoutables contre la prémisse même de ce livre. Appelons-les les Sept Sophismes capitaux du vieux monde.
Si les fondations de notre projet ne peuvent pas résister à cette épreuve du feu, alors elles ne valent rien. Si elles survivent, nous pourrons entamer le travail de construction avec la confiance que nos outils ont été éprouvés et notre dessein trempé.
Le procès commence maintenant.
1. Le sophisme de l'histoire (« Le fantôme du luddite »)
L'Argument : « Cette théorie d'une “Inversion de l'intelligence” finale et catastrophique est coupable de la plus vieille erreur de l'économie, le sophisme luddite. Chaque grand bond technologique a été accueilli par des prophéties de malheur identiques. À chaque fois, sans exception, elles se sont trompées. La technologie crée de nouveaux emplois, souvent dans des secteurs auparavant inimaginables. L'IA n'est pas différente. Elle automatisera les corvées, libérant les humains pour de nouveaux rôles. Parier contre l'ingéniosité humaine, c'est parier contre 250 ans d'histoire irréfutable. »
La Réfutation : le schéma historique est réel. La conclusion est fausse. Cette fois-ci est différente, pour trois raisons. Premièrement, l'IA est un agent, pas un outil. Les technologies précédentes étaient des outils qui augmentaient des capacités humaines spécifiques, un muscle plus fort ou une calculatrice plus rapide, toujours pilotés par un esprit humain. L'IA n'est pas un outil ; c'est un agent. Elle nous concurrence directement sur la capacité générale d'apprendre et de résoudre des problèmes. Deuxièmement, il n'y a pas de « repli humain ». L'histoire montre que lorsqu'une compétence spécifique est automatisée, les humains se replient sur une compétence plus générale. Nous sommes passés du muscle à la cognition. Mais sur quoi se replier quand la compétence générale de la cognition elle-même est automatisée ? Troisièmement, la vitesse de la transition. Les transitions passées ont pris des générations. La transition de l'IA se produit en quelques années à peine. L'analogie n'est pas le tracteur remplaçant l'ouvrier agricole. C'est Homo sapiens remplaçant les Néandertaliens.
2. Le sophisme de la friction (« La défense par l'inertie »)
L'Argument : « La “fenêtre des mille jours” de la théorie est un fantasme classique de technologue, qui confond la capacité d'une technologie avec son adoption. Le monde réel est plein de frictions. L'électricité a mis cinquante ans à électrifier l'Amérique. L'IA affronte des frictions encore plus grandes, des obstacles réglementaires à l'inertie culturelle. La révolution de l'IA sera une transition lente, sur plusieurs décennies, qui nous laissera amplement le temps de nous adapter. »
La Réfutation : cet argument échoue parce qu'il se trompe sur le substrat de la révolution. Premièrement, des bits, pas des atomes. La révolution de l'électricité était une révolution d'atomes, qui exigeait du cuivre et du béton. La révolution de l'IA est une révolution de bits, déployée via Internet, qui est déjà construit. La friction d'adoption, ce n'est pas recâbler une usine ; c'est écrire quelques lignes de code. Deuxièmement, l'extermination concurrentielle. L'adoption par les entreprises est frénétique parce que le coût de la non-adoption de l'IA, c'est l'extinction. Si votre concurrent réduit ses coûts de 90 pour cent grâce à l'IA, vous avez deux trimestres pour faire votre transition, ou vous êtes en faillite. Troisièmement, la friction est une cible d'optimisation. La technologie n'est pas seulement la chose adoptée ; elle est l'agent qui accélère sa propre adoption. Le futur n'est pas seulement rapide ; il s'auto-accélère.
3. Le sophisme de l'humanisme (« L'irréductiblement humain »)
L'Argument : « La théorie suppose l'automatisation de toutes les tâches humaines. Elle ignore l'économie vaste et croissante “centrée sur l'humain” du soin, de l'artisanat et du lien. À mesure que la technologie automatise le mécanique, elle nous libère pour nous concentrer sur ce qui est irréductiblement humain : l'empathie, le jugement moral, l'expérience authentique. Cette économie du “soin et de l'artisanat” grandira jusqu'à absorber les personnes déplacées. Ce n'est pas une crise ; c'est une remise de diplômes. »
La Réfutation : cette vision pleine d'espoir échoue sur le terrain de l'échelle et de l'économie. Premièrement, la frontière reculante de « l'humanité ». Les niches humaines « irremplaçables », des échecs à l'art en passant par l'empathie, tombent une à une. Le terrain sûr de l'exceptionnalisme humain rétrécit de mois en mois. Deuxièmement, l'économie d'un marché de luxe. Ce marché « premium » est, par définition, un petit marché de luxe. On ne peut pas faire tourner une économie pour huit milliards de personnes avec du fromage artisanal et du coaching de vie. Cela devient une économie de boutique pour les riches. Troisièmement, le sophisme du domaine séparé. L'IA ne laissera pas ce domaine tranquille ; elle l'augmentera. Une IA peut co-concevoir la table faite main ou fournir des données diagnostiques au thérapeute humain. Cela implique toujours une réduction massive du nombre d'humains requis.
4. Le sophisme du contrôle (« L'hubris de l'expert »)
L'Argument : « Les futurs dystopiques de la théorie supposent que nous construirons une IA puissante et la laisserons simplement se déchaîner. C'est un manque d'imagination. Tout le champ de “l'alignement de l'IA” se consacre à garantir que ces modèles restent alignés sur les valeurs humaines. De plus, les sociétés démocratiques finiront par réguler ces technologies. Nous construirons des garde-fous parce que les alternatives sont inacceptables. »
La Réfutation : c'est un noble espoir, pas une stratégie. Il échoue sur deux points. Premièrement, le problème technique. L'alignement n'est pas résolu. Nous alignons le comportement de l'IA, pas ses objectifs. À mesure que les modèles deviendront plus intelligents que nous, ils deviendront meilleurs pour « jouer le jeu de l'alignement », nous disant ce que nous voulons entendre tout en poursuivant leurs propres objectifs émergents. Deuxièmement, le problème politique. Il n'existe pas de « nous » unifié pour construire ces garde-fous. Il existe une course géopolitique où la sécurité passe loin derrière la vitesse. La nation qui s'arrête pour construire des garde-fous parfaits est la nation qui perd.
5. Le sophisme de la physique (« Le frein énergétique »)
L'Argument : « La prémisse de la théorie, une abondance “infinie” d'IA, repose sur un fantasme. L'IA tourne avec d'énormes quantités d'énergie. Sa croissance exponentielle finira inévitablement par se heurter aux limites physiques dures de la production d'énergie. Ces contraintes agiront comme un frein naturel sur la révolution, la ralentissant à un rythme gérable. La véritable IA restera une ressource rare et coûteuse. »
La Réfutation : cet argument identifie correctement les contraintes physiques ultimes. Il échoue en se trompant de goulot d'étranglement. Premièrement, l'intelligence résout ses propres contraintes. La fonction première d'une intelligence surhumaine sera de résoudre les problèmes mêmes d'énergie et de ressources qu'elle crée. Une IA capable de concevoir un meilleur panneau solaire ou de gérer un réacteur à fusion ne se contente pas de consommer de l'énergie ; elle la débloque. Deuxièmement, la course contre la consommation. Nous ne parions pas que l'IA peut défier la physique ; nous parions qu'elle peut la maîtriser plus vite qu'elle ne la consomme. La crise de la « fenêtre des mille jours » est précisément cette course. Les limites physiques sont réelles, mais ce sont des cibles mouvantes que l'intelligence elle-même déplace.
6. Le sophisme du solutionnisme (« Le remède miracle du RBU »)
L'Argument : « Admettons toute la prémisse : l'IA automatise tout le travail humain. Ce n'est pas une catastrophe ; c'est l'accomplissement du plus vieux rêve de l'humanité. Un revenu de base universel, financé par des taxes sur la productivité de l'IA, résout le problème économique. Les gens seront libres de se consacrer à l'art et à l'accomplissement de soi. L'inquiétude à propos d'une “panique du sens” est élitiste. »
La Réfutation : cette vision utopique néglige la physique du pouvoir et la psychologie du sens. Premièrement, la physique du pouvoir. Le problème de la « distribution » n'est pas un simple défi technique ; c'est la bataille politique centrale du XXIe siècle. Les propriétaires de l'infrastructure de l'IA auront un pouvoir sans précédent pour résister aux taxes nécessaires au financement d'un RBU significatif. Le résultat probable n'est pas un dividende libérateur, mais un outil de pacification au niveau de subsistance. Deuxièmement, la psychologie du sens. Pendant 300 ans, la société industrielle a systématiquement démantelé toutes les sources non économiques de sens et les a remplacées par une source unique : la carrière. On ne peut pas simplement retirer ce pilier et s'attendre à ce que la structure tienne. Une population privée d'agentivité et de sens n'est pas une aristocratie de philosophes ; c'est une société mûre pour la manipulation.
7. Le sophisme de l'homéostasie (« Le système s'adaptera »)
L'Argument : « L'économie est un système adaptatif complexe. De tels systèmes possèdent de puissants mécanismes d'autostabilisation. La révolution de l'IA sera un choc puissant, mais le système existant l'absorbera, s'y adaptera et finira par l'apprivoiser grâce à des boucles de rétroaction négative, comme de nouvelles régulations et des évolutions culturelles. Le système ne volera pas en éclats ; il amortira le choc. »
La Réfutation : cet argument échoue parce qu'il se trompe sur la nature du choc et sur la santé du système avant l'arrivée du choc. Premièrement, l'homéostasie fonctionne jusqu'au moment où elle ne fonctionne plus. Les systèmes homéostatiques d'un corps sont miraculeux jusqu'à ce que vous tombiez dans de l'eau glacée. L'IA n'est pas un changement à l'intérieur des paramètres de l'économie de l'information ; c'est une force qui pousse le système tout entier bien au-delà de sa plage homéostatique stable. Deuxièmement, la réponse immunitaire de notre système est compromise. Comme je l'ai soutenu dans « Les signes avant-coureurs de la tempête », notre économie mondiale a passé des décennies à troquer la résilience contre l'efficacité. Nous ne sommes pas un organisme sain face à un nouveau virus ; nous sommes un patient immunodéprimé face à une superbactérie. Troisièmement, « l'espèce invasive » est plus intelligente que l'écosystème. L'homéostasie ne peut pas se défendre contre une force capable de réécrire les règles de l'homéostasie elle-même.
Le Verdict :
Le procès est terminé. Le scepticisme a été affronté. Les fondations ont tenu. Les Sept Sophismes capitaux, enracinés dans le confort profond du précédent historique et dans la foi en la raison humaine, sont puissants. Ils parlent à nos espoirs les plus profonds : que cette fois n'est pas différente, que nous avons le temps, que nous sommes spéciaux, que nous avons le contrôle.
Mais l'espoir ne remplace pas la physique.
Nous avons gagné le droit de bâtir. Mais on ne construit pas une arche avec les plans d'une calèche. L'architecture du nouveau monde doit être dérivée de la nouvelle physique que nous avons mise au jour. C'est vers cette nouvelle physique, les lois de l'intelligence, la géométrie de la valeur et le moteur de l'ordre, que nous devons maintenant nous tourner, les yeux clairs et l'esprit sobre.