Les cloches d’alarme sonnent autour de l'IA

Les avertissements se multiplient au sujet des risques liés au développement de l’intelligence artificielle et prennent, avec une urgence croissante, le pas sur toute autre menace évoquée dans l’actualité, qu’il s’agisse de la guerre, des inquiétudes environnementales et climatiques ou d’un effondrement financier. Les progrès dans ce domaine se font à un rythme si rapide qu’aucun retour en arrière ne semble possible: chaque jour sortent des laboratoires des machines capables de se déplacer, de travailler en équipe et de prendre des décisions complexes.

Cette révolution technologique menace désormais de faire émerger une idéologie qui lui soit propre: un totalitarisme technologique porteur de promesses et de dangers immenses qu’il est impossible d’ignorer. Dernière image en date: celle de robots dans les rues échappant à tout contrôle et s’emparant du pouvoir de leurs concepteurs, faisant retentir l’alarme en plusieurs endroits. Comment un robot entraîné dans un laboratoire pourrait-il s’échapper pour tuer des êtres humains? N’est-il pas dangereux de continuer à fabriquer des robots équipés de canons toujours plus puissants, comme le «ThunderMax 9000», qui doit équiper le futur «Death-Machine-8», actuellement en phase de test? De même, les laboratoires doivent-ils réellement continuer à concevoir des systèmes de défense hautement performants, extrêmement autonomes et surarmés? Et les intérêts financiers devraient-ils jamais pouvoir l’emporter sur l’éthique de l’humanité?

Les avertissements se multiplient, tout comme les inquiétudes exprimées par le pape Léon XIV, tandis que se posent de nombreuses questions sur l’avenir de cette cinquième révolution industrielle. Elles interviennent après la tempête provoquée par les déclarations du fondateur de Microsoft, Bill Gates, au sujet de risques devenus suffisamment graves pour rendre possibles des événements susceptibles d’entraîner «la mort d’un milliard de personnes», qu’ils soient provoqués par des acteurs non étatiques fabriquant des armes biologiques, par des pirates informatiques ou encore par des agents d’intelligence artificielle échappant à tout contrôle et lançant des cyberattaques contre des entreprises ou des infrastructures étrangères. Mais il existe quelque chose d’encore plus dangereux que ce qui se déroule sur terre. Une nouvelle course à l’espace est actuellement engagée, mais cette fois, il ne s’agit plus d’exploration spatiale: il s’agit de son armement.

Les États-Unis sont devenus le premier pays à reconnaître le déploiement d’armes destinées à établir un contrôle dans l’espace afin de se défendre contre leurs adversaires. Ils n’ont pas précisé la nature de ces armes, mais des experts militaires ont émis l’hypothèse qu’il pourrait s’agir de lasers ou de systèmes à micro-ondes de forte puissance conçus pour neutraliser les composants électroniques des satellites, voire de satellites offensifs utilisant des bras robotisés afin de capturer les engins spatiaux ennemis ou de les faire sortir de leur orbite.

La Chine s’est empressée de condamner cette initiative américaine, affirmant s’opposer à toute «course aux armements dans l’espace». La Russie a également réaffirmé que l’espace devait demeurer exempt de toute arme.

Cette militarisation de l’espace constitue un nouvel exemple décourageant de l’érosion du réseau de gouvernance internationale établi par le Traité sur l’espace extra-atmosphérique de 1967. Négocié au plus fort de la guerre froide, celui-ci représentait une réalisation remarquable. Aujourd’hui, 118 États soutiennent ce traité. Il consacre notamment le principe selon lequel l’espace doit rester un domaine commun à l’ensemble de l’humanité et interdit le déploiement en orbite de toute arme de destruction massive, alors même que de nombreux États et entreprises rivalisent pour obtenir des avantages stratégiques et commerciaux. Plus de 80 pays exploitent désormais des satellites, pour un total de 18 000 satellites actuellement en orbite autour de la Terre. Le service «Starlink» d’Elon Musk en représente à lui seul plus de la moitié.

Mais ce qui est encore plus préoccupant serait qu’un État commence à détruire les satellites de ses adversaires. Le scénario cauchemardesque serait alors que la multiplication des débris spatiaux rende impossible, pendant des générations, l’exploitation de tout satellite en orbite terrestre basse, phénomène connu sous le nom de «syndrome de Kessler». Sans compter l’utilisation de telles armes, qui a déjà commencé dans la guerre en Ukraine et au Moyen-Orient, dans ce qui constitue une double trahison de l’humanité et un dépassement du concept même de dissuasion, fondé sur la connaissance par toutes les parties des capacités de leurs adversaires et des conséquences potentielles de leurs actes.

Le président américain Donald Trump a fait preuve d’une relative ouverture lorsqu’il a trouvé le temps d’avoir, à Washington, des discussions franches sur ce sujet avec son homologue chinois, le président Xi Jinping. Il devenait dès lors nécessaire de s’entendre sur des normes fondamentales de contrôle, sur les modalités de test des modèles et sur la création de mécanismes de confinement destinés à réduire les risques. Il existe un besoin similaire de règles d’engagement claires concernant l’intelligence artificielle ainsi que les systèmes d’armes nucléaires et spatiales. En outre, le défi majeur pourrait venir de concurrents développant des modèles puissants qu’ils ne comprennent pas entièrement et qu’ils ne sont pas en mesure de contrôler, sans se conformer aux réglementations de sécurité.

Les responsables chinois sont très clairs dans leur manière de considérer les États-Unis comme la principale source de menaces pesant sur la sécurité de l’intelligence artificielle, notamment par l’utilisation intensive de contenus générés par IA pour produire des armes cybernétiques. La Chine cherche à élargir la gamme des outils techniques permettant d’évaluer les risques et à approfondir la coopération internationale, en particulier avec les pays du Sud global, tout en renforçant les négociations bilatérales avec les États-Unis dans les domaines où elle estime être en retard. Le défi consiste désormais à transformer ces préoccupations en base de discussion lors du prochain sommet du G20 à Miami, les 14 et 15 décembre, auquel le président russe Vladimir Poutine a été invité. La Chine pourrait être disposée à créer un «groupe directeur» sur l’intelligence artificielle et souhaite disposer d’une voix égale dans la définition de ce qui doit être considéré collectivement comme sûr. Le point de départ serait probablement un accord global sur l’intelligence artificielle permettant d’apaiser les inquiétudes communes concernant les modèles et agents incontrôlés. Un tel accord nécessiterait également la participation des États de l’Union européenne, qui restent encore en retard dans la course mondiale.

Dans le même temps, les messages adressés au sommet mettent en garde contre la menace que les modèles d’intelligence artificielle avancés, ou Frontier AI, font peser sur la cybersécurité et contre les risques de «scénarios plus graves impliquant des perturbations simultanées des marchés financiers au sein de plusieurs entreprises ou une interdépendance technologique», appelant les ministres des Finances et les gouverneurs des banques centrales à imposer des garde-fous à cette technologie. La lettre émanant de la Banque d’Angleterre, dont le gouverneur préside également le Conseil de stabilité financière, montre à quel point les gardiens du système financier mondial s’inquiètent du risque d’attaques cybernétiques soutenues par l’intelligence artificielle, capables de pénétrer des institutions extérieures et de créer de fausses identités afin de tromper les personnes chargées d’effectuer les contrôles. Cela met davantage en lumière les vulnérabilités existantes, parmi lesquelles les pressions inflationnistes, la hausse des taux d’intérêt, l’influence croissante des investisseurs et le gonflement des valorisations boursières.

Des tentatives seront faites pour convaincre les États-Unis de revoir leur approche permissive de la réglementation de cette technologie, qui menace le système financier et bien au-delà, tandis que l’innovation financière pourrait elle-même ébranler la domination du dollar dans la finance mondiale. L’augmentation de la dette publique, les inquiétudes liées à l’érosion de l’indépendance des banques centrales et l’utilisation du dollar comme une arme à travers les sanctions financières sont autant de facteurs qui encouragent la diversification au détriment de cette devise. Les décideurs du monde entier parlent désormais sans relâche de s’affranchir du dollar, tandis que la part de l’or dans les réserves internationales des banques centrales a fortement augmenté. La part du dollar dans les réserves de change s’élève aujourd’hui à 57%, contre 71% en 2000. Les «privilèges du dollar», qui permettaient au Trésor américain d’émettre de la dette à des taux d’intérêt relativement avantageux, ont eux aussi presque disparu.

Cela ouvre indéniablement la voie à la multipolarité. Le dollar australien, le dollar canadien et le franc suisse ont accru leur part collective dans les paiements transfrontaliers et dans les réserves. Toutefois, l’ampleur des marchés de capitaux américains par rapport à ceux des autres pays demeure un avantage considérable, auquel s’ajoute l’avance des États-Unis dans leur capacité à permettre au secteur privé d’innover dans les technologies de règlement afin de renforcer la domination du dollar. À l’inverse, les pays qui cherchent à s’isoler de ces nouvelles technologies seront les plus vulnérables. Ils doivent développer des marchés financiers vastes et bien réglementés, maintenir des politiques monétaires et budgétaires disciplinées et renforcer l’État de droit afin de faire face aux politiques américaines imprudentes, dans un moment où commerce, technologie, sécurité et géopolitique s’entremêlent. Mais le plus inquiétant réside peut-être dans l’absence d’une monnaie capable d’ancrer la confiance des investisseurs mondiaux face à des bouleversements impossibles à arrêter, qui pourraient conduire à une catastrophe au Moyen-Orient, alors que tous parlent, dans leurs discours, de paix, de sécurité et de croissance, mais font bien peu pour mettre fin à la guerre et assurer la stabilité.