Prise de conscience et vent de fronde face aux dangers des IA pour les individus et les nations

Alexis Murbas - Article paru dans le n°74 de Synthèse nationale (été 2026) - Cliquez ici

Dans son numéro de mars 2026, la revue de vulgarisation scientifique Science&Vie a listé les grands risques liés aux IA : des comportements déviants (il leur arrive de se surestimer, de ruser, de tricher, de mentir, de faire du chantage et elles n’ont pas de limites) ; des impacts sociétaux et environnementaux croissants ; des utilisations malveillantes. Face à ces dangers, de nombreuses voix s’élèvent. Il y a bien sûr celles d’experts qui, inquiets, appellent au développement d’outils permettant à l’humanité de garder le contrôle pour éviter le pire. Mais il y a aussi, depuis peu, la voix du chef de l’Église catholique et celle d’une partie du clan Maga, aux États-Unis…

Si l’on en croit Katja Grace, la cofondatrice du projet AI Impacts, citée par Science&Vie, « entre 38% et 51% des experts en IA estiment qu’il y a 10% de risque que cette technologie conduise à la fin de l’humanité » (alors même, précise la revue, que « la probabilité qu’une météorite massive s’écrase sur Terre (…) est de 1 pour 100 millions »). Face aux potentialités et aux dangers vertigineux des IA, le pape Léon XIV, mais aussi soixante-un partisans de Donald Trump emmenés par Amy Kremer, membre du Comité national républicain, et Steve Bannon, ancien conseiller du président, se sont invités dans le débat au cours de ce printemps.

L’encyclique Magnifica humanitas

Le 25 mai dernier, le Vatican a rendu public la première encyclique du nouveau pape. 135 ans après le texte Rerum novarum rédigé par son lointain prédécesseur Léon XIII, qui présentait la Doctrine sociale de l’Église, Léon XIV a choisi de consacrer les 134 pages de son texte à « la protection de la personne humaine à l’heure de l’intelligence artificielle ». Mais c’est surtout dans le chapitre 3 (sur un total de cinq) qu’il aborde vraiment la difficile question des IA (qui font déjà partie de notre présent), en invitant chacun à se poser la question - fondamentale - : « Que sommes-nous en train de construire ? »

En 2025, pour les seuls États-Unis, 375 milliards de dollars ont été consacrés aux systèmes que le pape qualifie de « prétendues intelligences artificielles » qui ne sauraient être assimilées à l’intelligence humaine. Cette année, les investissements devraient s’élever à 500 milliards ! Cet afflux considérable d’argent soutient et favorise l’augmentation rapide de leurs capacités ainsi que leur développement spectaculaire. Chaque semaine, 700 millions de personnes utilisent ChatGPT. En 2030, on estime qu’elles seront 2,6 milliards…

Face à cette nouvelle réalité, Léon XIV, naturellement, appelle « à la prudence, à des contrôles rigoureux et parfois même à un ralentissement dans l’adoption de l’IA ». Il souligne « l’urgence d’un double engagement : d’une part, un approfondissement de la recherche scientifique ; d’autre part, un exercice de discernement moral et spirituel ». Son objectif est de « désarmer l’IA », c’est-à-dire d’« empêcher la technologie de dominer l’humain ». Il veut « la soustraire à la logique de compétition armée, (…) la soustraire aux monopoles, la rendre discutable, contestable, et donc habitable, en la restituant à la pluralité des cultures humaines et des formes de vie ». Il s’agit de préserver le « primat de la personne, afin que ce soit toujours l’intelligence humaine, avec sa conscience et sa liberté, qui guide les innovations techniques et en établisse avec responsabilité les usages et les limites ».

Pour le pape, ces systèmes peuvent certes « être une aide précieuse », mais ils nécessitent « une approche mesurée et vigilante » ; d’autant qu’ils ne sont ni anodins ni neutres : ils « reflètent les paramètres culturels de ceux qui les ont conçus et formés, avec toutes leurs qualités et leurs défauts » et ont un « impact environnemental » certain. De plus, ils concentrent un pouvoir considérable « entre quelques mains » ; en l’occurrence, celles « de grands acteurs économiques et technologiques ». Aussi Léon XIV préconise-t-il de passer « ce nouveau scénario » au crible des « grands principes de la Doctrine sociale de l’Église : la dignité inaliénable de la personne, le bien commun, la destination universelle des biens, la subsidiarité, la solidarité et la justice sociale ».

Il réclame « des cadres juridiques adéquats, une surveillance indépendante, l’éducation des utilisateurs, une politique qui n’abdique pas son devoir » ; c’est-à-dire « une politique plus présente, capable de ralentir là où tout s’accélère et de protéger les espaces où les communautés peuvent encore participer et s’interroger ».

Le Saint-Père se prononce également pour une définition claire des responsabilités à chaque étape (« depuis ceux qui conçoivent et programment les systèmes jusqu’à ceux qui les utilisent ou ceux qui décident de leur confier des choix concrets ») afin qu’il soit possible « d’identifier qui doit "rendre compte" des décisions, les motiver, les contrôler et, si nécessaire, les contester et réparer les dommages qui en dérivent ».

L’adresse d’Amy Kremer et Steve Bannon à Donald Trump

Le titre que lui ont donné ses auteurs est explicite : « Lettre de la coalition en faveur du projet de décret du président Trump visant à rendre obligatoires les tests préalables au déploiement des systèmes de pointe ».

Marlène Laruelle, professeur à la libre université internationale des études sociales de Rome et fondatrice du "programme d’études de l’illibéralisme¹" à l’université Georges-Washington, aux États-Unis, a traduit, commenté et mis en ligne cette lettre le jour même de sa publication, le 15 mai, sur le site de la revue Le Grand Continent.

Le texte lui est apparu suffisamment important pour qu’elle le qualifie de « document fondateur de l’insurrection national-populiste contre l’IA ». L’analyse qu’elle en fait a tout pour attirer notre attention et susciter notre intérêt.

Elle écrit en effet : « Steve Bannon se dit aujourd’hui convaincu qu’un nouveau clivage est en train de redéfinir le paysage politique : l’humain contre la machine ». Dans cette missive, « l’inventeur du mouvement MAGA et apôtre de la doctrine "America First" » définit donc « d’une manière très approximative une nouvelle doctrine : Humans First ». Il « appelle à un changement radical au sein du pouvoir trumpiste ». Il « propose (…) que le mouvement MAGA reprenne la main sur le deuxième mandat » du président, « en dénonçant l’emprise des élites de la Silicon Valley sur le processus décisionnel » ainsi que « l’idéologie néoréactionnaire que plusieurs d’entre eux professent ».

Dans cette lettre, les soixante-et-un signataires appellent le président à continuer de « faire passer la sécurité, la liberté et la grandeur du peuple américain avant les intérêts des élites corporatistes et mondialistes » non élues. Ils l’exhortent à prendre effectivement, comme il envisage de le faire, « des mesures décisives » que le reste du monde pourra reprendre (c’est-à-dire « des tests obligatoires, une évaluation, une vérification et l’approbation gouvernementale »), afin de « garantir que les systèmes d’IA les plus puissants au monde soient correctement contrôlés avant qu’ils ne puissent menacer (la) sécurité nationale, (les) enfants, les travailleurs (…) et le mode de vie » américains.

1. Selon la définition qu’en a donnée Marlène Laruelle au journal Le Monde, en septembre 2023, l’illibéralisme est « un univers idéologique de droite qui estime que le libéralisme, entendu comme un projet politique centré sur la liberté individuelle et les droits humains, est allé trop loin. Ce projet s’accompagne de positions politiques plus ou moins clairement établies, s’appuyant généralement sur le souverainisme et la défense de la majorité contre les minorités. La nation est conçue de façon homogène et les hiérarchies traditionnelles sont célébrées».