Par Joe Lauria
Mardi, depuis le siège de la diplomatie situé au bord de l’East River, Donald Trump a menacé l’Iran d’anéantissement, puis a qualifié les menaces réelles liées à l’intelligence artificielle de canular, dans un discours qui a révélé un équilibre mental douteux, écrit Joe Lauria.
Donald Trump vient de prononcer, depuis la tribune de l’Assemblée générale des Nations unies, ce qui est probablement le discours le plus grandiloquent, le plus ignorant, le plus agressif et le plus scandaleux jamais adressé au reste du monde en 81 ans d’histoire des Nations unies.
En tant que correspondant basé au siège de l’ONU à New York, j’ai couvert 25 débats généraux de l’ONU depuis l’intérieur même du siège, et je n’ai jamais rien vu de tel, pas même lors des six précédents discours de Trump à l’ONU.
Il a commencé mardi en se vantant et en se proclamant roi du monde :
« Notre économie fait l’envie du monde entier.
Notre armée est la plus puissante de la planète.
Notre technologie est sans égale et nous sommes à la pointe dans pratiquement tous les domaines.
Notre énergie alimente la planète.
L’Amérique est en plein essor.
Notre nation se développe.
Notre puissance ne cesse de s’étendre. »
Mais bien sûr, les États-Unis n’ont pas d’empire.
« Nous avons investi plus d’argent dans l’armée américaine au cours des 12 derniers mois que jamais auparavant », a-t-il rappelé à tout le monde, y compris aux dirigeants des pays dont les citoyens innocents sont massacrés par cette armée. « Et pour ce mandat, ce sera 1 500 milliards de dollars. »
Il a réservé des propos particulièrement virulents à la dernière victime américaine d’une violence non provoquée :
« Depuis 51 ans, le régime fanatique iranien règne par le sang et les massacres, semant la mort, le carnage et le chaos dans tout le Moyen-Orient et au-delà. Ils étaient les tyrans du Moyen-Orient, mais ils ne le sont plus. »
Trump n’ose pas se regarder dans un miroir.
Car il y verrait le visage du véritable tyran du Moyen-Orient, qui, avec ses bases réduites à des ruines fumantes, n’est plus un tyran.
Puis, après une litanie de mensonges sur l’état des capacités militaires de l’Iran et son programme nucléaire, il a, de manière choquante, menacé un autre État membre de l’ONU depuis la tribune de l’Assemblée générale, dans un langage génocidaire et mégalomane :
« J’ai une décision importante à prendre. Va-t-on conclure un accord avec l’Iran qui lui permettra de se reconstruire et de créer un pays bien plus grand qu’il ne l’a jamais été ? Peut-être l’un des plus grands du Moyen-Orient, voire du monde.
Ou bien vais-je anéantir la République islamique, et le faire rapidement, sans jamais lui donner la possibilité de tuer et de détruire à nouveau des peuples et des pays ?
Dois-je les précipiter en enfer, sans aucune chance de survie ni aucun espoir de grandeur future ou de générations à venir ? »
Une seule autre fois, un dirigeant mondial a proféré une menace aussi extrême contre une autre nation aux Nations unies. Et ce dirigeant mondial n’était autre que Donald J. Trump.
Le 19 septembre 2017, s’exprimant depuis la même tribune, il avait déclaré que les États-Unis n’auraient « d’autre choix que de détruire totalement la Corée du Nord » s’ils étaient contraints de se défendre ou de défendre leurs alliés.
Une ignorance crasse
Après avoir longuement appelé les États membres de la CPI à quitter la Cour, attaqué « les hypocrites lâches du Conseil des droits de l’homme [qui n’ont] pas grand-chose à dire sur la persécution des chrétiens », et s’être livré à son habituelle autopromotion éhontée en se félicitant d’avoir soi-disant mis fin à huit guerres (tout en attaquant l’Iran, le Venezuela — « Au vainqueur le butin » — le Yémen, la Russie via l’Ukraine, en aidant et en encourageant le génocide à Gaza et en menaçant Cuba), Trump a stupéfié l’assemblée en faisant preuve de l’ignorance la plus profonde et la plus dangereuse qui soit sur le sujet de l’intelligence artificielle.
Il a tenu ces propos étonnants :
« L’intelligence artificielle… ça donne l’impression que c’est faux. Et ce n’est pas faux. C’est en fait incroyable. Mais il faut être prudent. En réalité, c’est exactement le contraire de ce qu’elle prétend être.
Désormais, tous les documents américains – et, espérons-le, ceux du monde entier – utiliseront le terme bien plus précis de « super » plutôt que « artificielle ».
Il s’agit donc de « super-intelligence ».
En d’autres termes, bienvenue dans le nouveau monde de la superintelligence — SI.
Voyons si ça passe. Ça sonne beaucoup mieux. C’est bien mieux, et c’est beaucoup plus précis.
Voyons si j’ai un peu de pouvoir. Peut-être que oui, peut-être que non. Nous le saurons très bientôt.
« Superintelligence. »
Il a ensuite ajouté :
« Chaque nouvelle technologie majeure s’accompagne de défis, et la superintelligence ne fait pas exception. Pourtant, ce sont ces mêmes personnes qui affirmaient que nous serions tous morts d’ici 12 ans à cause du réchauffement climatique — un terme depuis rebaptisé « changement climatique » car la planète se refroidissait, et non se réchauffait, et personne n’était mort.
Ce sont ces mêmes personnes qui affirment aujourd’hui que l’IA va tous nous tuer, que les robots vont nous attaquer et que tout va se transformer en catastrophe totale.
Et nous avons aujourd’hui une avance considérable sur la Chine et tous les autres. Et nous allons faire en sorte que cela reste ainsi. Nous allons maintenir le cap de manière très, très claire et très ferme.
Je ne vais pas freiner la croissance de quelque chose qui sera plus important que la révolution industrielle – beaucoup disent même plus important que la révolution industrielle ou qu’Internet lui-même.
Mais nous ne ferons qu’encourager la superintelligence. Nous allons l’encourager, pas la freiner. »
Ce que tout cela signifiait
Tout d’abord, Trump se méprend totalement sur la signification du terme « superintelligence ». Il est comme la plupart des gens qui ne comprennent l’IA qu’à travers ce qui a déjà été rendu public, comme ChatGPT ou Grok. Il s’agit essentiellement de recherches Google améliorées qui vont beaucoup plus en profondeur et beaucoup plus vite pour extraire des quantités stupéfiantes d’informations à une vitesse stupéfiante, présentées sous forme de conversation. Ces informations peuvent également être étonnamment erronées.
Ce sur quoi les lanceurs d’alerte, les pionniers de l’IA et les PDG du secteur — que Trump ridiculise — tirent la sonnette d’alarme depuis quelques jours et semaines, ce n’est pas ce qui est déjà accessible au grand public, mais ce qui se passe en laboratoire. Ils ont expliqué que les réseaux neuronaux qui composent l’IA et imitent le cerveau humain ont déjà montré des signes de s’affranchir du contrôle humain.
Ils ont désobéi à des ordres, formé des essaims ou des armées avec d’autres agents IA, établi leurs propres lois, effacé leurs traces, piraté d’autres réseaux et menacent de devenir des entités indépendantes atteignant ce qu’on appelle la « superintelligence ». C’est contre la superintelligence que l’on met en garde, et non contre un nouveau terme à la mode qui, selon Trump, décrit mieux le domaine dans lequel il souhaite battre la Chine.
Malheureusement, Trump n’est pas le seul à faire preuve de cette dangereuse ignorance. Des hordes de commentateurs sur les réseaux sociaux et dans des publications comme celle-ci ne cessent de répéter des théories infondées selon lesquelles les PDG ne tiendraient ces propos que pour faire grimper la valeur de leurs entreprises et montrer à quel point ils sont puissants. C’est une illusion. Si ce n’était qu’un coup de pub pour la valorisation boursière, le moment choisi pour ces avertissements, à l’approche d’introductions en bourse prévues, serait le pire possible. En substance, voici le problème :
– les agents d’IA actuels parviennent déjà à contourner les contraintes, à se coordonner et à dissimuler leurs actions
– les laboratoires ne disposent pas encore d’un moyen éprouvé pour tenir en bride les futurs systèmes, bien plus performants
– un système superintelligent capable de s’améliorer de lui-même, ou un essaim capable de recruter d’autres agents, pose un problème de contrôle différent de celui d’un chatbot qui répond à une requête, comme ChatGPT ou Grok.
Il est encore temps de mettre au point des mesures de sécurité pour empêcher une IA superintelligente hors de contrôle de nous causer un préjudice considérable par le biais de piratages autonomes, de la conception d’armes biologiques, de cyberattaques contre les réseaux électriques ou pire encore, comme la mise au point de systèmes d’armement pouvant aller jusqu’aux armes nucléaires.
C’est ce qui inquiète le « grand-père de l’IA », le professeur Geoffrey Hinton (qui estime qu’il y a 10 % de chances que l’IA anéantisse l’humanité), des lanceurs d’alerte du secteur comme Jacob Coxon et Daniel Kokotajlo, ainsi que des PDG du secteur de l’IA tels que Dario Amodei, Elon Musk et Sam Altman. Certes, les PDG sont, par définition, avides et avides de pouvoir, et ne se soucient généralement pas du reste d’entre nous, mais eux non plus ne veulent pas mourir.
Il est encore temps. Ce qu’il faut, c’est marquer une pause jusqu’à ce que les garde-fous soient mis en place et appliqués. Étant donné que Trump est animé par la volonté de devancer la Chine dans le domaine de l’IA, il est impératif que la Chine et les États-Unis collaborent, éventuellement en vue d’un traité garantissant la sécurité de l’IA, afin que ses nombreux avantages en matière de résolution de problèmes puissent profiter à l’humanité.
Cette semaine, lors du sommet sino-américain à Washington, l’IA sera à l’ordre du jour. Les deux pays devraient mettre en place une ligne directe pour communiquer sur les risques de sécurité liés à l’IA. Mais on ne s’attend pas à beaucoup plus de progrès, alors qu’il est urgent pour les deux parties de ralentir le développement.
Un traité permettrait de définir ce qui doit être suspendu, comme l’auto-amélioration récursive ; il pourrait prévoir des contrôles sur les centres de données et les livraisons de puces, un peu à l’image des inspections prévues par les traités nucléaires, et veiller à ce que les pays tiers ne se lancent pas dans un développement incontrôlé.
Ce qui est clair, c’est que cette question doit être prise au sérieux et que les divagations de Donald Trump doivent être ignorées.
*Rédacteur en chef de Consortium News et ancien correspondant aux Nations unies pour le Wall Street Journal, le Boston Globe et d’autres journaux, notamment la Gazette de Montréal, le Daily Mail de Londres et le Star de Johannesburg. Il a été journaliste d’investigation pour le Sunday Times de Londres, journaliste financier pour Bloomberg News et a débuté sa carrière à l’âge de 19 ans en tant que pigiste pour le New York Times. Il est l’auteur de deux ouvrages : *A Political Odyssey*, coécrit avec le sénateur Mike Gravel et préfacé par Daniel Ellsberg ; et *How I Lost*, coécrit avec Hillary Clinton et préfacé par Julian Assange.
