Étiquettes

, ,

Par John et Nisha Whitehead

D’abord, une panne massive chez Microsoft . Puis, une paralysie générale du trafic aérien qui a perturbé des milliers de vols. Ensuite, de grandes banques ont rencontré des problèmes avec leurs systèmes en ligne. Puis, United Airlines a immobilisé ses vols au départ. Puis, des informations ont fait état d’une panne du réseau hautement confidentiel utilisé par la NSA pour ses communications internes . Enfin, Apple est venu s’ajouter à la liste grandissante des géants de la technologie confrontés à des perturbations généralisées.

Pannes à répétition. Des millions d’Américains prennent conscience de leur dépendance quotidienne à des technologies qu’ils ne comprennent ni ne maîtrisent.

Voilà ce qui arrive quand la technologie déraille.

Ou pas ?

Que le coupable soit l’intelligence artificielle, des cyberattaquants, du matériel obsolète, une mauvaise planification, un entretien inadéquat ou une erreur humaine, le problème de fond demeure.

Qui est responsable lorsque les systèmes technologiques dont dépend la société commencent à dysfonctionner ?

Nous nous sommes posé les mauvaises questions concernant l’intelligence artificielle.

Le véritable danger ne réside peut-être pas dans le fait que les machines puissent devenir plus intelligentes que les êtres humains.

Peut-être est-ce la soif de pouvoir propre à l’être humain — et notre volonté de céder le contrôle à ceux qui le détiennent.

Hollywood nous met en garde depuis des décennies contre les machines qui pourraient un jour devenir si intelligentes, si indépendantes et si puissantes qu’elles n’auraient plus besoin des êtres humains.

Dans 2001 : L’Odyssée de l’espace de Stanley Kubrick , l’ordinateur HAL 9000, apparemment infaillible, se retourne contre les astronautes qui lui ont confié leur vie.

Pourtant, la vision la plus troublante pourrait bien provenir d’une source inattendue : le film d’animation pour enfants de Pixar, WALL-E . Dans WALL-E , l’humanité a abandonné une Terre devenue inhabitable et s’est réfugiée dans un immense vaisseau spatial où presque tous les besoins humains sont anticipés et satisfaits par des machines.

Les gens ne marchent plus. Ils ne travaillent plus. Ils remarquent à peine le monde qui les entoure. Ils sont devenus des consommateurs passifs de leur propre existence.

Cette distinction est révélatrice.

Dans 2001 , l’Odyssée de l’espace, le cauchemar est une machine qui refuse de lâcher prise. Dans WALL-E , le cauchemar est une humanité qui a oublié comment la maîtriser. Les deux films aboutissent à une vérité troublante : la technologie devient dangereuse lorsque les êtres humains cessent d’exercer un contrôle réel sur elle.

Et c’est là que réside le problème : nous avons confondu progrès technologique et progrès humain.

De la bombe atomique aux ordinateurs, en passant par Internet et les caméras de surveillance, les technologies développées dans un but précis ont été maintes fois transformées en instruments de destruction et de contrôle.

Et aujourd’hui, l’intelligence artificielle menace d’amplifier toutes ces capacités, permettant aux gouvernements, aux entreprises et aux criminels de surveiller, de manipuler et de contrôler le comportement humain à une échelle sans précédent.

La technologie est peut-être nouvelle, mais les pulsions humaines qui en sont à l’origine sont aussi vieilles que la civilisation elle-même.

Prenons l’exemple du dernier avertissement du FBI concernant ARTEX , un outil d’intelligence artificielle initialement développé pour aider les professionnels de la cybersécurité à identifier les failles des réseaux informatiques.

Entre les mains des cybercriminels, cette même technologie est devenue une arme.

Parallèlement, le groupe de veille sur les menaces de Google avertit que les acteurs malveillants déploient de plus en plus de systèmes d’IA autonomes capables d’identifier les vulnérabilités et de mener des attaques à la vitesse de la machine , avec une intervention humaine considérablement réduite.

Les machines n’ont pas soudainement développé des intentions criminelles. Ce sont les êtres humains qui ont créé les outils, identifié les cibles et mis les systèmes en marche.

L’intelligence artificielle n’a pas éliminé la cupidité, l’arrogance ni la soif de pouvoir humaines. Elle a simplement amplifié ces pulsions, leur donnant une plus grande portée, une plus grande rapidité et une plus grande puissance.

Et nous ne pouvons surtout pas nous permettre d’ignorer ceux qui utilisent ces technologies au nom du gouvernement.

Mais les ordinateurs peuvent se tromper. Les algorithmes peuvent être biaisés. Les bases de données peuvent contenir des erreurs. Les systèmes automatisés peuvent perpétuer et amplifier les erreurs, les préjugés et les agendas politiques de ceux qui les conçoivent et les exploitent.

Le gouvernement n’acquiert pas d’exemption constitutionnelle du seul fait que ses abus sont commis par un ordinateur plutôt que par un être humain. Bien au contraire, plus la technologie est puissante, plus il est nécessaire d’imposer des limites significatives à ceux qui la contrôlent.

Il y a cinquante ans, la commission Church du Sénat a révélé de nombreux abus commis par les agences de renseignement américaines , notamment des opérations de surveillance dirigées contre des citoyens exerçant leurs droits constitutionnels.

L’avertissement était sans équivoque : le pouvoir gouvernemental, surtout lorsqu’il est exercé secrètement et sans contrôle effectif, peut devenir une menace directe pour les libertés qu’il est censé protéger.

Pourtant, les questions constitutionnelles restent les mêmes.

Qui surveille les surveillants ? Qui demande des comptes au gouvernement lorsqu’il utilise la technologie pour contourner les freins constitutionnels censés limiter son pouvoir ?

Il y a quarante ans, en 1986, j’ai exploré bon nombre de ces préoccupations dans mon livre La Fin de l’Homme .

Le problème n’était pas seulement que les ordinateurs puissent un jour devenir suffisamment puissants pour dominer la société. Il s’agissait plutôt de constater que les êtres humains eux-mêmes étaient de plus en plus réduits à des systèmes d’information, à des objets à classer, à étudier, à gérer et à manipuler.

Comme je l’avais prévenu à l’époque : « L’homme n’est pas une machine. »

C’est précisément pourquoi la Constitution est importante.

La Déclaration des droits a été rédigée pour un monde dans lequel on ne pouvait pas toujours faire confiance aux êtres humains, investis du pouvoir, pour l’exercer de manière responsable.

L’avidité reste l’avidité. L’arrogance reste l’arrogance. Et la tyrannie ne devient pas moins dangereuse simplement parce qu’elle est administrée par un algorithme.

Dans La Fin de l’Homme , j’ai également envisagé un avenir où les créations technologiques de l’humanité pourraient devenir si puissantes qu’elles prétendraient se substituer à Dieu. J’écrivais :

Si tout se déroule comme prévu pour les êtres dotés d’IA, on peut imaginer et s’attendre à un avenir « métallique ». Cela pourrait ressembler à ceci : dans un avant-poste isolé d’un futur lointain où tous les ordinateurs de l’univers sont interconnectés, un serviteur humain, l’air sombre, demande : « Dieu existe-t-il ? » Les ordinateurs, le réprimandant pour son insolence, répondent : « Désormais, oui. »

Avance rapide jusqu’en 2021, lorsque Mo Gawdat, un ancien cadre de Google, a mis en garde contre le pouvoir extraordinaire de l’intelligence artificielle : « La réalité est que nous sommes en train de créer Dieu. »

Mais le plus grand danger n’est peut-être pas que les machines deviennent des dieux.

C’est que les êtres humains, dans leur arrogance et leur soif de pouvoir, commenceront à agir comme s’ils étaient eux-mêmes des dieux.

Quarante ans après La Fin de l’Homme , la question qui se pose à l’humanité n’est pas simplement de savoir à quel point nos machines deviendront intelligentes. Il s’agit de savoir quelle part de notre propre humanité nous sommes prêts à sacrifier dans la quête du progrès technologique.

Le plus grand danger ne viendra peut-être pas d’une machine qui apprend à penser comme un être humain.

Cela peut venir d’êtres humains qui cessent de penser, de se poser des questions, de résister et d’assumer la responsabilité du monde qu’ils créent.

Au final, ce ne sont peut-être pas les machines qui causeront la fin de l’humanité.

Nous pouvons y parvenir seuls.

L’avocat constitutionnaliste et auteur John W. Whitehead est le fondateur et président du Rutherford Institute . Parmi ses ouvrages les plus récents figurent le best-seller * Battlefield America : The War on the American People* , le livre primé * A Government of Wolves : The Emerging American Police State* , et son premier roman dystopique, * The Erik Blair Diaries *.

The Rutherford Institute