IA : Une commission du Congrès américain recommande à l’armée de développer des armes autonomes

Source : Consortium News, Michael Brenner

Traduit par les lecteurs du site Les Crises

Michael Brenner réfléchit aux admonitions militaires des principaux dirigeants de la Silicon Valley.

Une commission nommé par le Congrès, appelée la Commission nationale de sécurité sur l’Intelligence artificielle, recommande que l’armée américaine lance un programme majeur pour développer des armes autonomes pilotées par des logiciels d’intelligence artificielle (IA).

La commission, dirigée par l’ancien directeur général de Google, Eric Schmidt, a préparé un rapport qui préconise une dépense de 20 à 30 milliards de dollars pour faire avancer le programme.

Il faut qu’un ensemble de choses se produisent en Amérique pour qu’elle maintienne son leadership mondial… #l’IA est la #technologie qui tire notre production économique… et nous devons faire tout ce qu’il faut… Ce n’est pas tant l’argent qu’il faut que l’alignement des forces. – #NSCAI Chairman @EricSchmidt

Son vice-président, Robert Work, ancien vice-secrétaire à la défense, a déclaré que les armes autonomes sont censées faire moins d’erreurs que les humains au combat, ce qui entraîne une réduction des pertes. « C’est un impératif moral de poursuivre au moins cette hypothèse », a-t-il déclaré.

Le projet de rapport recommande que Washington « adopte l’IA pour changer la façon dont nous défendons l’Amérique, dissuadons les adversaires, utilisons le renseignement pour donner un sens au monde, et combattons et gagnons des guerres. » (Le travail se fait au sein du conseil d’administration de Raytheon, et du conseil consultatif de Govini, une grande société de données et d’analyse qui s’est engagée à transformer les activités du gouvernement par le biais de la science des données).

Les impératifs moraux catégoriques d’en haut m’ont échappé en grandissant. Le coût d’une jeunesse mal employée. Comment j’enviais notre voisin écossais vieillissant qui m’a régalé avec les histoires de son enfance sur ses rites calvinistes à Dunfermline. Là-bas, à l’église tous les dimanches, un prédicateur austère à la rectitude sévère lui inculquait la juste obligation de s’améliorer. Contrairement à ces jeunes expériences spirituelles édifiantes, je me suis éloigné du Jour du Seigneur en me prélassant devant la télévision à regarder des matchs.

Je suis donc reconnaissant aux plus brillants esprits de la Silicon Valley de m’avoir rappelé que j’ai un « impératif moral » de soutenir la dépense de quelques dizaines de milliards pour des armes dirigées par une intelligence artificielle qui ne tuent que ceux qui le méritent, c’est-à-dire les « élus » choisis par Washington. J’ai maintenant la cause morale qui m’a manquée pendant toutes ces années – son absence étant la source de mon hésitation sur les questions de mort violente et de destruction.

@EricSchmidt

« Je propose… que nous adoptions les recommandations de la commission #IA, qui seront publiées le 1er mars. » – Président de la commission #NSCAI @EricSchmidt

Certes, certaines habitudes de pensée malheureuses résistent avec ténacité à un déracinement total. La propension à confronter des doctrines militaires basées sur la foi à la réalité est l’une d’entre elles. Des questions gênantes surgissent sans cesse pour entraver ma progression sur la voie de la vérité éthique et de la rédemption. Par conséquent, je vous demande instamment de m’aider à dissiper ces doutes. Les voici, sous forme résumée.

N° 1 La doctrine choc et effroi : le bombardement de centaines de sites à travers l’Irak en mars 2003 avait pour but de pousser les dirigeants irakiens à se rendre et préparer le terrain pour l’invasion. De grands bâtiments, installations et complexes ont été détruits, faisant des milliers de victimes. Question : comment les systèmes d’armes de l’IA auraient-ils affecté cette stratégie ? Existe-t-il une version plus précise de choc et effroi qui ait le même impact psychologique et militaire ?

N°2 Fallujah : au cours de la guerre, les forces américaines ont rasé la plus grande partie de Fallujah – par deux fois, entraînant une centaine de milliers de personnes dans le désert. Question : étant donné que l’ennemi était dispersé dans toute la ville, et camouflé, quelle aurait été la capacité des systèmes d’IA à identifier les cibles appropriées par des recherches algorithmiques dans les banques de données pour chercher des correspondances rétiniennes, des reconnaissances faciales, etc. Comment les civils ont-ils pu être avertis par les gars de Fort Meade [un quartier général de l’armée américaine, NdT] et du Commandement central qu’il n’y avait pas de correspondance pour eux et qu’ils pouvaient rester chez eux en toute sécurité en regardant les vidéos de l’assaut sur leurs téléviseurs ?

N° 3 Mossoul & Raqqa : dans la campagne contre l’Etat islamique, nous avons rasé la plus grande partie de Mossoul et de Raqqa. Les Marines à eux seuls ont tiré plus de 20 000 obus d’artillerie sur Mossoul, une ville densément peuplée de plus d’un million d’habitants. L’armée de l’air a effectué plus de 30 000 missions de combat. L’armée de l’air française, l’armée de l’air irakienne, l’armée nationale et la milice chiite ont également tiré sur la ville.

Malgré toute cette puissance de feu, il a fallu plusieurs semaines pour débarrasser Mossoul des combattants de l’EI. Les victimes civiles et les réfugiés ont été trop nombreux pour être comptés. Question : comment l’IA nous aurait-elle permis d’atteindre les mêmes objectifs de manière adéquate, compte tenu des tactiques d’évasion de l’EI qui étaient bien plus complexes que celles rencontrées à Falloujah ?

(L’autre alternative pour prendre une zone urbaine est de combattre maison après maison avec seulement un soutien limité de l’artillerie et de l’air. Cela signifie, bien sûr, des pertes plus élevées pour les troupes de combat. Raser une ville revient en effet à remplacer les pertes militaires au sein de la force d’attaque par des pertes civiles, à un ratio de 10 pour 1 ou 20 pour 1 ?)

N° 4 La Libye : ici, les Etats-Unis ont fourni la majeure partie de la puissance de feu pour renverser et tuer le leader du pays, Mouammar Kadhafi. Une fois son emprise relâchée, le pays a succombé à une décennie de conflits multipartites presque continuels, avec dans son sillage la mort, la dévastation et la dislocation massive. Actuellement, la scène politique est dominée par la lutte pour le pouvoir entre deux coalitions en guerre.

L’une d’elles, basé à Tripoli, a été installée par Washington et ses alliés, et a un statut formel de gouvernement internationalement reconnu. L’autre, centrée dans la ville de Benghazi, dans l’est du pays, est dirigée par le général Khalifa Haftar qui a gagné les faveurs de la population en battant certaines des milices djihadistes qui ont fleuri depuis la mort de Kadhafi. La première est soutenue par l’Arabie saoudite, les émirats et surtout le leader turc Recep Erdogan, qui a transféré depuis la Syrie des milliers de ses représentants d’Al-Qaïda, d’e l’EI et d’autres militants.

Tripoli elle-même est dominée par les islamistes. Haftar est soutenu par l’Égypte voisine, la Jordanie, la Russie et la France. Diverses milices tribales et mouvements jihadistes parcourent le vaste territoire de la Libye. Les États-Unis ont récemment fait preuve d’un soutien équivoque tout en exhortant les deux parties à parvenir à un compromis – sans grand succès. Question : Washington fournit des armes, directement ou indirectement, à TOUTES les parties mentionnées ci-dessus – à l’exception des milices islamistes. Son influence augmenterait-elle et ses objectifs auraient-ils plus de chances d’être atteints si ces livraisons d’armes incluaient des systèmes d’armes IA ?

N° 5 Yémen : Le massacre et la famine des Houthis sous la direction des Saoudiens a dépendu de manière cruciale de la participation de l’armée américaine. Leur campagne aurait été impossible sans les avions américains fournissant le ravitaillement en carburant, les officiers américains postés au quartier général du commandement saoudien pour diriger le ciblage et les renseignements américains. De plus, nous leur avons fourni les plus récentes bombes et missiles « intelligents ». Nous avons également contribué à faire respecter le blocus qui privait la population de nourriture et de médicaments. L’intention saoudienne a été de contraindre les Houthis à se soumettre en causant le plus de misère possible. Question : comment l’utilisation intensive de systèmes d’armes IA aurait-elle pu changer tout cela ? Les « cibles » critiques ne seraient-elles pas situées à Washington, Tampa et Riyad, qui sont facilement accessibles à des armes ne provenant pas de l’IA ?

N° 6 La guerre du Vietnam : Il s’agissait d’un conflit entre une insurrection à l’échelle du pays et une campagne massive de contre-insurrection. Une grande partie de la stratégie américaine a visé à priver le Viêt-cong de son sanctuaire en détruisant de grandes zones de végétation (avec l’agent orange) et en forçant les civils à quitter de vastes étendues de territoire déclarées zones de « feu libre ». La possession d’armes IA aurait-elle modifié de manière substantielle la conduite de la guerre, le nombre de victimes et son issue ? Comment ?

N° 7 Deuxième Guerre mondiale : Le quadrillage des villes par des tapis de bombes est devenu la norme. Il a culminé à Hiroshima et Nagasaki. Les pertes civiles lors des premiers bombardements de Tokyo ont été presque aussi élevées. Les raids aériens contre Hambourg et Dresde ont également fait des victimes. Ils avaient tous pour objectif de saper le moral de l’ennemi, de paralyser la production industrielle – et de satisfaire la soif de vengeance contre les attaques aériennes allemandes sur Londres, Coventry, Rotterdam et les atrocités japonaises. (Comme l’invasion de l’Irak était une vengeance pour le 11 septembre). Question : si nous avions eu accès à des armes IA à l’époque, cette façon de penser aurait-elle été différente et les actions auraient-elles été différentes ?

Une réflexion sur ces questions nous amène à trois conclusions claires :

N° 1 Le déploiement généralisé d’armes dirigées par l’intelligence artificielle n’aura pas d’effet sensible sur les décisions concernant l’utilisation de la force militaire, la conduite de la guerre ou ses conséquences.

N° 2 Si l’on examine l’histoire des guerres, ou si l’on limite notre réflexion aux guerres récentes au Moyen-Orient impliquant les États-Unis, la fraction des pertes civiles qui pourrait être réduite par l’utilisation d’armes issues de l’IA est très faible. Les actes de guerre qui produisent la grande majorité des victimes ne sont pas d’un type qui permette de remplacer à grande échelle les armes de l’IA. *

(Les armes dirigées par l’IA seront – quand même – développées, déployées et utilisées à un rythme accéléré. À notre époque post-moderne, toute innovation de haute technologie associée à des gadgets électroniques bénéficie d’une prétention présumée à une utilité, une valeur et une vertu supérieures).

N° 3 L’innovation associée aux armes de l’IA, comme les drones et l’armée des volontaires, pourrait encourager l’activisme militaire en promettant moins de pertes américaines. Le bilan net, cependant, pourrait bien être plus de morts et de destructions nettes dans l’ensemble.

Il y a plusieurs années, j’ai assisté aux cérémonies du Jour de la république à New Delhi. J’avais un siège au bord du trottoir pendant le défilé conduit par Nehru et son cabinet, le long du grand chemin du Raj, du palais présidentiel (Rashtrapati Bhavan) à la Porte de l’Inde. Ils étaient suivis d’autres dignitaires, de chars, puis d’une impressionnante cavalerie à turban en tenue magnifique. Un spectacle digne d’un Durbar impérial. En effet, Lutyens avait conçu tout cela pour honorer l’Immortel Raj britannique.

À la toute fin du cortège, à une distance respectable des cavaliers, se trouvait un peloton moins glamour de balayeurs vêtus de kaki : ils utilisaient des balais de paille pour nettoyer le fumier laissé par le défilé.

Le monde politique d’aujourd’hui nous rappelle des souvenirs de cette nature dans la mesure où nous sommes constamment confrontés à une énorme quantité de conneries à la suite du dernier méga-événement, et à des quantités moindres après des événements plus petits. Les recommandations urgentes du rapport sur l’IA de la Commission entrent dans cette dernière catégorie, mais ne manquent pas de piquant.

Dans l’ensemble, il existe un déséquilibre entre la production et l’élimination. La capacité de pelletage n’a pas suivi. Le dilemme pour les commentateurs est placé dans la position des balayeurs ‘intouchables‘ de New Delhi qui doivent faire le sale boulot de garder l’espace public libre de toute matière odorante.

La répétition rend la tâche d’autant plus pénible. C’est comme si la brigade légère de 800 hommes, commandée par notre lord Cardigans local, passait chaque jour en marche vers la Vallée de la Mort. Oui – quelqu’un doit le faire, les intouchables n’existent pas, et la meilleure solution serait de mettre les « chevaux » à l’écurie. La probabilité que l’événement ultime se produise à tout moment dans un avenir prévisible est nulle.

Je me suis personnellement mis à l’écart. Ainsi, au lieu d’un démantèlement systématique du rapport, j’ai suivi la stratégie d’évitement consistant à me limiter aux quelques remarques et questions présentées ci-dessus.

* Les promoteurs d’armes IÀ fondent leur promotion sur une conception erronée de la guerre. Ils présument qu’elle est essentiellement de nature instrumentale. Ce n’est pas le cas. La destruction, le pillage et la brutalisation des civils font partie intégrante de la guerre – en général.

À son extrême, pensez à Attila le Hun dont les armées massacraient et pillaient régulièrement, ou à la Horde d’or de Gengis Khan [il s’agit en réalité d’une dynastie descendante de Gengis Khan, NdT] qui faisait de même, ou à Tamerlan dont la carte de visite était une pyramide de crânes à la porte de la ville, ou encore aux Nazis. Pour eux, la guerre antiseptique aurait été un anathème – enlevant tout le plaisir qu’elle procure.

Les passions des guerres inspirées par la religion ou d’autres idéologies sont également de mauvais augure pour les non-combattants : par exemple, l’anéantissement de Jéricho par Josué, qui obéissait aux ordres de son commandant ; les croisades ; la guerre de Trente Ans au XVIIe siècle ; le récent déchaînement de l’État islamique. Ou le fléau du nationalisme moderne.

Les Serbes qui bombardaient Sarajevo étaient-ils préoccupés par la précision du ciblage ? Radovan Karadzic ou Slobodan Mladic auraient-ils accueilli les armes de l’IA comme une solution à un dilemme moral qui mettait en danger leurs âmes immortelles ?

Dans tous ces cas, la notion même de « dommages collatéraux » n’était pas pertinente.

Michael Brenner est professeur d’affaires internationales à l’université de Pittsburgh.

Source : Consortium News, Michael Brenner, 24-02-2021

Traduit par les lecteurs du site Les Crises

Nous vous proposons cet article afin d'élargir votre champ de réflexion. Cela ne signifie pas forcément que nous approuvions la vision développée ici. Dans tous les cas, notre responsabilité s'arrête aux propos que nous reportons ici. [Lire plus]Nous ne sommes nullement engagés par les propos que l'auteur aurait pu tenir par ailleurs - et encore moins par ceux qu'il pourrait tenir dans le futur. Merci cependant de nous signaler par le formulaire de contact toute information concernant l'auteur qui pourrait nuire à sa réputation.