Les Crises Les Crises
26.mars.202126.3.2021 // Les Crises

IA : Une commission du Congrès américain recommande à l’armée de développer des armes autonomes

Merci 63
J'envoie

Source : Consortium News, Michael Brenner

Traduit par les lecteurs du site Les Crises

Michael Brenner réfléchit aux admonitions militaires des principaux dirigeants de la Silicon Valley.

Une commission nommé par le Congrès, appelée la Commission nationale de sécurité sur l’Intelligence artificielle, recommande que l’armée américaine lance un programme majeur pour développer des armes autonomes pilotées par des logiciels d’intelligence artificielle (IA).

La commission, dirigée par l’ancien directeur général de Google, Eric Schmidt, a préparé un rapport qui préconise une dépense de 20 à 30 milliards de dollars pour faire avancer le programme.

Il faut qu’un ensemble de choses se produisent en Amérique pour qu’elle maintienne son leadership mondial… #l’IA est la #technologie qui tire notre production économique… et nous devons faire tout ce qu’il faut… Ce n’est pas tant l’argent qu’il faut que l’alignement des forces. – #NSCAI Chairman @EricSchmidt

Son vice-président, Robert Work, ancien vice-secrétaire à la défense, a déclaré que les armes autonomes sont censées faire moins d’erreurs que les humains au combat, ce qui entraîne une réduction des pertes. « C’est un impératif moral de poursuivre au moins cette hypothèse », a-t-il déclaré.

Le projet de rapport recommande que Washington « adopte l’IA pour changer la façon dont nous défendons l’Amérique, dissuadons les adversaires, utilisons le renseignement pour donner un sens au monde, et combattons et gagnons des guerres. » (Le travail se fait au sein du conseil d’administration de Raytheon, et du conseil consultatif de Govini, une grande société de données et d’analyse qui s’est engagée à transformer les activités du gouvernement par le biais de la science des données).

Eric Schmidt, à droite, en 2013. (Chatham House, CC BY 2.0, Wikimedia Commons)

Les impératifs moraux catégoriques d’en haut m’ont échappé en grandissant. Le coût d’une jeunesse mal employée. Comment j’enviais notre voisin écossais vieillissant qui m’a régalé avec les histoires de son enfance sur ses rites calvinistes à Dunfermline. Là-bas, à l’église tous les dimanches, un prédicateur austère à la rectitude sévère lui inculquait la juste obligation de s’améliorer. Contrairement à ces jeunes expériences spirituelles édifiantes, je me suis éloigné du Jour du Seigneur en me prélassant devant la télévision à regarder des matchs.

Je suis donc reconnaissant aux plus brillants esprits de la Silicon Valley de m’avoir rappelé que j’ai un « impératif moral » de soutenir la dépense de quelques dizaines de milliards pour des armes dirigées par une intelligence artificielle qui ne tuent que ceux qui le méritent, c’est-à-dire les « élus » choisis par Washington. J’ai maintenant la cause morale qui m’a manquée pendant toutes ces années – son absence étant la source de mon hésitation sur les questions de mort violente et de destruction.

@EricSchmidt

« Je propose… que nous adoptions les recommandations de la commission #IA, qui seront publiées le 1er mars. » – Président de la commission #NSCAI @EricSchmidt

Certes, certaines habitudes de pensée malheureuses résistent avec ténacité à un déracinement total. La propension à confronter des doctrines militaires basées sur la foi à la réalité est l’une d’entre elles. Des questions gênantes surgissent sans cesse pour entraver ma progression sur la voie de la vérité éthique et de la rédemption. Par conséquent, je vous demande instamment de m’aider à dissiper ces doutes. Les voici, sous forme résumée.

Le bombardement « choc et effroi » de Bagdad par l’armée américaine au début de la guerre en Irak, diffusé sur CNN. [Choc et effroi est une doctrine militiaire visant une domination rapide par l’utilisation d’une puisance de feu colossale, NdT]

N° 1 La doctrine choc et effroi : le bombardement de centaines de sites à travers l’Irak en mars 2003 avait pour but de pousser les dirigeants irakiens à se rendre et préparer le terrain pour l’invasion. De grands bâtiments, installations et complexes ont été détruits, faisant des milliers de victimes. Question : comment les systèmes d’armes de l’IA auraient-ils affecté cette stratégie ? Existe-t-il une version plus précise de choc et effroi qui ait le même impact psychologique et militaire ?

N°2 Fallujah : au cours de la guerre, les forces américaines ont rasé la plus grande partie de Fallujah – par deux fois, entraînant une centaine de milliers de personnes dans le désert. Question : étant donné que l’ennemi était dispersé dans toute la ville, et camouflé, quelle aurait été la capacité des systèmes d’IA à identifier les cibles appropriées par des recherches algorithmiques dans les banques de données pour chercher des correspondances rétiniennes, des reconnaissances faciales, etc. Comment les civils ont-ils pu être avertis par les gars de Fort Meade [un quartier général de l’armée américaine, NdT] et du Commandement central qu’il n’y avait pas de correspondance pour eux et qu’ils pouvaient rester chez eux en toute sécurité en regardant les vidéos de l’assaut sur leurs téléviseurs ?

Le 15 novembre 2004 : une rue de Fallujah fortement détériorée par les combats. (U.S. Marine Corps, James J. Vooris)

N° 3 Mossoul & Raqqa : dans la campagne contre l’Etat islamique, nous avons rasé la plus grande partie de Mossoul et de Raqqa. Les Marines à eux seuls ont tiré plus de 20 000 obus d’artillerie sur Mossoul, une ville densément peuplée de plus d’un million d’habitants. L’armée de l’air a effectué plus de 30 000 missions de combat. L’armée de l’air française, l’armée de l’air irakienne, l’armée nationale et la milice chiite ont également tiré sur la ville.

Malgré toute cette puissance de feu, il a fallu plusieurs semaines pour débarrasser Mossoul des combattants de l’EI. Les victimes civiles et les réfugiés ont été trop nombreux pour être comptés. Question : comment l’IA nous aurait-elle permis d’atteindre les mêmes objectifs de manière adéquate, compte tenu des tactiques d’évasion de l’EI qui étaient bien plus complexes que celles rencontrées à Falloujah ?

(L’autre alternative pour prendre une zone urbaine est de combattre maison après maison avec seulement un soutien limité de l’artillerie et de l’air. Cela signifie, bien sûr, des pertes plus élevées pour les troupes de combat. Raser une ville revient en effet à remplacer les pertes militaires au sein de la force d’attaque par des pertes civiles, à un ratio de 10 pour 1 ou 20 pour 1 ?)

Un soldat américain transporte un enfant irakien blessé vers un centre de soins en mars 2007. (James F. Cline III, Wikimedia Commons)

N° 4 La Libye : ici, les Etats-Unis ont fourni la majeure partie de la puissance de feu pour renverser et tuer le leader du pays, Mouammar Kadhafi. Une fois son emprise relâchée, le pays a succombé à une décennie de conflits multipartites presque continuels, avec dans son sillage la mort, la dévastation et la dislocation massive. Actuellement, la scène politique est dominée par la lutte pour le pouvoir entre deux coalitions en guerre.

L’une d’elles, basé à Tripoli, a été installée par Washington et ses alliés, et a un statut formel de gouvernement internationalement reconnu. L’autre, centrée dans la ville de Benghazi, dans l’est du pays, est dirigée par le général Khalifa Haftar qui a gagné les faveurs de la population en battant certaines des milices djihadistes qui ont fleuri depuis la mort de Kadhafi. La première est soutenue par l’Arabie saoudite, les émirats et surtout le leader turc Recep Erdogan, qui a transféré depuis la Syrie des milliers de ses représentants d’Al-Qaïda, d’e l’EI et d’autres militants.

Vue aérienne de Tripoli, en Libye, en 2011. (M. PanyGoff, Wikimedia Commons)

Tripoli elle-même est dominée par les islamistes. Haftar est soutenu par l’Égypte voisine, la Jordanie, la Russie et la France. Diverses milices tribales et mouvements jihadistes parcourent le vaste territoire de la Libye. Les États-Unis ont récemment fait preuve d’un soutien équivoque tout en exhortant les deux parties à parvenir à un compromis – sans grand succès. Question : Washington fournit des armes, directement ou indirectement, à TOUTES les parties mentionnées ci-dessus – à l’exception des milices islamistes. Son influence augmenterait-elle et ses objectifs auraient-ils plus de chances d’être atteints si ces livraisons d’armes incluaient des systèmes d’armes IA ?

N° 5 Yémen : Le massacre et la famine des Houthis sous la direction des Saoudiens a dépendu de manière cruciale de la participation de l’armée américaine. Leur campagne aurait été impossible sans les avions américains fournissant le ravitaillement en carburant, les officiers américains postés au quartier général du commandement saoudien pour diriger le ciblage et les renseignements américains. De plus, nous leur avons fourni les plus récentes bombes et missiles « intelligents ». Nous avons également contribué à faire respecter le blocus qui privait la population de nourriture et de médicaments. L’intention saoudienne a été de contraindre les Houthis à se soumettre en causant le plus de misère possible. Question : comment l’utilisation intensive de systèmes d’armes IA aurait-elle pu changer tout cela ? Les « cibles » critiques ne seraient-elles pas situées à Washington, Tampa et Riyad, qui sont facilement accessibles à des armes ne provenant pas de l’IA ?

Un village yéménite détruit. (Almogdad Mojalli/VOA)

N° 6 La guerre du Vietnam : Il s’agissait d’un conflit entre une insurrection à l’échelle du pays et une campagne massive de contre-insurrection. Une grande partie de la stratégie américaine a visé à priver le Viêt-cong de son sanctuaire en détruisant de grandes zones de végétation (avec l’agent orange) et en forçant les civils à quitter de vastes étendues de territoire déclarées zones de « feu libre ». La possession d’armes IA aurait-elle modifié de manière substantielle la conduite de la guerre, le nombre de victimes et son issue ? Comment ?

N° 7 Deuxième Guerre mondiale : Le quadrillage des villes par des tapis de bombes est devenu la norme. Il a culminé à Hiroshima et Nagasaki. Les pertes civiles lors des premiers bombardements de Tokyo ont été presque aussi élevées. Les raids aériens contre Hambourg et Dresde ont également fait des victimes. Ils avaient tous pour objectif de saper le moral de l’ennemi, de paralyser la production industrielle – et de satisfaire la soif de vengeance contre les attaques aériennes allemandes sur Londres, Coventry, Rotterdam et les atrocités japonaises. (Comme l’invasion de l’Irak était une vengeance pour le 11 septembre). Question : si nous avions eu accès à des armes IA à l’époque, cette façon de penser aurait-elle été différente et les actions auraient-elles été différentes ?

Avions américains sur l’île de Tinian qui ont participé au bombardement d’Hiroshima. (Harold Agnew, Wikimedia Commons)

Une réflexion sur ces questions nous amène à trois conclusions claires :

N° 1 Le déploiement généralisé d’armes dirigées par l’intelligence artificielle n’aura pas d’effet sensible sur les décisions concernant l’utilisation de la force militaire, la conduite de la guerre ou ses conséquences.

N° 2 Si l’on examine l’histoire des guerres, ou si l’on limite notre réflexion aux guerres récentes au Moyen-Orient impliquant les États-Unis, la fraction des pertes civiles qui pourrait être réduite par l’utilisation d’armes issues de l’IA est très faible. Les actes de guerre qui produisent la grande majorité des victimes ne sont pas d’un type qui permette de remplacer à grande échelle les armes de l’IA. *

(Les armes dirigées par l’IA seront – quand même – développées, déployées et utilisées à un rythme accéléré. À notre époque post-moderne, toute innovation de haute technologie associée à des gadgets électroniques bénéficie d’une prétention présumée à une utilité, une valeur et une vertu supérieures).

N° 3 L’innovation associée aux armes de l’IA, comme les drones et l’armée des volontaires, pourrait encourager l’activisme militaire en promettant moins de pertes américaines. Le bilan net, cependant, pourrait bien être plus de morts et de destructions nettes dans l’ensemble.

Il y a plusieurs années, j’ai assisté aux cérémonies du Jour de la république à New Delhi. J’avais un siège au bord du trottoir pendant le défilé conduit par Nehru et son cabinet, le long du grand chemin du Raj, du palais présidentiel (Rashtrapati Bhavan) à la Porte de l’Inde. Ils étaient suivis d’autres dignitaires, de chars, puis d’une impressionnante cavalerie à turban en tenue magnifique. Un spectacle digne d’un Durbar impérial. En effet, Lutyens avait conçu tout cela pour honorer l’Immortel Raj britannique.

À la toute fin du cortège, à une distance respectable des cavaliers, se trouvait un peloton moins glamour de balayeurs vêtus de kaki : ils utilisaient des balais de paille pour nettoyer le fumier laissé par le défilé.

Le monde politique d’aujourd’hui nous rappelle des souvenirs de cette nature dans la mesure où nous sommes constamment confrontés à une énorme quantité de conneries à la suite du dernier méga-événement, et à des quantités moindres après des événements plus petits. Les recommandations urgentes du rapport sur l’IA de la Commission entrent dans cette dernière catégorie, mais ne manquent pas de piquant.

Dans l’ensemble, il existe un déséquilibre entre la production et l’élimination. La capacité de pelletage n’a pas suivi. Le dilemme pour les commentateurs est placé dans la position des balayeurs ‘intouchables de New Delhi qui doivent faire le sale boulot de garder l’espace public libre de toute matière odorante.

La répétition rend la tâche d’autant plus pénible. C’est comme si la brigade légère de 800 hommes, commandée par notre lord Cardigans local, passait chaque jour en marche vers la Vallée de la Mort. Oui – quelqu’un doit le faire, les intouchables n’existent pas, et la meilleure solution serait de mettre les « chevaux » à l’écurie. La probabilité que l’événement ultime se produise à tout moment dans un avenir prévisible est nulle.

Je me suis personnellement mis à l’écart. Ainsi, au lieu d’un démantèlement systématique du rapport, j’ai suivi la stratégie d’évitement consistant à me limiter aux quelques remarques et questions présentées ci-dessus.

* Les promoteurs d’armes IÀ fondent leur promotion sur une conception erronée de la guerre. Ils présument qu’elle est essentiellement de nature instrumentale. Ce n’est pas le cas. La destruction, le pillage et la brutalisation des civils font partie intégrante de la guerre – en général.

À son extrême, pensez à Attila le Hun dont les armées massacraient et pillaient régulièrement, ou à la Horde d’or de Gengis Khan [il s’agit en réalité d’une dynastie descendante de Gengis Khan, NdT] qui faisait de même, ou à Tamerlan dont la carte de visite était une pyramide de crânes à la porte de la ville, ou encore aux Nazis. Pour eux, la guerre antiseptique aurait été un anathème – enlevant tout le plaisir qu’elle procure.

Les passions des guerres inspirées par la religion ou d’autres idéologies sont également de mauvais augure pour les non-combattants : par exemple, l’anéantissement de Jéricho par Josué, qui obéissait aux ordres de son commandant ; les croisades ; la guerre de Trente Ans au XVIIe siècle ; le récent déchaînement de l’État islamique. Ou le fléau du nationalisme moderne.

Les Serbes qui bombardaient Sarajevo étaient-ils préoccupés par la précision du ciblage ? Radovan Karadzic ou Slobodan Mladic auraient-ils accueilli les armes de l’IA comme une solution à un dilemme moral qui mettait en danger leurs âmes immortelles ?

Dans tous ces cas, la notion même de « dommages collatéraux » n’était pas pertinente.

Michael Brenner est professeur d’affaires internationales à l’université de Pittsburgh.

Source : Consortium News, Michael Brenner, 24-02-2021

Traduit par les lecteurs du site Les Crises

Nous vous proposons cet article afin d'élargir votre champ de réflexion. Cela ne signifie pas forcément que nous approuvions la vision développée ici. Dans tous les cas, notre responsabilité s'arrête aux propos que nous reportons ici. [Lire plus]Nous ne sommes nullement engagés par les propos que l'auteur aurait pu tenir par ailleurs - et encore moins par ceux qu'il pourrait tenir dans le futur. Merci cependant de nous signaler par le formulaire de contact toute information concernant l'auteur qui pourrait nuire à sa réputation. 

Commentaire recommandé

calal // 26.03.2021 à 07h59

« pour des armes dirigées par une intelligence artificielle qui ne tuent que ceux qui le méritent »

l’article ne se concentre que sur « l’utilite » des ces armes autonomes dans le cadre d’utilisation a l’exterieur des frontieres.
Mais le plus grand danger reside dans le risque de l’utilisation des ces robots dans le cadre d’un operation de « maintien de l’ordre » a ‘interieur meme de nos frontieres:dire a des soldats humains de tirer sur une foule de manifestants requiert deja un certain niveau d’adhesion de la part de ces soldats et un grand risque pour les dominants (« la police avec les gilets jaunes »)
un robot programme resoudrait ce probleme…Feriez vous confiance a un programme cree par « google » ou « facebook » ?

15 réactions et commentaires

  • Yann // 26.03.2021 à 07h33

    Il manque un paragraphe sur la pratique du viol (en temps de guerre) quand les soldats seront des robots équipés d’IA.

      +6

    Alerter
  • anatole27 // 26.03.2021 à 07h55

    Voir a 2min 30 sur cette vidéo ce que peux faire l’Intelligence artificielle militaire :

    https://www.youtube.com/watch?v=gZhQrjCipRc

    Notons que si nos gouvernements veulent nous protéger , il est vraiment temps de couper tout les GAFAS
    ou d’être très obéissant car vous l’aurez compris il s’agit d’être sur la bonne liste.

      +7

    Alerter
  • Darras // 26.03.2021 à 07h56

    En même temps, ça serait ballot que les USA soit la seule grande puissance militaire à ne pas plancher dessus. Parce que Russes, Chinois, Iraniens, Israéliens, voire quelques France, UK, Japon, Corée en douce, travaillent d’arrache-pied pied à ce saint Graal, non pas des militaires, mais bien des politiques.
    Pensez, envoyer enfin des « boots on ground » sans voir revenir les cercueil de fils d’électeurs. Le pied total. Pouvoir enfin achever le boulot des missiles et bombes. Sans risque humain.
    Le summum de la guerre des lâches.
    Les gueux et damnées de la terre n’ont qu’à bien se tenir.

      +9

    Alerter
  • Christian Gedeon // 26.03.2021 à 07h57

    [modéré] Bien sûr l’IA ne changera rien à la nature de la guerre. Parceque la guerre c’est la guerre. Pour le reste l’inventaire des massacres et autres bombardements est d’une telle banalité ! Si j’étais, ce que je ne suis pas, chef militaire , je m’efforcerais de nettoyer le terrain au maximum avant d’envoyer les troupes au sol. Parce qu’un chef est d’abord comptable du sans de ses hommes, pas de ceux de l’ennemi. Tout cette dégoulinante moralité est insupportable.

      +0

    Alerter
    • Velgastriel // 27.03.2021 à 10h17

      Ben voyons. La vie c’est bien, le cynisme c’est mieux comme dirait l’autre.
      Remplacer les pertes militaires par des civiles, à 10/20 pour 1, une paille..

      « Nettoyons » un maximum le terrain et circulez les bisounours, c’est comme ça la guerre, enfin 🙂
      Il faut bien que ceux, censés accepter le risque de mourir en faisant leur travail, s’en déchargent sur ceux qui n’ont rien demandé. Aujourd’hui, 3 militaires tués au combat c’est un drame, et 3000 dommages collatéraux c’est d’une telle banalité.

        +6

      Alerter
    • Orhan // 28.03.2021 à 11h11

      Oui, d’ailleurs le bataclan c’est une vraie réussite.

      3 mecs avec leurs kalash qui abattent plusieurs dizaines de personnes. D’autant que les victimes sont des français et que le cours du français dans la bourse mondiale des valeurs humaines est très élevé. On ne parle pas de ces moins que rien de yemenites.

      Vivement une statue tiens. Si jetais chef de guerre moi j’irai brûlé des ehpad et des écoles.

        +1

      Alerter
  • calal // 26.03.2021 à 07h59

    « pour des armes dirigées par une intelligence artificielle qui ne tuent que ceux qui le méritent »

    l’article ne se concentre que sur « l’utilite » des ces armes autonomes dans le cadre d’utilisation a l’exterieur des frontieres.
    Mais le plus grand danger reside dans le risque de l’utilisation des ces robots dans le cadre d’un operation de « maintien de l’ordre » a ‘interieur meme de nos frontieres:dire a des soldats humains de tirer sur une foule de manifestants requiert deja un certain niveau d’adhesion de la part de ces soldats et un grand risque pour les dominants (« la police avec les gilets jaunes »)
    un robot programme resoudrait ce probleme…Feriez vous confiance a un programme cree par « google » ou « facebook » ?

      +13

    Alerter
  • Louis // 26.03.2021 à 09h32

    IA : Une commission du Congrès américain recommande à l’armée de développer des armes autonomes…. J’ai une idée, les VIRUS… et bien sur nos amis seront vaccinés…

      +8

    Alerter
  • Fabrice // 26.03.2021 à 13h36

    Un humain peut contester un ordre, une IA obéira quel que soit l’ordre et c’est plus pratique de faire taire tous témoin il suffit d’effacer les enregistrements.

    une guerre devient sans victime si personne ne témoigne des horreurs commises.

      +8

    Alerter
  • Avunimes // 26.03.2021 à 13h52

    « Calal » à bien résumé la situation, l’IA est une arme qui semble idéal uniquement pour illiminer physiquement toutes oppositions politique répertoriées par les réseaux sociaux.
    Sinon, le film « Dr. Follamour » de Kubrick illustre bien une forme l’IA, et de sa réponse informatique à une crise.

      +3

    Alerter
  • clauzip12 // 27.03.2021 à 00h08

    IA ou crottin de cheval?tout est bon quand au plus haut des décideurs la reconnaissance de l’autre n’a absolument aucune valeur.
    Le profit est la valeur indépassable.
    Quand le bilan est fait comme ci dessus il ressort au plan humain,des dégâts catastrophiques justifiés soit par l’idéologie de la puissance et du profit par les dépenses d’armement.
    pour réduire cette engeance,sinon la détruire,il ne nous reste que le développement d’une information libre et non subventionnée.
    Je crois,que l’humanité prenant conscience de la réalité réagira pour interdire et supprimer ce qui ,sinon,la conduira à sa perte déjà engagée!

      +0

    Alerter
  • Koui // 27.03.2021 à 09h32

    A rebours de l’article, je suis persuadé que Milosevic aurait préféré envoyer des robots pour prendre Sarajevo, plutôt que de bombarder les civils au hasard. Et c’est dans un combat de rue que les robots sont susceptibles d’être le plus efficaces car ils peuvent précéder les combattants dans les endroits dangereux. Le combattant obstiné qui est prêt à combattre pour emporter dans la mort un grand nombre d’ennemis, sera t il prêt à sacrifier sa vie pour casser des machines? Je crainds que l’on aille vers des guerres où les révoltes populaires seront écrasées par des hordes de robots, comme dans les livres de SF de mon enfance. « Les marteaux de Vulcain », c’est pour demain.

      +2

    Alerter
  • Myrkur34 // 27.03.2021 à 10h42

    Cet article me fait penser aux anciens films de Paul Verhoeven, Robocop (1987) et Starship Troopers ( 1997) qui résumaient déjà à l’époque les justifications des promoteurs de ces armes « qui tuent juste les méchants » et empêchent les « bavures ».
    On continue dans le grand n’importe quoi. Cela en devient même grotesque au possible, ce sérieux et cette continuité dans ce comportement et cette narration des méchants et des gentils, on fait cela pour votre bien, vos emplois, l’avantage technologique ou tout simplement la création d’un nouveau marché et donc de profits faramineux avec ce type d’arme.

      +3

    Alerter
    • Jean-Do // 01.04.2021 à 18h08

      Si le millimètre est la plus petite unité courante de mesure de distance et le millilitre la plus petite unité courante de mesure de contenance, la plus petite unité de mesure d’intelligence reste sans conteste le militaire. En ce sens, l’IA serait probablement un grand progrès même si elle reste largement plus con qu’un être humain sans uniforme 😀

        +1

      Alerter
  • Alain // 28.03.2021 à 13h54

    Il est angoissant de voir comment la science-fiction devient une feuille de route pour zombies qui nous gouvernent: 1984 pour la lutte contre la pandémie, Terminator pour l’IA, …

      +0

    Alerter
  • Afficher tous les commentaires

Les commentaires sont fermés.

Et recevez nos publications