Les Crises Les Crises
15.mars.201815.3.2018 // Les Crises

Hawking, Chomsky et Wozniak veulent faire interdire les machines de guerre intelligentes

Merci 216
J'envoie
En hommage à Stephen Hawking (1ère publication, 8 aout 2015)

INTELLIGENCE ARTIFICIELLE – Les chercheurs et personnalités du monde scientifique se mobilisent pour faire interdire la guerre automatisée.

C’est une révolution cynique que pourrait constituer celle du recours aux armes de guerre autonomes. Tandis que nos sociétés utilisent les machines pour intervenir au service de l’humain, lui offrir plus de confort et le libérer de certaines tâches fastidieuses, le secteur militaire s’intéresse à l’intelligence artificielle pour opérer des actions militaires sans intervention humaine.

Et c’est bien ce qui affole le milieu scientifique et les milliers de personnalités signataires d’une lettre ouverte intitulée “Armes automatiques : lettre ouverte des chercheurs en robotique et en intelligence artificielle”. Présentée à Buenos Aires (Argentine) le 27 juillet dernier lors d’une conférence internationale portant sur l’intelligence artificielle, cette lettre se présente comme une action de prévention contre la course à l’armement automatisé au niveau mondial, c’est-à-dire l’emploi de robots tueurs lors de frappes guerrières.

Philosophes, scientifiques et entrepreneurs unis contre les machines de guerre

Si les signataires de la lettre reconnaissent l’intérêt de l’intelligence artificielle dans la réduction du nombre de victimes humaines lors des combats, ils veulent toutefois éviter l’essor de ces technologies guerrières au potentiel dévastateur. Car le risque d’intégrer de l’intelligence artificielle dans les armes pourrait s’avérer terrible : décimation de populations sur critères de discrimination d’ethnie, assassinats ciblés et épurations de masse.

Parmi les milliers de signataires de cette lettre, on trouve des noms de penseurs, scientifiques, chercheurs et chefs d’entreprise bien connus tels que Noam Chomsky (linguiste et philosophe), Stephen Hawking (astrophysicien), Elon Musk (dirigeant de Tesla) ou encore Steve Wozniak (co-fondateur d’Apple).

Et si Isaac Asimov avait eu raison ?

Impossible à présent de savoir quel impact réel aura leur signature face aux pouvoirs en présence et aux enjeux économiques et politiques soulevés par cette question de l’intégration des intelligences artificielles à l’armement moderne.

De quoi donner froid dans le dos en tout cas et rendre actuelles les fameuses Lois de la Robotique, imaginées en 1942 par Isaac Asimov :
– Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger.
– Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi.
– Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi.

Source : www.metronews.fr

Nous vous proposons cet article afin d'élargir votre champ de réflexion. Cela ne signifie pas forcément que nous approuvions la vision développée ici. Dans tous les cas, notre responsabilité s'arrête aux propos que nous reportons ici. [Lire plus]Nous ne sommes nullement engagés par les propos que l'auteur aurait pu tenir par ailleurs - et encore moins par ceux qu'il pourrait tenir dans le futur. Merci cependant de nous signaler par le formulaire de contact toute information concernant l'auteur qui pourrait nuire à sa réputation. 

Commentaire recommandé

Manu // 08.08.2015 à 05h48

“Cette pétition est un non sens absolu. Elle cautionne la guerre”

Bien au contraire.

Faire la guerre avec de vrais gens vivants qui reviennent morts, c’est politiquement dangereux, et on y réfléchit longuement.
Mais aller massacrer dans le cul du monde avec des machines, ça ne dérangera absolument personne.
On appelle ça une guerre “propre”.

Regarde bien le discours des anti-guerre aux US. Ils sont pas contre l’agression d’un pays souverain, ils ne veulent juste pas voir crever leurs bidasses.
C’est une certitude que si un pays pareil avait des terminators, il te retourne les trois quart de la planète pour installer SA vision des choses, et sans perte humaines.

87 réactions et commentaires

  • Rhubarbe // 08.08.2015 à 01h04

    Lol. Comme si une brochette de têtes grisonnantes qui signent une lettre pouvait tenir en échec les désirs guerriers et financiers des psychotiques au pouvoir. Ça me fait penser qu’il y a eu une suite a district 9 non ? ^^

      +24

    Alerter
    • Eric // 08.08.2015 à 01h39

      Le pire serai de ne rien faire. De plus par cet appel “la brochette de tête grisonnantes” n’espère surement pas faire plier le lobby militaro industriel à eux seul mais à réveiller les conscience et ensemble éviter une catastrophe avant qu’il ne soit trop tard.
      Bouge toi, bougeons nous !

        +53

      Alerter
    • joce // 08.08.2015 à 12h14

      La suite c’est plus ou moins chappie

        +6

      Alerter
      • CinéBoB // 08.08.2015 à 16h57

        Hélas pas de suite, cependant avant les réflexions proposées par Chappie (I.A), il y a Elysium qui illustre bien mieux le contrôle des drones et autres jouets meurtriers par une oligarchie, mais surtout des bio-techno, nano-médecine….
        Comme dans le roman Globalia, une segmentation de la population avec une augmentation des inégalités quant aux retombées de ces évolutions. Correction lazer de la myopie en France face aux diarrhées infantiles au Niger.
        Partage des connaissances, transmission, enseignement du peuple.
        Elysium un film révolutionnaire adepte de Bakounine ??

          +9

        Alerter
        • Haricophile // 15.03.2018 à 10h08

          Je te corrige tout de suite : en France ou il y a actuellement plus d’un mort par jours chez les SDF, plus de 600 bidonvilles, où on est en train de déboulonner la santé publique, l’accès aux «privilèges» que tu décrit n’est déjà plus pour tout le monde, et ça va se dégrader rapidement avec notre politique ploutocratique.

          Pour donner une idée de ce qui nous attend, jette un œil sur le système de santé Anglais, et mieux encore : Au USA, j’ai vu sur les sites US qu’il y a des régions ou les vers intestinaux sont devenu endémiques a grande échelle, situation qui jusqu’à peu était totalement inimaginable dans un pays dit «développé», et que l’on croyait justement réservés a certains pays Africains pauvres.

          L’idéal économique et social, le fameux «progrès» que porte Macron et ses commanditaires ultra-libéraux, quand j’étais jeunes (ça fait longtemps), on m’apprenait que c’était ce qui caractérise le «tiers-monde» (mot supprimé du vocabulaire politique comme «aveugle» et bien d’autres).

          Si tu n’es pas «blindé», prépare toi a un avenir difficile même en France.

            +17

          Alerter
    • FerDex // 15.03.2018 à 08h16

      Ils ont fait leur part. C’est quoi la tienne ?

        +2

      Alerter
      • Haricophile // 15.03.2018 à 10h25

        Ils ont fait leur part… ou pas. Les scientifiques sont des autistes qui pensent que la science est le progrès, et développent des outils d’une puissance incomparable, outils qui sont mis dans les mains des psychopathes semi-débiles qui “rule the world” actuellement. Jamais ils ne remettent en question le «progrès» de la science puisque leur religion dit que la science «EST» un progrès. Mais en fin de compte, ça revient souvent a faire comme ce que font certains Étatsuniens : Offrir une arme chargé pour l’anniversaire d’un enfant de 6 ans et moins.

        Avant de dénoncer, qu’ils se remettent en causes eux même. Et même si je ne suis pas un scientifique et encore moins éminent, je ne m’exclue pas de cette démarche.

          +4

        Alerter
        • RGT // 17.03.2018 à 21h14

          “Les scientifiques sont des autistes qui pensent que la science est le progrès, et développent des outils d’une puissance incomparable”…

          Désolé, les scientifiques ne développent aucun outil et ne sont pas du tout impliqués dans le “progrès”.

          Les scientifiques (les vrais) se contentent d’étudier le monde qui nous entoure afin de le décrire et de le caractériser.

          Ce sont les ingénieurs qui développent des “outils”. Chacun sa spécialité.

          Par contre, l’avantage des scientifiques sur les ingénieurs réside dans leurs objectifs : Faire progresser les connaissances.

          Les ingénieurs se contentent seulement d’utiliser une faible partie des découvertes des scientifiques pour réaliser les “objets” que demandent leurs employeurs.

          Si un scientifique ne veut pas “trouver” sur un sujet qu’il réprouve il pourra faire traîner pendant des années.

          Si un ingénieur ne réalise pas les désirs de son employeur dans les délais imposés il se fait virer illico presto.

          C’est bel et bien le peu de liberté intellectuelle qui reste aux vrais scientifiques qui les rend si “haïssables” aux yeux de nos grands penseurs.

          Les plus grandes recherches sur les robots de combats et sur l’IA sont faits par des entreprises privées, vous pouvez vérifier.
          Boston Dynamics (rachetés par l’Arabie Saoudite) et Google en tête.

            +0

          Alerter
  • Sébastien // 08.08.2015 à 01h20

    Tout ce qui peut être fait est et sera fait. L’être humain ne s’est jamais rien interdit, c’est pas demain la veille que ça va changer.

      +22

    Alerter
    • kèsse // 08.08.2015 à 09h55

      Dans le secteur de la morale, certain pays interdisent la condamnation à mort ou même l’avortement ou la pilule contraceptive (ce qui ne signifie pas que ces trois interdictions soit sur le même plan de mon point de vue!).

      Ces inderdictions ne sont pas généralisée, certes. Qu’en est-il de l’inceste? de la pédophilie? du viol?

      Rien à voir avec des technologies d’armement? OK. Utilise-t-on des bombes bactériologiques? Type épandage d’ébola, ou je ne sais quelle maladie virale mortelle? Il y a peu d’exemple dans ce domaine. Pourtant, c’est facile. Mais la le tabou allié à la peur d’une vive sanction l’emporte presque toujours … On est pas à l’abris d’un fou.

      Maintenant, vous affirmez qu’il existera des robots tueurs et vous avez raison! Pour la simple raison qu’on peut le faire et qu’il arrivera même un jour ou se sera simple de le faire. Il n’ y a guère de différence technique entre un robot conducteur de voiture et un robot guerrier: des schémas de prise de décision, de la construction d’expérience. Peut-être même que vos arrières petits-enfants sauront programmés leurs jouets pour qu’ils agissent violemment (imaginez le délire, le robocop arrachant les têtes des poupées parlantes de la grande soeur qui de terreur se mettraient à pleurer- les poupées pas la grande soeur; elle, elle serait entrain de tabasser son frère! Bref …). Maintenant, ce que ne dit pas bien cette pétition, et j’ignore pourquoi, c’est qu’il est nécessaire d’interdire l’UTILISATION à visée humaine des robots tueurs. Potentiellement, ils existent déjà, les drones en sont un exemple, bien qu’en dernier recours, ça soit la main de l’homme qui décident de tirer. Et, vous avez raison, on ne peut interdire ce qui existe et renaîtra toujours de par les intérêts qu’il engendre (difficile de ne pas voir l’intérêt d’un robot tueur pour un maniaque du pouvoir).

      Il y a donc bien une chose à faire: créer un tabou! C’est mal de violer sa fille, c’est mal de tuer son voisin, c’est mal d’assassiner des populations pour des raisons de races ou d’ethnies, c’est mal de supprimer un ville entière avec une bombe nucléaire, c’est mal de créer des robots tueurs dans le but de les utiliser pour autres choses que la destruction d’autres robots, c’est à dire un but défensif. Le tabou tel qu’énoncé est en accord avec les lois d’Asimov (la littérature comme garde-fou) et permet de contrer, par la course technologique, la création de robots tueurs à visée humaine (des robots plus performants protégeant et assurant la dissuasion).
      Un tel tabou doit être construit dans l’opinion publique, je crois. Et c’est le but de cette pétition … à suivre.

        +29

      Alerter
      • Geof’ // 15.03.2018 à 09h31

        camarade kèsse,

        le problème, c’est la cupidité, le désir d’avoir tjrs plus, fusse aux dépens des autres…

        la solution, c’est la collectivisation des biens de production…

        pourquoi la guerre ? pour une offense imaginaire ? l’offense est la fausse excuse, la véritable explication, c’est le contrôle du pétrole, des terres arables irrigables, des minerais rares, des marchés prometteurs…çàd ce qui sert la stratégie capitaliste-prédatrice, motivée par la cupidité, visant la luxure et la gourmandise (comme çà, on est complet dans l’explication).

        comment ça se fait que je sois le seul à l’avoir compris ?

        Geof’, neo-communiste belge

          +6

        Alerter
        • RD // 16.03.2018 à 01h29

          Oui c’est incroyable, la quasi totalité du monde désormais semble d’une certaine manière croire aux mythes de l’argent comme simple “outil”, aux “bonnes” élites, à l’état équilibré (celui qui serait censé protéger contre le lion de Chomsky) voire limité, de l’intérêt général (celui-là un peu moins il est vrai), du mythe constructiviste des organisations politiques au sens large (dont celui des sociétés dites anonymes) et donc de la prétendue démocratie, de la justice et de la presse potentiellement indépendantes servant de contre-pouvoir, du mythe de la prétendue opposition entre propriété publique et privée…

            +0

          Alerter
  • Delta // 08.08.2015 à 01h23

    Les 3 personnes citées sont clairement hors de leur domaine de compétence. (on a tendance à croire que ces trois stars peuvent guérir les écrouelles, figurez-vous qu’il n’en est rien)

    Leur pétition a en revanche attiré un certain nombre de jeunes chercheurs dans les domaines concernés. Mais c’était clairement dans leur cas plus une question d’idéologie que de compétences techniques. Quand il ne s’agissait pas juste de surfer sur le buzz !

      +4

    Alerter
    • jp // 08.08.2015 à 06h57

      ben non, l’éthique est du domaine de compétence de tout être humain.
      “Science sans conscience n’est que ruine de l’âme”, c’est vieux mais toujours valable.

        +52

      Alerter
      • Delta // 08.08.2015 à 13h25

        Oui, évidemment.
        Mais c’est totalement différent ! Il s’agit donc de l’expression d’un sentiment qui n’a rien à voir avec une quelconque compétence technique.
        Pour qu’il soit significatif, il faudrait que ce manifeste soit signé par une majorité de praticiens en intelligence artificielle, et ce ne sera probablement jamais le cas.

        Là, c’est juste un peu comme si Loana avait écrit un papier sur “Les fraises, c’est pas bon” et qu’une poignée de producteurs de poireaux et de stars du porno avaient signé le papier. On n’interdirait pas les fraises pour autant, non ?

          +3

        Alerter
        • Emmanuel // 08.08.2015 à 18h57

          1° le droit de la guerre et l’éthique ne sont pas affaires de sentiments ; au contraire, il s’agit de constructions rationnelles (rien à voir avec des goûts personnels).

          2° nul besoin d’être un expert en IA pour avoir une idée *pertinente* (voir bon dico + étymologie) sur la guerre et comprendre pourquoi il est préférable de l’éviter et d’empêcher la mise au point de certaines armes. Cette capacité est à la portée de n’importe quel être humain ; prétendre le contraire revient à dire qu’il faut être médecin légiste pour être autorisé à parler de la mort.

          3° Les auteurs de science-fiction ne sont pas tous sortis du MIT, ils donnent pourtant à réfléchir.

            +9

          Alerter
          • Delta // 08.08.2015 à 20h31

            C’est exactement mon propos !
            L’avis des signataires de ce papier n’est pas plus (ni moins) pertinent que celui d’à peu près n’importe qui d’autre.
            Or, si on parle de cette pétition, c’est bien à cause de la notoriété de ses auteurs, dont la position n’est a priori en rien représentative de celle des personnes concernées (ie. tout le monde).

            C’est plus clair comme ça ?

            Je trouve un peu trop façile le raccourci Hawking => super star, grosse tête, homme providentiel, “lui, il sait” => la position défendue dans le document est légitime.

            Il serait temps de donner de vrais arguments, pour ou contre ! Et “la guerre, c’est mal, les morts, c’est pas bien”, ce n’est pas un argument.

              +5

            Alerter
            • RGT // 17.03.2018 à 21h33

              L’avis des signataires ne concerne que leur profonde conviction d’êtres humains et n’a strictement rien à voir avec leurs compétences (quoi qu’ils ne soient pas les premières buses venues).

              S’ils ont signé cette pétition c’est bel et bien parce qu’ils ont conscience que ces nouveaux “jouets” des militaires risquent fort de devenir des armes de destruction massive à coté desquels la “bombinette” passerait pour un pétard mouillé.

              Sans parler de la possibilité qu’un psychopathe en prenne le contrôle et asservisse la population de toute la planète…

              La première chose à laquelle chaque être humain devrait penser est simplement : “Tous ces machins destinés à semer la mort, est-ce utile et moral, est-ce qu’un jour je ne me retrouverai pas au bout d’une ligne de mire ?”.

              Je ne comprends pas pourquoi mes cons-génères n’ont pas cette idée en tête au lieu de penser “J’ai un plus gros tank que le voisin”…

                +0

              Alerter
    • joce // 08.08.2015 à 12h15

      Effectivement c’est pas leur domaine de compétence, j’avais vu une interview de chercheur en IA que ça faisait bien marrer.

        +3

      Alerter
    • St3ph4n3 L. // 08.08.2015 à 17h11

      Quel domaine de compétence ? Parce que si vous songez à celui des armes, c’est alors une affaire de militaires. Pauvres de nous… 🙁

        +9

      Alerter
  • Lenouvel // 08.08.2015 à 01h33

    Il s’agit ici de fabriquer des robots qui pourront prendre la décision de tuer ou de préserver la vie sans en référer à un être humain au préalable. Ils seront autonomes dans leurs choix d’occir sur un terrain de bataille. Comment procéderont-ils au choix ?
    Un robot autonome, c’est un robot qui se donne à lui même ses propres normes. L’autonomie, c’est donc le libre arbitre. Il faut donc lui programmer la capacité d’apprendre et de se déterminer une éthique, une morale, des valeurs, de les respecter, de les faire respecter, de faire des compromis.
    Un robot autonome, c’est donc un être humain. Mais mécanique. C’est cela la mise en garde de ces personnalités : ne pas fabriquer des êtres humains.

      +7

    Alerter
    • kèsse // 08.08.2015 à 10h08

      NON, on en est pas là encore. La majorité des outils en intelligence artificielle consiste en l’adaptation de modéles de classif, de modèles non supervisés. On appelle ça l’apprentissage statistique. Les normes produites sont inaccessible au jugement humain, car trop complexe. Ce que l’on sait dire sur ces normes ne vaut que pour la qualité des résultats obtenus: précision/ vitesse de la précision rapporté au nombre de données disponibles, etc … Il est impossible sur ces critères de créer une morale, même en créant des coûts pour les actions érronées, l’analyse nous renvois toujours à un taux d’échec et de succès. Ce taux peut s’analyser moralement pour prendre une décision d’utiliser ou non le robot ou l’algorithme, mais on ne peut pas demander au robot de se construire une morale ou alors il le fera en fonction de grille quantitative censé être un résumé (bien imparfait) de la morale humaine.

        +7

      Alerter
      • RGT // 17.03.2018 à 21h44

        Programmer une “morale” dans une IA ?

        Vous n’y pensez pas, ça coûterait beaucoup trop cher et ça ferait baisser les performances en augmentant aussi la consommation d’énergie.
        De plus, le robot pourrait refuser d’exécuter un ordre (tirer dans le tas) s’il s’avère contraire à ces instructions.

        La morale, c’est bon pour les gueux, les dirigeants en sont totalement démunis car c’est réellement un handicap quand il faut prendre la “bonne” décision.

        Si la “morale” comptait vraiment dans nos sociétés on s’en serait rendu compte.

        La seule “morale” que respectent les dirigeants, c’est la raison du plus fort.

        N’espérez donc pas qu’on intègre ce “handicap” dans des machines destinées à tuer.

          +0

        Alerter
  • Jusdorange // 08.08.2015 à 01h47

    Super,

    On a à peine entamé le déclin de l’Empire américain qu’on va devoir se taper Skynet maintenant.

    Je propose Olivier en nouveau John Connor !

    On croit en toi Olivier,
    On croit en toi….

      +6

    Alerter
  • Eric // 08.08.2015 à 04h04

    “Et si Isaac Asimov avait eu raison ?”
    L’un des objectifs d’Asimov quand il écrivait ses histoires de robots c’était, de son propre aveu, de lutter contre ce qu’il nommait le “complexe de frankenstein” ou comment de façon purement reflexe on en vient à craindre la créature artificielle. Autant dire qu’on en est loin vu la frousse dont la robotique et l’intelligence artificielle sont à l’origine.

      +7

    Alerter
    • Crapaud Rouge // 08.08.2015 à 07h26

      lutter contre ce qu’il nommait le “complexe de frankenstein” ou comment de façon purement reflexe on en vient à craindre la créature artificielle” : ah bon, parce que “craindre la créature artificielle” serait selon vous, (et selon Asimov au premier chef), quelque chose de mauvais ? Et si c’était plutôt salutaire ? La bombe atomique, “créature artificielle” par excellence, ne serait pas à craindre ?

        +4

      Alerter
      • Haricophile // 15.03.2018 à 10h33

        Si vous voulez vous faire vraiment peur, allez chercher les justifications (les vraies) qui ont conduit a balancer les 2 bombes atomiques au Japon. En particuliers les justifications par les scientifique qui ont participé au projet, et là le Dr Frankenstein n’est vraiment pas loin ! A une échelle considérablement plus élevée !

          +4

        Alerter
    • Charles Michael // 08.08.2015 à 09h25

      Izaac Azimov, bien sur mais sans oublier les 3 lois de la robotique:

      1. Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger.
      2. Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi.
      3. Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi.

      https://fr.wikipedia.org/wiki/Trois_lois_de_la_robotique

      Il y a rajouter une 4ème loi: la loi zéro. à voir sur le lien

        +6

      Alerter
      • LEVACHER Patrick // 15.03.2018 à 16h56

        Oui, la loi zéro se retournera contre les concepteurs des engins de morts et bien entendu les commanditaires ainsi que les collaborateurs politiques. Cette intelligence artificielle peut également éliminer toute cette partie de la population qui accapare 85% des richesses au détriment de l’humanité. Cette IA deviendra-t-elle cette chose du film Matrix ?
        Espoir et illusions !?!

          +1

        Alerter
  • Noureiev // 08.08.2015 à 04h36

    Cette pétition est un non sens absolu. Elle cautionne la guerre. On sait que la guerre des armes est loin d’être la seule et qu”il en est de plus dangereuses pour notre libre arbitre et notre santé mentale. Pas besoin d’armes sophistiquées pour descendre un avion civil, faire des attentas et finalement faire la guerre totale contre les civils ; totale car corps, âme et biens. De nos jours la guerre ressemble de plus en plus aux invasions des Huns ou des nettoyages américains des siècles précédents. Que dire de la propagande perpétuelle qui sournoisement nous convertit à des croyances que nous n’avons pas souhaitées. Aujourd’hui 80 % des Français pensent que Poutine est un tyran et veut reconquérir par la force les anciennes républiques de l’URSS et on dresse 28 États contre la Russie.

      +17

    Alerter
    • Manu // 08.08.2015 à 05h48

      “Cette pétition est un non sens absolu. Elle cautionne la guerre”

      Bien au contraire.

      Faire la guerre avec de vrais gens vivants qui reviennent morts, c’est politiquement dangereux, et on y réfléchit longuement.
      Mais aller massacrer dans le cul du monde avec des machines, ça ne dérangera absolument personne.
      On appelle ça une guerre “propre”.

      Regarde bien le discours des anti-guerre aux US. Ils sont pas contre l’agression d’un pays souverain, ils ne veulent juste pas voir crever leurs bidasses.
      C’est une certitude que si un pays pareil avait des terminators, il te retourne les trois quart de la planète pour installer SA vision des choses, et sans perte humaines.

        +68

      Alerter
      • Nouréiev // 08.08.2015 à 13h06

        Tu n’as pas tort, loin s’en faut. Mais comme je sais que tout ce dont peut disposer l’homme, les politiques s’en serviront tôt ou tard s’il n’y a rien en face d’équivalent et d’intimidant (comme dans le domaine du nucléaire), je me suis tourné vers les autres armes plus insidieuses qui font tout autant de dégâts du moins sur le long terme, c’est à dire quelques générations.

          +4

        Alerter
      • ledufakademy // 15.03.2018 à 21h26

        Il ne faut juste pas mettre les pieds la dedans avec l’IA , on va tous perdre.
        On pourra pas gagner face à des machines qui ont des sens 100 x fois plus aiguisés que les nôtres … faut juste pas ! On va créer des monstres qu’on ne contrôlera plus.
        Après moi je dis çà …
        je suis dans la ligné de Hawking à 100% sur ce coup.

          +2

        Alerter
    • Laurent // 08.08.2015 à 11h18

      Il y a 3 choses qui peuvent empêcher un état belliciste de faire la guerre :
      – le manque de moyens
      – le risque de perdre le conflit
      – les pertes humaines

      Grâce au dollar, les USA n’ont aucune limite pour les moyens financiers.
      Ils n’ont aucun risque de perdre les conflits tant qu’ils ne s’attaquent pas à la Russie ou un pays possédant des armes atomiques. Reste les pertes humaines.

      A ce titre, la bataille de Mogadiscio est très instructive : il a suffit aux rebelles de tuer 19 soldats américains pour traumatiser l’opinion publique et amener les USA à quitter la Somalie. Que ce serait-il passé si les rebelles avaient détruit 19 drones américains ? Une telle perte aurait-elle aussi traumatiser l’opinion publique ? Aurions nous vu les mères américaines pleurer les robots rentrant au pays dans des sacs plastiques ? Non, bien sur que non. Le peuple américain aurait simplement vu ces destructions comme une mauvaise partie de jeu vidéo à recommencer au plus vite, histoire de ne pas rester sur un échec et de donner une bonne leçon à ces rebelles.

      Franchement si la population américaine n’est plus choqué par les pertes humaines engendrées par la guerre, que restera-t-il pour les limiter ?
      L’argent ? Ils peuvent imprimer autant de dollars que nécessaire, le reste du monde leur fait un crédit illimité.
      Le force ? Face à la Somalie ou d’autres petits pays, c’est sans espoir.

      En fait, si les USA utilisent des drones armés, ils n’auront plus aucune limite pour mettre à feu et à sang une bonne partie de la planète.

      PS : pour en savoir plus sur la bataille de Mogadiscio :
      https://fr.wikipedia.org/wiki/Bataille_de_Mogadiscio
      Voir aussi le film “La chute du faucon noir” de Riddley Scott

        +28

      Alerter
      • Subotai // 08.08.2015 à 18h05

        Si on s’en tient aux apparences le Leviathan US est impressionnant. Si on gratte légèrement on s’aperçoit que toutes les postures et manœuvres n’ont pour but que de masquer les vides, pourrissements et termitages de la machine de guerre US.
        Ils sont techniquement dépassés dans l’air – Le F22 est une diva et le F35 l’Arlésienne.
        Physiquement en décrépitude sur mer – État des forces navales en 2015 au niveau de 1941 avant Pearl Harbor.
        Sur terre le soldat US est “brittle”. Il coute très cher en logistique et soutien. Il lui faut toute la puissance de la propagande de Hollywood pour faire illusion au yeux du public.
        A l’état major, c’est Kafka et la multiplication des officines, groupes et sous-groupes avec chacun leurs agendas, manques de moyen et rivalités.
        A Washington c’est le panier de crabes des rivalités personnelles où l’intérêt de la Nation défini par la Présidence n’est qu’une donnée parmi d’autres plus importantes (le pognon) pour la prise de décision.

        Tout ça ne fait pas un État fort et sûr de lui mais un épileptique surarmé en pleine crise.

        L’hyper spécialisation des centaines de types de troupes existantes masque le fait de leur inadaptation aux réalités mouvantes du combat. Cette inadaptation les ont amené à utiliser de plus en plus de robots guidés (drone); la fiabilité de la mécanique étant quantifiable à contrario de celle d’un humain. Malgré ça les résultats ne sont pas brillant en terme d’efficacité. L’étape suivante est le soldat robot; pourquoi?
        La destruction systématique facile
        L’absence de scrupule
        Le business (rappelez vous le gouffre financier du F35, pas pour tout le monde)
        Les savants fous – Rigolez pas, ça existe et il y en a plein. Il n’y a pas que les tueurs en série qui soient psychopathes. Et la société US en fabrique en série.

        Donc, ils fabriqueront de tueurs mécaniques autonomes, ils les utiliseront, malgré Hawking et ses copains. Mais le délitement et l’attrition continueront jusqu’à l’éclatement de l’Union et le retour en ordre dispersé à l’age de pierre (ou pas loin).
        Leur pire ennemi s’appelle la Terre.
        Elle a pour armée le Changement Climatique; comme troupes opérationnelles: Sécheresse, pluie diluvienne; comme moyen d’action: tornade, tempête, cyclone, incendie, tremblement de terre (oui, tremblement de terre*). Et en plus les milliards de petites et grosses bêbêtes tropicales qui ont commencé a envahir les nouveaux espaces à disposition.

        * Tremblement de terre: Vous ne vous êtes pas demandé ce qui se passe pour les plaques tectonique quand des millions de tonnes de glace fondent et allègent d’autan le poids qui maintenait le précaire équilibre des forces? Vous avez vous vu l’Himalaya, le comment de sa formation et l’imbrication des plaques dans le sud est asiatique?
        Je me suis bien éclaté en vous décrivant un des possibles… et vous?

          +18

        Alerter
      • Haricophile // 15.03.2018 à 10h46

        Ils n’ont aucun risque de perdre les conflits tant qu’ils ne s’attaquent pas à la Russie ou un pays possédant des armes atomiques. Reste les pertes humaines.

        Euh… qu’est-ce que tu appelle perdre ? Moi j’ai pourtant lu fréquemment sur des sites «alternatifs» Étasuniens pour qualifier la situation depuis la guerre d’Afganistan : « Guerre partout, victoire nulle part » et « guerre éternelle ».

        D’ailleurs j’ai comme une idée que les robots militaires vont avoir deux usages :
        – Prolonger indéfiniment cette «guerre éternelle» pour le coït des marchands de mort et des psychopathes au pouvoir qui feraient mieux de jouer a des jeux video.
        – Développer des dérivés «civils» pour armer la police contre les populations et les opposants, comme ça se fait déjà pour d’autres armes et drones.

          +1

        Alerter
        • vert-de-taire // 15.03.2018 à 22h01

          faire la guerre avec des robots
          – c’est cher mais ‘ils’ s’en fichent c’est de la dette donc c’est nous qu’on paye,
          – on paye qui ? les milliardaires US et qqs salariés locaux
          – cela maintient (par budget fédéral) une capacité technique que la Chine est en train de supplanter (les processeurs chinois sont plus performants, les plus puissants ordi sont chinois .. ) .

          Ensuite le robot peut très simplement exterminer un quidam gênant sans devoir prendre de risque .. or ces gêneurs augmentent ..

          bref vu du joueur-tueur c’est exactement comme dans un jeu vidéo (on programme et hop) sauf pour la cible …

            +0

          Alerter
  • Crapaud Rouge // 08.08.2015 à 05h17

    Quand on pense que l’industrie trouve des gens pour concevoir des mines anti-personnels, des mines “innovantes” et astucieuses qui mutilent sans tuer, qui sont faciles à fabriquer et à disséminer, comment espérer qu’elle ne trouvera personne pour mettre au point des robots tueurs ?

      +29

    Alerter
  • rémi lobry // 08.08.2015 à 07h40

    QUOTE
    utilisent les machines pour intervenir au service de l’humain, lui offrir plus de confort et le libérer de certaines tâches fastidieuses
    UNQUOTE

    Va falloir arrêter avec le gentil robot qui libère le poinçonneur des Lilas. Cette automatisation ne nous libère pas, elle nous annule et nous remplace. Pensez-vous vraiment que nous avons en France parmi nos dix millions de chômeurs et autres précaires dix millions d’artistes (tous auteurs-compositeurs-interprètes, des Rimbaud, des Évariste Galois) ? Serait-ce le cas, aucune économie ne fonctionne avec QUE DES GÉNIES. L’artiste a besoin d’environ 200 000 pas artistes pour acheter ses œuvres et l’admirer. Quant à l’I.A. tout le monde en parle sans savoir ce que c’est. Nous en sommes à l’intelligence artificielle faible (celle qui bat le champion du monde d’ échec) et sommes en passe d’arriver (loi de Moore) à l’intelligence artificielle forte (celle qui a conscience d’elle même et prend toutes les décisions à notre place). L’intelligence artificielle est là pour remplacer la connerie naturelle des Hawking, Chomsky et autres Wozniak. Dans les offres d’emploi on pourra bientôt lire : HUMANS NEED NOT APPLY.

      +8

    Alerter
    • rémi lobry // 08.08.2015 à 07h53

      Et je réponds à moi-même. Pensez-vous que c’est la bien-pensance et l’éthique de vieux croûtons qui ont aboli l’esclavage ? Non ! Ce sont la machine à vapeur, le moteur à explosion et l’électricité. L’espérance et la qualité de vie des noirs américains pré Autant en emporte le vent était meilleurs que celle de l’afro-américain sous Obama. Il y a 2.5 fois plus de noirs à purger de longues peine aux USA aujourd’hui qu’il n’y avait d’esclaves en ce temps là. Scarlett O’Hara fut nourrie au sein par sa nounou noire. Inimaginable de nos jours.

        +14

      Alerter
  • Charlie Bermude // 08.08.2015 à 08h10

    Je crois qu’on y est déjà avec les dromes . J’aime bien la phrase : philosophes , scientifiques , entrepreneurs unis …Faut la prendre dans quel sens , ‘tous unis ?’ , ou bien c’est pour souligner le coté interdisciplinaire ?
    Doit bien y avoir certains dans ces diverses disciplines qui y verraient de l’intéret au contraire .
    Me vient une idée , encore plus cynique , du fond obscur de mon ame , des robots , est ce que ce serait pas mieux que des djihadistes qui se livrent à un concours d’horreurs et font un marché d’esclaves pour leurs profits ou perversités personnelles . Au moins on pourrait convenir de régles à respecter dans leur programmation et leur armement , théoriquement .

      +4

    Alerter
  • JacquesJacques // 08.08.2015 à 08h48

    Je ne crois pas que ces robots même s’ils sont et seront très “évolués” peuvent et pourront avoir ce discernement qui fait l’être humain – réellement humain – puisque les parts de conscience sont inégalement réparties parmi les êtres que nous sommes. Question : y aura-t-il un déclic suffisant de conscience salutaire qui sauvera l’espèce ? Autrement dit : serons-nous suffisamment effrayés par l’étendue de notre folie pour décider de nous interdire l’emploi de nos créations et brûler nos bras déjà armés pour notre mort par suicide ? Cela nous permettrait d’entrer en responsabilité individuelle et en responsabilité d’ensemble pour VIVRE. Ce n’est pas gagné !

      +4

    Alerter
    • pol // 08.08.2015 à 13h56

      Premiere loi de Murphy: if it can go wrong , it will !

      POL

        +8

      Alerter
  • tepavac // 08.08.2015 à 09h11

    Tant qu’il y aura de la haine, de la colère ou de la bile dans le coeur de l’humain, il y aura toujours
    une menace mortelle en toute chose…
    .. et nous ne pourrons pas empécher ceci de se réaliser :

    https://www.youtube.com/watch?v=DZuFFnbdTL0

      +3

    Alerter
    • Geof’ // 15.03.2018 à 10h05

      bien sûr…

      science sans conscience…

      de fait, la question, c’est si “on” (comprenez ils) a eu raison de laisser un singe jongler avec des lames de rasoirs – ne fallait-il pas lui apprendre que ça coupe, qu’il y a d’autres façon de s’amuser ?

      Einstein pensait que l’humanité n’était pas prête pour les armes nucléaires…

      de fait, les USA (et la Russie, et la Chine, et je ne sais qui…) mettent au point des mini-armes nucléaires, dites tactiques : on n’a pas avancé en 5000 ans d’histoire humaine du point de vue de la sagesse (Sumer, Egypte…), et ben on va vite retourner à la case départ…

      Geof’, neo-communiste belge qui tend vers la sagesse

        +4

      Alerter
  • Bardamu // 08.08.2015 à 09h38

    La menace de ces robots à IA n’est viable qu’à considérer que la civilisation qui les rend probables se maintienne encore plusieurs dizaines d’années. Tout comme le projet délirant de guerre des étoiles, les US en ont simplement les moyens financiers et techniques ? Il est permit d’en douter.
    Si l’essor des ressources non conventionnelles signent le passage du peak oil et la paranoïa nord américaine la prise de conscience de leur déclin inéluctable, alors nous sommes dans le début de l’effondrement et tout ceci n’aura été au fond qu’un bad trip :
    https://www.youtube.com/watch?v=2b6npw-xgvM&list=PLgn72T9BCXOLavx7Diyf1O_nRBUBMIkg9#action=share

      +4

    Alerter
    • Laurent // 08.08.2015 à 11h36

      Là, il faudrait s’entendre sur ce que vous appelez “la menace des robots à IA”. S’il s’agit d’un robot qui tourne mal et tire dans une foule de civils occidentaux, il y a déjà tous les moyens nécessaires.

        +4

      Alerter
  • samuel // 08.08.2015 à 11h20

    Depuis le grand discrédit de nos élites financières ou politiques dans nos sociétés, j’ai bien peur que les nouvelles générations s’illusionnent dans les seules valeurs technologiques ou robotiques, vu que l’humanité moderne s’en trouvera déjà grandement piégée et marchandisée par le monde de nos multinationales. Du coup les “hommes” sans conscience continueront à jouer avec le feu, faut dire que les premières choses impensables de Fukushima ne semblent pas plus conduire les premiers dirigeants privés du globe à un réel repentir de conduite, c’est le développement durable contre le genre humain.

      +7

    Alerter
  • Paul Auster // 08.08.2015 à 11h39

    Pour le moment, il n’existe aucun droit formel relatif aux robots ou à la robotique ! Tout au plus, ici ou là, des chartes éthiques, par nature non contraignantes ! Pour en savoir plus sur le sujet, vous pouvez lire par exemple : http://www.alain-bensoussan.com/wp-content/uploads/2014/11/28743700.pdf

      +3

    Alerter
  • Paul Auster // 08.08.2015 à 11h42

    S’agissant de recherches militaires qui pourraient inquiéter, il est possible d’en dénombrer sur le web !
    Par exemple : avez-vous entendu parler de ces programmes futuristes ?
    http://www.onr.navy.mil/Science-Technology/Departments/Code-34/All-Programs/human-bioengineered-systems-341.aspx , qui dont fait partie des priorités du DoD :
    http://www.bis.doc.gov/index.php/forms-documents/doc_download/1257-dx-rated-program-list ?

      +5

    Alerter
  • John // 08.08.2015 à 11h43

    Bientôt les robots remplaceront les humains dans la plupart des tâches. Les 0.1% vont avoir de moins en moins besoin des 99.9%.
    Imaginez que les hyper riches commandent les robots tueurs, je ne donne pas chère du reste de l’humanité.

      +13

    Alerter
    • Emmanuel // 08.08.2015 à 19h06

      Vous allez un peu vite, cependant il existe déjà des expériences d’humains dirigés par des automates avec des résultats (productivité) supérieurs à ceux d’une direction humaine. Le capitalisme y viendra dès que les technologies seront assez performantes. Une autre étape significative sera de reconnaître légalement la personnalité de certains automates, autrement dit qu’ils seront considérés comme des personnes non humaines. Ne riez pas, des avocats y travaillent déjà.

        +2

      Alerter
      • John // 08.08.2015 à 21h40

        Dans ce résonnement, je suis parti du principe que l’homme garde le contrôle sur l’IA ce qui est loin d’être acquis car l’IA sera peut-être la dernière invention humaine car ensuite l’évolution de l’IA pourrait-être exponentielle (voir le concept de singularité technologique) et l’IA considérera l’humain comme nous considérons une poule….

          +2

        Alerter
      • calal // 15.03.2018 à 18h00

        un africain ca vaut 1 dollar par jour, il est normal qu’on accorde plus de valeur a un robot qui coute 10 millions …Bon evidemment l’europeen moyen s’illusionne totalement sur sa valeur marchande…

          +0

        Alerter
  • Paul Auster // 08.08.2015 à 11h44

    Et si les hubots étaient en charge de la conduite des affaires du monde, en serions-nous là aussi ? http://streamzzz.com/category/real-humans

      +3

    Alerter
    • Macarel // 08.08.2015 à 12h10

      Mais les hubots sont en charge des affaires du monde!

      Nous sommes gouvernés par des algorithmes et des règles. Aussi bien en politique que dans le
      domaine de la finance. C’est bien pour cela que nous en sommes là, où nous en sommes aujourd’hui. Hollande, Merkel, Obama, sont des humains “hubotisés”, entièrement contrôlés par le système.
      La Grèce doit se plier au règles du système, même si cela contrevient à des règles humanitaires élémentaires.
      Tsipras est le dernier en date à avoir été “hubotisé”.
      Notre monde cybernétique, n’a plus d’âme, il est froid, cynique, amoral, c’est bien un monde de robots.
      Un monde tel que l’avait imaginé Von Neumann.

      http://www.arte.tv/guide/fr/050347-000/john-von-neumann?autoplay=1

        +9

      Alerter
  • Patrice Cardot // 08.08.2015 à 11h49

    Vous utilisez probablement tous Google ! Et pourtant, c’est l’une des entreprises les plus impliquées dans le transhumanisme (et ses possibles dérives) : http://www.regards-citoyens.com/article-google-et-les-transhumanistes-par-laurent-alexandre-le-monde-118202825.html

      +5

    Alerter
  • Paul Auster // 08.08.2015 à 11h51
  • Fabrice // 08.08.2015 à 12h34

    j’ai toujours pensé qu’il est dangereux de multiplier les machines à tuer autonomes pour plusieurs raisons (déjà évoquées pour la plupart):

    – la machine peut échapper au contrôle de son propriétaire (piratage, bug, …),

    – si pas de conscience pas de remord et faire la guerre devient la pire des boucheries qui n’a pas de raison de s’arrêter sauf à la fin d’un des protagonistes (si évidemment les deux en sont équipés)

    – rejoint le point 2 quand il n’y a pas un prix à payer pour le propriétaire des machines il sera tenté de l’utiliser systématiquement au lieu de chercher d’autres moyens (diplomatique, économique, philosophique, non violence, force de dissuasion, …).

    Dès qu’un pays ne plaira pas au pays doté de ce type d’équipement (si d’autant plus ce pays se croit élu et avoir toujours le bon droit de son côté), le détenteur de ces monstruosités ne cherchera plus à comprendre. Il appuiera sur un bouton et les machines s’occuperont du problème, peu importe ce qui se passe dans le pays cible, il n’avait qu’à pas à le contredire.

    Bref une ruine morale et éthique pour le pays qui utilisera ces moyens qui n’aura pas à se poser la question, il sera devenu un symbole vivant de tout ce qui est inhumain.

      +7

    Alerter
  • Alain CAVAILLÉ // 08.08.2015 à 12h47

    Ce que j’en pense est tout bête.
    Si l’homme crée des machines pour faire la guerre, il faut leur indiquer les cibles. Comme il est probable que la dite cible aura eu la même démarche, ce sont des machines qui vont s’entre-démolir et le résultat sera nul, c’est donc nécessairement, et finalement, les constructeurs des machines qui devront alors affronter les constructeurs adverses. Les machines n’ont plus de sens
    Bien entendu, si les premiers sont réellement seuls à posséder les dites machines, ce n’est plus une guerre mais un génocide.
    Il faut donc clairement énoncer le problème afin de donner une réponse cohérente.

      +3

    Alerter
    • farigoulette // 08.08.2015 à 15h11

      “Ce que j’en pense est tout bête.
      Si l’homme crée des machines pour faire la guerre, il faut leur indiquer les cibles”

      Sauf que, Alain, il est bien expliqué dans ce que j’ai pu lire, qu’à un certain niveau d’intelligence artificielle, celle-ci peut devenir complètement autonome par rapport aux apprentis sorciers/savants humains ivres de leurs pouvoirs de création scientifique et donc de leur influence dans la marche du monde. Le créateur dépassé par sa créature.
      C’est bien tout le problème du projet de “l’intelligence artificielle” non seulement celle conçue pour tuer (qui est d’une monstruosité et d’une inhumanité sans nom) mais aussi les autres dans tous les domaines sociétaux et économiques. (attention à la face sombre des moyens modernes de communication et d’information pour anesthésier toute conscience humaine) Merci Olivier et l’équipe de les utiliser à bon escient.
      Il y a des bombes sournoises qui ne tuent pas physiquement mais qui détruisent l’intelligence du coeur, le sens du discernement et des valeurs tournés vers le bien et le bonheur d’une humanité enfin consciente qui saura (saurait…) élaborer des garde-fou efficaces et sans faille contre les dangers de la loi du plus fort, du désir de domination et de pouvoir qui pourrit les humains de l’intérieur.
      Qui dit “Liberté” “Progrès” devrait tout de suite poser la question : “pour qui et pour quoi faire” avant d’entreprendre toute réflexion et toute action dans tous les domaines sur notre planète.

      Mais une autre question tout aussi cruciale se pose : Les humains sont-ils capables d’utiliser leur intelligence simplement humaine à des fins propices au bonheur et à l’émancipation de l’humanité toute entière sur tous les continents dans l’harmonie, l’entr’aide, la Paix et la fraternité – plutôt que la pernicieuse, haineuse et dominatrice compétiion – ?

      Question supp qui en découle vu la situation catastrophique actuelle : Les “sans dents” innombrables sauront-ils et pourront-ils imposer les mêmes réflexions vitales et les réponses de bon sens adéquates aux 1% soit les cercles de pouvoirs politiques, économiques et scientifiques qui retirent tant de privilèges (avec ou sans crise) à tenir le monde entre leurs griffes de rapaces prédateurs aux valeurs mortifères dont celle qui châpeaute tout : l’Argent roi et son Pape dominateur les USA ?

        +5

      Alerter
    • Haricophile // 15.03.2018 à 10h59

      Une guerre limitée à Constructeur contre constructeur de machine “intelligentes” sans que les humains ne soient impliqués, ça existe déjà : ça s’appelle un jeu video, et c’est clairement pas vers ce modèle qu’on s’oriente !

        +1

      Alerter
  • Nouréiev // 08.08.2015 à 13h18

    Une mine c’est déjà un robot tueur.

      +6

    Alerter
  • Bon Scott // 08.08.2015 à 14h15

    le jour où un virus informatique fera perdre aux utilisateurs le contrôle de leurs machines de guerre artificiellement intellectuelles, peut-être que les constructeurs comprendront qu’ils sont allez trop loin et que la paix était une meilleure alternative.

      +3

    Alerter
  • Crapaud Rouge // 08.08.2015 à 14h59

    Et puis, il y a ça : http://rue89.nouvelobs.com/2015/08/04/hitchbot-assassine-hommes-ressuscite-hommes-260587, un article où l’auteur parle d’un robot comme s’il s’agissait d’un être humain. Je n’ai pas lu tous les commentaires, mais il ne semble pas que les lecteurs s’en soient alarmés, alors qu’il y a vraiment de quoi.

    Expliquons : se comporter face à un robot (sophistiqué, on se comprend), comme s’il était un être humain, c’est tout à fait normal puisqu’il a été fait pour imiter le comportement humain. Comme dans toutes relations, son comportement induit le vôtre : s’il vous interpelle, vous lui répondez. Que vous l’injuriez ou que vous le respectiez, vous ne pouvez faire autrement que de rester ce que vous êtes : un humain. Mais en parler comme s’il était un être humain, (et alors même que l’on n’a pas eu de relations avec lui, ce qui est le cas du journaliste), c’est représenter la réalité de façon totalement fausse. Un particulier peut parler de son animal de compagnie comme s’il était humain, mais c’est son problème et c’est son histoire : il ne va pas en faire un billet sur un site grand public. Ce journaliste, au contraire, propage une vision du monde dans laquelle des machines sont considérées comme des être humains. Autrement dit : un robot est un être humain ! Faire ça sans recul ni prétexte stylistique, et avec l’arrière-pensée de vanter une prouesse technique, c’est tout bonnement horrible ! Si l’on tolère que les robots soient des êtres humains, l’on prépare les esprits pour qu’un jour ils soient autorisés à tuer comme des êtres humains…

      +8

    Alerter
    • Emmanuel // 08.08.2015 à 19h33

      La télévision rend humaine des simulacres d’humains, idem pour n’importe quel système qui permet de visionner des vidéos. La TV ne peut-elle pas produire chez les téléspectateurs des émotions puissantes ? Bien évidemment, comme une relation immédiate avec autrui, sans intermédiaire (sans médias).

      Tout est dans la capacité de s’émouvoir d’un être humain, l’affection précède l’intellection et beaucoup de monde souvent s’y arrête. C’est bien ainsi qu’on fait marcher les consommateurs, non ? Quand il s’agit des citoyens c’est pire (manipuler l’opinion publique pour faire accepter une guerre, quels que soient les mots employés pour masquer cette réalité trop crue à nommer).

      Il y aura une tâche immense et permanente d’éducation à mener pour faire apparaître et maintenir la distinction entre machines et humains. Dans le film ” I, Robot ” Will Smith affiche un profond mépris pour les automates humanoïdes mais il fait figure d’exception. Sur internet on peut trouver des vidéos de très jeunes enfants (en Corée ou au Japon) qui ont des automates en guise d’instituteur ! Il y a toujours un humain à côté mais le but est de perfectionner assez les machines pour se passer de lui. Ainsi on voit un automate dire bonjour à chaque gamin, l’un après l’autre, et chaque gamin venir embrasser (prendre entre ses bras) chaleureusement la machine !

      Par ailleurs, au plan éducatif, remplacer les professeurs par des machines est coûteux et inefficace, c’est maintenant démontré par plusieurs études (par exemple Michel Desmurget en a parlé), gageons pourtant que les vendeurs de ces saloperies – excusez le terme – n’en ont rien à faire. Quant aux industriels de l’armement avec leurs futurs joujoux, vous m’avez compris…

        +3

      Alerter
    • Haricophile // 15.03.2018 à 11h03

      Quoique on fasse et de quoiqu’on parle, nous avons une perception de la réalité fausse, Matisse l’a exprimé de manière sublime et simplissime avec son tableau « Ceci n’est pas une pipe ». D’ailleurs il n’y a pas a aller bien loin : Observez simplement un propriétaire de chien.

      Est-ce mal ou bien, c’est une autre paire de manche philosophique a laquelle il n’y a certainement pas de réponse définitive et absolue. C’est une composante de notre humanité.

        +1

      Alerter
      • julia // 15.03.2018 à 15h11

        excusez moi … ce n’est pas Matisse mais ..MAGRITTE

          +0

        Alerter
      • Marc T // 15.03.2018 à 18h53

        “Ceci n’est pas une pipe.” est une œuvre de Magritte, pas Matisse.

        Marc, …qui n’étant pas un robot, se trompe régulièrement aussi.

          +0

        Alerter
  • theuric // 08.08.2015 à 16h26

    Ne faisons pas d’amalgame, quand bien même, aujourd’hui, un robot peut avoir une certaine efficacité et s’adapter à un bon nombre de situations, nous sommes encore loin de la coupe au lèvre d’une simple machine du niveau de l’insecte à celle qui, de son propre fait, prendrait son indépendance.
    Ensuite vient la question du coût et il est probable que sur un champ de bataille le troufion restera toujours moins cher qu’une machine de l’envergure de celle qui est décrite par les signataires.
    Pour l’instant, nous ne faisons face qu’à des conflits de très faible à à-peine de moyenne envergure avec, de plus, des déséquilibres souvent importants entre les belligérants.
    Ainsi, des batailles de type aériennes comme lors de la bataille d’Angleterre ou celle de chars d’assauts comme lors de la bataille de Koursk qui nécessitèrent un important déploiement d’hommes et de matériel ne sont pas, pour l’instant, à l’ordre du jour (combien de combattants lors de la bataille de Stalingrad, combien combattent en ce moment en Syrie et en Irak?).
    Mais une guerre d’ampleur internationale pourrait très bien survenir et se posera inéluctablement la question du coût de fabrication et de fonctionnement du matériel militaire.
    A combien, déjà, revient le moindre envoi de drone par les étasunien?
    Si nous écartons, comme il le fut noté, les questions de contrôle d’un matériel devenu peu ou prou indépendant des décisions humaines, bogue, piratage, brouillage, le prix que peut représenter la perte d’une seule de ces machines pourrait se révéler telle qu’elles risquerait fort de se retrouver cantonner à des tâches subalternes.
    De plus, le déploiement de telle machine nécessiterait peut-être bien une intendance plus importante encore que celle nécessaire pour les êtres humains.
    Déjà, l’aviation militaire arrive, à mon sens, au maximum de sa complexité, qui peut piloter un rafale aujourd’hui sinon un ingénieur, du-moins quelqu’un ayant son niveau et, de plus, remplacer le matériel sera tout aussi long et coûteux que de remplacer le pilote.

    N’extrapolez pas, je n’ai pas dis que j’étais un va-t-en-guerre mais, simplement, je tentais une approche stratégique à une question stratégique, et la réponse que j’en donne c’est que, pour l’instant, celle-ci ne se pose même pas, fabriquer ou acheter un rafale est tout aussi onéreux aujourd’hui que ne l’était, pour les vikings la fabrication de leurs drakkars, alors mettre au point un robot-guerrier puis le fabriquer en un suffisamment grand nombre pour peser suffisamment sur un champ de bataille me paraît, pour l’instant, un rêve pour le moins prématuré, voire impossible.
    Comment le robot-soldat va-t-il faire pour trier le soldat qui est de son bord de celui qui est son ennemi, par un émetteur dans la poche du militaire, une puce sous sa peau?
    Il suffira, pour l’ennemi de récupérer ce matériel et de se l’implanter pour ne plus être atteint de cette machine.

    Je ne dis pas qu’il n’y aura pas de tentatives, je ne dis pas, non plus, qu’une façon de solution puisse être trouver pour répondre aux nombreux défis qu’un robot-soldat pose mais, si tous ceux-ci se révèlent pouvoir se résoudre, il est à craindre, en effet, que la créature n’échappât à son créateur.
    Mais, en cela, j’avoue toutefois mon scepticisme.

      +3

    Alerter
    • Subotai // 08.08.2015 à 18h18

      Le problème c’est que le troufion ne coute pas moins cher qu’un truc fabriqué en série par des usines automatiques. En plus, ce con, il a ses humeurs. Il faut le former. Il lui faut ensuite bouffer, boire, chier*, dormir. Et pire il lui faut les câlins de môman quand il se sent mal. 🙂
      Tout bénef avec une machine.

      * Zavez pas idée ce que ça coute de maintenir la troupe en bonne santé sur le terrain. Et les latrines c’est fondamental. 🙂

        +0

      Alerter
      • theuric // 08.08.2015 à 20h32

        C’est vrai, mais une machine, quelle qu’elle soit, à besoin d’énergie pour fonctionner et, à ce jour, nous ne savons pas comment en conserver une grande quantité dans un petit volume.
        Or, un robot-soldat a besoin d’énergie pour se déplacer, pour combattre et, surtout, pour faire fonctionner son ordinateur de bord.
        Rappelons tout de même que si il fait trop froid ou trop chaud, les ordinateurs ont besoin d’énergie pour se réchauffer ou se refroidir, sinon ils ne fonctionnent plus, avoir la clim, quoi.
        De plus, les ordinateurs arrivent au niveau de complexité où rares sont ceux pouvant en comprendre la programmation, ce qui veut dire que nous arrivons face à un mur de complexité programmatique qui risque de rendre, au-devant de certaines situations, la machine inutile, voire dangereuse.

        Notre réflexe archétypale qu’est l’anthropocentrisme tend à nous faire imaginer l’animal, la machine, voire les extraterrestres, autrement que ce qu’ils sont en réalité, soit des animaux, des machines ou des extraterrestres avec leur fonctionnement propres et, pour chacun, leurs limites:
        Pour l’instant, au risque de ressasser les mêmes rengaines, nous vivons une sorte de stabilité économique apparente quand, en réalité, l’ensemble du système se désagrège sous nos yeux.
        Ce qui fait tenir les structures de fonctionnement social, en Europe comme dans le monde, c’est la vitesse avec laquelle se fait cette désagrégation.
        Nous en avons un bel exemple historique lors de l’effondrement de l’empire romain d’Occident accompagnant l’emprisonnement du dernier empereur: les dernières structures de fonctionnement social se sont effondrées en même temps.
        N’oubliez pas que le G.P.S. est étasunien et que, bon an mal an, une majorité des ordinateurs faisant fonctionner internet se trouvent aux U.S.A. et, ensuite, en Europe.
        Quid, dès lors, des robots-guerriers sans ces outils?

        Comme vous le voyez, quel que soit l’angle avec lequel j’observe ce type de machinerie, du-moins pour le court à moyen terme, soit la décennie qui vient, voire jusqu’à la suivante, je ne la perçois pas comme étant d’une immense dangerosité.

        En revanche, il est vrai que les deux guerres mondiales ont généré de violents traumatismes en Europe et dans le monde, l’Europe, en cela, fut la région la plus durement touchée, comme le disent les psychiatres, il faut trois génération pour faire un schizophrène, ou une maladie mentale grave.
        Faites le décompte en France, vingt ans pour une génération environ et rajoutez-y les guerres de décolonisation, 1962 pour la fin de la guerre d’Algérie, 2015 – 1962 = 53 ans, en sachant que les appelés du contingent de l’époque avaient une vingtaine d’année, cela nous fait 73 ans, divisés par trois, égale 3,4, le compte y est.
        Ceci expliquant peut-être cela…

        Je me moque de considérations tel que l’optimisme ou le pessimisme, si les B.R.I.C.A. se sont regroupés ce n’est juste qu’en raison des effets potentiellement dévastateurs d’un empire U.S. au porte de son agonie.
        La Russie, de son coté et avec raison, fait tout ce qui est en son pouvoir pour éviter que la région où les craintes de déflagrations sont les plus importantes, soit en Asie entre la Chine et l’Inde, ne dégénèreraient en un réel conflit lorsque l’est U.S.A. ne seront plus (au moins en tant qu’empire), ce qui, en ce cas, pourrait devenir mondial.
        Nous, pendant ce temps là nous, nous digérons encore les dernières fumeroles des terribles traumas qui, de 1914 à 1962, soit pendant 38 ans pour les français, nous ont secoué.
        Mais bon, je sais qu’ici je suis sorti du sujet, bien que…

          +2

        Alerter
  • Vortex // 08.08.2015 à 19h32

    Pourquoi une intelligence artificielle devenue autonome se préoccuperait -elle des humains plutôt que de sa propre survie (cf Assimov) ? Il est vraisemblable qu’une IA considèrerait les humains comme l’espèce sur terre à éradiquer parce qu’étant autonome, cette intelligence n’en aurait plus besoin; et puis les intérêts égoïstes que l’humain privilégie, entrent trop souvent en contradiction avec l’intérêt des autres vivants que sont les animaux, les plantes et l’environnement d’une manière générale. Le danger ce ne sont donc pas des robots guerriers pour se substituer à des lâches qui veulent pouvoir tuer d’autres humains en restant tranquillement assis en sécurité dans leurs salons, mais de vouloir rendre intelligents des objets en croyant pouvoir ensuite les maintenir au service de l’homme. Cette dérive n’a pu arriver que parce que la financiarisation outrancière du capitalisme a rassemblé l’essentiel des moyens de paiements entre les mains d’une minorité qui non contente de gagner de l’argent en dormant et d’asservir le reste de la population par la précarité de l’emploi (pour maintenir sa puissance), veut maintenant s’essayer à créer “la vie” artificiellement. Si les moyens de paiements avaient continué à être distribués équitablement (avant toutes les dérégulations des années 80), les États auraient continué d’être plus riches que des institutions ou des individus, avec la possibilité réelle pour les populations d’exiger des pouvoirs publics que les investissements nouveaux participent à l’augmentation du bien-être collectif plutôt qu’à la satisfaction d’égos sur dimensionnés de milliardaires.
    En définitive, l’homme sera le premier habitant de la terre à avoir provoqué sa propre extinction, laquelle ne fera que s’ajouter aux cinq extinctions qui l’ont précédée et qui n’ont pas empêché la terre de continuer de tourner. Bon, maintenant je vais me calmer avec une tisane.

      +8

    Alerter
  • chris // 08.08.2015 à 20h43

    Il n’y a pas besoin d’un robot qui ressemble à un humain et qui irait sur le champ de bataille. Aujourd’hui les systèmes de frappes nucléaires sont de plus en plus automatisés, il est possible qu’un système informatique soit à l’origine d’une frappe nucléaire dans un avenir proche. Bien plus dangereux qu’un robot !

      +5

    Alerter
  • DCM // 08.08.2015 à 22h04

    Imaginez que robot dont on parle soit celui qui entre le premier dans l’hypercasher de la porte de Vincennes en Janvier. Et que ce soit lui qui se prenne la balle qu’a encaissé le gars du GIGN.
    Tout le monde approuverait. Médias en tête. Imaginez les titres du 20 heures.
    Vous voyez il suffit de trouver un moyen de “vendre” le concept.
    Après on pourra étendre les applications…

      +0

    Alerter
    • theuric // 09.08.2015 à 02h37

      D.C.M.,

      La question n’est pas de savoir si il est possible ou non de mettre au point une machine de ce type mais celle de son efficacité.
      Un militaire qui en userait, non pas pour son efficacité mais pour la faire accepter par la population serait un imbécile ne méritant pas son grade.
      Étendre ses applications ne veut dire qu’étendre des applications mais ne veut pas dire efficacité, nuance.
      Ce serait comme si Airbus avait installé ses systèmes électroniques révolutionnaires juste pour faire joli ou moderne en attendant d’étendre les applications.
      Déjà qu’avec ça ils ont eu tout de même quelques accidents, en sachant que, quoi qu’il en soit ce sont les hommes qui ont le dernier mot sur la machine, alors imaginez un robot-char pétant un câble…

        +1

      Alerter
    • Haricophile // 15.03.2018 à 11h13

      C’est sur ce genre de rhétorique et d’enfumage que se basent les marchands d’armes, d’alarmes etc. (d’ailleurs ce sont les mêmes qui vendent les armes et la “sécurité”).

      La seule vérité c’est que moins il y a d’arme quelque soient leur justification, moins il y a de danger. Il suffit de regarder les statistiques existantes dans les différents pays du monde.

      En plus il ne faut pas oublier en tant que grand pays producteur d’armes, les armes utilisées dans tous les conflits que l’on déplore, officiellement dans les medias avec une hypocrisie sans nom assaisonnée “de droits de l’hommes” et autres trucs a vomir, n’ont pas été fabriquées sur place !!!

      Gageons que ces robots tueurs, sitôt au point, seront exportés “pour le bien de la civilisation”

        +2

      Alerter
  • Moondog // 10.08.2015 à 11h19

    Bonjour,

    C’est avec un regard fataliste que je constate que ce sujet ne date pas d’hier. Cinématographiquement parlant bien sûr. Robocop, Terminator, Matrix avec les sentinelles, I.A de Steven Spielberg, où encore I.Robot avec Will Smith. Ces films ont en commun la volonté de nous imposer dans notre subconscient que notre avenir ce fera nécessairement avec les robots. D’ailleurs nous pouvons le constater par la présence quotidienne des smartphones ( soit des ordinateurs mobile), tablettes, et divers objets virtuelles qui font que nos journées sont un reflet d’une dictature de l’écran qui ne dit pas son nom. Le film Démolition Man avec Sylvester Stallone nous l’avait bien montrer il y a 20 ans de cela, au point que le coup d’Etat orchestré par notre gouvernement en imposant la surveillance de tous citoyens français nous rapproche toujours un peu plus vers scissure naturel, je dis bien naturel, entre le pouvoir et les petites gens que nous sommes, dans un souci de contrôle permanent, prétextant une nouvelle menace à venir. D’ailleurs, nous pouvons constater que chaque fois que nous connectons sur Google, Apple, Amazon,Facebook ou Twitter, il y a toujours un lien qui nous rappelle que nous sommes suivi à la trace. Bref, souriez, vous êtes dans la boîte. Du côté de l’armement, c’est guère mieux. En effet, le drône, nous à montré que c’était un vulgaire un chien de chasse, qui est à la solde de la politique de la Terreur, avec ce souci permanent de traquer l’ennemi, et ça, où qu’il soit. Il faut croire que rien n’échappe à nos rois de la gâchette. Le dernier Jason Bourne avec Jeremy Renner nous le montre bien d’ailleurs. C’est dire. Mais pour revenir au sujet principal, le fait de voir des robots envahir notre quotidien sera tout simplement un aveu de faiblesse. Cela, voudra dire que nous vivrons dans un monde où nous serons que des bien à la solde de l’Etat tout puissant, et que l’extension de notre quotidien sera la présence imposer des robots, qui bien qu’ils vivront à nos côtés seront les mains et les yeux du gouvernement qui nous dirige. Cela voudra dire que l’intelligence artificielle sera la norme, et que nous serons dans l’obligation de l’accepter, à défaut de nous défendre et de pouvoir composer avec elle, car elle sera une contrainte insidieuse, perverse, et manipulatrice. Je le crains. Alors vous imaginez quand la guerre éclatera. Nous serons vulgairement parqués dans des prisons comme des gosses, à qui il faudra faire la leçon pour chacun reste en vie comme un bon chien-chien à son maî-maître ! Seuls les soldats aguerris aux maniements des nouvelles technologies de guerre et à la présence des robots seront sur le front pourront jouer le jeu. A moins qu’eux aussi soit génétiquement modifiés pour ne pas perdre le lien dans la course aux robots de combat ultime. Bien que je pense que cet approche existe, il faudra peu de temps pour que cela nous saute à la figure. Nous verrons bien. A Schwarzie d’être Président des Etats-Unis ! Hein !

      +0

    Alerter
  • sg // 10.08.2015 à 13h58

    C’est juste hallucinant, on arrive dans une ère encore plus sombre que dans les fictions d’Orwell pour la surveillance et Asimov pour l’éthique robotique: bien que l’éthique computationnelle soit un vrai domaine d’étude et permette déjà d’insuffler une éthique (au moins partielle) dans les robots autonomes, je doute fort que de tels systèmes seront implémentés dans les LARs (Lethal Autonomous Robots, les robots tueurs, c’est le nom officiel qu’on leur donne), car justement, le but est de tuer, pas de préserver des vies (et en plus ça coûte cher et ça ne donne aucun avantage tactique, d’après les décideurs militaires…).

    Au moins, dans les fictions d’Asimov, la première loi des robots était de protéger la vie des Hommes. C’est une utopie comparée à ce qui nous attend avec les LARs.

      +3

    Alerter
  • Stéphane // 12.08.2015 à 10h06

    Les auteurs de science fiction du milieu du XXième avait évidement raison. Mais au bout du raisonnement, depuis les débuts de la révolution industrielle la lutte est commencée. C’est une lutte entre deux forces : la vie et la mort. Les machines sont la mort, le non vivant. L’humain est la créature vivante la plus aboutie, qui a colonisée l’ensemble de son eco système de façon prédatrice et qui est capable de provoquer la victoire de la “non-vie”, des machines. Une partie des humains étant devenu profondément nihiliste, l’espèce humaine ira jusqu’au bout du délire et nous aurons un e guerre contre les machines, dés qu’elle seront devenues intelligentes. La question est, qui sortira vainqueur de cette guerre ? Les machines utiliseront-elles les armes atomiques pour effacer toute trace de vie sur terre ? La vie sera-t-elle la plus forte ? La conscience humaine et sa foi dans la vie fera-t-elle un retour sur terre avant le point de non retour ?

      +1

    Alerter
    • dufour // 12.08.2015 à 12h59

      ” La vie sera-t-elle la plus forte ? La conscience humaine et sa foi dans la vie fera-t-elle un retour sur terre avant le point de non retour ?” Oui si l’homme apprend par la connaissance de sa genèse qui il est, les solutions d’une évolution positive de l’humanité lui apparaitrons, mais il est tellement enferré dans la conception matérialiste qu’il sera difficile de le réveiller. Les puissances qui le dominent ne sont visibles que par l’œil de l’esprit.

        +2

      Alerter
  • Kiwixar // 15.03.2018 à 06h06

    La robotisation (“armes intelligentes”) permet à l’oligarchie de tuer des gueux gênants sans avoir recours au maillon faible (d’autres gueux).

    Avec les journalopes pour enrober tout ça (des gueux mal placés au-dessus de ressources minières/énergétiques > “démocratie, devoir d’ingérence, des gueux qui produisent trop de CO2”), et Asimov passe à la trappe. Déjà, il a un nom russe, c’est suspect.

      +6

    Alerter
  • Merlin // 15.03.2018 à 08h52

    En Novembre 1945, Einstein a écrit un article pour alerter l’opinion publique des dangers de l’arme atomique. Pour ce que ça a servi…

    http://www.francesoir.fr/culture-medias/novembre-1945-le-cri-dalarme-deinstein-sur-la-bombe-atomique

      +4

    Alerter
  • Charles-de // 15.03.2018 à 09h42

    Pauvres innocents, ils s’imaginent que leur parole de scientifiques pèsera face aux appétits féroces de nos gouvernants.
    Ils ont souvent CRéé EUX-MEMES les armes dont ils demandent après l’interdiction ! Regardez la dynamite. Nobel pensait que son invention allait mettre fin aux guerres vu le potentiel de destruction qu’elle avait. En fait, ça lui a fait une immense fortune. Et la bombe atomique; ceux qui l’avaient mise au point ont protesté vainement. Etc, etc.

      +0

    Alerter
    • Haricophile // 15.03.2018 à 11h20

      Ne pas oublier que Nobel a créé non pas les explosifs, mais un explosif stable. La dynamite a remplacé la nitroglycérine liquide, et c’est quand même un progrès qui ne change pas grand chose sur la capacité explosive mais beaucoup sur la sécurité des opérateurs !

        +0

      Alerter
  • Gaby // 15.03.2018 à 09h49

    Juste un petit rappel :
    Robot = métal, nombreux métaux rares pour ces processeurs et énergie.
    Bientôt, on viendra à manquer de ces éléments. A long terme, le robot n’est donc pas un problème (ni même un sujet), reste à savoir si la science dans ce domaine sera plus rapide que l’effondrement de l’extraction de ces matières indispensables.

      +2

    Alerter
    • Haricophile // 15.03.2018 à 11h23

      L’or est un métal relativement rare. Le problème actuel n’est pas tant les quantités existantes que la concentration de lieux de stockage…. je veux dire par la que même rare, je crains que le problème n’est pas tant la rareté que le fait que les priorités de distribution soient très mal placées si l’on considère l’intérêt général.

        +0

      Alerter
  • Afficher tous les commentaires

Les commentaires sont fermés.

Et recevez nos publications