Source : Numerama – Marie Turcan – 20/02/2021
Margaret Mitchell, qui était co-leader de la division éthique dans l’intelligence artificielle de Google, avait voulu défendre sa collègue chercheuse, Timnit Gebru, après son renvoi. Elle vient d’annoncer avoir été virée à son tour par Google.
Lire l’article complet sur Numerama
En décembre 2020, la multinationale aurait renvoyé une première chercheuse, Timnit Gebru. Margaret Mitchell, l’autre cheffe de la division « Ethical AI » (intelligence artificielle éthique) de Google, avait commencé à défendre son ex-collègue. Depuis le renvoi de Timnit Gebru, Margaret Mitchell essayait de monter un dossier pour prouver que Google l’avait traitée de manière discriminatoire. Le 20 février, la chercheuse de renom a annoncé avoir été virée.
Cette décision arrive au lendemain de l’annonce de Google de changements dans ses politiques de recherches et d’inclusivité, après avoir indiqué que l’enquête sur le renvoi de Timnit Gebru était bouclée.
Lire l’article complet sur Numerama
Source : Numerama – Marie Turcan – 20/02/2021
Nous vous proposons cet article afin d'élargir votre champ de réflexion. Cela ne signifie pas forcément que nous approuvions la vision développée ici. Dans tous les cas, notre responsabilité s'arrête aux propos que nous reportons ici. [Lire plus]Nous ne sommes nullement engagés par les propos que l'auteur aurait pu tenir par ailleurs - et encore moins par ceux qu'il pourrait tenir dans le futur. Merci cependant de nous signaler par le formulaire de contact toute information concernant l'auteur qui pourrait nuire à sa réputation.
Commentaire recommandé
L’objectif réel de la recherche dans une entreprise n’a jamais été de trouver des solutions à des problèmes concernant les utilisateurs mais simplement de trouver les moyens d’optimiser les profits à court terme (sinon ça coûte trop cher).
Quand un chercheur dans une entreprise met en évidence que le « nouvel eldorado » est « tout pourri » et que ses « prédictions » dans le cas des « AI » sont totalement biaisées ou aisément corruptibles il va à l’encontre des intérêts de son employeur qui le fout à la porte sans délai.
Ne vous bercez pas d’illusions, tout ce que propose une entreprise privée n’est absolument pas dans l’intérêt du public mais simplement dans celui des actionnaires et des dirigeants qui peuvent ainsi s’octroyer des profits et des bonus totalement indécents.
Et quand la recherche publique est infiltrée et corrompue par les entreprises privées (cas des « partenariats public-privé » en France) les chercheurs qui refusent de fermer les yeux se retrouvent immédiatement mis sur une « voie de garage » en attendant leur expulsion pour « incompétence » ou dans l’objectif de faire baisser le « gaspillage d’argent public ».
Ne vous étonnez pas si les découvertes scientifiques réelles sont actuellement « en panne » : Il est plus intéressant désormais de trouver un nouveau médicament qui pourra être vendu à prix d’or que de trouver les causes réelles d’une pathologie, ce qui ne rapporterait rien à « l’économie ».
Surtout si cette pathologie provient des conséquences des activités industrielles. On ne tue pas la poule aux œufs d’or.
Un exemple qui me vient à l’esprit concerne la magnétorésistance géante découverte à la fin des années 80 en France et en Allemagne dans des labos publics (à l’époque où les chercheurs avaient encore une certaine liberté).
Découverte qui a permis de miniaturiser les têtes de lectures et sans laquelle les disques durs actuels ne dépasseraient pas quelques centaines de mégaoctets (* >10 000 aujourd’hui).
Les chercheurs faisaient des recherches en physique quantique, pas des recherches sur une quelconque application industrielle ou commerciale et c’est seulement une dizaine d’années après leur découverte que les industriels ont pu résoudre le problème (insoluble sans cette découverte) de la miniaturisation des têtes de lecture des disque durs et de la limite de capacité de stockage.
Cette recherche était purement théorique et son application dans la « vraie vie » n’était pas « rentable » pour une entreprise privée qui doit avoir un « retour sur investissement » immédiat.
De même, dans des labos PUBLICS des chercheurs découvrent depuis de nombreuses années les biais des « AI » et tirent la sonnette d’alarme sur ces problèmes, mais sans que leurs alertes ne soient bien sûr relayées au public.
Et quand ils deviennent réellement gênants on les met à la retraite d’office ou les lobbies se débrouillent pour faire fermer leurs labos en toute discrétion.
25 réactions et commentaires
Il faut absolument que les états démocratiques (?) reprennent la main sur le e-monde, avant qu’il ne devienne immonde, une geôle virtuelle. L’avenir sombre au bruit des e-bot est déjà en marche.
Toujours plus de codes, de contrôles, de censures, pour un accès à des services de plus en plus pollués par la pub en ligne, de moins en moins libres et fiables (piratages). Sans nier pour autant les immenses services rendus à la science et à la médecine…mais un service n’est jamais rendu sans contre-partie, la liberté. En plus, on voit bien que cela ne règle pas les graves problèmes systémiques, au contraire, exemple de la covid.
Or, pas d’IA sans internet (ou intranet). S’il était encore possible de vivre sans télévision ni téléphone il y a 30 ans, sans se couper du monde, en achetant le journal et en allant à la cabine du coin, il est maintenant impossible de vivre sans lien internet. Mais s’isoler changerait-il l’emprise des GAFAM sur notre vie? Pas tant qu’ils auront le monopole. Donc, il faut encourager la concurrence…au risque de déclencher une course à l’e-chalotte ou une nouvelle guerre mondiale.
En fait, je ne vois pas d’issue et c’est angoissant de se sentir piégée.
Heureusement j’ai eu la chance de grandir dans le monde d’avant, je suis donc mentalement équipée pour résister…mais non sans souffrir…
A moins que le changement climatique et la transition énergétique ne déjouent les plans des GAFAM, qui commencent à diversifier leurs activités…dans les EnR et les biotech….
+18
AlerterBonjour,
Aujourd’hui renoncer aux GAFAM ne signifie pas renoncer à Internet. Il existe des solutions et offres alternatives (commerciales ou non, opensource ou pas), en vrac : Signal, Mastodon, PeerTube, Diaspora, etc. Certaines de ces solutions sont supportées par Framasoft dans le cadre du projet « dé-googlisons Internet ».
Ces GAFAM auraient dû être partiellement démantelés depuis longtemps par les lois anti-trust américaines à l’instar d’ AT&T en 1982. Mais ils ont gagnés trop d’argent, trop vite et les campagnes d’élection sont si coûteuses… Et ils apportent tellement de solutions « bien pratiques » de surveillance et de contrôle.
A noter qu’IBM, pressenti dans les années 80 comme le futur et abominable ogre de l’informatique, est aujourd’hui relégué au second plan victime à l’époque d’un virage Internet complétement raté et d’une équipe dirigeante arrogante et obtuse (un peu à la manière de Kodak).
Ensuite quant à l’IA (personnellement je préfère continuer d’utiliser l’ancien terme « système expert » certes moins vendeur mais plus juste encore aujourd’hui) j’invite à jeter un oeil sur les travaux et réflexions de Eric Sadin, Bernard Stiegler et des intervenants spécialistes du sujet de l’émission « La conversation scientifique » de France Culture. Ca remet certaines pendules à l’heure quant aux capacités cognitives de l’IA, aux « idéaux humanitaires » de son emploi et qu’il faut craindre moins un Skynet qu’un contrôle automatisé et systémique de la population par une gouvernance bien humaine.
+11
AlerterN’oublions pas que pour l’instant il n’y a pas d’intelligence à proprement parler, simplement une grosse capacité de calcul sur un grand volume de données. Donc les « biais » constatés sont dus soit à des algorithmes mal foutus , soit à des données pas assez bien constituée.
En lisant les articles, ça manque un peu de précisions sur les raisons exactes du licenciement de la première chercheuse, les raisons invoquées ne semblent pas très étayées.
+2
AlerterExactement, le mot « intelligence », en français, n’est pas à prendre au sens premier du terme : la machine qui aura conscience d’elle-même et sera en capacité de résoudre les problèmes pour survivre (non-spécialisation et adaptabilité) n’est pas encore construite.
De plus, aujourd’hui, doit-on s’émerveiller ou s’offusquer que Deep Blue batte Kasparov (malgré les controverses sur les conditions des matchs) et des victoires d’AlphaGo en championnats ? Est-ce qu’on compare un tractopelle à un ouvrier ou faire se concurrencer sprinter et dragster ?
Et je vous rejoins sur le manque d’information permettant de déterminer précisément s’il s’agit d’un conflit salarié/employeur dans le cadre du droit du travail ou bien d’un violent différent sur le plan de la morale et de l’éthique au sujet des travaux sur l’IA de Google et leurs exploitations actuelles ou futures.
+2
AlerterEnfin la victoire effectivement controversée de Deep Blue sur Kasparov date de 1997. Ca fait très longtemps qu’il n’y a plus photo entre les supercalculateurs et les meilleurs joueurs mondiaux d’échec.
+0
AlerterTout à fait d’accord pour l’IA
Donner à résoudre le problème de l’œuf et la poule, voir un raisonnement par l’absurde ou une simple addition à « l’IA ».
Si les personnes ne l’ont pas programmé correctement ce ne sera même pas une bonne « vieille » calculatrice.
Ce n’est pas l’ordinateur ou le langage de programmation qui fait le résultat ni son usage.
Pour conclure ce ne sont pas les outils dont il faut avoir peur mais de leurs concepteurs et/ou le dévoiement qu’il en est fait
Notre époque nous offre de merveilleuses technologies mais qu’en faisons nous ?
Fliquer, insulter, détourner etc. etc
Quel gachi !
+2
AlerterJe ne crains pas tant que l’IA rivalise avec l’intelligence humaine, de façon autonome et inconnue, la dépassant de façon irréversible. L’IA c’est de l’intelligence humaine qui rivalise avec elle-même, dans une voie pour le moins scabreuse pour le bien de l’humanité, en n’étant pas au service de l’intelligence humaine. Les champions d’échecs et de go en ont pris pour leur grade. Les applications militaires, intrusives comme futiles ne vont pas dans le bon sens à mon avis.
D’un point de vue pratique, quel est le moteur de recherche dé-googolisé qui va me permettre d’utiliser mon ordi de façon satisfaisante? ma messagerie et un tas d’applications qui sont détenues par des filiales des GAFAM, Youtube, etc…?
+1
AlerterLa bêtise artificielle (BA) a fait qu’un site de jeu d’Echecs a été censuré sous prétexte que les Blancs attaquaient les Noirs…
https://news.ebene-sport.com/football/news-youtube-a-censur-une-chane-dchecs-pour-avoir-parl-de-noir-et-blanc/
+10
Alerter« Margaret Mitchell, qui était co-leader de la division éthique dans l’intelligence artificielle de Google, »
Si gg était éthique, cela se saurait et cela ferait longtemps qu’ils accepteraient de payer des impôts là où ils sévissent au lieu de se réfugier dans des paradis fiscaux.
Maintenant c’est clair, ce licenciement est conforme à leur politique générale.
+13
AlerterL’objectif réel de la recherche dans une entreprise n’a jamais été de trouver des solutions à des problèmes concernant les utilisateurs mais simplement de trouver les moyens d’optimiser les profits à court terme (sinon ça coûte trop cher).
Quand un chercheur dans une entreprise met en évidence que le « nouvel eldorado » est « tout pourri » et que ses « prédictions » dans le cas des « AI » sont totalement biaisées ou aisément corruptibles il va à l’encontre des intérêts de son employeur qui le fout à la porte sans délai.
Ne vous bercez pas d’illusions, tout ce que propose une entreprise privée n’est absolument pas dans l’intérêt du public mais simplement dans celui des actionnaires et des dirigeants qui peuvent ainsi s’octroyer des profits et des bonus totalement indécents.
Et quand la recherche publique est infiltrée et corrompue par les entreprises privées (cas des « partenariats public-privé » en France) les chercheurs qui refusent de fermer les yeux se retrouvent immédiatement mis sur une « voie de garage » en attendant leur expulsion pour « incompétence » ou dans l’objectif de faire baisser le « gaspillage d’argent public ».
Ne vous étonnez pas si les découvertes scientifiques réelles sont actuellement « en panne » : Il est plus intéressant désormais de trouver un nouveau médicament qui pourra être vendu à prix d’or que de trouver les causes réelles d’une pathologie, ce qui ne rapporterait rien à « l’économie ».
Surtout si cette pathologie provient des conséquences des activités industrielles. On ne tue pas la poule aux œufs d’or.
Un exemple qui me vient à l’esprit concerne la magnétorésistance géante découverte à la fin des années 80 en France et en Allemagne dans des labos publics (à l’époque où les chercheurs avaient encore une certaine liberté).
Découverte qui a permis de miniaturiser les têtes de lectures et sans laquelle les disques durs actuels ne dépasseraient pas quelques centaines de mégaoctets (* >10 000 aujourd’hui).
Les chercheurs faisaient des recherches en physique quantique, pas des recherches sur une quelconque application industrielle ou commerciale et c’est seulement une dizaine d’années après leur découverte que les industriels ont pu résoudre le problème (insoluble sans cette découverte) de la miniaturisation des têtes de lecture des disque durs et de la limite de capacité de stockage.
Cette recherche était purement théorique et son application dans la « vraie vie » n’était pas « rentable » pour une entreprise privée qui doit avoir un « retour sur investissement » immédiat.
De même, dans des labos PUBLICS des chercheurs découvrent depuis de nombreuses années les biais des « AI » et tirent la sonnette d’alarme sur ces problèmes, mais sans que leurs alertes ne soient bien sûr relayées au public.
Et quand ils deviennent réellement gênants on les met à la retraite d’office ou les lobbies se débrouillent pour faire fermer leurs labos en toute discrétion.
+40
AlerterJe trouve que vous êtes plutôt à côté de la plaque. Je ne sais pas dans quel monde vous vivez.
Un chercheur en entreprise est motivé par l’idée de trouver quelque chose que les autres n’ont pas trouvé. C’est tout. Il est très très loin des actionnaires. Qui ne sont pas l’obsession de la plupart des employés des entreprises.
La recherche fondamentale est à l’université, la recherche appliquée dans les entreprises. La seconde a besoin de la première. Quelques grosses entreprises se paient de la recherche « blue sky » (donc proches de la recherche fondamentale) mais elles sont peu nombreuses.
Et devinez quoi? Certains chercheurs en science fondamentale ont besoin des données et des terrains d’expérience des entreprises. Pour tester et (in)valider leurs idées.
Alors les partenariats publics-privés ne sont pas absurdes et ne sont pas la caricature que vous décrivez.
Tout comme le monde de l’entreprise d’ailleurs.
+4
AlerterTout va bien, c’est sûr.
Mais dans quel monde virtuel vivez-vous ?
Celui de Ggle, FdB, Micro$top, Di$net et les hollywood$, au Spectacle manifestement.
Un chercheur en entreprise est motivé pour trouver. OUI, il est choyé.
Et l’entreprise en tire ou non du profit.
Il n’y a pas d’autre critère : le profit.
L’entreprise est a-sociale, se moque des effets, elle est irresponsable de fait.
et les actionnaires irresponsables de Droit.
Aucun probléme, c’est ainsi parfait pour tous.
Mais si le larbin se rebiffe, le larbin est viré.
Entreprise faire toujours ainsi.
Le larbin doit se conformer car dire ou penser autrement qu’exigé implique éjection légale.
C’est ainsi que la richesse sociale est produite, par des larbins soumis au diktat des actionnaires.
On vit une époque formidable.
ET maintenant que trop de larbins se rebiffent,
il faut pour maintenir cette dictature instituer le fascisme.
Il est en marche rapide, on en voit tous les symptômes : identités, xénophobies, ennemis de l’intérieur, racismes, séparatismes, complots partout, violences des gouvernants et de ses milices, opinions condamnées, pensées interdites, justice expéditive ou symbolique, Spectacle permanent, …
Mais chut, silence, fermez les yeux, regardez les mondes virtuels, le Spectacle du monde.
il fascine, il occupe, il nous fait vivre plus rapidement notre vie sans réagir…
tout va bien.
+10
Alerterle point de départ de mon commentaire : RGT « L’objectif réel de la recherche dans une entreprise n’a jamais été de trouver des solutions à des problèmes concernant les utilisateurs mais simplement de trouver les moyens d’optimiser les profits à court terme (sinon ça coûte trop cher).
Que le but d’une entreprise soit le profit, bien sûr. (Qui permet les investissements de demain et les emplois d’après-demain.)
Mais ça n’est pas le cas au niveau des chercheurs.
Sur le plan des employés/recrues de mon entreprise (industrie lourde), on recherche plutôt des profils qui disent ce qu’ils pensent et surtout pas des larbins exécutants. Mais je me garderai de généraliser à toutes les entreprises.
J’y ai été chercheur, j’y ai dirigé des équipes et projets de recherche et je n’ai pas été choyé. J’ai seulement occupé un poste comme un autre pendant quelques années et je suis passé à autre chose.
Je conteste formellement les points de RGT qui se croit aux USA (obsession de l’actionnaire, profit, licenciements, …). De mon côté, je n’ai jamais entendu parler de licenciement d’un chercheur pour cause de « dissidence » comme il/elle le pretend.
D’ailleurs un chercheur qui trouve est presque par construction dans la « dissidence » !
En fait, dans vos commentaires, lui/elle et vous êtes souvent dans la généralité sans concret (son exemple sur la magneto-résistance ne vient nullement en soutien de ses assertions.) Donc je vous trouve plutôt dans la propagande et la posture idéologique.
.
De mon côté, je parle de mon vécu.
+1
AlerterComprend rien à l’article. Du coup Google change sa politique sur l’inclusion et toute l’idéologie Woke en virant des cheffes un peu trop zélées? Si c’est ça c’est plutôt une bonne nouvelle… Ou c’est l’exact opposé?
Je tiens juste à mentionner le degré d’infantilisation des adultes dans la société américaine: la cheffe bac+20 travaillant sur des technos à la pointe qui se fend d’un tweet qui dit seulement: « I’m fired. ». On dirait une ado de 15ans qui vient de se faire coller parce qu’elle avait répondu sèchement à son prof, et qu’elle attend maintenant que le reste de la classe lui dise combien il la trouve courageuse et brave et faisant son petit caprice.
Twitter, Facebook, etc… Les réseaux de la régression intellectuelle et sociale par des gens s’imaginant très intelligent et à la pointe de l’ouverture sur l’autre.
+11
AlerterTout simplement elle nous informe.
En quoi est-ce une réaction infantile ?
Car son renvoi était prévisible puisque Google n’est pas notre ami ?
Je trouve que c’est important de nous le faire savoir, il s’agit tout de même d’une société qui sait tout de nous et qui a abandonné son slogan « Don’t be evil », vous vous souvenez
+4
AlerterUtiliser twitter est infantil. Son tweet n’explique et n’informe personne. C’est un appel pour avoir de l’attention. Il n’y a pas si longtemps, il y avait une expression pour définir un type de profil aux usa qui s’appelait « attention whore ». C’était vulgaire mais ça disait bien ce que ça voulait dire: des personnes qui étaient capable de tout pour avoir de l’attention et un public.
Aujourd’hui l’expression est beaucoup moins utilisée, tout simplement parce que ce profil s’est généralisé dans la classe moyenne supérieur. Et twitter est le principal outil de ce dérangement psychologique.
+4
AlerterGoogle fonctionne comme la societe privee qu’il est. Si un membre de la societe en question pointe du doigt un disfonctionnement qui pourrait mettre en peril le business, meme si la decouverte est justifiee, on va chercher a faire taire ou degager le/la perturbateur/trice. Tant que l’on acceptera que les boites privees puissent fonctionner ainsi, on aura regulierement des histoires de ce genre. Google est aussi lie avec differentes officines gouvernementales…
+4
AlerterQue Google vire quelqu’un n’est pas un problème. Surtout que si elles se débrouillent bien , il y a certainement moyen de toucher un gros chèque à la sortie.
Ce qui m’étonne c’est la raison. En tant que boite privée Google a tout intérêt à ce que ses logiciels fonctionnent correctement et justement le problème de reconnaissance faciale des personnes noires est connu depuis pas mal de temps, ce qui enlève de la valeur aux logiciels. Donc si quelqu’un trouve pourquoi c’est une avancée pour l’éditeur du logiciel , il n’y a pas de raison de virer la personne qui trouve l’origine du bug.
+0
Alerter*** il n’y a pas de raison de virer la personne qui trouve l’origine du bug.***
donc Ggle est incohérent ?
certainement pas (c’est une pratique courante), la logique est donc autre.
Dire le vrai c’est ici montrer un fait qui dérange.
Qui dérange le profit.
question suivante.
+0
AlerterDans une logique de profit , il est profitable qu’un logiciel ne soit pas buggué , donc trouver l’origine d’un dysfonctionnement est toujours profitable.
Pour l’instant , la reconnaissance faciale est toujours problématique sur les noirs, il n’y a aucun problème de racisme ou autre , c’est un problème technique. Le premier qui annonce qu’il a compris pourquoi et comment y remédier a donc une avance sur les concurrents.
Dans le cadre d’une R&D sur le » machine learning » , J’ai eu l’occasion de voir les problèmes que peut engendrer une base de données d’image mal foutue .. c’était même comique.
Donc la cause du licenciement n’est certainement pas le fait d’avoir trouver une piste de résolution du problème.
+0
AlerterQuestion générale : Pourquoi l’Europe n’a pas de Gafa ?
(la somme de leurs services aux citoyens est énorme !)
=> l’Europe n’est pas assez centriste libérale verte, heureusement le Luxembourg apporte bcp de capital vert (bourse.lu)
(et la France est tjrs 71me niveau liberté économique (cf. corrélation avec la prospérité) et 36me/36 niveau compétitivité fiscale, OCDE)
+0
AlerterQuand vous avez une adresse Gmail, ce sont les IA de Google qui décident quel mail vous avez le droit de voir et quel mail sera dans la poubelle des Spams.
Quand vous avez un site web, ce sont les IA de Google qui décident sur quelle page il va être affiché. Et qui va décider de le mettre loin pour vous faire payer des annonces. Tous les résultats de recherche sont en https soi disant pour protéger la vie privée, mais comme ça les webmasters ne savent plus quels mots clés sont utilisés pour arriver sur leur site. Le seul moyen pour en avoir une idée sera de payer des adwords.
Sur youtube une grande proportion des vidéos vues viennent des recommandations faites par les IA de Google.
Donc les IA de Google ont déjà sur nos vies des influences qui représentent déjà plusieurs heures par semaine.
Voir la vidéo de Lê Nguyên Hoang de Science4All sur ce problème suite aux licenciements chez Google :
https://www.youtube.com/watch?v=HbFadtOxs4k
+2
Alerterjuste pour rire :
Une chaine Youtube consacrée au jeu d’échecs a été censurée par l’IA de Youtube ( donc Google ).
Pourquoi ? l’IA a analysé le texte , et en a déduit que le contenu était raciste puisque les blancs attaquaient ou menaçaient les noirs !!!
Finalement , moi ça me rassure !! 🙂
+2
AlerterHors de contrôle
y a-t-il un pilote dans l’avion
le mur, il arrive, le mur, on est déjà dedans, on s’enfonce….
l’ethique, Hariri, transumanisme, les robocop et la froideur de laurent alexandre
nous tous, les gens d’en bas.
comme ces termes, les démocraties, les êtres humain, l’humanisme et les phylantropes
+2
AlerterVoici un article qui a été écrit il y a 21 ans et qui est toujours plus d’actualité. Si certains le connaissent ici, ça ne m’étonnerait pas.:
Voilà le choix cornélien, l’absurdité de notre époque :
— » En choisissant ma loi j’assassine la Nation qui protège ma liberté, en ne la choisissant pas, je renonce d’emblée à ma liberté. » —
Écrit en janvier 2000 :
Code is Law, Le Code est la loi – Traduction française du célèbre article de Lawrence Lessig – Framablog
+0
AlerterLes commentaires sont fermés.