Les Crises Les Crises
2.septembre.20202.9.2020 // Les Crises

Clearview : cette start-up qui pourrait mettre fin à la confidentialité

Merci 153
J'envoie

Source : The New York Times, Kashmir Hill

Une start-up peu connue aide les forces de l’ordre à faire correspondre les photos de personnes inconnues à leurs images en ligne – et « pourrait conduire à un avenir dystopique ou quelque chose de ce genre », explique un investisseur.

Jusqu’à récemment, les plus grands succès de Hoan Ton-That’s comprenaient un obscur jeu pour iPhone et une application qui permettait aux gens de mettre les cheveux jaunes caractéristiques de Donald Trump sur leurs propres photos.

Puis M. Ton-That – un technicien australien et ancien mannequin – a fait quelque chose d’important : il a inventé un outil qui pouvait mettre fin à votre faculté de marcher dans la rue de manière anonyme, et l’a fourni à des centaines d’organismes d’application de la loi, allant des flics locaux en Floride au FBI et au département de la Sécurité intérieure.

Sa petite entreprise, Clearview AI, a conçu une application de reconnaissance faciale révolutionnaire. Vous prenez une photo d’une personne, vous la téléchargez et vous pouvez voir des photos publiques de cette personne, ainsi que des liens vers l’endroit où ces photos sont apparues. Le système – dont l’épine dorsale est une base de données de plus de trois milliards d’images que Clearview prétend avoir extraites de Facebook, YouTube, Venmo et de millions d’autres sites web – va bien au-delà de tout ce que le gouvernement des États-Unis ou les géants de la Silicon Valley ont jamais réalisé.

Les agents des forces de l’ordre fédérales et étatiques ont déclaré que, bien qu’ils n’aient qu’une connaissance limitée du fonctionnement de Clearview et de ses concepteurs, ils ont utilisé son application pour aider à résoudre des affaires de vols à l’étalage, d’usurpation d’identité, de fraudes à la carte de crédit, de meurtres et d’exploitation sexuelle d’enfants.

Jusqu’à présent, la technologie qui permet d’identifier facilement tout le monde à partir de son visage était taboue en raison de son atteinte grave à la vie privée. Les entreprises technologiques capables de diffuser un tel outil se sont abstenues de le faire ; en 2011, le président de Google de l’époque a déclaré que c’était la seule technologie que l’entreprise avait bloquée parce qu’elle pouvait être utilisée « de manière très mauvaise ». Certaines grandes villes, dont San Francisco, ont interdit à la police d’utiliser la technologie de reconnaissance faciale.

Mais sans aucun contrôle public, plus de 600 services de police ont commencé à utiliser Clearview l’année dernière, selon la société, qui a refusé de fournir une liste. Le code informatique qui sous-tend son application, analysé par le New York Times, comprend un langage de programmation permettant de l’associer à des lunettes à réalité augmentée ; les utilisateurs pourraient potentiellement identifier chaque personne qu’ils voient. L’outil pourrait identifier les militants lors d’une manifestation ou un inconnu séduisant dans le métro, en révélant non seulement leurs noms mais aussi leur lieu de résidence, ce qu’ils faisaient et qui ils connaissaient.

Et il ne s’agit pas seulement de faire respecter la loi : Clearview a également concédé des licences de l’application à au moins une poignée d’entreprises à des fins de sécurité.

« Les possibilités d’utilisation à des fins malveillantes sont infinies », a déclaré Eric Goldman, codirecteur de l’Institut de droit de la haute technologie de l’Université de Santa Clara. « Imaginez un agent de la force publique malhonnête qui veut traquer des partenaires amoureux potentiels, ou un gouvernement étranger qui utilise cela pour déterrer des secrets sur des personnes afin de les faire chanter ou de les jeter en prison. »

Clearview s’est entourée de secret, évitant tout débat sur sa technologie qui repousse les limites. Lorsque j’ai commencé à me renseigner sur la société en novembre, son site web était une page vierge indiquant une adresse inexistante à Manhattan comme lieu d’activité. Le seul employé de l’entreprise listé sur LinkedIn, un directeur des ventes nommé « John Good », s’est avéré être Ton-That, utilisant un faux nom. Pendant un mois, les personnes liées à la société n’ont pas répondu à mes e-mails ni à mes appels téléphoniques.

Pendant que l’entreprise m’esquivait, elle me surveillait aussi. À ma demande, un certain nombre de policiers avaient passé ma photo dans l’application Clearview. Ils ont rapidement reçu des appels téléphoniques de représentants de la société leur demandant s’ils s’adressaient aux médias – signe que Clearview a la capacité et, dans ce cas, le désir de surveiller les personnes recherchées par les forces de l’ordre.

La technologie de reconnaissance faciale a toujours été controversée. Elle suscite l’inquiétude des gens à propos de Big Brother. Elle a tendance à fournir de fausses pistes pour certains groupes, comme les personnes de couleur. Et certains produits de reconnaissance faciale utilisés par la police – dont ceux de Clearview – n’ont pas été validés par des experts indépendants.

L’application de Clearview comporte des risques supplémentaires car les services de police téléchargent des photos sensibles sur les serveurs d’une société dont la capacité à protéger ses données n’est pas éprouvée.

La société a fini par répondre à mes questions, en disant que son silence était typique d’une start-up qui démarre en mode furtif. Ton-That a reconnu avoir conçu un prototype destiné à être utilisé avec des lunettes à réalité augmentée, mais a déclaré que la société n’avait pas l’intention de le commercialiser. Et il a dit que ma photo avait déclenché une alarme parce que l’application « signale un comportement de recherche anormal possible » afin d’empêcher les utilisateurs d’effectuer ce qu’elle considère comme des « recherches inappropriées ».

Outre Ton-That, Clearview a été fondée par Richard Schwartz – qui était l’assistant de Rudolph W. Giuliani lorsqu’il était maire de New York – et soutenue financièrement par Peter Thiel, un investisseur en capital-risque à l’origine de Facebook et Palantir.

Un autre des premiers investisseurs est une petite entreprise appelée Kirenaga Partners. Son fondateur, David Scalzo, a balayé les inquiétudes concernant le fait que Clearview permettre de faire des recherches faciales sur Internet, affirmant qu’il s’agit d’un outil précieux de résolution des crimes.

« J’en suis arrivé à la conclusion qu’étant donné que l’information augmente constamment, il n’y aura jamais de confidentialité », a déclaré Scalzo. « Les lois doivent déterminer ce qui est légal, mais on ne peut pas interdire la technologie. Bien sûr, cela pourrait conduire à un avenir dystopique ou quelque comme ça, mais vous ne pouvez pas l’interdire ».

Hoan Ton-That, fondateur de Clearview AI, dont l’application fait correspondre les visages aux images qu’elle collecte sur Internet. Amr Alfiky pour le New York Times.

Accroc à l’I.A.

Ton-That, 31 ans, a grandi loin de la Silicon Valley. Dans son Australie natale, il a été élevé avec les récits sur ses ancêtres royaux au Vietnam. En 2007, il a quitté l’université et a déménagé à San Francisco. L’iPhone venait d’arriver, et son objectif était d’entrer très tôt dans ce qu’il espérait être un marché dynamique pour les applications de médias sociaux. Mais ses premiers projets n’ont jamais vraiment abouti.

En 2009, Ton-That a créé un site qui permettait aux gens de partager des liens vers des vidéos avec tous les contacts de leur messagerie instantanée. Ton-That l’a fermé après qu’il eut été qualifié de « arnaque d’hameçonnage ». En 2015, il a créé Trump Hair, qui a permis d’ajouter la coiffure caractéristique de Trump aux personnes figurant sur une photo, ainsi qu’un programme de partage de photos. Les deux ont fait long feu.

Découragé, Ton-That s’est installé à New York en 2016. Grand et mince, avec de longs cheveux noirs, il envisageait une carrière de mannequin, dit-il, mais après une séance photo, il a recommencé à essayer de trouver le prochain grand truc dans la technologie. Il a commencé à lire des articles universitaires sur l’intelligence artificielle, la reconnaissance d’images et l’apprentissage automatique.

Schwartz et Ton-That se sont rencontrés en 2016 lors d’un événement littéraire au Manhattan Institute, un groupe de réflexion conservateur. M. Schwartz, aujourd’hui âgé de 61 ans, avait constitué un impressionnant Rolodex en travaillant pour Giuliani dans les années 1990 et en tant que rédacteur en chef de la page éditoriale du New York Daily News au début des années 2000. Les deux hommes ont rapidement décidé de se lancer ensemble dans la reconnaissance faciale : Ton-That construirait l’application, et Schwartz utiliserait ses contacts pour susciter un intérêt commercial.

Les services de police ont accès aux outils de reconnaissance faciale depuis près de 20 ans, mais ils se sont toujours limités à la recherche d’images fournies par le gouvernement, comme les photos d’identité judiciaire et les photos de permis de conduire. Ces dernières années, la précision des algorithmes de reconnaissance faciale s’est améliorée et des sociétés comme Amazon proposent des produits capables de constituer un programme de reconnaissance faciale pour n’importe quelle base de données d’images.

Ton-That voulait aller bien au-delà de cela. Il a commencé en 2016 en recrutant quelques ingénieurs. L’un d’entre eux a aidé à concevoir un programme qui peut automatiquement collecter des images de visages de personnes sur Internet, comme des sites d’emploi, des sites d’information, des sites éducatifs et des réseaux sociaux tels que Facebook, YouTube, Twitter, Instagram et même Venmo. Les représentants de ces entreprises ont déclaré que leurs politiques interdisaient ce type de collecte, et Twitter a déclaré qu’il interdisait explicitement l’utilisation de ses données pour la reconnaissance faciale.

Un autre ingénieur a été engagé pour mettre au point un algorithme de reconnaissance faciale qui a été élaboré à partir de travaux universitaires. Le résultat : un système qui utilise ce que Ton-That a décrit comme un « réseau neural de pointe » pour convertir toutes les images en formules mathématiques, ou vecteurs, basées sur la géométrie faciale – comme la distance entre les yeux d’une personne. Clearview a créé un vaste répertoire qui regroupe toutes les photos ayant des vecteurs similaires en « quartiers ». Lorsqu’un utilisateur télécharge la photo d’un visage dans le système de Clearview, celui-ci convertit le visage en un vecteur et affiche ensuite toutes les photos extraites stockées semblables à ce vecteur – ainsi que les liens vers les sites d’où proviennent ces images.

Schwartz a payé les frais de serveur et les dépenses de base, mais l’opération était minimale ; tout le monde travaillait de chez soi. « Je vivais sur une créance de carte de crédit », a dit Ton-That. « De plus, je croyais aux bitcoins, alors j’en avais quelques-uns. »

Ton-That montrant les résultats d’une recherche pour une photo de lui-même. Amr Alfiky pour le New York Times

Viralité dans la police

Fin 2017, la société disposait d’un formidable outil de reconnaissance faciale, qu’elle a appelé Smartcheckr. Mais Schwartz et Ton-That ne savaient pas à qui ils allaient le vendre.

Il pourrait peut-être être utilisé pour surveiller les baby-sitters ou comme complément aux caméras de surveillance. Et pourquoi pas un outil pour les agents de sécurité dans les halls d’entrée des bâtiments ou pour aider les hôtels à accueillir les clients par leur nom ? « Nous avons envisagé toutes les idées », a déclaré Ton-That.

L’une des offres les plus étranges, à la fin de 2017, a été faite à Paul Nehlen – un antisémite qui se décrit lui-même comme un républicain « pro-blanc » candidat au Congrès du Wisconsin – d’utiliser des « bases de données non conventionnelles » pour « des recherches sur l’opposition extrémiste », selon un document fourni à Nehlen et mis en ligne par la suite. Ton-That a déclaré que la société n’avait jamais réellement offert de tels services.

La société a rapidement changé de nom pour devenir Clearview AI et a commencé à faire du marketing auprès des forces de l’ordre. C’est alors que la société a obtenu sa première série de financements de la part d’investisseurs extérieurs : M. Thiel et Kirenaga Partners. Thiel était notamment connu pour avoir secrètement financé le procès de Hulk Hogan qui avait mis en faillite le populaire site web Gawker. Thiel et Ton-That avaient tous deux fait l’objet d’articles négatifs sur le site.

« En 2017, Peter a donné à un jeune fondateur talentueux 200 000 dollars, qui deux ans plus tard ont été convertis en actions de Clearview AI », a déclaré Jeremiah Hall, le porte-parole de Thiel. « C’était la seule contribution de Peter ; il ne fait pas partie de l’entreprise. »

Même après une deuxième campagne de financement en 2019, Clearview reste minuscule, ayant recueilli 7 millions de dollars auprès d’investisseurs, selon Pitchbook, un site web qui suit les investissements dans les start-ups. La société a refusé de confirmer le montant.

En février, la police de l’État de l’Indiana a commencé à faire des expérimentations avec Clearview. Ils ont résolu une affaire dans les 20 minutes qui ont suivi l’utilisation de l’application. Deux hommes s’étaient battus dans un parc, et la bagarre s’était terminée lorsque l’un d’eux a tiré sur l’autre dans l’estomac. Un spectateur a enregistré le crime sur un téléphone, de sorte que la police avait une photo du visage de l’homme armé à passer dans l’application de Clearview.

Ils ont immédiatement obtenu une correspondance : l’homme est apparu dans une vidéo que quelqu’un avait publiée sur les médias sociaux, et son nom était inclus dans un sous-titre de la vidéo. « Il n’avait pas de permis de conduire et n’avait pas été arrêté à l’âge adulte, donc il n’était pas dans les bases de données du gouvernement », a déclaré Chuck Cohen, un capitaine de la police d’État de l’Indiana à l’époque.

L’homme a été arrêté et inculpé ; Cohen a déclaré qu’il n’aurait probablement pas été identifié sans la possibilité de rechercher son visage sur les médias sociaux. La police de l’État de l’Indiana est devenue le premier client payant de Clearview, selon la société. (La police a refusé de commenter, se contentant de dire qu’elle avait testé l’application de Clearview).

Clearview a fait appel à des responsables républicains actuels et anciens pour approcher les forces de police, offrant des essais gratuits et des licences annuelles pour aussi peu que 2 000 $. Selon Ton-That, Schwartz a mis à profit ses relations politiques pour aider à faire connaître l’outil aux fonctionnaires du gouvernement. (« Je suis ravi d’avoir l’occasion d’aider Hoan à faire de Clearview une entreprise dont la mission est d’aider les forces de l’ordre à protéger les enfants et à améliorer la sécurité des communautés dans tout le pays », a déclaré Schwartz par l’intermédiaire d’une porte-parole).

Le principal contact de l’entreprise pour les clients était Jessica Medeiros Garrison, qui a géré la campagne républicaine de Luther Strange pour le poste de procureur général de l’Alabama. Brandon Fricke, un agent de la N.F.L. [la National Football League, abrégée par son sigle NFL, est une association d’équipes professionnelles de football américain, NdT] engagé par l’animateur de la Fox Nation Tomi Lahren, a déclaré dans un rapport de publication financière lors d’une campagne du Congrès en Californie qu’il était un « consultant en développement » pour l’entreprise. (Clearview a déclaré qu’il s’agissait d’un rôle bref et non rémunéré, et que la société avait également fait appel à des démocrates pour l’aider à commercialiser son produit).

Un graphique tiré des documents de marketing que Clearview a fourni aux forces de l’ordre. Clearview

La technique de vente la plus efficace de l’entreprise a été d’offrir des essais gratuits de 30 jours aux agents, qui ont ensuite encouragé leurs services des achats à s’inscrire et ont fait l’éloge de l’outil auprès des agents d’autres services de police lors de conférences et en ligne, selon l’entreprise et les documents fournis par les services de police en réponse aux demandes de documents publics. Ton-That a finalement eu son succès viral.

En juillet, un inspecteur de Clifton, New Jersey, a exhorté son capitaine dans un courriel à acheter le logiciel parce qu’il était « capable d’identifier un suspect en quelques secondes ». Pendant l’essai gratuit du département, Clearview avait identifié des voleurs à l’étalage, un voleur de l’Apple Store et un bon Samaritain qui avait boxé un homme menaçant les gens avec un couteau.

Les photos « pouvaient être prises discrètement avec un téléobjectif et entrées dans le logiciel, sans « griller » l’opération de surveillance », a écrit le détective dans le courriel fourni au Times par deux chercheurs, Beryl Lipton de MuckRock et Freddy Martinez de Open the Government. Ils ont découvert Clearview à la fin de l’année dernière en étudiant la façon dont les services de police locaux utilisent la reconnaissance faciale.

Selon une présentation promotionnelle de Clearview analysée par le Times, l’application a permis d’identifier toute une série de personnes : une personne accusée d’avoir abusé sexuellement d’un enfant dont le visage apparaissait dans le miroir de la photo de gymnastique de quelqu’un d’autre ; la personne à l’origine d’une série de vols dans des boîtes aux lettres à Atlanta ; un inconnu retrouvé mort sur un trottoir de l’Alabama ; et des suspects dans de multiples affaires d’usurpation d’identité dans des banques.

Le sergent détective Nick Ferrara, de Gainesville, en Floride, a déclaré qu’il avait utilisé l’application Clearview pour identifier des dizaines de suspects.
Charlotte Kesl pour le New York Times

À Gainesville, en Floride, le sergent détective Nick Ferrara a entendu parler de Clearview l’été dernier, lorsqu’elle a fait de la publicité sur CrimeDex, une liste de diffusion pour les enquêteurs spécialisés dans les infractions financières. Il a déclaré qu’il s’était auparavant appuyé uniquement sur un outil de reconnaissance faciale fourni par l’État, FACES, qui s’appuie sur plus de 30 millions de photos d’identité judiciaire et de photos du département de véhicules à moteur de Floride.

Le sergent Ferrara a trouvé l’application de Clearview supérieure, dit-il. Sa base de données nationale d’images est beaucoup plus importante et, contrairement à FACES, l’algorithme de Clearview ne nécessite pas de photos de personnes regardant directement l’appareil photo.

« Avec Clearview, vous pouvez utiliser des photos qui ne sont pas parfaites », a déclaré le sergent Ferrara. « Une personne peut porter un chapeau ou des lunettes, ou il peut s’agir d’une photo de profil ou d’une vue partielle de son visage ».

Il a téléchargé sa propre photo dans le système, et cela a fait apparaître sa page Venmo. Il a analysé des photos de vieilles affaires classées sans suite et a identifié plus de 30 suspects. En septembre, le service de police de Gainesville a payé 10 000 $ pour une licence annuelle de Clearview.

Les forces de l’ordre fédérales, y compris le FBI et le département de la sécurité intérieure, sont en train de l’essayer, tout comme les autorités policières canadiennes, selon l’entreprise et les représentants du gouvernement.

Malgré sa popularité croissante, Clearview a évité d’être évoqué publiquement jusqu’à la fin de 2019, lorsque les procureurs de Floride ont accusé une femme de vol avec effraction après le vol de deux grills et d’un aspirateur dans un magasin Ace Hardware à Clermont. Elle a été identifiée lorsque la police a fait passer une photo d’une vidéo de surveillance dans Clearview, ce qui les a menés à sa page Facebook. Un tatouage visible sur la vidéo de surveillance et les photos de Facebook ont confirmé son identité, selon une déclaration sous serment dans l’affaire.

« Nous sommes tous foutus »

Selon Ton-That, l’outil ne fonctionne pas toujours. La plupart des photos de la base de données de Clearview sont prises à hauteur des yeux. Une grande partie du matériel que la police télécharge provient de caméras de surveillance installées au plafond ou en haut des murs.

« Ils mettent les caméras de surveillance trop haut », a déploré M. Ton-That. « L’angle n’est pas bon pour une bonne reconnaissance des visages. »

Malgré cela, a déclaré la société, son outil trouve des correspondances jusqu’à 75 % du temps. Mais on ne sait pas exactement combien de fois l’outil fournit de fausses correspondances, car il n’a pas été testé par une instance indépendante telle que l’Institut national des normes et de la technologie, une agence fédérale qui évalue les performances des algorithmes de reconnaissance faciale.

« Nous n’avons pas de données suggérant que cet outil est précis », a déclaré Clare Garvie, chercheur au Centre sur la confidentialité et la technologie de l’Université de Georgetown, qui a étudié l’utilisation de la reconnaissance faciale par le gouvernement. « Plus la base de données est importante, plus le risque d’identification erronée est grand en raison de l’effet Doppelgänger. Il s’agit d’une énorme base de données de personnes qu’ils ont trouvées au hasard sur Internet ».

Mais les responsables actuels et passés de la police affirment que l’application est efficace. « Pour nous, le test consistait à savoir si elle fonctionnait ou non », a déclaré M. Cohen, l’ancien capitaine de la police de l’État de l’Indiana.

L’une des raisons pour lesquelles Clearview est en plein essor est que son service est unique. En effet, Facebook et d’autres sites de médias sociaux interdisent aux gens de télécharger les photos des utilisateurs – Clearview viole les conditions de service de ces sites.

« Plein de gens le font », a déclaré Ton-That en haussant les épaules. « Facebook est au courant ».

Jay Nancarrow, un porte-parole de Facebook, a déclaré que la firme examinait la situation avec Clearview et « prendra les mesures appropriées si nous constatons qu’ils enfreignent nos règles ».

Thiel, l’investisseur de Clearview, siège au conseil d’administration de Facebook. Nancarrow a refusé de commenter les investissements personnels de Thiel.

Certains responsables de la police ont déclaré qu’ils ne se doutaient pas que les photos qu’ils avaient téléchargées étaient envoyées et stockées sur les serveurs de Clearview. Clearview tente de prévenir les inquiétudes avec un formulaire FAQ remis à ses clients potentiels qui dit que ses employés du service clientèle ne regarderont pas les photos que la police télécharge.

Des éléments de marketing de Clearview, obtenus par le biais d’une demande de documents publics à Atlanta.

Clearview a également engagé Paul D. Clement, un avocat général des États-Unis sous le président George W. Bush, pour apaiser les inquiétudes concernant la légalité de l’application.

Dans un mémo d’août que Clearview a fourni à des clients potentiels, dont le département de police d’Atlanta et le bureau du shérif du comté de Pinellas en Floride, M. Clement a déclaré que les organismes d’application de la loi « ne violent pas la Constitution fédérale ou les lois étatiques pertinentes en matière de biométrie et de protection de la vie privée lorsqu’ils utilisent Clearview aux fins prévues ».

M. Clement, maintenant associé chez Kirkland & Ellis, a écrit que les autorités n’ont pas à informer les accusés qu’ils ont été identifiés via Clearview, tant que ce n’est pas la seule base pour obtenir un mandat d’arrêt. M. Clement n’a pas répondu aux multiples demandes de commentaires.

Il semble que le mémo ait eu de l’effet ; la police d’Atlanta et le bureau du shérif du comté de Pinellas ont rapidement commencé à utiliser Clearview.

Étant donné que la police télécharge des photos de personnes qu’elle essaie d’identifier, Clearview possède une base de données croissante de personnes qui ont attiré l’attention des forces de l’ordre. L’entreprise a également la possibilité de manipuler les résultats que la police voit. Après que la société a réalisé que je demandais aux policiers de passer ma photo dans l’application, mon visage a été signalé par les systèmes de Clearview et pendant un certain temps, il n’y a eu aucune correspondance. Quand on lui a posé la question, Ton-That a ri et a appelé ça un « bug logiciel ».

« C’est glauque ce qu’ils font, mais il y aura beaucoup plus de ces entreprises. Il n’y a pas de monopole sur les mathématiques », a déclaré Al Gidari, professeur de droit de la vie privée à la faculté de droit de Stanford. « En l’absence d’une loi fédérale très stricte sur la confidentialité, nous sommes tous foutus. »

Ton-That a dit que sa société n’utilisait que des images publiquement disponibles. Si vous modifiez un paramètre de confidentialité dans Facebook afin que les moteurs de recherche ne puissent pas faire de lien avec votre profil, vos photos Facebook ne seront pas incluses dans la base de données, a-t-il déclaré.

Mais si votre profil a déjà été pompé, il est trop tard. L’entreprise conserve toutes les images qu’elle a collectées, même si elles sont ensuite effacées ou retirées, bien que Ton-That ait indiqué que l’entreprise travaillait sur un outil qui permettrait aux gens de demander que les images soient retirées si elles avaient été effacées du site d’origine.

Woodrow Hartzog, professeur de droit et d’informatique à l’université Northeastern de Boston, voit dans Clearview la dernière preuve que la reconnaissance faciale devrait être interdite aux États-Unis.

« Nous avons compté sur les efforts de l’industrie pour s’auto-policer et ne pas adopter une technologie aussi risquée, mais maintenant ces barrages se rompent parce qu’il y a tant d’argent en jeu », a déclaré Hartzog. « Je ne vois pas d’avenir où nous pourrions exploiter les avantages de la technologie de reconnaissance faciale sans les abus paralysants de la surveillance qui l’accompagne. La seule façon de l’arrêter est de l’interdire ».

Où tout le monde connaît votre nom

Lors d’une récente interview dans les bureaux de Clearview dans local de WeWork dans le quartier de Chelsea à Manhattan, Ton-That a fait une démonstration de l’application sur lui-même. Il a pris un selfie et l’a téléchargé. L’application a sorti 23 photos de lui. Sur l’une d’elles, il est torse nu et allume une cigarette, couvert de ce qui ressemblait à du sang.

Ton-That m’a ensuite pris en photo avec l’application. Le « bug logiciel » avait été corrigé, et maintenant ma photo a donné de nombreux résultats, datant d’une décennie, y compris des photos de moi que je n’avais jamais vues auparavant. Lorsque j’ai utilisé ma main pour couvrir mon nez et le bas de mon visage, l’application m’a tout de même renvoyé sept correspondances correctes.

Les policiers et les investisseurs de Clearview prévoient que l’application sera finalement accessible au public.

Ton-That a dit qu’il était réticent. « Il y aura toujours une minorité de personnes malveillantes qui l’utiliseront à mauvais escient », a-t-il dit.

Même si Clearview ne met pas son application à la disposition du public, une société imitatrice pourrait le faire, maintenant que le tabou est levé. Rechercher quelqu’un grâce à son visage pourrait devenir aussi facile que de chercher un nom sur Google. Des inconnus pourraient écouter des conversations sensibles, prendre des photos des participants et avoir connaissance de secrets personnels. Une personne marchant dans la rue serait immédiatement identifiable – et son adresse personnelle ne serait qu’à quelques clics de distance. Cela annoncerait la fin de l’anonymat public.

Interrogé sur les conséquences que pourrait avoir le fait de donner au monde un tel pouvoir, Ton-That a semblé stupéfait.

« Je dois y réfléchir », a-t-il dit. « Notre conviction est que c’est la meilleure façon d’utiliser cette technologie. »

Jennifer Valentino-DeVries, Gabriel J.X. Dance et Aaron Krolik ont contribué au reportage. Kitty Bennett a contribué à la recherche.

Kashmir Hill est une journaliste sur les technologies basée à New York. Elle écrit sur les façons inattendues et parfois inquiétantes dont la technologie change notre vie, en particulier en ce qui concerne notre vie privée. @kashhill

Source : The New York Times, Kashmir Hill

Traduit par les lecteurs du site www.les-crises.fr. Traduction librement reproductible en intégralité, en citant la source.

Nous vous proposons cet article afin d'élargir votre champ de réflexion. Cela ne signifie pas forcément que nous approuvions la vision développée ici. Dans tous les cas, notre responsabilité s'arrête aux propos que nous reportons ici. [Lire plus]Nous ne sommes nullement engagés par les propos que l'auteur aurait pu tenir par ailleurs - et encore moins par ceux qu'il pourrait tenir dans le futur. Merci cependant de nous signaler par le formulaire de contact toute information concernant l'auteur qui pourrait nuire à sa réputation. 

Commentaire recommandé

Rond // 02.09.2020 à 08h23

Au fond du raisonnement du tdc qui a inventé ce bidule, « c’est pas ma faute mais la votre si j’exploite vos données à votre insu ». Autrement dit, « j’ai trouvé une arme, c’est pas ma faute si je m’en sers ». Grand classique chez ceux qui font de la « science » sans conscience. A supposer que c’en soit, de la science, elle va sauver le monde. Pour sûr !
On a pas fini d’en baver avec le scientisme bienheureux, le technologisme vertueux, tous ces braves gens qui ne pensent qu’à notre bonheur et notre sécurité, assistés de tous ceux, nombreux et émerveillés, qui s’en fichent parce qu’ils n’ont rien à cacher.
Tenez bon !

20 réactions et commentaires

  • LibEgaFra // 02.09.2020 à 07h10

     » plus de trois milliards d’images que Clearview prétend avoir extraites de Facebook, YouTube, Venmo et de millions d’autres sites web – va bien au-delà de tout ce que le gouvernement des États-Unis ou les géants de la Silicon Valley ont jamais réalisé. »

    Et vivent les selfies!

    La bêtise est universelle. Certains en profitent.

      +21

    Alerter
  • pseudo // 02.09.2020 à 07h39

    c’est la bêtise qui se drape dans le scientisme.

      +3

    Alerter
  • calal // 02.09.2020 à 08h08

    La technologie et la baisse des couts associee va rendre le mode de gouvernement dictatorial rentable pour le capital.Le salariat et la democratie vont etre attaque et devront etre defendu.

    Il ne faut plus accepter le moindre sacrifice de liberte individuelle, meme pendant une crise sanitaire ou securitaire,car ces libertes perdues seront trop difficiles a recuperer.

    Les dominants ont de plus en plus les moyens technologiques d’assurer leur domination et avancent leurs pions sans arret. Le 2eme amendement de la constitution des eu,garantissant le droit de detenir des armes aux citoyens,est une garantie indispensable dans ce nouveau monde technologique.

      +4

    Alerter
  • Rond // 02.09.2020 à 08h23

    Au fond du raisonnement du tdc qui a inventé ce bidule, « c’est pas ma faute mais la votre si j’exploite vos données à votre insu ». Autrement dit, « j’ai trouvé une arme, c’est pas ma faute si je m’en sers ». Grand classique chez ceux qui font de la « science » sans conscience. A supposer que c’en soit, de la science, elle va sauver le monde. Pour sûr !
    On a pas fini d’en baver avec le scientisme bienheureux, le technologisme vertueux, tous ces braves gens qui ne pensent qu’à notre bonheur et notre sécurité, assistés de tous ceux, nombreux et émerveillés, qui s’en fichent parce qu’ils n’ont rien à cacher.
    Tenez bon !

      +29

    Alerter
    • Rond // 02.09.2020 à 08h46

      Dit autrement : « j’ai inventé une arme. Pas ma faute si d’autres s’en servent ».

        +8

      Alerter
  • Onna // 02.09.2020 à 10h33

    Voilà le résultat lorsqu’on joue avec la haute technologie amputée de sa morale.
    Ce problème se retrouve dans tous les domaines de la science et par extension dans toute la société.
    Dépourvu de morale l’homme signe son arrêt de mort à court terme.

      +6

    Alerter
  • libvert.fr // 02.09.2020 à 10h43

    Je suis rassuré par le fait qu’il soit possible de désactiver l’utilisation de mes images dans facebook.

    Clearview AI est un bel outil technologique, qui apporte plus de bénéfices que de risques, tant que ses utilisateurs sont majoritairement bien intentionnés (d’où l’importance de l’Etat de Droit, avec un gouvernement de taille limitée et de bonnes libertés inter personnelles (approche libérale classique))

      +2

    Alerter
    • Attention // 02.09.2020 à 11h30

      On dirait que vous avez zappé ce passage :
      « Mais si votre profil a déjà été pompé, il est trop tard. L’entreprise conserve toutes les images qu’elle a collectées, même si elles sont ensuite effacées ou retirées »

        +4

      Alerter
    • LibEgaFra // 02.09.2020 à 12h52

      « Clearview AI est un bel outil technologique, qui apporte plus de bénéfices que de risques, »

      Oui, oui, on connaît la chanson. Ceux qui n’ont rien à cacher ne risquent rien.

      Bizarrement quand on demande à ceux qui n’ont rien à cacher leurs noms d’utilisateur et leurs mots de passe, ils refusent…

      Maintenant avec les masques, bon courage à la « technologie »!

        +7

      Alerter
  • Savonarole // 02.09.2020 à 11h36

    Mais non, vous n’avez rien compris , eux : c’est des gentils , c’est les Chinois les méchants …
    Bon xinon , je me demande si on va devoir attendre la fin des éléctions pour apprendre qu’ils ont en fait déjà un système de « social crédit score » aux USA…

      +7

    Alerter
    • Savonarole // 02.09.2020 à 16h06

      Le truc qui tombe à 0 dès qu’on a un prêt étudiant ? Ha ben ça promet… heureusement qu’il n’y a plus de transports publics aux States :p

        +0

      Alerter
  • cedivan // 02.09.2020 à 14h37

    Une raison de plus pour fuir Fessesbook, Instagram etc

      +1

    Alerter
    • vert-de-taire // 02.09.2020 à 16h40

      Sauf que cela ne peut suffire vu les milliards de téléphones, de cameras et d’applications et sites piratables, …

      Ce qui semble peu mis en question dans ce texte est la fin du Droit comme pilier social.
      Le Droit n’est plus envisagé que comme un outil au service du plus malin, du plus puissant, autrement-dit la régulation sociale n’affecte que les crétins, les miséreux, les faibles, les malchanceux, bref les c..s.

      C’est en quelque sorte la méritocratie individualiste poussée à son extrême mais n’affectant que les individus et organismes incapables de se défendre ou simplement honnêtes – respectant le Droit, sans le tordre.

      La forme capitaliste néolibérale permet aux ultra-riches (et leurs valets) de non seulement dévaster l’environnement sans risque mais encore de migrer tranquillement vers un totalitarisme.

      La technique, les religions, les modes de représentations politiques sont encore et toujours des outils de domination. De fait, notre instruction est incapable (par choix) de nous enseigner les moyens de la liberté, des conditions du libre-arbitre, des formes sociales démocratiques.
      Nous sommes encore des bêtes de somme.

        +5

      Alerter
  • Incognitototo // 02.09.2020 à 18h33

    C’est bizarre quand même que ceux qui utilisent les réseaux sociaux, le stockage en ligne et autres services « gratuits » puissent « s’étonner » qu’ils soient fichés dans des bases de données…

    C’est bizarre qu’ils puissent s’imaginer que leurs données ne seront jamais utilisées pour le pire…

    Ce qui pose en outre un autre problème, c’est qu’Internet n’oublie rien : il y a encore une photo de moi d’il y a 20 ans pour un article (sur l’informatique) qui n’a plus aucune actualité et que je n’ai jamais réussi à faire enlever.

    Le meilleur moyen d’échapper en partie à tout ça, c’est de ne pas utiliser ces services ou seulement ceux éthiques contrôlés par les utilisateurs.

    Cependant, comme l’article le dit : « nous sommes tous foutus ».

    Je n’utilise aucun de ces services, pourtant je suis quand même fiché parce que j’ai fait des blogs ; et nous tous, nous le sommes tout également, juste parce que nous parlons sur ce blog.

    En outre, les smartphones, les CB, le Linky (que j’ai refusé) et les FAI fournissent des moyens de traçages et de connaissance de nous, tout également très performants.

    Reste juste à espérer que ces moyens ne tomberont jamais dans les mains de dictateurs et que notre droit restera suffisamment solide pour endiguer les dérives, mais ça n’en prend clairement pas le chemin.

      +9

    Alerter
    • RGT // 03.09.2020 à 09h09

      « seulement ceux éthiques contrôlés par les utilisateurs » …

      Vous êtes vraiment naïf.

      Même les systèmes les plus éthiques contrôlés par les utilisateurs peuvent se faire pirater (et pas par des hackers, loin de là, car ça ne les intéresse pas).
      Et une fois les serveurs piratés, il est alors possible de siphonner toutes les données pour en profiter et en faire profiter les « copains ».

      Le seul moyen de ne pas TROP se faire repérer consiste seulement à fuir tous ces « outils » peu utiles (sinon à meubler votre vie artificielle sans amitiés réelles) et de faire en sorte d’esquiver tous les dispositifs photographiques pour ne laisser aucune trace.

      À titre perso, si vous trouvez une seule photo de moi (même sur papier) remontant jusqu’à mon adolescence (durant laquelle j’ai décidé de ne plus figurer sur la moindre image pour des raisons de préservation de mon intimité), en dehors de mes papiers officiels obligatoires, je vous offre un magnifique coquetier en plastique doré.

      Et l’esquive est facile : Il suffit simplement de quitter le champ de vue au moment de la photo, de se baisser ou de détourner la tête pour ne pas être identifiable.
      Au fil du temps c’est devenu un réflexe et même dans la rue, si je repère une caméra ou un autre dispositif je tourne la tête et je regarde ailleurs pour ne pas être identifiable.

      Et pourtant « je n’ai rien à me reprocher » hormis une critique permanente des « élites qui veulent notre bien ».

        +0

      Alerter
      • vert-de-taire // 03.09.2020 à 12h00

        Bravo !
        Sincèrement.
        Reste les caméras des rues, des gares, des aéroports, des boutiques, de partout ?

        Elles stockent et se font pirater un jour ou l’autre comme le reste…
        Donc échapper à la surveillance est presque plus une manière de se faire repérer.
        C’est se noyer dans l’apparence de l’ordinaire qui reste la solution, offrant une seule personnalité et masquant les vraies, les pensées, les idées, enfin ce qui est de la vraie liberté de l’humain.

        Reste que penser dans son coin sans en faire profiter les autres est une aberration …
        Et s’exprimer ici comme ailleurs nécessaire à notre santé mentale, à notre existence éphémère.

        Ce régime totalitaire (i.e. qui se sert de tout – institutions comme de la vie sociale – pour nous asservir) est à détruire au plus vite, avant la violence généralisée, les atrocités qu’il fabrique, en toute connaissance de cause.

          +1

        Alerter
      • Incognitototo // 03.09.2020 à 15h39

        Merci de garder pour vous vos jugements hâtifs et méprisants : me traiter de naïf, c’est vraiment grossier ; et soit vous n’avez pas lu ce que j’ai écrit, soit vous ne l’avez pas compris.

        Vous vous croyez à l’abri avec vos ruses de Sioux ? Vous n’avez pas de CNI ou de passeport, pas de carte vitale avec photo, vous n’avez pas de compte bancaire, de CB, de smartphone ? Et cetera…

        Et si j’avais un peu de temps à perdre, je vous démontrerai même comment je peux retrouver votre identité, et ce d’autant plus facilement si vous n’utilisez pas de proxy.

        Donc oui, je le répète en dehors des droits censés nous protéger « nous sommes foutus », même avec nos ruses de Sioux et je ne vois vraiment pas ce qu’il y a de naïf à le constater.

          +1

        Alerter
  • Subotai // 02.09.2020 à 18h40

    Ouais!
    Trombinoscope avec la technologie du moment répondant au même besoin.
    Les besoins entrainant la mise en œuvre des moyens.
    Et aucun doute sur le dévoiement de l’usage, ni sur l’utilisation inversée – Les « forces de l’ordre » n’ayant pas le monopole des armes, celle ci finira bien par être utilisée par les « forces du désordre »… 🙂
    Au final rien d’autre que le monde du XXIe siècle dont le lisait les anticipations dans des romans, il y a 40 ans.
    Et je réitère, même si ça n’a pas l’air d’être compris: tout ça fonctionne à l’électricité et nécessite d’être des milliards pour fonctionner…

      +1

    Alerter
  • RGT // 03.09.2020 à 09h26

    Le flicage à outrance est aussi vieux que l’avènement des « meilleurs » (aristos) qui ont réussi à s’imposer comme « Guides Divins » pour asservir les peuples.

    Dès le début, ils ont compris qu’il fallait surveiller la « populace » afin de pouvoir la « nettoyer » de tous ceux qui pouvaient se rebeller et contester la légitimité des faiseurs de lois autoproclamés.

    Et à chaque fois, ce flicage a été « vendu » à la population comme un « outil bienveillant » destiné à la « protéger » contre les hordes de « barbares » qui venaient « égorger jusque dans leurs maisons les honnêtes citoyens », citoyens qui avaient bien sûr la stricte interdiction de se défendre eux-mêmes contre leurs agresseurs.

    En fait, les agressions de « gueux » n’ont jamais intéressé les « élites » (protégées par des brigades de vigiles privées ou d’état qui ont légalement le droit de flinguer les intrus).

    Et plus ces agressions progressent plus ils peuvent « vendre » des dispositifs de flicage de plus en plus sophistiqués au titre de la « défense de la population » mais en fait uniquement destinés à déceler les « agitateurs » et les « hooligans » (gilets jaunes) qui pourraient remettre en question les « bienfaits » de « l’état de droit ».

    De plus, ces dispositifs coûteux (payés par les gueux) permettent de doper la « croissance » (des profits des actionnaires), ce qu’ils ne manqueront pas de mentionner dans leur communication officielle.

    Si déjà toute la population avait de quoi vivre décemment la criminalité chuterait et il ne serait plus nécessaire de fliquer…

    Mais ce serait dramatique pour les profiteurs.

      +0

    Alerter
    • vert-de-taire // 03.09.2020 à 12h07

      OUI tout juste sauf que ..

      il ne s’agit pas de nettoyer mais de faire croire à ce nettoyage..
      Car il leur faut exister, perdurer donc continuer de justifier cette vraie-fausse protection.

      Rappeler-vous (ou cherchez), les attentats terroristes préparés sont parfois connus des services mais on les laisse advenir … Car il faut maintenir la terreur et justifier l’État incarné comme protecteur.
      Et l’ordre sert d’argument à la paix civile ce qui une escroquerie facile.

        +0

      Alerter
  • Afficher tous les commentaires

Les commentaires sont fermés.

Et recevez nos publications