L’État policier de Microsoft : Surveillance de masse, reconnaissance faciale et un cloud nommé Azure30 min

A l’heure où on parle aux États-Unis de démantèlement de la police, surtout depuis la mort de George Floyd, les pouvoirs de surveillance et de répression sont en train de se métamorphoser. La police est un rôle qui pourrait se passer d’humains. Elle est dans nos smartphones, dans les algorithmes des smartcities et des objets connectés ; la police de demain s’élabore à la Silicon Valley. Si ces technologies nous sont imposées par un jeu de consentement tacite et bien souvent forcé, pour la police c’est la possibilité de moyens répressifs démultipliés. Les espaces publics ne seront pas plus sûrs, mais la politique du chiffre en sera flattée et nous, toujours plus contrôlés.

Voici une traduction de l’article de originellement paru sous le titre The Microsoft Police State: Mass Surveillance, Facial Recognition, and the Azure Cloud dans la revue The Intercept.

visuel : Eliana Rodgers for The Intercept

Les manifestations nationales contre les pratiques policières racistes ont amené une perspective nouvelle sur plusieurs grandes entreprises technologiques comme Facebook, qui est boycotté par les annonceurs pour les discours haineux dirigés contre les personnes de couleur, et Amazon, qui a été interpellé sur l’aide que l’entreprise apporte à la surveillance policière. Mais Microsoft, qui a largement échappé aux critiques, est à l’origine de services destinés aux forces de l’ordre, favorisant un écosystème de sociétés qui fournissent à la police des logiciels utilisant le cloud de Microsoft et d’autres plateformes. L’histoire complète de ces liens met en évidence la façon dont le secteur technologique est de plus en plus enchevêtré, dans des relations intimes et continues, avec les services de police.

Les liens de Microsoft avec les forces de l’ordre ont été occultés par l’entreprise, dont la réponse publique à l’indignation qui a suivi le meurtre de George Floyd s’est concentrée sur les logiciels de reconnaissance faciale. Cette réaction détourne l’attention de la plate-forme de surveillance de masse de Microsoft destinée aux policiers, le Domain Awareness System, construit pour le département de police de New York et étendu par la suite à Atlanta, au Brésil et à Singapour. Cela occulte également le fait que Microsoft s’est associé à de nombreux fournisseurs de surveillance policière qui utilisent leurs produits sur un “cloud gouvernemental” fourni par la division Azure de l’entreprise et qu’elle incite à l’utilisation de ses plateformes pour interconnecter les opérations de police sur le terrain, y compris des drones, des robots et autres dispositifs.

Grâce au partenariat, au soutien et à l’infrastructure essentielle fournis par Microsoft, une industrie parallèle composée de petites entreprises permet aux organismes chargés de l’application de la loi de mener à bien une surveillance de masse. Genetec propose des systèmes de vidéosurveillance dans le cloud et des analyses des  jeux de données importantes pour la surveillance de masse dans les grandes villes américaines. Veritone fournit des services de reconnaissance faciale aux organismes chargés de l’application de la loi. Et un large éventail de partenaires fournit des équipements de police de haute technologie pour la plate-forme de patrouille avancée de Microsoft “Microsoft Advanced Patrol”, qui transforme les voitures de police en patrouilles de surveillance à vision panoramique. Tout cela est réalisé en collaboration avec Microsoft et hébergé sur le cloud gouvernemental Azure.

Le mois dernier, des centaines d’employés de Microsoft ont demandé à leur PDG, Satya Nadella, d’annuler les contrats avec les forces de l’ordre, de soutenir Black Lives Matter et d’approuver le dé-financement de la police (“defund the police”). En réponse, Microsoft a ignoré la plainte et a plutôt interdit la vente de son propre logiciel de reconnaissance faciale aux services de police des États-Unis, détournant ainsi l’attention des autres contributions de Microsoft à la surveillance policière. Cette stratégie a fonctionné : La presse et les militants ont salué cette décision, renforçant ainsi la position de Microsoft en tant que leader moral dans le domaine de la technologie.

Pourtant, on ne sait pas combien de temps Microsoft échappera à un examen approfondi de ses pratiques. La surveillance policière se fait de plus en plus avec la coopération active des entreprises technologiques, et Microsoft, avec Amazon et d’autres fournisseurs de cloud, est l’un des principaux acteurs dans ce domaine.

Comme les partenariats et les services hébergeant des fournisseurs tiers sur le nuage Azure n’ont pas à être annoncés au public, il est impossible de connaître l’étendue exacte de l’implication de Microsoft dans le domaine du maintien de l’ordre, ou le statut des services tiers annoncés publiquement, incluant potentiellement certaines des relations précédemment annoncées et mentionnées ci-dessous.

Microsoft a refusé de commenter

Microsoft : Du renseignement policier au “Cloud Azure”

Dans le sillage du 11 septembre, Microsoft a apporté des contributions majeures aux centres de renseignements centralisés pour les organismes chargés de l’application de la loi. Vers 2009, il a commencé à travailler sur une plateforme de surveillance pour la police de New York, appelée “Domain Awareness System” ou DAS, qui a été dévoilée au public en 2012. Le système a été construit sous la direction de Microsoft ainsi que des agents de la police de New York.

Bien que certains détails concernant le DAS aient été divulgués au public, beaucoup manquent encore. Le compte-rendu le plus complet à ce jour a été publié dans un document de 2017 par des officiers de la police de New York.

Le DAS intègre des sources d’information disparates pour remplir trois fonctions essentielles : l’alerte en temps réel, les enquêtes et l’analyse policière.

Par le biais du DAS, la police de New York surveille les mouvements personnels de toute la ville. À ses débuts, le système absorbait des informations provenant de caméras de surveillance en circuit fermé, de capteurs environnementaux (pour détecter les radiations et les produits chimiques dangereux) et de lecteurs automatiques de plaques d’immatriculation, ou ALPR. En 2010, il a commencé à ajouter les les archives, de la police de New York, des plaintes, des arrestations, des appels au 911 et des mandats “pour donner un contexte aux données des capteurs”, le tout accompagné de donnés de géolocalisation. Par la suite, il a ajouté l’analyse vidéo, la reconnaissance automatique des formes, la police prédictive et une application mobile pour les policiers.

En 2016, le système avait ingéré 2 milliards d’images de plaques d’immatriculation provenant de caméras ALPR (3 millions de lectures par jour, archivées pendant cinq ans), 15 millions de plaintes, plus de 33 milliards d’enregistrements publics, plus de 9 000 flux de caméras de la police de New York et de caméras privées, des vidéos provenant de plus de 20 000 caméras corporelles, et plus encore. Pour donner un sens à tout cela, des algorithmes analytiques sélectionnent les données pertinentes, y compris pour la police prédictive.

Microsoft Aware
Capture d’écran de l’interface de bureau du système de sensibilisation aux domaines de Microsoft – également appelé Microsoft Aware. Photo tirée de la présentation de Microsoft intitulée “Always Aware”, par John Manning et Kirk Arthur.
Image : Présentation de Microsoft

Le NYPD a un passé d’abus policiers, et les défenseurs des droits et libertés civiles comme le projet de surveillance technologique du Urban Justice Center ont protesté contre le système pour des raisons constitutionnelles, avec peu de succès à ce jour.

Si le DAS a reçu une certaine attention de la part de la presse – et est assez bien connu des militants – l’histoire des services proposés à la police par Microsoft n’est pas tout à fait terminée.

Au fil des ans, Microsoft a développé son activité grâce à l’expansion de ses services en ligne, dans lesquels la capacité de stockage, les serveurs et les logiciels fonctionnant sur les serveurs sont loués sur la base de compteurs. L’une de ses offres, Azure Government, fournit un hébergement de données dédié dans des data centers exclusivement nationaux, de sorte que les données ne quittent jamais physiquement le pays hôte. Aux États-Unis, Microsoft a construit plusieurs centres d’hébergement dans le cloud Azure Government à l’usage des organisations locales, étatiques et fédérales.

À l’insu de la plupart des gens, Microsoft dispose d’une division “Sécurité publique et justice” dont le personnel a travaillé auparavant dans les forces de l’ordre. C’est le véritable cœur des services que fourni la société à la police, bien qu’elle opère depuis des années à l’abri des regards du public.

Les services de surveillance policière de Microsoft sont souvent opaques, car l’entreprise vend peu de ses propres produits de police. Elle propose plutôt une gamme de services “généraux” dans le cloud Azure, tels que des outils d’apprentissage automatique et d’analyse prédictive comme Power BI (intelligence économique) et Cognitive Services, qui peuvent être utilisés par les services de police et les fournisseurs de surveillance pour créer leurs propres logiciels ou solutions.

Voiture de patrouille IdO de Microsoft basée sur la surveillance

Un riche éventail d’offres de Microsoft basées sur le cloud computing est présenté avec un concept appelé “The Connected Officer”, l’officier connecté. Microsoft situe ce concept dans le cadre de l’Internet des objets, ou Id0, dans lequel les gadgets sont connectés à des serveurs en ligne et ainsi rendus plus utiles. “The Connected Officer”, a écrit Microsoft, “apportera l’IdO au maintien de l’ordre”.

Avec l’Internet des objets, les objets physiques se voient attribuer des identificateurs uniques et transfèrent des données sur les réseaux de manière automatisée. Si un policier sort une arme de son étui, par exemple, une notification peut être envoyée sur le réseau pour avertir les autres policiers qu’il y a un danger. Les centres de criminalité en temps réel peuvent alors localiser l’agent sur une carte et suivre la situation depuis un centre de commandement et de contrôle.

Démonstration de la simulation de Microsoft Connected Officer pour la surveillance de l’IdO et l’intégration des données pour une connaissance de la situation en temps réel et une analyse centralisée de la police. Photo tirée de la présentation de Microsoft, “The Connected Officer : The Connected Officer : Bringing IoT to Policing”, par Jeff King et Brandon Rohrer.
Image : Présentation de Microsoft

Selon ce concept, une multitude de données de surveillance et de capteurs IdO sont envoyées sur un “chemin chaud” pour une utilisation rapide dans les centres de commandement et sur un “chemin froid” qui sera utilisé plus tard par les analystes du renseignement à la recherche de modèles. Les données sont acheminées par le produit Azure Stream Analytics de Microsoft, stockées sur le cloud Azure et enrichies par les solutions d’analyse de Microsoft comme Power BI – fournissant un certain nombre de points sur lesquels Microsoft peut gagner de l’argent.

Alors que le “Connected Officer” était un exercice conceptuel, la solution de patrouille réelle de la société est la Microsoft Advanced Patrol Platform, ou MAPP. MAPP est une plateforme IdO pour les véhicules de patrouille de police qui intègre des capteurs de surveillance et des enregistrements de base de données sur le cloud Azure, comprenant “des informations sur le dispatching, des indications routières, l’historique des suspects, un lecteur de plaque d’immatriculation à commande vocale, une liste de personnes disparues, des bulletins de criminalité basés sur la localisation, des rapports d’équipe, et plus encore”.

Une démo de la plate-forme de patrouille avancée de Microsoft, ou MAPP, véhicule de surveillance de l’IdO pour la police. Un SkyRanger d’Aeryon Labs est perché sur le toit. Photo tirée du blog Microsoft Azure, “Microsoft accueille les leaders de la justice et de la sécurité publique au 2e sommet annuel du CJIS”, par Rochelle Eichner.
Photo : Blog de Microsoft Azure

Le véhicule MAPP est équipé de matériel provenant de fournisseurs tiers qui transmettent les données de surveillance dans le cloud Azure pour les agences de maintien de l’ordre. Montée sur le toit, une caméra haute résolution de 360 degrés diffuse des vidéos en direct sur Azure et sur l’ordinateur portable à l’intérieur du véhicule, avec un accès également disponible sur un téléphone portable ou un ordinateur distant. Le véhicule est également équipé d’un lecteur automatique de plaques d’immatriculation qui peut lire 5 000 plaques par minute – que la voiture soit à l’arrêt ou en mouvement – et les comparer à une base de données Azure gérée par la solution de lecture de plaques d’immatriculation de Genetec, AutoVu. Une caméra de proximité sur le véhicule est conçue pour alerter les agents lorsque leur véhicule est approché.

Le SkyRanger, un drone fourni par Aeryon Labs, partenaire de Microsoft, permet de patrouiller dans le ciel et de fournir des vidéos en temps réel. (Aeryon Labs fait maintenant partie du géant de la surveillance FLIR Systems.) Selon Nathan Beckham de Microsoft Public Safety and Justice, les drones du véhicule “le suivent et en ont une vue plus large”. Les drones, écrit DroneLife, peuvent “fournir des vues aériennes à la plateforme de données intégrée, permettant aux agents d’évaluer les situations en cours en temps réel, ou de recueillir des preuves médico-légales sur une scène de crime”.

Les robots de police font également partie de la plateforme MAPP. Les produits de ReconRobotics, par exemple, ont été “intégrés au programme de voitures de patrouille du futur de Microsoft” en 2016. Selon Microsoft, ReconRobotics fournit à son véhicule MAPP un “petit robot léger mais puissant” qui “peut être facilement déployé et contrôlé à distance par les patrouilleurs pour fournir des informations en temps réel aux décideurs”.

Un autre partenaire de Microsoft, SuperDroid Robots, a également annoncé qu’il fournira au véhicule MAPP de Microsoft deux robots de surveillance compacts télécommandés, le MLT “Jack Russell” et le LT2-F “Bloodhound”, ce dernier pouvant monter des escaliers et surmonter des obstacles.

Bien qu’il porte un insigne Microsoft sur le capot et la porte, le véhicule physique que la société utilise pour promouvoir MAPP n’est pas à vendre par Microsoft, et vous ne verrez probablement pas de voitures portant le logo Microsoft circuler. Microsoft fournit plutôt MAPP comme une plate-forme permettant de transformer les voitures de police existantes en véhicules de surveillance IdO : “Il s’agit en fait de pouvoir prendre toutes ces données et de les mettre dans le cloud, de pouvoir les associer à leurs données et de commencer à en tirer des informations pertinentes”, a déclaré M. Beckham.

En effet, selon Microsoft, “la voiture devient le centre nerveux des forces de l’ordre”. Selon Beckham, les informations collectées et stockées dans le nuage Azure aideront les agents à “identifier les mauvais acteurs” et “permettront aux agents d’être conscients de l’environnement qui les entoure”. A titre d’exemple, il a déclaré : “Nous espérons qu’avec l’apprentissage automatique et l’IA dans le futur, nous pourrons commencer à faire des correspondances” avec les véhicules MAPP qui fournissent des données pour aider à trouver les “mauvais acteurs”.

Le MLT “Jack Russell” et le LT2-F “Bloodhound” exposés lors d’un événement présentant la solution de véhicule de police MAPP de Microsoft pendant la conférence annuelle de formation 2015 des associés de l’Académie nationale du FBI à Seattle. Photo tirée du billet de blog de SuperDroid Robots, “SuperDroid Robots Partners with Microsoft”.
Photo : Robots SuperDroid

En octobre dernier, la police sud-africaine a annoncé que Microsoft s’était associé à la ville de Durban pour une police intelligente du “21e siècle”. La version de Durban de la solution MAPP comprend un ALPR à 360 degrés pour scanner les plaques d’immatriculation et une caméra de reconnaissance faciale de la société chinoise de vidéosurveillance Hikvision pour une utilisation lorsque le véhicule est à l’arrêt (par exemple, garé lors d’un événement).

Selon l’agence de presse sud-africaine ITWeb, la police métropolitaine utilisera la solution MAPP “pour dissuader les activités criminelles sur la base de l’analyse des données grâce à la modélisation prédictive et aux algorithmes d’apprentissage automatique”. Le véhicule a déjà été déployé au Cap, où Microsoft a récemment ouvert un nouveau data center Azure – une extension du colonialisme numérique dont j’ai parlé en 2018.

Le véhicule de patrouille MAPP de Microsoft à Durban est équipé d’une caméra de reconnaissance faciale de la société chinoise Hikvision. Photos tirées de la présentation Multimedia Live, “Metro police go high-tech for festive season”. Images : Présentation multimédia en direct

Tout comme les États-Unis (bien qu’avec des dynamiques différentes), l’Afrique du Sud est confrontée au fléau de la brutalité policière qui touche de manière disproportionnée les personnes de couleur. Le pays a connu son propre moment George Floyd lors du récent lockdown de Covid-19, lorsque l’armée et la police ont brutalement battu Collins Khosa, 40 ans, dans le pauvre township d’Alexandra, entraînant sa mort – autour d’une tasse de bière. (Une enquête militaire a révélé que la mort de Khosa n’était pas liée à ses blessures aux mains des autorités ; la famille de Khosa et beaucoup d’autres en Afrique du Sud ont rejeté la révision comme étant un blanchissement).

La solution MAPP sera utilisée pour la police “tolérance zéro”. Par exemple, Parboo Sewpersad, porte-parole de la police métropolitaine de Durban, a déclaré que le déploiement vise à punir “les déchets, l’alcool au volant et l’alcool à pied” pendant les festivités estivales.

Il est difficile de déterminer où le véhicule MAPP pourrait être déployé. Le déploiement en Afrique du Sud suggère que Microsoft considère l’Afrique comme un endroit où expérimenter ses technologies de surveillance policière.

Microsoft : Fournir de la vidéosurveillance et du renseignement policier dans la ville

Au-delà du câblage des véhicules de police, la vidéosurveillance constitue une autre source de profits pour Microsoft, car elle est chargée de paquets de données à transmettre, stocker et traiter, ce qui lui permet de gagner des commissions à chaque étape.

Lorsqu’elles mettent en place un réseau de vidéosurveillance truffé de caméras, les villes et les entreprises utilisent généralement un système de gestion vidéo, ou VMS, pour afficher plusieurs flux de caméras sur un mur vidéo ou offrir la possibilité de rechercher des images. Genetec, l’un des principaux fournisseurs de VMS, propose le VMS de base intégré dans le DAS de Microsoft. Partenaire de Microsoft depuis plus de 20 ans, les deux sociétés travaillent ensemble à l’intégration de services de surveillance sur le cloud azur.

Certaines des forces de police municipales les plus en vue utilisent Genetec et Microsoft pour la vidéosurveillance et l’analyse.

Grâce à un partenariat public-privé appelé Operation Shield, le réseau de caméras d’Atlanta est passé de 17 caméras dans le centre-ville à un vaste réseau de 10 600 caméras qui, espèrent les autorités, couvrira bientôt tous les quadrants de la ville. Genetec et Microsoft Azure alimentent le réseau de vidéosurveillance.

Le 14 juin, le chef de la police d’Atlanta, Erika Shields, a démissionné après que des policiers de la police d’Atlanta aient tué un homme noir de 27 ans, Rayshard Brooks. Le mois dernier, six officiers de police d’Atlanta ont été inculpés pour usage excessif de la force contre des manifestants dénonçant les violences policières.

En 2019, le directeur général de la Fondation de la police d’Atlanta, Marshall Freeman, m’a dit que la fondation venait de terminer le “déploiement à l’échelle du département” de Microsoft Aware (Domain Awareness System). Freeman a déclaré que le département de police d’Atlanta utilise l’apprentissage machine de Microsoft pour corréler les données, et prévoit d’ajouter l’analyse vidéo de Microsoft. “Nous pouvons toujours continuer à revenir à Microsoft et faire en sorte que les constructeurs développent la technologie et continuent à développer la plate-forme”, a-t-il ajouté.

A Chicago, 35 000 caméras couvrent la ville grâce à un réseau de surveillance enfichable. Le back-end utilise actuellement le Stratocast de Genetec et le service Federation de Genetec, qui gère l’accès aux caméras à travers un réseau fédéré de caméras de vidéosurveillance – un réseau de réseaux de caméras, pour ainsi dire.

Genetec Citigraf sur Microsoft Azure. Les données ingérées pour les corrélations, la surveillance et les alertes comprennent les données de répartition assistée par ordinateur, la détection des tirs de ShotSpotter, les caméras de lecture automatique des plaques d’immatriculation, les données de l’American Community Survey (recensement), les vidéos de surveillance sur le VMS de Genetec, diverses communications et alertes d’intrusion, les données des systèmes d’information géographique et les éléments de base de données comme les incidents et les arrestations. Photo tirée du webinaire “How Chicago Integrated Data and Reduced Crime by 24%”, présenté par Otto Doll (Center for Digital Government), Jonathan Lewin (Chicago Police Department) et Bob Carter (Genetec).
Image: Government Technology/Center for Digital Government webinar

En 2017, Genetec a construit sa plate-forme Citigraf sur mesure pour le département de police de Chicago – la deuxième plus grande force de police du pays – afin de donner un sens à la vaste gamme de données du département. Alimenté par Microsoft Azure, Citigraf ingère des informations provenant de capteurs de surveillance et d’enregistrements de bases de données. En utilisant des données en temps réel et historiques, il effectue des calculs, des visualisations, des alertes et d’autres tâches pour créer une “connaissance approfondie de la situation” pour le CPD. Microsoft s’est associé à Genetec pour construire un “moteur de corrélation” permettant de donner un sens aux données de surveillance.

Les forces de police de Chicago ont un passé brutal de racisme, de corruption, et même de torture de suspects depuis deux décennies. Lors des manifestations de violence policière qui ont suivi le meurtre de Floyd, le CPD a attaqué et battu des manifestants, dont cinq Noirs, jusqu’à les hospitaliser.

La ville de Detroit utilise Genetec Stratocast et Microsoft Azure pour alimenter son projet controversé “Green Light”. Lancé en 2016 en tandem avec un nouveau Real Time Crime Center, le projet permet aux entreprises locales – ou à d’autres entités participantes, telles que les églises et les logements publics – d’installer des caméras vidéo dans leurs locaux et de transmettre les flux de surveillance au département de police de Detroit. Les participants peuvent placer un “feu vert” à côté des caméras pour avertir le public – qui est noir à 80 % – que “vous êtes surveillé par la police”.

En 2015, le DPD a déclaré que “le jour viendra où la police aura accès à des caméras partout, ce qui lui permettra de patrouiller virtuellement dans presque tous les quartiers de la ville sans jamais y mettre les pieds”.

Le chef adjoint de la DPD, David LeValley, m’a expliqué qu’avant de créer le nouveau centre de commandement, le département a envoyé une équipe de personnes dans plusieurs autres villes américaines, dont New York, Chicago, Atlanta, Boston, et le centre de la Drug Enforcement Administration à El Paso, Texas, afin d’observer leurs centres de renseignements. “Notre Real Time Crime Center est un centre de renseignement global, ce n’est pas seulement le projet Green Light”, a-t-il expliqué.

L’expansion de la surveillance policière à Detroit a été rapide. Aujourd’hui, le projet Green Light dispose d’environ 2 800 caméras installées sur plus de 700 sites, et deux centres de criminalité en temps réel plus petits sont en cours d’ajout, une tendance qui se développe dans des villes comme Chicago. LeValley m’a dit que ces RTTC feront des choses comme la “reconnaissance de formes” et les “rapports d’incidents critiques”.

Dans le sillage du meurtre de George Floyd, les militants de Detroit ont relancé leurs efforts pour abolir le projet Green Light dans la lutte contre la surveillance policière, que des défenseurs de la communauté locale comme Tawana Petty et Eric Williams jugent raciste. Cette année, deux hommes noirs, Robert Julian-Borchak Williams et Michael Oliver, ont été arrêtés à tort après avoir été mal identifiés par la technologie de reconnaissance faciale du DPD.

Nakia Wallace, co-organisatrice du projet Will Breathe de Detroit, m’a dit que le projet Green Light “pré-criminalise” les gens et “donne à la police le droit de vous surveiller si elle pense que vous êtes coupable” et “harcèle les communautés noires et brunes”. “Relier des caméras” sur de vastes zones est de l’”hyper-surveillance” et “doit être arrêté”, a-t-elle ajouté.

La fonction de la DPD est de protéger la propriété et la suprématie des Blancs”, a déclaré Mme Wallace. “Ils sont hyper-militarisés, et même dans le sillage de cela, des gens continuent de mourir dans la ville” parce qu’”ils n’ont aucun intérêt dans le gagne-pain des citoyens de Detroit”. Au lieu de militariser, nous devons “arrêter de prétendre que les pauvres Noirs sont des criminels par nature, et commencer à examiner les services sociaux et les choses qui empêchent les gens d’entrer dans une vie de crime”.

Dans un billet de blog de 2017, Microsoft s’est vanté du partenariat avec Genetec pour le DPD, déclarant que le projet Green Light est “un excellent exemple de la façon dont les villes peuvent améliorer la sécurité publique, la qualité de vie des citoyens et la croissance économique avec les technologies d’aujourd’hui”.

Microsoft fournit effectivement une technologie de reconnaissance faciale

Alors que Microsoft alimente les centres de renseignement et les réseaux de caméras en circuit fermé dans l’ombre, la société s’est publiquement concentrée sur les réglementations relatives à la reconnaissance faciale. Le 11 juin, Microsoft a rejoint Amazon et IBM en déclarant qu’elle ne vendrait pas sa technologie de reconnaissance faciale à la police tant qu’il n’y aurait pas de réglementation en place.

Il s’agit d’un coup de pub qui a semé la confusion sur la manière dont la relation de Microsoft avec la police fonctionne techniquement et éthiquement, de plusieurs manières.

Premièrement, alors que la presse critique occasionnellement le Domain Awareness System de Microsoft, l’attention portée à la police de Microsoft se concentre surtout sur la reconnaissance faciale. C’est une erreur : Microsoft fournit des logiciels pour alimenter diverses technologies de maintien de l’ordre qui portent atteinte aux droits et libertés civils – même sans reconnaissance faciale.

Deuxièmement, la reconnaissance faciale est une caractéristique notable de nombreux systèmes de vidéosurveillance et de centres de lutte contre la criminalité en temps réel dont Microsoft est responsable. Les villes de New York, Atlanta, Chicago et Detroit font partie de celles qui utilisent les services de Microsoft pour collecter, stocker et traiter les données de surveillance visuelle utilisées pour la reconnaissance faciale. Les services de Microsoft font partie intégrante de nombreux systèmes de surveillance de reconnaissance faciale de la police.

Troisièmement, au moins une société de reconnaissance faciale, Veritone, a été laissée de côté. Un partenaire de Microsoft, la société d’intelligence artificielle de Californie du Sud, propose un logiciel appelé IDentify, qui fonctionne sur le cloud de Microsoft et aide les services de police à repérer les visages des suspects potentiels.

La solution aiWARE de Veritone sur le nuage Azure de Microsoft ; Veritone est également sur le GovCloud d’Amazon AWS. Photo tirée du webinaire de Veritone, “Artificial Intelligence : Machine Learning and Mission”, présenté par Chad Steelberg (Veritone), Richard Zak (Microsoft), Ryan Jannise (Oracle), et Patrick McCollah (Deloitte).
Image: Veritone webinar

Dans un discours prononcé en 2020 au Consumer Electronics Show, aux côtés de dirigeants de Microsoft, Deloitte et Oracle, le PDG de Veritone, Chad Steelberg, a déclaré que grâce au logiciel IDentify de Veritone sur Azure, les policiers ont aidé à attraper “des centaines et des centaines de suspects et de délinquants violents”. Le produit Redact de Veritone accélère les poursuites, et Illuminate permet aux enquêteurs d’”éliminer les preuves” et d’obtenir des “aperçus de détection” d’anomalies.

Dans un récent webinaire, Veritone a expliqué comment IDentify exploite les données dont dispose déjà la police, comme les dossiers d’arrestation. Si une personne est détectée et n’a pas de correspondance connue, le logiciel IDentify peut établir le profil des suspects en créant une “base de données de personnes d’intérêt” qui “vous permettra de simplement enregistrer des visages inconnus dans cette base de données et de les surveiller en permanence au fil du temps”.

Veritone prétend déployer des services dans “environ 150 endroits”, mais ne précise pas lesquels utilisent IDentify. Il a lancé un test pilote avec le département de police d’Anaheim en 2019.

Microsoft liste Veritone IDentify comme un produit de reconnaissance faciale pour les services de police dans son répertoire d’applications en ligne. La vidéo promotionnelle sur le site web de Microsoft fait la publicité de la capacité d’IDentify :

… de comparer vos bases de données de délinquants connus et de personnes d’intérêt avec des preuves vidéo afin d’identifier rapidement et automatiquement des suspects pour l’enquête. Il suffit de télécharger des preuves provenant de systèmes de surveillance, de caméras corporelles, etc. … Mais surtout, vous n’êtes pas enchaîné à votre bureau ! Prenez une photo et identifiez les suspects lors de vos patrouilles, afin de vérifier les déclarations et de préserver les enquêtes en cours.

Veritone est un ardent défenseur de sa technologie de reconnaissance faciale. En mai 2019, la société a tweeté :

“La technologie de reconnaissance faciale d’Amazon suralimente la police locale de l’Oregon. Saviez-vous que Veritone IDentify peut faire monter les choses d’un cran en exploitant la puissance des bases de données de l’État sur les réservations pour découvrir plus rapidement leurs pistes de suspects ?”

Dans une vidéo promotionnelle de Microsoft, Jon Gacek de Veritone a déclaré : “Vous pouvez voir pourquoi chez Veritone, nous sommes heureux d’être étroitement associés à l’équipe Microsoft Azure. Leur vision et la nôtre sont très communes”.

Enfumages, miroirs et détournement

Malgré les affirmations contraires, Microsoft fournit des services de reconnaissance faciale aux forces de l’ordre par le biais de partenariats et de services à des sociétés comme Veritone et Genetec, et par le biais de son système de connaissance des domaines (DAS).

La stratégie de relations publiques de Microsoft est conçue pour tromper le public en détournant l’attention de ses services étendus à la police. Au lieu de cela, le président et directeur juridique de Microsoft, Brad Smith, exhorte le public à se concentrer sur la réglementation en matière de reconnaissance faciale et sur la question du logiciel de reconnaissance faciale de Microsoft, comme si leurs autres offres de logiciels et de services, leurs partenariats, leurs concepts et leur marketing ne faisaient pas partie intégrante de tout un écosystème de reconnaissance faciale et de systèmes de surveillance de masse proposés par des entreprises plus petites.

D’éminents spécialistes de Microsoft, tels que Kate Crawford, co-fondatrice de l’AI Now Institute, un groupe de réflexion financé par Microsoft, ont suivi ce guide. Kate Crawford a récemment fait l’éloge des relations publiques de Microsoft en matière de reconnaissance faciale et a critiqué des sociétés comme Clearview AI et Palantir, tout en ignorant le système de sensibilisation au domaine (DAS) de Microsoft, les partenariats de surveillance de Microsoft et le rôle de Microsoft en tant que fournisseur de services de reconnaissance faciale dans le cloud.

Microsoft annonce qu’il ne vendra pas de reconnaissance faciale à la police. En attendant de vos nouvelles, Clearview et Palantir.

Crawford et Meredith Whittaker, co-fondatrice d’AI Now, ont condamné la police prédictive mais n’ont pas expliqué le fait que Microsoft joue un rôle central dans la police prédictive pour la police. Crawford n’a pas répondu à une demande de commentaires.

Microsoft et ses défenseurs peuvent prétendre être un fournisseur de cloud “neutre” et c’est à d’autres entreprises et services de police de décider comment ils utilisent les logiciels Microsoft. Pourtant, ces entreprises s’associent à Microsoft, et cette dernière est payée pour faire fonctionner ses services de surveillance de masse et de reconnaissance faciale sur le cloud d’azur – des services qui touchent de manière disproportionnée les personnes de couleur.

Si ces clients de Microsoft offraient des services de trafic sexuel sur le nuage d’azur, Microsoft fermerait sûrement leurs comptes. Et comme les services de police achètent des technologies de surveillance avec l’argent des contribuables, le public paie en fait Microsoft pour sa propre surveillance policière.

Si les activistes forcent des sociétés comme Microsoft, Amazon, Google, IBM et Oracle à mettre fin aux partenariats et aux services d’infrastructure pour les tiers qui effectuent la surveillance policière, alors les fournisseurs de cloud computing devraient reconnaître qu’ils sont responsables de ce qui est fait sur leurs clouds. À l’avenir, les militants pourraient faire pression pour remplacer la propriété des infrastructures et des données numériques par les entreprises par la propriété communautaire au niveau local.

L’enjeu est de taille en ce moment.