Un nouveau logiciel de reconnaissance faciale prédit si vous êtes un criminel sur la base de votre visage. Par Crashdebug

Ça ne s’arrange pas. C’est de la folie furieuse ce genre de logiciel. Quel sont les critères sélectionnés pour « prédire » les tendances d’un individu ? C’est un réel danger ce genres d’algorithmes soi-disant « infaillibles » Partagez ! Volti

******

Par Alan Macleod pour Mintpressnews.com via Crashdebug

Le dernier développement technologique semble être une « phrénologie algorithmique » actualisée, qui reconditionne une idée dangereuse pour le 21e siècle, d’autant plus remarquable qu’ils essaient de la vendre aux forces de l’ordre comme un outil impartial aidant la société.

Une équipe de l’université de Harrisburg, PA, a développé un logiciel de reconnaissance faciale automatisé qui, selon eux, peut prédire avec 80 % de précision et « sans préjugés raciaux » si une personne est susceptible de devenir un criminel, simplement en regardant une photo d’elle. « En automatisant l’identification des menaces potentielles sans préjugés, notre objectif est de produire des outils pour la prévention du crime, l’application de la loi et les applications militaires », ont-ils déclaré, en précisant qu’ils cherchaient des « partenaires stratégiques » avec lesquels travailler pour mettre en œuvre leur produit.

Dans un usage inquiétant des mots, l’équipe, dans son propre communiqué de presse, passe de la mention de ceux que le logiciel reconnaît comme étant des « criminels probables » à celle de « criminels » en l’espace d’une seule phrase, suggérant qu’ils ont confiance dans la pseudo-science raciste discréditée de la phrénologie qu’ils semblent avoir mise à jour pour le 21e siècle.

La réaction du public au projet a été moins qu’enthousiaste, à en juger par les commentaires laissés sur Facebook, qui comprenaient « Les sociétés ont essayé de promouvoir l’idée de « criminels nés » pendant des siècles », « et ce n’est pas du profilage parce que……… » et « 20 % sont suivis par la police en permanence parce qu’ils ont le « visage du crime » ». En effet, la réponse a été si négative que l’université a retiré le communiqué de presse d’Internet. Cependant, il est toujours visible grâce à l’Internet Wayback Machine.

Alors que l’équipe de recherche prétend éliminer les préjugés et le racisme de la prise de décision, en la laissant à un algorithme sans visage, ceux qui écrivent le code et ceux qui décident qui est un criminel au départ, ont certainement leurs propres préjugés. Pourquoi les sans-abri ou les personnes de couleur qui « traînent » sur les trottoirs sont-ils criminalisés, mais pas les sénateurs et les membres du Congrès qui votent pour les guerres et les opérations de changement de régime ? Et qui est le plus susceptible d’être arrêté ? Les cadres de Wall Street qui prennent de la cocaïne dans leur bureau ou les ouvriers qui fument de la marijuana ou du crack ? Plus le niveau d’une personne dans la société est élevé, plus ses crimes deviennent graves et nuisibles, mais la probabilité d’une arrestation et d’une peine de prison diminue. Les Noirs ont plus de chances d’être arrêtés pour le même crime que les Blancs et sont également condamnés à des séjours plus longs en prison. En outre, les logiciels de reconnaissance faciale sont réputés pour leur incapacité à distinguer les personnes de couleur, ce qui suscite d’autres inquiétudes.

Lire l’article complet

Source Crashdebug

Voir :

Paris teste un logiciel de reconnaissance des masques faciaux sur les usagers du métro (Bloomberg.com)

Tous surveillés – 7 milliards de suspects (Arte)

Le « big data » ou la recette secrète du succès d’Emmanuel Macron ?

Les dangers des propositions de surveillance du COVID-19 et l’avenir de la protestation (Activistpost.com)

Fin de l’anonymat, contrôle des réseaux sociaux : quand l’affaire Griveaux réveille les tentations liberticides du pouvoir (Marianne)

Quand la police exploite le big data pour résoudre ses enquêtes (Le Figaro)

Faudra-t-il interdire la notation sociale ? (La Tribune)

Le projet totalitaire de la Smart City…

Snowden : les gouvernements utilisent la pandémie pour construire une « architecture de l’oppression » de la surveillance (Themindunleashed.com)

CV-1984 : La Chine met en place un test de monnaie numérique dans quatre villes, des entreprises occidentales participent au test (Activistpost)

8 commentaires