Faut-il avoir peur de la reconnaissance faciale ?

Une menace pour la vie humaine, la liberté et la justice

La reconnaissance faciale est un outil idéal pour le contrôle et la violence qui peuvent être exercés par les entreprises et les états. Elle est d’ores et déjà utilisée pour pister, soumettre et emprisonner certaines minorités, localiser et arrêter des manifestants et des opposants, ou encore pour préparer des exécutions extrajudiciaires.

La reconnaissance faciale généralise la surveillance et la collecte de données

Elle nécessite la généralisation de la surveillance et de la collecte de données. En plus d’être utilisée en complément d’outils de surveillance déjà en place, son utilité et sa précision permettent la constitution de banques de données d’images correspondants aux visages détectés. Grâce au machine learning, les algorithmes s’améliorent au contact de grands volumes de données qui leur permettent de s’entraîner à la reconnaissance, d’où de nouvelles incitations à développer sans cesse de telles infrastructures de surveillance.

Elle n’est en aucun cas dissociable du profilage. De la même manière que le terme même de “profil” désigne la silhouette d’un visage, la vraie valeur ajoutée technologique de la reconnaissance faciale est sa capacité à profiler. C’est ce que fait cette technologie lorsqu’elle analyse et classe les spécificités d’un visage pour prendre des décisions en fonction de catégories telles que la “race”, le “genre”, la “normalité” ou encore la “dangerosité”. Par exemple, en 2018, IBM a développé un outil de reconnaissance et de profilage racial utilisé par la police de New-York.

Elle risque de réduire notre humanité et d’en exclure les spécificités

Plus généralement, la reconnaissance faciale menace nos identités plurielles. Elle dépend de notions universelles et quantifiables constitutives des êtres humains. Elle considère que nous sommes tous uniques, semblables et que le temps ne nous affecte pas. Or, en tant qu’êtres vivants, nous vieillissons, nous évoluons physiquement en subissant nos trajectoires personnelles, nos traumatismes et nos épreuves.

La reconnaissance faciale entraîne inévitablement une séparation entre ce qui est considéré comme normal et anormal, entre la règle et l’exception. Quand un logiciel de reconnaissance faciale ne parvient pas à appréhender ces pluralités des êtres humains, il classe et exclut. Elle risque donc de réduire notre humanité, d’en exclure les spécificités, de punir la différence et de nier la pluralité des identités.

Une technologie qui ne sera jamais développée avec précaution

Les bienfaits de la reconnaissance faciale sont peu nombreux et encore très spéculatifs. Surtout, ils sont très largement contrebalancés par les préjudices abondants qu’elle entraîne. Dans le meilleur des cas, elle sera invendable, aussi bien techniquement que conceptuellement.

Dans le pire des cas, elle causera des morts. La crainte de la reconnaissance faciale ne relève donc pas d’un nihilisme orwellien refusant le progrès technique. Cette crainte dépend simplement d’une préoccupation rationnelle pour la vie humaine, la liberté et la justice.

Que vous viviez ou non là où la reconnaissance faciale sera développée avec précaution (spoiler : ce ne sera jamais le cas), vous devez avoir peur pour ceux qui seront et qui sont déjà violemment emprisonnés par ces logiciels.

Une régulation et des principes éthiques à définir

Devons-nous craindre la technologie? Non. Devons nous avoir des objectifs de transparence et d’éducation pour garantir qu’elle n’est pas détournée au détriment de certains? Oui.

La voiture est une technologie puissante qui a amélioré nos vies : elle nous permet de déposer nos enfants à l’heure à l’école, d’explorer un pays pendant nos vacances, ou encore de rendre visite à nos familles dans une autre ville. Cependant, sans régulations en matière de sécurité et sans standards de fabrication et d’utilisation, les voitures nous causeraient de nombreux maux.

Des vrais bénéfices pour nos sociétés modernes

De la même manière, les logiciels de reconnaissance faciale peuvent apporter de vrais bénéfices à nos sociétés modernes. Ils peuvent être utilisés à des fins biométriques pour vérifier l’identité de quelqu’un, ce qui permettrait d’accéder à un ordinateur ou à un téléphone, d’ouvrir un immeuble, de payer grâce à son visage, et même de remplacer le contrôle des passeports et des cartes d’embarquements. En tant qu’utilisateurs, la reconnaissance faciale met à notre portée des processus plus rapides et plus intuitifs, sans pour autant compromettre notre sécurité. Dans l’industrie automobile, la reconnaissance faciale peut être utilisée pour repérer des signes de fatigue ou de distraction chez le conducteur, et donc éviter des accidents de la route.

Des outils efficaces qui peuvent sauver des vies

Lorsqu’elle est liée à des outils d’analyse morphologique, la reconnaissance faciale peut également détecter des signes de santé défaillante et donc prévenir des crises cardiaques. Une telle innovation pourrait sauver des vies, par exemple dans les cliniques. Elle peut également être utilisée pour retrouver des enfants disparus et lutter contre le trafic d’êtres humains. En Inde, la banque de données des enfants disparus contient près de 240 000 portraits. Or, la réactivité et la précision de l’identification d’un enfant enregistré dans cette banque de données peuvent être considérablement augmentées grâce aux technologies de reconnaissance faciale.

La nécessité d’une régulation pour une technologie qui respecte l’éthique

Cependant, ces technologies peuvent également être détournées et exploitées par des individus, des entreprises et des gouvernements. Nous avons tous lu des articles à propos de ces détournements et des craintes qu’ils entraînent: des algorithmes discriminant racialement, enfreignant la vie privée, ou encore utilisés à des fins de surveillance de masse à la Big Brother. Mais ces craintes doivent être abordées grâce à des régulations et standards réfléchis.
La reconnaissance faciale a de nombreuses applications exceptionnelles qui peuvent être très bénéfiques pour nos sociétés. Ces applications doivent être développées et ne devraient pas être craintes. Chez Kairos, nous croyons en la responsabilité des entreprises technologiques et des gouvernements pour garantir que ces technologies ne sont pas détournées au détriment des individus.