Contre la technologie de reconnaissance faciale
Colonne
Il met en péril la sécurité et les droits civils d'une personne, de sorte que sa réglementation partielle devrait être remplacée par une interdiction complète. Alors que le monde entier est fasciné par les avantages de la technologie de reconnaissance faciale, certains experts en sécurité estiment qu'elle est lourde de conséquences pour l'humanité. Woodrow Hartzog, professeur de droit et d'informatique, et Evan Selinger, professeur de philosophie, ont exposé leur point de vue sur les méthodes de contrôle de la technologie dans un article de Medium.
Les habitants de Troie seraient ravis
Il est très facile de succomber à une idée apparemment séduisante mais en fait erronée de ce que sera l'avenir de l'humanité dans un monde qui a libéré tout le potentiel de la technologie de reconnaissance faciale. Les gens pourront recevoir instantanément des informations sur des étrangers, ils n'auront plus à se souvenir de beaucoup de mots de passe ou à avoir peur d'oublier leur portefeuille. Il sera possible de retrouver facilement des événements avec une certaine personne dans les archives de photographies et de vidéos, de rechercher rapidement des personnes disparues ou des criminels, et de sécuriser des lieux publics.
Il semblerait que la technologie n'apporte que des avantages, la justice absolue régnera dans le monde, les idées les plus incroyables de l'humanité sont mises en œuvre. Mais aucun des mécanismes de surveillance inventés par l'humanité ne comporte un tel danger que la technologie de reconnaissance faciale.
Attirés par cette vision utopique, les gens laisseront entrer la technologie de reconnaissance faciale chez eux et ouvriront l'accès à leurs appareils, lui permettant d'occuper une place centrale dans de plus en plus d'aspects de la vie. Cela signifiera que le piège a été claqué, puis vient la réalisation désagréable que la technologie était une sorte de cheval de Troie. Cet outil idéal d'oppression est trop bon pour ne pas être utilisé par les gouvernements pour établir des contrôles autoritaires et des régimes globaux qui détruiront la notion de vie privée.
Ce cheval de Troie ne doit pas entrer dans la ville.
Discussions en cours
L'American Civil Liberties Union, ainsi que 70 autres organisations de défense des droits humains, ont exigé qu'Amazon cesse de fournir la technologie de reconnaissance faciale au gouvernement et ont également appelé le Congrès à imposer un moratoire sur son utilisation par le gouvernement. Les médias se sont joints à eux et ont exprimé leur inquiétude. Par exemple, le comité de rédaction du Washington Post estime que le Congrès a l'obligation d'intervenir immédiatement. Les parlementaires ont aussi de bonnes raisons de penser : certains d'entre eux ont un programme Amazon de reconnaissance faciale avec des criminels.
Les rédacteurs en chef de The Guardian ne se sont pas non plus écartés. Le président de Microsoft, Brad Smith, a écrit sur son blog au gouvernement américain avec une demande d'introduire une réglementation de la technologie de reconnaissance faciale :
"Le seul moyen fiable de contrôler l'utilisation de la technologie par le gouvernement est qu'il contrôle son utilisation par lui-même et dans des circonstances possibles. Nous pensons qu'il y a un besoin urgent aujourd'hui d'une initiative gouvernementale pour surveiller l'utilisation légitime de la technologie de reconnaissance faciale sur la base de la décision d'un panel bipartite d'experts."
L'avis des chefs d'entreprise n'est pas négligeable, tout comme les législations qui restreignent l'utilisation de la technologie. Mais une assistance partielle et des instructions soigneusement écrites ne suffiront jamais. Les lois pourraient être très utiles, mais elles seront probablement introduites lorsque la technologie deviendra beaucoup moins chère et plus facile à utiliser. Smith souligne que Microsoft a réclamé une loi nationale dans ce domaine dès 2005. Plus de dix ans se sont écoulés, mais le Congrès n'a pas adopté une telle loi.
Si la technologie de reconnaissance faciale continue d'être développée et mise en œuvre dans la vie, une infrastructure gigantesque apparaîtra qui engloutira l'humanité. Comme le montre l'histoire, l'attention généralisée portée au succès, la peur de ne pas fournir le bon niveau de sécurité et un sentiment de pouvoir grisant peuvent conduire à la tromperie, à la modification des valeurs de l'entreprise et, en fin de compte, à l'utilisation abusive systématique de la technologie.
Le bien-être humain à l'avenir n'est possible que si la technologie de reconnaissance faciale est interdite avant qu'elle ne soit trop fermement établie dans la vie humaine.
Pourquoi une interdiction est-elle nécessaire ?
La nécessité d'une interdiction complète des systèmes de reconnaissance faciale est urgente. Mais certains scientifiques talentueux, comme Judith Donat, considèrent cette position comme erronée. Ils proposent une tactique plus neutre sur le plan technologique : l'interdiction d'actions spécifiques, ainsi que la désignation de valeurs et de droits qui doivent être protégés. Cette approche est tout à fait raisonnable pour presque toutes les technologies numériques.
Mais aucun des mécanismes de surveillance inventés par l'humanité ne comporte un tel danger que la technologie de reconnaissance faciale. C'est la pièce manquante d'une infrastructure de surveillance des personnes déjà dangereuse, conçue parce que les gouvernements et les entreprises privées ont besoin de cette infrastructure. Et si les technologies deviennent à ce point dangereuses, et le rapport avantages/inconvénients si déformé, il est temps de penser à des interdictions catégoriques. Certains types de technologies numériques dangereuses, comme les logiciels espions, sont déjà interdits au niveau législatif. La technologie de reconnaissance faciale comporte des risques bien plus importants, et il serait bon de faire l'objet d'une attention juridique particulière. Une interdiction spécifique est nécessaire sur la base d'un cadre réglementaire solide, holistique, fondé sur des valeurs et largement neutre sur le plan technologique. Un tel système permettrait d'éviter des situations réglementaires où les législateurs tentent de rattraper les tendances techniques.
La surveillance à l'aide de systèmes de reconnaissance faciale est intrinsèquement arbitraire. L'existence de tels systèmes, qui eux-mêmes sont souvent cachés aux yeux de l'homme, est une violation des libertés civiles, car les gens se comportent différemment s'ils se soupçonnent d'être surveillés. Même les lois qui garantissent des mesures de protection strictes n'empêcheront pas le sentiment oppressant que les possibilités d'expression d'une personne seront réduites.
Voici des exemples d'utilisation abusive et de perturbation de la technologie de reconnaissance faciale :
- une attention disproportionnée aux personnes de couleur, aux autres minorités et aux personnes vulnérables ;
- remplacer la présomption d'innocence par le principe de « personnes dont la culpabilité n'a pas encore été prouvée » ;
- la propagation de la violence et de la cruauté ;
- le déni des droits fondamentaux et des opportunités, comme la protection contre le suivi arbitraire par le gouvernement des mouvements humains, des habitudes, des attitudes, des intérêts et des pensées ;
- "travail" continu de la loi - comme mesure permanente de retenue;
- destruction du concept de stockage d'informations "pratiquement obscures", lorsque les données sont dans le domaine public, mais stockées dans diverses sources et qu'il est extrêmement difficile de les retrouver ;
- la propagation du "capitalisme de surveillance".
Claire Garvey, chercheuse en technologie de reconnaissance faciale, souligne que les erreurs peuvent être fatales :
« Que se passe-t-il si un tel système tombe en panne ? En cas d'erreur de vidéosurveillance, une personne innocente sera harcelée, interrogée ou pourra même être arrêtée et accusée d'un crime. Ou des caméras portables avec un système de reconnaissance faciale pour les policiers : si le système pointe vers une personne qui pourrait représenter un danger pour la société, le policier devra décider instantanément s'il utilise une arme. Des personnes innocentes peuvent souffrir à la suite d'une fausse alerte.
Entre autres, il existe deux rapports qui abordent en détail bon nombre de ces questions : un article très précieux sur l'utilisation de la reconnaissance faciale par les agents des forces de l'ordre, publié par Jennifer Lynch, associée principale à l'Electronic Frontier Foundation, et une étude de l'Université de Georgetown Centre sur la confidentialité et la technologie.
Malgré les problèmes décrits dans les rapports, tout le monde n'est pas convaincu qu'une interdiction est vraiment nécessaire. Après tout, d'autres technologies ne représentent pas moins une menace : les données de géolocalisation, les informations des profils de médias sociaux, les résultats des requêtes de recherche et de nombreuses autres sources d'informations sur les utilisateurs peuvent être utilisées pour créer un portrait détaillé de ceux-ci. Mais la reconnaissance faciale comporte toujours un danger d'une autre nature et se distingue même par rapport aux données biométriques : empreintes digitales, échantillons d'ADN ou scans rétiniens.
Les systèmes d'imagerie faciale ont cinq caractéristiques distinctives qui donnent toutes les raisons de les interdire. Premièrement, le visage est difficile à cacher ou à changer. Les visages ne peuvent pas être cryptés comme les données sur les médias numériques, les e-mails ou les SMS. Ils peuvent être filmés à l'aide de caméras distantes, et le coût de la technologie elle-même et du stockage des images dans le cloud ne cesse de diminuer, ce qui conduit à une utilisation croissante de tels systèmes de surveillance.
Deuxièmement, il existe des bases de données de noms et de visages, par exemple pour les permis de conduire, ou les comptes de médias sociaux, auxquels on peut accéder très facilement.
Troisièmement, contrairement aux systèmes de surveillance typiques, qui nécessitent souvent un équipement coûteux ou de nouvelles sources de données, les entrées de reconnaissance faciale sont partout et arrivent juste au moment où les caméras sont capturées.
Quatrièmement, un tournant. Toute base de données de visages permettant d'identifier des individus arrêtés ou capturés avec quelques lignes de code peut être "comparée" à n'importe quelle autre base de données en temps réel, en se connectant à des caméras de police portables ou à des systèmes de vidéosurveillance. Le gouverneur de l'État de New York, Andrew Cuomo, a identifié les raisons de la diffusion de la technologie de reconnaissance faciale, affirmant que le simple fait de scanner les plaques d'immatriculation des voitures sera petit par rapport aux capacités des caméras à technologie intégrée : "Le système lit la plaque d'immatriculation pour identifier le contrevenant, mais les amendes sont loin d'être le plus grand avantage de cet instrument. Nous passons à la technologie de reconnaissance faciale, et désormais le système sera capable de scanner le visage du conducteur et de le comparer à des bases de données, ce qui ouvre des perspectives complètement nouvelles.
Cinquièmement, le visage, contrairement aux empreintes digitales, à la démarche ou aux images rétiniennes, est un élément central de l'identité d'une personne. Une personne est un intermédiaire entre la vie virtuelle et réelle d'une personne, un lien entre les actions qu'une personne accomplit de manière anonyme, sous son nom ou celui d'un autre. Il peut facilement sembler que vous n'avez pas besoin de protéger la confidentialité des visages comme toute autre information privée, car dans la vraie vie, les gens ne se couvrent généralement pas le visage. A l'exception des pays où les femmes sont tenues de porter le voile, les personnes à face cachée sont suspectes.
L'intimité faciale est en effet nécessaire car par le passé, les gens ont développé des institutions et des valeurs liées à la protection des informations privées pendant des périodes où il était généralement difficile d'identifier les étrangers. En raison de caractéristiques biologiques, la mémoire d'une personne est limitée et, sans complément technologique, elle ne peut se souvenir que d'un petit nombre de visages. Et compte tenu de la taille et de la répartition de la population, une personne ne rencontrera pas autant de nouvelles personnes dans sa vie. Ces restrictions créent une sorte de "point blanc" où les gens ont de bonnes chances de se perdre dans la foule.
Les décisions récentes de la Cour suprême des États-Unis sur le quatrième amendement (qui interdit les perquisitions et les détentions abusives et oblige un tribunal à délivrer des mandats de perquisition lorsque cela est justifié) montrent que la lutte pour protéger la vie privée dans les lieux publics est toujours d'actualité. Cet été, dans l'une des affaires judiciaires, le tribunal a décidé que les données de localisation des téléphones portables sont couvertes par la Constitution, et que les informations qu'une personne souhaite garder secrètes, même si elles sont accessibles au public, peuvent être protégées par la Constitution.
Pourquoi la technologie de reconnaissance faciale n'est pas réglementaire
En raison du fait que la technologie de reconnaissance faciale représente une menace énorme, la société ne peut pas laisser sa réglementation suivre son cours. La rentabilité potentielle stimulera les idées pour réaliser le potentiel maximum de la technologie, et les entreprises individuelles feront avancer leurs intérêts dans cette direction.
La société ne peut pas non plus attendre la montée des populistes. La technologie de reconnaissance faciale continuera d'être « vendue » dans le cadre des applications et des appareils les plus récents et les plus avancés. Apple appelle déjà Face ID la meilleure fonctionnalité du dernier iPhone. Il en va de même pour les reportages chargés d'idéologie qui proclament la technologie de reconnaissance faciale comme la solution à tous les problèmes.
Enfin, la société ne doit pas trop s'appuyer sur les modes traditionnels de régulation. Les caractéristiques de la technologie de reconnaissance faciale ne permettent pas de la maintenir dans le cadre de mesures qui définissent les usages légaux et illégaux et tentent d'y intégrer l'utilité potentielle pour la société et le facteur dissuasif pour les intrus. C'est l'un des rares exemples où une interdiction complète devrait être introduite.
À l'heure actuelle, il existe très peu de projets pour contrôler la technologie de reconnaissance faciale et encore moins pour la limiter. Il existe des lois décentes sur les données biométriques dans l'Illinois et le Texas, mais elles suivent une stratégie réglementaire généralement acceptée qui oblige ceux qui collectent et utilisent ces données à se conformer à un ensemble de pratiques et de protocoles de base en matière de confidentialité des informations. Cela comprend l'obligation d'obtenir un consentement éclairé pour la collecte de données biométriques, leur période de protection et de conservation obligatoire, l'interdiction de leur utilisation à des fins lucratives, la restriction des droits de transfert à des tiers et les motifs privés d'intenter une action en justice en cas de violation. de ces règles.
Les lois proposées sur la reconnaissance faciale sont similaires. La Federal Trade Commission des États-Unis recommande d'introduire le même mécanisme pour la technologie : avertir la personne de son utilisation, lui donner le choix et restreindre équitablement l'utilisation de ses données. Le rapport de l'Electronic Frontier Foundation, qui se concentre sur l'application de ces lois, fait des suggestions similaires, quoique plus profondes. Par exemple, créez des règles claires pour l'utilisation, la distribution et la sécurité des données ; imposer des restrictions sur la collecte et le stockage des données ; l'interdiction d'inclure plusieurs types de données biométriques dans une seule base de données ; notification obligatoire, inspections et contrôle indépendant. Dans son projet de loi sur la reconnaissance faciale, le Centre sur la confidentialité et la technologie de l'Université de Georgetown propose de restreindre considérablement l'accès du gouvernement aux bases de données faciales, ainsi que l'utilisation de la technologie de reconnaissance faciale en temps réel.
Malheureusement, la plupart des exigences actuelles et proposées sont de nature procédurale. Et finalement, ils n'arrêteront pas la diffusion de la technologie elle-même et le développement de l'infrastructure correspondante. Tout d'abord, il convient de noter que certaines des hypothèses sous-jacentes sur le consentement, la notification et le choix qui sont présentes dans les lois existantes sont fausses. Le consentement éclairé en tant que mécanisme de régulation de la surveillance et du traitement des données est totalement inutile. Même si les gens avaient le droit de contrôler leurs données, ils ne pourraient toujours pas les utiliser au maximum.
Pourtant, les législateurs et l'industrie elle-même tentent de faire bouger les choses. Mais il existe de nombreuses lacunes dans ces normes, comme dans la plupart des normes de confidentialité de l'ère numérique. Certaines lois ne traitent que de la collecte ou du stockage des données et n'affectent pas leur utilisation. D'autres ne s'appliquent qu'aux entreprises ou au gouvernement et sont si ambigus qu'ils vous permettent d'éviter les conséquences de diverses actions illégales. Et pour profiter des avantages de la technologie de reconnaissance faciale tant vantée, il faudra plus de caméras, une meilleure infrastructure et de vastes bases de données.
L'avenir de la technologie de reconnaissance faciale
La technologie de reconnaissance faciale ouvre des possibilités infinies pour suivre les informations sur la personnalité et les mouvements d'une personne. Et aussi presque instantanément l'enregistrer, le distribuer et l'analyser. Le développement de cette technologie à l'avenir peut conduire au fait que la confidentialité des informations privées d'une personne sera constamment violée. Le bien-être de l'humanité n'est possible que si une interdiction des technologies de reconnaissance faciale est introduite avant que ces systèmes n'entrent trop fermement dans la vie quotidienne. Sinon, les gens ne seront familiarisés qu'avec le monde, dans lequel, chaque fois qu'ils apparaîtront dans un lieu public, ils seront automatiquement identifiés, inscrits dans le profil et, éventuellement, utilisés. Dans un tel monde, ceux qui s'opposent à la technologie de reconnaissance faciale seront discrédités, réduits au silence ou éliminés.