L'utilisation de l'outil de reconnaissance faciale par la GRC a enfreint la loi sur la protection des renseignements personnels

10 juin 2021

Aujourd'hui, la commissaire à la protection de la vie privée du Canada a publié le rapport spécial au Parlement sur Utilisation par la police de la technologie de reconnaissance faciale au Canada, concluant que l'organisme national de police du Canada, la GRC, n'était pas en conformité avec la Loi sur la protection des renseignements personnels lorsqu'il a acquis et utilisé la technologie de reconnaissance faciale Clearview AI. La GRC conteste qu'ils ont enfreint la Loi, estimant apparemment qu'il serait déraisonnable de leur part d'évaluer la conformité des fournisseurs aux lois du Canada et que l'art. 4 de la Loi sur la protection des renseignements personnels ne les oblige pas techniquement à le faire.

Clearview AI est un fournisseur américain de reconnaissance faciale qui est devenu largement connu en janvier 2020, lorsqu'un Enquête du New York Times a révélé que la société avait récupéré 3 milliards de photos de personnes sur Internet, créé un système de reconnaissance faciale pour exploiter cette base de données et commercialisait l'accès aux forces de police dans le monde.

Il s'agit de la deuxième enquête relative à Clearview AI menée par le Commissariat à la protection de la vie privée. Dans le premier, en vertu de la loi canadienne sur la protection de la vie privée, connue sous le nom de LPRPDE, le rapport d'enquête cinglant indiquait que Clearview utilisait des milliards d'images de personnes à des fins inappropriées : « la collection de masse d'images… représente la identification et surveillance de masse d'individus par une entité privée dans le cadre d'une activité commerciale" à des fins qui "seront souvent au détriment de l'individu dont les images sont capturées" et "créent un risque important de préjudice pour ces individus, dont la grande majorité n'a jamais été et ne sera jamais impliqué dans un crime.

Compte tenu des conclusions directes d'illégalité dans l'enquête initiale en vertu de la LPRPDE, l'ACLC attendait de voir si cette enquête répondrait aux questions sérieuses qui découlent de l'utilisation policière de cette technologie, y compris comment l'agence nationale de police du Canada a pris la décision d'utiliser la technologie, et pourquoi aucune analyse interne n'a réussi à lever un drapeau rouge sur la conformité légale. Les conclusions de l'enquête d'aujourd'hui, faites en vertu de la Loi sur la protection des renseignements personnels du secteur public fédéral, révèlent une tendance à l'obscurcissement de la part de la GRC (par exemple, la GRC a déclaré avoir utilisé Clearview 78 fois, mais les dossiers de Clearview montrent que c'était 521) et le non-respect de la simple telles qu'une évaluation des facteurs relatifs à la vie privée demandée par le CPVP. Ils montrent en outre que la GRC redouble d'efforts sur une interprétation particulière de la loi (écrite bien avant que le FRT ne soit développé) pour essayer d'éviter d'agir de manière responsable en tenant dûment compte des droits à la vie privée des Canadiens lorsqu'on lui propose une technologie qui est prometteuse pour leur travail mais porte encore plus risques pour les Canadiens lorsqu'il est utilisé. La GRC a finalement accepté de se conformer aux recommandations du commissaire, notamment en créant de meilleures évaluations de la conformité juridique et une surveillance plus stricte lors de l'acquisition de nouvelles technologies axées sur les données.

Les gens dans une démocratie ont besoin d'être protégés de la reconnaissance faciale sans entraves, car c'est une menace pure et simple pour la liberté humaine. La reconnaissance faciale utilise les caractéristiques physiques de notre visage pour créer un modèle mathématique qui nous est propre, qui nous identifie, tout comme une empreinte digitale. C'est un identifiant inextricablement lié à notre corps, qui peut être collecté à distance et à notre insu ou sans notre consentement. Poussée à l'extrême, la reconnaissance faciale lâchée dans nos rues signifierait l'anéantissement de l'anonymat, une incapacité totale à se déplacer dans le monde et à être un visage dans la foule. Cela changerait fondamentalement la relation entre les résidents et la police, si la police avait le pouvoir d'identifier secrètement n'importe qui et tout le monde, à volonté et sans restriction. Et bien sûr, étant donné les défauts connus de la technologie qui est moins précise pour les visages noirs que blancs, masculins que féminins, d'âge moyen que jeunes, il y a d'énormes implications en matière d'égalité.

La police ne peut pas être au-dessus ou au-delà de la loi, et les interprétations internes et en coulisses de la loi ne doivent pas être autorisées à guider l'acquisition de technologies de surveillance invasives, en particulier compte tenu de l'absence de dispositions significatives en matière de responsabilité ou de transparence en matière de surveillance policière.

Il y a un débat public qui doit désespérément avoir lieu autour des outils de surveillance de masse, sur les risques d'utiliser la capture aveugle d'informations sur tout le monde pour attraper les très rares méchants dans une mer de passants innocents vaquant à leur vie. Mais ce que l'histoire de Clearview AI nous dit, c'est qu'il y a un débat tout aussi urgent que nous devons avoir sur la responsabilité en matière de surveillance policière. Cependant, les questions fondamentales nécessaires sur la nécessité, la proportionnalité et la légalité ne sont pas posées et répondues publiquement lorsque les technologies de surveillance policière sont achetées et utilisées en secret, comme ce fut le cas avec Clearview AI.

Les policiers soutiennent souvent que cela compromet leur travail si les outils d'enquête qu'ils utilisent sont connus du public. Cependant, la licence sociale d'exercer les pouvoirs que nous accordons à nos forces de l'ordre ne peut exister que dans le cadre d'une relation de confiance, et avant même que nous ne nous posions la question de savoir s'il y a ou non un avantage social à permettre à la police d'utiliser la technologie et, dans l'affirmative, si l'emporte sur les risques sociaux, nous devons avoir l'assurance que nos organismes chargés de l'application de la loi s'engagent à utiliser des outils qui sont légalement conçus et mis en œuvre légalement. Cette enquête est un appel au changement. Les lignes directrices sur l'utilisation du FRT et la consultation prévue par le CPVP offriront aux gens de partout au Canada une occasion essentielle d'amorcer des conversations sur ce à quoi doit ressembler ce changement. L'ACLC s'engage à travailler pour que ce changement se produise.