Députation sur le système de reconnaissance faciale

Quel est le problème avec la technologie de reconnaissance faciale en tant qu'outil de surveillance et d'enquête policière? C'est illégal, dangereusement inexact, non réglementé, initialement déployé par le service de police de Toronto (« TPS ») de manière furtive, sans préavis ni autorisation, et il donne au gouvernement un pouvoir sans précédent pour suivre les gens dans leur vie quotidienne. Est-ce le genre de société que nous voulons ? C'est la question. Si oui, alors la question est pourquoi, quand et comment.

Si la pratique du TPS de cardage est rejeté à juste titre par ce conseil, il devrait au moins imposer un moratoire sur l'utilisation future de la technologie de reconnaissance faciale, car elle nous rend tous des cartes d'identité ambulantes. La technologie de reconnaissance faciale est basée sur un algorithme, et un algorithme notoirement inexact. C'est comme si la police prenait les empreintes digitales et prélevait l'ADN de tout le monde à Yonge et Bloor pendant les heures de pointe, puis les traitait dans un processeur de base de données d'ADN et d'empreintes digitales défectueux. Vous risquez tous actuellement un recours collectif à ce sujet, et devriez atténuer les dommages accumulés à ce jour en ordonnant un moratoire sur son utilisation désormais.

Nous disons que c'est illégal dans la mesure où la technologie de reconnaissance faciale est une fouille massive, aveugle, disproportionnée, inutile et sans mandat de personnes innocentes sans motif raisonnable et probable. Son taux de faux positifs le rend terriblement, dangereusement inexact ; il n'est pas prêt pour les heures de grande écoute à Toronto.

TPS sait très bien, ou aurait dû savoir, que même la police métropolitaine de Londres, qui est poursuivie pour son utilisation du FRT, a publié l'été dernier un "cadre juridique complet" sur son site Web, fournissant "des informations sur les raisons pour lesquelles le Met teste la technologie, où et quand elle a été utilisée et comment nous allons nous engager avec les Londoniens pendant les déploiements. De plus, des garanties sont mises en place pour exiger que la police divulgue ses efforts proactifs pour éviter l'apparence de profilage racial par quartier.

Le déploiement de la technologie de reconnaissance faciale par TPS au cours de la dernière année s'est fait sans préavis au public sans méfiance, sans préavis aux personnes surveillées, sans autorisation explicite du conseil municipal de Toronto, sans aucune autorisation législative du Parlement ou de Queen's Park, et sans mandat, ou autre contrôle judiciaire ou quasi judiciaire. En un mot, TPS autorégulait son utilisation de la surveillance par reconnaissance faciale en secret et n'est donc pas réglementée, sans aucune surveillance indépendante ni aucune norme en place. Un moratoire est nécessaire jusqu'à ce que de telles normes soient mises en place.

L'utilisation actuelle de la technologie par TPS soulève la question suivante : est-ce que Toronto le veut dans notre ville, que ce soit commercialement ou comme outil d'enquête et d'application de la loi ? La décision de déployer la technologie de reconnaissance faciale par la police est une décision singulière, profonde et inquiétante pour laquelle ce conseil et le conseil dans son ensemble devraient débattre et voter, permettant la responsabilité publique. Ce mois-ci, le conseil d'administration de San Francisco a voté 8 contre 1 pour interdire son utilisation. D'autres villes américaines et un État sont au milieu d'un débat démocratique sur des interdictions similaires.

Cela ne s'est pas produit à Toronto. Je dis que pour cette seule raison, votre conseil d'administration et votre conseil municipal peuvent être tenus responsables des dommages. Les poursuites pénales touchées de quelque manière que ce soit par la technologie de reconnaissance faciale sont menacées. Une utilisation ultérieure sans réglementation est sciemment imprudente.

Mettant derrière ce qui s'est passé à ce jour, l'ACLC recommande ce qui suit, pour commencer :

1. Un moratoire sur l'utilisation future du FRT pour le moment ;
2. Une motion du Conseil débattant désormais de l'utilisation de cette technologie ;
3. Si le conseil municipal vote oui, alors ce conseil ou le conseil devrait déléguer aux commissaires à la protection de la vie privée pour travailler avec le personnel de la Commission, les ONG, les procureurs généraux fédéraux et provinciaux et les experts en technologie mondiale pour proposer des normes, des freins et des contrepoids sur son utilisation. , et soumet cette proposition au vote du Conseil ;
4. De tels règlements devraient inclure l'obtention d'un mandat général pour son utilisation. Une restriction préalable est nécessaire pour l'utilisation de FRT sur la base de l'expérience historique avec la technologie de surveillance StingRay, qui s'est avérée avoir été utilisée sans discernement, puis apparaît dans les rapports de police comme des conseils anonymes, sans l'obligation légale de divulgation de son utilisation, ou un mandat ;
5. Alternativement, une certaine forme de contrôle indépendant, quasi-judiciaire ou judiciaire est nécessaire. TPS doit justifier, pour chaque déploiement de FRT : pourquoi, quand et comment il est nécessaire et proportionné aux circonstances de nous transformer tous en cartes d'identité ambulantes.
6. Permettre un accès abordable aux données du FRT par les défendeurs dans une poursuite, égal à la restriction antérieure appliquée à la police, via une citation à comparaître par les défendeurs, semblable à des citations à comparaître à Rogers et Bell pour des données de téléphone cellulaire reflétant les données Stingray.
7. Le stockage des données doit également faire l'objet de normes et d'une surveillance, semblables aux lois sur le stockage de l'ADN et les banques de données au Canada.