Publication du rapport ETHI sur la technologie de reconnaissance faciale

Le Canada n'a pas de cadre juridique approprié pour réglementer la technologie de reconnaissance faciale, et sans elle, le risque de préjudice individuel et social est si élevé que nous avons besoin d'un moratoire sur son utilisation. L'ACLC a présenté cet argument dans des mémoires à la récente étude sur la technologie de reconnaissance faciale (FRT) par le Comité permanent de l'accès à l'information, de la protection des renseignements personnels et de l'éthique (ETHI). Nous sommes tout à fait d'accord avec les conclusions du Comité dans son rapport publié le 4 octobre 2022 : 

L'étude du Comité a confirmé que le cadre législatif actuel du Canada ne réglemente pas adéquatement le TRF et l'IA. Sans un cadre approprié, le FRT et d'autres outils d'IA pourraient causer un préjudice irréparable à certaines personnes. 

Le Comité est donc d'avis que, lorsque le TRF ou d'autres technologies d'IA sont utilisées, elles doivent l'être de manière responsable, dans un cadre législatif solide qui protège les droits à la vie privée et les libertés civiles des Canadiens. Puisqu'un tel cadre législatif n'existe pas à l'époque, une pause nationale devrait être imposée à l'utilisation du TRF, notamment en ce qui concerne les services de police. 

Le Comité formule 19 recommandations généralement fortes. Les points saillants comprennent des recommandations interdisant l'obtention d'informations personnelles obtenues illégalement et exigeant des rapports publics lorsque le FRT ou d'autres outils algorithmiques, y compris des essais gratuits, sont acquis par des institutions gouvernementales. Ces recommandations aideraient à prévenir un futur scandale comme celui créé lorsque la GRC a secrètement utilisé le logiciel Clearview AI, déterminé par la suite par un enquête conjointe des commissaires à la protection de la vie privée comme étant illégale en vertu de la loi canadienne. 

D'autres recommandations clés sont axées sur la responsabilisation et la transparence, notamment la création d'un registre public d'IA des outils utilisés par les entités opérant au Canada, l'augmentation de l'engagement des intervenants de la société civile dans les processus d'évaluation d'impact de l'IA existants et l'établissement de « mesures politiques solides au sein du secteur public pour le l'utilisation de la technologie de reconnaissance faciale qui pourrait" [nous dirions devrait] "inclure un avis public immédiat et préalable et des commentaires publics, une consultation avec des groupes marginalisés et des mécanismes de surveillance indépendants". 

Pour faire face aux risques bien connus de préjugés et d'impacts discriminatoires des systèmes FRT, il existe des recommandations appelant le gouvernement à investir dans l'étude de l'impact de l'intelligence artificielle sur différents groupes, et à assurer "la divulgation complète et transparente des informations raciales, d'âge ou autres". biais inconscients qui peuvent exister dans la technologie de reconnaissance faciale utilisée par le gouvernement, dès que le biais est constaté dans le cadre de scénarios de test ou d'applications en direct de la technologie, sous réserve de problèmes de sécurité nationale. Bien sûr, l'exclusion de la sécurité nationale est problématique, étant donné que les risques de discrimination sont particulièrement élevés dans des contextes tels que la sécurité des frontières. 

Il existe une série de recommandations traitant de la nécessité de légiférer sur les protections, notamment : 

• Définir les utilisations acceptables de la technologie de reconnaissance faciale ou d'autres technologies algorithmiques et interdire d'autres utilisations, y compris la surveillance de masse ; 
• Exiger, avant d'adopter ou d'utiliser le FRT, que les agences consultent le Commissaire à la protection de la vie privée, et déposer des évaluations d'impact sur la vie privée ; 
• Mettre à jour la Loi canadienne sur les droits de la personne pour s'assurer qu'elle s'applique à la discrimination causée par l'utilisation de la technologie de reconnaissance faciale et d'autres technologies d'intelligence artificielle  
• Mettre en œuvre un droit à l'effacement des informations personnelles, y compris les images ; 
• Mettre en œuvre une exigence d'acceptation uniquement pour la collecte d'informations biométriques par des entités du secteur privé et ne pas autoriser ces entités à exiger une biométrie comme condition de service ; 
• Renforcer la capacité du commissaire à la protection de la vie privée d'imposer des sanctions significatives en cas d'infraction à la loi. 
• Développer un cadre réglementaire concernant les utilisations, les interdictions, la surveillance et la confidentialité de la technologie de reconnaissance faciale, y compris des mesures de surveillance proactives. 

Et enfin, l'une des recommandations les plus importantes concerne la nécessité de protéger les photos de personnes, en ligne ou capturées dans des espaces publics, contre la récupération non consensuelle pour une utilisation dans les systèmes d'IA. La recommandation 17 stipule : Que le gouvernement du Canada modifie la Loi sur la protection des renseignements personnels et la Loi sur la protection de l'information et les documents électroniques pour interdire la pratique consistant à capturer des images de Canadiens à partir d'Internet ou d'espaces publics pour but de remplir des bases de données de technologies de reconnaissance faciale ou artificielles algorithmes de renseignement.  

Le comité ETHI a fait un bon travail de synthèse et de réflexion sur les préoccupations des témoins qui ont comparu devant eux et a formulé des recommandations qui contribueraient grandement à protéger les gens partout au Canada contre les utilisations portant atteinte aux droits du FRT et d'autres technologies axées sur l'IA. Il appartient maintenant au gouvernement de reprendre les recommandations. Le rapport arrive à point nommé, alors que le nouveau projet de loi C-27 sur la protection de la vie privée dans le secteur privé fait son chemin vers le comité. Des modifications à ce projet de loi pourraient et devraient être apportées en réponse à certaines de ces recommandations, et des réformes de la Loi sur la protection des renseignements personnels sont également indiquées. En attendant cette législation, le moratoire sur les services de police fédéraux et les industries canadiennes sur l'utilisation du FRT recommandé par ETHI et soutenu par un large éventail de témoins, y compris l'ACLC, devrait être déclenché immédiatement. Comme le note le Comité, les dommages sont imminents sans une action rapide.