Faites le bon choix : remettez le cheval dans l’écurie

Clearview AI est une entreprise technologique qui, selon le New York Times, aurait collecté 3 milliards de photos de personnes sur Internet, mis au point un système de reconnaissance faciale pour exploiter cette base de données et commercialise désormais l’accès à ce système auprès des forces de police. 600 services de police, dont, selon l’entreprise, certains services de police canadiens, utilisent cet outil non réglementé et insuffisamment contrôlé. Cela met clairement et de manière urgente en avant tout le débat de société sur la reconnaissance faciale : faut-il l’interdire, existe-t-il des cas où les avantages l’emportent sur les risques liés à son utilisation, comment peut-elle être réglementée (ou simplement, peut-elle être réglementée efficacement) ? Car tandis que les grandes entreprises, plus responsables, ont craint de lâcher cette technologie dans le monde, et que les gens réfléchissent et que les décideurs politiques délibèrent, une start-up du type « imiter, casser » s’est discrètement lancée et a créé ce que nous redoutions tous de voir naître – un système qui exploite les images personnelles que nous partageons sur les plateformes auxquelles nous faisons confiance et sur lesquelles nous comptons pour participer au monde moderne – et l’a vendu à la police. Qui l’achète.

Voyons pourquoi cela pose problème.

Pour commencer, demandons-nous pourquoi, dans une démocratie, les citoyens ont besoin d’être protégés contre une reconnaissance faciale sans limites. La réponse ? Parce qu’il s’agit d’une menace pour la liberté humaine, tout simplement. La reconnaissance faciale utilise les caractéristiques physiques de notre visage pour créer un modèle mathématique qui nous est propre et qui nous identifie, tout comme une empreinte digitale. À l’ACLC, nous pensons en effet qu’il est très utile de parler d’« empreinte faciale » plutôt que de « reconnaissance faciale », car cela donne une idée plus précise de ce dont il s’agit réellement : un identifiant indissociable de notre corps. Poussée à l’extrême, la reconnaissance faciale laissée libre cours dans nos rues signifierait la fin de l’anonymat, une incapacité totale à se déplacer dans le monde et à se fondre dans la foule. Elle conférerait un immense pouvoir à quiconque y aurait accès. Les entreprises pourraient nous suivre et utiliser ce qu’elles apprennent pour tenter d’influencer notre comportement de consommation. Les politiciens pourraient utiliser ces mêmes informations pour influencer notre comportement politique. Les harceleurs pourraient s’en servir pour connaître parfaitement les allées et venues de leurs victimes. Les États pourraient s’en servir pour suivre n’importe qui, des criminels présumés aux manifestants, ou tout simplement tout le monde, au cas où. C’est une vision dystopique, mais c’est en réalité une vision sur laquelle un large éventail de personnes, y compris le PDG de Google, Sundar Pichai, s’accordent à dire qu’elle pourrait se réaliser à moins que nous ne soyons très prudents et très réfléchis en nous demandant non seulement quand, mais aussi SI nous devons utiliser cette technologie.

Un argument souvent avancé en réponse à cela est que nous en sommes nous-mêmes responsables. Après tout, nous partageons tous des informations, y compris des photos, en participant volontairement à la vie moderne. Lorsque nous partageons une photo sur Facebook, par exemple, la plupart d’entre nous ont un public précis à l’esprit. Si nous choisissons de ne pas configurer les paramètres de confidentialité et de laisser toute personne utilisant la plateforme voir potentiellement la photo, nous avons peut-être de bonnes raisons de le faire : peut-être souhaitons-nous publier des images qui permettent à des employeurs potentiels de voir à quel point nous serions un employé compétent, responsable et attaché à la famille, ou peut-être apprécions-nous l’idée que des personnes du monde entier puissent voir nos publications et nos photos et interagir avec elles. Ou peut-être ne pensons-nous tout simplement pas à qui d’autre pourrait les voir. Quelle que soit la raison, il est tout simplement faux de dire que lorsque nous publions ne serait-ce qu’une photo publique sur une plateforme de réseaux sociaux, nous acceptons que n’importe qui puisse faire ce qu’il veut avec ces informations. Les conditions d’utilisation de ces sites sont des contrats unilatéraux, du type « à prendre ou à laisser », mais ce sont bel et bien des contrats, et la plupart des sites réputés interdisent le scraping massif à des fins commerciales par des tiers. Nous sommes très peu protégés contre l’utilisation de nos informations par les plateformes comme bon leur semble, mais celles-ci nous promettent généralement une protection contre les autres. Nous disposons également de lois sur la protection de la vie privée qui régissent les conditions et la nature du consentement pour l’utilisation de nos informations personnelles. Ainsi, bien que le monde en ligne soit sous-réglementé et que nos lois soient obsolètes face au potentiel des technologies émergentes, l’application de Clearview n’opère pas dans un monde sans loi, mais simplement dans un monde où la loi semble être ignorée.

Pourquoi cela pose-t-il un problème particulier pour un outil utilisé (en secret) par les forces de l’ordre ? Tout simplement parce que, dans une démocratie, la police ne peut se placer au-dessus ou en dehors de la loi. Un débat public s’impose de toute urgence au sujet des outils de surveillance de masse, sur les avantages et les risques liés à la collecte aveugle d’informations sur tout le monde afin d’arrêter les rares malfaiteurs parmi une foule d’innocents vaquant à leurs occupations. Mais ce que l’affaire Clearview AI nous apprend, c’est qu’il existe un débat tout aussi urgent à mener sur la responsabilité en matière de surveillance policière. Il s’agit d’une technologie non contrôlée dont on peut raisonnablement penser qu’elle utilise des images obtenues illégalement — il y a assurément des questions qui doivent être posées et auxquelles il faut répondre. Ces questions ne sont toutefois pas posées ni traitées publiquement lorsque les technologies de surveillance sont acquises et utilisées en secret, comme c’est le cas avec Clearview AI. Aucun service de police interrogé par la CBC dans le cadre de son enquête sur la dimension canadienne de cette affaire n’a confirmé utiliser cet outil. Pourtant, nous savons que les services canadiens l’utilisent : on trouve même une citation d’un agent non identifié des « forces de l’ordre canadiennes » sur le site web de la société Clearview AI. La police fait souvent valoir que le fait que le public connaisse les outils d’enquête qu’elle utilise compromet son travail. Cependant, la légitimité sociale permettant d’exercer les pouvoirs que nous accordons à nos forces de l’ordre ne peut exister que dans le cadre d’une relation de confiance, et avant même d’aborder la question de savoir s’il y a ou non un bénéfice social à permettre à la police d’utiliser cette technologie et, le cas échéant, si celui-ci l’emporte sur les risques sociaux, nous avons besoin de l’assurance que nos forces de l’ordre s’engagent à utiliser des outils conçus et mis en œuvre dans le respect de la loi.

Dans une démocratie, nous devons constamment faire des choix difficiles quant à ce que la police a le droit de faire et ce qu’elle n’a pas le droit de faire. Au Canada, nous disposons d’une Charte des droits et libertés qui énonce les droits fondamentaux dont nous jouissons tous – et que nous méritons – simplement parce que nous sommes des êtres humains. Parfois, le respect de ces droits complique la tâche des agents des forces de l’ordre, rend les enquêtes moins efficaces et rend indispensable le respect des règles. C’est un compromis que nous avons accepté ; en tant que société libre, nous estimons que nos organismes chargés de la sécurité publique ne peuvent véritablement assurer la sécurité de quiconque s’ils ne sont pas eux-mêmes régis par la loi et tenus de respecter nos valeurs fondamentales au cours de chaque processus d’enquête.

En tant que défenseur de la vie privée, on me demande sans cesse s’il vaut la peine de s’indigner face à des affaires comme celle-ci, ou si nous devrions simplement renoncer à la vie privée, car le mal est déjà fait.

Ma réponse : « Le cheval s’est échappé de l’écurie » est une métaphore absurde, et tout éleveur vous le confirmera — car si un cheval venait à s’égarer, on ne se contente pas de rester les bras croisés en se disant : « Tiens, ce cheval de grande valeur a disparu, tant pis » : on part à la recherche de l’animal. Et quand vous la retrouvez, vous la ramenez à la maison et vous réparez la porte de la stalle, ou celle de l’écurie, ou le portail du corral — voire les trois, car vous avez besoin de ce cheval et cela vaut la peine de prendre soin de lui. Il en va de même pour notre vie privée. Elle est précieuse. C’est un droit humain. Elle mérite qu’on en prenne soin, et elle mérite qu’on se batte pour elle. Elle mérite qu’on la recherche, qu’on la ramène à la maison et qu’on trouve de nouveaux moyens de la protéger.

Espérons que l’affaire Clearview AI marquera un nouveau tournant, à l’instar de l’affaire Cambridge Analytica, un moment qui mettra en lumière tout ce que nous avons à perdre si nous ne prenons pas la mesure des risques liés aux nouvelles technologies tout en restant ouverts à leurs avantages. L’ACLC réitère son appel en faveur d’un moratoire sur les logiciels de reconnaissance faciale jusqu’à ce que le Canada ait eu l’occasion, en tant que nation, de discuter, de débattre et de s’opposer d’abord à cette question ; ce n’est qu’après avoir dépassé cette étape que l’on pourra se demander quand et comment cette technologie devrait être utilisée dans une démocratie respectueuse des droits.