Blog invité : Les décideurs politiques en matière d'IA devraient encourager les compléments de notification vidéo pour favoriser un consentement éclairé en ligne

Auteurs : Jonathan Obar et David Gelb, Université York  

Jonathan A. Obar est professeur agrégé au département de communication et d’études médiatiques de l’Université York. Ses recherches et son enseignement portent sur les politiques d’information et de communication, ainsi que sur la relation entre les technologies numériques, les libertés civiles et l’inclusivité des cultures publiques. Ses publications universitaires portent sur le big data et la confidentialité, les interfaces de consentement en ligne, la transparence de la confidentialité des données des entreprises et l’activisme numérique. 

David Gelb est professeur agrégé au département de design de l'Université York. Ses recherches portent sur les interfaces éthiques et la pédagogie du design. Il enseigne le design centré sur l'utilisateur, le design de communication visuelle et la théorie du design d'interaction aux niveaux du premier et du deuxième cycle. Au cœur de sa pratique professionnelle se trouve la recherche sur l'expérience utilisateur pour des clients des secteurs des sciences de la santé, de l'éducation et de la culture. 

La conception d’un processus de consentement en ligne est essentielle pour garantir que les individus puissent décider eux-mêmes de la protection de leurs informations 

Pour obtenir un consentement éclairé, il faut avoir accès à des informations (c.-à-d. des documents d'information) sur l'organisation qui tente d'obtenir le consentement d'une personne. En ce qui concerne l'intelligence artificielle (IA), ces documents d'information doivent contenir, au minimum, des informations sur les données utilisées pour former une IA, les algorithmes qui pilotent les analyses et les résultats automatisés menant à la prise de décision organisationnelle. Si ces détails sont disponibles, il s'agit d'une étape supplémentaire pour aider les personnes à déterminer si elles doivent consentir aux pratiques organisationnelles en question et aux implications de l'accord sur les conditions de service. 

L'IA étant envisagée pour la prise de décision automatisée par les employeurs, les institutions financières, les universités, les spécialistes du marketing et au-delà, les individus ont besoin d'informations accessibles et utiles pour bénéficier de protections de surveillance. grande discrimination des données et les inégalités liées à l’IA sont des préoccupations croissantes, en particulier pour les membres des communautés marginalisées. 

Cependant, rendre l’information accessible au public n’équivaut pas à garantir que les individus puissent accéder à cette information ou la comprendre.  

Le défi des avis textuels 

Les « documents d’information » font souvent référence aux conditions de service et aux politiques de confidentialité communiquées publiquement via des sites Web statiques et riches en texte. suggère Peu de gens lisent les avis textuels. Les raisons varient. Les politiques textuelles sont souvent longues, compliquées et ennuyeuses. Les conceptions d'interface utilisateur trompeuses détournent l'attention des politiques et la dirigent vers des boutons « Accepter » attrayants via Enveloppes à clicLes gens sont pressés de rejoindre rapidement des services, de faire des achats, de jouer, de participer à des réseaux sociaux et ne peuvent pas se donner la peine de passer des heures à lire sur le processus algorithmique d'une organisation. 

Dans son Lignes directrices pour l’obtention d’un consentement éclairé, le Commissariat à la protection de la vie privée du Canada (CPVP) appelle les organisations à « faire preuve d’innovation et de créativité » lors de la conception des processus de consentement en ligne. L’objectif est de rendre les documents d’avis plus attrayants, engageants et dynamiques. Le CPVP est clair : « les organisations devraient faire plus que simplement transposer sous forme numérique leurs politiques sur papier issues de l’environnement hors ligne ». Nouvelles recherche financé par le Commissariat à la protection de la vie privée du Canada, suggère que les vidéos de type médias sociaux peuvent offrir des améliorations en matière de notification qui contribuent réellement à la sensibilisation individuelle essentielle à une protection significative du consentement en ligne. 

Conception de suppléments d'avis vidéo 

 « Les vidéos sont toujours plus populaires que les documents » – un commentaire d’un participant à l’étude, évoqué dans un rapport préliminaire par des chercheurs de l’Université York. De nombreux participants ont exprimé des sentiments similaires, suggérant que les avis vidéo sont préférés aux avis textuels. 

FSelon les conclusions préliminaires de l’enquête, publiées par le Commissariat à la protection de la vie privée du Canada et le Conseil de recherches en sciences humaines, sont inclus dans un rapport intitulé Conception d'avis vidéo pour favoriser un consentement éclairé en ligne : une analyse des vidéos sur les réseaux sociaux concernant l'intelligence artificielle et la confidentialité et hébergé sur le nouveau L'IA au cœur des préoccupations site web du projet. 

Note : La couverture d'un nouveau rapport sur les documents d'avis vidéo de l'Université York, financé par le Commissariat à la protection de la vie privée du Canada et le CRSH. Rapport disponible à l'adresse https://ainfocus.net. Conception graphique par Hannah Palmier Blizzard.

Les chercheurs ont créé quatre vidéos de style TikTok destinées à compléter les politiques de confidentialité textuelles et à les rendre plus faciles à comprendre. Chaque vidéo abordait un problème de confidentialité lié au développement et à l'utilisation de l'IA. On a demandé aux participants du groupe de discussion ce qu'ils pensaient des vidéos et comment elles contribuaient à des processus de consentement significatifs en ligne.

Les résultats préliminaires des groupes de discussion ont été organisés en recommandations à prendre en compte par les organisations intéressées par la conception de notifications vidéo. Le rapport souligne que, d’après les réponses des participants, les compléments vidéo courts (moins d’une minute) en direct sont préférés aux politiques de confidentialité textuelles. La possibilité que des vidéos puissent compléter les documents d’information textuels était évidente, les participants notant que les vidéos non seulement attirent leur attention sur les détails de l’IA, mais peuvent également motiver un examen plus approfondi des documents textuels. Bien que les préférences en matière de longueur de vidéo créent des défis pour expliquer en détail les systèmes d’IA, les résultats suggèrent que des vidéos de type médias sociaux devraient être créées pour aider à informer sur les systèmes d’IA.

Une autre recommandation du rapport souligne l’importance de garantir la représentation des communautés marginalisées dans les supports d’information vidéo. Les participants aux groupes de discussion ont suggéré que cette représentation à l’écran pourrait contribuer à la notification et aider à établir des liens avec le contenu. En effet, il est essentiel de veiller à ce que le contenu vidéo communique les risques et les implications de l’IA pour les membres des groupes plus susceptibles de subir des inégalités liées à l’IA.

Enfin, le rapport recommande que les vidéos de type réseaux sociaux s’appuient sur les mèmes tendance pour attirer l’attention sur les informations relatives à l’IA. Contrairement aux notifications textuelles ennuyeuses, le contenu tendance peut aider à lancer le processus de notification et contribuer à la compréhension essentielle à un consentement significatif. La création d’une série de vidéos itératives s’inscrit dans cette approche et peut aider à relever le défi consistant à tenter de transmettre les complexités de l’IA en moins d’une minute.

Les décideurs politiques en matière d’IA devraient donner la priorité aux améliorations des notifications dans tous les contextes d’IA

La Loi sur l’intelligence artificielle et les données (LIA) proposée par le Canada oblige les organisations privées qui diffusent et utilisent de l’IA « à fort impact » à communiquer publiquement des informations sur le système sur un site Web. Ce volet du projet de loi C-27 indique que des explications en langage clair sont requises, décrivant le fonctionnement de l’IA, le contenu et les décisions produites, ainsi que toute procédure d’atténuation.

Exigences en matière de notification devrait s'étendre Au-delà des systèmes d’IA dits « à fort impact », divers systèmes d’IA dits « à faible impact » peuvent également entraîner des préjudices. Cela suggère que toute organisation espérant bénéficier de l’IA devrait investir dans des améliorations matérielles.

L'amélioration des supports d'information et des processus de consentement significatifs associés nécessite plus que du texte statique sur un site Web caché derrière un clic trompeur. Comme le souligne la Maison Blanche dans son Projet de loi sur les droits de l’IA« Vous devez savoir qu’un système automatisé est utilisé et comprendre comment et pourquoi il contribue à des résultats qui vous affectent. » Bien que des recherches supplémentaires soient nécessaires pour déterminer comment la vidéo de type médias sociaux peut guider les individus au-delà de la notification vers l’explication, les décideurs politiques en matière d’IA qui s’engagent à soutenir des protections de consentement significatives devraient donner la priorité à la création de documents de notification que les gens examineront réellement.

Remerciements : Merci à Désirée de Jesús, Guilherme Cavalcante Silva, Hannah Palmier Blizzard, Grace Noua, Sam Loiselle et Brenda McPhail. Merci également à l'ACLC pour sa collaboration à ce projet.