{"id":8520,"date":"2023-02-14T16:56:08","date_gmt":"2023-02-14T21:56:08","guid":{"rendered":"https:\/\/ccla.org\/?p=8520"},"modified":"2023-03-06T13:59:22","modified_gmt":"2023-03-06T18:59:22","slug":"guest-blog-artificial-intelligence-developers-must-ensure-commitment-to-meaningful-consent","status":"publish","type":"post","link":"https:\/\/ccla.org\/fr\/intimite\/guest-blog-artificial-intelligence-developers-must-ensure-commitment-to-meaningful-consent\/","title":{"rendered":"Blog invit\u00e9\u00a0: les d\u00e9veloppeurs d'intelligence artificielle doivent s'engager \u00e0 fournir un consentement valable"},"content":{"rendered":"
<\/div><\/div><\/div>
\n\t
\n\t\t
\n\t\t\t
\n\t\t\t\t\n
\n\t
\n\t\t

Jonathan A. Obar, PhD, est professeur agr\u00e9g\u00e9 au D\u00e9partement d'\u00e9tudes en communication et m\u00e9dias de l'Universit\u00e9 York. Ses recherches et son enseignement portent sur les politiques d'information et de communication, et la relation entre les technologies num\u00e9riques, les libert\u00e9s civiles et l'inclusivit\u00e9 des cultures publiques. Les publications acad\u00e9miques traitent des m\u00e9gadonn\u00e9es et de la confidentialit\u00e9, des interfaces de consentement en ligne, de la transparence de la confidentialit\u00e9 des donn\u00e9es d'entreprise et de l'activisme num\u00e9rique.<\/em><\/p>\n

Les ensembles de donn\u00e9es pour la formation \u00e0 l'intelligence artificielle (IA) peuvent \u00eatre remplis d'informations obtenues sans consentement valable. Qu'une organisation collecte des donn\u00e9es directement aupr\u00e8s des utilisateurs ou aupr\u00e8s d'une autre organisation, il est essentiel de s'assurer du consentement valable des personnes repr\u00e9sent\u00e9es dans les donn\u00e9es. Alors que le gouvernement canadien d\u00e9bat du projet de loi C-27 et remet en question l'avenir de l'IA \u00e9thique, cette question doit \u00eatre une priorit\u00e9.<\/p>\n

Les d\u00e9veloppeurs peuvent tenter de former des syst\u00e8mes d'IA pour aider un magasin \u00e0 vendre des produits, une banque pour d\u00e9terminer les hypoth\u00e8ques, une compagnie d'assurance pour coter les primes, la police pour identifier les suspects ou un juge pour calculer les taux de r\u00e9cidive. Dans tous ces cas - et bien d'autres - si les personnes dont les donn\u00e9es alimentent ces syst\u00e8mes n'ont pas consenti \u00e0 ce que leurs donn\u00e9es soient utilis\u00e9es dans le d\u00e9veloppement de l'IA, il s'agit d'une violation potentielle des libert\u00e9s civiles. De plus, le manque de surveillance associ\u00e9 \u00e0 un manque de consentement significatif pourrait entra\u00eener des pr\u00e9judices associ\u00e9s \u00e0 grande discrimination des donn\u00e9es<\/a>.<\/p>\n

\u00c9crivant sur la collecte et l'utilisation probl\u00e9matiques de donn\u00e9es par les d\u00e9veloppeurs d'IA, Kate Crawford, une \u00e9minente sp\u00e9cialiste de l'IA, met en garde<\/a>:<\/p>\n

\nL'industrie de l'IA a favoris\u00e9 une sorte de pragmatisme impitoyable, avec un minimum de contexte, de prudence ou de pratiques de donn\u00e9es ax\u00e9es sur le consentement, tout en promouvant l'id\u00e9e que la collecte massive de donn\u00e9es est n\u00e9cessaire et justifi\u00e9e pour cr\u00e9er des syst\u00e8mes d'"intelligence" informatique rentable (p. 95 ).\n<\/p><\/blockquote>\n

Quand quelqu'un partage une photo en ligne, convient-il que la photo peut former l'IA pour les ressources humaines\u00a0? Lorsque les gens ouvrent la porte d'un centre commercial, conviennent-ils que les images des cam\u00e9ras de surveillance peuvent entra\u00eener une prise de d\u00e9cision automatis\u00e9e pour les syst\u00e8mes de justice p\u00e9nale\u00a0? D\u00e9placement des donn\u00e9es d'un contexte \u00e0 l'autre<\/a> soul\u00e8ve des inqui\u00e9tudes quant au r\u00f4le du consentement en tant que m\u00e9canisme de surveillance. Les personnes qui tentent de donner leur consentement apr\u00e8s avoir t\u00e9l\u00e9charg\u00e9 une application comprennent-elles comment les informations personnelles peuvent circuler au sein d'une organisation\u00a0? Par exemple, \u00e0 partir du Programme PC Optimum Loblaws<\/a> aux soci\u00e9t\u00e9s de sant\u00e9 et de services financiers au sein de l'organisation Loblaw? D'une organisation \u00e0 l'autre, comme de Foursquare<\/a> suivi de localisation mobile vers KFC\u00a0? Dans les deux sc\u00e9narios, la r\u00e9ponse est probablement non si les gens ne lisent pas les conditions d'utilisation et les politiques de confidentialit\u00e9.<\/p>\n

Consentement significatif et \u00ab\u00a0le plus gros mensonge sur Internet\u00a0\u00bb<\/strong><\/p>\n

Un consentement significatif sugg\u00e8re que les individus prennent conscience et comprennent la mani\u00e8re dont les informations personnelles sont utilis\u00e9es sur le moment, ainsi que les implications pour l'avenir. D\u00e9velopper cette compr\u00e9hension peut \u00eatre difficile si les d\u00e9veloppeurs d'IA refusent d'enseigner aux gens les pratiques de l'industrie, et impossible si les gens ignorent les opportunit\u00e9s d'engagement et d'apprentissage.<\/p>\n

Notant une \u00ab logique extractive \u00bb au c\u0153ur de la fa\u00e7on dont les d\u00e9veloppeurs d'IA collectent et utilisent les donn\u00e9es, Crawford \u00e9crit : \u00ab Il est devenu tellement normal dans l'industrie de prendre et d'utiliser tout ce qui est disponible que peu s'arr\u00eatent pour remettre en question la politique sous-jacente \u00bb (p. 93 ).<\/p>\n

Ces politiques sous-jacentes incluent quelque chose appel\u00e9 "le plus gros mensonge sur Internet" connu sous le nom de "J'accepte les termes et conditions" (voir\u00a0: www.biggestlieonline.com<\/a>). Ce m\u00e8me Internet sugg\u00e8re aux gens de "mentir" en acceptant les conditions de service sans y acc\u00e9der, les lire ou les comprendre. La taille (c'est-\u00e0-dire \u00ab la plus grande \u00bb) est due \u00e0 l'omnipr\u00e9sence des services num\u00e9riques, dont les termes sont accept\u00e9s en permanence.<\/p>\n\t<\/div>\n<\/div>\n\n\n\n

\n
\n
\n
\n \"\"\n <\/div>\n <\/div>\n <\/div>\n <\/div>\n
\n\t
\n\t\t

Dans deux \u00e9tudes tentant de d\u00e9baller "le plus gros mensonge sur Internet", \u00e9tudiants de premier cycle<\/a> et adultes 50+<\/a> ont \u00e9t\u00e9 pr\u00e9sent\u00e9s avec un processus de consentement en ligne fictif pour un site de m\u00e9dias sociaux invent\u00e9. Dans les deux \u00e9tudes, les participants ont syst\u00e9matiquement ignor\u00e9 et pr\u00e9cipit\u00e9 le processus de consentement en ligne soit en sautant les politiques sans y acc\u00e9der, soit en passant peu de temps \u00e0 les lire. Pour \u00e9valuer si les participants comprenaient les implications d'un accord, les conditions de service incluaient des \u00ab\u00a0clauses de pi\u00e8ge\u00a0\u00bb. Dans l'\u00e9tude de premier cycle, les conditions de service comprenaient une clause \u00abpremier-n\u00e9\u00bb, obligeant les participants \u00e0 abandonner un enfant pour utiliser le service de m\u00e9dias sociaux. Sur les 543 participants, 93% a accept\u00e9. Dans l'\u00e9tude sur les personnes \u00e2g\u00e9es, 83.4% sur 500 participants ont accept\u00e9 de renoncer \u00e0 un rein pour utiliser un service de m\u00e9dias sociaux similaire. Dans les deux \u00e9tudes, lorsqu'on leur a demand\u00e9 s'il y avait quelque chose d'inqui\u00e9tant au sujet des politiques, plus de 98% des participants, dans les deux \u00e9tudes, n'ont pas identifi\u00e9 ces clauses probl\u00e9matiques.<\/p>\n

Si les personnes impliqu\u00e9es dans les deux \u00e9tudes pouvaient manquer les clauses du pi\u00e8ge et ne pas identifier deux implications tr\u00e8s extr\u00eames du soi-disant accord, il est probable qu'elles pourraient \u00e9galement manquer des opportunit\u00e9s d'en savoir plus sur le partage de donn\u00e9es pour le d\u00e9veloppement de l'IA.<\/p>\n

Il y a de nombreuses raisons pour "le plus grand mensonge sur Internet", y compris le longueur<\/a> et complexit\u00e9<\/a> des politiques de services num\u00e9riques, ainsi que d\u00e9mission<\/a> et d\u00e9sint\u00e9ressement<\/a> de l'individu. Le clickwrap (voir ci-dessus), la porte d'entr\u00e9e des \u00e9cosyst\u00e8mes num\u00e9riques fa\u00e7onn\u00e9s et exploit\u00e9s par les capitalistes de la surveillance et d'autres b\u00e9n\u00e9ficiaires de l'IA, est particuli\u00e8rement pr\u00e9occupant. Au lieu d'innovations de conception pour soutenir la sensibilisation et la compr\u00e9hension, cette conception trompeuse de l'interface utilisateur encourage les comportements d'ignorance - acc\u00e9l\u00e9rant les gens \u00e0 travers les processus de consentement en ligne et vers les parties des services num\u00e9riques qui g\u00e9n\u00e8rent des revenus.<\/p>\n