Saison 8, épisode 7 : Repenser le consentement et l’I.A.
Saison 8 épisode 7 [télécharger cet épisode (MP3, 49.0 MB)]
Dans cet épisode, Elizabeth s’entretient avec Jane Bailey, professeure de droit à l’Université d’Ottawa et co-responsable du projet « Rethinking Consent », afin d’examiner pourquoi le modèle du consentement éclairé individuel peine à s’adapter à la manière dont les données sont utilisées dans les environnements numériques et d’intelligence artificielle. Elles discutent de l’utilisation des données dans ces environnements. Jane explique comment les groupes constitués de manière algorithmique peuvent masquer la discrimination et frapper le plus durement les communautés marginalisées, avec des répercussions sur l’accès au crédit, l’emploi et la participation démocratique. Elles examinent également pourquoi la précipitation du Canada à réglementer les risques en se concentrant sur les voix du secteur pourrait conduire à des erreurs. Jane plaide pour que le consentement soit maintenu là où il a un sens, en traitant les conséquences collectives comme des enjeux politiques structurels. Il s’agit de fixer des limites quant aux systèmes pouvant être mis en service et de ralentir le processus afin de permettre une délibération démocratique.
Ressources complémentaires :
Découvrez le projet « Rethinking Consent » de Jane, dans lequel elle explore des alternatives à l’ère de l’IA et du big data.
Lisez « The Great Scrape : The Clash Between Scraping and Privacy » pour une analyse plus approfondie expliquant en quoi l’IA utilisée pour le scraping entre en conflit avec la quasi-totalité des principes fondamentaux de la vie privée, et pourquoi le fait que les données soient accessibles au public ne donne pas carte blanche aux scrapers.
Pour en savoir plus sur l’affaire canadienne relative à la vie privée impliquant le rôle de Facebook dans le scandale Cambridge Analytica des années 2010, lisez « La Cour suprême du Canada réserve sa décision dans une affaire historique concernant la collecte de données par Facebook ».
L’ouvrage « Racialized impacts in the age of AI » (Les répercussions racialisées à l’ère de l’IA) explique comment les groupes marginalisés finissent par être touchés de manière disproportionnée par ce type d’outils.
Découvrez l’article « She Didn’t Tell Anyone She Was Pregnant. But Target Knew » (Elle n’a dit à personne qu’elle était enceinte. Mais Target le savait), qui décrit comment les habitudes d’achat peuvent révéler des informations qu’une personne n’a pas partagées.
Les travaux de Safiya Noble dans « Algorithms of Oppression » (Les algorithmes de l’oppression) mettent en évidence la manière dont les moteurs de recherche Google participent à la discrimination par les données, ce qui en fait un véritable problème social.
Contributeurs
Animatrice : Elizabeth Dubois
Responsable de recherche : Julianne Bernier Robert
Transcription : Areej El-Sharif
Montage audio : Sarah Pledge-Dickson
Traduction : Julianne Bernier Robert
Publication et promotion : Aaron Brisson
Productrice : Sarah Pledge-Dickson
Transcription traduite de l’épisode : Saison 8, épisode 7 : Repenser le consentement et l’I.A.
Lisez la transcription traduite ci-dessous ou téléchargez une copie dans la langue de votre choix :
Elizabeth Dubois: [00:00:05] Bienvenue à Wonks and War Rooms, où la théorie de la communication politique rencontre la stratégie sur le terrain. Je suis votre animatrice, Elizabeth Dubois. Je suis professeure agrégée et titulaire d'une chaire de recherche universitaire en politique, communication et technologie à l'Université d'Ottawa. Mes pronoms sont elle/elle. Cette saison, nous aborderons les enjeux sociaux et politiques entourant les utilisations et la gouvernance de l'intelligence artificielle. Et aujourd'hui, nous nous entretenons avec la docteure Jane Bailey au sujet du consentement et de l'IA. Jane, pouvez-vous vous présenter, s'il vous plaît ?
Jane Bailey: [00:00:29] Oui, je suis Jane Bailey, je suis professeure de droit à l'Université d'Ottawa et co dirigeante du projet Repenser le consentement, un projet financé par le CRSH dans le cadre duquel nous examinons le rôle et la validité continue du modèle de consentement éclairé individuel comme justification d'une grande partie de la façon dont nos données sont traitées dans notre environnement numérique et d'IA actuel.
Elizabeth Dubois: [00:00:56] Fantastique. Merci beaucoup d'être ici aujourd'hui. J'ai vraiment hâte d'approfondir ce sujet. De toute évidence, l'utilisation de nos données pour entraîner des modèles d'IA est un sujet d'actualité brûlant. Cela revient très souvent. Nous avons aussi beaucoup entendu dire au fil des ans : s'agit-il vraiment d'un consentement lorsque l'on clique sur ces textes interminables que personne ne lit véritablement ? Je pense donc que notre conversation d'aujourd'hui va être formidable. J'ai pensé que nous pourrions peut-être commencer par poser quelques bases fondamentales. Pouvez-vous m'expliquer à quoi ressemble concrètement le consentement à l'heure actuelle ?
Jane Bailey: [00:01:29] Oui. Donc, dans le contexte actuel, il est bien sûr important de respecter l'autonomie des personnes. Et l'une des façons de le faire, c'est de leur demander ce qu'elles aimeraient qu'on fasse de leurs données. Sont-elles d'accord pour que certaines choses soient faites avec leurs données ? Et il est donc important de respecter cela. Je ne fais donc pas partie de ceux qui préconisent d'abandonner purement et simplement le consentement, mais la réalité, c'est que dans l'environnement numérique en réseau, toutes sortes de choses se produisent. Des personnes et des organisations utilisent nos données sans même nous le demander. Par exemple, extraire des données pour entraîner des modèles d'IA. Euh, nous sommes nombreux à avoir le sentiment de ne pas vraiment avoir d'autre choix que d'accepter lorsqu'on nous demande : « Êtes-vous d'accord ? » Il y a toutes sortes de situations, comme dans l'éducation, par exemple, où nous sommes parfois obligés d'accepter d'utiliser certains logiciels éducatifs si nous voulons pouvoir suivre une formation. La complexité des opérations effectuées avec nos données rend très difficile, voire impossible, le fait d'être réellement et valablement informés de ce qui se passe avec nos données et de ce qui pourrait leur arriver. Et de ce fait, nous sommes confrontés à un autre problème particulièrement épineux auquel nous avons beaucoup réfléchi dans le cadre du projet : lorsque je prends des décisions, ou que certains d'entre nous prennent des décisions individuelles concernant leurs données, cela a des conséquences pour des groupes entiers de personnes et pour des membres de ces groupes qui n'auraient peut-être eux-mêmes jamais accepté cela. C'est donc dans un environnement vraiment complexe que nous travaillons.
Elizabeth Dubois: [00:03:13] Oui. Il y a beaucoup d'éléments à décortiquer ici. Je, j'aimerais qu'on passe en revue les principaux défis ou obstacles au consentement. Nous pourrions peut-être commencer par un point. Vous avez évoqué cette idée selon laquelle beaucoup de choses complexes sont faites avec nos données. À quoi cela ressemble-t-il concrètement ? En quoi est-ce différent avec l'IA par rapport à ce que c'était peut-être auparavant ? En quoi cela change-t-il notre capacité à, comme vous le dites, ne serait-ce que consentir, peu importe que nous cliquons ou non sur le bouton ?
Jane Bailey: [00:03:39] Oui. J'hésite sans cesse à déterminer si l'IA représente un changement de nature ou s'il s'agit plutôt d'une amplification des problèmes persistants liés au consentement. Le consentement individuel et éclairé pose problème depuis très longtemps, car nous savons que nous ne sommes pas tous logés à la même enseigne pour faire des choix. Toutes sortes de contraintes sociales pèsent là-dessus, mais dans l'environnement de l'IA, ou dans l'environnement numérique plus généralement, nous avons identifié plusieurs éléments qui nuisent à la capacité d'une personne à donner un consentement véritablement valable. L'un d'eux est ce que nous avons qualifié de « maintenant pour plus tard ». J'ai ainsi pu consentir il y a des années aux conditions d'utilisation de Facebook, quelles qu'elles soient, concernant ce qu'il pouvait faire d'une photo de moi. Mais à cette époque, il n'existait pas, par exemple, de technologie de reconnaissance faciale. Et je n'aurais certainement pas pu prévoir qu'une telle chose advienne. Et cela a un impact déterminant sur la portée de ma photo, sur ce qu'on peut en faire et sur ses implications pour moi et pour ma vie privée. Face à cela, il est important de se demander : mon consentement donné à une époque où une technologie ayant un tel impact sur ma vie privée n'existait pas, peut-il vraiment justifier l'utilisation de ces données, de mes données, à de telles fins ? Nous pouvons aussi envisager ce que nous appelons le « donnant-donnant », qui s'appuie en quelque sorte sur cet exemple précédent.
Jane Bailey: [00:05:20] Nous savons peut-être désormais que ma photo, combinée à celles de millions d'autres personnes, peut servir à entraîner des systèmes d'IA à déduire des aspects de ma personne que je n'aurais peut-être pas choisi de révéler et dont je ne comprenais pas qu'ils pouvaient être déduits d'une photographie, par exemple. Cela inclut des déductions, vraies ou fausses, qui peuvent être faites au sujet de mes préférences sexuelles. Par exemple, sur la base d'une analyse d'images de mon visage. Ainsi, mon consentement à une utilisation particulière ou aux conditions d'utilisation concernant ma photo a été donné dans un contexte où je n'aurais jamais pu imaginer que ma photo, combinée à d'autres, puisse conduire à des déductions sur des éléments que j'aurais ou non choisi de révéler moi-même. Voilà donc deux exemples.
Elizabeth Dubois: [00:06:15] Ce sont des exemples vraiment utiles et concrets. Et cela me fait penser à l'époque où je découvrais pour la première fois le potentiel de la collecte et de l'analyse des données : l'un des risques mis en avant avec un exemple clair était le suivant : imaginez que vous êtes, vous savez, une future maman, mais que vous ne l'avez encore dit à personne. Pourtant, vos habitudes d'achat en ligne indiquent très clairement à un algorithme que vous êtes enceinte, et l'on commence à vous envoyer des bons de réduction, des échantillons et diverses choses. Cela semble être un excellent service. Mais aussi, si vous vivez avec vos parents à qui vous n'avez pas encore annoncé votre grossesse, cela révèle directement votre état sur le coup, et quand on pense à l'ajout de ce genre de détails dans certains de ces systèmes d'IA où des quantités massives de données sont collectées sur un si grand nombre d'individus différents, puis aux déductions qui peuvent être faites non seulement sur vous, mais aussi à travers des groupes entiers, cela prend des proportions gigantesques et dépasse largement, je pense, ce que la plupart des gens imaginent quant à l'utilisation de leurs données. Et cela nous ramène justement à l'un des points que vous avez mentionnés : la différence entre le consentement individuel et le consentement de groupe. Pourriez-vous nous en dire un peu plus sur la composante individuelle ?
Jane Bailey: [00:07:32] Je suppose que pour décomposer les deux types d'exemples dont nous venons de parler, je pense que beaucoup de personnes peuvent s'identifier parce qu'elles comprennent que c'est le moment où leur décision est liée à une conséquence. Pour elles, il est généralement un peu plus compliqué de concevoir le fait que leur décision individuelle puisse avoir une conséquence sur un groupe de personnes. Et cela peut se manifester de diverses manières, n'est-ce pas ? L'une d'elles est un phénomène que nous appelons « moi pour vous », qui consiste à imaginer, dans ce monde de lunettes à IA, qu'en ce moment même mes lunettes soient en fait des lunettes à IA, que je filme ce qui se passe ici et que je le diffuse directement sur mon fil d'actualité au moment même où nous parlons. La vidéo que je publie ne contient évidemment pas seulement des informations sur moi, ce sont aussi des informations sur vous. Et s'il y avait d'autres personnes ici, ou s'il y avait d'autres personnes que je pouvais entendre ou que l'on pouvait voir, ce sont des informations sur elles. Et bien que mon réseau social puisse considérer que mon consentement ou mon acceptation des conditions d'utilisation pour mettre en ligne ce contenu vaut consentement pour tout le monde, ou qu'il puisse simplement ignorer les répercussions sur tous les autres, ce qui est, je pense, bien plus le cas. Si je ne vous ai pas consulté avant de publier. Vous n'avez pas eu votre mot à dire à ce sujet, alors pourquoi mon consentement justifierait-il la publication et l'utilisation d'images de vous ? C'est un exemple un peu plus, encore une fois, un peu plus concret. Mais en ce qui concerne les groupes, il y a en quelque sorte deux types de situations à envisager. L'une d'elles, c'est lorsque je prends une décision qui a un impact sur un groupe auquel je sais que j'appartient, n'est-ce pas ? Supposons donc que je réalise que ma photo et d'autres informations me concernant publiées sur les réseaux sociaux peuvent être et seront utilisées pour entraîner un système d'IA à faire des prédictions sur des groupes auxquels j'ai plus ou moins conscience d'appartenir, même s'ils sont relativement informés.
Jane Bailey: [00:09:38] Comme, par exemple, de quel genre de produits les femmes blanches nord-américaines d'âge mûr ont envie. Ou mieux encore, qu'est-ce qu'on estime devoir les inciter à acheter, notamment des produits comme les colorations pour cheveux et les soins de beauté anti-âge ? Alors même si l'on part du principe—et je pense que c'est une supposition de taille—que je sois en mesure de comprendre les conséquences de cela pour moi et pour ce groupe démographique. Il faut tout de même poser la question : comment cela peut-il justifier la création de profils de ce collectif d'individus à des fins commerciales ou autres, sans aucune consultation ? Et aussi, non seulement le groupe lui-même, mais d'autres femmes blanches nord-américaines d'âge mûr appartenant à mon groupe démographique calculé qui subissent les conséquences de mon choix. Il s'agit là d'un exemple plutôt anodin, mais nul besoin d'aller chercher bien loin pour mesurer à quel point ce processus peut être lourd de conséquences pour d'autres communautés marginalisées, et les types de décisions qu'on prend quant à leur solvabilité, à leur légitimité à obtenir un emploi, ou à la probabilité qu'on leur attribue d'avoir des penchants criminels. Il existe toutes sortes d'implications bien au-delà de cet exemple anodin que j'ai cité. Et puis la situation passe encore à la vitesse supérieure, n'est-ce pas ? Nous avons déjà évoqué cette idée d'algorithmes et de groupes assemblés de manière algorithmique. Ainsi, lorsque je prends la décision, et que des milliers d'autres personnes prennent la décision similaire de transmettre leurs données et d'accepter certains types de conditions d'utilisation relatives à l'exploitation de leurs données, cet assemblage algorithmique, cette agrégation de données s'opère de façon dynamique.
Jane Bailey: [00:11:31] Cela crée donc des catégories de personnes dont nous ne réalisons même pas que nous faisons partie, n'est-ce pas ? Nous ne nous y identifions pas de la même manière que nous le ferions par rapport à d'autres facteurs identitaires qui nous sont un peu plus familiers, ou à des catégories de discrimination que nous connaissons mieux. C'est dynamique. Il s'agit donc d'un groupe incroyablement éphémère, en ce sens que cela se produit en continu pour prédire combien cette personne pourrait être prête à payer pour ce produit, afin de pouvoir pratiquer une tarification discriminatoire. N'est-ce pas ? Quel genre de publicités allons-nous leur présenter ? Quel genre d'offres d'emploi allons-nous leur permettre de voir ? Ces personnes sont-elles solvable ? Et cela risque d'avoir des répercussions encore plus néfastes sur les communautés marginalisées. Des communautés de personnes, donc, où nous reconnaissons déjà les facteurs utilisés pour discriminer. Mais sur le moment, cela pourrait reposer, vous savez, sur le fait que les gens qui portent des manteaux rouges et promènent leur chien à 6 h du matin... ...représentent les pires risques de crédit, parce que les humains n'ont pas été capables de traiter les données permettant d'identifier ces schémas et ces corrélations. Ce n'est même pas quelque chose auquel nous pensons. Nous ne sommes donc même pas conscients d'être catégorisés de cette manière, ce qui pose un défi véritablement majeur lorsqu'il s'agit de savoir comment réagir face à la discrimination ou porter plainte.
Elizabeth Dubois: [00:13:05] Oui. Si la discrimination nous est totalement dissimulée, nous ne pouvons pas aller nous en plaindre. Nous ne pouvons pas aller dire : « C'est injuste », ou « J'ai été mal catégorisé », ou « Vous avez étiqueté toute cette catégorie de personnes comme n'étant pas solvables, et c'est tout à fait injuste ». Ou bien il y a un problème de données, n'est-ce pas ? Nous savons aussi, par exemple, que les données ne sont pas parfaites. Et lorsque tout cela se trouve dans cette immense boîte noire de compréhensions générées par des algorithmes, nous n'avons même pas vraiment la capacité d'aller faire des vérifications de contrôle de qualité. Et cela peut donc engendrer tellement d'autres problèmes. Je souhaite aussi prendre une petite minute pour mentionner un épisode précédent de notre podcast avec David Coletto, où nous parlions de la notion de publics et d'opinion publique. Et nous abordons en fait un peu cette idée de publics connus et sachants, de publics calculés, de publics algorithmiques, ainsi que les répercussions que cela a sur la participation démocratique. Parce que lorsqu'on utilise ces évaluations de ce qui intéresse ou n'intéresse pas les gens pour décider de qui on va prendre la peine d'essayer d'impliquer dans le processus démocratique, on frôle de très près de potentiels problèmes d'aliénation des gens vis-à-vis du processus démocratique, ou pire, d'éviction délibérée de certains groupes. Et cela sape alors toute l'intégrité d'une démocratie.
Jane Bailey: [00:14:36] Oui, tout à fait. Et il y a donc tout un éventail de conséquences liées au recours à ce modèle. Et celle que vous venez de décrire est tellement importante à considérer, car elle touche en quelque sorte à l'essence même du système démocratique et peut avoir de très graves répercussions. Et je pense que nous l'avons constaté historiquement. Sur l'exclusion des membres de communautés marginalisées de la participation, même, vous savez, aux processus électoraux. De très graves conséquences, donc, dont il est important, je crois, de se rappeler qu'elles ne sont pas nécessairement assumées de manière égale par tout le monde, n'est-ce pas ? Les répercussions négatives ont tendance à peser de façon disproportionnée sur les membres de communautés que nous savons déjà marginalisées en raison du statut socio-économique, de la race, du genre, de l'identité de genre, et de toutes ces sortes de catégories.
Elizabeth Dubois: [00:15:34] Nous savons donc que certains groupes marginalisés finissent par être touchés de manière disproportionnée par ce genre d'outils. Cela me fait penser à un exemple. Vous savez, aux États-Unis, où les forces de police ont commencé à utiliser des outils de reconnaissance faciale et d'autres types d'outils assistés par l'IA dans le cadre du travail policier. Mais le problème, c'est que tout a été entraîné sur des données issues de casiers judiciaires existants et de données déjà recueillies. Et nous savons que dans le système américain, il y a une surreprésentation des personnes noires en prison. Ainsi, les systèmes devenaient extrêmement performants pour identifier les groupes racialisés et bien moins pour d'autres, ce qui a en quelque sorte enclenché une prophétie autoréalisatrice. Y a-t-il d'autres exemples auxquels vous pensez, ou d'autres manières dont les données interviennent et exacerbent cette marginalisation ?
Jane Bailey: [00:16:30] Oui. L'une des préoccupations que j'ai, concerne l'environnement numérique. Et l'IA y compris, c'est qu'elle confère une sorte de vernis mathématique aux choses. Les gens se disent alors : eh bien, si statistiquement ce groupe est plus susceptible d'être criminalisé que cet autre groupe de personnes. Et c'est pourquoi il est vraiment crucial de revenir en arrière et de nous interroger sur ce qui alimente ce système qui prend ce genre de décisions. Je veux dire, si l'on remonte aux travaux de Safiya Noble dans Algorithms of Oppression et que l'on observe la manière dont le moteur de recherche Google, à l'époque, le genre de réponses qu'il renvoyait pour une recherche sur les filles noires, euh, qui étaient extrêmement stéréotypées, outrageusement hypersexualisées et dégradantes. Et puis, on se dit : et alors ? Ce n'est qu'un résultat de moteur de recherche. Mais le fait est que cela reflète à la fois une pensée discriminatoire et stéréotypée persistante dans le type de recherches effectuées par les gens, qui finit par y être intégrée. Mais nous devons aussi penser à l'impact sur le public. Quel en est l'impact, non seulement pour renforcer les stéréotypes au sein des communautés non racialisées envers les communautés racialisées, mais aussi qu'est-ce que cela implique ? Quel est le message que cela envoie dans ce cas aux filles noires elles-mêmes ? Et quel est donc l'impact de ce genre de répétition, une répétition générée mathématiquement de stéréotypes négatifs et néfastes ?
Jane Bailey: [00:18:21] Je pense donc que je vois toujours cela comme un autre exemple particulièrement percutant. Et ce que j'adore dans ce livre, enfin, il existe depuis un certain temps déjà. C'est un livre fascinant. À la fin, Safiya Noble évoque le fait qu'exactement à cette époque-là, les gens commençaient à reconnaître l'impact de ces systèmes sur les processus démocratiques, n'est-ce pas ? Sur le ciblage visant l'exclusion ou l'inclusion de personnes dans la participation électorale et dans les messages démocratiques et ainsi de suite, euh, ou les messages politiques et ainsi de suite. Et elle a simplement souligné : « Eh bien, vous savez, n'est-ce pas intéressant que les gens s'en préoccupent maintenant ? » Mais quand cela concernait les jeunes filles noires, les membres d'autres communautés racisées, ce n'était pas vraiment un enjeu central dont tout le monde entendait parler, ce qui est selon moi un point très important, et sur lequel nous allons revenir concernant l'élaboration des politiques. C'est un élément, un élément vraiment essentiel que les décideurs politiques doivent garder à l'esprit.
Elizabeth Dubois: [00:19:24] Oui, oui, je suis d'accord. Et plongeons dans la discussion sur les politiques publiques. Le Canada s'efforce donc d'avancer assez rapidement sur la gouvernance de l'IA. Il y a une forte pression, j'ai l'impression, d'un point de vue extérieur, qu'il s'agit d'une sorte de course effrénée vers « il nous faut quelque chose », ce qui, on peut l'admettre, est vrai, il nous faut effectivement quelque chose. Et l'élaboration des politiques et des lois peut être très lente, mais on a aussi le sentiment qu'en allant vite, nous risquons de commettre des erreurs, ou nous risquons d'utiliser d'anciens modèles de consentement qui, semble-t-il, ne sont pas nécessairement adaptés au contexte actuel dans lequel nous sommes. Qu'en pensez-vous, sur cette vaste question ouverte ? Je suis sûr que vous avez une réponse super simple à cela.
Jane Bailey: [00:20:07] Oui, non, je n'ai pas de réponse facile à cela. J'aimerais bien, mais il y a quelques éléments...
Jane Bailey: [00:20:11] Il y a des choses que j'aimerais, que j'aimerais décortiquer ici. L'un de ces éléments, c'est que nous évoluons dans un environnement où l'IA est présentée comme inévitable, synonyme de progrès et essentielle pour assurer notre avenir socio-économique. Et que par conséquent, nous devons agir rapidement pour donner la priorité à ce prétendu programme d'innovation. Et généralement, et je respecte le fait qu'en réalité, les décideurs politiques au Canada envisagent désormais d'élaborer des politiques. C'est assez différent des politiques antérieures, qui ont en quelque sorte ouvert la voie à, vous savez, une poignée de technocrates très puissants pour prendre véritablement des décisions qui ont un impact fondamental, le genre d'impacts fondamentaux dont nous avons parlé sur notre société. Il ne s'agit donc pas seulement du fait que nous n'avions pas de politiques de réglementation, mais aussi que nous avions des politiques qui rendaient possible la prise de ce genre de décisions, les encouragent et les incubent. Et encore une fois, non pas par, vous savez, malveillance, mais par l'idée que, d'une certaine façon, vous savez, à l'époque où Internet, l'autoroute de l'information comme on l'appelait, était la poule aux œufs d'or. C'est ça. Que c'est là que réside l'avenir économique. Donc je pense que même lorsque nous parlons de réglementation, il y a une certaine manière dont tout l'enjeu de la réglementation est en réalité de faire en sorte que les Canadiens aient le sentiment de pouvoir faire confiance à ces systèmes, même lorsqu'il y a toutes sortes de raisons pour eux de penser qu'ils ne le devraient pas et de poser des questions. Exactement. Et ce genre d'approche particulière que nous adoptons, vous savez, un sprint de 30 jours en octobre dernier, ce qui est vraiment une insulte par rapport à la capacité des communautés marginalisées, qui doivent composer avec tant d'autres choses dans leur vie, à disposer désormais de 30 jours pour dire ce qu'elles pensent de l'IA.
Jane Bailey: [00:22:18] C'était donc en soi une approche excluante. Et parce que, comme nous l'avons évoqué, les communautés marginalisées ont le plus à perdre. En fait, nos politiques doivent être centrées sur leurs expériences. Ce sont ces aspects auxquels nous devons réfléchir lorsque nous pensons à la gouvernance et à la réglementation. À l'heure actuelle, les voix qui portent le plus ont tendance à être celles des acteurs puissants de l'industrie. Vous savez, encore une fois, ce n'est pas une théorie du complot. Nous savons ce qui les intéresse, et cela consiste à faire du profit. Mais le fait qu'ils dominent le discours et soient capables de participer à des processus rapides et accélérés reflète simplement qu'ils baignent là-dedans depuis le début. Et la seule autre chose que je tiens à ajouter à ce sujet, c'est que je suis très inquiète du fait que nous ayons si longtemps considéré que les citoyens ordinaires, les gens du quotidien, n'avaient rien à apporter parce que nous ne comprenions pas vraiment les aspects techniques. Et je pense que tant que nous ne nous éloignons pas de ce modèle pour reconnaître que le vécu des gens et la manière dont ils sont touchés par cette technologie sont ce qui devrait primer... Quels sont les résultats que nous recherchons ? Quel est l'avenir numérique que nous voulons voir ? Et non pas : vous ne pouvez pas comprendre les rouages techniques du fonctionnement d'un algorithme, par exemple. Cela va prendre du temps. Et nous allons devoir donner aux gens les moyens de comprendre que leurs expériences sont véritablement pertinentes.
Elizabeth Dubois: [00:24:06] Oui, je suis d'accord, et je pense qu'il est vraiment important de pouvoir séparer, vous savez, les normes techniques des objectifs de ces normes techniques. Évidemment, nous ne voulons pas que quelqu'un qui ne maîtrise pas les subtilités de la technologie établisse des normes techniques très précises. Nous ne voulons pas non plus que les politiques générales s'en chargent, car en général, les normes techniques changent et évoluent avec le temps. Ce que nous voulons, lorsqu'on définit, vous savez, le programme du Canada pour le développement et la gouvernance de l'IA, c'est que ce soit véritablement ancré dans les valeurs fondamentales et les objectifs que nous avons quant à l'impact que ces technologies pourraient avoir sur notre société et le bien public canadien. Et donc j'apprécie vraiment ce que vous dites, vous savez, sur la nécessité de placer au centre les expériences vécues réelles des gens, et en particulier le vécu des personnes les plus vulnérables, lorsqu'on réfléchit à l'intégration de ces technologies dans notre quotidien, encore plus qu'elles ne le sont déjà. Cela me ramène donc à la question suivante : comment réussir cela ? À quoi cela ressemble-t-il de faire cela... correctement ?
Jane Bailey: [00:25:14] Oui.
Jane Bailey: [00:25:15] Pour en revenir à l'idée du consentement individuel et y réfléchir en quelque sorte, car c'est principalement ce à quoi j'ai pensé dans ce contexte. Je pense que la première chose à laquelle nous devons réfléchir, c'est vraiment de savoir quelles sont les situations où le consentement individuel peut réellement être légitimement considéré comme une justification pour certains types de résultats. Nous ne devrions pas laisser de côté ce genre de résultats collectifs. Nous ne devrions pas faire reposer leur légitimité sur le fait que, eh bien, des milliers d'individus ont consenti à ces conditions, car nous connaissons déjà tous les problèmes liés au fait de savoir si ce consentement a véritablement un sens au départ, mais aussi parce qu'un individu qui prend cette décision crée un décalage entre ma décision et la conséquence pour le groupe. Comment puis-je m'exprimer au nom d'un groupe ? Ou comment des milliers ou des millions d'entre nous peuvent-ils individuellement s'exprimer au nom d'un groupe alors que, souvent... Je pense que la réalité est que nous ne pensons même pas aux conséquences collectives de ce que nous faisons. C'est l'une des premières choses que nous devons faire : nous demander, non pas d'abandonner le modèle du consentement, mais où ce modèle a-t-il du sens en termes de résultats ? N'est-ce pas ? Dans quels cas avons-nous le sentiment que le fait de savoir que quelqu'un a consenti à cela nous amène à regarder le résultat et à nous dire : eh bien, c'est un résultat légitime. Cet individu a été informé, cet individu a reçu les informations dont il avait besoin. À quel point ses choix étaient-ils restreints ? C'est un autre point vraiment important. Et dans les situations où nous pensons que c'est le cas, nous devons alors réfléchir à la façon de rendre le processus de consentement robuste, n'est-ce pas ? Comment nous assurer que le consentement provient bien de la personne concernée, qu'il est éclairé.
Jane Bailey: [00:27:15] Dans quelle situation devrait-il être révocable ? Dans quelles situations devrait-il y avoir des occasions de réexaminer la situation lorsque les choses changent, par exemple ? Nous pouvons donc envisager de rendre le consentement éclairé individuel plus robuste lorsqu'il est lié de manière appropriée à un résultat. C'est donc en quelque sorte un des aspects de la question. Mais je pense que dans le contexte collectif, pour ce qui est de réfléchir plus largement aux conséquences collectives, il s'agit véritablement d'une question de politique structurelle où nous devons aborder certains types de résultats que nous ne voulons pas ou, à l'inverse, nous pourrions vouloir nous engager dans un processus où nous imaginons l'avenir que nous souhaitons, puis travailler à rebours à partir de là pour déterminer quel genre d'obligations nous devons imposer aux organisations impliquées afin de nous assurer que notre vision collective est atteinte, et qu'elles soient considérées comme des dépositaires agissant dans une relation de confiance, de toute évidence, et clairement supervisées par une autorité de régulation. Et je pense donc que nous allons devoir examiner certains types de résultats. Et je sais qu'il y a toutes sortes de problèmes avec le règlement de l'UE sur l'IA, et j'en reconnais toutes les limites. Mais rien que l'idée fondamentale selon laquelle certains types de systèmes ne pourront tout simplement pas être mis à la disposition du public. Ils sont tout simplement... ils sont exclus. Ils sont totalement hors de question.
Jane Bailey: [00:28:58] Ce sont le genre de décisions que nous allons devoir prendre, je pense. Nous en avons déjà prises par le passé. Indépendamment du consentement individuel dans certaines circonstances, dans certaines provinces, par exemple, je peux accepter de renoncer à mon droit de participer à un recours collectif contre une entreprise avec laquelle j'ai conclu un contrat. Mais en droit, ce choix n'a aucune valeur juridique. C'est exact. C'est ainsi. Et ce n'est donc pas parce que personne ne respecte mon consentement ou mon autonomie. Mais en tant que société, nous affirmons que certains types d'issues ne sont pas dans l'intérêt public. Et nous n'allons donc pas subordonner leur légalité au fait qu'un individu y ait consenti ou non. Et, vous savez, nous avons pris cette décision en matière de clonage humain. Et encore une fois, ce ne sont pas des processus rapides. Ce n'est pas rapide parce qu'il s'agit de la vision de la société que nous voulons avoir. Mais c'est une discussion fructueuse. Et nous devons vraiment réfléchir à la manière de renforcer nos processus d'élaboration des politiques afin de favoriser la participation et la collaboration avec un plus large éventail de personnes. Et comme nous l'avons dit, en particulier les communautés marginalisées qui ont le plus à perdre, il me semble tout simplement contraire à l'éthique et intenable de prendre des décisions qui ont un impact inégal sans même inclure et placer au cœur du processus les personnes qui risquent d'en faire les frais.
Elizabeth Dubois: [00:30:43] Oui, tout à fait. Je veux dire, il y a tellement d'éléments en jeu. Cela donne vraiment l'impression de se demander comment nous allons bien pouvoir aboutir à quelque chose de simplement acceptable. Parce qu'en même temps, les technologies évoluent vite et des décisions doivent bel et bien être prises rapidement. Si nous voulons empêcher la création ou le déploiement de certains types de choses, par exemple. Il y a donc énormément de pièces du puzzle. Je pense que nous pourrions poursuivre cette conversation bien plus longtemps, mais nous arrivons au bout de notre temps. J'aimerais donc conclure avec une dernière question, qui est la question finale que je pose à tout le monde cette saison. Et c'est la suivante : si vous ne deviez retenir qu'une seule chose qui, selon vous, échappe aux décideurs politiques ou qu'il faudrait simplement leur rappeler, quelle serait-elle ?
Jane Bailey: [00:31:31] Oui. Oh, c'est tellement difficile de choisir une seule chose, et je suis sûre que tout le monde fait la même chose que ce que je vais faire, c'est-à-dire faire une seule chose avec des parties, mais des sous-sections. Je veux revenir sur la chose dont vous avez parlé, à propos de la vitesse, de la vitesse du développement technologique. Et l'une des choses auxquelles je pense qu'il est important que nous réfléchissions, et nous avons des exemples qui se produisent tout autour de nous en ce qui concerne les centres de données, par exemple, c'est que parfois, le processus d'élaboration des politiques pourrait avoir besoin de ralentir les choses. Exactement. Même les entreprises technologiques aux États-Unis le demandent. Elles supplient en ce qui concerne l'IA agentique. Donnez-nous un processus pour ralentir les choses afin que des éléments ne soient pas développés et lancés sur le marché pour ensuite entraîner des conséquences catastrophiques. Donc je pense que les décideurs politiques, je sais qu'il y a un sentiment d'urgence dans cet environnement. Et donc une chose qu'ils pourraient envisager de faire, c'est de trouver un moyen de ralentir cela. La raison pour laquelle la loi et les politiques sont, « entre guillemets », plus lentes. Je, et je déteste cette analogie. Je déteste cette idée, tout ce concept, par rapport au développement de la technologie, c'est parce que les politiques menées de la bonne manière relèvent d'un processus démocratique. Et la délibération prend du temps, et cela en vaut la peine en fin de compte. Nous ne pouvons pas. Au lieu de laisser la technologie diriger nos politiques, nous devrions penser à utiliser les politiques pour diriger, non pas pour diriger la technologie au sens d'un expert, mais pour ralentir les choses afin de pouvoir maîtriser la situation et prendre de bonnes décisions.
Elizabeth Dubois: [00:33:30] Oui. Et c'est aussi ainsi que l'on obtient des décisions qui emportent l'adhésion, n'est-ce pas ? Comme si vous preniez simplement des décisions rapidement sans avoir ce genre de délibération ouverte, sans obtenir les points de vue de nombreuses personnes différentes, vous vous retrouvez avec un groupe de personnes qui sont toutes en colère contre la décision qui a été prise. Et ce n'est pas formidable pour la démocratie non plus. Donc je vous entends bien, et cela me semble tout à fait logique. Merci infiniment pour votre temps aujourd'hui. Ce fut une conversation vraiment, vraiment fascinante. Je suis vraiment ravi que vous ayez pu vous rendre disponible.
Jane Bailey: [00:34:01] Merci beaucoup. J'ai vraiment apprécié d'échanger avec vous.
Elizabeth Dubois: [00:34:04] Très bien. C'était notre épisode sur le consentement et l'IA. Merci beaucoup de nous avoir écoutés. Comme toujours, vous trouverez des ressources supplémentaires dans les notes de l'épisode, et vous pouvez vous rendre sur polcommtech.com pour accéder aux transcriptions annotées disponibles en anglais et en français. Si vous souhaitez approfondir le sujet, cette saison de Wonks and War Rooms est soutenue en partie par le Bureau du vice-recteur à la recherche et à l'innovation de l'Université d'Ottawa. Ma Chaire de recherche universitaire en politique, communication et technologie. La Faculté des arts et le Centre de recherche en droit, technologie et société. Je tiens également à souligner que j'enregistre depuis le territoire traditionnel et non cédé de la nation algonquine, et je souhaite lui rendre hommage en reconnaissant sa relation de longue date avec ce territoire non cédé.
Commentaires