Saison 8, épisode 6 : Gouvernance autochtone, souveraineté numérique et politique en matière d'IA
Saison 8 épisode 6 [télécharger cet épisode (MP3, 48.0 MB)]
Dans cet épisode, Elizabeth s'entretient avec Jonathan Dewar, directeur général du Centre de gouvernance de l'information des Premières Nations et membre du premier conseil d'administration du Conseil national pour la réconciliation, afin d'explorer les principes de gouvernance autochtone dans le domaine de l'IA. Ils examinent comment les principes des Premières Nations, connus sous l'acronyme OCAP (propriété, contrôle, accès et possession), élaborés il y a près de 30 ans, constituent un cadre de réflexion sur la souveraineté des données, les initiatives collectives et la responsabilité, à l'heure où l'intelligence artificielle commence à estomper la frontière entre l'outil et le décideur. Jonathan explique comment les Premières Nations passent de la théorie à la pratique en mettant en place les institutions, les capacités et les réseaux dont elles ont besoin pour assurer la gouvernance de leurs données, notamment en comblant les lacunes du programme canadien Programme d’infrastructure de calcul souveraine pour l’intelligence artificielle
Ressources complémentaires :
Consultez le site du Centre de gouvernance de l'information des Premières Nations pour découvrir comment les données et les informations des Premières Nations seront collectées, protégées, utilisées ou partagées.
Consultez le rapport des Nations Unies intitulé « Déclaration des Nations Unies sur les droits des peuples autochtones » pour en savoir plus sur la souveraineté des données.
Lisez « Pathways to First Nations’ Data and Information Sovereignty » pour en savoir plus sur les droits collectifs et les intérêts liés aux données et à l’information.
Pour en savoir plus sur la crise d’Oka, lisez « Remembering the Siege on Kanehsata:ke — 11 juillet 1990 ».
Retrouvez Jonathon sur LinkedIn !
Équipe de production :
Animatrice : Elizabeth Dubois
Responsable de recherche : Julianne Bernier Robert
Transcription : Areej El-Sharif
Montage audio : Sarah Pledge-Dickson
Traduction : Julianne Bernier Robert
Publication et promotion : Aaron Brisson
Productrice : Sarah Pledge-Dickson
Transcription traduite de l’épisode : Saison 8, épisode 6 : Gouvernance autochtone, souveraineté numérique et politique en matière d'IA
Lisez la transcription traduite ci-dessous ou téléchargez une copie dans la langue de votre choix :
Elizabeth Dubois: [00:00:05] Bienvenue à Wonks and War Rooms, où la théorie de la communication politique rencontre la stratégie de terrain. Je suis votre animatrice, Elizabeth Dubois. Je suis professeure agrégée et titulaire d'une chaire de recherche universitaire en politique, communication et technologie à l'Université d'Ottawa. Mes pronoms sont elle/la. Cette saison, nous aborderons les enjeux sociaux et politiques entourant les utilisations et la gouvernance de l'intelligence artificielle. Aujourd'hui, nous nous entretenons avec Jonathan Dower au sujet des principes de gouvernance autochtone dans l'IA. Jonathan, pouvez-vous vous présenter, s'il vous plaît ?
Jonathan Dewar: [00:00:31] Certainement. Je suis donc Jonathan Dewar. Dans mon emploi principale, je suis le directeur général du Centre de gouvernance de l'information des Premières Nations (CGIPN). Je fais également plusieurs autres choses, notamment en tant que membre du premier conseil d'administration du Conseil national pour la réconciliation. Il s'agit donc d'une autre initiative liée aux données, mais également rattachée à mon travail, vous savez, de plus longue date dans le domaine de la vérité et de la réconciliation. Et sur le plan personnel, je suis membre de la nation wendate par ma mère et ma grand-mère, mais j'ai en fait grandi ici, dans la région de la capitale nationale, à Ottawa, sur le territoire non cédé et non rétrocédé de la nation algonquine anishinabeg.
Elizabeth Dubois: [00:01:05] Formidable. Merci beaucoup d'être là. J'ai vraiment hâte d'avoir notre échange aujourd'hui. Nous parlons des principes de gouvernance autochtone et de ce que cela pourrait signifier dans le contexte du façonnement de l'IA, un domaine sur lequel vous avez manifestement une grande expérience de réflexion et de travail. Je me disais donc que nous pourrions commencer de manière assez large. Lorsque je mentionne les principes de gouvernance autochtone dans ce contexte, qu'est-ce que cela signifie pour vous ? À quoi cela vous fait-il penser ?
Jonathan Dewar: [00:01:29] Eh bien, étant donné que c'est mon travail au quotidien, je pense immédiatement à des milliers de choses. Et en réalité, notre travail consiste justement à parler de ces questions à la FNIGC. Cela ne veut pas dire que c'est facile. Ne serait-ce que trouver le point de départ pour engager la conversation, car la terminologie compte vraiment. Ainsi, vous savez, si vous commencez la discussion par les principes de gouvernance autochtone, j'ai tendance à orienter cela vers la souveraineté des données autochtones, n'est-ce pas ? Et donc, vous savez, si vous ou l'un de vos auditeurs m'avez déjà entendu parler de cela auparavant, ou si vous avez entendu d'autres personnes travaillant dans le domaine de la souveraineté des données des Premières Nations, vous savez que, même si nous sommes très heureux de l'évolution du discours autour de ces enjeux au cours des 10 à 15 dernières années, comme la prévalence d'une terminologie telle que la souveraineté des données autochtones dans le contexte canadien, nous devons toujours très rapidement rappeler aux gens qu'« autochtone », ce mot important, existe dans les contextes internationaux et s'applique tout à fait aussi dans le contexte canadien. Si nous amorçons la conversation avec les principes de gouvernance des données ou de gouvernance de l'information, replaçons cela dans ce contexte plus large de souveraineté, puis de souveraineté de l'information au sein des droits souverains d'une nation. Et à partir de là, on en arrive à se dire : « D'accord, mais qu'est-ce que cela signifie ? » Vous savez, il y a la théorie, il y a le concept, mais qu'est-ce que cela signifie en pratique, en termes réellement concrets ? Et c'est là qu'on en arrive à l'établissement de valeurs et de principes, et à partir de ces principes, on peut aboutir à des... ... cadres et des outils, et peut-être même aller encore plus loin vers des démarches véritablement formelles, comme des systèmes codifiés. Et je pense que beaucoup de personnes qui écoutent cette émission connaissent les principes PCAP des Premières Nations : propriété, contrôle, accès et possession. Parce qu'ils existent depuis 28 ans. C'est une force incroyable de leadership intellectuel, non seulement au Canada, mais aussi à l'échelle internationale. Les Premières Nations du Canada ont donc dû élaborer des cadres éthiques et des cadres de principes de gouvernance pour des raisons bien précises. Et ce travail a maintenant près de 30 ans, 30 ans depuis le début de sa mise en œuvre.
Elizabeth Dubois: [00:03:33] C'est vraiment très utile. Merci d'avoir en quelque sorte expliqué cet entonnoir jusqu'aux détails les plus précis et d'avoir également préparé le terrain pour cette discussion sur la souveraineté des données et la souveraineté de l'information. Vous avez déjà mentionné l'OCAP. Vous êtes allé très vite. Je pense que beaucoup de nos auditeurs en ont déjà entendu parler, mais ce balado est également utilisé dans des salles de classe où certains n'en ont peut-être jamais entendu parler auparavant. Pourrions-nous donc prendre une minute ou deux pour expliquer en quoi consistent ces quatre composantes ?
Jonathan Dewar: [00:04:00] Alors d'abord, un petit rappel historique, parce que je pense que tout doit être remis dans son contexte, n'est-ce pas ? Le contexte historique est donc important. Si l'on remonte au milieu des années 1990, lorsque les Premières Nations… cela faisait suite à la résistance mohawk, que les Canadiens connaissent peut-être sous le nom de crise d'Oka. En 1996, le rapport de la Commission royale sur les peuples autochtones a été publié. Des travaux majeurs porteurs de changements de paradigme étaient donc en cours depuis longtemps, mais il y a incontestablement eu un travail incroyable, absolument incroyable, en l'espace de 5 ou 6 ans. Et il se trouve que, tandis que les Premières Nations affirmaient leur souveraineté sur de nombreux fronts, et pas uniquement sur le plan de la résistance territoriale, les Premières Nations ont été exclues de trois enquêtes clés sur la population menées par le gouvernement du Canada. N'est-ce pas ? Parce que les Premières Nations avaient affirmé leur souveraineté, avaient exigé d'avoir le contrôle sur ces… Ces types d'initiatives de collecte d'informations. Et le Canada a donc choisi d'exclure les Premières Nations. Eh bien, vous savez, pour des communautés, pour des nations qui sont déjà confrontées, vous savez, à de réels défis quant à l'accès et à la disponibilité d'informations de qualité. Ce fut un coup très dur. Non seulement le Canada ne pouvait pas prendre de décisions de politique nationale ou fédérale, mais pour les Premières Nations, personne n'y trouvait son compte avec cette décision. C'était donc un grand défi pour les Premières Nations et, à leur honneur, les dirigeants de l'époque, mais surtout les professionnels de la santé de première ligne de l'époque, ces leaders d'opinion, ont su transformer ce défi en une opportunité : celle de plaider en faveur d'une enquête nationale sur la santé véritablement conçue par et pour les Premières Nations.
Jonathan Dewar: [00:05:35] Toutes ces années plus tard, vous savez, nous continuons de mener ce que l'on appelle l'Enquête régionale sur la santé des Premières Nations. Il s'agit d'une enquête nationale, mais nous la qualifions de régionale parce que ce sont les dix régions qui choisissent de se rassembler à l'échelle régionale. Mais dans ce cas particulier, il s'agissait d'une. approche par les Premières Nations, pour les Premières Nations, visant à recueillir des renseignements sur la santé auprès des communautés des Premières Nations. Ils ont donc très rapidement constaté la nécessité d'établir un ensemble de principes : si vous travaillez avec les Premières Nations pour recueillir des informations auprès des Premières Nations et sur les Premières Nations, des principes fondamentaux devaient alors être établis. Et c'est à ce moment-là que la propriété, le contrôle, l'accès, puis plus tard la possession, ont été établis. C'est ainsi que les principes de PCAP ont été finalisés. En 1998, les dirigeants nationaux et régionaux de tout le pays ont approuvé ces principes. Et idéalement, les nations ont la capacité de mener ce travail technique et juridique véritablement nécessaire, guidé par les dirigeants, pour définir ce que la propriété signifie pour nous, ce que le contrôle signifie pour nous. Et ainsi, passer du principe à la pratique est, vous savez, quelque chose que nous nous efforçons de faire progresser depuis près de trois décennies : les principes sont une excellente chose, mais ils ne suffisent pas.
Jonathan Dewar: [00:06:49] C'est une force incroyable que ce genre de travail ait été développé en marge de la capacité mise à disposition pour élaborer une enquête nationale sur la santé. Mais cela a souligné la nécessité pour les Premières Nations de disposer d'une plus grande capacité systémique et institutionnelle, parce qu'on ne devrait pas faire ce genre de choses sur un coin de table. C'est vraiment fondamental. Le Canada ne bâtit pas ses systèmes et ses institutions de cette façon, n'est-ce pas ? Il les positionne pour réussir. Et toutes ces années plus tard, alors que les Premières Nations mettent désormais en œuvre une stratégie nationale de gouvernance des données des Premières Nations, c'est une priorité essentielle. Oui, nous avons connu toutes ces avancées incroyables au fil des ans, vous savez, où des gens dormaient littéralement par terre en parcourant le pays pour se réunir avec un minimum de ressources afin de réussir à mettre sur pied cette initiative sans précédent de collecte d'informations par les Premières Nations, pour les Premières Nations. Nous avons traversé ces années, et nous en sommes maintenant au point où nous menons à bien une stratégie. Un succès raisonnable quant au début de l'obtention de ressources pour mettre en œuvre cette stratégie. Et cette stratégie vise avant tout à veiller à ce que nous bâtissions des systèmes et des institutions au sein de ces systèmes, par les Premières Nations et pour les Premières Nations, qui permettent à la théorie et aux concepts de passer à la pratique.
Elizabeth Dubois: [00:08:07] Oui, tout à fait, et c'est assez incroyable de penser à la façon dont ces principes, qui semblent de toute évidence vraiment essentiels dans le contexte de l'IA, sont élaborés depuis pas mal de temps déjà. N'est-ce pas ? Cette histoire remonte à loin, et cela montre à quel point les données étaient indispensables bien avant. L'IA est devenue en quelque sorte la toute dernière technologie qui exploite l'ensemble de nos données en permanence. Cela me fait beaucoup penser aux arguments des spécialistes du machine learning et des autres personnes du côté technique, du genre : « Eh bien, nous avons simplement besoin de plus de données. » « Plus nous aurons de données, mieux tout se passera. » Et dès lors, des questions se posent : les données sont-elles toujours organisées de la même manière ? Ou à quel moment choisit-on d'inclure ou non ses données ? En pensant à des aspects comme le droit à l'oubli européen ? Il y a tellement d'éléments en jeu sur la façon dont les données peuvent être collectées, organisées et utilisées, ce qui a ensuite des répercussions sur leur interaction avec toutes sortes d'autres données. Donc, pour résumer ce que je disais, l'un des enjeux soulevés par toutes ces données concerne les questions d'interopérabilité, n'est-ce pas ? C'est-à-dire : peut-on réellement utiliser ces données de manière pertinente en association avec d'autres types de données et différents types d'outils ? Lorsqu'on passe des principes aux aspects pratiques concrets, et pour d'excellentes raisons, une multitude de choix différents sont opérés dans divers contextes par différentes nations. Y a-t-il des démarches, dans le cadre d'OCAP ou au-delà dans vos travaux, qui tentent d'y voir plus clair ?
Jonathan Dewar: [00:09:49] Oui. Il y a donc beaucoup de travail en cours. Ne faisons pas comme si l'IA avait fait irruption sur la scène il y a 6 ou 12 mois, vous savez. Vous savez, quand le Canada a annoncé qu'il allait élaborer une stratégie nationale. N'est-ce pas ? Tout cela se prépare depuis longtemps. Et maintenant, c'est vrai que nous avons tous été propulsés dans une sorte de catapulte, vous voyez, avançant à une vitesse folle. Une partie de cela est liée à la technologie elle-même et peut-être aux personnes derrière la technologie, aux personnes qui la font progresser. Mais la technologie en elle-même évolue rapidement. Et puis, vous savez, vous replacez cela dans notre contexte, comme le contexte national ou fédéral. Et oui, il y a cette immense impulsion pour que les Premières Nations prennent les devants sur ces enjeux d'IA, de gouvernance de l'information ou de souveraineté des données, parce que c'est encore une chose qui pourrait causer de grands torts, et pas seulement pour les Premières Nations, mais je veux dire, pour les Canadiens, pour les êtres humains en général. Euh, mais là où les Premières Nations ont, vous savez, une longue expérience avec un lourd héritage d'informations mal utilisées, d'informations utilisées contre les intérêts des Premières Nations, hors du contrôle des Premières Nations. Je veux dire, vous savez, c'est l'héritage que nous portons. Je pense que l'IA représente une nouvelle frontière à propos de laquelle nous devons faire très, très attention. Mais bon, il n'y a pas de réponses simples à aucune de ces questions. Et nous ne pourrons pas tout aborder. Mais bon, même dans la question que vous avez posée, j'ai l'impression de devoir revenir à un travail de définition, n'est-ce pas ? Parce que nous avons besoin d'une définition opérationnelle de ce que sont les informations des Premières Nations, n'est-ce pas ? Prenons donc une façon de penser qui est certes simplifiée à l'extrême, du moins comme point de départ, d'accord ? Alors, que sont les informations des Premières Nations ? Eh bien, vous ne trouverez pas une seule et unique définition.
Jonathan Dewar: [00:11:23] Mais de manière générale, dans le travail que nous accomplissons, les Premières Nations de tout le pays ont défini l'information des Premières Nations comme tout ce qui émane des Premières Nations, tout ce qui concerne les Premières Nations, mais aussi l'information issue et relative aux terres, aux eaux et aux entités non humaines parentes des Premières Nations. En effet. Il s'agit donc d'un domaine immense. La portée est colossale. L'une des choses que nous devons donc faire, c'est de poser ce travail de définition, puis de commencer à déterminer comment nous problématisons cela dans les différents écosystèmes ou domaines sectoriels où nous aurions besoin d'intervenir. Et l'IA ainsi que la technologie en font partie. Mais nous parlons de l'IA, vous savez, appliquée par exemple aux données de santé. Toutes ces sphères se chevauchent donc manifestement. C'est donc une façon d'aborder les définitions. L'autre façon, vous savez, un peu trop simplifiée d'en parler, toujours dans le but d'amorcer la discussion, c'est que si un ensemble de données identifie ou a le potentiel d'identifier un collectif titulaire de droits, une nation, il revient alors à cette nation ou à ce collectif titulaire de droits d'exercer son droit collectif à faire valoir ses droits collectifs sur cette information. Alors, que sont les droits collectifs ? Les gens ont généralement une certaine idée de ce que sont les droits collectifs, mais si vous vous tournez vers le droit canadien pour en trouver une définition, vous constaterez rapidement qu'elle est soit inexistante, soit cruellement inadéquate, en particulier pour les Premières Nations. Alors que les Premières Nations possèdent, depuis des temps immémoriaux, une compréhension extrêmement profonde des droits individuels, mais aussi des droits collectifs.
Jonathan Dewar: [00:12:49] Il y a une incroyable, euh, base solide sur laquelle s'appuyer. Mais lorsqu'on situe les Premières Nations dans le contexte canadien, même le contexte canadien très contemporain, avec tous ces progrès et tous ces gains que nous avons réalisés, le droit canadien fait toujours défaut sur cette question pour les Premières Nations. Comment une Première Nation fait-elle valoir ses droits collectifs sur l'information ? Genre, qu'utilisait-elle ? Exact. C'est donc une simplification très grossière. Et pour aller plus loin, nous devons réfléchir à des approches concrètes de type cas d'usage. Ainsi, en tant qu'individu, j'ai parfaitement le droit de prendre une décision éclairée de partager mes renseignements, y compris mes identifiants de Première Nation. Il s'agit de moi en tant qu'individu. Ma nation ne surveille pas l'utilisation de l'identifiant de Première Nation qui m'est rattaché. Et donc, vous savez, si je prends la décision éclairée de le partager, ou si je prends une décision éclairée implicite en participant à un système où cela, vous savez, m'est administrativement rattaché, la nation ne fait pas la police là-dessus. Mais lorsque mes renseignements individuels sont regroupés dans un ensemble de données avec d'autres, euh, vous savez, s'il y a un ensemble d'informations auquel est rattaché l'identifiant de cette nation, alors, vous savez, en théorie, sur le plan conceptuel, il appartient à cette nation de faire valoir ses droits collectifs sur ces renseignements. Alors, que faisons-nous dans ce genre de situations ? Eh bien, si vous recueillez des informations auprès d'une Première Nation, comme dans le cadre de l'Enquête régionale sur la santé des Premières Nations, ce genre de questions et leurs solutions sont intégrées dès le départ. Mais là où ce n'est pas intégré, c'est lorsque les membres des Premières Nations transitent par d'autres systèmes.
Jonathan Dewar: [00:14:25] Et. Exactement. Les Premières Nations sont donc des Canadiens, et ce sont aussi des citoyens ou des membres de leurs nations respectives. C'est exact. Et donc, vous savez, ils vivent en quelque sorte avec ces deux réalités. Et nous naviguons à travers les systèmes canadiens et nos renseignements en tant qu'individus. Mais aussi, ces identifiants des Premières Nations nous sont rattachés, parfois de manière délibérée et significative, et parfois d'une façon qui, vous le savez, est problématique ou inutile. Cela ne fait que perpétuer cette question de ce que sont les données des Premières Nations. Comment gérons-nous les droits individuels ? Comment gérons-nous les droits collectifs dans ces contextes institutionnels et éco systémiques plus larges ? Eh bien, écoutez, vous savez, nous travaillons régulièrement avec les acteurs nationaux, de Statistique Canada à l'ICIS, en passant par, vous savez, Génome Canada. Ce sont les questions que ces institutions canadiennes se posent également. Et heureusement, les Premières Nations, les Inuits et les Métis, à différentes étapes, font progresser les solutions aux problèmes que nous devons résoudre. Mais ce sont aussi les solutions aux défis que le Canada rencontre face à ces questions. Donc, si le Canada continue d'appuyer sur l'accélérateur en investissant durablement dans ces solutions, dans la capacité systémique et institutionnelle, nous commencerons à éliminer ces obstacles et ces disparités. Mais sinon, nous reviendrons simplement à notre point de départ habituel. L'IA, nous ne sommes qu'à la pointe de l'iceberg pour comprendre l'IA. Je veux dire, vous savez, si l'on prend les Canadiens de manière générale, s'ils connaissent quelque chose au-delà de, euh, ChatGPT, je pense que seul un très faible pourcentage de personnes en a une compréhension réellement poussée. Euh, sans vouloir, vous savez, dénigrer qui que ce soit. C'est incroyablement complexe et.
Elizabeth Dubois: [00:16:03] Et cela englobe tellement de choses.
Jonathan Dewar: [00:16:04] L'IA représente tellement de choses. Oui. Et donc, quoi qu'il en soit, avec l'IA, une autre façon dont nous abordons le sujet, c'est que les Premières Nations ont déjà un problème avec les humains dans les systèmes analogiques ou numériques. Nous avons appris à comprendre l'utilisation des informations des Premières Nations. Qu'est-ce que cela implique si, tout à coup, l'IA est utilisée comme un outil ou si l'IA dépasse le simple statut d'outil ? Alors, dans ces systèmes au sein desquels nous avons historiquement fonctionné, ou dans les systèmes que nous concevons ou améliorons en ce moment même. Si nous n'avons pas expressément conçu des systèmes véritablement respectueux, à travers la manière dont nous les perfectionnons actuellement, ce que nous affirmons, c'est que les gens doivent rendre des comptes. La responsabilité est donc absolument centrale. Ainsi, si nous prenons une décision éclairée, si nous nous engageons dans une relation fondée sur la confiance, il est question de transparence, de responsabilité, de réciprocité, de toutes ces valeurs ou principes fondamentaux. Mais la responsabilité est vraiment, vraiment primordiale. Les gens peuvent donc être tenus responsables, et concernant les outils qu'ils manient, en fin de compte, c'est l'individu qui est tenu pour responsable. Mais l'IA commence à brouiller cette frontière parce qu'il est possible, en tout cas selon la manière dont les gens parlent de l'IA du futur, et il s'agit peut-être d'un avenir proche, ou peut-être encore lointain, je ne sais pas. Mais l'IA du futur, prenant des décisions comme le ferait un humain, ou au-delà de ce qu'un humain ferait. Comment pouvons-nous résoudre ces questions de respect et de responsabilité ? C'est absolument, absolument au cœur de ces conversations.
Elizabeth Dubois: [00:17:27] Oui. Et nous ne pouvons pas le déterminer sans nous accorder sur ce dont nous parlons précisément, ce qui s'est historiquement révélé très difficile. Et il y a, comme nous l'avons dit, tellement d'éléments qui constituent l'IA que cela rend la tâche particulièrement complexe, car il faut aussi imaginer ce qu'elle pourrait devenir par la suite. Mais j'aimerais revenir en arrière un instant. Vous parliez de cette notion de droits collectifs. Et juste pour apporter une nuance supplémentaire et faire un clin d'œil à un autre épisode de cette saison, dans un volet avec Jane Bailey, nous parlons de repenser ce à quoi ressemble le consentement. Et là aussi, nous avons abordé ce genre de débat entre droits individuels et collectifs. Et l'un des sujets que nous avons évoqués avec Jane était cette notion de publics algorithmiques ou calculés. Ainsi, plus nous disposons de ces gigantesques machines à traiter les données qui prennent leurs décisions en se basant sur toutes ces données qui sont en quelque sorte aspirées. Il existe des groupes d'individus qui sont imaginés ou calculés par ces machines d'IA, et parfois ceux-ci peuvent commencer à ressembler de près à une nation particulière, ou correspondre à une autre vision de celle-ci qui constitue en fin de compte des données des Premières Nations. Quand on y réfléchit dans, vous savez, une acception plus large de ce qui compte, mais qui nous reste ensuite totalement opaque, n'est-ce pas ? C'est-à-dire que nous ignorons ce que la machine a fait, à moins que des règles de transparence radicale ne soient mises en place. Et cela, j'imagine, complique aussi considérablement notre compréhension de ce que signifie réellement le fait de détenir la propriété, le contrôle et l'accès à ses propres données.
Jonathan Dewar: [00:19:11] Oui. Je veux dire, la façon dont nous parlons de l'IA actuellement et la manière dont l'IA nous est promise, vous savez, dans un avenir proche ou peut-être encore lointain, pourrait rendre le consentement obsolète, sans pertinence, ou tout simplement, vous savez, incroyablement, incroyablement problématique. Je veux dire, on voit déjà le genre d'hallucinations qui se produisent, n'est-ce pas ? Et puis ces hallucinations sont propagées et, et au bout du compte, vous savez, cela pourrait submerger la vérité, non ? Et donc cela, c'est absolument très problématique. Et donc si nous, si nous nous penchons sur les solutions pratiques à ces questions que nous avons soulevées, vous savez, est-ce que cela signifie que chaque Première Nation doit avoir. Exactement. Son système entièrement fermé où elle possède ses terres, sa technologie, son propre cloud, bien sûr, nous pourrions tout à fait modéliser ce genre de choses. Je pense qu'il doit s'agir de solutions pratiques. Il se peut donc qu'au niveau des valeurs et des principes, nous disions que les Premières Nations doivent réfléchir à ces questions, comme : qu'est-ce que cela signifie de posséder ? Eh bien, si vous possédez vos terres et que vous avez les ressources nécessaires pour concrétiser ces choses sur vos terres où vous disposez, vous savez, de l'autorité juridique et juridictionnelle requise pour votre définition de la souveraineté ? Absolument. Nous dirions : établissez les valeurs et les principes, et avancez à partir de là.
Jonathan Dewar: [00:20:27] Mais nous sommes immédiatement confrontés à des contraintes pratiques, n'est-ce pas ? Toutes les Premières Nations ne sont pas dans la même situation. Toutes les Premières Nations n'ont pas accès, que ce soit à des fonds gouvernementaux ou à des capitaux. N'est-ce pas ? Et il est donc très peu probable que ces populations plus restreintes soient en mesure de faire cavalier seul sur tout. On en vient donc à se demander : quand avons-nous intérêt à nous rassembler ? Et que devons-nous faire pour veiller à nous regrouper au sein de collectifs plus larges, en maintenant la souveraineté à l'échelle de chaque nation, tout en s'assurant que collectivement, vous voyez, nous nous accordions sur nos principes et sur la manière de faire avancer les choses. Il y a aussi l'argument des économies d'échelle, n'est-ce pas ? Vous savez, nous ne sommes pas 40 millions d'habitants. Nous sommes quelques millions. Tout comme le Canada a des enjeux d'échelle, les Premières Nations, les Inuits et les Métis ont aussi, ont, ont ces mêmes enjeux d'échelle ou des enjeux similaires. Je pense donc que ce que les Premières Nations doivent faire... c'est un exemple de la capacité dont nous avons besoin, et donc des ressources nécessaires pour que nous ayons réellement la capacité de mettre sur la table tous ces types de questions. Ce n'est pas comme si le CGIPN s'approprient cet espace et, vous savez, attribuait des ressources au CGIPN.
Jonathan Dewar: [00:21:34] Et nous ferons tout le travail. Non, non, non, nous devons créer des réseaux pour veiller à ce que ce travail progresse. Ainsi, les Premières Nations, avec leurs organisations et leurs institutions, ce qui inclut le CGIPN, travaillant avec des universitaires, travaillant avec ceux qui, vous savez, gèrent les infrastructures canadiennes. Nous devons bâtir ces relations et ces réseaux sur mesure à cette fin. Au bout du compte, l'interconnectivité, l'interopérabilité auxquelles je crois que vous faisiez référence. Exactement. Et, euh, vous savez, ce travail est assurément en cours, mais là où le Canada accuse peut-être un retard par rapport à d'autres pays plus grands, barre oblique économies, les Premières Nations et les peuples autochtones en général, euh, vous savez, à travers le monde, sont, vous savez, désavantagés de manière exponentiellement plus forte. C'est donc un problème que nous aimerions voir résolu. Et je vais en quelque sorte continuer à revenir sur le message selon lequel le Canada ne peut pas régler les problèmes liés à ses engagements et obligations envers la souveraineté des données autochtones. Rappelez-vous, la DNUDPA est force de loi, et la souveraineté des données est mentionnée dans la DNUDPA. Le Canada ne peut pas respecter ses engagements et ses obligations si nous ne réglons pas ces problèmes, et le Canada ne peut pas faire cavalier seul pour trouver des solutions ; il doit s'agir d'une véritable relation de nation à nation, où le Canada et les Premières Nations déterminent ensemble les solutions aux problèmes à résoudre.
Elizabeth Dubois: [00:22:51] Et donc, concrètement, à quoi cela ressemble-t-il ? Certains éléments sont déjà en cours, comme vous l'avez mentionné. Quels en sont les prémices ? Dans notre scénario idéal, où cela fonctionnerait aussi parfaitement que possible, où cela se situe-t-il ? À quoi cela ressemble-t-il ?
Jonathan Dewar: [00:23:05] Oui, c'est... je veux dire, c'est une excellente, excellente question. Je veux dire, pour être tout à fait honnête. Je... vous savez, notre capacité à travailler au-delà de notre mandat est limitée. Et pourtant, vous savez, on nous fait confiance pour aborder ces questions nouvelles et émergentes. Il y a donc un véritable travail de groupe de réflexion et de laboratoire à mener autour de ces questions pour dépasser la simplification excessive de ce cas d'usage et parvenir à une réelle compréhension pratique de ce que cela implique. C'est donc indéniablement la voie dans laquelle nous nous sommes engagés. Et ce que je constate auprès de nos partenaires dans les dix régions avec lesquelles nous travaillons pour appuyer l'Assemblée des Premières Nations et d'autres entités des Premières Nations, c'est que nous avons besoin que toutes les stratégies entourant ces questions s'alignent, particulièrement pour les Premières Nations, car nous représentons une population beaucoup plus restreinte. L'alignement des priorités est donc un élément indispensable. Je pense que nous progressons sur ce plan. Nous pourrions faire plus, c'est certain, mais nous commençons ainsi à repousser les limites sur ces questions. Un exemple très concret serait, dans sa course effrénée vers quelque chose. L'IA au Canada a bénéficié d'une opportunité de près d'un milliard de dollars, le programme d'infrastructure de calcul souverain, n'est-ce pas. Il n'y avait aucune passerelle permettant à une entité des Premières Nations ou, disons plus largement, à une entité autochtone, vous savez, de franchir cette porte. Donc ce dont nous parlions vraiment, c'est que cela concerne les infrastructures canadiennes ; dans nos échanges avec des partenaires à travers le pays, vous savez, nous savons que ces grands consortiums d'établissements postsecondaires et d'institutions canadiennes, et dans certains cas des partenaires privés et sans but lucratif, non gouvernementaux, se tournaient vers des partenaires autochtones. Et c'est donc une bonne chose. Mais je pense que le Canada doit être clair sur le fait que, eh bien, c'était la seule voie possible.
Jonathan Dewar: [00:24:45] C'était la voie à suivre pour l'infrastructure canadienne. Cela signifie donc, je pense, que tout bon chercheur se poserait la question suivante : d'accord, si nous ne parlons que de cela, cette opportunité concerne l'infrastructure canadienne. Comment pouvons-nous assurer la souveraineté des données des Premières Nations au sein de l'infrastructure canadienne ? C'est donc une question que nous avons posée, et que nous chercherons à faire avancer. Je ne dis pas que la souveraineté des données des Premières Nations au sein de l'infrastructure canadienne est la manière dont les choses devraient être faites. Je dis simplement que pour l'instant, c'est tout ce qui nous a été accordé. C'est donc une question clé à l'heure actuelle. Alors où, et j'ignore quand seront annoncés les promoteurs retenus pour cet important financement, mais cette infrastructure de calcul informatique sera construite quelque part. Un accès sera offert aux chercheurs pour faire progresser les intérêts canadiens. Et nous avons posé cette question : peut-il y avoir une souveraineté des données des Premières Nations au sein de cette infrastructure canadienne ? Et puis, bien sûr, il y a une autre pièce dans laquelle nous devons être présents, à savoir le. Mais il doit également y avoir un écosystème, une institution et une infrastructure propres aux Premières Nations. Idéalement, tout serait conçu sur mesure et nous construirons expressément cette matrice incroyablement complexe, cette toile d'araignée ou quelle que soit l'analogie, la façon dont les choses s'articulent, s'entrecroisent ou doivent diverger là où elles doivent diverger. Et, vous savez, encore une fois, cela semble un peu intéressé de dire cela, compte tenu, vous savez, du nom de notre organisation, mais la gouvernance est la solution à ces questions : qu'est-ce qui doit être réuni et comment gérerions-nous cela, qu'est-ce qui doit diverger et comment gérerions-nous cela ? C'est la gouvernance.
Elizabeth Dubois: [00:26:14] Oui, tout à fait. Et c'est un thème qui revient dans chacun des épisodes de cette saison, à savoir, vous savez, que nous ne trouverons pas de solutions aux problèmes potentiels ni ne maximisons les opportunités potentielles de l'IA sous ses diverses formes. Si nous ne disposons pas d'une bonne gouvernance parce que nous n'avons pas les systèmes en place pour garantir que toutes les personnes qui doivent participer à la conversation y participent, et que tout ce que nous voulons assurer en matière de sécurité et d'équité y soit intégré. Et donc la gouvernance, oui, elle devient tout simplement essentielle sur ce plan. Je voulais poser une petite question sur la gouvernance au niveau des outils, pour ainsi dire, ou sur la façon dont la gouvernance façonne les incitations à la conception, je suppose, autour de la manière dont ce genre d'outils est créé. Donc peut-être un niveau en retrait par rapport aux données. L'une des choses dont certains chercheurs de l'Université Macquarie en Australie ont parlé, en adoptant une perspective critique issue des études autochtones. Le titre de leur article, celui que j'ai lu le plus récemment, est quelque chose comme « Robots Behaving Badly ». Et tout leur argument, c'est du genre, aucun d'entre eux ne se comporte mal. Ils se comportent exactement comme ils ont été conçus pour le faire dans un système où, vous savez, les valeurs de la Silicon Valley ont privilégié la rapidité et le profit, et l'idée de sécurité, d'équité ou de communauté n'est tout simplement pas la priorité des actionnaires à moins qu'un système de gouvernance ne soit modifié. Dans leur article, ils parlent de, vous savez, imaginez que nous puissions simplement utiliser certains des principes de gouvernance autochtone très anciens que l'on retrouve à travers le monde, comme le sens des responsabilités envers la communauté ou les générations futures, pour ne citer que deux exemples rapides. Imaginez que nous développions la gouvernance de l'IA de cette manière. Que pourrions-nous faire avec cela ? Quels préjudices pourraient être atténués ? Quelles opportunités pourraient émerger ? Et cela me semble, vous savez, vraiment convaincant et attrayant. Que pensez-vous de la manière dont cela pourrait s'intégrer à l'approche actuelle du Canada au niveau fédéral ? Est-ce quelque chose que nous pourrions imaginer fonctionner ? Y a-t-il des problèmes ou des risques à cet égard ?
Jonathan Dewar: [00:28:21] Oui. Je veux dire, nous sommes clairement dans une situation où le génie est sorti de sa bouteille, n'est-ce pas ? Je pense qu'il faut encore que beaucoup de personnes soulignent ce qui ne va pas. Et je pense que beaucoup de ces personnes ne sont pas des détracteurs. Elles rappellent simplement à quel point il est problématique de, vous savez, « aller vite et tout casser ». Il n'est donc pas déraisonnable qu'il y ait de très, très nombreuses voix affirmant que cela doit être durable. Résolvez donc le problème du refroidissement et de l'impact sur l'environnement, en particulier la demande exercée sur les réseaux de distribution d'eau, n'est-ce pas ? Vous savez, les déchets qui sont produits. Absolument. Cela doit faire partie de la conversation. Ce contexte de génie sorti de la bouteille signifie que personne ne va s'arrêter. Personne ne va ralentir et dire : « Nous ne ferons pas d'IA tant que nous n'aurons pas fait ce choix davantage fondé sur des principes », ce qui, franchement, est bien dommage. Vous savez, ce serait probablement la meilleure chose au monde. Mais cela signifie donc que tous les acteurs doivent investir massivement dans ces aspects tout en continuant d'aller de l'avant. Et, vous savez, j'aimerais être idéaliste et dire que nous ne faisons jamais que le bon choix, plutôt que, vous savez, dans notre travail, nous disons souvent qu'il ne s'agit pas de meilleures pratiques, mais de pratiques avisées. Et parfois, il s'agit de se demander, vous savez, quelle est la pratique la plus judicieuse qui s'offre à nous ? C'est, vous savez, c'est la sagesse de comprendre de manière holistique tous les aspects de la question à chaque étape.
Jonathan Dewar: [00:29:44] Eh bien, je ne pense pas que le secteur technologique fasse cela. Je ne pense pas que les systèmes capitalistes soient conçus pour faire cela. C'est pourtant la réalité dans laquelle nous vivons. Je pense donc que nous devons trouver un équilibre entre l'idéalisme et le sens de ce qui est pratique et finalement réalisable. Ce que nous pouvons réellement faire. Je ne pense donc pas qu'il soit déraisonnable d'affirmer qu'il faut corriger la manière dont les investissements sont réalisés, qu'il faut investir beaucoup plus dans tous ces éléments de durabilité et de protection de l'environnement. Absolument. Et puis, nous venons tout juste d'aborder, vous savez, la manière dont l'IA pourrait entrer en jeu, vous savez, d'une façon plus durable. Et ensuite, nous en arrivons à votre question sur la gouvernance. Oui, tout à fait. J'ai lu cet article récemment. Des collègues du monde entier discutent de ces questions. C'est tout l'enjeu : concevoir l'IA au sein de systèmes de responsabilisation, comme les systèmes de gouvernance autochtones les ont historiquement, traditionnellement et très largement de nos jours encadrés. Il n'est donc pas déraisonnable de dire que si nous pouvons bâtir des systèmes où, vous savez, la confiance fait partie de la relation, ou du moins la certitude que la responsabilisation garantira qu'il y ait davantage de bons acteurs que de mauvais. Il n'y a aucune raison pour que cela ne puisse pas être un élément central d'un système d'IA. Absolument aucune raison. À moins que ce que les gens veulent vraiment, ce soit Skynet et la prise de pouvoir par les robots. Dans ce cas, je pense simplement que c'est tout à fait faisable.
Elizabeth Dubois: [00:31:14] Oui, tout à fait. Espérons que nous sommes encore loin de Skynet. Mais on ne sait jamais. Et les choses évoluent très vite. Nous arrivons au terme de notre temps. J'ai vraiment apprécié notre échange, mais j'aimerais conclure, au lieu d'un petit quiz comme d'habitude cette saison, par une question pour tout le monde. Et c'est la suivante : quelle est la chose, ou l'un des aspects, qui selon vous échappe aux décideurs politiques ou qu'il faudrait peut-être leur rappeler en ce moment ?
Jonathan Dewar: [00:31:42] Oui. Donc tout ce que j'ai dit jusqu'à présent s'inscrit dans le contexte où, vous savez, je ne parle pas au nom des Premières Nations, n'est-ce pas ? Même dans mon rôle imaginaire, nous ne parlons pas au nom des Premières Nations. Alors, vous savez, beaucoup de ces choses sont, vous savez, mon opinion, des opinions profondément ancrées. Euh, donc les décideurs politiques en ce moment, je veux dire, le monde fait face à toute une série de crises différentes. Le changement climatique en fait incontestablement partie. Je pense que de nombreux progressistes au Canada sont consternés par, vous savez, le recul des engagements pris pour lutter contre le changement climatique. C'est donc un enjeu majeur, un très grand enjeu. C'est politique. C'est aussi géopolitique. Mais c'est absolument quelque chose qui préoccupe beaucoup de gens. Euh, vous savez, nous sommes dans une guerre commerciale avec les États-Unis, qu'elle dure un peu ou longtemps, nous ne le savons pas. Et donc le gouvernement, puis les fonctionnaires, vous savez, qui travaillent pour appuyer le gouvernement, ils sont en mode gestion de crise. La vision à long terme sur le droit et les politiques publiques par opposition à la vision à court terme. Exactement. Comme pour moi, le glissement d'un discours significatif sur la réconciliation vers une priorité davantage axée sur la réconciliation économique, c'est quelque chose qui compte. Cette terminologie, ce changement de terminologie compte vraiment. Et cela se passe de gouvernement à gouvernement. Euh, mais c'est une chose à laquelle, selon moi, les Canadiens devraient prêter attention. Alors, si nous parlons de ce genre d'enjeux liés à la souveraineté des données autochtones, aux principes de gouvernance autochtone, euh, je dirais que le Canada doit garder l'œil ouvert — enfin, tous les acteurs, pas seulement le Canada en tant que gouvernement fédéral, mais nous tous qui avons des responsabilités ici sur ces terres aujourd'hui connues sous le nom de Canada. Nous devons garder notre attention sur le long terme et pas seulement sur le, euh, cycle politique dans lequel nous nous trouvons. Oui. Euh, il y a des enjeux géopolitiques. Oui, il y a une guerre commerciale, mais d'autres choses comptent. Euh, et donc, du point de vue des politiques publiques, l'idéal serait de ne prendre aucun raccourci. Engageons-nous envers les décisions les plus sages qui s'offrent à nous, euh, qui, progressivement peut-être, nous mèneront vers ces avenirs plus idéalisés que nous envisageons.
Elizabeth Dubois: [00:33:51] C'est fantastique. Merci. Et merci pour cette conversation. C'était vraiment intéressant et je pense que les auditeurs vont apprécier.
Jonathan Dewar: [00:33:56] Je vous en prie.
Elizabeth Dubois: [00:33:58] Très bien. Merci de nous avoir écoutés. C'était notre épisode sur les principes de gouvernance autochtone et la façon dont ils façonnent ou pourraient façonner l'IA. Comme toujours, nous avons plusieurs liens vers des ressources dans les notes de l'épisode, et vous pouvez vous rendre sur polcommtech.com pour consulter les transcriptions annotées disponibles en anglais et en français. Elles renvoient à de nombreuses autres ressources et lectures complémentaires. Cette saison de Wonks and War Rooms est soutenue en partie par le Cabinet du vice-recteur à la recherche et à l'innovation de l'Université d'Ottawa, ma Chaire de recherche universitaire en politique, communication et technologie, la Faculté des arts et le Centre de recherche en droit, technologie et société. Je tiens également à souligner que j'enregistre depuis le territoire traditionnel et non cédé du peuple algonquin, et je souhaite rendre hommage au peuple algonquin en reconnaissant ses liens de longue date avec ce territoire non cédé.
Commentaires