Saison 8, épisode 1 : Approches provinciales, nationales et internationales en matière d’IA
Saison 8 Épisode 1 [télécharger cet épisode (MP3, 21.7 MB)]
Dans cet épisode, Elizabeth s'entretient avec Christelle Tessono, candidate au doctorat à la Faculté d'information de l'Université de Toronto et chercheuse au sein de l'organisme The Dais, afin d'analyser ce que signifie réellement la gouvernance au Canada. Christelle explique pourquoi elle considère l'IA comme un système socio-technique, qui ne se résume pas à des algorithmes, mais qui repose également sur la main-d'œuvre, les terres, l'eau et les infrastructures qui la sous-tendent. La conversation retrace l'évolution de la politique canadienne en matière d'IA, depuis la Stratégie pancanadienne sur l'IA jusqu'à l'échec du projet de loi C-27 et aux réponses apportées par les provinces, notamment la loi 25 au Québec et le projet de loi 194 en Ontario. Elle aborde des vérités dérangeantes concernant la surveillance et les pratiques discriminatoires, notamment l'utilisation abusive, de longue date, des données personnelles à l'encontre des populations autochtones. Ils en concluent que les initiatives relatives à la gouvernance de l'IA doivent résulter d'une collaboration entre les acteurs des services de santé, des organismes de réglementation et des agences, ainsi qu'avec l'autorité de la concurrence et le commissaire à la protection de la vie privée.
Ressources supplémentaires :
Le ministère de l’Innovation, des Sciences et du Développement économique (ISED) est à l’origine de l’élaboration des codes de conduite (projet de loi C-27), de l’initiative « AI Literacy » et de la stratégie pancanadienne en matière d’IA.
Consultez le site de l'Institut canadien de la sécurité pour en savoir plus sur cet organisme de formation professionnelle et de conseil spécialisé dans la gestion de la santé, de la sécurité et de l'environnement (HSE).
Le Manitoba a récemment adopté le projet de loi n° 51, qui vise à protéger les données de ses citoyens.
Découvrez comment l'Union européenne dispose de la première législation juridiquement contraignante au monde en la matière, connue sous le nom de « loi européenne sur l'IA ».
Lisez les articles « AI Compagnons et La loi canadienne sur la sécurité numérique » pour comprendre le défi croissant auquel est confronté le gouvernement canadien face aux jeunes qui nouent des relations affectives durables avec des chatbots, dans le sillage de la tragédie survenue à Tumbler Ridge, en Colombie-Britannique.
Pour en savoir plus sur les relations entre le Canada et les Premières Nations, lisez « Reflections on ethical challenges encountered in Indigenous health research using archival records ».
Contributeurs
Animatrice : Elizabeth Dubois
Responsable de recherche : Nathan Kazmir Poklar
Transcription : Areej El-Sharif
Montage audio : Sarah Pledge-Dickson
Traduction : Julianne Bernier Robert
Publication et promotion : Aaron Brisson
Productrice : Sarah Pledge-Dickson
Transcription traduite de l’épisode : Saison 8, épisode 1 : Approches provinciales, nationales et internationales en matière d’IA
Lisez la transcription traduite ci-dessous ou téléchargez une copie dans la langue de votre choix :
Elizabeth Dubois: [00:00:05] Bienvenue à Wonks and War Rooms, où la théorie de la communication politique rencontre la stratégie de terrain. Je suis votre hôte, Elizabeth Dubois. Je suis professeure agrégée et titulaire d'une chaire de recherche universitaire en politique, communication et technologie à l'Université d'Ottawa. Mes pronoms sont elle et la. Cette saison, nous aborderons les enjeux sociaux et politiques entourant les utilisations et la gouvernance de l'intelligence artificielle. Et aujourd'hui, nous donnons le coup d'envoi avec une conversation avec Crystal sur la gouvernance de l'IA, ce qu'elle signifie et ce à quoi elle ressemble au Canada et à l'étranger. Crystal, peux-tu te présenter, s'il te plaît ?
Christelle Tessono: [00:00:33] Je m'appelle Crystal. Je suis étudiante au doctorat à la Faculté d'information de l'Université de Toronto, et j'étudie tout ce qui touche à la gouvernance des technologies. Ces dernières années, je me suis particulièrement intéressée à la gouvernance de l'IA. Euh, je mène également ces travaux au DAIS, qui est un groupe de réflexion basé à l'Université métropolitaine de Toronto. Et c'est un plaisir d'être ici avec toi aujourd'hui, Elizabeth.
Elizabeth Dubois: [00:00:55] Merci beaucoup d'être là. J'ai vraiment hâte d'avoir cette conversation sur la gouvernance de l'IA. Elle lance notre saison sur l'IA au-delà de la tech, et je pense que nous devons commencer par ce que nous entendons réellement par gouvernance de l'IA. Alors oui, qu'est-ce que la gouvernance ? Qu'est-ce que la gouvernance de l'IA ?
Christelle Tessono: [00:01:11] Oui. C'est donc une très bonne question. Et je pense que cela dépend vraiment de la façon dont nous percevons l'IA. Personnellement, je conçois l'IA de manière très large et inclusive, car c'est un terme très controversé, que l'on soit dans l'industrie ou dans le milieu universitaire. Certaines personnes considèrent l'IA comme une chose purement technique, juste comme, vous voyez, un ensemble de modèles, de techniques de calcul, etc. D'autres voient l'IA comme un système sociotechnique, ce qui signifie qu'elle inclut aussi bien les personnes que les machines qui, vous savez, alimentent ces systèmes. Et je pense que je m'inscris plutôt dans cette perspective. Je vois donc l'IA comme un système sociotechnique qui se matérialise à travers les arrangements politiques et sociaux entre les réseaux de travail. Comme les ingénieurs logiciels, les juristes qui veillent à ce que l'entreprise respecte les lois sur la protection de la vie privée, les travailleurs de la donnée qui nettoient les ensembles de données utilisés pour alimenter les modèles, ainsi que les ressources naturelles qui nourrissent ces outils. Je pense à l'eau, aux combustibles fossiles, aux terres, ainsi qu'aux ressources matérielles. C'est-à-dire la fibre optique, les outils informatiques ou même les techniques issues des algorithmes, les données elles-mêmes et les ressources physiques, comme les installations de centres de données ou même les bureaux des modérateurs de contenu, par exemple. Et je peux comprendre à quel point cette définition est très large et déroutante, mais quand on envisage l'IA de cette manière, cela rend la gouvernance plus facile à comprendre parce qu'on ne se concentre pas seulement sur les composants techniques d'un système, mais on examine les ressources, les personnes et l'infrastructure nécessaires pour assurer le fonctionnement d'un modèle. Et donc la gouvernance de l'IA, en bref, la façon dont je la définirais, c'est comme un ensemble de règles, de normes, d'outils, de mécanismes institutionnels et de pratiques conçus pour aligner le développement et le déploiement de l'IA sur les objectifs d'une organisation donnée ou d'un gouvernement.
Elizabeth Dubois: [00:03:13] Oui, c'est vraiment très utile. Merci. Et j'aime vraiment l'ampleur de votre approche, car je pense que cela prend réellement en compte le fait que ces outils et systèmes d'IA s'intègrent dans tant d'aspects de nos vies et ont un impact sur tant d'aspects différents de notre quotidien, bien au-delà du simple moment où nous décidons d'interagir ou non avec ces outils, ou lorsqu'une autre personne ou institution a décidé que nous allions devoir interagir ou non avec eux. Cette vision d'ensemble est donc, je crois, vraiment très utile. Un autre point assez large dans votre définition est l'alignement sur les objectifs d'une institution ou d'un gouvernement. À quoi cela ressemble-t-il concrètement ? Qu'entendons-nous par ces objectifs ? Comment fixons-nous ces objectifs ? Il semble très difficile de concevoir ce que la gouvernance pourrait ou devrait être alors qu'il y a, vraisemblablement, une multitude d'acteurs différents avec des objectifs variés.
Christelle Tessono: [00:04:06] Oui. On voit donc émerger des initiatives de gouvernance venant d'entreprises ou même au sein de secteurs comme l'éducation. Et malheureusement, la tendance que nous observons, c'est que les objectifs sont définis selon une approche descendante, ce qui n'est pas la manière la plus démocratique d'aborder la gouvernance. Mais on voit aussi des organisations communautaires développer leurs propres approches de la gouvernance de l'IA. Elles ne sont peut-être pas aussi formelles que ce qu'un gouvernement ferait, mais c'est tout de même une forme de gouvernance en soi, car on voit une organisation communautaire déclarer, par exemple, que l'IA ne sera pas utilisée pour ce genre de choses. Nous allons plutôt utiliser différents types de technologies afin de répondre aux besoins de notre communauté. C'est une forme de gouvernance de l'IA. Ce n'est pas ce dont on entend parler aux actualités, mais encore une fois, c'en est un exemple.
Elizabeth Dubois: [00:04:54] Oui, c'est vraiment très utile. Et cela commence aussi à rendre tangibles les différents types d'acteurs impliqués dans la gouvernance, n'est-ce pas ? Dans la suite de notre échange, je pense que nous allons plus précisément parler de ce que les gouvernements font et ne font pas. Mais il y a tellement d'acteurs, au-delà des seuls gouvernements, qui participent aux structures et aux systèmes de gouvernance. Y a-t-il un groupe clé qui vous semble le plus important, ou peut-être le plus visible, du moins à ce stade des discussions sur la gouvernance de l'IA ?
Christelle Tessono: [00:05:25] Oui, donc cela dépend des secteurs. Mais disons, commençons par le gouvernement. Les acteurs les plus visibles ont tendance à être les décideurs politiques qui se trouvent plutôt du côté de l'industrie au sein du gouvernement. Ainsi, par exemple, dans le contexte canadien, un acteur très visible de la gouvernance de l'IA est le ministère de l'Innovation, des Sciences et du Développement économique. ISDE, comme je le disais, et ce sont eux qui consacrent beaucoup de temps auprès des organisations et de l'industrie, ainsi que dans d'autres secteurs, pour évaluer la manière dont nous devrions aborder la gouvernance de l'IA. Et ce sont également eux qui ont été à l'origine de la rédaction des codes de conduite, euh, du projet de loi, euh, 27, dont, vous savez, nous pourrons reparler un peu plus tard. Et ce sont aussi eux qui sont à l'origine de l'Initiative nationale de littératie en IA, ainsi que de la Stratégie pancanadienne en matière d'IA. Mais d'autres acteurs très importants dans la gouvernance de l'IA sont aussi les entreprises technologiques, et elles sont également très visibles. Les entreprises technologiques ont tendance à dominer cet espace lorsqu'il s'agit de définir ce qu'est l'IA et ce que leurs outils sont capables de faire. Et parfois, il y a beaucoup de battage médiatique. Il y a beaucoup de marketing dans ces formulations et ces conceptualisations de ce que l'IA peut faire. Euh, les acteurs moins visibles sont, vous savez, les gens ordinaires qui sont confrontés à ces outils. Je pense, par exemple, à quelqu'un qui travaille dans un hôpital, un infirmier, un membre du personnel d'entretien qui, vous savez, doit traiter ses factures ou d'autres types de paiements par le biais d'un système d'IA. Ils ne sont peut-être même pas conscients qu'ils interagissent avec un système d'IA. Je pense aussi aux élèves dans les écoles qui sont désormais évalués à l'aide d'outils d'IA, que ce soit pour la détection du plagiat ou pour, vous savez, la simple notation de leurs devoirs.
Elizabeth Dubois: [00:07:20] Oui, absolument. Et puis, si nous élargissons également notre vision avec cette perspective sociotechnique que vous avez mentionnée, vous savez, vous avez aussi évoqué les impacts sur l'environnement, le territoire et ce genre de choses, n'est-ce pas ? C'est donc comme les agriculteurs qui ne se considèrent peut-être pas la plupart du temps comme véritablement essentiels au débat sur la gouvernance technologique, mais qui deviennent en fait tout à fait essentiels à la conversation sur la gouvernance de l'IA, sans faire nécessairement partie de cette communauté plus large de gouvernance technologique existante en règle générale.
Christelle Tessono: [00:07:51] Mhm. Et, en quelque sorte, il y a d'autres façons d'envisager les acteurs au sein de l'écosystème de l'IA. Il y a donc les personnes qui développent la technologie. C'est-à-dire les entreprises technologiques ou même les chercheurs universitaires ; les utilisateurs de la technologie pourraient être, vous savez, un agriculteur ou encore un ministère. Il y a aussi les personnes qui font de la recherche sur ces outils, qu'elles soient issues du milieu universitaire ou qu'il s'agisse de journalistes ou d'organisations communautaires qui examinent comment l'IA est utilisée dans leurs communautés respectives. Et puis il y a les évaluateurs, les auditeurs de systèmes d'IA, qui, vous savez, effectuent les évaluations d'impact des outils pour, vous savez, déterminer s'ils sont réellement capables de réaliser ce qu'ils prétendent faire ou s'ils le font de manière équitable ou injuste. Quels types de ressources ils utilisent, qu'il s'agisse de ressources environnementales, économiques, de main-d'œuvre, et ainsi de suite. C'est donc, c'est vaste et je comprends que cela puisse être complexe, mais l'envisager sous un angle aussi large nous permet de comprendre qu'il existe différents points d'intervention pour tous les différents acteurs en fonction de votre niveau d'expertise.
Elizabeth Dubois: [00:08:57] Oui, c'est tout à fait logique. Et c'est vraiment utile de faire ce genre de cartographie des différents types d'acteurs et de leurs différents rôles, pour ensuite faire le lien et fonder désormais les choix de gouvernance et les choix réglementaires sur ces différents acteurs et ces différents rôles. Alors, plongeons dans ce que le gouvernement fédéral canadien a concrètement fait jusqu'à présent. Pouvez-vous nous donner un aperçu de ce à quoi cela ressemble actuellement ?
Christelle Tessono: [00:09:20] Mhm. Oui. Donc je dirais que ce qui se passe en ce moment au Canada reflète peut-être une dizaine, 15 ans d'engagement profond envers l'IA et, plus largement, les pratiques de données ouvertes. Et cela commence à la fin des années 2010 avec l'élaboration de la stratégie pancanadienne en matière d'IA, qui alloue des millions et des millions de dollars à trois piliers : d'abord, la commercialisation. Il s'agit donc de veiller à ce que les petites et moyennes entreprises soient en mesure d'adopter des technologies qui vont accroître leur productivité. Et aussi de veiller à ce que les entreprises canadiennes qui développent ces outils soient capables de les concevoir au Canada et n'aient pas à dépendre d'entreprises américaines pour fournir ce type d'outils aux entreprises canadiennes. Il y a aussi l'élaboration de normes. C'était l'un des piliers de la stratégie pancanadienne, et la normalisation impliquait de veiller à ce que les outils développés et déployés respectent les mêmes codes et pratiques dans tous les secteurs, un niveau d'interopérabilité, signifiant que si nous utilisons cet outil dans ce contexte, il devrait pouvoir très bien fonctionner dans un autre contexte, en veillant à ce que les données soient traitées de manière similaire à des fins de cybersécurité, de protection de la vie privée, etc. Et enfin, le dernier volet concerne la recherche. Beaucoup d'argent a été investi dans le cadre de la stratégie pancanadienne pour développer la capacité universitaire dans le pays. Cela consistait à octroyer des fonds spécifiquement aux universités et aux instituts pour soutenir les professeurs, les doctorants, les étudiants des cycles supérieurs et les étudiants de premier cycle dans l'étude de l'IA et le développement, qu'il s'agisse de mécanismes d'audit, de mécanismes d'évaluation ou de leurs propres outils d'IA. Et aussi, l'identification des préjudices liés à l'IA. Tout cela faisait partie intégrante du financement de la recherche. Oui.
Elizabeth Dubois: [00:11:18] D'accord. Voilà donc pour la stratégie pancanadienne en matière d'IA et ce qui a suivi. Je veux dire, récemment, le ministre a parlé du caractère essentiel de l'IA. Et on a l'impression qu'au cours des 12 derniers mois, il y a eu cette explosion d'efforts, du moins d'efforts destinés au grand public de la part du gouvernement fédéral. À quoi cela ressemble-t-il maintenant ?
Christelle Tessono: [00:11:40] Oui. Donc, entre la stratégie pancanadienne et aujourd'hui, nous avons en fait eu une version renouvelée de la stratégie. Je crois qu'elle s'appelle désormais « l'IA pour tous ». Et cette initiative vise véritablement à revitaliser les efforts de développement de l'IA dans le pays. L'un des piliers est lié à la souveraineté, en veillant à ce que les outils développés soient réellement, du point de vue des infrastructures, situés au Canada. L'IA est un outil transnational, ce qui signifie que nous disposons de ressources et d'une expertise qui s'étendent, vous savez, au-delà des frontières du Canada. Nous avons des chercheurs, nous avons des ressources en main-d'œuvre et en eau qui dépassent largement les capacités du pays. La stratégie « l'IA pour tous » vise donc à garantir que le développement se fasse au Canada et profite à l'économie canadienne. Entre cette stratégie renouvelée en matière d'IA et l'ancienne stratégie, il y a également eu le projet de loi C-27, une tentative de créer un cadre réglementaire pour l'IA. Et malheureusement, ce projet de loi n'a pas été adopté. Il n'a pas non plus fait l'objet de l'attention habituelle accordée aux projets de loi. Il n'y a pas eu de consultations publiques avant le dépôt du projet de loi. C'est arrivé par surprise, un été en juin 2022, si je me souviens bien. Et donc, beaucoup de personnes, vous savez, s'y sont opposées. Elles ont dit que nous avions besoin de plus de temps pour déterminer concrètement comment nous voulions procéder au Canada. Et il y a aussi la stratégie souveraine de calcul pour l'IA, bref, il y a beaucoup de petites stratégies, des codes de conduite volontaires ici et là. Et en résumé, la façon dont je définirais la gouvernance de l'IA au Canada au niveau fédéral, c'est véritablement un patchwork de différentes initiatives. Nous avons des mesures dans le secteur privé qui visent à garantir l'injection d'importants financements dans l'industrie, mais nous avons également une stratégie fédérale qui cherche à déterminer comment le gouvernement fédéral devrait utiliser l'IA pour la prestation des services publics.
Elizabeth Dubois: [00:13:45] Tout à fait, tout à fait. C'est intéressant d'entendre que vous voyez cela comme une mosaïque, car une grande partie de la publicité autour de l'IA pour tous et pour tout donne l'impression que, oh, c'est ce qui va régler l'ensemble des problèmes et des dilemmes liés à la gouvernance de l'IA. Vu de l'extérieur, on peut avoir l'impression qu'il s'agit d'un seul grand ensemble de choix globaux. Mais en pratique, ce n'est pas vraiment ainsi que la gouvernance technologique a fonctionné, n'est-ce pas ? Parce qu'il y a tous ces différents acteurs, et on pourrait croire qu'une mosaïque est forcément une mauvaise chose. Mais je vois aussi les avantages potentiels d'avoir, vous savez, une sorte de structure en réseau où de multiples éléments s'articulent ensemble.
Christelle Tessono: [00:14:27] Oui. Je suis d'accord avec vous, car il y a tellement de secteurs différents où l'IA est utilisée. Cela n'aurait aucun sens d'avoir un unique projet de loi d'envergure sur l'IA qui traite à la fois de ce qui se passe dans l'éducation, l'agriculture ou la santé. Ça n'a aucun sens. Mais malheureusement, comme l'ISDE est le seul ministère à gérer une grande partie de la réglementation sur l'IA, cela signifie que d'autres ministères ou d'autres secteurs ne sont peut-être pas suffisamment soutenus pour assurer la cohérence du cadre réglementaire.
Elizabeth Dubois: [00:15:03] En effet. Et, et j'imagine qu'on peut concevoir cela comme des valeurs abstraites de haut niveau, des décisions morales sur la manière dont nous souhaitons utiliser ces outils, sur ce à quoi la gouvernance et particulièrement la réglementation devraient ressembler à une échelle générale, des points qu'il faut trancher mais sur lesquels il est difficile de s'accorder. Et puis il y a les aspects plus précis, à savoir comment nous voulons concrètement mettre cela en application. Et ensuite, dans tous ces différents domaines, il y a énormément de pièces du puzzle. Et ce n'est qu'en observant le gouvernement fédéral. J'aimerais maintenant me tourner vers les homologues provinciaux et territoriaux. À quoi cela ressemble-t-il ? Les provinces et les territoires sont-ils très actifs ? Est-ce que cela vient compléter ce qui est fait au niveau fédéral ? Est-ce en contradiction ? À quoi cela ressemble-t-il ?
Christelle Tessono: [00:15:49] Oui, je dirais que les provinces développent maintenant leurs propres cadres. Mais genre, je dirais qu'à la fin des années 2010, les provinces attendaient un peu que le gouvernement fédéral prenne les devants. Et puis, à mesure que les nouvelles technologies sont devenues plus populaires, comme ChatGPT et tout ça, les provinces se sont dit : d'accord, on ne peut pas attendre. On doit trouver notre propre approche. Et on constate que le Québec a décidé d'aborder la gouvernance de l'IA en modernisant ses lois sur la protection de la vie privée. Et donc, si une décision est prise à l'aide d'un système décisionnel automatisé ou de l'IA, peu importe comment on l'appelle, les gens ont le droit de savoir pourquoi et quel type de renseignements a été utilisé pour prendre cette décision. Et cela fait partie de la Loi 25, si je me souviens bien. Mais il y a aussi la province de l'Ontario, qui a adopté, je crois l'année dernière, le projet de loi 194, qui est un projet de loi visant à réglementer l'utilisation de l'IA par les organismes du secteur public. Et il comporte un volet sur la protection de la vie privée, car il met à jour la façon dont les renseignements des jeunes, particulièrement en éducation et dans les services à l'enfance, sont utilisés par les systèmes d'IA.
Christelle Tessono: [00:17:05] C'est aussi un projet de loi sur la cybersécurité parce qu'il demande aux ministères et organismes de faire des évaluations d'impact sur la façon dont ils utilisent l'IA, et ainsi de suite. Mais bon, ce ne sont toujours pas des ensembles de lois qui interdisent l'utilisation d'un certain type d'IA. Ce sont des projets de loi qui cherchent essentiellement à dire : d'accord, si on utilise l'IA, il nous faut des règles pour s'assurer qu'on réalise bien ces évaluations. Et je pense que le Manitoba a aussi récemment adopté un projet de loi cet été qui, encore une fois, s'intéresse à l'utilisation de l'IA par le secteur public et qui met essentiellement en place un ensemble de cadres pour protéger les données des citoyens du Manitoba, ainsi que des pratiques de base en cybersécurité. On remarque que d'autres provinces ont des codes, mais ils sont volontaires. Ce ne sont pas des projets de loi. Et ils se concentrent également, encore une fois, sur la façon dont les institutions du secteur public utilisent l'IA. Très peu d'entre elles envisagent de réglementer la façon dont l'industrie et d'autres acteurs utilisent l'IA. C'est très difficile de faire ça actuellement.
Elizabeth Dubois: [00:18:10] Oui. Et c'est, c'est tellement intéressant que l'accent soit mis sur : d'accord, comment allons-nous, en tant qu' institutions gouvernementales, utiliser l'IA ? À quoi cela ressemble-t-il alors qu'une grande partie des préoccupations et des risques majeurs dont on parle le plus publiquement à l'heure actuelle ne portent généralement pas sur le fait que le gouvernement utilise ou non ces outils d'IA, n'est-ce pas ? Et nous... je pense aux types de risques pour l'environnement, pour nos propres données personnelles, mais aussi à quoi cela ressemble de soutenir une industrie de l'IA et le développement technologique, ainsi qu'à la force de tous ces travaux de recherche et développement menés au Canada. Comment soutenir ce système économique tout en créant un système qui encourage un développement responsable et des approches qui soient à la fois économiquement viables, mais aussi qui préservent le bien public ? Et il est donc intéressant de constater que ce n'est pas là que la plupart des provinces concentrent leur travail en ce moment.
Christelle Tessono: [00:19:13] Oui. Et je pense que c'est le reflet du système fédéral au Canada. Les provinces ont un pouvoir tellement limité sur les choses qui touchent leurs populations. Et ce qui est également intéressant, c'est que la gouvernance de l'IA consiste désormais à croire que si nous maîtrisons la façon dont nous développons les outils, nous allons alors nous assurer qu'ils sont sûrs. Mais investir dans le développement de l'IA ne signifie pas que les outils sont sûrs, car nous ne définissons toujours pas quelles sont nos limites... allons-nous développer, vous savez, des initiatives où des financements sont disponibles pour développer des outils de surveillance basés sur l'IA ? Ce genre de conversations n'a pas lieu, et elles sont pourtant très importantes pour la gouvernance de l'IA, je pense.
Elizabeth Dubois: [00:19:55] Oui, oui, absolument. Parce que c'est une chose de dire : d'accord, nous devons avoir le contrôle et l'accès. Et si nous voulons être en mesure de développer des outils qui serviront notre population, nous devons mettre en place l'infrastructure nécessaire. Tout cela est tout à fait logique. Mais oui, l'étape suivante consiste à se demander : comment s'assurer que ce développement ressemble réellement au type de développement que nous souhaiterions ? Comment s'assurer que les outils créés sont véritablement bénéfiques pour les gens, ou au minimum, ne sapent pas des systèmes démocratiques entiers, la santé publique ou la sécurité, ce genre de choses. Et nous avons une multitude d'épisodes cette saison qui commencent à explorer certains de ces différents problèmes. Et à quoi pourraient ressembler de meilleures politiques et réglementations. Pour l'instant, cependant, pouvez-vous me parler un peu de ce qui se passe à l'échelle internationale ? D'autres s'en sortent-ils déjà mieux ? D'autres juridictions ont-elles une longueur d'avance sur nous pour définir ce que représente un développement de l'IA bon, responsable, éthique, quel que soit le qualificatif que vous souhaitez employer ?
Christelle Tessono: [00:21:02] Oui. Donc, dans le domaine de la gouvernance de l'IA, nous nous sommes souvent tournés vers l'Europe comme exemple d'une juridiction qui fait les choses un peu mieux qu'ici en Amérique du Nord. Mais j'apporterai une réserve importante que j'aborderai plus tard. Mais pour l'essentiel, il y a deux ans, l'UE a adopté le règlement sur l'IA “EU AI Act”, qui définit des responsabilités ainsi que des limites pour les systèmes d'IA en fonction de leur niveau de risque. Il s'agit d'une approche fondée sur le risque qui interdit, vous savez, les systèmes d'IA qui iraient à l'encontre des droits de la personne, si je me souviens bien. Et elle établit des responsabilités pour les acteurs qui adoptent ces outils ainsi que pour ceux qui les développent. C'est un ensemble législatif assez imposant, et l'UE est une juridiction vraiment immense avec des acteurs qui, vous savez, font aussi leurs propres démarches. Et il est donc encore trop tôt pour dire s'ils réussissent leur approche de l'IA, car de nombreux organismes sont en cours de mise en place actuellement pour la surveillance et l'application. Et le volet de l'application de la loi est vraiment crucial, car comment allez-vous faire appliquer ce vaste ensemble législatif pour surveiller, par exemple, une entreprise qui fait des affaires dans l'UE... Mais qui n'est pas basée dans l'UE. Une amende sera-t-elle suffisante ? Les législateurs, les décideurs politiques et les régulateurs sont-ils en mesure, avec les outils actuels à leur disposition, de mener des enquêtes pour déterminer si, vous savez, une entreprise donnée a enfreint le règlement sur l'IA ? Ce sont là des questions qui demeurent vraiment importantes. Et dans les années à venir, nous serons en mesure de voir si cela a été efficace ou non. Oui.
Elizabeth Dubois: [00:22:43] C'est vrai. Il y a donc cette question de l'application. Une autre qui me vient immédiatement à l'esprit est : à quel point sommes-nous réellement capables de prédire les risques ? N'est-ce pas ? À quel point sommes-nous réellement capables d'établir ces seuils ? Y a-t-il une certaine flexibilité intégrée à l'approche de l'UE ? Comment gérons-nous le fait que la technologie continuera d'évoluer, et que notre façon d'évaluer le risque devra peut-être elle aussi continuer d'évoluer ?
Christelle Tessono: [00:23:09] Oui. Et encore une fois, cela dépend de l'indépendance des régulateurs. Euh, à l'heure actuelle, l'UE a mis en place des comités qui sont relativement indépendants et, oui, plutôt bien dotés en financements et en personnes possédant une expertise dans les technologies d'intérêt public. Mais il est encore trop tôt pour déterminer si cela suffit. Et une autre série d'initiatives que nous observons dans le contexte international est l'émergence d'instituts de sécurité de l'IA. Le Canada fait partie d'un réseau international d'instituts de sécurité de l'IA qui cherchent à étudier et à analyser les outils d'IA. Mais ces instituts sont plutôt axés sur la recherche. Donc, même s'ils sont affiliés à des institutions décisionnaires, leur mission consiste toujours à mener des recherches et à avoir accès aux outils. Mais que se passe-t-il si, en tant qu'institut, vous découvrez qu'un outil est incroyablement dangereux ? Quelle est alors la prochaine étape à votre disposition pour vous assurer que cet outil ne soit plus disponible ? Ce sont des questions avec lesquelles nous sommes aux prises en ce moment. L'exemple canadien est la tragédie malheureuse qui s'est produite en Colombie-Britannique. Tumbler Ridge, une communauté touchée par la façon dont quelqu'un a pu utiliser ChatGPT pour adopter un comportement très néfaste. Je sais qu'OpenAI fait actuellement l'objet d'une enquête et que l'Institut canadien de la sécurité a également été mis à contribution pour examiner les symptômes et la manière dont ils ont en quelque sorte laissé des conversations très toxiques se poursuivre avec l'adolescent. Mais la prochaine étape qui s'offre à nous au Canada demeure floue. Et en Europe. Ce sont les mêmes types de discussions qu'ils ont et auxquelles ils sont confrontés.
Elizabeth Dubois: [00:24:59] Tout à fait. Et quelles sont les prochaines étapes une fois que l'on s'en aperçoit ? Mais aussi, existe-t-il des approches de détection précoce pour prévenir les préjudices avant que des tragédies ne se produisent ? Ce genre de choses est vraiment très difficile à appréhender. Et certains disent, vous savez, qu'un écosystème d'IA sain favoriserait le développement d'outils intégrant l'IA qui contribuent eux-mêmes à résoudre ce type de problèmes. Mais ce que je comprends de vos propos, c'est qu'il y a toute une série d'inconnues pour lesquelles, dans un monde idéal, nous disposons de beaucoup de temps pour mener des recherches et mener une réflexion approfondie. Mais en pratique, il existe toute une diversité d'outils d'IA déployés dans le monde qui ont un impact sur la vie quotidienne, et leur nombre ne fera qu'augmenter à mesure que la technologie évoluera. Comment la gouvernance parvient-elle à suivre le rythme de la technologie ?
Christelle Tessono: [00:25:47] Mhm. Oui. Je pense que c'est une très bonne série de questions. Et d'un côté, les gens diront qu'il nous suffit d'évaluer davantage les outils. Et c'est une vision technique de la gouvernance, ce qui n'est pas fondamentalement mauvais, mais ce n'est qu'une pièce d'un puzzle plus vaste. Je ne pense pas qu'il faille savoir coder pour comprendre qu'un certain outil pourrait ne pas être bon pour vous. J'aime penser à la technologie de reconnaissance faciale, qui est, vous savez, la façon dont beaucoup de personnes ont, vous savez, commencé leur parcours dans la gouvernance de l'IA. Vous n'avez pas besoin de savoir si l'outil fonctionne avec précision pour comprendre que, concrètement, il s'agit de surveillance, car pour fonctionner, il a besoin d'un grand nombre d'images pour élaborer le modèle. Il a besoin de beaucoup d'images dans sa base de données pour s'assurer qu'il identifie les bonnes personnes. Donc cela n'a aucun sens. Et je ne pense pas qu'il soit nécessaire de mener des enquêtes approfondies pour le comprendre. Un outil de surveillance n'est pas utile dans beaucoup de contextes. Et je pense que nous devons élargir les discussions sur la gouvernance de l'IA au-delà des caractéristiques techniques. Nous pouvons améliorer marginalement les outils de jour en jour si nous continuons à y injecter de l'argent. Mais est-ce une bonne utilisation de l'argent et des ressources ? Je ne le pense pas. Je serais plus intéressée par des initiatives de gouvernance de l'IA qui dépassent ce qui se passe dans l'industrie, et qui se concentrent davantage sur l'apport de ressources aux décideurs politiques pour coordonner les actions entre les secteurs et favoriser un développement technologique d'intérêt public, ce qui signifie avoir des personnes capables de comprendre la technologie sur le plan technique, des personnes qui comprennent comment mettre en œuvre ou prendre en compte les risques pour les droits de la personne, les obligations de durabilité auxquelles nous avons souscrit au Canada, ou encore les engagements envers la réconciliation avec les Autochtones, pour lesquels nous avons encore un long chemin à parcourir afin de garantir qu'ils soient respectés. Réunir toutes ces personnes autour d'une même table permettrait, selon moi, de créer une gouvernance extraordinaire qui aborde les risques actuels ainsi que les problèmes qui touchent la société canadienne au-delà de la simple technologie.
Elizabeth Dubois: [00:27:59] Oui, oui. Et une façon d'essayer de se prémunir contre la simple ré-institutionnalisation et la réinstauration de certaines des pratiques discriminatoires qui, nous le savons, sont très courantes. C'est vrai. Et nous savons qu'une grande partie du développement technologique s'est faite sur des ensembles de données très spécifiques, et dessert donc très bien certaines populations tout en en servant mal d'autres. Nous savons également que la collecte de données personnelles sur les personnes présentes sur le territoire que nous appelons le Canada a historiquement été utilisée et instrumentalisée contre les populations autochtones. Nous savons que ces problèmes existent. Et donc, si nous faisons participer ces différents acteurs à l'élaboration des approches de gouvernance, nous pourrons peut-être faire mieux que ce que nous avons fait par le passé.
Christelle Tessono: [00:28:46] Oui. Et ce qui est vraiment important, c'est que la technologie est souvent envisagée isolément des autres enjeux. Et un argument marketing majeur consiste à dire : « Oh, nous allons intégrer l'IA là-dedans parce que cela va augmenter la productivité ». « Cela va améliorer l'accès aux services publics ». Mais l'IA n'est pas un pansement. Si l'infrastructure est fragilisée, le pansement ne la protégera pas. Elle continue quand même de s'effondrer. Adopter une approche inclusive de la gouvernance de l'IA est donc le meilleur moyen d'y remédier.
Elizabeth Dubois: [00:29:16] C'est une analogie très utile. Nous arrivons à la fin du temps imparti, mais je voulais vous poser la question. Ce sera notre question de fin pour chaque épisode de cette saison. De votre point de vue, qu'est-ce qui, selon vous, pourrait échapper aux décideurs politiques en ce moment dans les discussions sur la gouvernance de l'IA ?
Christelle Tessono: [00:29:34] Hmm. Je pense que les décideurs politiques sous-estiment le pouvoir de la collaboration interministérielle. Je serais très intéressée par des initiatives de gouvernance de l'IA issues d'une collaboration entre les personnes des ministères de la Santé, des organismes de réglementation, des agences, etc., avec un bureau de la concurrence ou un commissaire à la protection de la vie privée. Je souhaite voir davantage de collaboration en ce sens, car les personnes au sein de ces différents ministères et agences mènent déjà des réflexions sur l'IA. Elles n'ont simplement pas la possibilité ni le mandat nécessaire pour engager ces conversations. C'est formidable. La gouvernance et la collaboration interministérielle sont, selon moi, des éléments qui méritent vraiment d'être davantage développés au Canada, mais aussi à l'international. Dans tellement d'autres juridictions.
Elizabeth Dubois: [00:30:25] Fantastique. Merci. C'est un éclairage vraiment, vraiment précieux. Je pense que nous pourrions en parler pendant des heures, mais nous arrivons au bout du temps imparti. Merci infiniment de vous être jointe à nous aujourd'hui.
Christelle Tessono: [00:30:33] Merci infiniment de m'avoir reçue, Elizabeth. C'était un plaisir.
Elizabeth Dubois: [00:30:37] Merci pour votre écoute. C'était notre épisode sur la gouvernance de l'IA. J'espère qu'il vous a fourni un cadre conceptuel et une vue d'ensemble utiles pour le reste de la saison. Comme toujours, nous avons rassemblé plusieurs liens vers diverses ressources dans les notes de l'épisode, et vous pouvez vous rendre sur polcommtech.com pour consulter les transcriptions annotées en français et en anglais, qui renvoient vers une multitude d'autres ressources et de lectures complémentaires. Cette saison de Wonks and War Rooms est soutenue par le Cabinet du vice-recteur à la recherche et à l'innovation de l'Université d'Ottawa, la Faculté des arts, le Centre de recherche en droit, technologie et société, ainsi que ma Chaire de recherche universitaire en politique, communication et technologie à l'Université d'Ottawa. Je tiens à souligner que j'enregistre cette émission sur le territoire traditionnel et non cédé de la nation algonquine, et je souhaite rendre hommage au peuple algonquin en reconnaissant sa relation ancestrale avec ce territoire non cédé.
Commentaires