L’environnement et l’IA avec Kelly Bronson
Saison 8 épisode 8 [télécharger cet épisode (MP3, 24.0 MB)]
Dans cet épisode, Elizabeth s’entretient avec Kelly Bronson, titulaire de la Chaire de recherche du Canada en science et société à l’Université d’Ottawa, afin d’explorer les impacts environnementaux de l’IA et d’expliquer pourquoi ceux-ci doivent être considérés comme des enjeux sociaux et de justice, et non pas uniquement comme des questions techniques. Elles abordent les besoins en énergie et en eau des centres de données hyperscale, et expliquent pourquoi se limiter à mesurer la consommation électrique ou les émissions de carbone réduit à la fois l’ampleur du problème et l’éventail des solutions. Kelly explique que les centres de données sont souvent implantés sur des terres autochtones et au sein de communautés déjà marginalisées par l’exploitation des ressources naturelles et le colonialisme. Elle examine également comment le battage médiatique – qu’il s’agisse de l’IA comme solution à la faim dans le monde ou de la « probabilité d’une fin du monde » – maintient le pouvoir de décision entre les mains de l’industrie et des ingénieurs, en prenant pour exemple la serre entièrement autonome. Kelly plaide en faveur d’une approche de l’IA tenant compte de l’ensemble de son cycle de vie, de l’extraction minière à la fabrication, en passant par la main-d’œuvre et les données. Elle soutient que la stratégie canadienne en matière d’IA traite cette technologie comme un bien public non remis en question, et que l’élément clé qui fait défaut est un processus de gouvernance impliquant les communautés et les travailleurs dans la définition de ce qui constitue une valeur stratégique.
Ressources supplémentaires :
Inscrivez-vous à l'événement du 3 décembre pour assister à l'enregistrement en direct de Wonks and War Rooms ! De 18 h à 19 h 30, salle FTX 147.
Lisez l’article « Le gouvernement du Canada lance les Principes canadiens pour un développement responsable des centres de données » si vous souhaitez en savoir plus sur le nouveau document publié par le gouvernement le 3 septembre.
Pour en savoir plus sur le rôle des ingénieurs dans la conception de systèmes, alors que certains estiment qu’il leur incombe de développer une IA éthique, écoutez l’épisode consacré à Jason Millar.
Pour en savoir plus sur le terme P(doom), consultez l’article « Quel est votre P(doom) ? ».
Consultez le site de l’Institut canadien pour la sécurité de l’IA pour plus d’informations sur la stratégie du gouvernement en matière de développement de l’IA.
Découvrez l’article « La laitue cultivée par des machines peut-elle aider le Canada à réduire sa dépendance vis-à-vis des légumes verts américains ? Cet agriculteur mise là-dessus », qui explique comment Jay Willmot a mis au point une production de « laitue cultivée par des machines ».
Pour en savoir plus sur l’impact des environnements d’IA sur les terres autochtones, écoutez l’épisode précédent avec Jonathan Dewar, PDG de la FNIGC.
Écoutez l’épisode consacré à Kumanan Wilson, qui explique en quoi la souveraineté des données s’apparente à une politique de santé et pourquoi elle est essentielle lors de la conception et de l’entraînement des outils d’IA.
Lisez le récent article de Jane Bronson intitulé « Reviewing the evidence on precision agriculture and environmental sustainability » (Examen des données sur l’agriculture de précision et la durabilité environnementale), qui démontre que le recours à l’agriculture de précision apporte des avantages environnementaux.
Retrouvez Kelly Bronson sur LinkedIn !
Contributeurs :
Animatrice : Elizabeth Dubois
Responsable de recherche : Areej El-Sharif
Transcription : Areej El-Sharif
Montage audio : Sarah Pledge-Dickson
Traduction : Julianne Bernier Robert
Publication et promotion : Aaron Brisson
Productrice : Sarah Pledge-Dickson
Transcription traduite de l’épisode : Saison 8, épisode 8 : L’environnement et l’IA
Lisez la transcription traduite ci-dessous ou téléchargez une copie dans la langue de votre choix :
Elizabeth Dubois: [00:00:05] Bienvenue dans Wonks and War Rooms, où la théorie de la communication politique rencontre la stratégie de terrain. Je suis votre hôte, Elizabeth Dubois. Je suis professeure agrégée et titulaire de la Chaire de recherche de l'Université en politique, communication et technologie à l'Université d'Ottawa. Mes pronoms sont elle. Cette saison, nous abordons les enjeux sociaux et politiques liés aux utilisations et à la gouvernance de l'intelligence artificielle. Et aujourd'hui, nous discutons avec Kelly Bronson de l'environnement et de l'IA. Kelly, peux-tu te présenter, s'il te plaît ?
Kelly Bronson: [00:00:30] Bien sûr. Merci de m'accueillir, Elizabeth. Alors, Kelly Bronson, je suis titulaire d'une chaire de recherche du Canada à l'Université d'Ottawa. L'intitulé est Science et Société. C'est un peu vaste, mais j'ai une expertise. Je ne sais pas si tu le savais, mais des deux côtés de cette frontière. J'ai donc une formation maintenant lointaine en biologie, biologie végétale, puis en génétique. Ensuite, je suis passée de la pratique de la génétique à un vif intérêt pour les controverses publiques entourant le génie génétique. Et c'est ainsi que je me suis tournée vers la sociologie. Et je me trouve désormais sur ce genre de tabouret à trois pieds, un peu bancal mais plutôt fonctionnel, entre le Centre de recherche en droit, technologie et société. C'est là que nous nous retrouvons en quelque sorte, toi et moi, l'Institut de l'environnement ou des études environnementales et la sociologie, anthropologie.
Elizabeth Dubois: [00:01:17] Incroyable. Merci. Je ne savais pas que vous aviez une formation en biologie et en génétique. C'est super intéressant. Et je suis sûr qu'avoir ce bagage scientifique influence aussi beaucoup votre façon d'aborder ce genre de problèmes. Eh bien, nous verrons comment vous abordez ce genre de problèmes dans un instant. Commençons d'abord par quelques définitions. Comme j'aime le faire au début de chaque épisode. Nous parlons donc d'IA et d'environnement. Bien souvent, les gens pensent peut-être aux émissions de carbone, ou encore à la quantité d'eau que cela nécessite. Peut-être se disent-ils qu'en réalité, l'IA va résoudre les problèmes environnementaux. Mais ils peuvent également penser à bien d'autres choses. Alors peut-être pouvons-nous poser les bases. Quand je dis IA et environnement, à quoi pensez-vous ?
Kelly Bronson: [00:01:56] Qu'est-ce que j'en pense ? Eh bien, bien sûr que je pense à ces choses-là. Donc, vous savez, les impacts environnementaux incluent la consommation d'énergie. Pas spécifiquement, je suppose, l'IA en elle-même, mais l'infrastructure nécessaire pour faire fonctionner, en particulier, les grands modèles de langage, qui requiert des quantités massives de données lors de leur entraînement et de leur utilisation. Il s'agit donc, vous savez, de données stockées dans des centres de données. Ils nécessitent des quantités massives d'énergie. Et tous les centres de données ne se valent pas. Un centre de données pourrait être simplement un ordinateur dans votre sous-sol qui héberge un site web. Mais nous parlons ici de l'échelle industrielle massive, voire de centres de données hyperscale nécessaires pour ces grands modèles de langage qui sont extrêmement énergivores. Donc, vous savez, oui, au sud de la frontière, on a vu toute cette controverse autour de l'énergie. Euh, un centre de données hyperscale nécessité, je crois que ça peut aller jusqu'à 50 MW d'énergie. Donc, juste pour contextualiser, cela correspond à la consommation d'énergie requise à un instant donné pour alimenter 37,000 foyers. C'est donc beaucoup d'énergie. Et, vous savez, dans la controverse que nous avons vue, il y a toutes sortes d'éléments, mais une partie vient du fait que ces centres de données exercent une pression massive sur les infrastructures énergétiques existantes, comme le réseau électrique. Le Colossus d'Elon Musk — ce que j'adore, tout en étant totalement écœuré par le nom donné à cette installation hyperscale pour faire fonctionner son modèle xAI. Ils ont tellement dépassé la capacité du réseau qu'ils ont dû recourir à toutes ces solutions de fortune très créatives et aussi assez terribles, comme brancher des générateurs qui émettent ensuite des gaz. Et ils sont bruyants, et la communauté a été, à juste titre, particulièrement remontée à ce sujet. Et, vous savez, il construit aussi ces centrales au gaz méthane prétendument temporaires, bien qu'il s'agisse d'un investissement financier colossal, alors que, bien sûr, nous savons tous que le méthane est l'un des pires coupables pour le climat. Alors oui, l'énergie me préoccupe. Et puis même au-delà de ça, les impacts climatiques, donc les émissions de gaz à effet de serre comme le méthane provenant des infrastructures d'IA, je suppose, ou alors on pense à l'eau, parce que, vous savez, les puces électroniques à l'intérieur des centres de données chauffent énormément.
Kelly Bronson: [00:04:01] Ils peuvent fondre. Et ils nécessitent donc des quantités continues d'eau propre, tout comme, vous savez, dans nos infrastructures d'eau potable. Si l'eau n'est pas propre, elle va éroder les tuyaux, etc. Elle entre donc en concurrence avec l'eau potable. Euh, ils ont des répercussions sur l'eau en termes de pollution. Je pense donc à toutes ces choses, mais rien qu'avec les exemples que j'ai donnés, vous pouvez déjà commencer à voir que la façon dont j'envisage ou formule ces impacts environnementaux de l'IA est un peu plus large. Si l'on y réfléchit, ces impacts ne concernent pas uniquement les écosystèmes, n'est-ce pas ? Ils sont d'ordre social. Vous savez, si vous regardez l'emplacement de ces installations à très grande échelle, elles se trouvent dans des régions où les terrains sont plus abondants et moins chers, n'est-ce pas ? Et là où les terrains sont plus abondants et moins chers. Ce n'est pas dans les centres urbains où vivent des personnes relativement aisées, c'est dans des endroits où la terre est également moins chère, non seulement pour les promoteurs, mais aussi pour les gens ordinaires aux États-Unis ou dans la littérature spécialisée. Parfois, au Canada, on appelle cela des communautés pour la justice environnementale. La plupart des grands centres de données en cours de développement, et il y en a beaucoup. Et les centres à très grande échelle dont le développement est proposé se trouvent sur des terres autochtones. C'est exact. Il s'agit donc, vous savez, de communautés isolées qui ont un passé, je dirais, de traumatismes, n'est-ce pas ? Liés à l'extraction environnementale, au développement, à l'exploitation minière, je veux dire, aux formes actuelles de colonialisme. Et vous pouvez donc déjà voir comment la pauvreté et le colonialisme, n'est-ce pas, se rejoignent. J'envisage donc les choses de manière un peu plus large, on pourrait parler d'une approche sociotechnique ou de justice environnementale, et pas seulement environnementale. Oui. Et je pourrais en dire davantage, mais je vais m'arrêter là.
Elizabeth Dubois: [00:05:38] Oui, c'est vraiment, vraiment très utile. Je suis tellement ravi que vous ayez commencé par des exemples concrets pour ensuite nous amener vers cette réflexion plus globale, en replaçant tout cela dans ce contexte sociotechnique, parce qu'il est vraiment facile, je pense, en particulier lorsqu'on réfléchit à des problèmes d'ingénierie, de se dire : il faut cibler une norme très précise à établir, et ensuite tout le monde peut optimiser en fonction de cette norme spécifique, vous voyez, comme le nombre de watts, n'est-ce pas ? Mais ce n'est pas ainsi que l'expérience vécue du déploiement de l'IA est réellement ressentie, particulièrement, comme vous le dites, dans ces communautés qui sont souvent déjà défavorisées à bien des égards, déjà marginalisées dans notre société et par plusieurs décennies d'extraction et une sorte de décalage historique entre ce qui est réellement le mieux pour ces communautés et ce que le gouvernement ou les entreprises vont décider de faire.
Kelly Bronson: [00:06:37] Oui, les deux. Vous savez, ce sont souvent des communautés où il existe cette histoire de méfiance ou de défiance envers le gouvernement, je veux dire, les colons par rapport à, vous savez, peut-être une nation, et puis très certainement l'industrie. Oui. Vous savez, les gens qui vivent en première ligne de, eh bien, dans ce cas, des centres de données. Ce n'est pas qu'ils ne se soucient pas de la puissance en watts. C'est vrai. Mais pour eux, il peut s'agir d'inquiétudes concernant l'accès à une énergie fiable, le centre de données empêchant alors cet accès à une énergie fiable, et l'accessibilité financière de l'énergie. Mais encore une fois, il y a beaucoup d'autres choses aussi, comme la pollution, comme ces centrales au gaz méthane, par exemple. Non seulement elles nuisent au climat, mais elles sont connues pour dégrader fortement la qualité de l'air au niveau local. C'est mauvais pour, euh, la santé respiratoire des résidents. Alors oui, ce genre de questions, vous savez, si nous formulons les problèmes uniquement en termes d'écosystème, de puissance en watts ou d'émissions de carbone, cela réduit vraiment le champ du problème, et donc cela réduit aussi le champ des solutions. Je pense que c'est important, non ? Dans ce cas, on ne pense pas à faire appel à des spécialistes des sciences sociales comme vous et moi, n'est-ce pas. Euh, pour aider à donner de la visibilité à certaines des dimensions les plus complexes et sociales du problème.
Elizabeth Dubois: [00:07:51] Ouais, ouais. On se focalise étroitement sur une seule chose que l'on mesure, et on perd de vue toutes les autres choses qui pourraient être vraiment significatives dans la vie des gens, ainsi que dans le développement de technologies de haute qualité ou la bonne gouvernance de ces technologies, ce genre de choses.
Kelly Bronson: [00:08:12] Ouais. La dimension du pouvoir, n'est-ce pas. Je pense que c'est un point clé. Et c'est vraiment pour cela que je me suis retrouvé dans un cursus de sociologie, parce qu'en fin de compte — et cela remonte en fait à l'époque où j'étais chercheur en laboratoire à faire des travaux de génétique —, j'ai commencé à m'intéresser aux controverses publiques autour des OGM. J'ai commencé à réaliser que lorsque j'essayais d'engager mes collègues scientifiques dans des conversations sur les controverses publiques et certains aspects du cadre juridique, comme les licences et les brevets sur les semences, et, vous voyez, est-ce bien ou mal ? Face à certaines de ces questions normatives, c'était comme si j'avais commis un manquement aux convenances, n'est-ce pas ? C'était du genre : « Non, non, c'est tout simplement anti-science », vous voyez ? Il n'y avait tout simplement pas vraiment d'espace pour parler de ces choses-là. Et je tenais vraiment à... Ouais. Ouvrir. J'imagine, ouvrir l'espace du problème afin d'ouvrir l'espace des solutions. Genre, est-ce vraiment anti-science ? Est-ce cela qui préoccupe les agriculteurs et les consommateurs ? S'inquiètent-ils de la science ou s'inquiètent-ils de ce qui est juste ? Vous savez, l'accès à la nourriture ou aux semences, ou... Alors oui, le pouvoir est finalement devenu le sujet qui m'intéressait. Et c'est toujours ce qui m'intéresse lorsque j'analyse la technologie. Et une façon de rendre ce type de cadrage sur la justice environnementale de l'IA et de ses impacts vraiment visible vis-à-vis du pouvoir, je pense, c'est simplement de poser la question toute simple : d'accord, intégrez-vous l'IA dans votre flux de travail ? Oui. Si oui, c'est probablement le cas de la plupart d'entre nous. Mais alors, aimeriez-vous vivre à côté d'une infrastructure hyperscale ?
Elizabeth Dubois: [00:09:35] Oui, absolument. Voulez-vous vraiment devoir subir au quotidien les conséquences des choix que vous faites ? C'est exact. Et cela met vraiment en lumière le fait que des décisions sont peut-être prises au détriment du bien commun. Et vous savez, dans un épisode précédent, j'ai discuté avec Jason Miller de la façon dont l'éthique est enseignée aux ingénieurs et, disons... des attentes culturelles transmises par le système éducatif, puis dans le monde du travail. Et, vous savez, cette question : aimeriez-vous vivre à côté des outils que vous construisez ou des éléments nécessaires aux outils que vous construisez ? Il ne l'a pas formulé exactement ainsi, mais il insistait beaucoup sur l'idée que, si nous ne créons pas un système où des personnes se sentent la responsabilité d'apporter cette vision plus large, d'analyser les choses sous cet angle sociotechnique, nous ne pourrons jamais résoudre aucun de ces problèmes, car personne ne considérera qu'il est de son ressort d'y trouver une solution.
Kelly Bronson: [00:10:33] Hum hum. Oui, exactement. Je suppose que c'est ce que je veux dire par élargir en quelque sorte l'espace des solutions ainsi que l'ensemble des problématiques, l'ensemble des solutions, et par conséquent qui participe, n'est-ce pas, à formuler les problèmes et à concevoir les solutions dès le départ. Oui, c'est... c'est précisément cela. Oui. Quand j'étais scientifique, j'ai commencé à me dire : mais qui nous a confié les rênes ? Du genre, quoi ? Et donc, vous savez, je me suis tourné vers les sciences sociales en partie pour explorer différents processus, dirais-je, afin de réfléchir à l'élargissement de l'espace des problèmes et des solutions pour la consultation. Tout à fait. Je ne pense pas que tous les chercheurs en sciences sociales puissent ou doivent vraiment être amenés à parler au nom d'une communauté. Je ne sais pas si vous faites le même constat, mais souvent, dans les comités ou les panels d'experts, cela pose parfois problème. Vous savez, je suis par exemple le seul spécialiste en sciences sociales. Et on me pousse alors en quelque sorte à parler, dans mon cas, au nom des agriculteurs, n'est-ce pas. Et, et c'est vraiment problématique. Et pourtant, en même temps, ce que nous apprenons en sciences sociales, ce sont en partie des outils pour obtenir des données empiriques précises sur ce qui importe pour une communauté. Et pour commencer par, je veux dire, en revenant à cette idée de mesure des impacts. Et je pense que l'un des éléments clés consiste alors à partir de questions véritablement fondamentales dans des contextes particuliers, comme : qu'est-ce qui compte dans cette communauté ? Peut-être que dans certaines communautés, les gens disent que c'est un compromis. Qu'ils sont prêts à faire, n'est-ce pas ? Peut-être qu'il y a, vous savez, des retombées positives pour la communauté locale qui compensent certains des risques. Mais il est essentiel de commencer par ces échanges sur les valeurs, les compromis, les risques, les bénéfices et leur répartition, n'est-ce pas ?
Elizabeth Dubois: [00:12:00] Aborder la question sous forme d'interrogations, avec de la curiosité pour ce que sont les impacts possibles, les types de choses qui pourraient préoccuper les gens, plutôt qu'avec une hypothèse réductrice, n'est-ce pas ? Par exemple, si l'on prend les watts, vous voyez, tout le monde est obsédé par les watts, pour s'assurer d'avoir le niveau le plus bas possible et se dire qu'ensuite tout va bien. Ou alors on atteint un certain seuil et tout va pour le mieux. C'est une manière vraiment, vraiment réductrice de voir les choses. Cela n'adopte pas cette approche consistant à se poser ces questions dès le départ. Genre, pourquoi est-ce le cas ? C'est, je suppose, la question que je me pose : comment en sommes-nous arrivés là, à être à ce point focalisés sur les watts — et je dis les watts, mais cela pourrait être n'importe laquelle de ces mesures plus étroites.
Kelly Bronson: [00:12:48] Je pense que c'est une excellente question. Et, vous savez, ce qui me semble si intéressant, c'est ce type de cadrage réducteur, qu'on pourrait qualifier de technologiquement déterministe ou de technocentrique, et cela arrive aussi de l'autre côté, du côté positif, n'est-ce pas, on voit cela tout le temps. C'est comme dans la mise en avant des avantages de cette technologie. Au début, vous disiez que les gens ont vraiment l'espoir que l'IA va réellement résoudre la crise climatique. Absolument. Tout à fait. Il y a tout cet espoir et ces déclarations grandiloquentes qui sont faites. Je travaille sur l'IA dans le contexte de la production alimentaire et de l'agriculture, et plus largement tout au long de la chaîne de valeur alimentaire, ce qui est un cas d'usage qui n'a pas vraiment attiré autant d'attention. Mais il y a toutes sortes de promesses, n'est-ce pas ? Nous avons des problèmes vraiment complexes en matière d'alimentation. L'approvisionnement alimentaire, n'est-ce pas ? Des crises alimentaires sont prévues pour 2050 et la faim, même au Canada où 1 Canadien sur 5 est en situation d'insécurité alimentaire. Nous avons des problèmes environnementaux massifs, notamment climatiques, qui touchent la production alimentaire. Mais l'agriculture est aussi l'un des plus grands contributeurs au changement climatique au Canada.
Elizabeth Dubois: [00:13:49] Oui.
Kelly Bronson: [00:13:50] Alors oui, ce que vous avez dit sur le fait de se demander pourquoi c'est formulé de manière si réductrice ? Je pense que le revers de la médaille existe aussi, non ? En termes de solutions, et pas seulement de problèmes, il y a toutes sortes de solutions techno-solutionnistes qui sont proposées, y compris pour des problèmes majeurs comme le changement climatique et l'insécurité alimentaire. Je pense que c'est en partie parce que c'est plus facile, non ? C'est bien plus facile si vous vous demandez, d'accord, comment allons-nous cadrer ce problème environnemental et l'étudier, n'est-ce pas ? Et puis le rendre propice à l'action politique, c'est tellement plus facile si nous disons, d'accord, nous allons simplement mesurer la puissance en watts, ou si la solution pour quelque chose d'aussi complexe, je pense, que la faim dans le monde est l'IA, n'est-ce pas ? Et la production alimentaire. Il s'agit donc de ces algorithmes, de ces outils d'aide à la décision pour aider les agriculteurs. Mais dans les pays du Sud, il peut s'agir de simples TIC pour des applications agricoles destinées aux agriculteurs. Mais tout cela suscite un grand enthousiasme de la part de la Banque mondiale. De la Fondation Bill et Melinda Gates jusqu'aux États-nations, l'IA va résoudre ce problème de la faim dans le monde. C'est tellement plus facile, n'est-ce pas, que de dire : « Ah, en fait, c'est un problème de distribution », non ? Actuellement, si nous regardons la situation à l'échelle mondiale, de nombreux pays produisent des céréales.
Kelly Bronson: [00:15:00] Beaucoup d'entre elles ne sont pas des céréales comestibles par l'homme. Elles sont cultivées pour l'alimentation animale, n'est-ce pas ? C'est donc en soi une sorte de question morale intéressante. Il y a donc une surproduction, mais c'est une question de distribution. Et cela relève du problème de la porosité des frontières ou de son absence. Et de la guerre, n'est-ce pas. Et du pouvoir et de la gouvernance. Et donc, oui, si vous dites cela, si c'est ainsi que vous formulez le problème comme ce monstre très complexe à plusieurs têtes, c'est un argumentaire de vente bien plus difficile à faire passer que simplement, vous savez, « l'IA va résoudre la faim dans le monde » ou « l'IA va résoudre la crise climatique ». Et je pense qu'il y a aussi une dimension de pouvoir dans cet élément argumentaire, à savoir que, vous savez, l'environnement financier autour de technologies comme l'IA est tel que le pitch doit être percutant et limpide, n'est-ce pas ? Il doit durer 40 secondes, peu importe sa durée. C'est, vous savez, le genre de capital-risque et de contrats à terme, et tout l'environnement financier autour des technologies émergentes est tel que le pitch doit être limpide, il doit être percutant.
Elizabeth Dubois: [00:16:05] Et grandiose.
Kelly Bronson: [00:16:06] Et grandiose. Exactement. Et peu importe presque où se trouve la preuve, s'il y a une preuve ou ce que ça donnera dans 20 ans, parce que, n'est-ce pas, c'est une question de circulation du capital, et dans une certaine mesure, voilà. Et je pense aussi, vous savez, même si l'on repense au début de notre podcast où nous parlions des gros titres récents sur, vous savez, la fin de l'humanité et la démission de scientifiques d'Anthropic. Et tout cela est très déprimant et effrayant. Mais même cela, n'est-ce pas, ce que, je crois, les gens de l'industrie appellent le « p(doom) », n'est-ce pas ? La probabilité de l'apocalypse, même cela fait partie du battage médiatique parce que, encore une fois, si l'on pense au pouvoir, c'est comme si le discours commercial était propre, bien rodé et technologique, alors qui a le droit de faire partie de la solution ? Ce sont les ingénieurs. Ce sont les personnes qui gagnent de l'argent grâce à la vente de ces technologies qui sont censées nous sauver tous ou sauver le monde. Et d'un autre côté, n'est-ce pas, si la, si vous savez, la probabilité d'apocalypse est assez élevée, qui finit par faire partie de cet espace de solutions, n'est-ce pas ? Ce sont les « tech bros » qui deviennent ensuite consultants, n'est-ce pas. Et il n'y a rien de mal à cela. L'institut canadien de la sécurité de l’intelligence artificielle, évidemment qu'il y a une place pour cela. C'est vraiment important, vous savez, la collaboration internationale entre scientifiques, c'est super important. Je ne le nie pas. Mais je pense que le battage médiatique des deux côtés rétrécit véritablement l'espace des solutions.
Elizabeth Dubois: [00:17:26] Ouais. Et puis vous ajoutez à cela le niveau technique où avoir des critères de mesure très restreints permet simplement de dire plus facilement : oui, je l'ai fait, ou non, ça n'a pas été fait. Tandis que déterminer à quel moment vous avez suffisamment réfléchi à toutes les implications sociales plus larges de vos outils, réussi à cerner quelles seront les répercussions potentielles, et ensuite trouvé comment faire cela de la manière la plus sûre et la plus respectueuse de l'environnement possible. Ce sont des questions bien plus difficiles à résoudre que de se demander : est-ce que j'ai atteint un certain seuil de watts ? Et on peut donc observer tout au long du système de financement des outils, de création des outils, de déploiement des outils, à chaque étape. C'est bien plus simple de choisir l'option la moins complexe, même si ce qui est plus complexe est précisément ce qui est nécessaire la plupart du temps.
Kelly Bronson: [00:18:24] Ouais. Parfois, j'ai l'impression d'être un vrai rabat-joie, quand même. L'année dernière, cette serre, Haven Greens, a fait les manchettes. Et je ne veux absolument pas m'en prendre à Haven Greens. Je pense que la personne, le gars qui a lancé la serre, Jay Willmot, est vraiment plein de bonnes intentions, mais ça a vraiment fait parler parce que c'est une serre dans le sud de l'Ontario, une sorte de point chaud de l'agriculture d'intérieur au Canada. C'était un bon jeu de mots, je suppose, un point chaud. Eh bien, j'apprécie un bon jeu de mots. Ouais, c'était un peu involontaire. Mais il, vous savez, il a dit : « On a lancé cette serre totalement autonome ». « Aucune main humaine ne touchera cette laitue ». Et c'était censé être une bonne chose. Il a dit. « Ça utilise des systèmes d'IA et de la robotique, et on va recycler l'eau et recycler la chaleur ». « Et c'est donc durable, mais aussi, n'est-ce pas, ça veut dire une production de laitue toute l'année ». « Et par conséquent, on n'a pas besoin de faire venir de la laitue de Californie ». Vous savez, une énorme partie de nos émissions de gaz à effet de serre dans l'agroalimentaire provient du transport des aliments, qui se fait en grande partie par camion. Donc c'est super. Mais, vous savez, ensuite la CBC, je crois, m'a contacté et ils m'ont dit : « Qu'est-ce que vous en pensez ? » Genre : « C'est l'avenir de la laitue durable ». Et je me suis dit : « Oh, oui, peut-être ». Mais, vous savez, si on y réfléchit, si on élargit à nouveau la perspective, si on formule ça différemment, ce n'est pas seulement la serre autonome en soi.
Kelly Bronson: [00:19:52] C'est à vous. Ça fonctionne là où je ne fonctionne pas. Ils ont conçu Haven Green de manière à ce qu'il recycle la chaleur et l'eau dans une certaine mesure. Je pense que ce n'est pas un système parfaitement fermé actuellement. Mais qu'en est-il de... Exactement. Le fonctionnement du système d'IA qui en revient aux centres de données. Et cela a un coût environnemental énorme. Et c'est en quelque sorte externalisé. Comme diraient les économistes, ou disons laissé de côté dans ce tableau : si l'on dit simplement que la serre fonctionne en circuit parfaitement fermé et durable, qu'en est-il de la fabrication de cette serre ? Exact. Qu'en est-il des terres rares extraites qui ont probablement touché les communautés nordiques ou autochtones en première ligne de cette exploitation minière ou de cette extraction ? Et puis. Exact. Et encore, pour poursuivre cette expérience de pensée, qu'en est-il des travailleurs ? Les serres sont donc typiquement des endroits au Canada, et en fait partout dans le monde, qui emploient des travailleurs migrants. Il y a toutes sortes de problèmes quant au traitement des travailleurs dans ces environnements de serres. Mais le simple fait de remplacer ces travailleurs par des robots n'est pas vraiment une solution éthique à la complexité des problèmes de main-d'œuvre dans l'agriculture d'intérieur. Et donc, oui, encore une fois, peut-être, mais je ne pense pas que cela va résoudre... Et puis aussi, c'est de la laitue, n'est-ce pas ?
Elizabeth Dubois: [00:21:08] C'est vrai.
Kelly Bronson: [00:21:08] Ça ne va pas nourrir la planète. On ne va pas nourrir le monde avec de la laitue. Extrêmement gourmande en eau et pas vraiment riche ou dense en nutriments. Donc oui, ce n'est pas, cela ne va pas résoudre le problème de l'approvisionnement alimentaire de 2050.
Elizabeth Dubois: [00:21:20] Oui. Mais je veux dire, comme ballon d'essai, vous voyez, si vous trouvez de très bons moyens pour que ça fonctionne. On pourrait imaginer que ce soit un excellent modèle pour d'autres types de produits et d'autres types de choses, mais...
Kelly Bronson: [00:21:36] Surtout dans des environnements très reculés, comme, disons, dans le Nord, n'est-ce pas ? Où l'accès à la nourriture est un problème. Mais encore une fois, si l'on pense à l'histoire derrière le manque d'accès à des aliments sains ou culturellement adaptés, disons dans le Nord canadien, cela a encore un lien avec le colonialisme, non ? C'est comme la perturbation des aliments traditionnels et des pratiques alimentaires traditionnelles et, oui, la concentration du commerce de détail alimentaire dans les régions nordiques. Et donc au moins une partie du problème est liée au pouvoir des entreprises, au colonialisme historique et actuel. Et donc ce n'est pas... mais vous avez raison. Il s'agit de trouver des solutions technologiques. Je ne suis pas contre la technologie, je pense absolument qu'elle a sa place, mais il est simplement important d'avoir, je crois, cette vision globale à la fois des solutions et des problèmes.
Elizabeth Dubois: [00:22:21] Oui, oui. Et de penser, par exemple, au cycle de vie complet de la technologie. Si vous. Si vous avez décidé, d'accord, que la solution technologique fait au moins partie de ce que nous voulons faire, vous devez y réfléchir tout au long du processus, pas seulement, vous savez, d'accord, une technologie a été créée et déployée. Et voilà, c'est réglé. Vous devez réfléchir à la manière dont elle a été créée et à ce qu'elle deviendra par la suite.
Kelly Bronson: [00:22:43] Absolument. Oui. Ce genre d'analyse du cycle de vie, vous savez, en sciences sociales, je crois que certains parlent d'une sorte de perspective infrastructurelle, n'est-ce pas ? Il faut penser non seulement à la technologie, mais aussi à tout ce qui l'entoure. Vous savez, comme je l'ai dit plus tôt, mon passage de la paillasse aux sciences sociales s'est fait parce que j'ai commencé à m'intéresser à la controverse publique autour des OGM. Et puis je me suis rendu compte que la façon dont la controverse était cadrée, c'était comme une controverse sur la science. Mais lorsque j'ai commencé à simplement discuter avec des agriculteurs dans ce cas précis, qui étaient vraiment révoltés par le brevetage des semences, j'ai réalisé que les véritables enjeux concernaient l'infrastructure, en l'occurrence, les lois. Exactement. Et je pense que c'est la même chose pour l'IA. Je travaille beaucoup actuellement non seulement sur l'IA dans les exploitations agricoles, mais aussi sur ce qui advient, dans le contexte de l'IA agricole, des données une fois qu'elles quittent la ferme, qui y a accès, n'est-ce pas ? Qui est rémunéré pour la valorisation de ces données ? Et tout cela vous amène ensuite aux politiques publiques, à la gouvernance et, oui, au droit.
Elizabeth Dubois: [00:23:45] N'est-ce pas ? Oui. Il y a tellement, tellement de pièces différentes dans ce puzzle. Et l'une des manières d'intégrer ces différentes pièces, c'est ce prisme sociologique et sociotechnique. Une autre façon dont j'ai vu ce genre d'idées commencer à être introduites relève d'une perspective gouvernementale ou intergouvernementale, n'est-ce pas ? Comme les déclarations de l'ONU sur la durabilité, et cet appel à des définitions plus larges de ce à quoi nous devons réfléchir lorsque nous pensons à la durabilité. Ces cadres existants s'adaptent-ils particulièrement bien au contexte de l'IA ? Voyons-nous cette vision de la durabilité, bien plus large que le simple débat sur l'IA, s'intégrer réellement ou être intégrée dans les discussions sur l'IA ?
Kelly Bronson: [00:24:32] C'est une question très intéressante. Je pense que, oui, d'un côté, évidemment, vous savez, les objectifs de développement durable ratissent très large. Comme disent, je crois, les spécialistes des politiques publiques. C'est bien ça ? Je ne me trompe pas ? C'est ça. Genre, cela crée un vaste espace qui est parfait à l'échelle d'une sorte de gouvernance internationale ou supranationale. N'est-ce pas ? Cela élargit le cadre. La discussion intègre des notions comme la justice et le pouvoir. Vous savez, l'un des... je pense que l'un des risques, c'est que lorsqu'on élargit, les choses risquent de perdre en précision, non ? Et du coup, qu'entend-on par durabilité si on la prend au sens large ? N'est-ce pas ? Si cela englobe tout... nous avons vu cela avec... j'ai tout un autre domaine de recherche, ou du moins j'en avais un, sur l'évaluation environnementale. Ainsi, en 2019, le gouvernement canadien a adopté une nouvelle loi, la Loi sur l'évaluation d'impact de 2019, et nous avons fait évoluer notre évaluation environnementale. Ce sont, vous savez, des évaluations qui sont déclenchées ou légalement obligatoires si l'ampleur d'un projet de développement est vraiment très grande. Comme, vous savez, les barrages hydroélectriques ou les pipelines. Et en 2019, le gouvernement est passé de l'évaluation environnementale à l'évaluation d'impact, et la Loi sur l'évaluation d'impact de 2019 inclut une prise en compte bien plus large de ce que la législation appelle, genre, les répercussions sociales, n'est-ce pas ? Il y a une obligation de participation publique constructive — et ce sont les termes exacts de la loi. Et pourtant, on en revient à : qu'entend-on par développement durable ? Qu'entend-on par durabilité ? Surtout si l'on y inclut la justice et les aspects sociaux. Il devient alors difficile de passer de ces idées ou idéaux largement partagés à la pratique. C'est vrai. Genre, comment mesure-t-on concrètement les répercussions sociales et, vous savez, qu'est-ce qui constitue une participation publique constructive ? C'est une question vraiment très intéressante.
Kelly Bronson: [00:26:34] J'y ai réfléchi. Donc, le cadre, au sens large, que j'utilise lorsque je réfléchis à l'alimentation et aux technologies, c'est la souveraineté alimentaire. Vous savez, dans les années 70 et 80, l'ONU parlait, dans ses documents, de sécurité alimentaire parce que, vous savez, vous êtes sans doute trop jeune pour avoir connu cela. Mais dans les années 70 et 80, il y a eu des crises alimentaires massives en Afrique subsaharienne, de véritables famines à grande échelle. C'était donc une crise, n'est-ce pas ? On parlait donc d'insécurité alimentaire et de crise alimentaire. Et je pense aussi que le terme de sécurité avait un écho particulier dans les années 70, à une époque où l'État-providence était un concept plus viable, disons avant le véritable enracinement du néolibéralisme. Mais ensuite, il y a eu cette transition, en partie menée par les pays du Sud, pour parler de souveraineté alimentaire. Je pense qu'une partie du problème avec la sécurité alimentaire, c'est qu'elle était aussi largement axée sur les ménages. Ainsi, dans ses outils de mesure, l'ONU parlait d'insécurité alimentaire des ménages et de souveraineté alimentaire. Vous savez, des groupes d'agriculteurs des pays du Sud ont vraiment poussé pour élargir, une fois de plus, le champ du problème et parler de souveraineté alimentaire, et la définition de la souveraineté par rapport à la sécurité, c'est vraiment non seulement de savoir si les gens ont accès à la nourriture, mais aussi, vous savez, s'ils ont accès à une alimentation culturellement adaptée et la possibilité de cultiver leurs propres aliments ; les producteurs ont ainsi véritablement été intégrés à l'équation. Et oui, je me suis donc dit que dans le domaine de l'IA, il serait intéressant de parler de souveraineté de l'IA. Ce serait un bon outil analogue, mais je n'ai pas vraiment vu cela mis en pratique. C'est peut-être un travail à mener à l'avenir.
Elizabeth Dubois: [00:28:09] Oui, je pense que j'entends beaucoup parler de souveraineté des données et nous en parlons d'ailleurs dans cette série ? J'ai enregistré un épisode avec quelques autres personnes. Jonathan Dewar en fait partie. Il est le PDG du Centre de gouvernance de l'information des Premières Nations, et Kumanan Wilson en est une autre, dans des épisodes consacrés respectivement aux principes de gouvernance autochtone et aux politiques de santé. Nous en venons à cette discussion sur ce à quoi ressemble la souveraineté des données et pourquoi c'est important dans le contexte du développement et de l'entraînement des outils d'IA. Et donc, je pense que l'idée de souveraineté est un sujet auquel le secteur de l'IA est confronté et auquel il s'attelle. Et je vois donc que ce n'est pas un pas énorme à franchir pour penser ensuite à la souveraineté de la manière dont vous en parlez en quelque sorte.
Kelly Bronson: [00:28:57] D'accord. Oui, exactement. Et ils sont les gardiens, n'est-ce pas, de ces grands principes. Donc, et oui, en matière de données, absolument. Je veux dire, pensez ne serait-ce qu'au gouvernement canadien et à l'IA pour tous. Et même, par exemple, dans la première lettre de mandat sous le gouvernement Carney, il était beaucoup question de souveraineté et de données souveraines pour l'écosystème canadien de l'IA, ainsi que pour les consommateurs et citoyens canadiens. Mais cela a été en quelque sorte cantonné aux données, n'est-ce pas ? Et encore une fois, défini de manière assez étroite, pas nécessairement selon les principes de PCAP, mais la souveraineté alimentaire a été interprétée et appliquée de façon vraiment œcuménique. Et je me demande simplement s'il existe un moyen de faire cela tout au long du cycle de vie de l'IA, pour revenir à cette discussion sur le cycle de vie, ou à travers l'infrastructure et l'IA au sens plus large.
Elizabeth Dubois: [00:29:46] Oui, oui, je pense qu'il y a encore beaucoup de choses auxquelles nous pourrions réfléchir et dont nous pourrions discuter à ce sujet. Et j'imagine, j'espère qu'on en fera davantage dans les prochains temps, alors que tant de discussions sur le développement et la gouvernance de l'IA ont lieu. Mais nous arrivons à la fin du temps imparti pour l'épisode d'aujourd'hui. Je voulais donc conclure par une question avec laquelle j'ai terminé chaque épisode cette saison. De votre point de vue, qu'est-ce qui est négligé ? Qu'est-ce qui échappe aux décideurs politiques ? Qu'est-ce qui n'est peut-être pas suffisamment sur leur radar ?
Kelly Bronson: [00:30:18] Hum hum. Et donc, par rapport à l'IA, je pense que le gouvernement canadien n'a pas encore pleinement réfléchi aux coûts environnementaux. Du moins dans la stratégie d'IA pour tous, on propose une expansion des centres de données. Et même dans ce nouveau document de principes, l'ensemble des coûts environnementaux de l'IA et de ses infrastructures, surtout en adoptant cette perspective de cycle de vie, me semble sous-examiné. Ainsi, l'IA pour tous comprenait vraiment cette incitation au développement des compétences, n'est-ce pas ? Et oui. C'est donc comme s'il y avait une sorte de présupposition, ou je pense qu'il y en a une dans ce document, selon laquelle l'IA est simplement un bien public incontestable ou non remis en question. Le problème revient donc à se demander : comment amener davantage de Canadiens à intégrer l'IA ? Et comment développer les compétences, le genre de problématiques classiques liées à la fracture numérique, n'est-ce pas ? Y amener les gens. Oui. Mais je pense que le travail pourrait et devrait être abordé de manière plus complexe. Tout à fait. Une lecture plus critique montrerait qu'il serait vraiment important d'intégrer les perspectives des travailleurs. Comment pouvons-nous inciter les travailleurs à participer à la gouvernance de l'IA ? Et c'est peut-être là le point essentiel. Pour ma part, je pense que même à propos de ce nouveau document de principes que le gouvernement a publié le 3 septembre, beaucoup de gens ont dit : d'accord, c'est très bien comme point de départ. Ce ne sont que des principes. Absolument. Désormais, il y a beaucoup de travail à faire pour mettre ces principes en pratique. Mais pour moi, le véritable défi réside dans ce processus, ce défi de gouvernance : non seulement comment allons-nous procéder, mais qui constitue ce « nous », n'est-ce pas ? Qui va être invité à prendre part à cette conversation ? Est-ce que ce sera seulement, vous savez, et, vous le savez, je vous l'ai déjà dit, mais j'ai participé à certaines des consultations préalables à l'IA pour tous.
Kelly Bronson: [00:32:02] Et j'étais vraiment la seule spécialiste des sciences sociales. Vous savez, je n'ai pas vu de vaste consultation. Il y a eu quelques consultations avec les syndicats, mais enfin, qui est véritablement en première ligne face au changement, surtout si l'on pense à la justice environnementale pour en revenir à notre première discussion sur la répartition inégale des avantages et des préjudices ? Qui va vraiment en faire les frais ? Et comment pouvons-nous créer des processus de gouvernance qui intègrent ces personnes dans la discussion sur la façon de définir la valeur stratégique ? Pour en revenir à ce qui se trouvait dans ce document de principes, n'est-ce pas ? Ils disent de ne développer, vous savez, des centres de données, par exemple, que s'il y a une valeur stratégique pour les Canadiens. Mais bien sûr, on ne peut pas inclure tous les Canadiens, qui devraient pourtant participer à la définition de ce qu'est la valeur stratégique. Ce qu'ils disent, vous savez, c'est que les retombées devraient profiter à la communauté locale. D'accord. Mais, vous savez, il y a de multiples acteurs ou parties prenantes dans les communautés locales. Alors, comment concilier différentes valeurs, différents besoins et compromis ? N'est-ce pas ? Lorsqu'ils sont en tension, qui est inclus ? Ce genre de questions axées sur les processus et la gouvernance sont, selon moi, les questions clés qui manquent. Je constate qu'elles sont actuellement absentes du débat sur l'IA au Canada.
Elizabeth Dubois: [00:33:10] Merci. Oui, enfin, tout ce que vous dites est très logique. Et je vois aussi des liens avec d'autres épisodes de cette saison où, vous savez, si nous réfléchissons à la manière de bien gouverner, nous devons penser aux personnes qui sont touchées et les intégrer aux discussions de manière vraiment significative. Euh, il y a donc beaucoup, beaucoup à en tirer. Mais pour l'instant, je vous remercie pour le temps que vous nous avez accordé. C'était une excellente conversation.
Kelly Bronson: [00:33:36] Merci, Elizabeth.
Elizabeth Dubois: [00:33:37] Merci de nous avoir écoutés. Mais avant de partir, le 3 décembre, nous organisons un enregistrement spécial en direct du balado sur le campus de l’Université d’Ottawa. Je m’entretiendrai avec le commissaire à la protection de la vie privée du Canada. L’événement est gratuit, mais l’inscription est obligatoire; je vous invite donc à consulter les notes de l’épisode pour trouver le lien vers le formulaire d’inscription. L’événement se déroulera de 18 h à 19 h 30; nous serions ravis de vous y voir.
Voilà, c’était notre épisode sur l’environnement et l’IA. Comme toujours, vous trouverez dans les notes de l’épisode de nombreux liens vers diverses ressources, et vous pouvez vous rendre sur polcommtech.com pour consulter les transcriptions annotées, offertes en anglais et en français. Elles renvoient vers beaucoup d’autres ressources et lectures complémentaires.
Cette saison de Wonks and War Rooms est soutenue par le vice-rectorat à la recherche et à l’innovation de l’Université d’Ottawa, par ma chaire de recherche universitaire, par le Centre de droit, technologie et société et par la Faculté des arts de l’Université d’Ottawa.
Je tiens également à souligner que j’enregistre depuis le territoire traditionnel non cédé du peuple algonquin, et je tiens à rendre hommage au peuple algonquin en reconnaissant sa relation de longue date avec ce territoire non cédé.



Commentaires