Saison 8 Épisode 3 : Ethique, ingénierie et l’IA
Saison 8 Épisode 3 [télécharger cet épisode (MP3, 23.8 MB)]
Dans cet épisode où Elizabeth discute avec Jason Millar, un professeur à l’école d'ingénierie design et d’enseignement d’innovation dans la faculté d'ingénierie de l’Université d’Ottawa, et la Chaire de recherche du Canada en ingénierie éthique de la robotique et de l'intelligence artificielle, afin d'explorer les enjeux de l'ingénierie éthique en IA. On y discute des raisons pour lesquelles des concepts comme la sécurité revêtent des significations différentes pour les éthiciens et les ingénieurs, et comment cette interprétation laisse de côté des problèmes tels que la désinformation et la dépendance affective envers les chatbots. Jason présente ses travaux au CRAiEDL et explique pourquoi les incitations, la réglementation et la culture d'ingénierie sont essentielles. Il soutient que les décideurs politiques ne devraient pas présumer que les ingénieurs parviendront à résoudre ces problèmes par le biais de la réglementation.
Ressources additionnelles:
Regardez le travail académique sur Google Scholar!
Lisez la proposition du Canada sur La Loi sur l’intelligence artificielle et les données (LIAD) qui à fait part du Projet de loi C-27 qui à été mis sur pause au début de 2025.
Regardez l’épisode de Christelle sur la gouvernance de l’IA
Pour apprendre plus sur l’histoire de l'ingénierie et comment nous portons des ceintures dans les voitures, regardez le travail d’il y a longtemps An ethical dilemma: When robot cars must kill, who should pick the victim?
Vous pouvez trouver Jason sur LinkedIn aussi !
Contributeurs :
Animatrice: Elizabeth Dubois
Responsable de la recherche: Areej El-Sharif
Transcript: Areej El-Sharif
Montage Audio: Sarah Pledge-Dickson
Traduction: Julianne Bernier Robert
Publication et Promotion: Aaron Brisson
Productrice: Sarah Pledge-Dickson
Transcription traduite de l’épisode : Saison 8, épisode 3 : Ethique, ingénierie et l’IA
Lisez la transcription traduite ci-dessous ou téléchargez une copie dans la langue de votre choix :
Elizabeth Dubois: [00:00:04] Bienvenue dans « Wonks and War Rooms », où la théorie de la communication politique rencontre la stratégie sur le terrain. Je suis votre animatrice, Elizabeth Dubois. Je suis professeure associée et titulaire d’une chaire de recherche universitaire en politique, communication et technologie à l’Université d’Ottawa. Mes pronoms sont « elle ». Cette saison, nous aborderons les enjeux sociaux et politiques liés aux utilisations et à la gouvernance de l’intelligence artificielle. Et aujourd’hui, nous discutons avec Jason Miller de l’ingénierie éthique. Jason, pourriez-vous vous présenter, s'il vous plaît ?
Jason Millar: [00:00:27] Je m'appelle Jason Millar, je suis professeur à l'École d'ingénierie, de design et d'innovation pédagogique de la Faculté d'ingénierie de l'Université d'Ottawa. Je suis également titulaire d'une chaire de recherche du Canada en ingénierie éthique de la robotique et de l'intelligence artificielle. C'est un peu long à dire, mais cela signifie en gros que je consacre la majeure partie de mon temps à étudier les implications éthiques de la robotique et de l'intelligence artificielle, et à réfléchir à la manière dont nous pouvons faire évoluer les pratiques d'ingénierie et les politiques afin de répondre aux questions, notamment éthiques, que ces technologies soulèvent aujourd'hui. Et elles sont nombreuses.
Elizabeth Dubois: [00:01:05] Oui, il y en a beaucoup. Je vous suis donc vraiment reconnaissant de pouvoir prendre le temps de discuter avec nous. La question de l'éthique en ingénierie de l'IA est évidemment une préoccupation majeure pour beaucoup de gens. L'une des choses que j'aime faire au début des épisodes de cette saison, c'est de mettre les choses au clair, car je pense que lorsque l'on parle d'IA et que l'on y ajoute un autre concept, on aborde souvent des sujets très variés. On ne pense pas forcément tous aux mêmes problèmes. Pourriez-vous donc me donner un aperçu rapide de ce que recouvre, dans ce contexte, l’IA éthique ou l’éthique en ingénierie ? À quoi pensez-vous quand j’évoque ce sujet ?
Jason Millar: [00:01:44] Oui. En fait, j'ai d'abord étudié l'éthique en tant que philosophe pendant des années. Ma réponse va donc être un peu longue. Vous savez, j’ai une formation en philosophie et une double formation en ingénierie, ce qui m’a amené à me retrouver dans une faculté d’ingénierie où j’ai étudié l’éthique pendant des années en tant que philosophe, et où j’ai vraiment commencé à m’intéresser, il y a peut-être 15 ans, aux sujets abordés par les éthiciens et liés à la technologie. À l’époque, vous savez, il y a des années, la robotique et l’IA étaient juste, disons, des sujets intéressants. Elles n’étaient pas encore très répandues dans la société. On ne voyait pas tous les jours, vous savez, des vidéos des « Jeux olympiques des robots » en Chine, ni n'interagissent avec des modèles de langage de grande envergure (LLM) à l’époque, évidemment. Donc, on avait à peine Siri à l’époque, je crois, mais en tant que philosophe et éthicien, ce que j’ai réalisé en discutant avec des ingénieurs, ce qui s’est fait naturellement dans le cadre de mon travail, du type de recherche que je menais en tant qu’étudiant en doctorat, je me suis très vite rendu compte que si l'on entrait dans une pièce remplie d'ingénieurs, voire de décideurs politiques, et que l'on s'exprimait en quelque sorte dans le langage de l'éthique philosophique, aussi intéressant et fascinant que cela puisse être pour moi et pour d'autres philosophes qui mènent ce genre de travaux. Vous pouvez susciter l’intérêt des personnes présentes dans la salle pour ce dont vous parlez, mais les ingénieurs, pour des raisons très pratiques et compréhensibles, n’avaient pour la plupart aucune idée de la manière d’intégrer cela dans leur travail quotidien. Donc, vous voyez, vous me demandiez en quelque sorte : « Comment l’éthique et l’ingénierie s’articulent-elles pour moi ? » J’ai consacré beaucoup de temps à cela au cours de ma carrière et de mes recherches, et bien sûr dans le cadre du travail que nous menons au laboratoire de l’Université d’Ottawa pour essayer de trouver des moyens de rapprocher davantage ce débat philosophique de la pratique de l'ingénierie, afin de développer le type de langage, d'outils et de pratiques que les ingénieurs peuvent utiliser pour véritablement placer ces considérations éthiques au cœur de leur travail lorsqu'ils conçoivent des technologies de robotique ou d'intelligence artificielle.
Elizabeth Dubois: [00:03:52] C'est vraiment utile. Et pour rebondir là-dessus, je t'ai entendu parler de ça comme d'une « traduction » et évoquer des problèmes de traduction, n'est-ce pas ? Il ne s'agit donc pas seulement de dire : « Bon, il faut utiliser le langage employé par l'autre groupe », mais la mise en œuvre de cette approche devient également un défi. Peux-tu nous en dire un peu plus sur cette idée selon laquelle il s'agit d'un problème de traduction ?
Jason Millar: [00:04:16] Oui, tout à fait. Vous savez, nous, les éthiciens, on parle beaucoup de principes éthiques. On peut citer, par exemple, la vie privée, ou encore l’autonomie, ou des notions de ce genre. Ce sont des mots utilisés par les philosophes qui sont chargés de sens, n’est-ce pas ? Ils ont une grande importance en ce qui concerne les individus, leurs responsabilités ou leurs devoirs les uns envers les autres. Ou si vous voulez voir les choses sous cet angle, parfois, vous savez, comment devons-nous structurer nos relations ou, disons, réfléchir à la technologie en nous demandant : quel impact a-t-elle sur les gens ? Que ne devrait-elle pas faire ? Comment pouvons-nous… Je veux dire, nous disposons d’un vocabulaire à cet effet. Ainsi, l’autonomie, voire le mot « sécurité », revêt une signification très particulière pour les éthiciens et les philosophes. Et c’est vrai. Je veux dire, ce que je décris ici, ce que je m’apprête à décrire, c’est tout à fait vrai pour n'importe quel groupe de personnes qui étudient un sujet ou qui forment, en quelque sorte, une communauté de pratique. Les avocats ont leur jargon, les décideurs politiques aussi, les sociologues, les historiens, et les ingénieurs et les philosophes ont eux aussi leur propre vocabulaire, n'est-ce pas ? Souvent, nous partageons les mêmes mots. Un mot comme « sécurité », par exemple, semble avoir exactement la même signification pour un ingénieur que pour un philosophe. Mais quand on se retrouve dans une salle remplie de philosophes et qu'on parle de sécurité, par exemple de la sécurité de l'IA, puis qu'on se retrouve dans une salle remplie d'ingénieurs ou de décideurs politiques, d'ailleurs, et qu'on parle de sécurité.
Jason Millar: [00:05:39] On se rend compte que, la plupart du temps, ils parlent de choses similaires, mais dont la mise en œuvre est très différente. Ainsi, pour quelqu’un qui travaille dans les sciences humaines, la philosophie, l’éthique ou la sociologie, la sécurité peut signifier se soucier du bien-être d’un individu, ce qui peut inclure son bien-être mental, son bien-être physique, etc., et cela peut se traduire par toutes sortes de discussions visant à l’aider à entretenir des relations saines, quelles qu’elles soient. On commence à se rendre compte que, le plus souvent, ils parlent de choses similaires ; je veux dire, il peut s'agir de concepts ou d'idées qui relèvent de ce domaine de la sécurité. On se place dans un contexte d'ingénierie et, vous savez, on discute avec des gens qui pratiquent ce qu'on appelle, entre guillemets, « l'ingénierie de la sécurité », qui a une longue histoire dans la profession. Et là, cela n'a qu'un lien indirect avec le genre de choses dont les philosophes pourraient parler dans un contexte d'ingénierie. L'ingénierie de sécurité, c'est souvent, disons, lorsque vous développez une voiture et que vous vous occupez de l'ingénierie de sécurité de ce véhicule. Dans ce cas, vous devrez effectuer toute une série de tests sur différents sous-systèmes, comme le système de freinage ou le système de direction, afin de vous assurer que leur conception et leur fonctionnement sont parfaitement prévisibles et qu’ils réussissent ces tests. Par exemple, vous devrez concevoir le système de telle sorte que, si vous exercez une certaine force sur la pédale de frein. Il permet de ralentir le véhicule d'une vitesse donnée à une autre vitesse donnée sur une certaine distance.
Jason Millar: [00:07:02] C'est donc très mathématique, très objectif, très axé sur les expériences en laboratoire, n'est-ce pas ? Des chiffres, des forces, des accélérations et tout ce genre de choses. Mais on ne parle pas vraiment de ce que cela signifie pour le bonheur d'une personne ou pour son intégrité physique. Le lien n'est que très indirect. Il existe bien, sans aucun doute, mais ce sont des concepts qui ont la même consonance. Ainsi, si vous êtes dans une pièce et qu’un philosophe déclare : « Nous avons besoin d’une technologie plus sûre », les ingénieurs risquent d’entendre quelque chose de très différent de ce que le philosophe voulait réellement dire, car celui-ci fait peut-être référence à ces autres aspects. Il y a donc une « traduction » qui s’opère entre le mot « sécurité » et le protocole de tests auquel les ingénieurs doivent se soumettre. Et cela demande beaucoup de travail, n’est-ce pas ? Cela nécessite de nombreuses négociations avec les autorités de régulation, les organismes de normalisation et les entreprises. Et c’est justement ce genre de travail de traduction qui m’intéresse : essayer de comprendre comment passer de ces concepts que nous avons d’un côté à des pratiques d’ingénierie concrètes de l’autre. C’est donc cette dimension de traduction qui entre en jeu, en quelque sorte pour quantifier le tout et s’assurer que cela reflète fidèlement les intentions que, disons, une personne lambda aurait. Quand on dit : « Tiens, je veux savoir si ce véhicule est sûr ou non. » Eh bien, maintenant, nous voulons savoir si L'IA est-elle sûre ou non ? Il reste encore beaucoup de travail à accomplir pour y parvenir, n'est-ce pas ?
Elizabeth Dubois: [00:08:20] En tant que professeur de méthodologie, cela me fait penser au passage de la conceptualisation d’une variable à son opérationnalisation, n’est-ce pas ? Par exemple, si vous voulez mesurer le niveau de sécurité d’une chose, la « sécurité » peut recouvrir toute une série de notions différentes. Il faut d’abord cerner précisément, sur le plan conceptuel, ce que vous entendez par « sécurité ». Ensuite, il faut aller encore plus loin dans la nuance pour aboutir à une définition précise, du type : « Voici exactement comment nous allons mesurer si cette chose est sûre ou non. » Voici les critères très précis que nous recherchons.
Jason Millar: [00:08:49] Exactement
Elizabeth Dubois: [00:08:50] Et donc, c'est un processus vraiment, vraiment complexe et difficile. Et quand on réfléchit aux types de risques auxquels l'IA nous oblige à penser, on pense notamment à des impacts environnementaux considérables. Oui, il y a des questions de sécurité physique, mais aussi des aspects liés à la santé mentale ou aux répercussions sur la démocratie et la résilience démocratique. Ou encore, il y a tout simplement des enjeux énormes, vraiment énormes, qui n'ont pratiquement rien à voir avec la sécurité physique, c'est, selon moi, la façon principale dont les ingénieurs ont tendance à envisager la sécurité. Peut-être que je ne suis pas ingénieur. Peut-être que je me trompe. Je vous laisse en juger.
Jason Millar: [00:09:31] Non, je veux dire, et c'est là toute la perspicacité : vous savez, nous… Et c'est aussi ce qui permet de garder espoir, n'est-ce pas ? Donc oui, c'est vrai. Dans le domaine de l’ingénierie, nous avons une longue tradition de réflexion sur la sécurité, qui s’accompagne souvent de résistances. Si l’on regarde l’histoire, tu vois, élargir ces concepts s’accompagne d’une lutte, de défis pour convaincre un groupe de personnes de changer radicalement leur façon de penser […] leur travail au quotidien, n’est-ce pas ? Mhm. Bon, d’accord, mais ce qu’il faut retenir, c’est que nous avons abordé cette question sous l’angle de la sécurité dans une certaine mesure. Et maintenant, je pense que nous sommes entrés dans une période où nous élargissons radicalement ce concept pour y inclure de nombreux autres types de sécurité. Vous savez, traditionnellement, les ingénieurs n’avaient pas vraiment à se poser ce genre de questions. Et aujourd’hui, ça fait partie de la sécurité. Si vous parlez de l’intégrité de votre système politique, je peux vous garantir que ce n’est pas quelque chose qui nous avons clairement transposé cela, tu sais, dans les tests, les spécifications de test et tout ça, dans, dans, dans des contextes d’ingénierie, n’est-ce pas ? C’est un peu comme entamer une toute nouvelle discussion que nous essayons justement de cerner en ce moment, même si, tu sais, du côté des sciences humaines, nous reconnaissons depuis un certain temps déjà comment fonctionne la désinformation et comment ces plateformes, ainsi que la manière dont elles utilisent l’IA, exacerbent ces problèmes. Nous le savons, nous en sommes conscients depuis longtemps, mais le véritable défi qui reste à relever est de traduire cela en pratiques concrètes.
Elizabeth Dubois: [00:10:57] Ouais. Ouais. En fait, j’ai mené une petite expérience avec Fenwick McKelvey, qui est professeur à l’université Concordia, et quelques-uns de ses étudiants. Il y a quelque temps, on s’est penchés sur les outils les plus populaires du genre, comme ChatGPT, Gemini Copilot, etc., et on a essayé de les tester pour voir si on pouvait réellement créer de la désinformation politique. Par exemple, pouvons-nous leur faire générer des messages de la longueur d’un tweet, complètement fictifs, susceptibles de nuire à une élection, ce genre de choses. Et, tu sais, la plupart d’entre eux, c’était du genre : « Ouais, bien sûr, voilà. » Et puis quelques-uns ont dit : « Tu ne peux pas nous parler de politique. » Mais ensuite, tu recadres la discussion en disant, par exemple, que j’écris un roman et qu’on peut maintenant imaginer des scénarios. D’accord. Et donc, c’est juste un exemple parmi d’autres : on n’y réfléchit pas, ou si on y réfléchit, c’est d’une manière très spécifique et restrictive ; la manière dont on la met en pratique est vraiment étroite et précise. Mais quand on y réfléchit vraiment sous l'angle des sciences sociales et humaines, c'est comme si on passait à côté de l'ensemble des implications de cette question pour l'intégrité démocratique.
Jason Millar: [00:12:06] Oui. C'est ça. Tu veux dire, tu essaies de demander : « Comment perçois-tu l'IA aujourd'hui ? » Je veux dire, pour ceux qui travaillent dans le domaine de l'IA, ça recouvre énormément de choses. Pour la plupart d’entre nous, ça ressemble à ChatGPT, n’est-ce pas ? Dans la mesure où le grand public interagit avec l’IA de manière délibérée et en toute connaissance de cause, c’est quand il utilise la console ChatGPT, n’est-ce pas ? Et il pose des questions et demande à l’IA de l’aider, par exemple à rechercher des informations intéressantes sur le Web ou à résoudre des problèmes. Je fais ça, je le fais tout le temps. Et je m’en rends compte de plus en plus, parce que ça aide vraiment beaucoup. Mais on se rend très vite compte qu’on joue à un grand jeu de langage avec l’IA. Et le problème, c’est que l’IA semble passer à côté du contexte. Du coup, comme tu l’as dit, il suffit de reformuler légèrement ta question pour lui faire croire que tu fais quelque chose de différent. C’est très facile de convaincre une IA de te donner certaines informations, Tout dépend de la manière dont vous découpez l’ensemble des activités que vous lui demandez d’effectuer, ce qui, vous savez, vous aiderait à avoir cette vue d’ensemble des informations que les responsables de la sécurité pourraient essayer d’intégrer dans la conception du système, mais vous n’y arrivez pas. C’est vraiment difficile à faire. Ouais. Quand on se livre à ces jeux de mots. C'est comme quand on demande à un enfant de reformuler légèrement sa phrase, et tout à coup, l'enfant adhère complètement, du genre : « Oh, tu ne veux pas aller te coucher ? Bon, écoute, je vais te proposer un truc. Et si tu allais te préparer pour l'heure du conte ? » Comme si, tu vois, ce n'était pas forcément l'heure d'aller se coucher, mais plutôt l'heure du conte. Tu vois, l'IA, c'est un peu comme ça, voire beaucoup comme ça, dans de nombreux cas.
Elizabeth Dubois: [00:13:37] Ouais, ouais. L'idée même de… enfin, de devoir apprendre à le « guider » revient aussi à, ouais, apprendre à le « guider » pour contourner les mesures de sécurité qui ont été mises en place. Eh bien, dans ce cas, ce n’est pas vraiment un bon dispositif de sécurité si on peut facilement le contourner. Et on se retrouve donc face à ce genre de problème technique, même si on peut aussi se demander : s’agit-il vraiment d’un problème technique ? Est-ce réellement une limite nécessaire pour ces plateformes ? Ou alors, si les ingénieurs estimaient que leur rôle était de résoudre le problème d’une autre manière, ou s’il existait une meilleure traduction telle que vous la décrivez… En fait, ce que j’essaie de dire, c’est : comment résoudre ce problème, n’est-ce pas ? À l’heure actuelle, on s’est d’abord intéressé aux outils d’IA générative en particulier, ainsi qu’aux outils de type chatbot, c’est-à-dire les agents conversationnels. D’accord. Il y a ces préjudices. Ce sont des préjudices sociétaux et des préjudices non physiques auxquels on ne pense pas forcément pour l’instant ou intégrées aux pratiques existantes en matière de sécurité technique ou aux pratiques responsables en matière d’IA. Par exemple, que faisons-nous –
Jason Millar: [00:14:43] Comme ces gens qui nouent des liens affectifs profonds avec des chatbots, n'est-ce pas ?
Elizabeth Dubois: [00:14:47] Exactement
Jason Millar: [00:14:48] Tu sais, il n'y a pas de formation spécifique là-dessus, comme dans une école d'ingénieurs ou de sciences de l'informatique, n'est-ce pas ? Ou du moins, il n'y en avait pas il y a quatre ou cinq ans, quand ils ont commencé à construire ces engins pour la première fois.
Elizabeth Dubois: [00:14:57] Alors, qu'est-ce qu'on fait ?
Jason Millar: [00:15:00] Ouais. Je veux dire, tu sais, l’un des aspects intéressants de l’IA et peut-être de la robotique, […] tu sais, quand on voit ces images de… J’ai regardé une vidéo et, tu vois, si tu vas sur Instagram et que tu cherches la vidéo de ce robot qui donne un coup de pied à un petit enfant, un de ces robots humanoïdes qui fait une sorte de… disons, une démonstration de kung-fu. Enfin, d’après ce que j’ai pu comprendre, c’est ce qu’il faisait. Et c'est juste que, vous voyez, la technologie en est encore à un stade où elle n'est pas tout à fait capable de comprendre réellement où elle se trouve, quels sont les objets qui l'entourent, et d'élaborer une sorte de série d'instructions internes pour vraiment protéger ces objets qui l'entourent. Par exemple, ces engins donnent des coups de pied dans les téléviseurs, dans une chaise, dans tout ce qui se trouve à leur portée par accident, y compris les petits enfants. Et on voit ces vidéos où des petits enfants se blessent à cause de ces engins. Vous savez, comme pour l’IA, nous en sommes actuellement à un stade où ce qui est intéressant, c’est que nous mettons ces technologies à la disposition du public dans ces contextes sociaux, et que nous menons simplement ces expériences à grande échelle sans même avoir mis en place ce genre de contrôles de sécurité. N'est-ce pas ? Il n'y a vraiment aucun cas de figure où il devrait être acceptable de mettre un robot dans une pièce avec des enfants. Et il y a un risque réel que l'un de ces enfants soit blessé physiquement. Et pourtant, il y a cette vidéo, vous savez, dans notre laboratoire, le Laboratoire canadien de conception éthique en robotique et en intelligence artificielle. On l'appelle CRAiEDL. Dans le cadre de notre travail, il y a trois domaines qui se recoupent et qui, selon nous, sont toujours étroitement liés les uns aux autres.
Jason Millar: [00:16:39] Ce sont donc, vous savez, les enjeux éthiques sous-jacents que nous essayons de comprendre : par exemple, à quels types de questions éthiques devons-nous faire face avec ces technologies ? Quelles questions soulèvent-elles ? Quel type de pratiques d'ingénierie pouvons-nous adopter pour aider les concepteurs de ces systèmes à éviter ou à gérer ces enjeux éthiques, car il existe des moyens d'y parvenir ? Et puis, quel est le contexte politique dans lequel nous évoluons ici, et quelle part de la charge de travail incombe aux ingénieurs, compte tenu du fait que, dans de nombreux cas, l’absence de politiques ou de réglementations ne leur facilite pas la tâche ? À l’heure actuelle, nous sommes donc confrontés à un environnement réglementaire qui ne prévoit aucune véritable protection face aux problèmes dont nous parlons. L’aspect physique. Oui. Par exemple, en Amérique du Nord, si quelqu’un installe un robot dans une pièce et que celui-ci donnait un coup de pied à un enfant, il y aurait des poursuites judiciaires et, vous savez, les ingénieurs risqueraient même de perdre leur droit d’exercer, d’être condamnés à une amende, voire pire, d’aller en prison. C’est vrai qu’on a déjà mis en place certaines de ces mesures de sécurité. Et pourtant, [rires] donc, vous voyez, on essaie de comprendre quel cadre réglementaire il faudrait mettre en place pour éliminer certains de ces problèmes très élémentaires. Et il est possible que les ingénieurs chargés de ces technologies n’aient pas vraiment les moyens de résoudre ces problèmes, car ce sont des problèmes complexes. Comment faire en sorte qu’un modèle de langage de grande envergure (LLM) comprenne le contexte linguistique dans lequel il évolue ? Et qu’il comprenne que vous ou on essaie peut-être de le piéger pour qu'il nous donne des informations, en reformulant les questions et ce genre de choses.
Jason Millar: [00:18:17] Si les ingénieurs ne sont pas en mesure de mettre en place des mesures de sécurité pour se prémunir contre ce genre de comportement, cela soulève alors de réelles questions : est-ce que, disons, les avantages l'emportent à ce stade tellement sur les risques que nous sommes prêts à accepter cela dans notre société ? Je veux dire, j'ai moi-même des doutes à ce sujet. Cela fait partie intégrante de notre travail. Il y a certes beaucoup de choses incroyables que l’IA peut faire. Je ne suis pas sûr qu’il soit nécessaire de disposer de LLM accessibles au grand public avec toutes ces informations intégrées afin de bénéficier des avantages dont vous pourriez autrement profiter. Je pense que les gens commencent à se rendre compte que nous avons, en réalité, complètement raté notre coup en ce qui concerne la mise en place d’un environnement d’IA capable d’assurer une diffusion et une utilisation à grande échelle. Et c’est… mais c’est un problème grave. Ce qui est intéressant, c’est que la question qui se pose est la suivante : « Bon, alors que faire ? Comment réglementer ? » Je ne sais pas très bien comment, vous savez, à mesure que l’on suit de plus en plus cette actualité. Ce que je trouve intéressant, c’est que, vous savez, quand j’écoute des podcasts ou des interviews de certains dirigeants et de personnes qui consacrent vraiment tout leur temps à essayer de comprendre comment savoir comment garantir la sécurité de l'IA, ils sont un peu à court de mots. Et c'est quelque chose que je trouve inquiétant : cela me laisse penser que nous nous sommes engagés sur une voie qui pourrait bien déboucher sur des conséquences néfastes.
Elizabeth Dubois: [00:19:37] Oui. J’ai l’impression qu’on a simplement accepté, pris pour acquis, que les choix se résumaient à « l’IA est activée » ou « l’IA est désactivée ». Et au moment où on a été confrontés à ce choix, on avait l’impression que le train était déjà parti. Du coup, on s’est dit : « Bon, on ne peut pas tout freiner. » Je suppose donc qu’on va devoir essayer de nous lancer dans l’IA. C’est le gouvernement qui dit qu’il faut rattraper notre retard. Nous devons en faire partie. C’est là que va la croissance. Et donc, tout cet argent et tout cet enthousiasme ont été investis là-dedans. Mais nous n’avons pas pris le temps de réfléchir : « Bon, peut-être que l’IA pourrait prendre une forme différente. » Et la manière dont cela devrait être mis en œuvre pourrait être encadrée. Comme ce que tu disais à propos du fait que ces modèles de langage (LLM) n’ont pas besoin d’être capables de tout faire correctement. On pourrait les restreindre, on pourrait les contextualiser. On pourrait fixer des limites dans les cas où il y a un problème de sécurité ou un risque potentiel, mais on n’en est tout simplement pas encore là. Alors peut-être ne pas déployer cette composante tant que ce n’est pas le cas… Je veux dire, est-il trop tard pour avoir ces discussions ? Où allons-nous maintenant que nous en sommes à ce stade où il n’y a pas de réponses satisfaisantes à certaines de ces questions ? Minimiser les risques et donner la priorité aux questions de sécurité.
Jason Millar: [00:20:54] Ouais. Je veux dire, tu sais, la technologie est tellement, tellement accessible aujourd’hui, les connaissances nécessaires pour la mettre en œuvre sont à la portée de tous et les coûts sont relativement faibles. Bien sûr, si tu essaies de construire l’un de ces immenses centres de données, ça va te coûter une fortune. Mais il existe aussi des modèles open source plus modestes, tu sais, qui sont désormais disponibles partout. Il y en a tellement qui sortent de Chine, voire même de Meta. Et si vous allez sur Hugging Face, vous pouvez trouver ces outils, ils sont à la portée de tous. On ne peut vraiment pas dire qu’on puisse faire marche arrière maintenant. Je veux dire, bien sûr, oui, on le peut. En théorie, on a le contrôle pour l’instant de toute façon, alors que les « yeux » ne le contrôlent clairement pas. Mais, tu sais, on a passé des années et des années au début du débat sur l’IA. Il y avait en quelque sorte deux camps en matière d’éthique de l’IA, parmi les partisans d’une IA responsable. Pour parler très globalement, il y avait ceux qui s’inquiétaient beaucoup du risque existentiel. « Oh, les IA vont tout détruire. Elles vont causer de graves dommages à l’humanité. Il faut qu’on commence à étudier les problèmes liés au risque existentiel », face à ceux – dont je faisais partie – qui disaient plutôt : « Hé, est-ce qu’on peut simplement s’assurer qu’on dispose de boutons d’arrêt sur ces systèmes, pour que, quel que soit le système mis en place, ils ne partent pas dans tous les sens et n’agissent pas sans contrôle humain significatif, sans véritable supervision ? Et si nous ne parvenons pas à mettre en place une surveillance efficace, alors nous [...] devons trouver comment gérer les petits détails, comme la manière de se prémunir contre les petits préjudices, la désinformation et tout ce genre de choses. Il faut sévir là-dessus. »
Jason Millar: [00:22:38] Mais, vous savez, le risque existentiel est en quelque sorte un problème « sexy ». C’est le problème « Terminator », n’est-ce pas ? Du point de vue des politiques publiques et du financement de la recherche, d’importantes ressources y ont donc été consacrées. Le défi, c’est qu’on pense toujours à cet avenir hypothétique. On ne se concentre jamais vraiment sur les risques et les dégâts que l’on cause aujourd’hui. Et si l’on parvenait à régler les petits problèmes qui se posent aujourd’hui – et qui semblent insignifiants comparés à ces grands problèmes, on évitera probablement aussi les grands problèmes. C’est en tout cas l’hypothèse de travail. Mais malheureusement, nous passons beaucoup de temps à réfléchir à ces scénarios futurs où l’on se dit : « Et si nous avions ce genre de système ? Oui, ce serait grave. On ne peut pas faire ça. »
Jason Millar: [00:23:22] En attendant, c’est exactement ce qu’on fait ici. Voilà donc ma façon un peu longue de dire que, vous voyez, nous avons dépassé le point de non-retour quand on perd de vue l’essentiel pendant si longtemps et qu’on se concentre sur ces grandes choses, comme la catastrophe qui s’annonce ? On passe à côté des petites choses, de ces millions de petites choses qui s’accumulent. Et puis tout à coup, on se rend compte : « Ouah, on ne sait pas quoi en faire. » Il existe tellement de modèles de ce genre, tant de pays différents qui les développent, tant de ressources accessibles à ceux qui veulent les utiliser. Comment faire maintenant pour, disons, revenir dix ans en arrière ? On ne peut pas, donc c’est en fait ça, le point d’interrogation. Avons-nous dépassé le point de non-retour ? Je ne vois pas clairement quelle volonté politique serait nécessaire, à défaut d’une véritable coordination internationale en matière de réglementation. Et je ne vois tout simplement pas cela se produire pour l’instant. Je n’essaie pas d’être pessimiste. C’est juste que la réalité s’impose quand on regarde autour de soi et qu’on se demande : « Bon, quelles sont les solutions concrètes ? » La réponse honnête, c’est qu’on ne sait pas vraiment quelles sont ces solutions. Vous savez, au Canada, on peut prendre des mesures qui, à ce stade, ne permettent pas d’arrêter le phénomène.
Elizabeth Dubois: [00:24:32] Oui. Il y a aussi tout un contexte géopolitique en jeu ici, dont nous n’avons pas le temps de parler aujourd’hui. Mais dans d’autres épisodes de cette saison, nous y reviendrons un peu plus en détail. Je voudrais revenir sur la question de la traduction et de la définition des normes, car je pense que cela commence à avoir une incidence sur ces petits détails : que l’on en mette en œuvre un grand nombre ou non, tu sais, 15 ans plus tard alors que nous n’en avons pas encore mis beaucoup en pratique, cela pourrait bien être ce qui fera basculer la situation. Nous savons tout de même qu’il existe ce genre de questions d’ordre pratique auxquelles il faut s’attaquer et auxquelles il faut apporter des solutions. Alors, quand on réfléchit à l’élaboration des normes, qui est chargé de s’en occuper ? Est-ce que ce sont les ingénieurs eux-mêmes qui proposent ces idées ? Dans ce cas, ça fait un peu bizarre de dire : « Tiens, les ingénieurs qui sont payés par une entreprise qui cherche à gagner beaucoup d’argent grâce à ça, déterminez quelles normes de sécurité vous devez respecter, puis veillez à les respecter. » Mais ce sont aussi eux qui disposent peut-être des connaissances techniques les plus approfondies pour comprendre quelles normes seraient appropriées ; ce sont également eux qui sont les plus éloignés des chercheurs en sciences sociotechniques, qui appréhendent les enjeux plus larges, comme le travail et les rôles nécessaires à l’élaboration de ces normes, au-delà de la simple volonté politique du gouvernement de les faire réellement respecter.
Jason Millar: [00:25:45] Ouais. Bon, voilà, je veux dire, c’est là que je vais enfiler ma casquette d’optimiste, et c’est que, peu importe si on se dirige vers, tu sais, un événement terrible qui nous obligera à nous ressaisir en tant que communauté – comme la communauté internationale – et à commencer à faire les choses différemment. Il y a toujours la possibilité de faire les choses différemment, n’est-ce pas ? Donc […] on finira peut-être par souffrir un peu plus en chemin avant d’y arriver ou de mieux faire les choses. Exactement. Je suis donc optimiste dans ce sens-là. Il existe des solutions à ces problèmes. Nous avons simplement besoin de motivation pour y parvenir. C’est là que les choses se compliquent à nouveau. Mais c’est la réalité dans laquelle nous évoluons. L’une des approches consiste donc à, vous savez, changer petit à petit, mais [...] de manière très délibérée et intentionnelle, la façon dont les ingénieurs appréhendent leur responsabilité. Les ingénieurs et les technologues en informatique, en général, comprennent leur responsabilité vis-à-vis de la technologie. N’est-ce pas ? Lorsque je conçois quelque chose en tant qu’ingénieur, de quoi dois-je réellement tenir compte ? Simplement parce qu’on m’a dit et que j’ai été socialisé à croire que c’est la bonne façon de procéder, n’est-ce pas ? Nous pensons que la plupart des ingénieurs sortent aujourd’hui de l’université avec la conviction qu’ils doivent être attentifs aux préoccupations environnementales et à celles liées à la sécurité. Et maintenant, nous parlons d’élargir cette perspective. C’est donc un aspect de la question. Ce que nous voulons éviter, c'est que ces ingénieurs, une fois diplômés, intègrent des entreprises où le cadre réglementaire est tel qu'on leur fait immédiatement comprendre que tout cela n'a aucune importance.
Jason Millar: [00:27:15] « Ouais, ouais. Tu as appris ces bêtises à la fac. Voilà comment on fait les choses ici, et tu seras largement récompensé si tu les fais de la manière que je vais t’expliquer. » D’accord. C’est justement ce que nous voulons éviter. Et puis ils s’en vont et, enfin, tu sais, font fi de tout ce qu’ils ont appris sur la conception responsable. On parle donc ici d’incitations à un autre niveau, n’est-ce pas ? Des incitations au niveau de l’entreprise. C’est donc beaucoup plus compliqué. La définition de normes est une façon d’y parvenir, mais les normes sont volontaires. Les entreprises doivent se réunir et décider qu’elles veulent ces normes. Dans un monde où l’on est constamment… Et j’ai participé à ces réunions avec ces entreprises. Vous savez, j’ai travaillé pour une organisation appelée Partnership on AI. J’y ai occupé le poste de directeur de recherche pendant quelques années. C’est un vaste regroupement des plus grandes entreprises : Amazon, Apple, Google, etc. Toutes les grandes entreprises en font partie et elles discutent de ces questions. Elles parlent de s’améliorer. Elles parlent d’essayer de comprendre comment concevoir l’IA pour qu’elle ne commette pas toutes ces horreurs. Et ce que l’on réalise très vite, c’est qu’elles évoluent sur un marché incroyablement concurrentiel où, s’il n’y a pas de réglementations gouvernementales, de lois ou de mesures similaires pour les empêcher d’agir ainsi, c’est la course vers le bas.
Jason Millar: [00:28:29] Et c’est exactement là où nous en sommes aujourd’hui. Nous évoluons dans un environnement où les incitations ne sont pas correctement mises en place. Elles ne sont pas conçues pour empêcher le genre de choses qui se produisent actuellement. Elles ne sont pas conçues pour encourager l’élaboration et l’adoption de réglementations visant à prévenir certaines situations. Je veux dire, écoutez : juste après la sortie de ChatGPT il y a quelques années, de nombreux dirigeants de ces entreprises ont signé une lettre disant en substance : « Il nous faut une pause de six mois. C’est de la folie. » C’était il y a trois ans, n’est-ce pas ? Et le cadre réglementaire n’a absolument pas évolué depuis lors. La structure des incitations n’a donc pas changé d’un iota. En réalité, cette course est devenue encore plus motivante en raison des sommes colossales en jeu. Aujourd’hui, les enjeux sont colossaux. Bon, si cela ne représente pas encore une menace existentielle pour nous, c’en est clairement une pour les entreprises qui investissent des centaines de millions de dollars chaque année pour essayer de construire des centres de données, de développer des modèles et ce genre de choses, car selon elles, tout cela pourrait disparaître très rapidement si elles ne parviennent pas à devancer leurs concurrents. Et dans un environnement réglementaire pratiquement inexistant, cela signifie qu’elles sont libres de faire tout ce qu’elles veulent pour battre ces autres entreprises.
Elizabeth Dubois: [00:29:45] Oui. Ce qui n’augure rien de bon pour l’idée de, disons, ralentir un peu et réfléchir vraiment en profondeur aux causes potentielles de préjudice que nous pourrions engendrer avec ces outils.
Jason Millar: [00:29:57] C’est justement ce que les philosophes aiment faire. Réfléchir lentement, prendre son temps, bien faire les choses. Ralentir un peu. Oui. Non. C’est justement cela qui crée une friction entre les éthiciens et les ingénieurs : le délai dont on dispose pour résoudre ces problèmes. C’est comme si on avait besoin de ces réponses dès hier. Si on ne les a pas, alors on fait tout ce qu’il faut pour que ces outils soient mis sur le marché.
Elizabeth Dubois: [00:30:18] Ce que je retiens donc de cette conversation, c’est que nous avons besoin d’un ensemble d’outils, qu’il s’agisse de normes spécifiques ou de mesures particulières. La forme exacte que cela prendra reste à débattre et nécessite une réflexion approfondie, probablement menée par un large éventail de personnes cherchant à déterminer comment instaurer concrètement le niveau de sécurité que nous souhaitons. Mais nous avons également besoin d’une structure de gouvernance et d’un processus de mise en œuvre pour y parvenir, car le système actuel n’incite en rien à la création de tout cela. Et puis, il nous faut également instaurer chez les ingénieurs une culture selon laquelle « en réalité, c’est à nous qu’il incombe d’y réfléchir et de le mettre en œuvre », et il faut obtenir l’adhésion des personnes qui créent ces outils ; car, que ces outils existent ou non, et qu’une structure de gouvernance soit en place ou non, ce sont vraiment les personnes chargées de les mettre en œuvre qui doivent se dire : « Oui, c’est mon travail et cela me tient à cœur. » Exactement.
Jason Millar: [00:31:12] C'est exact. L'objectif ici est de créer autant de raisons et d'incitations que possible pour que les gens agissent correctement. Et pour l'instant, nous ne faisons pas tout ce qui est humainement possible. Mais nous en discutons et nous développons ces outils. Nous mettons donc au point des méthodes que nous utilisons en classe pour enseigner aux ingénieurs et aux informaticiens à réfléchir de manière plus approfondie à ces questions. Je veux dire, écoutez, à moins de leur proposer un cours leur permettant d’élargir leur compréhension de la sécurité – qu’est-ce que c’est, au juste ? – comment pourrait-on s’attendre à ce qu’ils résolvent le problème ? Ils sont occupés à étudier le couple, les bases de données et les systèmes d’exploitation. Et je ne sais pas, les engrenages et les poulies… C’étaient les cours que j’ai suivis, moi. La physique et l’électromagnétisme. Il n’y a pas d’éthique là-dedans, n’est-ce pas ? C’est comme ça que ça est abordé. Nous devons donc leur montrer où se trouvent ces points de connexion entre l’éthique et les concepts et théories qu’ils apprennent sur le plan technique. Et c’est ce que nous faisons au laboratoire. Au CRAiEDL, nous passons donc beaucoup de temps à réfléchir à la manière d’établir ces liens, à développer des outils, à les tester et à voir s’ils sont utiles ou non. Et, vous savez, nous constatons que ça marche : ce n’est pas surprenant d’enseigner l’éthique aux gens, puis de la relier à leur travail quotidien et de leur donner des outils pour mener à bien leur mission. Pourquoi cela n’aiderait-il pas ?
Elizabeth Dubois: [00:32:27] Exactement
Jason Millar: [00:32:28] Notre mission consiste vraiment à faire passer le message et à amener les gens à considérer cela comme faisant tout simplement partie de leurs responsabilités quotidiennes en tant qu'ingénieurs et informaticiens.
Elizabeth Dubois: [00:32:37] C'est formidable. C'est vraiment formidable. Et dans nos notes d'émission, nous proposons toute une série de ressources vers lesquelles nous renvoyons. Nous annotons également nos transcriptions en anglais et en français, et nous y ajouterons donc des liens vers ce genre de ressources, notamment vers CRAiEDL et d'autres ressources disponibles.
Jason Millar: [00:32:52] Magnifique
Elizabeth Dubois: [00:32:53] Nous arrivons à la fin de notre émission. Je voudrais donc conclure par la dernière question que j’ai posée à tous les invités de cette saison : selon vous, qu’est-ce qui manque actuellement aux décideurs politiques ? Autrement dit, quelle est, à votre avis, la chose qui mériterait un peu plus d’attention de leur part ?
Jason Millar: [00:33:10] Oh, il y a tellement de choses que je pourrais citer. Je vais essayer d’en choisir une qui soit la plus pertinente. Si vous pensez que les mécanismes d’incitation sont en place pour que les ingénieurs fassent les choses correctement, simplement parce qu’ils développent la technologie qui permet de faire ces choses et qui engendre ces risques, vous vous trompez. Si l’on regarde l’histoire de l’ingénierie, on se rend compte que nous n’aurions probablement pas de ceintures de sécurité dans les voitures sans la réglementation. Par conséquent, vouloir y parvenir sans réglementation revient à se bercer d’illusions. C’est tout simplement impossible.
Elizabeth Dubois: [00:33:40] C'est génial. Merci. Cette conversation a été vraiment très intéressante. Je vous remercie de m'avoir accordé un peu de votre temps.
Jason Millar: [00:33:44] Merci. C’était très plaisant.
Elizabeth Dubois: [00:33:45] Très bien. Merci de votre écoute. Voilà qui conclut notre épisode consacré à l’ingénierie éthique. Comme toujours, vous trouverez dans les notes de l’émission toute une série de liens vers différentes ressources, et vous pouvez vous rendre sur polcommtech.com pour consulter les transcriptions annotées, disponibles en anglais et en français, qui renvoient à de nombreuses autres ressources et lectures complémentaires. Cette saison de « Wonks and War Rooms » est soutenue en partie par le Bureau du vice-président à la recherche et à l’innovation de l’Université d’Ottawa, ma chaire universitaire de recherche en politique, communication et technologie, la Faculté des lettres et le Centre pour le droit, la technologie et la société. Je tiens également à préciser que j’enregistre depuis le territoire traditionnel et non cédé du peuple algonquin, et je tiens à rendre hommage au peuple algonquin en reconnaissant son lien ancestral avec ce territoire non cédé.
Commentaires