Saison 8 Épisode 2 : L'environnement de l'information, la philosophie et l'IA
Saison 8 Épisode 2 [télécharger cet épisode (MP3, 24.4 MB)]
Dans cet épisode, Elizabeth s'entretient avec Étienne Brown, professeur associé au département de philosophie de l'Université d'Ottawa. Des algorithmes de recommandation aux chatbots basés sur l'IA, Étienne a passé les dix dernières années à étudier comment la lutte pour capter l'attention remodèle le discours démocratique et pourquoi il estime que les produits d'IA devraient être soumis à une évaluation de sécurité similaire à celle des médicaments avant leur mise sur le marché. S'appuyant sur les travaux de Tim Wu concernant l'attention en tant que ressource rare et sur l'étude « La Machine Habermas » traitant de l'IA en tant que médiateur, ils explorent les enjeux éthiques liés au contrôle de l'IA en mettant en lumière le danger que représente le fait que quelques entreprises privées détiennent le pouvoir sur les informations que nous consommons.
Ressources additionnels
Lisez The Attention Merchants de Tim Wu en complément.
Consultez le rapport d’Elizabeth sur Les utilisations politiques de l’IA au Canada.
Pour plus d’informations sur l’étude consacrée aux croyances complotistes et à la manière dont le dialogue avec un chatbot IA permet de les réduire, lisez Réduire durablement les croyances complotistes grâce à des dialogues avec l’IA.
Étienne s'appuie sur les travaux d'Elizabeth concernant les « chambres d'écho » :« The echo chamber is overstated: the moderating effect of political interest and diverse media» lorsqu'on aborde la question des systèmes de recommandation .
Découvrez la tribune d'Étienne Brown, « La Silicon Valley a besoin d'un organisme de régulation indépendant », qui préconise une réglementation de l'IA à l'instar de celle de l'industrie pharmaceutique.
Contributeurs :
Animatrice : Elizabeth Dubois
Responsable de recherche : Areej El-Sharif & Sarah Pledge-Dickson
Transcription : Areej El-Sharif
Montage audio : Sarah Pledge-Dickson
Traduction : Julianne Bernier Robert
Publication et promotion : Aaron Brisson
Productrice : Sarah Pledge-Dickson
Transcription traduite de l’épisode : Saison 8, épisode 2 : L'environnement de l'information, la philosophie et l'IA
Lisez la transcription traduite ci-dessous ou téléchargez une copie dans la langue de votre choix :
Elizabeth Dubois : [00:00:05] Bienvenue dans « Wonks and War Rooms », où la théorie de la communication politique rencontre la stratégie sur le terrain. Je suis votre animatrice, Elizabeth Dubois. Je suis professeure associée et titulaire d’une chaise de recherche universitaire en politique, communication et technologie à l’Université d’Ottawa. Mes pronoms sont « elle ». Aujourd’hui, nous discutons avec Étienne Brown, qui est professeur au département de philosophie de l'Université d'Ottawa, et nous discutons de l'environnement de l'information et de l'IA. Étienne, pourriez-vous vous présenter, s'il vous plaît ?
Étienne Brown : [00:00:31] Oui. Je suis professeur associé au département de philosophie de l’Université d’Ottawa. Je travaille dans le domaine de la philosophie politique appliquée à la technologie. Depuis une dizaine d’années, je m’intéresse principalement aux réseaux sociaux et au rôle qu’ils jouent dans le discours démocratique. J’ai tendance à aborder cette question sous un angle normatif, c’est-à-dire, comme le disaient autrefois les philosophes, en me demandant : « Que devrions-nous faire face à ces phénomènes ? » Et je m’interroge de plus en plus sur l’impact de l’intelligence artificielle sur l’environnement informationnel.
Elizabeth Dubois : [00:01:06] Incroyable. Merci beaucoup d’être avec nous aujourd’hui dans ce podcast. Je suis vraiment heureuse de discuter avec vous. Nous souhaitons aborder cette notion d’environnement informationnel et l’impact de l’IA sur celui-ci. Mais je sais que vos travaux sur ces questions à savoir comment notre environnement informationnel évolue ne se sont pas lancés directement à partir de l’IA. J’ai donc pensé qu’il serait peut-être utile de remonter un peu sur le sujet, au moins jusqu’aux systèmes de recommandation, car de nombreuses technologies différentes ont façonné notre environnement informationnel au fil du temps. Les chatbots basés sur l’IA comptent parmi les plus récents, mais ce ne sont pas les seuls. Pouvez-vous nous parler un peu de cette série de technologies ?
Étienne Brown : [00:01:47] Oui, tout à fait. Je me suis intéressé aux réseaux sociaux vers 2017. À l’époque, j’étais chercheur postdoctoral à l’Université de Montréal. C’était juste après l’élection de Donald Trump, et il y avait vraiment un mouvement au sein de la philosophie, en particulier en philosophie politique et en épistémologie, qui est la branche de la philosophie qui étudie la connaissance et sa formation. Il y avait […] un véritable mouvement de philosophes qui voulaient réfléchir à ce qui venait de se passer sur le plan politique. Je pense que cela s’est produit dans de nombreuses disciplines, mais cela s’est produit sans la philosophie aussi. Et puis les philosophes ont vraiment commencé à analyser en quelque sorte les dynamiques de la communication et de la construction du savoir, ainsi que les dynamiques politiques sur les plateformes de réseaux sociaux. Mon premier projet de recherche portait donc sur la désinformation. Que devons-nous faire face à ce phénomène ? Le fait de la supprimer est-il compatible avec la liberté d’expression ? Ce genre de questions. Mais alors que je réfléchissais aux réseaux sociaux, je me suis beaucoup plus intéressée à ce qu’on pourrait appeler l’infrastructure des réseaux sociaux. Donc pas seulement au contenu, où à ce que les gens disent, mais à la manière dont les réseaux sociaux fonctionnent réellement. Et cela m’a conduite au sujet que vous avez mentionné, à savoir les algorithmes de recommandation. Donc, ces algorithmes de classement qui, en gros, alimentent nos fils d’actualité et déterminent ce que nous voyons en premier, en deuxième et en troisième position lorsque nous faisons défiler la page. Et à ce jour, je pense que ces algorithmes ont un impact assez important sur la manière dont les gens consomment l’information, la manière dont ils la partagent, ainsi que sur la qualité générale du débat public, que ce soit au Canada ou à l’étranger.
Elizabeth Dubois : [00:03:28] Oui, c'est tout à fait logique. Et ces systèmes de recommandation, vous savez, c’est pour ça que TikTok est si addictif et que Netflix sait toujours exactement ce que vous devriez regarder ensuite, et tout ce genre de choses. Mais quand on réfléchit aux répercussions politiques potentielles, vous avez déjà évoqué les questions de désinformation et d’informations erronées. Quels autres aspects considérez-vous comme pertinents dans ce contexte ? Pourquoi ? Autrement dit, pourquoi nous soucions-nous de l’environnement informationnel d’un point de vue politique ?
Étienne Brown : [00:03:57] Je pense qu’il s’agit d’un sujet classique, que vous connaissez bien, compte tenu de certains de vos travaux passés, par exemple sur les « chambres d’écho ». L’un des arguments centraux que l’on entend souvent, c’est que les systèmes de recommandation optimisent essentiellement l’engagement, n’est-ce pas ? C’est le terme technique pour dire qu’ils présentent aux utilisateurs tout type de contenu qu’ils jugent captivant ou susceptible de les faire réagir. Toute forme de réaction est bonne à prendre, n’est-ce pas ? Ça peut être de la joie, i. Ça peut être de la colère, i. Ça peut être un « j’aime », i. Ça peut être l’émoji en colère, i. Ça peut être un commentaire, ça peut être un partage. Et l’une des préoccupations générales est que cette manière de classer les contenus incite les gens à adopter des attitudes assez conflictuelles, antagonistes et polarisantes sur les réseaux sociaux, ce qui entraîne une sorte de dégradation générale du débat public. Une autre crainte est que les gens aient tendance à rechercher des contenus qui expriment des opinions qu’ils partagent déjà ou avec lesquelles ils sont d’accord. Cela peut donc avoir pour effet de créer des « chambres d’écho ». Tout cela est très controversé, n’est-ce pas ? Et je pense qu’il est important pour moi, en tant que philosophe, de me le rappeler, car ce n’est pas moi qui mène l’étude empirique. Ce sont les spécialistes en sciences sociales qui s’en chargent. C’est donc là une crainte classique. Cela m’intéresse beaucoup. Je m’intéresse beaucoup aux questions concernant le rôle que la colère devrait jouer ou peut jouer dans la politique démocratique.
Étienne Brown : [00:05:28] Il y a beaucoup de mauvais côtés. Mais je ne pense pas que ce soit uniquement négatif. Une autre question qui me préoccupe beaucoup concerne ce qu’on pourrait appeler la concentration de l’influence sur les plateformes de réseaux sociaux. N’est-ce pas ? C'est un concept qui existe en théorie démocratique. Mais je pense que lorsqu'on réfléchit à la démocratie, on considère généralement que celle-ci repose sur l'égalité et la participation équitable, euh, y compris dans le discours en ligne, n'est-ce pas ? Chacun devrait avoir une chance raisonnable de […] influencer en quelque sorte les opinions des autres. Et, espérons-le, ces opinions influencent les décideurs. Mais ce qu'on peut observer, ou ce qui a été observé sur les réseaux sociaux, c'est qu'il y a une concentration extrême de l'influence, n'est-ce pas ? Ainsi, les personnes qui attirent l’attention sur X ou Facebook constituent en réalité généralement une minorité bruyante. Et il y a un nombre important de personnes qui ne reçoivent absolument aucune attention. C’est donc intéressant d’y réfléchir. Je pense que c’est […], c’est une réflexion qui pourrait apporter une certaine complexité à cette idée selon laquelle les réseaux sociaux ont permis à chaque citoyen de faire entendre sa voix. N’est-ce pas ? Dans une certaine mesure, je pense que c’est vrai. Mais si l’on examine ces dynamiques, on constate qu’elles sont le résultat d’algorithmes de recommandation, n’est-ce pas ? Pour boucler la boucle, cela contribue également à créer ce genre d’inégalité. C’est donc un sujet qui m’intéresse particulièrement.
Elizabeth Dubois : [00:06:51] Oui. C’est extrêmement intéressant d’y réfléchir, car évidemment et je ne veux pas revenir en détail sur cette discussion, puisqu’elle a déjà été abordée dans de nombreux podcasts , il y a beaucoup de préoccupations liées à la liberté d’expression lorsqu’il s’agit de gérer un environnement informationnel désordonné ou potentiellement problématique. Il est certain que les systèmes de recommandation, par exemple, ont clairement causé certains préjudices à la société, mais on ne veut pas pour autant porter atteinte à la liberté d’expression. Cela dit, je pense qu’il est vraiment utile de se rappeler que ce n’est pas parce qu’on peut atteindre un large public sur ces plateformes que cette portée équivaut en soi à l’expression. Et cela m’amène alors à me demander comment l’IA commence à changer ce genre de choses. Je pense notamment à l’utilisation d’outils d’IA générative pour créer ces faux comptes, ou ces comptes générés par l’IA sur les plateformes, qui commencent à monopoliser la présence sur différentes plateformes. Ainsi, non seulement il y a une concentration d’influence, mais cette influence pourrait même ne pas être humaine.
Étienne Brown : [00:08:02] Oui, tout à fait. Je pense que tu as raison de faire la distinction entre le discours et la portée. C’est souvent fait, je crois, dans les débats publics. Et je pense qu’on devrait le faire. Et ce qui est intéressant sur les réseaux sociaux, c’est que si tu n’enfreins pas, disons, ce qu’on appelle souvent les « règles communautaires », n’est-ce pas, ou les règles de modération, euh, tu peux en gros dire tout ce que tu veux. On peut donc s’exprimer assez librement, mais cela ne signifie pas pour autant que les gens prêteront attention à ce que l’on dit. Et c’est intéressant, n’est-ce pas ? Car si l’on pense à ce qui se passait auparavant dans des contextes hors ligne, généralement lorsque les gens prenaient la parole sur une place publique, dans la rue, dans un parc ou lors d’une manifestation, ils avaient une assez bonne idée du public qui se trouvait devant eux. Elles se trouvaient donc dans une situation où elles pouvaient en quelque sorte évaluer quelle serait la portée de leur discours. Mais je pense que la portée est devenue beaucoup plus compliquée sur les réseaux sociaux à cause de ces algorithmes de recommandation. Il est donc parfois très difficile de savoir si votre discours retient l’attention, s’il suscite de l’intérêt ou non. [...] Et je ne pense pas que vous ayez raison de dire cela. Je ne pense pas que quiconque doive être obligé de vous prêter attention s’il n’est pas intéressé par ce que vous avez à dire. Mais en même temps, je pense bel et bien que lorsque les gens s’expriment sur les réseaux sociaux, ils le font parce qu’ils veulent communiquer avec les autres.
Étienne Brown : [00:09:19] Et cela nécessite en quelque sorte une certaine portée. Et pour revenir à ce que vous disiez tout à l’heure, il est tout à fait vrai qu’il y a de plus en plus de contenu automatisé ou généré par l’IA sur les réseaux sociaux. Et je pense qu’il n’est pas déraisonnable de considérer cela comme une sorte d’obstacle, n’est-ce pas, à la communication avec les autres, car on risque de créer une situation où les gens essaient de communiquer avec autrui, mais où l’attention de ces derniers est détournée vers du contenu automatisé, généré artificiellement. Je pense donc qu’une des choses que les algorithmes, ou plutôt les algorithmes de recommandation, ont réellement apportées à la recherche universitaire, tant en sciences sociales qu’en philosophie, c’est qu’ils ont tendance à détourner l’attention de l’expression. Et je m’intéresse toujours beaucoup à ce sujet, à ce qu’on peut appeler la répartition de l’attention, n’est-ce pas ? Ou à cette idée que l’attention est une ressource précieuse pour les individus, pour la démocratie, mais qu’elle est relativement rare, n’est-ce pas ? Hum, il y a un juriste américain, Tim Wu, qui a soulevé ce point : il a déclaré que le fait d’évoluer dans un contexte où l’attention se fait de plus en plus rare, en raison de la quantité considérable de contenu généré, modifie en quelque sorte la nature même des questions que nous souhaitons poser au sujet de l’expression. Et c’est ce genre de réflexion qui m’a le plus influencé.
Elizabeth Dubois : [00:10:35] Oui, c'est tout à fait logique. Et j'en profite pour signaler que nous disposons de transcriptions annotées. Nous aurons donc des liens vers des éléments tels que l'argument de Tim lorsque nous aborderons les impacts de l'IA ou ses impacts potentiels sur notre environnement informationnel. Que voulez-vous dire exactement ? À quel type d’IA pensez-vous ? Parce que je ne sais pas pour vous, mais je me retrouve souvent dans des conversations où les gens parlent de l’IA comme d’une révolution, et où chacun évoque des technologies complètement différentes. Alors, qu’est-ce que cela signifie pour vous ?
Étienne Brown : [00:11:07] Oui, c’est la question à un million de dollars. Et tout comme vous, j’ai participé à de nombreuses discussions où j’ai l’impression qu’on ne parle pas de la même IA. Je pense donc que les algorithmes de recommandation relèvent de l’intelligence artificielle. Je veux dire, vous savez, quand on lit des articles d’informatique datant d’il y a quelques années, on y trouve des affirmations telles que « les algorithmes de recommandation constituent l’une des applications les plus réussies de l’IA », n’est-ce pas ? Mais j’ai l’impression qu’un changement assez colossal s’est produit ces dernières années, depuis la mise à disposition du grand public du premier grand modèle linguistique, à savoir ChatGPT. Je ne pense pas que ce soit le tout premier grand modèle linguistique, mais c’est le premier à avoir été rendu public. Je crois que c’était fin 2022, en novembre. Et puis tout à coup, on a vu apparaître ces chatbots assez performants, euh, librement accessibles, auxquels on peut poser pratiquement n’importe quelle question : de quel type de chemise va-on avec ce pantalon, est-il vrai que l'atterrissage sur la Lune était un mensonge. Et je pense que de plus en plus, quand les gens parlent d’IA, c’est bien de ça dont ils parlent, n’est-ce pas ? Ils font référence à ce qu’on appelle l’IA générative. C’est-à-dire l’IA utilisée pour générer du contenu, et en particulier les grands modèles linguistiques, qui constituent une forme d’IA générative capable de produire du texte. Je pense donc que c’est désormais le cœur du débat. Mais il est important de se rappeler qu’il existe des types d’IA très différents et que différentes technologies peuvent influencer le discours démocratique de différentes manières.
Elizabeth Dubois : [00:12:41] Je pense que c’est un point vraiment important. On a souvent tendance à se concentrer sur l’IA générative et, plus particulièrement encore, sur ces applications de chatbots issues des grands modèles de langage (LLM). Et on risque ainsi de passer à côté d’autres façons dont l’IA s’intègre dans notre vie politique. J’ai donc rédigé il y a quelques années un rapport complet sur les utilisations politiques de l’IA dans la politique canadienne. Et bien sûr, ces chatbots et ce contenu synthétique en font partie. Nous avons tous entendu parler des deepfakes, mais il existe des méthodes vraiment intéressantes de collecte et d’analyse de données à très grande échelle. Tout cela repose sur l’IA, qu’il s’agisse du traitement des informations personnelles des individus ou du processus décisionnel qui détermine la conception de messages de campagne spécifiques, ce genre de choses. En résumé, le champ d’application est extrêmement vaste. Si l’on revient à cette question de l’environnement informationnel, quand on réfléchit à ces différents types d’outils, quelle pourrait être leur utilité pour les gens, n’est-ce pas ? Par exemple, on a souvent tendance à penser par défaut à […] les deepfakes. “Oh mon Dieu!”Il faut avoir peur de l’IA et de la démocratie, mais je pense qu’il y a probablement des aspects positifs. Et je suis curieuse de savoir ce que vous en pensez.
Étienne Brown : [00:14:01] Oui, tout à fait. Pour faire court et être honnête, je ne sais pas encore très bien quelle est ma position sur la question. Je pense que nous n’en sommes qu’au tout début du processus. Ça va être intéressant à observer. Comme vous l’avez mentionné, l’une des préoccupations concerne la prolifération des contenus générés artificiellement et ce que l’on peut définir comme des places publiques, ou presque, puisqu’elles appartiennent à des entités privées. Je pense encore une fois aux réseaux sociaux. Tu as évoqué les deepfakes, n’est-ce pas ? On craint en effet que des fausses informations extrêmement réalistes ne se répandent sur des plateformes comme TikTok, X et Meta. Et puis je pense que, pour moi, une autre question intéressante est de savoir ce qui va se passer lorsque les citoyens interagiront avec des chatbots ou des grands modèles linguistiques, non pas parce qu’ils cherchent à générer du contenu qu’ils publieront ailleurs. Donc pas dans le cadre d’une campagne politique, ni pour générer de la désinformation qui se propagera ailleurs sur Internet, mais simplement parce qu’ils souhaitent avoir une conversation et rechercher des informations, n’est-ce pas, pour s’informer sur le monde, ce qui est une impulsion très humaine et louable. Et puis, on constate dans le débat public, et même dans les milieux universitaires, qu’il existe une sorte de division entre les perspectives plus optimistes et celles plus pessimistes. Commençons donc par les perspectives optimistes. Certaines études ont été menées. Et encore une fois, vous savez, lorsqu’un chercheur dit que certaines études ont été menées, il faut toujours rester prudent, car il est toujours possible que, d’ici deux ans, une reproduction de cette étude échoue ou qu’une autre étude similaire aboutisse à un résultat différent.
Étienne Brown : [00:15:40] Mais certaines études montrent que, par exemple, les personnes qui adhèrent à des théories du complot et qui interagissent avec le chatbot ont tendance à abandonner progressivement ces théories, car le chatbot les remet en question avec douceur. Donc, une autre perspective optimiste […] provient d’un article intitulé « La machine de Habermas ». Donc Habermas, Jürgen Habermas, est un sociologue allemand, [qui] est connu pour défendre l’éthique du discours, n’est-ce pas ? Cette idée selon laquelle il existe une manière spécifique, rationnelle, dont nous devons interagir les uns avec les autres lorsque nous discutons de questions d’intérêt public. Et l’étude montre que lorsque des personnes sont en désaccord et qu’un chatbot joue le rôle de médiateur entre elles, il parvient parfois mieux que des médiateurs humains à créer un point de vue ou un contenu sur lequel les deux parties finiront par s’accorder, n’est-ce pas ? Je pense donc qu’il existe ce rêve que l’IA conversationnelle, autre terme désignant les chatbots, joue ce genre de rôle salutaire dans la politique démocratique. Peut-être en atténuant la polarisation, en apaisant les tensions entre les gens, peut-être en trouvant des points d’accord entre eux, peut-être en luttant contre la désinformation. Cela dépend du chatbot que l’on utilise. Je pense qu’ils sont tous programmés de manière très différente, et je pense qu’il est encore un peu trop tôt pour savoir si cela se produira réellement ou non.
Elizabeth Dubois: [00:17:05] oui
Étienne Brown : [00:17:06] Le point de vue le plus pessimiste, je dirais, consiste à dire en substance : « Méfiez-vous. Ces chatbots ont tendance à être des flagorneurs, alors ne vous attendez pas à ce qu’ils vous contredisent. Souvent, ils ne le font pas. Ils essaieront souvent de dire des choses qui vous feront vous sentir bien dans votre peau. Donc, si vous avez des opinions haineuses ou erronées, il se peut qu’il ne vous contredit pas. Il s’exprime également avec une autorité incroyable. Je ne sais pas si vous avez beaucoup interagi avec eux. Pour ma part, oui, et je ressens cet effet : quand le chatbot dit quelque chose, cela semble tout simplement vrai et fait autorité. Ce n’est qu’un point de vue, mais c’est en quelque sorte le point de vue de nulle part ou le point de vue de partout, car il a été entraîné à partir de l’ensemble d’Internet et d’autres écrits. Il est donc très facile de se laisser influencer par ce genre de discours, ce genre d’interlocuteur qui confère beaucoup de pouvoir à ceux qui les développent et décident de ce qu’ils peuvent dire et de ce qu’ils ne diront pas. Et je pense que cela marque un contraste important avec les réseaux sociaux, n’est-ce pas ? On peut s’enfermer dans une chambre d’écho sur les réseaux sociaux, mais il y a de fortes chances que, si l’on est actif sur ces réseaux, on constate en réalité ce consensus à l’œuvre. On voit en effet des personnes défendre des points de vue différents. Et ce simple fait nous rappelle en quelque sorte qu’il existe des désaccords, n’est-ce pas ? Et que les choses ne sont pas gravées dans le marbre. Et je pense que certaines personnes craignent que nous perdions cela lorsque nous interagissons avec des chatbots.
Elizabeth Dubois : [00:18:41] Oui. Et pour aller plus loin, lorsque nous interagissons avec des chatbots, comme vous l’avez mentionné, cela dépend de celui avec lequel vous discutez, de qui a créé l’outil, des mesures de sécurité mises en place, de l’usage pour lequel il a été conçu et des données d’entraînement qui lui ont été fournies. Mais la notion d’influence personnelle trouve véritablement ses racines dans ce lien social que l’on entretient. Et comme elle trouve ses racines dans le lien social, elle est alors liée à des aspects tels que la capacité à développer de la tolérance envers les autres et leurs idées, ainsi qu’à faire preuve d’empathie envers d’autres points de vue, même s’ils ne correspondent pas aux vôtres. Et je me demande dans quelle mesure ce lien social est perdu, même si l’on dispose d’un agent conversationnel par ailleurs parfait pour vous fournir les informations dont vous avez besoin et vous mettre à l’aise, alors même qu’on vous dit que vous avez tort ou quoi que ce soit d’autre.
Étienne Brown : [00:19:39] Oui, je pense que c’est une préoccupation très importante, tu sais, cette forme d’intimité, de compagnie, voire, certains iraient jusqu’à parler d’amitié, même si d’autres s’y opposerait certainement que l’on peut créer avec un agent IA. C’est un sujet sur lequel j’espère avoir l’occasion de réfléchir davantage au cours des prochaines années. D’un point de vue éthique, je trouve cela absolument fascinant. D'une manière générale, je pense que tu as raison. C'est vrai. Je pense que l'expérience que j'ai vécue, et que beaucoup de gens vivent je pense lorsqu'ils interagissent avec un chatbot, c'est que, dans un certain sens, c'est une expérience intime qui comporte très peu de risques, n'est-ce pas ? Tu es seul avec cette machine, et cette machine est programmée essentiellement pour ne jamais vraiment te faire de peine, n'est-ce pas ? On a donc l'impression que le risque est faible. On peut dire tout ce qu’on veut ; peut-être qu’il va riposter, mais s’il le fait, ce sera d’une manière extrêmement diplomate et douce. Et, je ne sais pas pour toi, mais je sais avec certitude que les interactions avec les humains, y compris les membres de ma famille et mes amis, ne se passent pas toujours ainsi, n’est-ce pas ? Les enjeux sont plus importants lors d’un dîner, ou simplement lorsque vous interagissez avec un ami : celui-ci peut très bien réagir, ou bien se mettre en colère. Je ne sais pas si vous adhérez à une théorie du complot. Un ami pourrait vous en vouloir, ou si vous dites quelque chose qu’il considère comme discriminatoire ou haineux, il pourrait se fâcher contre vous. Et puis, il y a tout ce processus de complexité et de développement de la tolérance qui s’opère. Et, vous savez, je pense que nous devons nous rappeler, même si nous avons des divergences politiques avec beaucoup de gens qui nous entourent, que nous avons des points communs avec eux. Qu'il s'agisse d'un membre de votre famille, peut-être quelqu'un qui vous a toujours apporté un soutien incroyable tout au long de votre vie et avec qui vous avez ce lien solide, vous savez alors qu'il est normal d'avoir parfois des désaccords et que les choses peuvent s'envenimer, mais qu'ensuite, on peut s'excuser et que tout rentre dans l'ordre.
Étienne Brown : [00:21:32] Je pense que vous avez raison de penser que peut-être […] si vous vous tournez vers une IA en laquelle vous avez confiance au lieu d’avoir ce genre de discussions, vous n’allez pas développer cette vision selon laquelle il est parfois acceptable d’être en désaccord avec certaines personnes. Et lorsque vous serez réellement confronté à un désaccord dans votre vie quotidienne, vous y réagissez très mal. N’est-ce pas ? C’est donc une préoccupation générale. Et je pense que, comme vous l’avez pressenti en posant votre question, nous touchons là à une dimension personnelle, car les compétences que nous risquons de perdre en interagissant avec une IA ne concernent pas uniquement les débats politiques. Il s’agit simplement de compétences sociales générales, n’est-ce pas ? C’est cette capacité à se sentir mal à l’aise, à traverser ce malaise, à y réfléchir rétrospectivement, pour grandir. Par conséquent, je pense que de nombreux chercheurs, dont je fais partie, s’inquiètent du fait que l’IA pourrait bien n’être qu’une sorte de nouvel environnement sans friction qui ne nous préparerait pas très bien aux interactions humaines, voire aux relations amoureuses, qui, à l’instar des relations humaines, sont constamment semées de frictions. N’est-ce pas ? Et je pense qu’être un acteur social compétent exige de développer une sorte de tolérance à ce malaise et de simplement le traverser.
Elizabeth Dubois : [00:22:47] Oui. Il y a tellement de choses à approfondir ici. Et je voudrais que nous revenions à la question de la réglementation et de l’élaboration des politiques dans ce domaine, car il existe tous ces problèmes potentiels, ces risques potentiels. Certains d’entre eux me semblent clairement relever de la compétence, par exemple, d’un gouvernement doté d’une autorité électorale chargée de garantir l’intégrité de ces élections. N’est-ce pas ? Il faut donc absolument s’assurer que ces outils n’incitent pas les gens à ne pas voter. N’est-ce pas ? Car cela va à l’encontre de tous les idéaux de la démocratie. D’un autre côté, on peut se demander si vous choisissez de ne pas vous exposer à un environnement où vous pourriez développer de bonnes compétences sociales, c’est votre choix. Et le gouvernement devrait-il intervenir pour dire : « Non, vous devez développer des compétences sociales ? » Cela me semble un peu moins évident. Je me demande si vous pourriez nous faire part de vos réflexions sur les domaines où vous voyez un besoin ou un potentiel de réglementation utile, et à quoi celle-ci pourrait ressembler, car c’est notoirement très, très difficile.
Étienne Brown : [00:23:53] Oui. La question de la réglementation me tient particulièrement à cœur. J’ai tendance à dire cela, car je pense que le tableau général qui se dessine avec les réseaux sociaux et, euh, les chatbots IA, c’est globalement une situation où, en gros, c’est l’industrie, j’entends par là ce qu’on appelle souvent les « big tech », Donc Google, Meta, TikTok [...], et désormais les grands laboratoires d’IA, OpenAI et Anthropic, X, qui développent également Grok, sont en gros ceux qui décident de ce qui doit être mis à la disposition du public, de ce qui constitue un niveau de sécurité suffisant, de ce que le chatbot IA doit pouvoir faire et ne pas faire, de ce qu’il doit pouvoir dire ou ne pas dire. Je parle de chatbots, mais ces IA sont de plus en plus capables de faire les choses correctement. On parle donc de plus en plus d’agents IA. Et j’ai l’impression, je ne sais pas si vous partagez ce sentiment, que les organismes de réglementation, le gouvernement canadien, l’Union européenne, le Royaume-Uni, courent en quelque sorte après ces laboratoires et essaient de légiférer après coup. Et des événements assez graves se sont produits à cause de cela. Il y a donc eu des cas d’adolescents qui se sont suicidés après avoir longuement échangé avec des chatbots, lesquels n’ont pas suffisamment contré leurs idées suicidaires ni tenté de les inciter à demander de l’aide. Je pense simplement que ce modèle de réglementation est globalement mauvais, n’est-ce pas ? Je l’ai déjà dit dans un article il y a quelques années, et j’en suis toujours convaincu. Je pense que c'est le meilleur modèle, ça se rapproche un peu plus de ce qui se passe dans le secteur du développement pharmaceutique, n'est-ce pas ? En gros, [...] il faut, ou plutôt il faudrait, un organisme de réglementation chargé de décider si un produit donné est suffisamment sûr, s'il a fait l'objet de tests suffisants ou s'il a été démontré qu'il est suffisamment sûr pour être mis sur le marché.
Étienne Brown : [00:25:55] Exactement. Parce que je pense que, d’une certaine manière, les citoyens démocratiques et les gouvernements démocratiques sont en quelque sorte privés d’un pouvoir qui devrait leur appartenir. Euh, je ne crois pas vraiment à l’argument selon lequel cela ralentit l’innovation. Ce serait trop dangereux. Il y a une dimension géopolitique complexe, mais je crains beaucoup que ce soit l’industrie qui décide quand un produit est prêt à être commercialisé. Exactement. [...] Je ne peux pas vous dire, vous savez, c’est une question difficile : il est difficile de savoir exactement quelle devrait être la réglementation. Mais je pense vraiment que c’est particulièrement important si l’on prévoit que des jeunes utilisent des chatbots basés sur l’IA. Et bien sûr, le gouvernement canadien [...] semble envisager d’imposer des restrictions d’âge concernant l’utilisation des plateformes de réseaux sociaux ainsi que des chatbots basés sur l’IA. Mais je pense que ce sont les gouvernements qui devraient décider à quel moment un chatbot est suffisamment sûr ou s’il est, disons, visiblement capable de réagir face à une personne qui exprime une détresse ou des pensées angoissantes. Je ne pense pas qu’on doive laisser cette décision aux personnes qui ont un intérêt financier dans la commercialisation de ces produits. Je pense que c’est toujours un mauvais système de laisser les personnes qui ont un intérêt financier dans la commercialisation d’un produit décider quand celui-ci est suffisamment sûr. C'est vrai, c'est vrai. Parce qu'il est très difficile de se placer dans une position impartiale pour être un observateur impartial. On essaie généralement d'éviter cette idée selon laquelle ce sont ceux qui peuvent s'enrichir rapidement qui devraient décider si quelque chose doit être commercialisé ou non. Je pense que ce principe général de la politique démocratique devrait s'appliquer également dans le cas de l'IA, n'est-ce pas ?
Elizabeth Dubois : [00:27:31] Oui, c’est tout à fait logique. Et quand on y réfléchit, c’est comme si les entreprises, qui ont souvent des actionnaires envers lesquels elles sont responsables, étaient clairement incitées à dire : « Oui, mon produit est tout à fait fiable ». N’est-ce pas ? Elles ne sont pas incitées à fixer des limites plus strictes ni à analyser en profondeur toutes les conséquences possibles de leurs outils, ni même les conséquences les plus courantes de leur utilisation, n’est-ce pas ? Parce que tout cela est peut-être impossible, mais le système actuel ne les incite pas à le faire. Et donc, quand on réfléchit à la manière dont une meilleure réglementation pourrait fonctionner, je pense que vous avez raison : il faut vraiment séparer les personnes qui créent les outils et en tirent profit de celles qui décident s’ils sont suffisamment sûrs ou non. Je me demande s’il y a d’autres acteurs dont nous devons tenir compte dans ce débat sur la question de la responsabilité. Nous avons brièvement évoqué les créateurs des outils ou des plateformes, ainsi que les pouvoirs publics. Y a-t-il d’autres acteurs qui assument une responsabilité dans notre environnement informationnel, alors que ces outils d’IA sont de plus en plus intégrés ?
Étienne Brown : [00:28:39] Oui, je pense que les utilisateurs ont une certaine responsabilité. Il y a une partie de moi, je le dis souvent à mes collègues, n’est-ce pas ? Une partie de moi est en colère à l’idée que ce soit aux utilisateurs de faire ce travail. Les universitaires, les étudiants, tous les citoyens qui souhaitent participer au débat public. Parce que j’ai l’impression qu’on leur a mis des bâtons dans les roues. Ils sont en train de semer le chaos dans le monde de l’éducation, en politique. Et maintenant, je pense qu’on doit décider individuellement de ce qui constitue une bonne utilisation de l’intelligence artificielle, n’est-ce pas ? Ça m’agace un peu de devoir faire ce travail [rires] parce que, en fait, je n’en avais pas vraiment envie. J’étais plutôt satisfait de la situation telle qu’elle était, mais je ne veux pas non plus être ce genre de personne qui décide simplement de ne pas toucher à l’IA d’aucune manière ou d’essayer de préserver la société d’avant l’IA. Je ne pense pas que ce soit réaliste. Je pense donc que tout le monde doit s’y mettre. Et je pense que c’est un travail personnel d’ordre éthique. Je pense que tout le monde doit le faire. Je pense donc que nous devrions le faire. Mais je pense que nous avons le droit d’être agacés par le fait de devoir le faire, car j’ai l’impression que personne n’a vraiment demandé à se retrouver dans cette situation. Je ne sais pas ce que vous en pensez.
Elizabeth Dubois : [00:29:52] Je suis tout à fait d’accord. Je pense que, pour ma part, lorsque j’utilise des outils d’IA générative en particulier, et depuis que j’ai commencé à m’intéresser davantage aux agents conversationnels, l’objectif est simplement de déterminer ce qu’ils peuvent faire et ce qu’ils ne peuvent pas faire, de comprendre leurs limites. Et je me sens vraiment chanceux d’avoir suivi tout mon parcours scolaire sans ces outils, ce qui m’a permis de développer toutes ces capacités de réflexion critique afin de pouvoir, je pense, évaluer de manière raisonnable du moins je l’espère, ce que ces outils produisent lorsque je leur donne des instructions. Mais avant de vous laisser partir, je tenais à vous poser la dernière question, qui sera pareil à tous les épisodes de cette saison : d’un point de vue philosophique, que souhaiteriez-vous que les décideurs politiques sachent et qui, selon vous, leur échappe peut-être ?
Étienne Brown : [00:30:44] Oui. L’un de mes arguments récurrents, et cela vaut aussi bien pour la réflexion sur les réseaux sociaux que pour les chatbots basés sur l’IA, deux éléments qui sont au cœur de la politique numérique canadienne actuelle, avec le projet de loi C-34 par exemple, c’est qu’il y a eu beaucoup de débats publics, disons, au cours de la dernière décennie, sur ce qu’on peut appeler les « méfaits des plateformes », dont certains ont été abordés dans cet épisode. N’est-ce pas ? Je pense notamment à la désinformation, aux discours de haine, à la polarisation, aux chambres d’écho, à la dépendance numérique et à la radicalisation. Il y a de très bonnes raisons de s’interroger là-dessus, n’est-ce pas ? Nous ne voulons pas de plateformes qui nuisent aux gens. Nous ne voulons pas de chatbots qui nuisent aux gens. Les spécialistes en sciences sociales sont, je pense, les mieux placés pour étudier la nature de ces préjudices. Mais il y a une autre question qui est au cœur même de la philosophie politique. Cela a toujours été l’une de mes préoccupations, et ce d’autant plus avec ces laboratoires d’IA incroyablement puissants et qui ne cessent de gagner en puissance. Et c’est la question du pouvoir. Encore une fois, nous l’avons déjà évoquée, mais indépendamment des effets des plateformes de réseaux sociaux et des chatbots basés sur l’IA, indépendamment de leurs effets néfastes, je pense que nous devons sérieusement nous demander si nous voulons ou non vivre dans une société où quelques entreprises privées ont un poids incroyable sur les informations que nous consommons […] directement sur les plateformes de réseaux sociaux lorsque nous interagissons avec des chatbots basés sur l’IA. Je pense que c'est dangereux. Je pense que ce type de concentration du pouvoir et de l'influence au sein d'une économie capitaliste, où les gens sont incités à commercialiser des produits pour gagner de l'argent, constitue une situation dangereuse. C'est pourquoi, dans mon travail, je m'appuie de plus en plus sur une perspective philosophique selon laquelle la concentration même du pouvoir privé est néfaste et dangereuse, et qu'il faut l'éviter.
Étienne Brown : [00:32:46] Si je peux inviter les responsables politiques, voire les chercheurs d’autres disciplines, à réfléchir à cette question, je dirais qu’il faudrait notamment s’interroger davantage sur la dispersion de ce type de pouvoir concentré. Et je pense [...] qu’il existe une très belle synergie, voire une complémentarité, entre les informaticiens, les spécialistes des sciences sociales et les philosophes politiques. C’est vrai. Je ne suis pas en mesure de vous dire si les plateformes polarisent la société. Je ne peux pas mener cette étude. Ce n’est pas mon rôle. Mais je peux réfléchir au risque inhérent à ce type de concentration du pouvoir. Je pense donc simplement que nous devrions réfléchir à la fois aux préjudices et au pouvoir, et pas seulement aux préjudices. J’irais même plus loin en disant, du point de vue de la démocratie ou de la théorie démocratique, à l’instar de la manière dont les philosophes conçoivent la démocratie. Si quelqu’un détient un pouvoir incontrôlé sur vous, sans avoir à rendre de comptes, vous vous trouvez dans une relation d’inégalité, n’est-ce pas ? Et vous pourriez considérer l’existence même de cette relation, ou ce type de hiérarchie qui existe entre vous et le détenteur du pouvoir, comme un affront à votre égalité fondamentale en tant que citoyens démocratiques, n’est-ce pas ? Ce genre de dignité fondamentale et égale est, je pense, quelque chose que beaucoup de gens chérissent. En tout cas, moi, je la chéris. Donc oui, je pense que nous devrions réfléchir davantage au pouvoir. C’est l’une des choses auxquelles j’aime réfléchir et qui me rend heureux lorsque je lis de la philosophie politique.
Elizabeth Dubois : [00:34:07] Formidable. Merci beaucoup. Cette conversation a été vraiment très agréable et intéressante. Vous trouverez toutes sortes de liens vers diverses ressources dans les notes de l'émission pour ceux qui souhaitent approfondir le sujet. Mais pour l'instant, je tiens à vous remercier de nous avoir accordé votre temps.
Étienne Brown : [00:34:20] Merci à toi, Élizabeth. C'était une discussion passionnante.
Elizabeth Dubois : [00:34:24] Très bien. Merci de votre écoute. Voilà qui conclut notre épisode consacré à l’environnement de l’information et à l’IA. J’espère que vous l’avez apprécié. Comme toujours, vous trouverez dans les notes de l’émission toute une série de liens vers différentes ressources, et vous pouvez vous rendre sur polcommtech.com pour consulter les transcriptions annotées disponibles en anglais et en français, ainsi que de nombreuses autres ressources et suggestions de lecture complémentaire. Cette saison de « Wonks and War Rooms » est soutenue en partie par le Bureau du vice-président à la recherche et à l’innovation de l’Université d’Ottawa, ma chaise universitaire de recherche en politique, communication et technologie, la Faculté des lettres et le Centre pour le droit, la technologie et la société. Je tiens également à préciser que j’enregistre depuis le territoire traditionnel et non cédé du peuple algonquin, et je tiens à rendre hommage au peuple algonquin en reconnaissant son lien ancestral avec ce territoire non cédé.
Commentaires