Saison 8 Épisode 5 : Politique de santé et IA
Saison 8 Épisode 5 [télécharger cet épisode (MP3, 34.7 MB)]
Dans cet épisode, Elizabeth s'entretient avec Kumanan Wilson, directeur scientifique du Bruyere Health Research Institute, médecin en médecine interne à l'Hôpital d'Ottawa et cofondateur de Canimmunize, pour faire le point sur l'IA et la santé. Ils abordent des outils tels que les assistants de prise de notes basés sur l'IA. Les aides à la décision personnalisées pourraient alléger la charge de travail des cliniciens et améliorer la qualité des soins. Kumanan présente ses recherches sur la valeur des données de santé canadiennes, explique pourquoi la souveraineté des données est importante face à des lois américaines telles que le Cloud Act, et montre en quoi une collaboration entre puissances intermédiaires pourrait être utile. Il estime que les décideurs politiques devraient s'attacher à tirer parti des opportunités économiques offertes par l'innovation canadienne.
Ressources supplémentaires :
Découvrez les autres travaux de Kumanan sur Google Scholar !
Pour en savoir plus sur l’utilisation des assistants de saisie basés sur l’IA dans le secteur de la santé, lisez l’article « AI Scribes Move Quickly Into Canadian Care Settings ».
Si l’étude démontrant la supériorité des modèles ouverts par rapport aux modèles spécifiques au domaine de la santé vous intéresse, lisez l’article « General-purpose large language models outperform specialized clinical AI tools on medical benchmarks » publié dans Nature Medicine.
Consultez Amazon Web Services si vous vous intéressez aux services de cloud computing.
Si les travaux de Michael Geist vous intéressent, rendez-vous sur son site web.
Pour en savoir plus sur les dossiers médicaux électroniques (DME), consultez l’article « Electronic Medical Records (EMRs) Explained » publié par Oracle Health, anciennement Cerner.
Lisez l’article « Microsoft explique aux législateurs français qu’il ne peut pas protéger les données des utilisateurs face aux demandes américaines » pour comprendre en quoi cette affaire oblige le Canada à protéger sa souveraineté numérique, car il peut être soumis à la législation américaine.
Pour en savoir plus sur les efforts déployés par les États-Unis pour freiner les capacités d’IA de leurs adversaires étrangers, lisez l’article « Anthropic désactive ses modèles d’IA de pointe suite à une décision américaine limitant l’accès des pays étrangers ».
Consultez la transcription du discours de Mark Carney à Davos si vous souhaitez savoir comment la collaboration entre puissances intermédiaires est stratégiquement mise à profit pour contourner les restrictions américaines en matière d’IA et leur accès à nos données de santé.
Équipe de production :
Animatrice : Elizabeth Dubois
Responsable de recherche : Julianne Bernier Robert
Transcription : Areej El-Sharif
Montage audio : Sarah Pledge-Dickson
Traduction : Julianne Bernier Robert
Publication et promotion : Aaron Brisson
Productrice : Sarah Pledge-Dickson
Transcription traduite de l’épisode : Saison 8 Épisode 5 : Politique de santé et IA
Lisez la transcription traduite ci-dessous ou téléchargez une copie dans la langue de votre choix :
Elizabeth Dubois: [00:00:04] Bienvenue dans Wonks and War Rooms, où la théorie de la communication politique rencontre la stratégie de terrain. Je suis votre animatrice, Elizabeth Dubois. Je suis professeure agrégée et titulaire d'une chaire de recherche universitaire en politique, communication et technologie à l'Université d'Ottawa. Mes pronoms sont elle, la. Cette saison, nous aborderons les enjeux sociaux et politiques entourant les usages et la gouvernance de l'intelligence artificielle. Et aujourd'hui, nous nous entretenons avec le docteur Kumanan Wilson au sujet de l'IA et de la santé. Kumanan. Pouvez-vous vous présenter, s'il vous plaît ?
Kumanan Wilson: [00:00:29] Bien sûr. Je porte plusieurs casquettes. Je suis le président-directeur général et directeur scientifique de l'Institut de recherche Santé Bruyère. Je suis également titulaire d'une chaire de recherche universitaire et clinique au Département de médecine en innovation pour la santé numérique. Je suis médecin interniste en exercice à L'Hôpital d'Ottawa et cofondateur d'une entreprise de santé numérique appelée Canimmunize.
Elizabeth Dubois: [00:00:52] Merci beaucoup. Je suis vraiment ravie de vous recevoir dans cet épisode aujourd'hui. Évidemment, la santé et l'IA représentent un sujet extrêmement vaste. Et avec vos multiples casquettes, je pense que vous allez nous apporter des perspectives très intéressantes. J'ai pensé que nous pourrions peut-être commencer par nous accorder un instant sur une base commune. Lorsque je mentionne la santé et l'IA, cela peut recouvrir une multitude de choses différentes. À quoi pensez-vous lorsque je parle de santé et d'IA ?
Kumanan Wilson: [00:01:17] Je veux dire, d'abord, je suis enthousiasmé par les développements. On en parlait depuis un moment et je commençais à devenir un peu sceptique. Les gens étaient Je pensais que c'était juste du battage médiatique ou est-ce que c'est réel ? Et puis je pense que quand ChatGPT est arrivé, les gens ont commencé à se dire, oh, waouh, c'est réel. Vous savez, dans le contexte de la santé, c'est comment nous utilisons nos données pour améliorer les soins et, et les utiliser en temps réel. Pour qu'on ne fasse pas d'essai randomisé en attendant cinq ans, mais où l'on peut réellement utiliser les données à mesure qu'elles émergent afin d'améliorer continuellement notre système de santé. Et je pense que des exemples très pratiques se situent au niveau clinique, la fonctionnalité de scribe, où il peut réellement écouter les conversations et fournir les notes cliniques. Et cela a été incroyablement utile pour les prestataires de soins primaires en particulier, en réduisant le temps nécessaire pour rédiger des notes et en leur permettant d'interagir plus directement avec leurs patients. Mais au-delà de cela, je pense que cela va être très utile pour les outils d'aide à la décision clinique. Cela va nous aider à poser des diagnostics. Cela va aider à orienter la prise en charge. Je pense que ce sera un deuxième avis à bien des égards lorsque nous dispensons des soins.
Elizabeth Dubois: [00:02:25] C'est vraiment intéressant. Et en réfléchissant à la vaste gamme d'utilisations différentes, c'est intéressant, depuis le scribe jusqu'à l'aide au diagnostic. C'est un éventail assez large. Quelle place accordez-vous, dans votre réflexion, à l'utilisation d'outils d'IA par les patients ? Vous avez donc mentionné ChatGPT d'emblée. Il y a eu énormément de, oh oui, les gens utilisent ChatGPT pour comprendre des problèmes de santé et se trompent complètement. Quelle place cela occupe-t-il ?
Kumanan Wilson: [00:02:53] Eh bien, je l'avoue, enfin, comme tout le monde sur cette planète. Je l'utilise pour des problèmes de santé personnels. Donc, par exemple, si vous avez un problème musculosquelettique, j'ai trouvé cela incroyablement utile. Est-ce précis ? Je ne sais pas, mais ce que j'ai remarqué, c'est que c'est très adapté à vous en tant qu'individu. Et je pense que c'est le changement de paradigme auquel nous assistons. Les essais contrôlés randomisés sont donc la référence absolue. Mais vous savez, j'appelle cela la tyrannie de la majorité. Si l'essai indique que c'est positif, nous supposons que cela fonctionne pour tout le monde. Je sais que nous pouvons faire des analyses de sous-groupes. S'il indique un résultat négatif, nous supposons que cela ne fonctionne pour personne. Et nous savons que ce n'est pas le cas. Il y a des personnes pour qui les choses peuvent fonctionner, et d'autres pour qui ce n'est pas le cas. Et nous devons nous poser beaucoup de questions et peut-être analyser davantage les données. J'aborde cela sous l'angle de la vaccination, où nous savons que la vaccination est incroyablement efficace, bénéfique et sûre, mais il existe des sous-groupes chez lesquels nous constatons des effets néfastes. Nous ne les détectons souvent pas lors des essais cliniques parce qu'ils sont très rares, mais à l'échelle de la population, ils deviennent pertinents. Et nous avons d'ailleurs vu pendant la Covid que de jeunes hommes ont développé des myocardites. De jeunes femmes ont développé des affections thrombotiques. C'est là que je pense que l'IA commence à devenir vraiment utile. Par exemple, existe-t-il des particularités vous concernant qui pourraient modifier l'efficacité du traitement pour vous ? Et nous savons qu'avec la longévité et tout le reste, c'est ainsi que tout le monde réfléchit. Je pense donc que c'est là que je vois une opportunité vraiment passionnante. Maintenant, nous devons l'évaluer et nous assurer que cela fonctionne. Bien sûr.
Elizabeth Dubois: [00:04:16] Oui. Il y a donc ce potentiel de personnalisation, à la fois en matière de personnalisation telle que nous la concevons avec ces agents conversationnels, qui vont s'exprimer dans un registre et un langage adaptés à vous parce qu'ils ont déjà interagi avec vous, mais aussi en prenant un peu de recul, au niveau de la façon dont nous adaptons le diagnostic puis le traitement aux personnes, car il n'est pas nécessairement indispensable d'avoir des essais cliniques pour chaque pathologie rare pour un vaccin ou un traitement donné. C'est bien ce que je comprends ?
Kumanan Wilson: [00:04:47] Oui. Et il se peut que nous ne soyons pas en mesure de répondre à ces questions à cette échelle individuelle, cela demande beaucoup de puissance de calcul, et en tant que médecin, on n'a qu'une puissance de calcul limitée dans la tête, et puis on fatigue, alors que ces outils ne se fatiguent pas et ne sont jamais frustrés. Je pense donc qu'il y a tout cela, ainsi que la capacité de se souvenir de vos conversations et d'y revenir. Les humains sont formidables, mais un peu d'aide est la bienvenue.
Elizabeth Dubois: [00:05:13] Oui, c'est tout à fait logique. J'ai une amie médecin de famille, et je me souviens qu'elle me parlait de son utilisation de l'un de ces outils de transcription médicale en me disant : « Impossible, quoi que je fasse, je n'arrive jamais à me rappeler si un patient vient pour une douleur au genou gauche ou droit. » Et genre, je le savais au début de la consultation, ils l'ont répété plusieurs fois, et pourtant, à la fin du rendez-vous, je n'arrive jamais à m'en souvenir. Ce n'est pas parce que ce médecin de famille ne sait pas distinguer sa gauche de sa droite. C'est parce que nos cerveaux ne sont pas très doués pour retenir tous les petits détails. 100 % du temps quand on essaie de tout synthétiser en même temps.
Kumanan Wilson: [00:05:46] Vous savez, devrions-nous libérer notre cerveau pour une réflexion de plus haut niveau, une réflexion plus intégrative, plutôt que de nous concentrer sur les tâches ingrates, pour ainsi dire ? Laissons l'IA faire le travail ingrat. Je veux dire, je pense que l'IA peut aussi mener une réflexion de plus haut niveau, mais on peut commencer simplement par lui confier ce qui, malheureusement, a envahi une grande partie de notre vie et nous empêche d'exercer la raison pour laquelle... La raison pour laquelle nous avons décidé de devenir médecins au départ.
Elizabeth Dubois: [00:06:10] C'est vrai, c'est vrai. Et je sais que l'une des préoccupations majeures liées à l'utilisation de ce type d'outils réside dans les risques d'hallucination et la possibilité de simplement faire des erreurs. Mais je sais aussi que, souvent, les outils d'IA médicale sont conçus à partir de jeux de données plus spécifiques. Pourriez-vous nous en dire un peu plus sur l'utilisation des données de santé pour développer ces outils médicaux, et préciser si cela permet d'éviter certains des risques que l'IA générative, en particulier, est connue pour engendrer ?
Kumanan Wilson: [00:06:41] Oui, encore une fois, nous n'en sommes qu'aux débuts et j'aime à rappeler que les humains ont aussi des hallucinations. Nous avons nos propres biais cognitifs. Et beaucoup de travaux ont été menés à ce sujet. L'étude intéressante, je crois, a été publiée dans Nature : elle examinait les IA spécialisées dans la santé et les comparait aux modèles de pointe, les modèles ouverts, et ils ont en fait découvert que les modèles ouverts étaient meilleurs que ceux spécialisés dans la santé. Certaines personnes ont contesté ces conclusions. Il y a énormément d'argent dans ce domaine. Je trouve cela intéressant sur le plan philosophique, et cela montre en quelque sorte qu'en exploitant l'ensemble des données, il existe peut-être des associations et des éléments dont nous ignorons la pertinence, mais qui s'avèrent cruciaux. Et c'est un peu comme le clinicien expérimenté qui semble simplement connaître la réponse parce qu'il a assimilé tellement d'informations au fil des ans qu'il ne peut parfois même pas expliquer comment il y est parvenu. Vous savez, je me souviens qu'au début de ma formation, un clinicien expérimenté absolument formidable était remarquable, mais il ne pouvait pas nécessairement expliquer comment il parvenait à ses diagnostics, car c'était tout simplement une évidence pour lui, étant donné qu'il tirait des informations de tant de sources différentes. Vous savez, je pense que les modèles plus généralistes sont peut-être en fait meilleurs que les modèles spécialisés. Je pense que c'est un aspect que nous allons devoir examiner de très près.
Elizabeth Dubois: [00:07:52] C'est extrêmement intéressant. Je n'étais pas au courant, mais nous allons essayer de trouver cet article de Nature et de mettre le lien dans les notes de l'épisode. J'aimerais maintenant aborder un peu plus en détail certains sujets dont vous avez parlé. Vous avez publié des écrits à ce propos, tant dans des revues universitaires que pour le grand public. Et cela concerne la valeur de nos données, particulièrement les données de santé canadiennes. Et je vous ai vu écrire que l'IA rend potentiellement nos données de santé encore plus précieuses sur le plan économique, ce qui engendre des risques potentiels pour la sécurité et la surveillance. Et toute une dimension géopolitique entre en ligne de compte avant même d'aborder en détail les conflits géopolitiques ou d'autres enjeux similaires. Pourriez-vous simplement nous parler un peu de la valeur des données de santé canadiennes ?
Kumanan Wilson: [00:08:36] Bien sûr. En réalité, je vais aborder directement l'aspect géopolitique.
Elizabeth Dubois: [00:08:38] Très bien.
Kumanan Wilson: [00:08:39] Rien de tout cela ne serait une source de préoccupation, vous savez, avant les récentes élections américaines. Mais maintenant, cela doit être considéré comme une préoccupation majeure. Je veux dire, la bonne nouvelle d'un point de vue canadien, c'est que deux valeurs canadiennes fondamentales vont nous être bénéfiques sur les plans de la santé et de l'économie. Même si ce n'était pas l'objectif visé, il s'agit d'un système à payeur unique et d'une politique d'immigration. Nous disposons donc de données démographiques qui reflètent le monde entier, et c'est unique. Peu d'endroits possèdent cela. Et c'est incroyablement précieux, particulièrement lorsqu'on élabore ces modèles. Vous savez, le Danemark dispose d'excellentes données. Ils n'ont pas autant d'habitants que nous, et ils sont loin d'être aussi diversifiés que nous. C'est donc ce qui rend nos données précieuses. Et cela nous positionne pour être des chefs de file dans ce domaine. Et nous devons chercher des secteurs où nous pouvons nous démarquer dans cet environnement géopolitique. Nous devons bâtir des économies nationales. Et ces recettes fiscales sont réinvesties dans notre système de santé. Mais ces données sont précieuses pour d'autres pays. Et les États-Unis ont été incroyablement efficaces sur le plan de l'innovation, de l'entrepreneuriat et de la conquête de marchés. Et nos données pourraient avoir une valeur économique pour eux. Vous savez, elles pourraient aussi être précieuses pour eux du point de vue de la surveillance. Et c'est ce que l'USA PATRIOT Act et peut-être le CLOUD Act ont mis en lumière en tant que risques potentiels. Et voulons-nous que nos données soient également utilisées pour contrôler les personnes aux frontières ? Je veux dire, il y a deux risques distincts. Je ne veux pas qu'ils s'emparent de nos données et fassent de l'argent avec, mais ce ne serait peut-être pas si catastrophique si cela améliore les soins ici. Je refuse absolument qu'ils s'en servent à des fins de surveillance.
Elizabeth Dubois: [00:10:06] C'est exact. Oui. Et il ne s'agit pas seulement de données de santé. Il y a toutes sortes de données différentes qui sont collectées et utilisées, et qui pourraient servir à des fins de surveillance, même si elles ont été initialement recueillies et utilisées pour autre chose. Il y a ce risque lié aux préoccupations sur la vie privée, je pense, qui va même au-delà des données de santé. Mais je dirais qu'à titre individuel, voir mes données de santé être utilisées pour ce genre de choses fait partie de ce qui m'effraie le plus en ce qui concerne mes données personnelles.
Kumanan Wilson: [00:10:33] Le plus effrayant, c'est que personne n'utilise vos données. Alors, même si je déteste l'idée que des entreprises américaines utilisent nos données pour concevoir des algorithmes, je préfère encore qu'elles le fassent plutôt que personne ne le fasse. Je ne veux pas qu'on importe au Canada des algorithmes conçus à partir des données d'autres populations. Ça ne marchera tout simplement pas ici. Parce que nous sommes différents. Nous voulons avoir des données, des algorithmes et des solutions conçus à partir de notre propre population. Ce que je veux dire, c'est qu'après toutes ces années passées dans ce domaine, tant dans le secteur privé que dans le milieu universitaire, le plus grand problème au Canada, c'est que nous n'utilisons pas nos données, comme, vous savez, quand nous avons créé Canimmunize. Et l'une des préoccupations... Je me souviens d'une interview au tout début avec la CBC où on me disait : « Eh bien, et si les gens, vous savez, qu'en est-il de la sécurité, des données ? » « Et si des gens avaient accès à vos données de vaccination ? » Et la réponse. Tout le monde me disait que nous voulions que quelqu'un ait nos données de vaccination. En fait, la préoccupation n'est pas que quelqu'un ait vos données alors que vous ne le souhaitez pas, mais plutôt que personne n'ait vos données au moment où vous avez besoin qu'on les ait. Je pense donc qu'en réalité, c'est là le véritable problème. Mais évidemment, la confidentialité et la sécurité sont des préoccupations très importantes. Je pense que nous ne voulons pas qu'elles soient utilisées à des fins de surveillance ou d'assurance, mais nous voulons aussi qu'elles servent à créer des solutions. Et il y a une étude importante dans le New England Journal qui s'est penchée sur le registre des AVC, qui comportait un... On pouvait refuser d'y participer. Les personnes qui ont accepté d'y participer n'étaient pas représentatives. Elles étaient plus riches. Elles étaient plus homogènes. Je crois qu'elles étaient plus blanches. Et le risque d'une telle politique, c'est qu'ensuite nous n'obtenons pas... Si vous appliquez quelque chose basé là-dessus à une population plus large, cela pourrait ne pas fonctionner pour, vous savez, les populations à risque ou marginalisées. Nous devons donc utiliser nos données pour aider à améliorer nos soins, et nous devons les utiliser dans leur totalité.
Elizabeth Dubois: [00:12:11] N'est-ce pas ? C'est tout à fait logique. Je n'y avais pas vraiment pensé sous cet angle, mais je veux absolument quelqu'un de digne de confiance. Je dis quelqu'un, mais je veux dire, c'est en fait beaucoup de gens. Et il y aura presque certainement des intérêts commerciaux en jeu là-dedans. Ce qui m'amène à la question suivante, qui concerne la souveraineté des données. On n'arrête pas d'entendre parler de souveraineté des données, mais je ne l'ai pas entendue particulièrement bien définie. Je me demandais si vous pouviez nous donner la courte définition que vous utilisez quand vous pensez à ce qu'est la souveraineté des données.
Kumanan Wilson: [00:12:45] C'est le fait que les données créées dans ce pays soient assujetties aux lois de ce pays. C'est assez simple quant à l'origine de tout cela, et là je prends ma casquette d'entreprise, ou plutôt je n'étais pas une entreprise à l'époque. Lorsque nous avons développé Canimmunize, nous étions, je crois, l'une des premières solutions de technologies de la santé au Canada à utiliser le serveur AWS Amazon Web Services qui était situé au Canada. Ils en avaient créé un. Et nous avons... ils ont en fait rédigé une étude de cas. C'était formidable de travailler avec eux, une excellente entreprise. Mais l'idée était qu'en raison du USA PATRIOT Act, si c'était hébergé au Canada, cela ne serait pas soumis à cette loi. Et cela n'avait aucun sens pour moi, parce que c'est toujours une entreprise américaine qui détient vos données. Et puis après les récents, vous savez, problèmes survenus avec les États-Unis, j'ai appelé mon confrère juriste, Michael Geist, et il a dit : oui, cela n'a aucun sens. Et il avait écrit un article à ce sujet à l'époque. Et maintenant, le CLOUD Act en a fait un problème encore plus grand, dans la mesure où les États-Unis peuvent forcer leurs entreprises à transmettre des données. Et Microsoft a témoigné en France que si des données conservées sur le sol français sont demandées par le gouvernement américain, ils devront les transférer. Ce n'est pas un très bon témoignage pour eux, mais c'est un témoignage véridique qui a incité l'Europe, le Canada et beaucoup d'autres endroits à se dire : eh bien, comment s'assurer que nos données sont protégées, sécurisées et soumises à nos lois ?
Elizabeth Dubois: [00:14:04] Exactement. Donc protégé, sécurisé, soumis à nos lois, ce qui, selon nous, signifiait en quelque sorte que tant que c'était hébergé au Canada, cela suffisait. Mais désormais, il ne s'agit plus seulement de faire résider les données au Canada. Il faut aussi que les entreprises soient canadiennes. À quoi cela ressemble-t-il concrètement ?
Kumanan Wilson: [00:14:21] Nous avons proposé quelques options. Je pense donc que le chiffrement est nécessaire. Je pensais que le chiffrement dès la conception suffirait. Mais apparemment, si vous manipulez des données dans le cloud, elles doivent être chiffrées et des instantanés peuvent être pris. C'est pourquoi cela ne résout pas le problème à lui seul, à mon avis. La localisation des données aide. C'est donc un élément important. Mon collègue Michael a suggéré que nous intégrions une loi de blocage dans la LPRPDE, qui est la législation sur la protection de la vie privée pour le secteur privé, et ce serait analogue à ce que fait la Suisse. Ils reçoivent beaucoup de demandes concernant leurs données bancaires, et cela crée un conflit de lois, ou du moins permet de savoir que l'on s'intéresse à vos données et de pouvoir négocier. Ce sont des mesures provisoires. En fin de compte, nous voulons disposer de serveurs cloud souverains canadiens. C'est plus facile à dire qu'à faire. Les géants du cloud sont des géants du cloud pour une bonne raison. Ils possèdent des fonctionnalités et des capacités qui prennent du temps à être développées. Nous devons aller dans cette direction. Potentiellement, nous pourrions accorder une licence de leur technologie à une entreprise canadienne. Cela pourrait être une option pour au moins commencer à brûler un peu les étapes. Il y a des entreprises canadiennes de cloud qui pourraient être soutenues pour grandir. Je pense que c'est finalement ce que j'aimerais voir se produire. Il existe d'autres solutions comme les systèmes avec isolation physique, ce qui revient en fait à remonter le temps jusqu'aux années 1990, quand nous n'avions pas de Wi-Fi. Et votre système est réellement déconnecté pour que vous en ayez le contrôle. Et même s'ils le demandent, si le gouvernement américain le demande, ils ne peuvent pas le prendre. C'est donc aussi une mesure temporaire potentielle.
Elizabeth Dubois: [00:15:49] Oui, il y a beaucoup d'étapes. Et comme nous l'avons déjà dit, une grande partie de tout cela évolue et change. Et cela va donc se heurter à un ensemble d'autres éléments. Vous savez, nous avons un épisode dans cette série sur l'IA et l'environnement, où l'on se dit : d'accord, nous avons besoin de plus de puissance cloud au Canada, ce qui signifie qu'il nous faut plus de serveurs au Canada, et donc qu'il y a plus d'impacts environnementaux. Ce sera donc intéressant de voir comment tout cela évolue, en réfléchissant à toutes les différentes manières dont le fait de disposer de l'infrastructure pour l'IA aura un impact.
Kumanan Wilson: [00:16:21] Et, vous savez, une nouvelle considération — il semble toujours y en avoir une nouvelle —, c'est ce que nous avons vu le gouvernement américain faire récemment avec Anthropic, en coupant l'accès aux entités étrangères. Voulons-nous nous rendre aussi vulnérables dans notre système de santé ? Je veux dire, je pense que cela renvoie à un problème bien plus vaste : nous avons trois grands fournisseurs de DME, et ils sont tous américains, et nous avons trois grands fournisseurs de cloud, et ils sont américains.
Elizabeth Dubois: [00:16:46] C'est quoi un DME ?
Kumanan Wilson: [00:16:48] Dossiers médicaux électroniques. Epic, Meditech et Cerner sont donc les trois principaux qui soutiennent la plupart des hôpitaux. Ensuite, nous avons trois grands fournisseurs de cloud : Microsoft, AWS et Google. Nous n'y aurions pas pensé auparavant, mais est-il possible que le gouvernement américain menace de couper certaines de ces fonctionnalités pour faire pression sur nous ? On ne sait jamais. Et voulons-nous ne serait-ce qu'envisager cette éventualité lointaine, nous protéger et mettre en place des redondances ou des garde-fous au cas où ? Je pense que nous en sommes malheureusement arrivés à un stade où nous devons prendre cela au sérieux.
Elizabeth Dubois: [00:17:25] Oui, c'est logique. L'un des autres points que j'ai lus dans vos travaux, c'est cette idée que le Canada et d'autres puissances moyennes s'unissent et collaborent pour veiller à pouvoir, vous savez, minimiser certains des risques dont nous parlons, tout en tirant parti des opportunités offertes par ces données de santé. Pouvez-vous nous en dire un peu plus sur ce à quoi cela ressemble ?
Kumanan Wilson: [00:17:46] Absolument. Je pense donc que la question est de savoir si nous voulons être vulnérables à ce dont j'ai parlé, où les grandes puissances... Je veux dire, la Chine et les États-Unis sont vraiment en tête dans ce domaine en ce moment, disposent de ce genre de contrôle sur vos systèmes, pour reprendre le discours de Davos. La collaboration entre puissances moyennes est en quelque sorte notre façon de contourner cela, et les données sont la voie logique à suivre. Et je pense que c'est un domaine où le Canada pourrait être un chef de file, compte tenu de notre expertise en matière de données de santé et du fait que plus il y a de données, mieux c'est ; nous pouvons collaborer avec d'autres puissances moyennes et partager des données, les soutenir dans le développement d'une infrastructure de données, apprendre d'elles, créer des algorithmes fondés sur les données partagées. Créer une IA fondée sur les données partagées. Cela pourrait être un moyen d'offrir un degré supplémentaire de souveraineté et de sécurité pour nos populations.
Elizabeth Dubois: [00:18:36] À quel point nos données de santé sont-elles structurées de manière similaire, ou plutôt différente, par rapport à ces autres collaborateurs potentiels ? À quel point sera-t-il difficile de concrétiser cette collaboration ?
Kumanan Wilson: [00:18:48] Eh bien, nous avons déjà ce problème rien qu'au Canada. Vous savez, quand nous avons créé CANImmunize, nous ne concevons pas une seule application. Nous concevons plusieurs applications parce que chaque province avait son propre calendrier, sa propre façon de coder les données, ses propres informations sur les vaccins. C'était essentiellement une application multinationale. Donc même au sein du Canada, nous avons ce problème au sein d'une province. Nous avons ce problème, comme en Ontario où les fournisseurs de dossiers médicaux électroniques de soins primaires ne sont pas nécessairement interconnectés. Nous devons d'abord résoudre nos propres problèmes, puis travailler à l'échelle mondiale, je pense. Et je pense que si nous parvenons à le résoudre ici au Canada, le reste sera relativement facile. Euh, nous aurons la feuille de route, et nous sommes une nation fédérale et, en fait, très confédérale à bien des égards. Cela crée donc des enjeux uniques. Mais je pense qu'une grande expertise s'est développée à mesure que nous nous sommes attaqués à ces enjeux.
Elizabeth Dubois: [00:19:38] Oui, oui, c'est logique. Et lorsqu'on s'engage dans ce processus visant à regrouper de grands ensembles de données, on découvre tous les problèmes dont on ignorait même l'existence, du moins en dehors de la santé. En recherche sur la communication politique, mon domaine, c'est toujours le cas. Cela me fait alors penser à un autre contexte relativement unique auquel nous sommes confrontés lorsque nous réfléchissons aux données des personnes ici au Canada, à savoir la souveraineté des données autochtones et les principes de gouvernance autochtone que beaucoup estiment devoir être intégrés à notre façon d'aborder non seulement l'IA en santé, mais l'IA de manière plus générale. Comment voyez-vous cela s'inscrire dans cette vision où, d'accord, le Canada collabore avec ces autres puissances moyennes, en essayant de créer ces opportunités qui permettent aussi, en quelque sorte, d'écarter les risques ?
Kumanan Wilson: [00:20:26] Je suis justement en train de rédiger une demande de subvention à ce sujet en ce moment. Et l'idée est, évidemment, que nous devons protéger des groupes spécifiques. Et les populations autochtones en font partie. Mais plus important encore, peut-être, nous pourrions apprendre d'elles. Elles réfléchissent à ces questions depuis bien plus longtemps que nous, alors que le monde prend soudainement conscience de ce risque. Et elles y réfléchissent depuis un certain temps, en élaborant des principes capables de protéger leurs données et de s'assurer qu'elles soient utilisées équitablement ; nous pourrions peut-être reprendre certains de ces principes et les appliquer plus largement au Canada, que ce soit pour d'autres populations vulnérables ou pour l'ensemble du pays, car nous sommes nous-mêmes une population vulnérable à l'heure actuelle. Je pense donc que c'est important. Je pense aussi qu'il est essentiel de ne pas oublier, et j'y reviens, que leurs données doivent être utilisées pour améliorer les soins. Et qu'on ne se contente pas de dire : « Bon, nous n'allons pas le faire parce que c'est trop compliqué ». Euh, nous devons, nous devons utiliser les données des gens, vous savez, les données des populations vulnérables, parce que cela permettra d'améliorer leurs soins.
Elizabeth Dubois: [00:21:26] Oui. J'en profite pour mentionner que plus tard dans la saison, nous aurons un épisode avec Jonathan Dore, le PDG du Centre de gouvernance de l'information des Premières Nations, pour en parler plus longuement. J'aimerais maintenant aborder la question de la manière dont le gouvernement canadien a géré l'IA en santé jusqu'à présent. L'un des éléments majeurs que le gouvernement canadien a mis en avant, c'est que tout repose sur la confiance de la population envers ces outils d'IA et leur développement. Je suppose que la première question est la suivante : est-ce le bon angle à adopter ? Est-ce là-dessus que nous devrions nous concentrer, à savoir le niveau de confiance qu'ont les Canadiens ? Si oui, comment cette confiance se bâtit-elle et se maintient-elle concrètement ? Si ce n'est pas le bon angle, à quoi pensez-vous que nous devrions réfléchir ?
Kumanan Wilson: [00:22:11] Oui. On dit que les États-Unis dominent le monde en matière d'innovation et que l'Europe domine le monde en matière de réglementation. Et nous nous efforçons... Nous devrions nous efforcer d'être entre les deux. Mais si je devais pencher d'un côté en ce moment, ce serait du côté de l'innovation. Le Canada est extraordinaire en matière de découvertes. Je dirais que nous sommes le pays le plus entrepreneurial au monde. L'IA est née grâce à des inventeurs canadiens. Moderna a été cofondée par un Canadien. Le GLP-1 a été découvert par un Canadien. C'est juste... La liste est interminable. Anthropic a été cofondée par un Canadien. Vous savez, Grok. Je veux dire, si vous voulez considérer Elon Musk comme Canadien. Il est canadien. OpenAI a été cofondée par un Canadien. C'est simple, la liste est interminable. Nous ne captons tout simplement pas l'opportunité économique. Et ce n'est plus un simple atout facultatif. C'est une nécessité absolue. Nous savons désormais à quel point c'est important. Nous devons développer notre propre économie. Nous devons capter la valeur de nos propres talents et de nos propres découvertes. Je dirais donc que l'enjeu numéro un en ce moment, c'est que nous devons saisir cette opportunité économique. C'est ainsi que nous obtiendrons notre souveraineté. C'est ainsi que nous obtiendrons de meilleurs résultats sur le plan de la santé. C'est ainsi que nous obtiendrons les recettes fiscales qui financent notre système de santé.
Elizabeth Dubois: [00:23:08] Merci. Oui, c'est un argument très convaincant. Nous arrivons à la fin du temps imparti. Je voulais donc terminer par une dernière question. Et cela concerne votre point de vue, vous qui travaillez dans la santé, l'IA et les politiques de santé. Qu'est-ce qui, selon vous, échappe à la plupart des décideurs politiques ou de quoi auraient-ils besoin qu'on leur rappelle ?
Kumanan Wilson [00:23:29] Je pense que cela reviendrait à ceci. Nous devons déterminer comment saisir cette opportunité économique. Comment soutenir les sociétés privées sous contrôle canadien ? C'est ainsi que nous allons résoudre la question de la souveraineté. La confiance est évidemment essentielle. Nous pouvons heurter un obstacle, un faux pas en cours de route. Et tout le monde pourrait, vous savez, y mettre un coup d'arrêt. C'est donc un volet indispensable de la stratégie économique. Mais je trouve cela passionnant. Je pense que le Canada peut montrer la voie au monde entier dans ce domaine. Nous pouvons guider le monde avec les valeurs canadiennes, en bâtissant une économie forte à l'échelle nationale, vous savez, en menant des alliances de puissances moyennes au niveau mondial et en y apportant un état d'esprit canadien. Et je pense que c'est ce que les gens recherchent actuellement. Ils recherchent un pays qui partage nos valeurs pour aider à stimuler les économies et commercer.
Elizabeth Dubois: [00:24:14] Parfait. Merci. Cette conversation a été vraiment très intéressante. Je vous remercie chaleureusement d'avoir pris le temps. Encore merci.
Kumanan Wilson: [00:24:20] Merci de m'avoir invité.
Elizabeth Dubois: [00:24:21] Merci de nous avoir écoutés. C'était notre épisode sur l'IA et la santé. J'espère qu'il vous a plu. Comme toujours, nous avons inclus de nombreux liens vers différentes ressources dans les notes de l'émission, et vous pouvez vous rendre sur polcommtech.com pour accéder aux transcriptions annotées en anglais et en français, qui renvoient à d'autres ressources et lectures complémentaires. Cette saison de Wonks and War Rooms est soutenue en partie par le Cabinet du vice-recteur à la recherche et à l'innovation de l'Université d'Ottawa, ma Chaire de recherche universitaire en politique, communication et technologie, la Faculté des arts et le Centre de recherche en droit, technologie et société. Je tiens également à souligner que, pour chacun de nos épisodes cette saison, j'enregistre depuis le territoire traditionnel et non cédé de la nation algonquine, et je tiens à rendre hommage au peuple algonquin en reconnaissant ses liens ancestraux avec ce territoire non cédé.
Commentaires