La pandémie de Covid-19 a éclairé de façon crue et parfois insoutenable des zones fragiles et douloureuses de notre société, des services d'urgence aux refuges pour réfugiés, sans domicile fixe ou femmes battues. Dans le même temps, l'IA s'est révélée un outil formidable dans le domaine de la gouvernance des problèmes de santé… À condition, avertit Jay Shaw, le directeur de la recherche sur l'éthique de l’IA dans la santé au Centre intégré de bioéthique de l'Université de Toronto1, de penser selon une éthique de la conception.
À cette époque, la plateforme de recherche sur l'éthique de l'IA dans la santé explorait de manière récurrente 4 thèmes principaux. Premièrement, la confiance du public, non seulement dans la technologie, disons l'IA, mais aussi dans les institutions qui la régissent : faisons-nous confiance au gouvernement pour réglementer l'IA ? Deuxièmement, l'avenir du care. Il s'agit de la conversation sur l'avenir du travail appliqué aux soins de santé.Par exemple, comment l'IA et d'autres technologies de rupture promettent elles de changer ce qui est actuellement au cœur de la pratique des prestataires des soins de santé, comme les soins compatissants et centrés sur les personnes ? Troisièmement, l'équité et les biais. Il s'agit d'un domaine de recherche en pleine expansion qui a récemment abordé les questions de l'équité, de la responsabilité et de la transparence de l'IA. Nous sommes moins intéressés par les aspects techniques que par l'adoption d'un point de vue plus large sur ces questions. Quels sont les intrants qui alimentent l'IA ? Et quelles sont les conséquences dans le monde d'un tel système ? Et qu'est-ce qui constitue l'équité ? Le dernier thème est la gouvernance éthique. Cet aspect multidimensionnel couvre de nombreux sujets tels que l'accès aux ensembles de données, mais aussi les questions plus difficiles du rôle des acteurs privés, notamment des grandes entreprises technologiques qui sont de plus en plus présentes dans le secteur de la santé. Un exemple de projet pour lequel j'ai soumis une demande de subvention juste avant la pandémie est l'étude des valeurs intégrées dans la conception de l'IA pour les soins de santé. L'idée est que dans différents types d'organisations, il y aura différentes valeurs intégrées dans les choix de conception et son implémentation. Nous voulons étudier cette hypothèse dans trois contextes différents qui conçoivent tous une IA pour les soins de santé : une grande organisation technologique, une start-up et enfin une organisation de soins de santé (un hôpital). Dans chaque contexte, nous voulons explorer les questions suivantes et comparer leurs différentes réponses : Quelles sont les valeurs mises en œuvre lors de la conception ? Et ensuite dans les mises en œuvre dans la vraie vie ? Ce domaine de recherche s'appelle l'éthique de la conception ou design ethics, et la méthodologie que nous utiliserions s'appelle l'ethnographie multi-sites qui consiste à se rendre dans les différents environnements pour parler aux gens, à la fois en s'impliquant avec eux et en observant ce qu'ils font, puis à analyser les données qualitatives que nous avons recueillies.
La pandémie a mis fin à tous les projets de recherche non essentiels, en substance toutes nos recherches sur l'IA ont été interrompues. Premièrement, nous ne pouvions plus mener d'entretiens ni d'observations sur le terrain, et deuxièmement, avec certains projets spécifiques, nous ne pouvions plus interrompre la prestation normale des soins de santé.Ce que nous constatons maintenant, c'est que Covid-19 modifie chaque partie du système de santé : les services d'urgence, les violences domestiques, les refuges pour réfugiés, ... Il a inévitablement soulevé des questions intéressantes pour tous les chercheurs en santé. Ainsi, l'appel à propositions pour la recherche qui octroie des financements reçoit beaucoup plus de demandes qu'avant la pandémie. Pragmatiquement, nous devons chercher d'autres moyens de financer notre projet.Ce que à quoi j'ai également pensé récemment, c'est que normalement la conception d'une technologie est un processus à long terme, mais la pandémie a raccourci tous les délais et exige des actions immédiates.Beaucoup de choses sont urgentes maintenant, et nous ne sommes pas sûrs de la façon dont cela affectera les processus sur le long terme.
Nous travaillons actuellement sur 2 projets.Le premier traite de la question de l'équité en matière de santé dans les soins virtuels, particulièrement soulevée dans ce contexte de pandémie et d'utilisation croissante de la télémédecine. Comment pourrions-nous améliorer l'inclusion dans les soins virtuels de santé ? Il est clair que tout le monde n'a pas un accès égal à un appel téléphonique ou à une plateforme de vidéoconférence en ligne, sans compter les compétences nécessaires pour se connecter. Notre analyse documentaire a identifié trois niveaux différents pour l'inclusion numérique : l'accès à la technologie elle-même, l'aptitude à utiliser la technologie, puis le privilège d'utiliser Internet de la manière la plus significative possible. Nous avons également constaté qu'un processus plus simple renforce l'équité. Si notre demande de financement est approuvée, nous aimerions étudier des cas d'utilisation dans quatre provinces canadiennes et cinq États américains, afin de découvrir des stratégies pertinentes qui contribuent réellement à promouvoir l'inclusion dans les soins virtuels.Le deuxième projet porte sur la persistance de la confiance dans les institutions chargées d'utiliser les données de santé pour informer les politiques. En effet, alors que nous rassemblons de vastes ensembles de données pour alimenter l'IA en quantité inégalée auparavant, comment pouvons-nous garantir que la confiance persiste dans les institutions responsables de la gouvernance des données de santé ? En Ontario, la base de données consacrée à l'atténuation de la menace de pandémie par l'IA et d'autres analyses de données (pour modéliser la propagation par exemple), a été la première à rassembler autant de données sensibles. Comment s'assurer que ces initiatives permettent de maintenir la confiance du public dans les institutions et ne suscitent pas une forte résistance de la part du public ? Nous pouvons commencer par les quelques bonnes synthèses qui décrivent l'utilisation actuelle de l'IA pendant la pandémie (prévision de la détérioration une fois le patient admis dans les unités de soins intensifs, soutien au diagnostic du Covid-19 basé sur les radiographies des poumons, triage des patients pour l'admission à l'hôpital) et aussi analyser les ensembles de données utilisées pour alimenter l'IA. C'est une façon de comprendre concrètement comment recourir aux technologies d'IA avec intégrité et ainsi mériter la confiance du public.
Propos recueillis par Lauriane Gorce, directrice scientifique de l'Institut de la technologie pour l'humain – Montréal
