L’utilisation croissante de l’IA pour la santé offre aux gouvernements, aux fournisseurs et aux collectivités des possibilités et des défis
L’intelligence artificielle (IA) est très prometteuse pour améliorer la prestation des soins de santé et de la médecine dans le monde entier, mais seulement si l’éthique et les droits de l’homme sont placés au cœur de sa conception, de son déploiement et de son utilisation, selon les nouvelles orientations de l’OMS publiées aujourd’hui.
Le rapport, Ethique et gouvernance de l’intelligence artificielle pour la santé , est le résultat de 2 ans de consultations tenues par un groupe d’experts internationaux nommés par l’OMS.
« Comme toutes les nouvelles technologies, l’intelligence artificielle recèle un énorme potentiel d’amélioration de la santé de millions de personnes dans le monde, mais comme toutes les technologies, elle peut également être utilisée à mauvais escient et causer des dommages », a déclaré le Dr Tedros Adhanom Ghebreyesus, Directeur général de l’OMS. « Ce nouveau rapport important fournit un guide précieux aux pays sur la façon de maximiser les avantages de l’IA, tout en minimisant ses risques et en évitant ses pièges. »
L’intelligence artificielle peut l’être, et dans certains pays riches, elle est déjà utilisée pour améliorer la rapidité et la précision du diagnostic et du dépistage des maladies; pour aider aux soins cliniques; renforcer la recherche en santé et la mise au point de médicaments, et appuyer diverses interventions de santé publique, comme la surveillance des maladies, l’intervention en cas d’éclosion et la gestion des systèmes de santé.
L’IA pourrait également permettre aux patients de prendre davantage le contrôle de leurs propres soins de santé et de mieux comprendre l’évolution de leurs besoins. Elle pourrait également permettre aux pays pauvres en ressources et aux communautés rurales, où les patients ont souvent un accès restreint aux agents de santé ou aux professionnels de la santé, de combler les lacunes dans l’accès aux services de santé.
Toutefois, le nouveau rapport de l’OMS met en garde contre la surestimation des avantages de l’IA pour la santé, en particulier lorsque cela se fait au détriment des investissements de base et des stratégies nécessaires pour parvenir à la couverture sanitaire universelle.
Il souligne également que les possibilités sont liées aux défis et aux risques, y compris la collecte et l’utilisation contraires à l’éthique des données sur la santé; les biais codés dans des algorithmes et les risques de l’IA pour la sécurité des patients, la cybersécurité et l’environnement.
Par exemple, alors que l’investissement des secteurs privé et public dans le développement et le déploiement de l’IA est essentiel, l’utilisation non réglementée de l’IA pourrait subordonner les droits et les intérêts des patients et des communautés aux puissants intérêts commerciaux des entreprises technologiques ou aux intérêts des gouvernements en matière de surveillance et de contrôle social.
Le rapport souligne également que les systèmes formés principalement sur les données recueillies auprès des individus dans les pays à revenu élevé peuvent ne pas fonctionner correctement pour les individus dans les milieux à revenu faible ou intermédiaire.
Les systèmes d’IA devraient donc être soigneusement conçus pour refléter la diversité des milieux socioéconomiques et des soins de santé. Ils devraient s’accompagner d’une formation aux compétences numériques, à l’engagement communautaire et à la sensibilisation, en particulier pour des millions de travailleurs de la santé qui auront besoin de connaissances numériques ou de recyclage si leurs rôles et fonctions sont automatisés, et qui doivent faire face à des machines qui pourraient remettre en question la prise de décision et l’autonomie des prestataires et des patients.
En fin de compte, guidés par les lois existantes et les obligations en matière de droits de l’homme, ainsi que par les nouvelles lois et politiques qui consacrent les principes éthiques, les gouvernements, les fournisseurs et les concepteurs doivent travailler ensemble pour répondre aux préoccupations en matière d’éthique et de droits de l’homme à chaque étape de la conception, du développement et du déploiement d’une technologie d’IA.
Six principes pour s’assurer que l’IA fonctionne dans l’intérêt public dans tous les pays
Afin de limiter les risques et de maximiser les possibilités inhérentes à l’utilisation de l’IA pour la santé, l’OMS fournit les principes suivants comme base de la réglementation et de la gouvernance de l’IA :
Protéger l’autonomie humaine: Dans le contexte des soins de santé, cela signifie que les humains doivent garder le contrôle des systèmes de soins de santé et des décisions médicales; la vie privée et la confidentialité devraient être protégées, et les patients doivent donner un consentement éclairé valide par le biais de cadres juridiques appropriés pour la protection des données.
Promouvoir le bien-être et la sécurité humains et l’intérêt public. Les concepteurs de technologies d’IA devraient satisfaire aux exigences réglementaires en matière de sécurité, de précision et d’efficacité pour des cas d’utilisation ou des indications bien définis. Des mesures de contrôle de la qualité dans la pratique et d’amélioration de la qualité de l’utilisation de l’IA doivent être disponibles.
Assurer la transparence, l’explicabilité et l’intelligibilité. La transparence exige que suffisamment d’informations soient publiées ou documentées avant la conception ou le déploiement d’une technologie d’IA. Ces informations doivent être facilement accessibles et faciliter une consultation et un débat publics significatifs sur la façon dont la technologie est conçue et sur la façon dont elle devrait ou ne devrait pas être utilisée.
Favoriser la responsabilité et l’obligation de rendre compte. Bien que les technologies d’IA effectuent des tâches spécifiques, il incombe aux parties prenantes de veiller à ce qu’elles soient utilisées dans des conditions appropriées et par des personnes dûment formées. Des mécanismes efficaces devraient être disponibles pour interroger et réparer les personnes et les groupes qui sont lésés par des décisions fondées sur des algorithmes.
Assurer l’inclusion et l’équité. L’inclusion exige que l’IA au service de la santé soit conçue de manière à encourager l’utilisation et l’accès équitables les plus larges possibles, indépendamment de l’âge, du sexe, du genre, du revenu, de la race, de l’origine ethnique, de l’orientation sexuelle, des capacités ou d’autres caractéristiques protégées par les codes des droits de l’homme.
Promouvoir une IA réactive et durable. Les concepteurs, les développeurs et les utilisateurs devraient évaluer de manière continue et transparente les applications d’IA au cours de l’utilisation réelle afin de déterminer si l’IA répond de manière adéquate et appropriée aux attentes et aux exigences. Les systèmes d’IA devraient également être conçus de manière à minimiser leurs conséquences environnementales et à accroître l’efficacité énergétique. Les gouvernements et les entreprises devraient s’attaquer aux perturbations prévues sur le lieu de travail, y compris la formation des travailleurs de la santé pour qu’ils s’adaptent à l’utilisation des systèmes d’IA, et aux pertes d’emplois potentielles dues à l’utilisation de systèmes automatisés.
Ces principes guideront les travaux futurs de l’OMS visant à soutenir les efforts visant à faire en sorte que tout le potentiel de l’IA pour les soins de santé et la santé publique soit utilisé dans l’intérêt de tous.
Contact : mediainquiries@who.int