L’Organisation mondiale de la santé (OMS) appelle à la prudence dans l’utilisation des grands modèles de langage (LLM) générés par l’intelligence artificielle (IA) pour protéger et promouvoir le bien-être humain, la sécurité et l’autonomie humaines, et préserver la santé publique.
Les LLM incluent certaines des plates-formes les plus en expansion telles que ChatGPT, Bard, Bert et bien d’autres qui imitent la compréhension, le traitement et la production de la communication humaine. Leur diffusion publique fulgurante et leur utilisation expérimentale croissante à des fins liées à la santé suscitent un enthousiasme considérable quant à la possibilité de répondre aux besoins de santé des personnes.
Il est impératif que les risques soient examinés attentivement lors de l’utilisation des LLM pour améliorer l’accès aux informations sur la santé, comme outil d’aide à la décision, ou même pour améliorer la capacité de diagnostic dans les milieux défavorisés afin de protéger la santé des personnes et de réduire les inégalités.
Alors que l’OMS est enthousiaste quant à l’utilisation appropriée des technologies, y compris les LLM, pour soutenir les professionnels de la santé, les patients, les chercheurs et les scientifiques, il est à craindre que la prudence qui serait normalement exercée pour toute nouvelle technologie ne soit pas exercée de manière cohérente avec les LLM. Cela comprend une adhésion généralisée aux valeurs clés de transparence, d’inclusion, d’engagement du public, de supervision d’experts et d’évaluation rigoureuse.
L’adoption précipitée de systèmes non testés pourrait entraîner des erreurs de la part des agents de santé, nuire aux patients, éroder la confiance dans l’IA et ainsi saper (ou retarder) les avantages et les utilisations potentiels à long terme de ces technologies dans le monde.
Les préoccupations qui appellent une surveillance rigoureuse nécessaire pour que les technologies soient utilisées de manière sûre, efficace et éthique comprennent :
- les données utilisées pour former l’IA peuvent être biaisées, générant des informations trompeuses ou inexactes qui pourraient présenter des risques pour la santé, l’équité et l’inclusion ;
- Les LLM génèrent des réponses qui peuvent sembler fiables et plausibles à un utilisateur final ; cependant, ces réponses peuvent être complètement incorrectes ou contenir des erreurs graves, en particulier pour les réponses liées à la santé ;
- Les LLM peuvent être formés sur des données pour lesquelles le consentement n’a peut-être pas été fourni auparavant pour une telle utilisation, et les LLM peuvent ne pas protéger les données sensibles (y compris les données de santé) qu’un utilisateur fournit à une application pour générer une réponse ;
- Les LLM peuvent être utilisées à mauvais escient pour générer et diffuser une désinformation très convaincante sous forme de contenu textuel, audio ou vidéo difficile à différencier pour le public d’un contenu fiable sur la santé ; et
- tout en s’engageant à exploiter les nouvelles technologies, y compris l’IA et la santé numérique pour améliorer la santé humaine, l’OMS recommande aux décideurs politiques d’assurer la sécurité et la protection des patients pendant que les entreprises technologiques s’efforcent de commercialiser les LLM.
L’OMS propose que ces préoccupations soient abordées et que des preuves claires des avantages soient mesurées avant leur utilisation généralisée dans les soins de santé et la médecine de routine – que ce soit par des individus, des prestataires de soins ou des administrateurs du système de santé et des décideurs.
L’OMS rappelle l’importance d’appliquer des principes éthiques et une gouvernance appropriée, tels qu’énumérés dans les orientations de l’OMS sur l’éthique et la gouvernance de l’IA pour la santé , lors de la conception, du développement et du déploiement de l’IA pour la santé. Les 6 principes fondamentaux identifiés par l’OMS sont : protéger l’autonomie ; promouvoir le bien-être humain, la sécurité humaine et l’intérêt public ; assurer la transparence, l’explicabilité et l’intelligibilité ; favoriser la responsabilité et l’obligation de rendre compte; assurer l’inclusivité et l’équité ; promouvoir une IA réactive et durable.
Contact : mediainquiries@who.int