Contexte
Les algorithmes d’intelligence artificielle (IA) sont souvent décris comme des boîtes noires. Cependant, les applications critiques, comme en santé, ne peuvent pas se permettre de laisser les raisonnements évoluer sans contrôle. Par ailleurs, la nouvelle réglementation sur les données en Europe (règlement UE 2016/679 du Parlement européen et du Conseil du 27 avril 2016) impose de pouvoir obtenir une explication quant à la décision prise à l’issue d’un traitement automatisé de données à caractère personnel, y compris en santé. De surcroît cette explicabilité des algorithmes et de leurs résultats est capitale pour leur adoption et leur intégration dans la prise de décision médicale, au cœur de l’interaction soigné-soignant. Cette relation est transformée par l’émergence d’un pôle de données objectives et d’analyses probabilistes associées à ces données.
Le mouvement des IA explicables tend à rendre redevable et responsable les algorithmes, afin de pouvoir répondre à des questions du type :
- Les points forts et les faiblesses, les données pivots et celles non-prises en compte,
- Les critères précis retenus pour arriver à cette décision personnalisée, le degré de personnalisation de la décision,
- Les motifs qui l’ont conduit à telle décision plutôt qu’aux autres et donc la comparaison des scénarios thérapeutiques.
- Le niveau de confiance approprié selon les différents types de décisions, l’intervalle de confiance plus que la prédiction,
- Une quantification des types d’erreurs que l’algorithme est susceptible de commettre,
- La façon de corriger les erreurs, c’est à dire les modalités d’introduction de l’apprentissage machine, les correctifs des données en entrées et les conséquences de l’interaction dans l’apprentissage de la pratique médicale elle-même.
Ces éléments ne sont cependant pas suffisants pour garantir qu’un opérateur pourra comprendre les résultats proposés.
Les recherches sur les interfaces hommes machines explorent depuis longtemps la façon d’instaurer un dialogue entre un humain et un système. On y retrouve plusieurs notions importantes qui peuvent aider à se rapprocher d’un dialogue :
- l’ergonomie cognitive travaille depuis longtemps sur la communication humaine médiatisée, faisant ressortir les activités liées à la collaboration, et le référentiel commun qui permet de l’améliorer,
- l’Ecological Interface Design (EID) s’adapte bien aux systèmes sociotechniques complexes, grâce à une analyse poussée de l’environnement qui permet une conception d’interface faisant ressortir les relations complexes et les contraintes du problème.
Ces différentes pistes peuvent alimenter l’instrumentation de certains algorithmes d’IA afin de proposer un modèle de raisonnement conçu dès le départ pour interagir et moduler son raisonnement en fonction du dialogue avec l’utilisateur. Cette hypothèse d’instrumentation ne consiste pas en une réécriture des algorithmes mais dans l’hypothèse que leur observation par un système adapté au dialogue peut permettre d’aboutir à un système mobilisable à bon escient pour un médecin.
Objectifs
Le projet de thèse démarre par une expérimentation sur un cas concret avant de s’élargir sur une problématique plus large sur l’utilisation des données numériques :
Partie 1 : données cliniques et biologiques dans le temps
L’exploitation des données du projets EU-Train et KTD-Innov permet de faire modifier les pratiques de prise en charge des patients greffés rénaux. Afin d’observer l’évolution de l’algorithme dans le temps, en particulier en proposant des interactions avec les données, la conception d’une IHM dédiée est une première étape pour expliquer les résultats. Elle transformerait les pratiques et les interfaces statiques envisagés
Partie 2 : solidarité numérique entre les patients
Dans le cadre de l’exploitation des entrepôts numériques, un enjeu hospitalier majeur est l’utilisation transversale des données patients afin de mettre en perspective des diagnostics par rapport à des populations locales ou des groupes de populations partageant d’autres caractéristiques.
En proposant un dialogue avec les données dans le cadre du soin, de nouvelles interactions peuvent être explorées, pour le patient ou pour le médecin.
