L’intelligence artificielle ne reconnaît pas le « non », un problème majeur pour les applications médicales

Ces dernières années, l'intelligence artificielle (IA) a réalisé des progrès impressionnants dans l'analyse des données d'images et de textes, notamment grâce aux modèles de langage visuel (MLV) qui relient images et textes.

Ces modèles ont des applications prometteuses dans le domaine médical, permettant d'analyser des images médicales, telles que des radiographies ou des IRM, et de les combiner avec les descriptions textuelles correspondantes pour aider le personnel médical à établir des diagnostics.

Cependant, une faiblesse majeure des systèmes d'IA actuels, souvent négligée, est leur incapacité à détecter correctement les négations.

L'importance du déni dans le diagnostic médical

En médecine, la distinction précise entre la présence et l'absence de symptômes ou de signes de maladie est cruciale. La capacité à identifier correctement « aucun » ou « aucun signe de » est essentielle dans l'analyse d'images médicales.

Ces erreurs peuvent conduire à ce que les patients reçoivent un traitement inutile ou, pire encore, à ce qu’une véritable maladie ne soit pas diagnostiquée.

Taux d'erreur dans la détection des refus

Les modèles actuels de vision et de langage combinant images et texte éprouvent de grandes difficultés à interpréter correctement les négations.

Lors de tests où les modèles devaient rechercher des images en fonction de la présence ou de l'absence de certains objets, ils ont montré une grande précision dans l'identification des objets. Cependant, lorsqu'ils devaient rechercher des images ne contenant pas un objet particulier, la précision diminuait significativement.

Cela s'explique par le fait que ces modèles se concentrent généralement sur la confirmation et l'affirmation positive. Ils ont donc tendance à confirmer la présence d'un élément plutôt qu'à en détecter l'absence, un problème qui peut entraîner de graves erreurs, notamment dans l'analyse d'images médicales.

La dimension éthique et la nécessité de modèles d’IA précis

Dans l’application médicale des technologies d’IA, il est particulièrement important de comprendre la signification des négations et de les mettre en œuvre correctement.

Un modèle qui ne parvient pas à détecter « aucun signe de pneumonie » pourrait donner un résultat faussement positif, ce qui pourrait conduire à un traitement inutile ou même à des décisions médicales incorrectes.

Solutions et améliorations

Des approches préliminaires existent déjà pour résoudre les problèmes de détection de négation. Une solution possible pourrait consister à entraîner spécifiquement des modèles d'IA avec des ensembles de données contenant des négations.

De cette manière, les modèles pourraient apprendre à reconnaître et à traiter correctement la signification de « non » ou « aucun » dans un contexte médical. Cependant, il ne s'agit là que d'une première étape.

Il est important que les développements futurs améliorent non seulement la capacité de l’IA à détecter le déni, mais également sa capacité à comprendre le contexte d’une situation et à réagir de manière appropriée.

Et maintenant ?

L'incapacité des modèles d'IA à interpréter correctement les négatifs constitue un obstacle majeur à l'utilisation généralisée de ces technologies en médecine. Malgré les progrès réalisés dans l'amélioration des capacités de détection des négatifs, il reste encore beaucoup à faire.

C'est la seule façon d'utiliser l'intelligence artificielle comme un outil sûr et efficace pour le diagnostic et le traitement médicaux.

Références de l'actualité

K. Alhamoud, S. Alshammari, Y. Tian, G. Li, P. Torr, Y. Kim & M. Ghassemi, (2025). Les modèles vision-langage ne comprennent pas la négation. arXiv.