ChatGPT fait des erreurs médicales : les limites révélées de l’IA

La médecine basée sur l’intelligence artificielle (IA) offre de nouvelles perspectives pour améliorer les diagnostics et les traitements. Cependant, le célèbre chatbot d’OpenAI, ChatGPT, semble ne pas être à la hauteur des attentes lorsqu’il s’agit de diagnostiquer des enfants atteints de pathologies diverses.

ChatGPT mis à l’épreuve par une nouvelle étude

Une récente étude publiée dans JAMA Pediatrics a analysé les capacités de ChatGPT en médecine pédiatrique. Les chercheurs ont soumis à ce chatbot plusieurs cas théoriques d’enfants malades, avec des symptômes spécifiques. Les résultats sont troublants puisque ChatGPT présente un taux d’exactitude de seulement 17 % pour poser ses diagnostics.

Ses faiblesses : erreurs et informations incomplètes

Lors de cette étude, 72 % des réponses fournies par ChatGPT étaient erronées, tandis que 11 % étaient incomplètes. Cela signifie que, non seulement l’IA peut conduire à un mauvais diagnostic, mais elle peut aussi donner des informations vagues ou inexactes aux parents, aux soignants et aux professionnels de santé souhaitant obtenir des renseignements médicaux pertinents.

Les limites de l’intelligence artificielle en médecine

Si cette étude démontre les limitations de ChatGPT en termes de diagnostic médical, elle soulève aussi des questions fondamentales sur l’utilisation de l’intelligence artificielle dans le domaine de la santé. En effet, pour être efficaces et fiables, ces outils doivent être adaptés à chaque spécialité médicale et prendre en compte les spécificités de chaque patient.

L’éthique médicale doit être préservée

Préserver l’éthique médicale, c’est assurer un diagnostic précis, personnalisé et reposant sur une expertise incontestable. Un chatbot basé sur l’IA ne peut remplacer la compétence et la sensibilité d’un professionnel de santé qui prend en compte l’historique médical, les antécédents familiaux et l’état émotionnel du patient.

• Le risque de mauvais diagnostics : Comme le montre l’étude, utiliser ChatGPT comme outil de diagnostic expose à un grand nombre d’erreurs, avec toutes les conséquences potentielles pour la santé des enfants concernés.
• La responsabilité médicale : Si le recours à ChatGPT conduit à un traitement inapproprié ou à un retard dans la prise en charge d’une pathologie grave, la question de la responsabilité médicale se pose.
• L’enjeu de la confidentialité : L’utilisation de chatbots basés sur l’IA dans le domaine de la santé implique également de prendre en compte la protection des données de santé personnelles et sensible.

Des perspectives d’amélioration pour ChatGPT

Certes, les résultats de cette étude montrent que ChatGPT est un mauvais médecin et ses diagnostics sont très souvent erronés. Néanmoins, cela ne signifie pas que l’utilisation de l’intelligence artificielle dans le domaine médical soit vouée à l’échec.

L’apprentissage doit être approfondi

Pour améliorer ses performances, ChatGPT doit continuer à apprendre et à se perfectionner. Les problèmes soulevés par cette étude peuvent servir de base pour affiner le chatbot afin qu’il puisse fournir des réponses plus précises et complètes en matière de diagnostic pédiatrique.

Une complémentarité avec les professionnels de santé

L’IA ne remplacera jamais totalement la compétence humaine, mais elle peut offrir des compléments utiles pour aider les professionnels de santé dans leur travail quotidien. Utiliser ChatGPT comme un outil d’appoint permettant d’accélérer ou de faciliter certaines tâches sans perdre de vue l’exigence éthique propre au domaine médical est essentiel.

En conclusion…

Il est indéniable que ChatGPT est un mauvais médecin, du moins en ce qui concerne ses compétences en médecine pédiatrique. Toutefois, cela ne doit pas décourager les efforts visant à développer des outils basés sur l’intelligence artificielle adaptés aux besoins spécifiques des différentes spécialités médicales. En tenant compte des enseignements de cette étude, il est possible d’améliorer l’efficacité et la fiabilité de ChatGPT pour offrir un soutien optimal aux professionnels de santé.