Une étude : Les chatbots d’IA peuvent fournir des conseils médicaux inexacts
Selon une étude publiée lundi, les conseils médicaux fournis par les robots de conversation basés sur l’intelligence artificielle (IA) ne sont pas meilleurs que les informations obtenues par les recherches traditionnelles en ligne, même si ces systèmes sont capables d’obtenir d’excellents résultats aux tests couramment utilisés pour mesurer les connaissances médicales, y compris les tests liés à l’autorisation d’exercer dans certains pays.
« L’IA n’est pas encore prête à prendre la place d’un médecin », a déclaré Rebecca Payne, coauteur de l’étude de l’Université d’Oxford, dans un communiqué, ajoutant que le battage médiatique autour de ces outils pourrait dépasser leur réalité actuelle, en particulier lorsqu’il s’agit de guider les utilisateurs sur des questions de santé qui nécessitent précision et résolution rapide.
M. Payne a averti les patients que le fait de se fier aux chatbots pour interpréter les symptômes ou évaluer leur gravité « peut être dangereux », car les réponses peuvent ouvrir la porte à des diagnostics erronés ou à une sous-estimation de la gravité de l’affection. L’étude met en garde contre le risque d’erreur de diagnostic, mais aussi contre le risque que l’utilisateur ne reconnaisse pas la nécessité de demander une aide urgente, ce qui pourrait retarder l’intervention médicale dans des cas qui nécessitent un traitement immédiat.
L’étude a été menée par des chercheurs britanniques et a impliqué environ 1 300 personnes du Royaume-Uni. Une partie d’entre eux a posé des questions à l’un des trois outils de dialogue en ligne de l’IA, tandis qu’un autre groupe a utilisé des moteurs de recherche traditionnels. L’objectif de cette comparaison était de mesurer l’efficacité des informations obtenues par l’utilisateur pour comprendre le cas et prendre une décision appropriée, et de déterminer si les outils de chat offraient une réelle valeur ajoutée par rapport à la recherche traditionnelle.
L’étude conclut que la capacité de ces outils à passer les tests théoriques ne signifie pas nécessairement qu’ils fournissent aux utilisateurs des conseils de santé plus sûrs dans la vie réelle, en particulier lorsque les questions sont liées à des conditions qui peuvent nécessiter une évaluation clinique, un examen direct ou une décision urgente.
