ChatGPT et la santé

Pourquoi on finit par taper ses symptômes dans une IA

L’inquiétude tombe rarement aux heures d’ouverture, et le rendez-vous n’est jamais pour tout de suite. La question part dans la fenêtre de conversation, et la réponse arrive : structurée, calme, avec des hypothèses et des recommandations. Elle a la forme d’un avis médical.

Sa nature est pourtant tout autre. Un assistant conversationnel produit un texte plausible à partir de ce qu’on lui a écrit. Un professionnel de santé produit une conclusion à partir de ce qu’il observe, mesure et écarte. Les deux se ressemblent à la lecture ; leurs méthodes n’ont aucun rapport.

Ce qu’il fait honnêtement bien

Le premier usage utile est la traduction. Un compte rendu d’imagerie ou un bilan biologique est écrit par un professionnel pour un autre professionnel : abréviations, tournures figées, valeurs entre parenthèses. Demander ce que signifie un terme, à quoi sert un examen ou ce que mesure un dosage donne une réponse solide, parce qu’il s’agit de vocabulaire stable et documenté. C’est la définition qui est fiable, pas l’interprétation appliquée à votre dossier.

Le deuxième usage est la préparation. On oublie souvent la moitié de ce qu’on voulait dire en consultation, et on ressort avec la moitié de ce qu’on voulait comprendre. Faire établir une liste de questions à poser, faire reformuler une explication entendue trop vite, faire lister les informations qu’un professionnel voudra connaître — antécédents, traitements en cours, ancienneté des signes — travaille exactement là où l’outil est bon.

Le troisième usage est l’orientation administrative. Comprendre comment fonctionne un parcours de soins, quel professionnel consulte quel type de problème, comment obtenir un document, à quoi sert une lettre d’adressage : c’est de l’information organisationnelle, pas du soin. Ces trois usages ont un point commun : ils portent sur du texte, jamais sur une situation clinique. C’est le domaine de conception de l’outil.

Ce qu’il ne peut pas faire, et pourquoi

La limite n’est pas une question de qualité de modèle. Elle est structurelle, et c’est elle qui décide de tout le reste.

Éliminer plutôt que deviner

Poser un diagnostic ne consiste pas à trouver l’explication la plus probable d’une liste de signes. C’est une démarche d’élimination : on retient plusieurs hypothèses, puis on en écarte méthodiquement à l’aide de l’examen clinique et, si nécessaire, d’examens complémentaires. Ce qui reste debout à la fin est la conclusion. Le travail se fait en enlevant, pas en devinant.

Un assistant conversationnel ne peut pas conduire cette démarche, faute du moindre moyen d’écarter quoi que ce soit : il ne dispose d’aucune mesure. Il produit l’hypothèse qui correspond le mieux à la formulation reçue, ce qui est l’inverse exact du raisonnement attendu.

Ce que le texte ne transporte pas

Une consultation ne se limite pas à ce qui est dit. La façon dont quelqu’un entre dans une pièce, se relève d’une chaise, respire en parlant ; la couleur de la peau, la température, le résultat d’une palpation, une tension prise au brassard — rien de tout cela ne passe dans une phrase tapée au clavier.

S’y ajoute ce que la personne ne dit pas, parce qu’elle ignore que c’est important ou parce qu’elle l’a oublié. Un professionnel va chercher ces éléments par des questions dirigées, dans un ordre qui dépend de ce qu’il a déjà écarté. Un assistant travaille sur ce qu’on lui donne, et seulement là-dessus.

Un chiffre sans méthode ne veut rien dire : une performance mesurée sur des cas déjà rédigés, avec toutes les informations utiles fournies d’avance, ne dit rien de la situation d’une personne qui décrit ce qu’elle ressent avec ses propres mots.

Le piège du dialogue

la réponse épouse la question

C’est l’effet le moins connu, et le plus problématique en santé. La formulation d’une question oriente la réponse obtenue, parce que le modèle est conçu pour produire une suite cohérente avec ce qu’on lui a écrit.

Une question qui contient déjà l’inquiétude appelle un développement sur ce qui pourrait être grave. La même situation présentée en minimisant appelle un texte rassurant. Ce n’est ni de la malveillance ni un défaut de fiabilité au sens habituel : c’est le fonctionnement normal d’un outil qui prolonge un texte.

La conséquence pratique est nette. Demander ce qu’on a ne rend rien d’exploitable. Demander ce qu’un professionnel voudra savoir rend quelque chose d’utile, parce qu’on sollicite alors la seule chose que l’outil sache réellement faire : organiser de l’information.

Vos informations de santé ne sont pas des informations comme les autres

Une donnée de santé n’a pas le même statut qu’une adresse ou une préférence d’achat. La réglementation européenne sur les données personnelles la range dans une catégorie protégée, dont le traitement est encadré plus strictement.

Une conversation avec un assistant n’est ni un dossier médical, ni un échange couvert par le secret professionnel. Selon l’éditeur et les réglages du compte, les échanges peuvent être conservés, consultés à des fins de modération ou utilisés pour améliorer le service ; ces politiques évoluant régulièrement, le seul endroit qui fasse foi reste les réglages de confidentialité de votre compte, à ouvrir plutôt qu’à supposer.

La règle d’usage tient en une phrase : décrire sans identifier. On peut expliquer une situation ; on n’a aucune raison de déposer un compte rendu complet avec nom, date de naissance, numéro d’assuré, coordonnées du praticien ou identifiant d’établissement. Retirer ces éléments avant de coller un texte ne coûte rien.

S’en servir avant et après un rendez-vous — et savoir s’arrêter

En amont, l’outil sert à préparer : mettre au clair depuis quand les choses se passent, rassembler les traitements en cours, écrire les questions pour ne pas les oublier sur place. En aval, il sert à comprendre : reformuler une explication, décoder un terme, préparer la question de suivi qu’on posera au prochain contact.

Reste la question que tout le monde se pose sans l’énoncer : faut-il dire en consultation qu’on a interrogé une IA ? Le taire n’a aucun intérêt, et le professionnel préfère largement savoir d’où sort une inquiétude. La manière compte davantage que le fait : présenter ce qu’on a lu comme une lecture, sous forme de question — j’ai lu ceci, est-ce que cela s’applique à ma situation ? — plutôt que comme une hypothèse à faire valider.

Reste la règle d’arrêt, qui n’a rien de négociable. Devant un signe brutal, inhabituel, ou qui s’aggrave, on ferme la conversation et on appelle le service d’aide médicale urgente, le 15, ou le 112 depuis un téléphone. Un assistant n’effectue aucun tri d’urgence : il ignore que la situation se dégrade pendant qu’on lui écrit, et le temps passé à reformuler une question est du temps perdu.