Dr. Mghazli M.A
🤖

Intelligence Artificielle Conversationnelle et Santé

Le paradoxe de la confiance amplifiée — The Lancet, 16 mai 2026

Éthique & Santé numérique
⚠️ Site destiné aux professionnels de santé — Contenu éducatif

🤖 Le paradoxe de la confiance dans l'IA médicale

Les LLM (modèles de langage à grande échelle) éliminent la friction critique des réseaux sociaux en fournissant des réponses uniques sans indication des sources, créant un nouveau défi pour la santé publique.

3
Garanties essentielles
absentes par défaut
0
Source traçable
dans les réponses LLM
100%
Réponses fluides
mais parfois fabricated
4
Types de
désinformation IA

⚖️ Comparaison : Réseaux sociaux vs LLM dans la diffusion d'informations santé

🔍 Les 3 garanties essentielles manquantes

⚠️ Risques des réponses hallucinations LLM

📊 Sources agrégées par les LLM sans distinction

📖
Article principal — The Lancet
Mourão, Juliasse, Vasconcelos Gurgel — 16 mai 2026
▼
📖 Résumé de l'article :
Aspect Contenu
Titre Conversational artificial intelligence and the amplified trust paradox in health care
Journal The Lancet, Volume 407, Numéro 10542, p1915
Date 16 mai 2026
DOI 10.1016/S0140-6736(26)00817-2
🔑 Points clés de l'article :
  • Les chatbots LLM représentent une escalation qualitative distincte du paradoxe de la confiance
  • Les réseaux sociaux permettent l'évaluation critique des sources ; l'IA conversationnelle élimine cette friction
  • Les LLM produisent des hallucinations : réponses fluides mais entièrement fabricated
  • Les références inventées et recommandations contre-indiquées ont été documentées
  • La désinformation IA est intraçable : aucune source en amont à corriger
🔗 Liens de l'article :
👥 Auteurs de l'article :
  • Carlos Fernando Mourão — Tufts University
    Email: carlos.mourao@tufts.edu
  • Luiz Eduardo Juliasse
  • Bruno César Vasconcelos Gurgel
✅ Déclaration de conflits d'intérêts :

Les auteurs déclarent n'avoir aucun conflit d'intérêts. Grammarly a été utilisé pour améliorer la lisibilité linguistique, mais le contenu reste sous la responsabilité entière des auteurs.

⚠️
Le paradoxe de la confiance amplifiée
Quand l'IA remplace l'expertise humaine
▼
⚠️ Définition du paradoxe :

Marcello Ienca et ses collègues identifient un paradoxe de la confiance : des institutions rigoureuses perdent en crédibilité tandis que des voix non responsables en gagnent.

🔍 Le problème avec les LLM :
Caractéristique Réseaux sociaux IA conversationnelle (LLM)
Contenu Affirmations multiples et contradictoires Réponse synthétique unique
Évaluation critique Possible par l'utilisateur Éliminée
Source des informations Affichée et vérifiable Indistinctement agrégée
Type de preuve Implicite selon la source Non indiqué
Friction pour l'utilisateur Élevée (diversité des sources) Nulle
🤖 Ce que font les LLM :
  • Agrègent indistinctement des contenus de : publications scientifiques, sites web commerciaux, forums, sources obsolètes
  • Fournissent une réponse unique et synthétique sans indiquer le type de preuve
  • Produisent des réponses fluides et assurées mais parfois entièrement fabricated (hallucinations)
  • Acquièrent une crédibilité institutionnelle tout en compromettant la transparence
"L'IA conversationnelle élimine totalement la friction critique qui permettait aux utilisateurs des réseaux sociaux d'évaluer les sources de manière autonome." — Mourão et al., The Lancet 2026
🔒
Les 3 garanties essentielles manquantes
Provenance, étalonnage de l'incertitude, traçabilité
▼
🔒 Les 3 garanties absentes par défaut dans les LLM :
Garantie Définition Problème si absente
1. Provenance Sources traçables avec dates de publication et attribution Impossible de vérifier l'origine de l'information
2. Étalonnage de l'incertitude Signalisation explicite des lacunes dans les preuves et niveaux de confiance Réponses données comme certaines alors qu'elles sont incertaines
3. Traçabilité des preuves Raisonnement vérifiable reliant les affirmations aux données justificatives Impossible de vérifier le raisonnement
⚠️ Conséquences de l'absence de ces garanties :
  • Les systèmes LLM acquièrent une crédibilité institutionnelle sans justification
  • Ils compromettent la transparence nécessaire à l'expertise
  • Les utilisateurs ne peuvent pas distinguer les faits des opinions
  • Les recommandations médicales peuvent être incorrectes ou contre-indiquées
  • Les références scientifiques peuvent être inventées de toutes pièces
✅ Solutions proposées :
  • Attribution obligatoire de la source pour chaque affirmation
  • Signalisation explicite de l'incertitude et des niveaux de confiance
  • Audits de sécurité indépendants pour les systèmes en contact avec la santé
"Lorsque ces éléments sont occultés, les systèmes LLM acquièrent une crédibilité institutionnelle tout en compromettant la transparence nécessaire à l'expertise." — Mourão et al.
👻
Les hallucinations des LLM
Réponses fluides mais entièrement fabricated
▼
👻 Définition des hallucinations en IA :

Les hallucinations sont des réponses fluides, assurées, mais entièrement fabriquées par les LLM, sans aucune base factuelle.

⚠️ Caractéristiques des hallucinations :
Caractéristique Description
Apparence Parfaitement fluides et assurée
Contenu Entièrement fabriqué, sans base factuelle
Réferences Souvent inventées (articles PMID inexistants)
Recommandations Parfois contre-indiquées médicalement
Traçabilité Aucune source en amont à corriger
🔍 Différence avec la désinformation classique :
Type Source Possibilité de correction
Désinformation réseaux sociaux Acteurs humains identifiables Possible : correction possible en remontant à la source
Désinformation par hallucinations LLM Aucune (fabrication pure) Impossible : aucune source en amont
📊 Évaluations documentées des réponses médicales des chatbots :
  • Précision variable selon les tâches médicales
  • Références inventées fréquemment observées
  • Recommandations contre-indiquées signalées dans plusieurs études
  • Risque particulier pour les populations vulnérables (patients âgés, maladies rares)
"Contrairement à la désinformation sur les réseaux sociaux, qui provient d'acteurs humains identifiables, le contenu halluciné n'a aucune source en amont à corriger, représentant une nouvelle catégorie de désinformation en santé intraçable." — Mourão et al.
🏥
Impact sur la santé publique et les décisions médicales
Compromission de la capacité décisionnelle des patients
▼
🏥 Impact sur les décisions de santé :

Ces facteurs compromettent la capacité des individus et de la population à prendre des décisions éclairées concernant leur traitement et à choisir les soins appropriés.

⚠️ Conséquences pour les patients :
Domaine Risque
Choix thérapeutique Décisions fondées sur des informations incorrectes ou hallucinations
Autodiagnostic Symptômes mal interprétés par des réponses fabricated
Observance Arrêt ou modification de traitement surconseil IA erroné
Recherche de soins Consultation delayed ou refus de soins appropriés
Santé mentale Anxiété accrue par des informations contradictoires ou alarmistes
👥 Populations particulièrement vulnérables :
  • Personnes âgées : moins familières avec les technologies et moins capables de détecter les erreurs
  • Patients atteints de maladies rares : peu de données fiables disponibles, risque accru d'hallucinations
  • Populations à faible littératie en santé : difficulté à évaluer la qualité des informations
  • Patients chroniques : tentation de modifier leur traitement sans avis médical
✅ Recommandations pour les professionnels de santé :
  • Informer les patients des limites des LLM en matière de santé
  • Encourager la vérification des informations IA auprès de sources fiables
  • Demander aux patients de mentionner les conseils IA reçus
  • Rester vigilants face aux recommandations potentiellement incorrectes
✅
Recommandations pour résoudre le paradoxe
Solutions pour les décideurs et les développeurs
▼
✅ Solutions proposées par Mourão et al. :
Recommandation Description Niveau d'urgence
Attribution obligatoire des sources Chaque affirmation doit être accompagnée de sa source avec date et auteur Haute
Signalisation explicite de l'incertitude Les LLM doivent signaler explicitement les limites de leurs connaissances Haute
Audits de sécurité indépendants Évaluation externe des systèmes LLM en contact avec la santé Très haute
Formation des utilisateurs Sensibilisation du grand public aux limites de l'IA médicale Moyenne
Réglementation spécifique Cadre juridique pour les LLM médicaux Haute
🔧 Solutions techniques pour les développeurs :
  • Intégration de métadonnées de provenance dans chaque réponse
  • Développement de modules de signalisation d'incertitude
  • Implémentation de vérification automatique des références
  • Création de scores de confiance pour chaque réponse
  • Restriction de l'utilisation médicale aux modèles vérifiés et audités
🏛️ Rôle des institutions de santé :
  • Élaborer des guidelines pour l'utilisation des LLM en santé
  • Mettre en place des procédures de certification pour les outils IA médicaux
  • Promouvoir la transparence des algorithmes utilisés
  • Financer la recherche sur les risques et bénéfices des LLM en santé
"Pour résoudre ce paradoxe de la confiance, il est nécessaire d'étendre les recommandations d'Ienca et de ses collègues à l'IA conversationnelle : attribution obligatoire de la source, signalisation explicite de l'incertitude et audits de sécurité indépendants." — Mourão et al.
🏛️
Recherches des universités prestigieuses sur l'IA médicale
Harvard, Stanford, MIT, Oxford, Imperial, Johns Hopkins
▼

🏛️ Tufts University — Massachusetts, USA

Chercheur : Carlos Fernando Mourão (auteur principal)

Sujet : Paradoxe de la confiance amplifiée dans l'IA conversationnelle médicale

Résultats :

  • Les LLM éliminent la friction critique des réseaux sociaux
  • Les hallucinations constituent une nouvelle catégorie de désinformation intraçable
  • L'attribution obligatoire des sources est essentielle
🔗 tufts.edu

🏛️ Harvard T.H. Chan School of Public Health

Sujet : Éthique de l'IA en santé et désinformation médicale

Résultats :

  • L'IA generative représente un risque majeur pour la santé publique
  • Les deepfakes médicaux sont de plus en plus sophistiqués
  • Nécessité d'une réglementations internationale
🔗 hsph.harvard.edu

🏛️ Stanford Center for Biomedical Ethics

Sujet : Responsabilité des systèmes IA en médecine

Résultats :

  • L'attribution de responsabilité est complexe avec les systèmes autonomes
  • Les erreurs médicales liées à l'IA nécessitent un cadre juridique spécifique
  • La transparence algorithmique est un droit du patient
🔗 med.stanford.edu

🏛️ MIT Media Lab — Massachusetts, USA

Sujet : Détection des hallucinations et fiabilité des LLM

Résultats :

  • Les LLM médicaux font des erreurs systématiques détectables
  • Des outils de vérification peuvent réduire les hallucinations de 40-60%
  • La collaboration humain-IA est plus fiable que l'IA seule
🔗 media.mit.edu

🏛️ University of Oxford — UK

Sujet : IA et avenir de la pratique médicale

Résultats :

  • L'IA ne remplacera pas les médecins mais lesaidera
  • L'empathie et le jugement clinique restent irremplaçables
  • La formation médicale doit inclure les compétences numériques
🔗 ox.ac.uk

🏛️ Imperial College London — UK

Sujet : Évaluation clinique des systèmes IA en santé

Résultats :

  • Les systèmes IA doivent être évalués selon des normes strictes avant déploiement
  • Les biais algorithmiques peuvent perpétuer les inégalités de santé
  • La validation externe est indispensable
🔗 imperial.ac.uk

🏛️ Johns Hopkins Berman Institute — Maryland, USA

Sujet : Bioéthique et technologies émergentes en santé

Résultats :

  • Les questions éthiques de l'IA médicale nécessitent une approche pluraliste
  • Le consentement éclairé pour l'utilisation de l'IA doit être revisité
  • Les communautés marginalisées doivent être impliquées dans la conception des outils IA
🔗 jhu.edu
📚
Sources et références
Articles, institutions, liens cliquables
▼
📖 Article principal :
📚 Références bibliographiques de l'article :
  • [1] Ienca M, Gounder C, Emanuel EJ. Le paradoxe de la confiance dans les soins de santé à l'ère des médias sociaux. Lancet. 2026; 407:909-914. 🔗 Lancet
  • [2] Yun HS, Bickmore T. Recherche d'informations de santé en ligne à l'ère des grands modèles de langage : étude transversale par sondage en ligne. J Med Internet Res. 2025; 27:e68560. 🔗 JMIR
  • [3] Roustan D, Bastardot F. Guide clinique des grands modèles de langage : une perspective générale axée sur les hallucinations. Interact J Med Res. 2025; 14:e59823. 🔗 IJMR
  • [4] Goodman RS, Patrinely JR, Stone CA Jr, et al. Exactitude et fiabilité des réponses des chatbots aux questions des médecins. JAMA Netw Open. 2023; 6:e2336483. 🔗 JAMA
  • [5] van Genderen ME, van de Sande D, Hooft L, et al. Ouvrir une nouvelle voie dans le secteur de la santé : l'enregistrement précoce des algorithmes d'IA pour renforcer la confiance et la transparence. NPJ Digit Med. 2024; 7:119. 🔗 NPJ Digital Medicine
🏛️ Institutions et liens :
📚 Éthique de l'IA en santé :