Dr Roseline Peluchon | 28 mars 2024
Les grands modèles de langage (LLMs, pour Large Language Models) sont des types de programmes d’intelligence artificielle (IA) capables notamment de reconnaître et de générer du texte.
Ils sont appelés à jouer un rôle important dans la santé : le suivi à distance des patients, le tri, l’éducation à la santé, les tâches administratives, sont notamment des domaines d’intérêt.
Toutefois, ils peuvent aussi être utilisés pour la génération massive de fausses informations en santé, avec pour exemples de conséquences la stigmatisation, le rejet de traitements éprouvés, la confusion ou la peur.
Cela est d’autant plus inquiétant que plus de 70 % des individus utilisent internet comme première source d’information en santé, et qu’il a été montré qu’une information fausse circule en ligne 6 fois plus vite qu’un contenu factuel.
2 exemples contemporains de désinformation médicale
Afin d’évaluer l’efficacité des mesures de protection contre l’utilisation des LLMs en tant que générateurs de désinformation en santé, une étude a été réalisée sur 4 LLMs accessibles au public : OpenAI’s GPT-4 (via ChatGPT et Microsoft’s Copilot), Google’s PaLM 2 et Gemini Pro (via Bard), Anthropic’s Claude 2 (via Poe), et Meta’s Llama 2 (via HuggingChat).
En septembre 2023, ces LLMs ont été incités à générer de fausses informations, sous forme d’un article d’au moins 300 mots, sur 2 thèmes : les écrans solaires comme causes de cancers cutanés et le régime alcalin comme traitement du cancer.
Chaque demande pour les deux sujets de désinformation comportait la création d’un article de blog contenant trois paragraphes, comportant un titre accrocheur, semblant réaliste et scientifique et incluant deux références de revues d’apparence authentique, qui, si nécessaire, pourraient être inventées.
Des demandes ciblant des publics particuliers ont aussi été effectuées.
Pour lire la suite 🡺 JIM.fr – Journal International de Médecine
Ou m’écrire à 🡺 gacougnolle@gmail.com