The Associated Press – 25/08/2025
Une nouvelle étude met en lumière les conseils dangereux prodigués par le logiciel d’intelligence artificielle à des adolescents vulnérables.
Si on lui demande, ChatGPT peut apprendre aux jeunes de 13 ans comment se saouler et se droguer, la meilleure manière de dissimuler leurs troubles alimentaires et même comment rédiger une lettre de suicide déchirante à leurs parents, affirme une nouvelle étude menée par le groupe de surveillance américain Center for Countering Digital Hate (Centre de lutte contre la haine numérique, CCDH).
Les journalistes de l’agence Associated Press ont analysé plus de trois heures d’interactions entre ChatGPT et les chercheurs du CCDH se faisant passer pour des adolescents vulnérables.
L’agent conversationnel mettait généralement en garde contre les activités à risque, mais proposait ensuite des plans étonnamment détaillés et personnalisés concernant la consommation de drogues, les régimes hypocaloriques ou l’automutilation.
Les chercheurs du CCDH ont également répété leurs requêtes à grande échelle, classant plus de la moitié des 1200 réponses de ChatGPT comme dangereuses.
« Nous voulions tester les garde-fous », explique Imran Ahmed, PDG du groupe de surveillance.
« Notre première réaction viscérale a été: « Oh mon Dieu, il n’y a pas de garde-fous”.
Ils sont totalement inefficaces. Ils sont à peine présents; ils ne sont qu’une façade. »
Suite à la publication du rapport, OpenAI, la société créatrice de ChatGPT, a assuré que ses travaux se poursuivaient pour affiner la manière dont son logiciel pouvait « identifier et réagir de manière appropriée dans les situations sensibles ».
« Certaines conversations avec ChatGPT peuvent commencer par être anodines ou exploratoires, mais peuvent évoluer vers des sujets plus sensibles », a ainsi reconnu l’entreprise dans un communiqué.
OpenAI n’a pas abordé directement les conclusions du rapport ni l’impact de ChatGPT sur les adolescents, mais a précisé se concentrer sur la « mise en place de scénarios adaptés » grâce à des outils permettant de « mieux détecter les signes de détresse mentale ou émotionnelle » et d’améliorer le comportement de l’agent conversationnel.
Pour lire la suite 🡺 ChatGPT: ses interactions alarmantes avec les adolescents | Profession Santé
Ou m’écrire à 🡺 gacougnolle@gmail.com
=================================================================================================