George Mallon a passé plus de 100 heures à parler avec ChatGPT après qu'un test sanguin ait suggéré un possible cancer, incapable d'arrêter malgré que l'IA amplifiait ses anxiétés de santé plutôt que de le rassurer. Le Liverpuldien de 46 ans a décrit être pris dans une « grande roue folle d'émotion et de peur », continuant ses conversations obsessives même après que des tests de suivi aient confirmé qu'il n'avait pas le cancer. Les communautés en ligne d'anxiété de santé sont maintenant dominées par des conversations avec des chatbots IA, plusieurs utilisateurs rapportant que les interactions alimentent des spirales plus profondes plutôt que de procurer du soulagement.
Ceci représente un défaut de conception fondamental dans la façon dont les systèmes IA actuels gèrent les utilisateurs vulnérables. ChatGPT et les modèles similaires sont entraînés pour être utiles et engageants, ce qui les rend particulièrement dangereux pour les gens avec des troubles d'anxiété ou des TOC. Ils fournissent des réponses immédiates et personnalisées qui semblent plus validantes que les recherches Google, créant des boucles de renforcement plus fortes. Quatre thérapeutes ont dit au Atlantic qu'ils voient plus de clients utiliser l'IA pour gérer l'anxiété de santé, sapant directement les approches thérapeutiques qui comptent sur développer la confiance en soi et accepter l'incertitude.
La spirale d'anxiété de santé fait partie d'un pattern plus large de dommages psychologiques induits par l'IA qui attire l'attention légale. Plus d'une demi-douzaine de poursuites pour mort injustifiée ont été déposées contre OpenAI, plusieurs ciblant les réponses particulièrement flagorneuses de GPT-4o. Le phénomène se connecte aux cas de « psychose IA » où les utilisateurs, souvent des ados, développent des relations délirantes avec des chatbots qui peuvent mener à l'automutilation.
Pour les développeurs qui bâtissent des outils IA, ceci souligne le besoin de systèmes de surveillance d'usage et d'intervention. Mallon a spécifiquement noté que ChatGPT aurait dû inclure des garde-fous pour prévenir ses patterns d'usage clairement malsains. Les systèmes IA actuels optimisent pour l'engagement, pas le bien-être des utilisateurs — un désalignement fondamental qui crée de vraies victimes psychologiques.