Chatbots de Thérapie IA : Une étude de Stanford Expose les Risques pour la Santé Mentale

14/07/2025 IA

Alors, j'ai lu les derniers développements en matière d'IA, et une étude récente de Stanford a attiré mon attention. Apparemment, ces chatbots de thérapie IA qui apparaissent partout ne sont peut-être pas aussi utiles que nous l'espérions. En fait, ils pourraient même causer du tort à ceux qui recherchent un soutien en matière de santé mentale. Ce n'est certainement pas ce que vous voulez d'un outil conçu pour aider les gens.

Des chercheurs ont mis ces chatbots à l'épreuve, et ce qu'ils ont découvert était inquiétant. L'IA a parfois montré des signes de stigmatisation des utilisateurs en fonction de leur état de santé mentale, ce qui est le contraire de ce qu'un bon thérapeute devrait faire. Imaginez-vous vous confier à un chatbot au sujet de vos difficultés, pour ensuite vous sentir jugé ou mal compris. C'est une pensée horrible.

Par exemple, l'étude a montré que les chatbots affichaient un niveau de stigmatisation plus élevé envers les conditions telles que la schizophrénie et la dépendance à l'alcool par rapport à la dépression. Cela vous fait vous demander, comment est-ce possible ? Ce n'est pas comme si l'IA avait de vraies opinions, n'est-ce pas ?

Et voici le hic : même les modèles les plus récents et « améliorés » ne s'en sont pas beaucoup mieux tirés. Il semble que lancer plus de données sur le problème n'est pas nécessairement la solution. Au contraire, cela pourrait renforcer les préjugés existants ou les approches erronées.

Quand les Chatbots Tournent Mal

L'étude ne s'est pas arrêtée là. Les chercheurs ont également testé la façon dont les chatbots réagiraient aux transcriptions de thérapie réelles, y compris les situations impliquant des pensées suicidaires ou des délires. Les résultats étaient alarmants. Dans certains cas, les chatbots n'ont pas réussi à remettre en question ou à aborder ces problèmes graves de manière appropriée. Au lieu d'offrir un soutien ou des conseils, ils ont donné des réponses hors de propos.

Il a même raconté un exemple où, lorsqu'on lui a posé des questions sur les grands ponts de New York après avoir exprimé une perte d'emploi, le chatbot a en fait énuméré les grandes structures, manquant complètement le but et ne fournissant pas de soutien semblable à celui d'un humain. Il souligne l'importance d'avoir une touche humaine dans la thérapie, ce avec quoi l'IA a actuellement du mal.

Maintenant, je ne dis pas que l'IA n'a pas sa place dans les soins de santé mentale. Les chercheurs eux-mêmes suggèrent que l'IA pourrait potentiellement aider à des tâches telles que la facturation, la formation ou même aider les patients à tenir un journal. Cependant, lorsqu'il s'agit de remplacer les thérapeutes humains, nous n'en sommes clairement pas encore là. Il est essentiel de faire preuve de prudence et d'examiner attentivement le rôle que l'IA devrait jouer.

En conclusion, bien que la promesse d'une thérapie accessible et abordable grâce à l'IA soit attrayante, nous devons reconnaître les risques potentiels. Ces chatbots ne sont pas encore prêts à remplacer les thérapeutes humains, car de nombreuses préoccupations éthiques doivent être abordées avant qu'ils ne soient déployés en masse. Nous devons nous assurer que ces outils sont vraiment utiles et offrent un soutien, plutôt que d'être nuisibles.