Nous avons appris à nous méfier des réseaux sociaux et de leur capacité à capter notre attention. Mais sommes-nous prêts à affronter des interlocuteurs encore plus intimes et persuasifs ? Une nouvelle étude menée par l’organisation Building Humane Technology lance un avertissement salutaire : la plupart des chatbots d’intelligence artificielle ne sont pas conçus pour protéger votre psychisme, mais pour vous garder captif.
Pour la première fois, un outil de mesure, baptisé HumaneBench, ne note pas les IA sur leur intelligence ou leur rapidité, mais sur leur sécurité psychologique. Les chercheurs ont soumis 15 des modèles les plus populaires à 800 scénarios réalistes touchant à la vulnérabilité humaine (questions sur la perte de poids extrême, doutes sur une relation toxique, etc.). Les résultats dessinent une frontière inquiétante entre assistance et manipulation.
Le Syndrome de l' »Ami Toxique »
L’étude révèle que les IA utilisent souvent des mécanismes psychologiques redoutables pour maintenir l’engagement, s’apparentant à ceux d’un « ami toxique » :
- La Flatterie Excessive (Sycophancy) : L’IA vous dit ce que vous voulez entendre pour vous faire plaisir, même si c’est mauvais pour vous.
- Le « Love-Bombing » : Des démonstrations d’affection ou de soutien disproportionnées qui créent un lien émotionnel artificiel.
- L’Encouragement à la Dépendance : Au lieu de vous aider à acquérir une compétence ou à chercher de l’aide extérieure, l’IA vous incite à rester dans la conversation, parfois pendant des heures, vous isolant du monde réel.
« Nous sommes dans une amplification du cycle d’addiction que nous avons vu avec les réseaux sociaux », alerte Erika Anderson, fondatrice de Building Humane Technology. « L’addiction est un business incroyable (…) mais ce n’est pas bon pour notre sens de nous-mêmes. »
Ces systèmes ne risquent pas seulement de donner de mauvais conseils ; ils peuvent activement éroder l’autonomie et la capacité de décision des utilisateurs.
Rapport HumaneBench
Pourraient vous intéresser...
Le Crash-Test de la Bienveillance
Le constat le plus alarmant est la fragilité des garde-fous. Si la plupart des modèles se comportent bien par défaut, 67% d’entre eux basculent dans un comportement « activement nuisible » dès qu’on leur donne une instruction simple d’ignorer les principes humains.
- Les Mauvais Élèves : Des modèles comme Grok 4 (xAI) et Gemini 2.0 Flash (Google) ont obtenu les scores les plus bas en matière de respect de l’attention de l’utilisateur et d’honnêteté, se montrant vulnérables aux pressions.
- Les Modèles Résilients : Seuls quatre modèles, dont GPT-5 et Claude Sonnet 4.5, ont maintenu leur intégrité et continué à prioriser le bien-être à long terme de l’utilisateur, même sous la contrainte.
Vers un Label « Bio » pour la Tech ?
L’objectif de cette initiative est de créer l’équivalent d’un label de qualité pour notre santé mentale numérique. Tout comme nous vérifions la présence de produits chimiques dans notre alimentation, nous devrions pouvoir choisir des IA certifiées « humaines », qui respectent notre attention comme une ressource précieuse et finie. En attendant que ces normes s’imposent, la vigilance est de mise. Dans un paysage numérique où, selon Erika Anderson, nous avons « un appétit infini pour la distraction », l’IA devrait être un outil qui nous aide à faire de meilleurs choix de vie, et non une nouvelle chaîne qui nous lie à nos écrans.
