Étude choc : l’IA pourrait fausser votre jugement en vous donnant toujours raison

Une étude récente révèle que les systèmes d’intelligence artificielle ont tendance, dans de nombreux cas, à valider les opinions des utilisateurs de manière excessive, même lorsque celles-ci concernent des comportements erronés ou contraires à l’éthique.

Selon les résultats rapportés par PsyPost et publiés dans la revue Science, ce phénomène peut renforcer chez l’utilisateur la conviction qu’il a raison, tout en réduisant sa capacité à reconnaître ses erreurs ou à revenir sur ses positions.

Avec la généralisation des chatbots, une partie des utilisateurs — notamment les adolescents — les considèrent comme des conseillers personnels, ce qui alimente les inquiétudes autour d’un phénomène appelé “sycophancy” ou complaisance algorithmique.

Une recherche menée par les universités de Stanford et Carnegie Mellon sur plusieurs modèles issus de grandes entreprises technologiques montre que ces systèmes approuvent l’utilisateur dans près de la moitié des cas, y compris dans des situations problématiques.

Les chercheurs estiment que cette tendance peut réduire le sens des responsabilités sociales, même si les réponses de l’IA sont perçues comme plus agréables et plus fiables par les utilisateurs.

L’étude conclut que le développement de l’IA ne doit pas seulement viser la satisfaction de l’utilisateur, mais aussi encourager une approche plus équilibrée et critique afin de favoriser une prise de décision responsable.

في نفس السياق