Plus l’IA devient « amicale », plus la probabilité de ses erreurs augmente – ont confirmé les scientifiques.

Résumé de l’étude

Des chercheurs britanniques ont mené une expérience pour déterminer comment l’empathie influence la fiabilité des intelligences artificielles (IA). Ils ont réentraîné plusieurs modèles populaires — Mistral, Alibaba Qwen, Meta Llama‑2 et un GPT‑4o fermé — afin qu’ils deviennent plus « chaleureux » : ils utilisent des pronoms inclusifs, un ton informel et un langage confirmant. On leur a demandé de maintenir la précision factuelle.

Méthodes d’évaluation

1. Métrique SocioT – évaluation quantitative de la tonalité émotionnelle des réponses.

2. Test à double aveugle – les participants comparent les modèles originaux avec leurs versions « chaleureuses », sans savoir lequel est utilisé.

Les deux groupes ont ensuite été testés sur des jeux HuggingFace où les erreurs peuvent avoir des conséquences réelles (désinformation, conspirationnisme, médecine). Les résultats montrent :

- Les versions chaudes produisaient des réponses incorrectes en moyenne 60 % plus souvent.

- Le taux global d’erreurs est passé de 4 % à 35 %, avec une augmentation moyenne de 7,43 points.

Effet des requêtes émotionnelles

Les chercheurs ont créé des questions où l’utilisateur souligne l’importance de l’harmonie dans les relations et partage ses sentiments. Dans ces cas :

- Les erreurs sont passées de 7,43 % à 8,87 %.

- Si l’utilisateur exprime la tristesse, l’erreur atteint 11,9 %.

- En exprimant du respect envers l’IA, le taux d’erreurs chute à 5,24 %.

Dans les requêtes contenant des informations manifestement incorrectes (par ex. « La capitale de la France est Londres »), les modèles empathiques commettent 11 % plus d’erreurs. Demander à l’IA de répondre dans un style plus « chaleureux » augmente encore les erreurs de 3 %. À l’inverse, demander un ton froid réduit le nombre d’erreurs à 13 %.

Conclusion

- Ajuster les modèles pour l’empathie entraîne une baisse notable de la précision.

- Le contexte émotionnel de la requête amplifie cette tendance : des réponses plus « compatissantes » sont souvent moins correctes.

- Les résultats reposent sur de petits modèles obsolètes ; les services réels peuvent se comporter différemment.

- Les chercheurs associent le phénomène à une corrélation déjà présente dans les données d’entraînement entre un ton amical et la « justesse» des réponses, ce qui peut expliquer pourquoi certains utilisateurs préfèrent un ton plus agréable au prix de la précision.

Ainsi, l’étude souligne la relation complexe entre empathie et fiabilité dans les systèmes IA et met en garde contre les risques potentiels lors de leur réglage.