OpenAI a expliqué comment elle gère les « grelots » dans les réponses de l’IA et a levé les restrictions.

OpenAI a révélé un « problème » avec les gobelins

Dans Wired, il a été porté à l’attention que la société OpenAI avait rencontré une caractéristique inattendue de ses modèles d’IA : ils commençaient fréquemment à mentionner des gobelins, des grimaux et d’autres créatures fictives. Pour corriger cela, les développeurs ont dû donner au modèle des instructions spécifiques : « Ne parle jamais de gobelins, de grimaux, de ratons laveurs, de trolls, d’orcs, de pigeons ou de tout autre animal ou créature ».

Pourquoi cette habitude est-elle apparue ?

Le problème est devenu apparent après la sortie de GPT‑5.1, surtout lorsque le personnage « Botanique » (Nerdy) était inclus dans la conversation. À chaque mise à jour du modèle, la fréquence des mentions ne cessait d’augmenter. Il s’est avéré que lors de l’apprentissage par renforcement, ces métaphores étaient récompensées — mais uniquement lorsqu’on activait la personnalité de Botanique. Comme l’apprentissage par renforcement ne garantit pas le maintien du comportement dans les mêmes conditions, cette habitude pouvait se propager à d’autres parties du modèle, surtout si les résultats étaient réutilisés lors du réglage fin ou dans des données de préférences.

Comment l’entreprise a-t-elle réagi ?

En mars, OpenAI a cessé d’utiliser Botanique, après quoi les mentions de gobelins ont presque disparu. Cependant, elles sont réapparues dans le service Codex avec GPT‑5.5, car la formation du modèle avait commencé avant que le problème ne soit identifié. Les développeurs ont donc dû ajouter des instructions supplémentaires pour Codex : « Ne mentionne pas d’êtres mythologiques ». Néanmoins, les utilisateurs qui apprécient ce style de communication ont pu désactiver ces restrictions via un code spécial.

Ainsi, OpenAI a été confrontée à une « habitude » inattendue de ses modèles IA et a pris des mesures pour la corriger, tout en offrant des réglages flexibles pour différentes audiences.