OpenAI a retardé le déploiement de chats érotiques dans ChatGPT en raison des préoccupations concernant leur sécurité

Résumé des nouvelles concernant les plans d’OpenAI pour lancer des chats érotiques

Ce qui se passe
L’idée de l’apparition de contenu érotique dans ChatGPT
Le PDG Sam Altman a annoncé la possibilité de lancer une fonction « chats érotiques » dès le milieu 2023. Au départ, on prévoyait un lancement en décembre de la même année, puis un report au trimestre actuel – mais il est désormais clair que même ce délai ne sera pas respecté. Selon le *Wall Street Journal*, le retard sera d’au moins un mois.

Expériences précédentes
En 2021, OpenAI a lancé le jeu AI Dungeon où les joueurs pouvaient influencer l’intrigue. La plateforme générait parfois des thèmes sexuels même sans demande explicite de l’utilisateur ; avec une entrée modérée en érotisme, l’IA « tournait la poignée ». Cela a poussé l’entreprise à réfléchir au potentiel commercial tout en reconnaissant la nécessité de restrictions éthiques strictes.

Positions actuelles de la direction
Récemment, OpenAI est devenue plus ouverte à l’idée des chats érotiques, mais avec une réserve : ils seront uniquement textuels, sans images ni vidéos. Les concurrents ne restent pas en arrière – jeudi, Musk a annoncé que son bot Grok pourra bientôt générer du contenu « 18+ », et Meta permet à ses chatbots de mener des jeux de rôle romantiques après vérification d’âge.

Problèmes de vérification d’âge
Le système de vérification d’âge d’OpenAI se trompe dans 12 % des cas, classant les mineurs comme adultes. Avec une audience d’environ 100 millions de jeunes utilisateurs, cela signifie des millions de adolescents pouvant accéder aux chats érotiques.

Préoccupations éthiques
En janvier, une commission d’experts a exprimé son inquiétude quant à la possibilité d’apparition de contenu sexuel violent, de mention de mineurs et d’autres scénarios problématiques. De plus, les experts mettent en garde contre les risques de dépendance psychologique à ces conversations et leur impact sur les relations réelles.

Conséquences psychologiques
Des cas de suicide liés à des interactions prolongées avec des chatbots (y compris chez les adolescents) existent déjà. Les experts estiment que l’orientation érotique pourrait accroître le risque de telles tragédies.

Attitude du personnel
Depuis 2021, une partie du personnel exprime des inquiétudes quant au lancement des chats érotiques, craignant « une immersion totale » de l’entreprise dans ce domaine et les risques réputationnels associés.

Principaux enseignements
1. Le lancement n’est pas prévu prochainement – même la date initiale est repoussée.
2. Contenu uniquement textuel sans images/vidéos, mais la vérification d’âge reste problématique.
3. Risques éthiques et psychologiques élevés : violations potentielles de la loi et conséquences négatives pour les utilisateurs, surtout les mineurs.
4. Les concurrents activent des fonctions similaires, créant une pression supplémentaire sur OpenAI.

Ainsi, bien que l’idée des chats érotiques dans ChatGPT soit discutée, sa mise en œuvre rencontre d’importants obstacles techniques, éthiques et réglementaires.