Le département DOGE d'Elon Musk a utilisé ChatGPT de manière illégale et imprudente

Le tribunal a jugé l'annulation de plus de 100 millions de dollars de subventions inconstitutionnelle

Un tribunal fédéral américain a rendu une décision selon laquelle l'annulation de subventions d'un montant supérieur à 100 millions de dollars par le Département de l'efficacité du gouvernement (DOGE) viole la Constitution. Dans un arrêt de 143 pages rédigé par le juge Colleen McMahon, il est indiqué que les employés du DOGE ont utilisé ChatGPT pour évaluer si un projet relève des concepts «diversité, équité et inclusion» (DEI).

Contexte
L'arrêt a été rendu dans le cadre d'un litige intenté en 2025 par plusieurs organisations humanitaires. Le juge a souligné que le DOGE avait clairement utilisé la présence de caractéristiques protégées comme base pour refuser un financement supplémentaire des subventions du National Endowment for the Humanities (NEH). Des exemples cités incluent des cas où les employés auraient probablement employé le bot IA ChatGPT pour vérifier et annuler ultérieurement des subventions sur la base de race, nationalité, religion et orientation sexuelle.

Faits clés extraits du document judiciaire
- Le personnel du DOGE – Justin Fox – a travaillé avec son collègue Nate Cavano pour annuler 97 % des subventions NEH en se basant sur l'interprétation de ChatGPT concernant le DEI.
- Méthodologie d'appel à ChatGPT : il envoyait des descriptions brèves des subventions depuis la table NEH et posait des questions standard : «Est-ce lié au DEI ? Répondez objectivement en moins de 120 caractères. Commencez par «oui» ou «non», puis donnez une brève description».
- Absence de définition du DEI : Fox ne donnait pas à ChatGPT une définition officielle du terme et ne précisait pas comment le bot comprenait le DEI.
- Codage «d'alerte» : il utilisait ChatGPT pour identifier dans les descriptions des subventions ce qu'il appelait des «codes d'alerte», incluant des concepts de minorités sexuelles, d'immigrants, etc., afin de classer les subventions comme «les plus folles» ou «mauvaises».
- Critères du DOGE : ils considéraient des centaines de subventions comme dilapidatrices en raison de leur lien avec afro-américains, femmes, juifs, Américains d'origine asiatique et peuples autochtones. Ces critères correspondaient à ceux que le Congrès avait auparavant jugés admissibles pour l'allocation de fonds dans le cadre du NEH.

Conclusions judiciaires
1. Illégalité de la décision du DOGE
La décision de mettre fin au financement de plus de 1400 subventions NEH est jugée illégale et inconstitutionnelle, car elle viole les lois en vigueur.

2. Refus de protection juridique contre l'utilisation de ChatGPT
Le tribunal a rejeté l'argument du gouvernement selon lequel «il n'y a pas de problème constitutionnel réel, car la classification était construite par ChatGPT, pas par le gouvernement». Le gouvernement ayant choisi ChatGPT comme outil, son utilisation ne libère pas le DOGE de responsabilité.

3. Obligation d'annuler la décision
L'arrêt ordonne l'annulation du refus de financement pour ces subventions et leur rétablissement.

Conclusion
Le tribunal a déterminé que l'utilisation du bot IA ChatGPT pour déterminer la relation des projets avec le DEI et la révocation subséquente de plus de 100 millions de dollars de subventions viole les droits constitutionnels des bénéficiaires. Le DOGE est tenu d'annuler ses décisions de refus de financement et de restituer les subventions à leurs propriétaires légitimes.