OpenAI était en réalité à la traîne par rapport au Pentagone dans l’utilisation de l’intelligence artificielle pour la surveillance et les activités militaires.

OpenAI et le Pentagone : comment l’accord avec l’IA a changé

*OpenAI a conclu un nouvel accord avec le ministère de la Défense des États-Unis (le Pentagone), remplaçant Anthropic, mais en réponse aux inquiétudes publiques, le dirigeant de l’entreprise Sam Altman a déclaré que les conditions étaient « établies » conformément aux principes de sécurité. En réalité, la situation est différente, selon The Verge.*

1. Ce qu’Altman a promis
- Deux exigences clés :

1) interdiction de la surveillance interne massive ;

2) responsabilité humaine pour l’usage de la force, y compris les systèmes armés autonomes.

- Le Pentagone a accepté « d’inclure » ces points dans les lois et politiques, et OpenAI – dans le contrat.

2. Pourquoi les doutes subsistent
- Sur les réseaux sociaux, des questions ont émergé : l’accord sur les restrictions a-t‑il vraiment été conclu ?

- Les experts estiment que le Pentagone n’a pas refusé complètement. Le pacte contient la formulation « toute utilisation légale », qui ouvre un large éventail d’actions.

3. Ce qui a réellement été discuté
| Partie | Action | Point clé |
|--------|--------|-----------|
| Pentagone | Collecte et analyse de grandes quantités de données sur les citoyens américains | N’a pas abandonné le désir d’utiliser les données à grande échelle |
| OpenAI | Restrictions sur l’utilisation du système pour la surveillance massive | A déclaré qu’il « ne faut pas collecter ou analyser des données américaines en grands volumes sans limites » |

- Les parties ont divergé quant à l’interprétation de *légalement techniquement*.

- Aux États-Unis, ce concept s’élargit progressivement et inclut désormais les programmes de surveillance massive.

- OpenAI a rejeté cette interprétation.

4. Cadre juridique
- Principales normes :

- Quatrième amendement à la Constitution ;

- Loi sur la sécurité nationale (1947) ;

- Loi sur le renseignement étranger et la surveillance (1978) ;

- Ordonnance exécutive n° 12333 ;

- Directives internes du Pentagone sur le renseignement extérieur.

- Après les attentats du 11 septembre, les services de renseignement américains ont renforcé la surveillance, affirmant que tout se faisait dans le cadre légal.

- Snowden (2013) a révélé l’ampleur des collectes d’appels téléphoniques et de données auprès de Verizon, Microsoft, Google, Apple. L’ordre 12333 permet de capter des données hors des États-Unis même sur les citoyens.

5. Dialogue de rapport
| Entreprise | Position |
|------------|----------|
| Anthropic (Dario Amodei) | La loi ne couvre pas encore toutes les capacités de l’IA pour la surveillance massive ; |
| OpenAI (Sam Altman) | Le contrat est limité par la législation en vigueur ; avec de nouvelles normes, les formulations resteront les mêmes. |

- Les experts soulignent que les termes utilisés (« illimité », « général », « ouvert ») ne créent pas d’interdiction claire et pourraient permettre une large utilisation de l’IA dans le renseignement.

6. Résultats
- Parties : OpenAI affirme respecter les principes de sécurité, mais le Pentagone conserve le droit à des capacités de surveillance étendues.

- Droit : L’accord s’appuie sur les lois existantes, mais leur interprétation pourrait changer la réalité de l’usage de l’IA dans la défense.

- Discours public : Les questions de transparence et de responsabilité restent ouvertes.