OpenAI a nommé un «chef de la préparation» qui supervisera la sécurité de l'intelligence artificielle

OpenAI a nommé un nouveau responsable de la sécurité de l’intelligence artificielle

Dans le contexte des questions croissantes sur l’utilisation sécurisée de l’IA, OpenAI a annoncé un nouvel ajout à son personnel : Dylan Scandino dans le poste de *Head of Preparedness* (directeur de la préparation).

Qui est Dylan Scandino ?
Période | Entreprise | Rôle
---|---|---
Mai 2023 – février 2024 | Anthropic | Chef des projets de sécurité IA
Septembre 2022 – mai 2025 | DeepMind (Google) | Spécialiste des données synthétiques pour l’entraînement de Gemini
Avant 2022 | Palantir, Unity Technologies, Everyday Robots | Divers postes en apprentissage automatique et développement logiciel

Scandino est connu pour avoir mené des missions similaires visant à réduire les risques lors du développement de modèles IA dans ses précédentes entreprises.

Que signifie cette nomination ?
* Rôle : Poste clé au sein de l’équipe « preparedness » – responsable de la préparation et de la mise en œuvre de mesures permettant de développer des modèles puissants sans mettre en danger les utilisateurs.
* Conditions : Salaire annuel de 550 000 $ plus actions OpenAI.
* Contexte : Depuis 2023, l’entreprise dispose d’une « team preparedness » dirigée auparavant par Alexander Madrid, spécialiste du MIT.

Ce que le dirigeant d’OpenAI en pense
Le PDG Sam Altman a souligné qu’à mesure que les modèles évoluent rapidement, l’entreprise sera confrontée à de nouveaux risques plus graves. Il a ajouté :

> « Nous allons travailler sur des modèles très puissants. Cela nécessitera des mesures de précaution appropriées pour assurer la poursuite d’avantages importants. »

Altman a exprimé sa confiance en Scandino :

*« Il est le meilleur candidat à ce poste parmi toutes les personnes que j’ai jamais rencontrées, »* a-t-il déclaré.
Il a ajouté que grâce à ce nouveau responsable, l’équipe pourra se concentrer sur la sécurité à long terme et « dormir plus sereinement ».

Qu’on attend de Scandino ?
Scandino lui-même reconnaît que les modèles IA en rapide évolution peuvent entraîner un « dommage extrême et même irréversible ». Il doit donc :

* élaborer des stratégies de minimisation des risques;
* mettre en œuvre des pratiques d’entraînement et d’exploitation sûres pour les modèles;
* coordonner les efforts de toute l’équipe OpenAI dans ce domaine.

Conclusion
OpenAI renforce sa structure de sécurité en recrutant un expert expérimenté issu des principales entreprises du secteur. Cette nomination souligne l’engagement de la société envers le développement responsable de l’IA et la préparation aux défis futurs.