OpenAI intègre la sécurité dans les agents d’IA en acquérant la startup Promptfoo

OpenAI acquiert la startup Promptfoo

La société OpenAI a conclu un accord pour l’acquisition de la startup Promptfoo, fondée il y a deux ans et qui développe des outils pour tester la sécurité de l’intelligence artificielle dès sa conception. Selon Bloomberg, l’objectif de la transaction est de réduire les risques pour les clients utilisant des solutions d’IA et d’attirer le grand marché corporatif.

Qui est Promptfoo ?

- Fondée : 2022
- Localisation : San‑Francisco
- Services : code open source pour tester les réseaux neuronaux, y compris une « équipe rouge » (red‑team), où des spécialistes simulent des attaques sur leurs propres modèles afin d’identifier les faiblesses avant qu’elles ne soient exploitées par des attaquants.
- Clients : environ 25 % des entreprises de la liste Fortune 500.

Ce qui changera après l’intégration

Les technologies Promptfoo seront intégrées à la plateforme corporative OpenAI – Frontier. Cela donnera à Frontier un test automatisé, une surveillance des changements et un système de reporting conforme aux exigences de sécurité.

Réaction des investisseurs

Ganes Bell (CEO Insight Partners), qui a dirigé le tour de financement Promptfoo d’un montant de 18,4 millions de dollars l’an dernier, a déclaré : « L’achat démontre l’engagement clair d’OpenAI à créer une IA corporative qui sera non seulement puissante mais aussi sûre et fiable lorsqu’elle sera mise à l’échelle. » Les détails financiers de la transaction ne sont pas encore divulgués.

L’avenir de Promptfoo

OpenAI continuera de développer le code source ouvert de Promptfoo parallèlement à son intégration commerciale. Récemment, la société a déjà présenté un agent d’IA capable de détecter et corriger les vulnérabilités dans les bases de données – un outil similaire à Anthropic PBC.