Le chef du service de cybersécurité IA chez Anthropic a quitté l'entreprise, reconnaissant que le monde est menacé.

Mrinank Sharma quitte Anthropic : lettre aux collègues et projets futurs

Le ancien chef du département de recherche en sécurité de l’IA chez Anthropic, Mrinank Sharma (Mrinank Sharma), a publié cette semaine son message d’adieu sur le web. Dans celui‑ci, il explique les raisons de son départ, partage ses réflexions sur les risques actuels et décrit ce qu’il compte faire par la suite.

Ce qui est dit dans la lettre
* Réalisations – Sharma souligne avoir « accompli tout ce qu’il voulait ». Parmi les projets cités figurent le développement de mécanismes de défense contre le bioterrorisme grâce à l’IA et des études sur l’impact des réseaux neuronaux sur la société.

* Motif du départ – l’auteur a conclu qu’il était temps d’avancer. Il méditait constamment sur « le danger que peut représenter l’IA, les armes biologiques et la chaîne de crises interconnectées qui se déroulent en ce moment ». Selon lui, nous approchons d’un seuil au-delà duquel la sagesse doit croître proportionnellement à notre capacité d’influence mondiale ; sinon, des conséquences imprévisibles nous attendent.

* Barrières culturelles – Sharma met en avant la difficulté de préserver les valeurs sous pression. Il a observé cela tant en interne qu’au sein de l’entreprise, où il faut parfois renoncer à l’essentiel pour répondre aux influences extérieures, ainsi que dans la société en général.

* Projets futurs – après son départ, il compte s’engager dans des travaux alignés sur ses principes et étudier la poésie ainsi que d’autres formes créatives.

Ce qui se passe chez Anthropic
* Plusieurs développeurs de premier plan ont déjà quitté l’entreprise, accentuant une vague de rotation du personnel.

* Anthropic négocie l’obtention de capitaux supplémentaires. Si les accords sont conclus, la valeur marchande pourrait atteindre 350 milliards de dollars.

* La semaine dernière, une nouvelle version du modèle Claude Opus 4.6 a été lancée. Elle améliore la productivité bureautique et l’efficacité de la programmation, agrandit la fenêtre contextuelle pour les gros documents et prend en charge des tâches plus complexes.

Où trouver la lettre
Le texte complet de la lettre d’adieu de Sharma est publié dans un article de Business Insider, offrant une vision détaillée de ses pensées et motivations.