Les scientifiques chinois passent de l’inférence à l’entraînement des modèles d’IA sur les accélérateurs Huawei

Les puces Huawei chinoises ont réussi à terminer l'entraînement supplémentaire du modèle DeepSeek‑V4‑Pro

*Selon un communiqué de South China Morning Post, la Chine a réussi à utiliser les puces Huawei Ascend 910C pour une révision complète du grand modèle d’IA DeepSeek‑V4‑Pro. C’est une étape importante dans le développement de l’industrie des semi-conducteurs nationale, qui cherche à passer du simple inférence au complexe apprentissage face aux sanctions américaines renforcées.*

Ce qui s’est passé
Phase | Description | Lancement du projet
---|---|---
Un groupe de recherche de Huawei Technologies et ses partenaires (Institut des routes circulaires de Shenzhen, campus de l’Institute of Harbin Technological University à Shenzhen, Institut de recherche sur les grands ensembles de données de Shenzhen) a démarré pour entraîner le modèle DeepSeek‑V4‑Pro. | Échelle | Le modèle contient 1,6 trillion de paramètres et a été lancé sur un cluster d’au moins 1000 puces Ascend 910C.
Entraînement supplémentaire | Entraînement « paramétrique » complet : toute l’architecture du modèle a été mise à jour sans compromis, pas seulement des couches individuelles.

Pourquoi c’est important
* Jusqu’à récemment, les puces chinoises étaient utilisées avec succès pour l’inférence – le processus où le modèle répond simplement aux requêtes.

* Désormais, grâce au nouveau projet, le modèle peut se réexaminer et s’ajuster en cours d’exécution, ajoutant des « ponts complexes et boucles » à un flux de données auparavant unidirectionnel. Cela augmente les exigences computationnelles et de communication, mais rend le système plus autonome.

Résultats attendus
* Le gouvernement de Shenzhen a déclaré que cette recherche aidera à accroître l’autosuffisance de l’industrie chinoise de l’intelligence artificielle et renforcera la position des puces nationales dans un contexte d’limitations externes.