DeepSeek : l’IA open source chinoise qui monte

DeepSeek est une entreprise chinoise spécialisée dans l’intelligence artificielle (IA), basée à Hangzhou et soutenue par le fonds spéculatif High-Flyer. Elle se distingue par le développement de modèles d’IA open source, notamment DeepSeek-V3, qui rivalise avec les modèles propriétaires les plus avancés.

DeepSeek-V3 : Une avancée majeure

DeepSeek-V3 est un modèle de langage basé sur une architecture Mixture-of-Experts (MoE) comprenant 671 milliards de paramètres, dont 37 milliards sont activés pour chaque token. Cette configuration permet une efficacité accrue lors de l’inférence, avec une vitesse de traitement de 60 tokens par seconde, soit trois fois plus rapide que la version précédente, DeepSeek V2.

En termes de performances, DeepSeek-V3 se positionne en tête des modèles open source et concurrence les modèles propriétaires les plus sophistiqués. Par exemple, il obtient un score de 88,5 sur le benchmark MMLU, surpassant des modèles tels que Qwen2.5 et Claude-3.5 Sonnet. De plus, il excelle dans des tâches de raisonnement complexe, notamment en programmation et en mathématiques avancées.

Accessibilité et utilisation

L’un des atouts majeurs de DeepSeek-V3 réside dans son accessibilité. En tant que modèle open source, son code est disponible sur GitHub, et les poids du modèle peuvent être obtenus via Hugging Face, facilitant ainsi son intégration dans divers projets, y compris commerciaux.

Le modèle peut être déployé localement sur différentes configurations matérielles, avec une recommandation pour l’utilisation de 8 GPU H200, bien qu’il soit compatible avec d’autres matériels tels que NVIDIA, AMD et Huawei Ascend. Des logiciels open source comme DeepSeek-Infer Demo, SGLang, LMDeploy, TensorRT-LLM et vLLM facilitent ce déploiement, démontrant ainsi sa flexibilité.

Applications et impact

DeepSeek-V3 trouve des applications variées, notamment dans la génération de code, la traduction et la création de contenu. Sa capacité à traiter des contextes de longueur allant jusqu’à 128K tokens et son entraînement sur un corpus de 14,8 trillions de tokens lui confèrent une polyvalence remarquable.

Son caractère open source favorise l’innovation en permettant aux chercheurs et développeurs d’expérimenter et d’améliorer la technologie de DeepSeek. De plus, son coût d’utilisation est nettement inférieur à celui de modèles propriétaires, le rendant accessible à un large éventail d’utilisateurs et d’organisations.

Limitations

Il est important de noter que, conformément aux réglementations chinoises, DeepSeek-V3 évite les sujets politiquement sensibles, tels que la place Tiananmen ou les discussions sur Xi Jinping. Ces restrictions sont courantes pour les modèles développés en Chine et reflètent l’environnement politique et réglementaire du pays.

Conclusion

DeepSeek, avec son modèle DeepSeek-V3, illustre la capacité des modèles open source à rivaliser avec les solutions propriétaires les plus avancées. Son engagement envers l’accessibilité et l’innovation positionne DeepSeek comme un acteur clé dans le domaine de l’intelligence artificielle, offrant des solutions puissantes et économiques pour une variété d’applications.

Site officiel : https://www.deepseek.com/