DeepSeek ouvre le code de DeepInfer, son moteur d'inférence compatible Nvidia et Huawei Ascend

DeepSeek a publié en open source le 20 octobre 2026 DeepInfer, le framework d'inférence qui, selon l'entreprise, fait tourner ses services en production, rapporte TechNode. Il prend en charge les GPU Nvidia SM100 et les NPU Huawei Ascend 950.

Ce que contient DeepInfer

Noyaux optimisés, ordonnancement asynchrone, inférence distribuée et décodage spéculatif, avec V4.1 Flash comme modèle listé. Le dépôt n'inclut pas encore un système complet de cache KV ni l'équilibrage de charge entre réplicas, et la séparation prefill/decode est surtout, mais pas entièrement, en place. DeepSeek publie aussi deepseek-recipe, une bibliothèque qui gère les requêtes API, la préparation des prompts et l'analyse des sorties.

La mise à jour V4.1-Flash-1017

Datée du 17 octobre, elle vise le code et les tâches d'agents avec des exécutions et des sorties plus courtes. D'après les chiffres de DeepSeek, Terminal-Bench 4.0 passe de 31,2 à 42,3 et DeepSWE v1.1 de 74,2 à 77,0, pour environ 0,20 dollar par tâche à 77 %.

Un classement indépendant

Selon un relais d'ITHome, le classement Agent Arena place le modèle premier parmi les modèles à poids ouverts et 11e au total, sur 7 498 sessions réelles, avec un coût médian proche de 0,18 dollar par tâche. La plupart des scores restent toutefois publiés par DeepSeek lui-même.

Côté API

Les API de recherche et de récupération sont ouvertes aux développeurs à 5 yuans les 1 000 requêtes réussies chacune. Les appels via les intégrations Claude Code et Codex sont temporairement gratuits, avec une facturation à la requête prévue à partir du 1er novembre.

Sources

• TechNode