DeepSeek open-sourced DeepInfer, die Inference-Engine hinter DeepSeek-V4.1-Flash

DeepInfer steht unter der Apache-2.0-Lizenz und kommt im Produktivbetrieb von DeepSeek-V4.1-Flash zum Einsatz. Unterstuetzt werden NVIDIA-SM100-GPUs und Huawei Ascend 950 NPUs, zun盲chst gibt es nur Offline-Inference.

MarkTechPostDienstag 16:31 · 20.10.DE1 Min. Lesezeit

Der Artikeltext wird beim nächsten Sync nachgeladen. Original bei MarkTechPost lesen

Originaltitel: DeepSeek Open-Sources DeepInfer, the Inference Framework Behind DeepSeek-V4.1-FlashQuelle: MarkTechPost (MarkTechPost). Original öffnen