DeepSeek veröffentlicht Inferenz-Engine DeepInfer als Open Source
DeepInfer, die Inferenz-Engine hinter DeepSeeks Produktionsdiensten, ist seit dem 20. Oktober als Open Source verfügbar. Das Repository verzeichnet bereits fast 20.000 Sterne auf GitHub.
DeepInfer, die Inferenz-Engine, die DeepSeek in seinen Produktionsdiensten einsetzt, wurde am 20. Oktober als Open Source veröffentlicht und nähert sich bereits der Marke von 20.000 Sternen auf GitHub. Die genaue Zahl des Repositories wies in der Nacht zum 22. Oktober, drei Tage nach der Veröffentlichung, 19.941 Sterne und 2.126 Forks auf. Eine Inferenz-Engine ist das Programm, das ein bereits trainiertes Modell nimmt und es den Nutzern bereitstellt: Sie verteilt die Arbeit auf die Chips, bündelt die eingehenden Anfragen und entscheidet, wie schnell jede Antwort ausgegeben wird.
Diese Schicht bestimmt einen wesentlichen Teil der Kosten, die für den Betrieb eines KI-Dienstes anfallen, und die großen Labore hüten sie hinter verschlossenen Türen. DeepSeek machte das Gegenteil. Die gewählte Lizenz war Apache 2.0, eine der offensten Lizenzen des freien Codes: Sie erlaubt die Nutzung, Modifikation und Weiterverbreitung des Programms, auch zu kommerziellen Zwecken.
Die Ankündigung erfolgte auf X mit einem kurzen Satz, «unseres internen Inferenz-Frameworks, jetzt vollständig als Open Source», und mit dem Versprechen, dazu beizutragen, die Rechen- und Energiekosten zu senken.
Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.
Original (Englisch) anzeigen
DeepInfer, el motor de inferencia que DeepSeek usa en sus servicios de producción, quedó publicado como código abierto el 20 de octubre y ya roza las 20.000 estrellas en GitHub. La cifra exacta del repositorio marcaba 19.941 estrellas y 2.126 bifurcaciones la noche del 22 de octubre, tres días después de la salida. Un motor de inferencia es el programa que toma un modelo ya entrenado y lo sirve a los usuarios: reparte el trabajo entre chips, agrupa las peticiones que llegan y decide con qué rapidez sale cada respuesta.
Esa capa decide buena parte de lo que cuesta operar un servicio de inteligencia artificial, y los laboratorios grandes la guardan bajo llave. DeepSeek hizo lo contrario. La licencia elegida fue Apache 2.0, una de las más abiertas del código libre: permite usar, modificar y redistribuir el programa, también con fines comerciales.
El anuncio llegó en X con una frase corta, «nuestro marco de inferencia interno, ahora totalmente de código abierto», y con la promesa de ayudar a bajar costos de cómputo y consumo de energía.