Liquid AI bringt RIPL: Echtzeit-Inference-Engine für unter 50 ms Latenz

Liquid AI hat mit RIPL eine Echtzeit-Inference-Engine für seine LFM-Modelle vorgestellt. Auf einem B200 erreichte LFM2.5-1.2B damit eine 14,4- bis 28,4-fach niedrigere p95-Latenz als Qwen3.5-0.8B auf vLLM.

MarkTechPostDonnerstag 19:33 · 22.10.DE1 Min. Lesezeit

Der Artikeltext wird beim nächsten Sync nachgeladen. Original bei MarkTechPost lesen

Originaltitel: Liquid AI Launches RIPL, a Real-Time Inference Engine for Sub-50 ms LFMsQuelle: MarkTechPost (MarkTechPost). Original öffnen