Dossier Patrick's news
pm7.news EST. 2026
laden
← Overzicht

Liquid AI: LFM2.5-VL-DSpark versnelt vision-language inferentie

· opgehaald 16:35

Samenvatting

Liquid AI publiceert op Hugging Face LFM2.5-VL-DSpark: een ~280M-parameter drafter (+8,9%) voor speculative decoding op LFM2.5-VL-3B. Day-one support in llama.cpp, MLX-VLM en SGLang; sneller op CPU en GPU.

Het verhaal

Hugging Face-blog van Liquid AI: speculative decoding voor VLMs via DSpark. De vision-drafter (~280M params) tapt hidden states van de target en draft k tokens. Ablaties kozen 4 layers; block size 8. Ondersteuning in llama.cpp, MLX-VLM en SGLang.