Liquid AI: LFM2.5-VL-DSpark versnelt vision-language inferentie

· opgehaald 16:35

Liquid AI publiceert op Hugging Face LFM2.5-VL-DSpark: een ~280M-parameter drafter (+8,9%) voor speculative decoding op LFM2.5-VL-3B. Day-one support in llama.cpp, MLX-VLM en SGLang; sneller op CPU en GPU.

Hugging Face-blog van Liquid AI: speculative decoding voor VLMs via DSpark. De vision-drafter (~280M params) tapt hidden states van de target en draft k tokens. Ablaties kozen 4 layers; block size 8. Ondersteuning in llama.cpp, MLX-VLM en SGLang.