大模型推理框架 vLLM 发布 v0.28.0 版本，新增对 DeepSeek-VL 等多模态模型支持

开源大模型推理引擎 vLLM 正式发布了 v0.28.0 版本，带来了多项关键技术更新与模型支持。本次版本迭代的核心在于对多模态能力的强化，正式引入了对 DeepSeek-VL 的支持，并同步兼容了 Meta 最新发布的 Llama 3.3 模型。在工程化方面，vLLM 团队优化了视觉语言模型的预处理流程，显著提升了多模态推理的吞吐效率。此外，新版本还修复了 OpenAI 兼容 API 在流式传输场景下的潜在问题，进一步增强了其作为通用推理后端的稳定性。随着大模型架构从纯文本向视觉-语言乃至 MoE 架构演进，vLLM 此次更新不仅降低了开发者部署 SOTA 模型的技术门槛，也为构建高性能 AI 应用提供了更坚实的底层算力调度基础。

事件分析

核心观点：大模型推理框架的快速迭代表明，开源基础设施正在通过极致性能优化，支撑 AI 多模态应用的爆发式落地。