多模态支持

本文档主要介绍xLLM推理引擎中多模态的支持进展，包括支持模型及模态类型，以及离在线接口等。

支持模型

• Qwen2.5-VL: 包括7B/32B/72B。
• Qwen3-VL: 包括2B/4B/8B/32B。
• Qwen3-VL-MoE: 包括A3B/A22B。
• MiniCPM-V-2_6: 7B。

模态类型

• 图片: 支持单图、多图的输入，以及图片+Prompt组合、纯文本Promot等输入方式。

注意事项

• 目前多模态后端不支持prefix cache以及chunk prefill，正在支持中。
• 目前，xLLM统一基于JinJa渲染ChatTemplate，部署MiniCPM-V-2_6，模型目录需提供ChatTemplate文件。
• 图片支持Base64输入以及图片Url。
• 目前多模态模型主要支持了图片模态，视频、音频等模态正在推进中。