支持的模型¶

图例说明：

✅ = 支持的模型/功能
🔵 = 实验性支持的模型/功能
❌ = 不支持的模型/功能
🟡 = 未测试或未验证

仅文本语言模型¶

生成式模型¶

核心支持模型¶

950DT ProductsA2/A3Atlas 300I DUO

模型	支持	备注	BF16	支持硬件	W8A8	分块预填充	自动前缀缓存	推测解码	异步调度	张量并行	流水线并行	专家并行	数据并行	预填充-解码分离	分段 AclGraph	全图 AclGraph	max-model-len	文档
DeepSeek V4-Flash	✅	原生混合 MXFP8/MXFP4 权重		950DT Products	✅	✅	✅	✅	✅		✅	✅	✅	✅		✅	1M	DeepSeek V4-Flash
DeepSeek V4-Pro	✅	原生混合 MXFP8/MXFP4 权重		950DT Products	✅	✅	✅	✅	✅		✅	✅	✅	✅		✅	1M	DeepSeek V4-Pro
DeepSeek-V3.1	✅		✅	950DT Products	✅	✅	✅	✅	✅	✅		✅	✅	✅	✅	✅	240k	DeepSeek-V3.1
GLM-5.1	✅		✅	950DT Products	✅	✅	✅	✅	✅	✅		✅	✅	✅		✅	200k	GLM-5.1

模型	支持	备注	BF16	支持硬件	W8A8	分块预填充	自动前缀缓存	LoRA	推测解码	异步调度	张量并行	流水线并行	专家并行	数据并行	预填充-解码分离	分段 AclGraph	全图 AclGraph	max-model-len	文档
DeepSeek V4-Flash	🔵		✅	A2/A3	✅	✅	✅		✅	✅	✅		✅	✅	✅		✅	1M	DeepSeek-V4-Flash
DeepSeek V4-Pro	🔵		✅	A2/A3	✅	✅	✅		✅	✅	✅		✅	✅	✅		✅	1M	DeepSeek-V4-Pro
DeepSeek V3/3.1	✅		✅	A2/A3	✅	✅	✅		✅		✅	✅	✅	✅	✅	✅	✅	240k	DeepSeek-V3.1
DeepSeek V3.2	✅		✅	A2/A3	✅	✅	✅	✅	✅	✅	✅	✅	✅	✅	✅	✅	✅	160k	DeepSeek-V3.2
DeepSeek R1	✅		✅	A2/A3	✅	✅	✅		✅		✅	✅	✅	✅	✅	✅	✅	128k	DeepSeek-R1
Qwen3-Dense	✅		✅	A2/A3	✅	✅	✅			✅	✅			✅		✅	✅	128k	Qwen3-Dense
Qwen3-30B-A3B	✅		✅	A2/A3	✅	✅	✅		✅	✅	✅		✅	✅		✅	✅		Qwen3-30B-A3B
Qwen3-Coder-30B-A3B	🔵		✅	A2/A3	✅	✅	✅		✅	✅	✅		✅	✅		✅	✅		Qwen3-Coder-30B-A3B
Qwen3-235B-A22B	✅		✅	A2/A3	✅	✅	✅			✅	✅		✅	✅	✅	✅	✅	256k	Qwen3-235B-A22B
Qwen3-Next	🔵		✅	A2/A3	✅						✅			✅		✅	✅		Qwen3-Next
GLM-4.x	✅			A2/A3	✅	✅	✅		✅	✅	✅		✅	✅	✅	✅	✅	198k	GLM-4.x
GLM-5/5.1	🔵		✅	A2/A3	✅	✅	✅		✅	✅	✅	✅	✅	✅	✅	✅	✅	200k	GLM-5
GLM-5.2	🔵		✅	A2/A3	✅	✅	✅		✅	✅	✅	✅	✅	✅	✅	✅	✅	200k	GLM-5.2
GLM-5.3	🔵		✅	A2/A3	✅	✅	✅		✅	✅	✅	🔵	✅	✅	🔵	✅	✅	200k	GLM-5.3
GLM-5.3-Flash	🔵		✅	A2/A3/950DT Products	✅	✅	✅		✅	✅	✅	✅	✅	✅	✅	✅	✅	200k	GLM-5.3-Flash
Gemma4	🔵		✅	A2/A3/950PR&950DT Products		✅	✅			✅	✅			✅		✅	✅		Gemma4
Kimi-K2-Thinking	🔵			A2/A3															Kimi-K2-Thinking
DeepSeekOCR2	✅		✅	A2/A3		✅				✅									DeepSeekOCR2
MiniMax-M2.5/2.7	🔵		✅	A2/A3/Ascend950 (Ascend950 实验性)	✅	✅	✅	❌	✅	✅	✅	🟡	✅	✅	✅	🟡	✅	200k	MiniMax-M2
Qwen2.5-Math-RM-72B	🔵	vllm-rm, tensor_parallel_size=4, max_model_len=4096	✅	A2	✅	🟡	🟡	❌	🟡	✅	✅	🟡	🟡	🟡	🟡	🟡	🟡	4096	Qwen2.5-Math-RM-72B

模型	支持	备注	BF16	支持的硬件	W8A8	分块预填充	自动前缀缓存	LoRA	推测解码	异步调度	张量并行	预填充-解码分离	分段 AclGraph	全图 AclGraph	max-model-len	文档
-------	---------	------	------	--------------------	------	-----------------	------------------------	------	----------------------	------------------	-----------------	-------------------------------	--------------------	--------------------	---------------	-----
Qwen3-Dense	✅		❌	Atlas 300I DUO	✅	✅	✅	❌	🟡	✅	✅	❌	✅	✅	20k	Qwen3-Dense
Qwen3-30B-A3B	✅		❌	Atlas 300I DUO	✅	✅	✅	❌	🟡	✅	✅	❌	✅	✅	16k	Qwen3-30B-A3B

扩展兼容模型¶

模型	支持	备注	支持的硬件
DeepSeek Distill (Qwen/Llama)	🔵		A2/A3
基于 Qwen3	🔵		A2/A3
Qwen2	🔵		A2/A3
Qwen2.5	🔵		A2/A3
基于 Qwen2	🔵		A2/A3
QwQ-32B	🔵		A2/A3
Llama2/3/3.1/3.2	🔵		A2/A3
InternLM	🔵	#1962	A2/A3
Baichuan	🔵		A2/A3
Baichuan2	🔵		A2/A3
Phi-4-mini	🔵		A2/A3
MiniCPM	🔵		A2/A3
MiniCPM3	🔵		A2/A3
Ernie4.5	🔵		A2/A3
Ernie4.5-Moe	🔵		A2/A3
Gemma-2	🔵		A2/A3
Gemma-3	🔵		A2/A3
Phi-3/4	🔵		A2/A3
Mistral/Mistral-Instruct	🔵		A2/A3
Hy3-preview	🔵		A3
Hy4-preview（实验性）	🔵		A3
DeepSeek V2.5	🟡	需要测试
Mllama	🟡	需要测试
MiniMax-Text	🟡	需要测试

池化模型¶

A2/A3

模型	支持	备注	支持的硬件	W8A8	文档
Qwen3-Embedding	🔵		A2/A3	🟡	Qwen3-Embedding
Qwen3-VL-Embedding	🔵		A2/A3	🔵	Qwen3-VL-Embedding
Qwen3-Reranker	🔵		A2/A3	🟡	Qwen3-Reranker
Qwen3-VL-Reranker	🔵		A2/A3	🔵	Qwen3-VL-Reranker
Molmo	🔵	1942	A2/A3	🟡
XLM-RoBERTa-based	🔵		A2/A3	🟡
Bert	🔵		A2/A3	🟡

模型	支持	说明	支持的硬件	W8A8	文档
Qwen2.5-Math-RM-72B	🔵	奖励模型，gsm8k_correctness 准确率=0.80	A2	Qwen2.5-Math-RM-72B

Atlas 300I DUO

模型	支持	说明	支持的硬件	W8A8	文档
Qwen3-Embedding	🔵	FP16	Atlas 300I DUO	🟡	Qwen3_Embedding
Qwen3-VL-Embedding	🔵	FP16	Atlas 300I DUO	🔵	Qwen3_VL_Embedding
SigLIP2	✅	FP16；文本/图像嵌入	Atlas 300I DUO	🔵	SigLIP2
Qwen3-Reranker	🔵	FP16	Atlas 300I DUO	🟡	Qwen3_Reranker
Qwen3-VL-Reranker	🔵	FP16	Atlas 300I DUO	🔵	Qwen3_VL_Reranker
XLM-RoBERTa-based	🔵	FP16；嵌入和评分	Atlas 300I DUO	🟡
Qwen2.5-based	🔵	FP16 分类	Atlas 300I DUO	🟡

多模态语言模型¶

生成式模型¶

核心支持模型¶

950DT ProductsA2/A3

模型	支持	说明	BF16	支持的硬件	W8A8	分块预填充	自动前缀缓存	推测解码	异步调度	张量并行	流水线并行	专家并行	数据并行	预填充-解码分离	分段 AclGraph	全图 AclGraph	max-model-len	文档
Qwen3.5-397B-A17B	✅		✅	950DT Products	✅	✅	✅	✅	✅	✅		✅	✅	✅	✅	✅	1010000	Qwen3.5-397B-A17B
Qwen3.6-27B	✅		✅	950DT Products	✅	✅	✅	✅	✅	✅		✅	✅	✅	✅	✅	262144	Qwen3.5-27B / Qwen3.6-27B
MiniMax-M3	✅	MXFP8；文本/图像/视频		950DT Products		✅	✅	✅	✅	✅	✅	✅	✅	✅	🟡	✅	1M	MiniMax-M3

模型	支持	说明	BF16	支持的硬件	W8A8	分块预填充	自动前缀缓存	LoRA	推测解码	异步调度	张量并行	流水线并行	专家并行	数据并行	预填充-解码分离	分段 AclGraph	全图 AclGraph	max-model-len	文档
Qwen3-VL	✅			A2/A3							✅					✅	✅		Qwen-VL-Dense
Qwen3-VL-30B-A3B/Qwen3-VL-235B-A22B	✅		✅	A2/A3	✅	✅	✅			✅	✅		✅	✅	✅	✅	✅	262144	Qwen3-VL-30B-A3B/Qwen3-VL-235B-A22B
DeepSeek-V4-Flash-Vision-Exp	🔵	W8A8；仅支持共置部署	🟡	A2/A3	✅	🟡	✅	🟡	✅	🟡	✅	🟡	✅	✅	❌	✅	✅	130000	DeepSeek-V4-Flash-Vision-Exp
DeepSeek-V4.1-Flash	✅	W8A8；2 节点 A3 或 4 节点 A2 共置部署	🟡	A2/A3	✅	🟡	✅	❌	✅	🟡	✅	❌	✅	✅	❌	❌	✅	1048576	DeepSeek-V4.1-Flash
Qwen3.5-397B-A17B	🔵		✅	A2/A3	✅	✅	✅		✅	✅	✅		✅	✅	✅	✅	✅	1010000	Qwen3.5-397B-A17B
Qwen3.5-27B / Qwen3.6-27B	🔵		✅	A2/A3	✅	✅	✅		✅	✅	✅		✅	✅	✅	✅	✅	262144	Qwen3.5-27B / Qwen3.6-27B
Qwen3.6-35B-A3B	🔵		✅	A2/A3	✅	✅	✅		🔵	✅	✅		✅	✅	❌	✅	✅	262144	Qwen3.6-35B-A3B
Qwen3-Omni-30B-A3B-Thinking	🔵			A2/A3							✅		✅						Qwen3-Omni-30B-A3B-Thinking
Kimi-K2.5/Kimi-K2.6	🔵			A2/A3		✅	✅		✅	✅	✅		✅	✅	✅	✅	✅	262144	Kimi-K2.5/Kimi-K2.6
Kimi-K3	🔵	W4A8；DSpark；FULL_DECODE_ONLY		A3			✅		✅		✅		✅	✅			✅		Kimi-K3
MiniMax-M3	✅	文本、图像、视频和 ViT DP	✅	A2/A3	✅	✅	✅		✅	✅	✅	✅	✅	✅	✅	🟡	✅	1M	MiniMax-M3
Cohere Transcribe	🔵	2B Conformer 编码器-解码器 ASR，14 种语言（03-2026 和 arabic-07-2026）	✅	A2/A3	❌			❌	❌		🟡				❌	🟡	🟡		Cohere-Transcribe

模型	支持	备注	BF16	支持的硬件	W8A8	分块预填充	自动前缀缓存	LoRA	推测解码	异步调度	张量并行	流水线并行	专家并行	数据并行	预填充-解码分离	分段 AclGraph	全图 AclGraph	max-model-len	文档

Atlas 300I DUO

模型	支持	BF16	支持的硬件	W8A8	分块预填充	自动前缀缓存	LoRA	推测解码	异步调度	张量并行	预填充-解码分离	分段 AclGraph	全图 AclGraph	max-model-len	文档
Qwen3-VL	✅	❌	Atlas 300I DUO	✅	✅	✅	❌	🟡	✅	✅	❌	✅	✅	16k	Qwen-VL-Dense
Qwen3.5-Dense	✅	❌	Atlas 300I DUO	✅	✅	✅	❌	✅	✅	✅	❌	✅	✅	256k	Qwen3.5-Dense
Qwen3.5-35B-A3B	✅	❌	Atlas 300I DUO	✅	✅	✅	❌	✅	✅	✅	❌	✅	✅	256k	Qwen3.5-35B-A3B
Qwen3.5-27B	✅	❌	Atlas 300I DUO	✅	✅	✅	❌	✅	✅	✅	❌	✅	✅	256k	Qwen3.5-27B
Qwen3.6-27B	✅	❌	Atlas 300I DUO	✅	✅	✅	❌	✅	✅	✅	❌	✅	✅	256k	Qwen3.6-27B
Qwen3.6-35B-A3B	✅	❌	Atlas 300I DUO	✅	✅	✅	❌	✅	✅	✅	❌	✅	✅	256k	Qwen3.6-35B-A3B
Qwen3.8-27B	✅	❌	Atlas 300I DUO	✅	✅	✅	❌	✅	✅	✅	❌	✅	✅	256k	Qwen3.8-27B
PaddleOCR-VL	✅	❌	Atlas 300I DUO	❌	✅	✅	❌	❌	✅	❌	❌	✅	✅	16k	PaddleOCR-VL
Qwen3-ASR	✅	❌	Atlas 300I DUO	❌	✅	✅	❌	❌	✅	🟡	❌	✅	✅	4096	Qwen3-ASR-1.7B

扩展兼容模型¶

模型	支持	备注	支持的硬件
Qwen2-VL	🔵		A2/A3
Qwen3-Omni	🔵		A2/A3
QVQ	🔵		A2/A3
Qwen2-Audio	🔵		A2/A3
Aria	🔵		A2/A3
LLaVA-Next	🔵		A2/A3
LLaVA-Next-Video	🔵		A2/A3
MiniCPM-V	🔵		A2/A3
Mistral3	🔵		A2/A3
Phi-3-Vision/Phi-3.5-Vision	🔵		A2/A3
Gemma3	🔵		A2/A3
Llama3.2	🔵		A2/A3
PaddleOCR-VL	🔵		A2/A3
Llama4	❌	1972
Keye-VL-8B-Preview	❌	1961
Florence-2	❌	2259
GLM-4V	❌	2260
InternVL2.0/2.5/3.0 InternVideo2.5/Mono-InternVL	❌	2064
Whisper	❌	2262
Ultravox	🟡	需要测试

本页原文 Markdown：在 AtomGit 查看·内容源自开源项目 vl/vllm-ascend