qwen3-asr是否能直接支持vllm

[SKFSLXC]

Question: 我尝试使用FunASR的AutoModelVLLM接口加载Qwen/Qwen3-ASR-1.7B模型进行推理，但报错“找不到config.yaml”。请问FunASR的vLLM推理是否支持Qwen3-ASR？正确的使用方法是什么？

Code or command:

python
from funasr.auto.auto_model_vllm import AutoModelVLLM
model_asr = AutoModelVLLM(
model="Qwen/Qwen3-ASR-1.7B",
trust_remote_code=True,
hub="ms",
tensor_parallel_size=1
)
What have you tried?: 我尝试按照AutoModelVLLM的标准方式加载模型，但遇到了config.yaml找不到的错误。后续是否可以支持一下

[LauraGPT]

@SKFSLXC 简短结论:FunASR 的 AutoModelVLLM 不能直接加载 Qwen/Qwen3-ASR-1.7B,所以会报"找不到 config.yaml"。

原因:AutoModelVLLM 只接受 FunASR 格式的模型——模型目录里必须有 FunASR 的 config.yaml(描述网络结构)+ model.pt。而 Qwen/Qwen3-ASR-1.7B 是 HuggingFace/transformers 格式的仓库,没有这个 config.yaml,加载时第一步就找不到它而报错。

而且 FunASR 源码里(funasr/auto/auto_model_vllm.py)对各模型 vLLM 适配性有明确分类:

_NON_LLM_MODELS = {
    ...
    "Qwen3ASR": "Uses external qwen-asr package with optimized inference.",
}

即 Qwen3-ASR 走的是它自己的 qwen-asr 包做优化推理,FunASR 不在 AutoModelVLLM 里集成它。

正确用法二选一:

1. 要 FunASR 的 vLLM 加速 → 用旗舰 Fun-ASR-Nano(原生 FunASR 格式、官方支持 vLLM,单卡 340x 实时、CER 8.20%):

   from funasr.auto.auto_model_vllm import AutoModelVLLM
   model = AutoModelVLLM(model="FunAudioLLM/Fun-ASR-Nano-2512", hub="hf")  # 国内可用 hub="ms"
   res = model.generate(input="xxx.wav")

2. 就是要用 Qwen3-ASR → 按 Qwen 官方的 qwen-asr 包 / transformers / DashScope 推理,不要走 FunASR 的 AutoModelVLLM。

如果你的目标只是"中文/多语种 + vLLM 高吞吐离线识别",推荐直接用 Fun-ASR-Nano,开箱即用、文档在 https://modelscope.github.io/FunASR/ 。