Qwen Coder 自建模型工具调用受阻,兼容性问题引热议

一位开发者尝试使用 vllm 自建 Qwen Coder 模型,通过 OpenAI 协议暴露接口。然而,在对接 Codex、Claude Code 等主流 CLI 工具时,出现了工具调用无法被识别的问题。模型输出的 “ 标签格式未被客户端解析,导致命令无法执行。尽管尝试了 litellm 中转和代理接口转译,但因协议细节理解不足仍未解决,凸显了开源模型与现有工具生态间的兼容性挑战。

原文链接:Linux.do

抢沙发

评论前必须登录!

立即登录   注册