
如何快速上手Qwen3.6-35B-A3B-EXTENSOR从下载到运行的完整指南Qwen3.6-35B-A3B-EXTENSOR是基于Qwen/Qwen3.6-35B-A3B构建的EXTENSOR运行时镜像专注于文本生成功能不包含视觉和MTP组件。本指南将帮助新手用户快速完成从环境准备到模型运行的全流程操作。 准备工作了解模型基本信息模型核心参数文件名Qwen3.6-35B-A3B-EXTENSOR-ROCmFP4-v1.extensor.gguf文件大小19,205,345,280 bytes约19.2GB量化格式ROCmFP4SHA-256校验值66260013d3ec7b880b9d148fc688a2b17f7dafcdadcdc3599738db7302edf896可在SHA256SUMS文件中验证系统要求运行环境需EXTENSOR 2.0.0及以上版本不兼容llama.cpp硬件加速建议使用支持ROCm的AMD显卡以发挥最佳性能存储空间至少20GB可用空间用于存储模型文件 下载与验证确保文件完整性步骤1克隆项目仓库git clone https://gitcode.com/hf_mirrors/amd/Qwen3.6-35B-A3B-EXTENSOR cd Qwen3.6-35B-A3B-EXTENSOR步骤2验证文件完整性下载完成后通过SHA256SUMS文件验证模型文件是否完整sha256sum --check SHA256SUMS✅ 验证成功会显示Qwen3.6-35B-A3B-EXTENSOR-ROCmFP4-v1.extensor.gguf: OK 快速启动运行模型的3种方式方式1基础命令行启动extensor run Qwen3.6-35B-A3B-EXTENSOR-ROCmFP4-v1.extensor.gguf方式2指定推理参数extensor run --device rocm --max-tokens 2048 Qwen3.6-35B-A3B-EXTENSOR-ROCmFP4-v1.extensor.gguf--device rocm启用AMD GPU加速--max-tokens 2048设置最大生成 tokens 数方式3交互模式对话extensor chat Qwen3.6-35B-A3B-EXTENSOR-ROCmFP4-v1.extensor.gguf启动后可直接输入问题进行交互式对话。⚠️ 常见问题解决问题1提示EXTENSOR版本不兼容解决方法升级EXTENSOR到2.0.0以上版本pip install --upgrade extensor问题2文件校验失败可能原因下载过程中文件损坏 解决方法重新下载模型文件并再次验证问题3GPU内存不足建议减少批处理大小或使用CPU模式性能会降低extensor run --device cpu Qwen3.6-35B-A3B-EXTENSOR-ROCmFP4-v1.extensor.gguf 许可证信息本项目采用Apache License 2.0开源协议详细条款见LICENSE文件。使用前请确保遵守上游仓库的使用规范和引用要求。 扩展资源官方文档可参考EXTENSOR官方文档了解更多高级功能模型来源基于Qwen/Qwen3.6-35B-A3B的995ad96e版本构建社区支持通过项目Issue页面获取技术支持创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考