NVIDIA DGX Spark上对Qwen3.5 122B-A10B进行加速
2026-07-06
记录在 NVIDIA DGX Spark 上部署 Qwen3.5 122B-A10B 模型,并通过混合量化、MTP 推测解码、INT8 LM Head 等技术将推理速度提升至 46.88 tok/s(相对于 baseline 28.3 tok/s 提升 65.6%)
Read More