Qwen3.6 35B-A3B trên Mac 64 GB: tốc độ, chất lượng, bộ nhớ
Alibaba Qwen, ra mắt Apr 2026. 35B tham số, 3B hoạt động (hỗn hợp chuyên gia). Bản 4-bit MLX, tải 20,4 GB. Giấy phép Apache-2.0.
- HumanEval+ pass@1: 152 trên 164 (92,7%), hạng 2 trên 8
- HumanEval pass@1: 158 trên 164 (96,3%)
- Tốc độ sinh: 86,5 token mỗi giây (5 lần, từ 84,0 đến 88,0); đọc prompt 1.373 token mỗi giây
- Bộ nhớ cao nhất: 20,7 GB · điện năng khi sinh chữ: 26 W · GPU cao nhất 73 °C
Tự chạy thử
pip install mlx-lm mlx_lm.chat --model mlx-community/Qwen3.6-35B-A3B-4bit
HumanEval/99
Làm tròn một chuỗi số về số nguyên gần nhất. Trường hợp ở giữa thì làm tròn ra xa số 0.
Nó dùng int(), vốn cắt về phía 0. Với -15.5, nó so -15 với -14 rồi trả về -15 thay vì -16.
Các bài bị sai
HumanEval/93, HumanEval/95, HumanEval/99, HumanEval/116, HumanEval/140, HumanEval/145
File gốc: speed.log, evaluate.log, eval_results.json
▶ Qwen3.6 35B-A3B trên Mac 64GB: 86 token/s, 92,7% HumanEval+ (đo thật)