Qwen3.6 27B trên Mac 64 GB: tốc độ, chất lượng, bộ nhớ
Alibaba Qwen, ra mắt Apr 2026. 27B tham số, dày đặc. Bản 4-bit MLX, tải 16,1 GB. Giấy phép Apache-2.0.
- HumanEval+ pass@1: 153 trên 164 (93,3%), hạng 1 trên 8
- HumanEval pass@1: 158 trên 164 (96,3%)
- Tốc độ sinh: 17,6 token mỗi giây (5 lần, từ 17,3 đến 17,8); đọc prompt 459 token mỗi giây
- Bộ nhớ cao nhất: 17,0 GB · điện năng khi sinh chữ: 24 W · GPU cao nhất 80 °C
Tự chạy thử
pip install mlx-lm mlx_lm.chat --model mlx-community/Qwen3.6-27B-4bit
HumanEval/67
Đọc chuỗi kiểu '5 apples and 6 oranges' rồi tính số xoài còn lại.
Nó lấy từ thứ ba làm số cam. Từ đó là 'and', nên int('and') báo lỗi. Cả 7 model còn lại đều làm đúng bài này.
Các bài bị sai
HumanEval/67, HumanEval/92, HumanEval/116, HumanEval/134, HumanEval/145, HumanEval/163
File gốc: speed.log, evaluate.log, eval_results.json