Gemma 4 E4B trên Mac 64 GB: tốc độ, chất lượng, bộ nhớ
Google, ra mắt Apr 2026. 8B tham số, dày đặc. Bản 4-bit MLX, tải 5,2 GB. Giấy phép Apache-2.0.
- HumanEval+ pass@1: 137 trên 164 (83,5%), hạng 5 trên 8
- HumanEval pass@1: 143 trên 164 (87,2%)
- Tốc độ sinh: 80,5 token mỗi giây (5 lần, từ 79,4 đến 81,3); đọc prompt 3.353 token mỗi giây
- Bộ nhớ cao nhất: 5,1 GB · điện năng khi sinh chữ: 22 W · GPU cao nhất 75 °C
Tự chạy thử
pip install mlx-lm mlx_lm.chat --model mlx-community/gemma-4-e4b-it-4bit
Các bài bị sai
HumanEval/26, HumanEval/32, HumanEval/36, HumanEval/47, HumanEval/59, HumanEval/65, HumanEval/76, HumanEval/89, HumanEval/92, HumanEval/93, HumanEval/95, HumanEval/103, HumanEval/113, HumanEval/115, HumanEval/118, HumanEval/122, HumanEval/130, HumanEval/132, HumanEval/145, HumanEval/160, HumanEval/163
File gốc: speed.log, evaluate.log, eval_results.json