Gemma 4 E2B trên Mac 64 GB: tốc độ, chất lượng, bộ nhớ
Google, ra mắt Apr 2026. 5.1B tham số, dày đặc. Bản 4-bit MLX, tải 3,6 GB. Giấy phép Apache-2.0.
- HumanEval+ pass@1: 127 trên 164 (77,4%), hạng 8 trên 8
- HumanEval pass@1: 137 trên 164 (83,5%)
- Tốc độ sinh: 130,5 token mỗi giây (5 lần, từ 130,3 đến 130,6); đọc prompt 7.728 token mỗi giây
- Bộ nhớ cao nhất: 3,5 GB · điện năng khi sinh chữ: 24 W · GPU cao nhất 71 °C
Tự chạy thử
pip install mlx-lm mlx_lm.chat --model mlx-community/gemma-4-e2b-it-4bit
Các bài bị sai
HumanEval/10, HumanEval/26, HumanEval/32, HumanEval/37, HumanEval/39, HumanEval/44, HumanEval/54, HumanEval/59, HumanEval/64, HumanEval/65, HumanEval/79, HumanEval/83, HumanEval/84, HumanEval/89, HumanEval/93, HumanEval/107, HumanEval/115, HumanEval/118, HumanEval/122, HumanEval/130, HumanEval/132, HumanEval/140, HumanEval/145, HumanEval/152, HumanEval/156, HumanEval/160, HumanEval/163
File gốc: speed.log, evaluate.log, eval_results.json