NVIDIA RTX 3080 12GB

Qwen 3.5 3B

Alibaba · 3B

Qwen 3.5 9B

Alibaba · 9B

DeepSeek R1 7B

DeepSeek · 7B

Gemma 4 E2B

Google · 2.3B active / 5B total

Gemma 4 E4B

Google · 4B active (MoE)

Phi-4

Microsoft · 14B

MiniCPM 4.6

OpenBMB · 1.2B

Ternary Bonsai 1.7B

PrismML · 1.7B

Ternary Bonsai 4B

PrismML · 4B

Ternary Bonsai 8B

PrismML · 8B

Zyphra ZAYA1-8B

Zyphra AI · 8B (MoE)

Qwen 3.5 27B

Alibaba · 27B

Qwen 3.6 27B

Alibaba · 27B

Gemma 4 31B

Google · 31B

Gemma 4 26B-A4B

Google DeepMind · 26B (4B active MoE)