Jaakko Vanhala 9983c80ef1 Native-noden oletusmalli vaihdettu kvantisoiduksi: qwen2.5-coder:7b-instruct-q4_K_M ...

Q4-kvantisointi: ~4GB (vs. 7GB), ~40 tok/s M2:lla (vs. ~25 tok/s).
Parempi nopeus/laatu-suhde.

Co-Authored-By: Claude Opus 4.6 (1M context) <noreply@anthropic.com>

2026-04-09 20:35:11 +03:00

..

src

Native-noden oletusmalli vaihdettu kvantisoiduksi: qwen2.5-coder:7b-instruct-q4_K_M

2026-04-09 20:35:11 +03:00

Cargo.toml

GPU-tunnistus valinnainen: cargo run --no-default-features toimii ilman nvml/wgpu

2026-04-09 15:42:35 +03:00