Dockerfile käyttää nvidia/cuda:12.6.3 -imagea jossa CUDA-kirjastot ovat valmiina. docker-compose lisää runtime: nvidia + NVIDIA_VISIBLE_DEVICES. Co-Authored-By: Claude Opus 4.6 (1M context) <noreply@anthropic.com>
Debug-moodi aiheutti SIGILL (Illegal Instruction) GGUF-tensorien dequantisoinnissa. Release-build ratkaisee ongelman. Co-Authored-By: Claude Opus 4.6 (1M context) <noreply@anthropic.com>