Jaakko Vanhala 518c6dc5cb Prefill-tekniikka: pakotetaan LLM-vastaus alkamaan suoraan koodilla ...

Assistantin vastauksen alkuun syötetään valmiiksi backtick-koodiblokki,
jolloin malli jatkaa suoraan koodilla eikä tuota "Sure! Here is..."
-johdantotekstejä. Säästää tokeneita ja vastausaikaa.
strip_markdown_wrapper poistaa ``` -merkit jälkikäteen.

Co-Authored-By: Claude Opus 4.6 (1M context) <noreply@anthropic.com>

2026-04-05 09:27:28 +03:00

..

src

Prefill-tekniikka: pakotetaan LLM-vastaus alkamaan suoraan koodilla

2026-04-05 09:27:28 +03:00

Cargo.toml

hetki ennen webgpu inferenssiä

2026-04-02 12:49:40 +03:00