diff --git a/network-poc/node/src/qwen_coder.rs b/network-poc/node/src/qwen_coder.rs index 363bf15..8891c5d 100644 --- a/network-poc/node/src/qwen_coder.rs +++ b/network-poc/node/src/qwen_coder.rs @@ -258,13 +258,13 @@ pub async fn run_coder_inference(prompt: String, ws: Rc>, use if let Ok(json) = serde_json::from_str::(&prompt) { let p = json.get("prompt").and_then(|v| v.as_str()).unwrap_or(&prompt).to_string(); let s = json.get("system").and_then(|v| v.as_str()).unwrap_or(default_system).to_string(); - let m = json.get("max_tokens").and_then(|v| v.as_u64()).unwrap_or(256) as usize; + let m = json.get("max_tokens").and_then(|v| v.as_u64()).unwrap_or(512) as usize; (p, s, m) } else { - (prompt.clone(), default_system.to_string(), 256) + (prompt.clone(), default_system.to_string(), 512) } } else { - (prompt.clone(), default_system.to_string(), 256) + (prompt.clone(), default_system.to_string(), 512) }; // Prefill: aloitetaan vastaus ```-koodiblokkilla, jolloin malli jatkaa suoraan koodilla