Native-node: automaattinen Ollama-haistelu käynnistyksessä

Jos OLLAMA_URL ei ole asetettu, kokeillaan järjestyksessä:
1. localhost:11434 (paikallinen Ollama)
2. 127.0.0.1:11434
3. ollama:11434 (Docker-verkko)
4. host.docker.internal:11434 (Docker-kontti → isäntä)

Ensimmäinen joka vastaa /api/version-kutsuun valitaan.
Timeout 2s per kokeilu. Jos OLLAMA_URL on asetettu, sitä käytetään suoraan.

Co-Authored-By: Claude Opus 4.6 (1M context) <noreply@anthropic.com>
This commit is contained in:
2026-04-07 17:41:44 +03:00
parent 8a4d515eed
commit 5d2027b2ca
2 changed files with 35 additions and 5 deletions

View File

@@ -287,7 +287,7 @@ async fn main() {
// Ollama-backend
tracing::info!("Alustetaan Ollama-yhteyttä...");
let llm = match inference::LlmEngine::load() {
let llm = match inference::LlmEngine::load().await {
Ok(engine) => {
// Varmistetaan malli (ollama pull) — odotetaan kunnes valmis
match engine.ensure_model().await {