Auto-sync: 2026-11-02
This commit is contained in:
@@ -65,6 +65,28 @@ httpx.ReadError: [Errno 32] Broken pipe
|
||||
**Diagnose:** `curl code=000` bei erfolgreichem `time_connect`/`time_appconnect`
|
||||
⇒ Modell-Backend defekt, nicht Infrastruktur. Siehe [[patterns/llm-backend-hang-diagnosis]] (PAT-015).
|
||||
|
||||
## Context-Fenster (Hermes-Auflösung, 2026-11-02)
|
||||
|
||||
Der Katalog liefert `max_context_length` **verschachtelt**
|
||||
(`input_modalities[].supported_inputs = {value, unit}`, Bifrost schema 2.4).
|
||||
Hermes parst nur Top-Level-Keys → erkennt die Werte nicht und fällt auf
|
||||
`DEFAULT_CONTEXT_LENGTHS` zurück. Deshalb sind die Fenster in den Hermes-
|
||||
Instanzen **explizit gepinnt**:
|
||||
|
||||
| Ebene | Key | Wirkung |
|
||||
|---|---|---|
|
||||
| Default-Modell | `model.context_length` | nur für das konfigurierte Default-Modell (Scope-Check in `agent_init`) |
|
||||
| Jedes Modell | `providers.noris.models.<id>.context_length` | greift auch bei Wechsel/Fallback |
|
||||
|
||||
Gesetzt (E2E via `lcm_status` verifiziert): lokal default + 4 Profile +
|
||||
Sarah-Hermes (VM107) = **1.048.576**; Per-Modell-Overrides aus dem Live-Katalog
|
||||
(29 Fenster), u. a. `glm-5-3` 1.048.576 (vorher hardcodiert 1.310.720),
|
||||
`gpt-oss-120b` 131.072, `qwen3.8-27b` 262.144.
|
||||
|
||||
Ohne Pin: `deepseek-v41-flash` → 128.000 (Catch-all `deepseek`),
|
||||
`glm-5-3` → 1.310.720, unbekannt → 256.000. Details:
|
||||
`docs/solutions/bug-fixes/2026-11-02-hermes-context-length-bifrost-nested.md`.
|
||||
|
||||
## Verbraucher
|
||||
- **Hermes Agent** — seit 2026-10-20 **alle 5 lokalen Profile** (`default`,
|
||||
`dynamic-coach`, `infra-sre`, `nutrition-coach`, `personal-coach`) auf
|
||||
|
||||
Reference in New Issue
Block a user