Auto-sync: 2026-10-19

This commit is contained in:
Dominik Schön
2026-10-19 22:00:05 +00:00
parent 5268ec4d06
commit f7ae47ba39
6 changed files with 80 additions and 7 deletions
+11 -5
View File
@@ -60,10 +60,16 @@ den 5 Owner-Profilen.
- Offsite: folgt dem regulären `push-offsite` Sync-Job (Pull↔Push-Korrektur
vom 19.09.).
## Modell / Provider (Stand 2026-10-02)
## Modell / Provider (Stand 2026-10-19)
- **Default-Modell:** `vllm/qsu/deepseek-v41-flash` (gewechselt von `vllm/release/glm-5-2`)
- Grund: `release/glm-5-2` hing upstream (siehe Pitfall 4)
- **Default-Modell:** `vllm/release/glm-5-3` (gewechselt von glm-5-2 am
19.10.; Zwischenstand deepseek-v41-flash). E2E verifiziert: Neuer Turn
über WebUI-API antwortet („PONG"), Session zeigt `model: vllm/release/glm-5-3`.
- glm-5-3 ist ein Reasoning-Modell (liefert `reasoning`-Felder).
- **Compaction/Compression:** `auxiliary.compression` = provider `auto`,
kein explizites Model → fällt aufs Haupt-Modell zurück (= glm-5-3).
- **Vision:** `auxiliary.vision` = noris / `vllm/release/gemma-4-31b-it`;
403-Block ist weg (19.10. mit Sarahs Key getestet: HTTP 200).
- **`fallback_providers: []`** — kein Fallback konfiguriert! Bei Modellausfall hängt
jeder Turn bis `timeout: 120` + 3 Retries. Kandidat für Redundanz-Fix.
- Key-Scope VM107 (`sk-bf-8779…a6a7`): funktioniert mit `qsu/deepseek-v41-flash`,
@@ -91,8 +97,8 @@ den 5 Owner-Profilen.
**Diagnose-Rezept:** identischer Key, identischer Host, Modell-Matrix
gegentesten (nur so trennt man Modell- von Infra-Defekt).
Fix: Default auf `vllm/qsu/deepseek-v41-flash`. Verifiziert E2E (Turn 15s, PONG).
5. **Vision-Modell 403:** `auxiliary.vision.model = vllm/release/gemma-4-31b-it`
→ `model_blocked` für diesen Key. Offen.
5. ~~**Vision-Modell 403:**~~ **Behoben/veraltet (19.10.):** `vllm/release/gemma-4-31b-it`
liefert mit Sarahs Key jetzt HTTP 200.
6. **Secrets im Unit-File:** `/etc/systemd/system/hermes-webui.service` ist
`0644 root:root` und enthält `HERMES_WEBUI_PASSWORD` + `HERMES_CUSTOM_NORIS_API_KEY`
im Klartext → für jeden lokalen User lesbar. Sollte in `.env` mit `0400`.