Files
2026-11-02 22:00:24 +00:00

6.1 KiB

title, category, tags, created, modified, related
title category tags created modified related
Sarah-Hermes (VM107) systems
hermes
webui
vm
sarah
telegram
backup
2026-09-30 2026-09-30
systems/rke2-kubernetes
reference/ip-map
systems/noris-ai

Sarah-Hermes (VM107)

WebUI erreichbar unter hermes-sarah.schoen.eu und h-sarah.familie-schoen.com (gleicher Traefik-Router hermes-sarah, SAN-Cert deckt beide; seit 14.10.2026).

Zweite, vollständig isolierte Hermes-Instanz für Sarah (Allround-Assistentin: Erinnerungen, Planung, Smalltalk). Getrennte Memories/Sessions/Skills/Keys von den 5 Owner-Profilen.

Eckdaten

Attribut Wert
VM-ID 107 (auto-allokiert)
Node n5pro (Template 9000 debian-12-cloudinit)
IP 10.0.30.66/24 (static via DHCP reservation)
Specs 2 vCPU / 4 GB RAM / 32 GB Disk (vm_disks/RBD)
Access SSH debian@10.0.30.66 mit ~/.ssh/id_ed25519_cloudinit
Tofu iac-homelab/epic-8-sarah-hermes/tofu/
Ansible iac-homelab/epic-8-sarah-hermes/ansible/
Plan iac-homelab/docs/plans/2026-09-30-sarah-hermes-vm.md

Stack

  • hermes-webui (ghcr.io/nesquena/hermes-webui:latest), Single-Container, Port 8787 (0.0.0.0 gebunden, UFW erlaubt nur LAN), Password-Auth. Compose: /home/debian/hermes-webui/docker-compose.yml auf der VM.
  • Agent-Runtime: nousresearch/hermes-agent geklont nach ~/.hermes/hermes-agent auf der VM; installiert in /app/venv im Container (editable). Wichtig: Core-Deps im pyproject sind hinter python_version >= '3.14'-Markern gepinnt → auf Python 3.12 installiert -e . NULL Deps. Manual-Dep-Bootstrapping nötig (siehe Pitfalls).
  • LLM: noris-Provider (https://ai.noris.de/v1, Default-Modell vllm/release/glm-5-2), Key via HERMES_CUSTOM_NORIS_API_KEY aus .env (Compose mapped explizit in den Container).
  • Telegram: geplant (blockiert auf BotFather-Token von Sarah/Dominik). Bei Aktivierung: gateway.telegram_enabled: true + Token in .env; Webhook/API-Server-Ports bleiben disabled (Konfliktvermeidung).

Secrets (1Password, Vault: Hermes)

  • sarah-hermes-webui → HERMES_WEBUI_PASSWORD
  • sarah-hermes-noris-key → HERMES_CUSTOM_NORIS_API_KEY

Backup

  • Daily vzdump-Job backup-2e8a34e3-66cb (23:00, all=1, exclude 301,302,310,311,137,147,501) → deckt VM107 ab (Storage noris_v4 = PBS Datastore noris @ 10.0.30.119).
  • Manueller Verify-Lauf am 30.09.: TASK OK in 48s (inkrementell, 88% reuse).
  • Offsite: folgt dem regulären push-offsite Sync-Job (Pull↔Push-Korrektur vom 19.09.).

Modell / Provider (Stand 2026-10-19)

  • Default-Modell: vllm/release/glm-5-3 (gewechselt von glm-5-2 am 19.10.; Zwischenstand deepseek-v41-flash). E2E verifiziert: Neuer Turn über WebUI-API antwortet („PONG"), Session zeigt model: vllm/release/glm-5-3.
  • glm-5-3 ist ein Reasoning-Modell (liefert reasoning-Felder).
  • Compaction/Compression: auxiliary.compression = provider auto, kein explizites Model → fällt aufs Haupt-Modell zurück (= glm-5-3).
  • Compression-Timeouts (02.11.2026): model.context_length: 1048576 (Zwischenstand 262144, vorher 131072), compression.context_timeout_seconds: 300, compression.context_total_ceiling_seconds: 900; Backups config.yaml.bak-20261102-131314 und config.yaml.bak-ctx-<ts>. E2E 13:2x: lcm_status → raw_context_length=1048576, threshold_tokens=367001. Effektiv resolve_context_compression_timeouts() → (300.0, 900.0), Preflight-Threshold 131.072 statt 45.875. Ursache der 300s-Turn-Aborts: Session bei 212k Tokens, jeder Turn startete Compression, Summary-Call lieferte 0 Chunks → Turn endete ohne Provider-Call.
  • Vision: auxiliary.vision = noris / vllm/release/gemma-4-31b-it; 403-Block ist weg (19.10. mit Sarahs Key getestet: HTTP 200).
  • fallback_providers: [] — kein Fallback konfiguriert! Bei Modellausfall hängt jeder Turn bis timeout: 120 + 3 Retries. Kandidat für Redundanz-Fix.
  • Key-Scope VM107 (sk-bf-8779…a6a7): funktioniert mit qsu/deepseek-v41-flash, release/gpt-oss-120b, qsu/qwen3.8-27b, release/qwen3.6-27b. Blockiert (403): release/gemma-4-31b-it.

Known Issues / Pitfalls

  1. Python-Version-Mismatch: hermes-agent pyproject pins Core-Deps an python_version >= '3.14'; WebUI-Container läuft auf 3.12 → -e . installiert keine Deps. Fix: manuell pip install der gepinschten Pakete
    • iterativer Missing-Import-Loop bis import run_agent klappt.
  2. hermes update Ownership-Konflikt: hermes update-Completion beschwert sich über uid 0 vs. uid 1000 auf /app/venv/bin/hermes-acp. Kosmetisch, Betriebsbetrieb unbeeinträchtigt. Fix-Idee: chown im Entry-Point.
  3. telegram-bridge Notify-Target defekt (seit 19.09., Connection refused): betrifft vzdump-Notifications clusterweit, nicht nur VM107. Separater Fix.
  4. Upstream-Modell hängt → Turn-Timeouts (2026-10-02): vllm/release/glm-5-2 lieferte bei noris ai.noris.de null Bytes (TCP-Connect OK, TTFT ∞, auch non-stream). Symptom im errors.log: httpx.ReadError: [Errno 32] Broken pipe → openai.APIConnectionError → 3 Retries → "Provider has been unresponsive … 5 consecutive stale attempts". Kein VM-/Netzwerk-/Key-Problem — von VM107 und von extern reproduzierbar, während 4 andere Modelle mit demselben Key 200 lieferten. Diagnose-Rezept: identischer Key, identischer Host, Modell-Matrix gegentesten (nur so trennt man Modell- von Infra-Defekt). Fix: Default auf vllm/qsu/deepseek-v41-flash. Verifiziert E2E (Turn 15s, PONG).
  5. Vision-Modell 403: Behoben/veraltet (19.10.): vllm/release/gemma-4-31b-it liefert mit Sarahs Key jetzt HTTP 200.
  6. Secrets im Unit-File: /etc/systemd/system/hermes-webui.service ist 0644 root:root und enthält HERMES_WEBUI_PASSWORD + HERMES_CUSTOM_NORIS_API_KEY im Klartext → für jeden lokalen User lesbar. Sollte in .env mit 0400.

Verification History

  • 2026-09-30: Deploy + E2E-Test (Login 200, Agent-Antwort "HALLO" via glm-5-2).
  • 2026-09-30: Manueller vzdump → TASK OK (48s, inkrementell).