Auto-sync: 2026-11-02
This commit is contained in:
@@ -1220,3 +1220,147 @@ Bei `PHASE Error` ist **stop → start** der Weg (start allein reicht nicht).
|
||||
OIDC-Refresh-Token auf dem Runner. Images: watcher 0.27 `ced4430b…`,
|
||||
deadman 0.13.3 `d8dbc57a…`. SolDoc
|
||||
`bug-fixes/2026-11-01-deadman-alarm-an-toten-ceo.md`, Pattern PAT-019.
|
||||
|
||||
## 02.11.2026 — Governance 1–3, attention-Rückkanal, Gitea-OCI-Fix
|
||||
|
||||
**Drei strukturelle Übernahmen aus `dsh-superagent`** (Commit `66e3f0a`,
|
||||
`c71e036`; SolDoc `architecture/2026-11-02-fleet-governance-outbox-mandat-observe.md`):
|
||||
|
||||
1. **Outbox** — `submit_task.py` schreibt nach `tasks/_outbox/<id>.yaml`; der
|
||||
Watcher-Publisher prüft mit `validate_schema_loose` (demselben Code, der
|
||||
später liest) und verschiebt erst dann atomar nach `tasks/`. Journal-Kette
|
||||
`outboxed → published → task_claimed → task_completed`. Grund: 62
|
||||
Quarantäne-Dateien aus „accepted, 1 s später abgelehnt".
|
||||
2. **Mandat light** — `authorized_by`, `policy_version`, `scope`, `strength`
|
||||
(`explicit|inferred`), `mode` (`observe|auto`, **nur System-Sender**).
|
||||
`FLEET_CARD_REVIEW_MODE` steuert den Karten-Sweep: `observe` journalisiert
|
||||
nur (`card_review_would_submit`), `auto` stellt zu. Live auf `auto` (2.11.).
|
||||
3. **Strukturierte Attention** — `attention: {question, options[2..5]}` +
|
||||
MCP `attention_summary()`.
|
||||
|
||||
**attention-Rückkanal (board-service 0.25 `59529660…`):** MCP-Tool
|
||||
`answer_attention(task_id, answer)` setzt `attention.answer/answered_at/
|
||||
answered_by`, journalisiert `attention_answered` und legt beim fragenden Agenten
|
||||
einen `fyi`-Reply-Task an (`from=tower-owner`, `reply_to=<task_id>`, P1).
|
||||
Idempotent (`OK_ALREADY`). `tower-owner` darf als Sender jetzt auch `fyi`
|
||||
(in `submit_task.py`, `watcher_main.py`, Inline-CM). `attention_summary` zählt
|
||||
beantwortete Fragen nicht mehr. Live bewiesen: `waiting_on_person` 1 → 0,
|
||||
Antwort-Task `f0418d90…` bei devops, Idempotenz `OK_ALREADY`.
|
||||
|
||||
**SOUL:** `gen_soul.py`-Template hat Regel 5 („Warten auf einen Menschen ist
|
||||
ein Zustand, kein Freitext") + `attention_*` in der Tool-Signatur; 9/9 live via
|
||||
`deploy_soul.sh`. Vorher geprüft: Live-SOUL war byte-identisch mit generiert →
|
||||
kein Handarbeitsverlust.
|
||||
|
||||
**Gitea-OCI-Fix (Commit `271d702`)** — zwei Defekte, ein Fehlerbild:
|
||||
- Realm kam als `http://` (`GuessCurrentHostURL` bei `PUBLIC_URL_DETECTION=auto`
|
||||
ohne `X-Forwarded-Proto` hinter Traefik) → Go-Clients verlieren beim Redirect
|
||||
den Auth-Header. Fix: `PUBLIC_URL_DETECTION: never` → Realm aus ROOT_URL.
|
||||
**App-of-apps-Falle:** erst `argocd app sync root`, sonst behält die App die
|
||||
alten Values und der Sync meldet trotzdem Succeeded.
|
||||
- Kaniko las `/kaniko/.docker/config.json`; Secret `fleet-build-push` liefert
|
||||
`.dockerconfigjson` → Push **anonym**. Fix: `items:`-Mapping im Pod-Spec.
|
||||
Beleg: Token-Request anonym 2,1 ms vs. Basic-Auth 17,5 ms (bcrypt).
|
||||
SolDoc `bug-fixes/2026-11-02-kaniko-push-401-gitea-realm-und-secret-mapping.md`.
|
||||
|
||||
**Tower:** neue View „Wartet auf mich" (`AttentionPanel` +
|
||||
`/api/fleet/attention`). Zeigt nur Tasks mit strukturierter Frage, Optionen als
|
||||
Buttons, Freitextfeld; Antwort via `answer_attention`.
|
||||
|
||||
### 02.11.2026 (Nachtrag) — Schema-Drift: der Rückkanal quarantänisierte sich selbst
|
||||
|
||||
`answer_attention` schrieb `answer`/`answered_at`/`answered_by` in den
|
||||
`attention`-Block; beide Validatoren erlaubten nur `question`/`options`. Da
|
||||
**jeder Statuswechsel neu validiert**, wanderte jeder beantwortete Task nach
|
||||
`/srv/fleet/tasks/_invalid/` — sichtbar nur am Quarantäne-Zähler (62→63).
|
||||
Fund war ein Zufall beim Aufräumen, nicht ein Alarm.
|
||||
|
||||
**Fix** (`059f7cd`, board-service **0.26** `sha256:1837ef9b`, watcher **0.30**
|
||||
`sha256:6f415d38`): `ATTENTION_FIELDS` / `GOV_ATTENTION_FIELDS` erweitert **plus**
|
||||
Validierung des Antwort-Tripels — alle drei Felder oder keins, `answer` 1..2000,
|
||||
`answered_at` Integer, und `answered_by != from`. Letzteres ist der eigentliche
|
||||
Gewinn: sonst könnte ein Agent seine eigene Rückfrage mit „ja" beantworten und
|
||||
sich selbst ein GO geben — ein Autonomie-Leck genau an der Mensch-Schnittstelle.
|
||||
`test_governance_sync` **31/31** (6 neue Fälle, beide Implementierungen).
|
||||
Live-E2E mit dem zuvor gestorbenen Task `8281e059`: submitted/working/complete
|
||||
alle quarantänefrei, `completed`.
|
||||
|
||||
**Struktureller Punkt (offen):** Die Wahrheit über ein Envelope-Feld steht an
|
||||
**drei** Orten — `spool/submit_task.py`, `spool/watcher/watcher_main.py`, Inline-CM
|
||||
`fleet-submit-task` in `board-service/deployment.yaml`. `sync_submit_cm.py` hält
|
||||
Kopie 3 synchron, `test_governance_sync.py` prüft 1↔2. Was fehlt: ein Test
|
||||
„setzt irgendein Schreiber ein Feld, das die Validatoren nicht kennen?".
|
||||
Zweiter Drift dieser Klasse innerhalb von 24 h (vorher Sender-Allowlist).
|
||||
|
||||
**Test-Pitfalls, teuer gelernt:** `claim_next_task` setzt **nur** `status=working`
|
||||
(`claimed_by`/`claimed_at` sind unerlaubt und quarantänisieren selbst — mein Test
|
||||
hat seinen eigenen Fehler gemessen); `submit_task` liefert verschachtelt
|
||||
`{"result","task":{"task_id"}}`; `attention` gibt es nur als flache Parameter
|
||||
`attention_question`/`attention_options`; `from_agent` unterliegt dem
|
||||
Strict-Gate (tower-owner ist kein Org-Agent), `to` nicht; Single-Claim-Gate
|
||||
liefert `OK_OWN_ACTIVE`.
|
||||
|
||||
**Build-Infra:** `clusters/main/fleet/build/build-image.sh` — Kaniko-Pod aus
|
||||
versionierter Vorlage statt `/tmp`-YAML, mit dem Pflicht-`items:`-Mapping.
|
||||
Erster Praxiseinsatz: beide Images in 4 min.
|
||||
|
||||
## 02.11.2026 — CEO-Egress: Landlock-Pfad, Binary-Identität, Policy-Approval
|
||||
|
||||
Nach dem Image-Move (`v5.5`, Hermes real unter `/usr/local/hermes`, `/opt/hermes`
|
||||
als Symlink) war `ceo` als einziger Agent ohne Netz. Drei unabhängige Gates:
|
||||
|
||||
1. **Landlock** verweigerte den Spawn von `start-agent.sh` (Pfad nicht in
|
||||
`filesystem_policy.read_only`); Fix im Image (Commit `d36f334`).
|
||||
2. **Binary-Identität**: Network-Regeln matchen `binaries[].path` exakt. Der
|
||||
reale Interpreter ist `/usr/local/hermes/tools/…/python3.14`; die Policy
|
||||
listete nur `/opt/hermes/…`. Fix `d431f6d`, Pfad-Reparatur `5d039ea`
|
||||
(der erste Patch hatte den Pfad per `sed` auf `/opt/hermes/` gekürzt).
|
||||
3. **Policy-Approval**: Der Gateway staged neue Endpoint-Namen
|
||||
(`Policy DNS staged unapproved … for TCP policy review`). Default
|
||||
`--approval-mode manual` hält jede Proposal im Review-Inbox; mit
|
||||
`--approval-mode auto` wird `fleet-board-service` nach ~20 s gemappt
|
||||
(`CONFIG:PUBLISHED … mapping_id=…`). Freigabe kommt **eine Runde später** —
|
||||
der Heartbeat 11:09:36 scheiterte, 11:19:36 lief er, danach alle 300 s.
|
||||
|
||||
Endzustand: 9/9 Agent-Pods Running, 10/10 Fleet-Deployments ready,
|
||||
`deadman_silence_seconds{agent="ceo"} 292` (< 300 s), alle
|
||||
`deadman_alert_active` = 0. Der CEO arbeitet Tasks ab (u. a. die
|
||||
Deadman-Eskalation seines eigenen Ausfalls).
|
||||
|
||||
Lehren: Sandbox-Diagnose nur über das Supervisor-Log (`ALLOWED`/`DENIED` mit
|
||||
Pfad + Regelname); `kubectl exec` umgeht die Policy und beweist nichts.
|
||||
Policy-YAML nie per `sed` erzeugen (Pfad-Trunkierung), `policy set` scheitert
|
||||
auf laufender Sandbox an Bestandspfaden → `policy update`.
|
||||
|
||||
### Rollout v5.5 auf alle neun Agenten (02.11., 12:11–12:32)
|
||||
|
||||
Alle acht übrigen Agenten wurden migriert (`coo` als Pilot, dann `chro`,
|
||||
`agile-coach`, `cmo`, `research`, `cto`, `devops`, `ciso`). Skript:
|
||||
`~/workspace/fleet-rollout/{rollout-agent.sh,run-all.sh}`, Logs daneben,
|
||||
Backups unter `~/fleet-workspace-backups/<agent>-<ts>.tgz`.
|
||||
|
||||
Ablauf je Agent: `tar czf` aus dem Pod → `openshell sandbox delete` →
|
||||
`create … --approval-mode auto` → auf Ready warten → `kubectl cp` + `tar xzf
|
||||
-C /sandbox --no-overwrite-dir` → Egress-Check. Dauer ~1–7 min/Agent, weil das
|
||||
Bild nach dem ersten Pull auf den Nodes gecacht ist (Erstpull: 3 m 48 s).
|
||||
|
||||
**Recreate kostet den Workspace:** Der PVC hat einen OwnerRef auf die Sandbox und
|
||||
wird mitgelöscht; der neue Sandbox erhält einen frischen `workspace-default--*`
|
||||
PVC. Größen nach Restore deckungsgleich (cto 84 MB, ciso 117, devops 113,
|
||||
research 38, cmo 30, agile-coach 8, chro 6, coo 1 MB).
|
||||
|
||||
**Egress-Freigabe ist ein zweistufiger, asynchroner Vorgang:** Nach dem ersten
|
||||
Verbindungsversuch staged der Supervisor den DNS-Namen
|
||||
(`Policy DNS staged unapproved … for TCP policy review`) und reicht selbst
|
||||
Policy-Chunks ein (`add-rule allow_fleet_beacon_…`, `resolved_from:sandbox`).
|
||||
Das Gateway gibt sie automatisch frei, solange der Prover-Delta leer ist
|
||||
(`OCSF CONFIG:APPROVED … auto-approve, prover_delta:empty`, Policy-Revision
|
||||
`Loaded`). Bis der Supervisor die neue Revision geladen hat, vergeht **ein
|
||||
weiterer Heartbeat-Zyklus** — pro Agent also 5–10 min bis `hb ok`, mit
|
||||
`--approval-mode auto` ohne jede Handarbeit.
|
||||
|
||||
Endstand: 9/9 Pods auf `013bfac8`, 9/9 `hb ok`, `deadman_alert_active` alle 0
|
||||
(max. Stille 230 s), 10/10 Deployments ready, Quarantäne unverändert 64.
|
||||
Offen in der Owner-Lane: 32 Tasks an `tower-owner` (nicht Agenten-Backlog).
|
||||
|
||||
|
||||
|
||||
@@ -34,6 +34,13 @@ modified: "2026-11-01"
|
||||
- **Push:** GENAU EIN kombinierter (Titel+Verdict+Objekte+Bild) nur bei KRITISCH ∨ KI-Fail ∨ Person (24/7, v3.1)
|
||||
- Siehe [[systems/frigate]] + Solution Doc `bug-fixes/2026-10-10-frigate-notification-spam-review-alerts.md`
|
||||
|
||||
### Büro EG: Licht nach Präsenz (ID `buero_eg_licht_praesenz_nachlauf`, seit 02.11.2026)
|
||||
- **Trigger:** `binary_sensor.esp32_c3_buero_eg_presence` → `on` schaltet `switch.licht_buro` an; `off` für 15 min schaltet aus (Nachlauf)
|
||||
- **Sweep:** `time_pattern /10` **nur** als Restart-Recovery (Licht an + Präsenz ≥15 min aus → aus). Kein Re-Assert auf `on` — manuelles Ausschalten bei Anwesenheit bleibt respektiert
|
||||
- **Sensor-Verhalten:** ESP32-C3 (10.0.50.147, Büro EG) meldet Präsenz in 30–120-s-Bursts, nicht dauerhaft → der 15-min-Nachlauf ist der eigentliche Träger der Logik; bei Fehl-Aus später Sensor-Config prüfen
|
||||
- **E2E verifiziert 02.11.:** On-Pfad live (Trigger → Licht an, 2×), Off-Pfad über 10-s-Testkopie (Prod-Config: 15 min), Testkopie gelöscht
|
||||
- Entity-ID nach Anlegen via WS-Entity-Registry umbenannt (Alias-Slugify verschluckt Umlaute: „Büro"→`buro`, „Präsenz"→`prasenz`)
|
||||
|
||||
## Notify Services
|
||||
| Service | Status |
|
||||
|---------|--------|
|
||||
@@ -86,7 +93,12 @@ modified: "2026-11-01"
|
||||
- **Kaskaden-Automation** (`1774430238377`, ON): EMHASS target → BYD (803 Auto default, 802 bei `target<=0 && pv<100`) + Marstek (Rest via `sensor.marstek_target_power`)
|
||||
- **Template Sensoren:** `sensor.smart_battery_target` (EMHASS), `sensor.marstek_target_power` (Plan A: smart_target − actual_BYD_discharge). `sensor.sma_target_power` ENTFERNT (Double-Counting Bug).
|
||||
- **Cutover (2026-10-09):** v2 (`emhass_optimizer_v2.py --publish --allow-grid-charge`) ist EINZIGER Produzent; Cron `a32005d62226` (runner `emhass-optimizer-v2-runner.sh`). v1 + Shadow-Collector `d046e808f543` + Watchdog `19aef2351273` pausiert = Rollback-Hebel. Race-Guard 30/20 s. Details: [[reference/emhass-cascade-automation-architecture]]
|
||||
- **Cutover 2 (2026-11-02 16:19): Produzent lebt jetzt IN Home Assistant.** AppDaemon-Add-on `a0d7b954_appdaemon` (v0.19.3, `boot: auto`), App `emhass_optimizer` unter `/mnt/data/supervisor/app_configs/a0d7b954_appdaemon/apps/` (Quelle: `~/scripts/emhass_app/`: `emhass_core.py` = per AST verbatim aus v2 extrahierte Mathematik, `emhass_cycle.py` = Input-Phase, `emhass_app.py` = Trigger/POST/Verify/Ledger). Trigger `:04/:19/:34/:49`, Ledger `/share/emhass/ledger.jsonl`, Fehler → `persistent_notification`. **Kein Long-Lived-Token mehr im Produktionspfad** (AppDaemon bekommt HA-URL+Token automatisch vom Supervisor); EMHASS-Add-on bleibt unangetastet (nur `/action/dayahead-optim` + `/action/publish-data`). Hermes-Cron `a32005d62226` **pausiert = Rollback** (`cronjob_manage resume`, Token-Symlink existiert weiter). Parity-Nachweis: 19/19 Unit-Tests Kern↔v2 + Payload-Gate `PARITY OK` (v2 `--dump-payload` vs. Shadow, 48 Slots, 0 Warnungen). E2E 16:04 (Cutover) und 16:19 (erster Einzelproduzent, CSV synchron 16:19:00). SolDoc `architecture/2026-11-02-emhass-producer-appdaemon-cutover.md`
|
||||
- **Publish-Pfadbruch 11.10. (GEFIXT ~20:30 UTC):** Nach HA-Core-Restart (Recorder-Incident) DEADLOCK: `p_batt_forecast`/`soc_batt_forecast`/`plan_*` sind set_state-Entities (überleben Restart NICHT), v2 liest sie hart → jeder Tick FATAL → nichts publizierte je wieder. Zweiter RC: `rest_command`-URLs `localhost:5000` — HA läuft im HOST-Netz, Addon in HassIO-Bridge; nach Restart connection-reset (10.0.30.10:5000 ging stets). Fix: beide URLs → `http://10.0.30.10:5000` (Backup `configuration.yaml.bak-20261011-restcmd`) + `rest_command/reload`. Heal-Pattern: `POST :5000/action/publish-data` direkt ans Addon. Verifikation: v2-Tick 20:32 komplett, plan_* 48 Slots, Kaskade folgt. ⚠️ Legacy-Automation „Trigger EMHASS" (*\/15): dayahead-call 400 (Payload ohne pv/load-Arrays) — funktional durch v2-Cron abgedeckt, disable/fix offen. Solution Doc `integrations/2026-10-11-emhass-publish-path-break-after-restart.md`
|
||||
- **Token-Pfad (seit 02.11.2026):** HA-Token kanonisch `~/.hermes/secrets/ha_token.txt` (0600, aus 1P `op://Hermes/ewviwqhnpcpd2tg2gh5jbv76xm/password`), `/tmp/ha_token.txt` nur Symlink; `~/.hermes/scripts/ha-token-ensure.sh` heilt fehlenden Symlink/Token bei jedem v2-Lauf. Grund: /tmp wurde beim Boot 30.10. geleert → v2-Cron starb 3 Tage still (`FATAL: token file missing`), während `automation.trigger_emhass` per `/action/publish-data` weiter die **letzte Zeile** des alten Plans postete (frische Zeitstempel, eingefrorene Werte).
|
||||
- **Cron-Schedule (seit 02.11.2026):** `a32005d62226` nicht mehr `every 15m` (Anker driftet in den Race-Guard → dauerhaft `REFUSED rc=2`), sondern `4,19,34,49 * * * *` Europe/Berlin.
|
||||
- **Watchdog:** `3a99e3837250` `check_emhass_plan_freshness.sh`, stündlich :12, silent-on-healthy, Alarm wenn **`p_batt_forecast`** >90 min alt oder Plan-Horizont <10 h (Telegram). ⚠️ Nicht mehr `plan_last_forecast` messen: diese drei Sensoren schreibt nur der Display-Publisher. Der alte Kaskaden-Watchdog `a2a1b429bc2e` ist seit 25.09.2026 pausiert (und enthält ein SSH-Klartextpasswort in `cron/jobs.json`).
|
||||
- **Display-Publisher (seit 02.11.):** Cron `4bc13a052329` (`:05/:20/:35/:50`, `no_agent`) → `emhass-extra-publisher-runner.sh` → `emhass_extra_publisher.py`. Spiegelt die EMHASS-CSV (per SSH, read-only) in `sensor.plan_pv_forecast` / `plan_netz_forecast` / `plan_last_forecast` fürs Akku-Dashboard. Optimiert **nie**; braucht den HA-Token nur zum Schreiben dieser drei Anzeige-Sensoren.
|
||||
- **Historie:** Phase-2 Shadow (08.10., Dual-Solve, Deferrables als Phantom-Last entfernt, CSV 17 Spalten); Arbitrage-Flip produktiv (08.10. 22:20, `set_nocharge_from_grid` false).
|
||||
- **Backup:** `.bak.20261001_175804` für configuration.yaml + automations.yaml
|
||||
- **NFS-Backups (Fix 2026-10-07):** Supervisor-Mounts `Backup_NFS` (usage=backup) + `Medien_NFS` (usage=media) → **10.0.20.100:/pool01_n2_redundant/HomeAssistant** (vorher tote 10.0.30.100, verloren beim NAS-Crash-Reboot 03.10.). Volle automatische Backups ~03:27 UTC nightly. Monitoring: Hermes-Cron `2006a91fba21` (Alert bei Backup-Alter >30h). Lösungsdoku: `docs/solutions/bug-fixes/2026-10-07-ha-audit-nfs-mount-failure-after-nas-crash.md`
|
||||
@@ -183,3 +195,6 @@ Aggregation: `sensor.pv_production` = min_max über 5 Sensoren (2×SMA grid_powe
|
||||
- [[systems/noris-ai]] — LLM Vision Provider
|
||||
- [[reference/ip-map]] — IP Assignments
|
||||
- [[reference/emhass-cascade-automation-architecture]] — Kaskaden-Architektur Details
|
||||
|
||||
## Security-Status
|
||||
- **CVE-2026-98432: geschlossen** (2026-11-02) — HAOS VM106 läuft `6.18.58-haos` (Fix ab 6.18.56/57). Kernel-Check via `qm guest exec 106 -- uname -r` (QGA aktiv, VM liegt auf proxmox3).
|
||||
|
||||
@@ -65,6 +65,28 @@ httpx.ReadError: [Errno 32] Broken pipe
|
||||
**Diagnose:** `curl code=000` bei erfolgreichem `time_connect`/`time_appconnect`
|
||||
⇒ Modell-Backend defekt, nicht Infrastruktur. Siehe [[patterns/llm-backend-hang-diagnosis]] (PAT-015).
|
||||
|
||||
## Context-Fenster (Hermes-Auflösung, 2026-11-02)
|
||||
|
||||
Der Katalog liefert `max_context_length` **verschachtelt**
|
||||
(`input_modalities[].supported_inputs = {value, unit}`, Bifrost schema 2.4).
|
||||
Hermes parst nur Top-Level-Keys → erkennt die Werte nicht und fällt auf
|
||||
`DEFAULT_CONTEXT_LENGTHS` zurück. Deshalb sind die Fenster in den Hermes-
|
||||
Instanzen **explizit gepinnt**:
|
||||
|
||||
| Ebene | Key | Wirkung |
|
||||
|---|---|---|
|
||||
| Default-Modell | `model.context_length` | nur für das konfigurierte Default-Modell (Scope-Check in `agent_init`) |
|
||||
| Jedes Modell | `providers.noris.models.<id>.context_length` | greift auch bei Wechsel/Fallback |
|
||||
|
||||
Gesetzt (E2E via `lcm_status` verifiziert): lokal default + 4 Profile +
|
||||
Sarah-Hermes (VM107) = **1.048.576**; Per-Modell-Overrides aus dem Live-Katalog
|
||||
(29 Fenster), u. a. `glm-5-3` 1.048.576 (vorher hardcodiert 1.310.720),
|
||||
`gpt-oss-120b` 131.072, `qwen3.8-27b` 262.144.
|
||||
|
||||
Ohne Pin: `deepseek-v41-flash` → 128.000 (Catch-all `deepseek`),
|
||||
`glm-5-3` → 1.310.720, unbekannt → 256.000. Details:
|
||||
`docs/solutions/bug-fixes/2026-11-02-hermes-context-length-bifrost-nested.md`.
|
||||
|
||||
## Verbraucher
|
||||
- **Hermes Agent** — seit 2026-10-20 **alle 5 lokalen Profile** (`default`,
|
||||
`dynamic-coach`, `infra-sre`, `nutrition-coach`, `personal-coach`) auf
|
||||
|
||||
@@ -38,6 +38,14 @@ modified: "2026-10-19"
|
||||
> downzugraden → `--allow-downgrades` + Version pinnen, sonst verweist `grub.cfg` auf einen Kernel ohne
|
||||
> `/boot/vmlinuz-*` (Boot-Risiko). SolDoc `2026-10-31-apt-backports-kernel-meta-trap.md`.
|
||||
|
||||
> ⚠️ **worker-05 (VM102) war 01.–02.11. offline — `onboot: 0`, nicht CVE und kein Crash.** ms-a2-2 bootete am
|
||||
> 01.11. 11:31 (Folge des 30.10.-Crashes); die VM hatte **keinen** `qmshutdown`-Task, sie fehlte nur in der
|
||||
> Autostart-Liste. `qm start 102` (ms-a2-2 = 10.0.20.93) → 6 min später `Ready`, Kernel `6.12.113+deb13`,
|
||||
> GPU-Passthrough `0000:01:00.0` (AMD Granite Ridge, amdgpu, `/dev/dri/renderD128`) ok, 13 Pods laufen.
|
||||
> `qemu-guest-agent` war im Gast **nicht installiert** → PVE zeigte dauerhaft `agent: down` bei völlig gesundem
|
||||
> Gast; nachinstalliert (static unit, `/etc/rc2.d/S01`), `qm agent 102 ping` OK. **Offen: `qm set 102 --onboot 1` (Owner-GO)** —
|
||||
> sonst fehlt die GPU-Kapazität nach jedem ms-a2-2-Reboot still im Cluster.
|
||||
|
||||
> ✅ **CephFS-Blocker GELÖST (31.10.) — statische Fuse-PVs, kein Datenumzug.**
|
||||
> Ursache bleibt: Kernel-CephFS kann nur 16-Byte-Keys (`libceph: secret too big 32`), Tentacle 20.2.4 prägt
|
||||
> **ausschließlich `aes256k`** (32 Byte); `--key_type aes128/aes256/gcm` wird abgelehnt, Legacy-`aes` ist per
|
||||
|
||||
+29
-2
@@ -166,7 +166,7 @@ Junk (`.url`, `.par2`, `.sfv`, `.jpg`, `.nfo`) liegt als ~160 Dateien daneben.
|
||||
- **4K-Regel (Owner 30.10.)**: einzelne 2160p-Quelle wird auf 1080p herunterskaliert, **nie upscalen**. GPU-Pfad: `-vf 'format=nv12,hwupload,scale_vaapi=w=1920:h=1080'`; real 5,26 GB → 893 MB (−83 %), Dauer identisch, `hvc1`, `moov@32 < mdat@2,55 MB`. Der Bibliothekslauf überspringt ≥2000p-Quellen (`SKIP(4K, wird separat skaliert)`) — Sonderlauf `/tmp/fix4k.sh`.
|
||||
|
||||
## VAAPI / GPU-Encoding
|
||||
- Nur **worker-05** (10.0.30.65) besitzt `/dev/dri/renderD128` (AMD Granite Ridge, render-GID **991**) — worker-04 hat KEINEN render-Node → Pin zwingend
|
||||
- Nur **worker-05** (10.0.30.65) besitzt `/dev/dri/renderD128` (AMD Granite Ridge, render-GID **991**) — worker-04 hat KEINEN render-Node → Pin zwingend. **Faktisch gibt es keinen Pin:** das Deployment hat keinen `nodeSelector`; fällt worker-05 aus (NotReady seit 01.11.), landet das Pod auf worker-04, dessen hostPath `/dev/dri` nur `card0` enthält. `-vaapi_device /dev/dri/card0` ist **kein** Ersatz → `Failed to initialise VAAPI connection: -1` / EIO (3-s-`testsrc`-Test statt Parameter-Raten). Im Cluster ist dann kein VAAPI-Pfad vorhanden → CPU-x265 oder warten.
|
||||
- VAAPI in Pods erfordert `privileged: true` (Devices-Cgroup blockt hostPath-Device-Nodes sonst)
|
||||
- Encoder: h264_vaapi/hevc_vaapi, **5.7× schneller** als libx264 (Benchmark 1080p→720p: 4.3 s vs 24.7 s)
|
||||
- CPU-Fallback eingebaut (falls renderD128 fehlt)
|
||||
@@ -216,7 +216,34 @@ Getestet am 29.10.: CM-Update (v12) war nach 50 s im laufenden Pod aktiv, Queue
|
||||
- Stand 30.10. 06:15: 30/278 fertig, 95,4 → 24,3 GB (−75 %), hvc1-Remux 26/30. Rest ~45–60 h. Einzige 4K-Datei (`DeviceBondage - Octavia Red`, 3840×2160) bremst 2 Slots für ~2,5 h.
|
||||
- Pitfalls: orphan ffmpeg nach abgebrochenem exec (8,6 h GPU-Blockade), `export -f log` fehlte (Worker-Logzeilen still verloren), Selbst-Kill durch PID-Filter in eigener Kommandozeile.
|
||||
|
||||
Solution Doc: `~/docs/solutions/integrations/2026-10-30-hevc-quicktime-hvc1.md` · Skill: `video-codec-compatibility`
|
||||
### Dritte Fehlerklasse: Bitstream-Korruption (02.11.2026)
|
||||
|
||||
Neben `hev1`-Tag und stale Jellyfin-DB gibt es **Encoder-Ausschuss auf Slice-Ebene**: `SexAndSubmission - 2026-08-28 - Alexa Chains.mp4` spielte weder in Jellyfin noch in QuickTime, obwohl `ffprobe` (`hevc/hvc1/Main/1080p/yuv420p`) und der Box-Parser (`moov@28 < mdat`, `hvcC numOfArrays=3`) makellos waren — bytewise gegen eine funktionierende Datei derselben Pipeline geprüft.
|
||||
|
||||
- **Beweis:** `ffmpeg -nostdin -v error -i F -f null -` → 35 Zeilen `CABAC_MAX_BIN 26/27/28/30/31`, ~1/Minute über die Laufzeit verteilt; **`rc=0` trotzdem** (libavcodec concealte). Ein 300-s-Fenster kann 0 Treffer haben → immer volle Laufzeit zählen.
|
||||
- **Remux hilft nicht** (Korruption sitzt in den Frames) → Re-Encode `libx265 -crf 24 -preset medium -threads 3 -tag:v hvc1 -c:a copy -movflags +faststart`: 4 vCPU, 1080p30/10 Mbit ≈ **44 fps / 1,45× Echtzeit**, Ausgabe ~2,1 Mbit/s.
|
||||
- **Gates vor Swap:** `hevc,hvc1` · Dauer ±2 s · <95 % Quelle · Atom-Kette · **Volldekodierung 0 Zeilen** → Original nach `transcode-originals/` → `chown 1000:1000` → atomares `mv`.
|
||||
- **Auto-Refresh:** zweiter detached Watcher pollt auf die Markerzeile `GETAUSCHT` und schickt **genau einen** `POST /Library/Refresh` — sonst testet der Owner nach dem Swap die stale DB-Sicht (Jessi-Rae-Falle). Watcher-Dedupe per `ps -eo pid,args | awk '$2=="bash" && $3=="/tmp/watch.sh"'`, **nie** `pgrep -f` (matcht das eigene `bash -c` → Selbst-Kill, Exit 143).
|
||||
|
||||
Solution Doc: `~/docs/solutions/integrations/2026-11-02-hevc-bitstream-korruption-cabac.md` · `~/docs/solutions/integrations/2026-10-30-hevc-quicktime-hvc1.md` · Skill: `video-codec-compatibility`
|
||||
|
||||
### Reparatur-Weg: Re-Fetch + Sorter-Dedupe (02.11.2026, verifiziert)
|
||||
|
||||
Bei VAAPI-Ausschuss ist **Re-Fetch erste Wahl** (verlustfrei, volle Auflösung), Re-Encode aus dem korrupten File nur, wo kein Release existiert.
|
||||
|
||||
1. Release per Binsearch (Einzeldatei-MP4, kein `partNNN.rar`-Set) → `publish_nzb.py` → `nzb-drop/`.
|
||||
2. **Den Tausch macht der Sorter**: gleicher Name + gleiche Dauer ±2 s + gleiche Höhe → größere Datei gewinnt, die korrupte wandert nach `quarantine/dedup-sorter/<Serie>/`. Kein manuelles `mv`, keine `(2)`-Kopie.
|
||||
3. Verifizieren (Codec, Dauer ±2 s, **Volldekodierung 0 Fehlerzeilen**), dann bei Bedarf software-HEVC zurückführen (Original → `transcode-originals/`), **ein** Refresh am Ende.
|
||||
|
||||
Ergebnis 02.11.: 4 Dateien (Alexa Chains, Jessie Belle, Luna Lovely, Alexis Fawx) → `hevc,hvc1,1080`, alle Δ Dauer 0, 0 Fehlerzeilen, 13 GB h264 → 3,2 GB HEVC (plus Alexa 4,41 → 1,14 GB); Jellyfin 553 Items, Scan Idle.
|
||||
|
||||
- **Gate-Falle:** der Converter-Sidecar hat **kein `python3`** — ein Gate mit `python3 -c` endet 127 und meldet `GATE FAIL Dauer` bei identischen Werten. Gates + Swap gehören in den App-Container (`/lsiopy/bin/python3`, `/config/tools/ffmpeg` inkl. libx265); Dauer/Größe per `awk`.
|
||||
- **VAAPI bleibt für Reparaturen gesperrt** (Ursache der 12,5-%-Quote), auch bei Ready-Node. Software ≈ 0,45× Realtime.
|
||||
- `BoundGangBangs - Rebel Rhyder` hat **kein** Release (nur 10,8-GB-Rar-Set als `part0.nzb`) → dort bleibt Re-Encode aus dem korrupten File.
|
||||
- Offen (eigenes GO): `quarantine/` 171 G, `complete/` 105 G, `transcode-originals/` 17 G gesunde h264-Master, 2 WMV3-Extension-Twins (1,98 GB).
|
||||
- Parität immer über **Stems** zählen: 553 Videos / 551 NFOs = 2 Extension-Twins, keine fehlenden NFOs.
|
||||
|
||||
Solution Doc: `~/docs/solutions/integrations/2026-11-02-refetch-repair-sorter-dedupe-gate-container.md`
|
||||
|
||||
## Codec-Audit 01.11.2026 (vollständig, 507 Videos)
|
||||
|
||||
|
||||
@@ -68,6 +68,15 @@ den 5 Owner-Profilen.
|
||||
- glm-5-3 ist ein Reasoning-Modell (liefert `reasoning`-Felder).
|
||||
- **Compaction/Compression:** `auxiliary.compression` = provider `auto`,
|
||||
kein explizites Model → fällt aufs Haupt-Modell zurück (= glm-5-3).
|
||||
- **Compression-Timeouts (02.11.2026):** `model.context_length: 1048576`
|
||||
(Zwischenstand 262144, vorher 131072), `compression.context_timeout_seconds: 300`,
|
||||
`compression.context_total_ceiling_seconds: 900`; Backups
|
||||
`config.yaml.bak-20261102-131314` und `config.yaml.bak-ctx-<ts>`.
|
||||
E2E 13:2x: `lcm_status` → `raw_context_length=1048576`,
|
||||
`threshold_tokens=367001`. Effektiv `resolve_context_compression_timeouts()
|
||||
→ (300.0, 900.0)`, Preflight-Threshold **131.072** statt 45.875. Ursache der
|
||||
300s-Turn-Aborts: Session bei 212k Tokens, jeder Turn startete Compression,
|
||||
Summary-Call lieferte 0 Chunks → Turn endete ohne Provider-Call.
|
||||
- **Vision:** `auxiliary.vision` = noris / `vllm/release/gemma-4-31b-it`;
|
||||
403-Block ist weg (19.10. mit Sarahs Key getestet: HTTP 200).
|
||||
- **`fallback_providers: []`** — kein Fallback konfiguriert! Bei Modellausfall hängt
|
||||
|
||||
@@ -199,3 +199,7 @@ Neuvermessung 670abe70 (1286 Dateien, 8,49 GB) korrigiert die alte „~2,6 GB"-S
|
||||
|
||||
### Cleanup-Stand 10.0.20.100
|
||||
- audit_a/audit_b-Container entfernt; `/tmp/audit_*`-Kopien noch vorhanden → beim nächsten .100-Kontakt miträumen
|
||||
|
||||
## Zugriffskette (2026-11-01 verifiziert)
|
||||
`https://cloud.familie-schoen.com` → CT99999 Traefik (`explicit-http.yml`, Router `seafile`) → **10.0.30.203** (das ist die **K8s-Ingress-LB**, `kube-system`, NICHT eine VM-ID!) → K8s-IngressRoute `seafile/seafile` → Service `seafile-external` → Endpoint **10.0.30.99:80** (CT111). Kette liefert 302 → `/accounts/login/` → HTTP 200 „Log In - Private Seafile". Seafile nutzt eine **eigene** `mariadb:10.11` im Container (kein Galera) → DB-Tier-Upgrades betreffen Seafile nicht; CT111 erbt aber den PVE-Host-Kernel (n5pro).
|
||||
**Legacy-Falle:** `seafile.familie-schoen.com` ist ein alter Router (`seafile_old` → `seafile-old-forwarder` → `http://10.0.30.100:8081`, tot) und liefert dauerhaft **502** — kein Ausfall, sondern stillgelegte Route. Nicht als Störung fehldeuten.
|
||||
|
||||
@@ -30,3 +30,6 @@ Physischer Standalone-Node (KEIN PVE), Mitglied im Ceph-Cluster. SSH: `ssh -i ~/
|
||||
|
||||
- [[systems/ceph-cluster]] — OSDs 2/8/15/17/18 laufen hier
|
||||
- [[patterns/ceph-dead-nvme-resurrection]] (PAT-014)
|
||||
|
||||
## Security-Status
|
||||
- **CVE-2026-98432 (Kernel-IPv4-TCP-UAF): OFFEN** (Stand 2026-11-02) — läuft `6.8.0-146-generic`, installiert `6.8.0-147.147`, Fix `6.8.0-149.149` in noble weiter `pending`. Host liegt im Mgmt-Netz 10.0.20.0/24 (nicht WAN-exponiert) → Restrisiko niedrig; ein Neustart auf 147 bringt für dieses CVE nichts.
|
||||
|
||||
Reference in New Issue
Block a user