From 7090b022c7d36356ffdd846019a1b5de1dc07a08 Mon Sep 17 00:00:00 2001 From: =?UTF-8?q?Dominik=20Sch=C3=B6n?= Date: Thu, 19 Nov 2026 22:00:22 +0000 Subject: [PATCH] Auto-sync: 2026-11-19 --- log.md | 7 +++++++ systems/galera-maxscale.md | 3 ++- systems/recipe-scraper.md | 13 ++++++++++++- 3 files changed, 21 insertions(+), 2 deletions(-) diff --git a/log.md b/log.md index 22f6f6e..1c5fa84 100644 --- a/log.md +++ b/log.md @@ -1,5 +1,12 @@ # Memory Log +## [2026-11-19] recipe-scraper-cron | 6. Crash-Tag (06:00-Fenster), Retry sofort OK, weiter No-Op bei 200k +- **Lauf 1 (06:00:28):** Crash in `db_count()` — pymysql 2013, read_timeout 60 s überschritten. 2. Rezidiv nach der 4-Tage-Lücke; 6. Crash-Tag insgesamt (11-10/11/12/13/18/19). +- **Lauf 2 (06:02:07):** Exit 0 — COUNT instant (<1 s), „Already at 200000 recipes". Retry-Regel (nach DB-Timeout 1× retryen) erneut bestätigt. +- **Diagnose:** TCP .70:3306 offen; Fenster heute wieder kurz (wie 11-18): COUNT ab 06:02 instant. Root-Cause (DB-Infra-Job ~05:45–06:05 UTC auf Galera-VMs) weiter offen. +- **FIX/Entscheidungen weiter offen (Owner-GO):** (a) `read_timeout=60`→`300` im Scraper (Zeile ~89) oder Cron auf 06:30; (b) Target 200k anheben oder Cron deaktivieren — jeder Lauf bleibt sonst No-Op. Nichts ausgeführt — Auftrag war nur ausführen & berichten. +- **Learning-Cycle:** SolDoc-Nachtrag 11-19 im 11-13-Doc; Wiki `systems/recipe-scraper.md` (+Status 11-19), `systems/galera-maxscale.md` (+Issue 11-19); Hindsight-Indexierung via HTTP-API (bank `hermes`, retain). + ## [2026-11-18] recipe-scraper-cron | Crash-Rezidiv nach 4 Tagen, Retry OK, No-Op — Störung täglich, nur Schwere variiert - **Lauf 1 (06:00:29):** Crash in `db_count()` — pymysql 2013, read_timeout 60 s überschritten. Identischer Fehlerpfad wie 11-10 bis 11-13; erstes Rezidiv nach 4 Tagen. - **Lauf 2 (06:01:53):** Exit 0, "Already at 200000 recipes" — 0 neue, keine Quellen, keine Pipeline. DB unverändert bei 200.000 = TARGET. diff --git a/systems/galera-maxscale.md b/systems/galera-maxscale.md index de143c4..50c4f45 100644 --- a/systems/galera-maxscale.md +++ b/systems/galera-maxscale.md @@ -3,7 +3,7 @@ title: MariaDB Galera + MaxScale category: systems tags: [mariadb, galera, maxscale, database, ha] created: "2026-07-24" -modified: "2026-11-12" +modified: "2026-11-19" --- # MariaDB Galera + MaxScale @@ -47,6 +47,7 @@ Anti-Collocation: 310⊥311. **2026-10-10:** Beide Failover-VMs (301, 310) live - VM310/311 (MaxScale): Fluent Bit aktiv ## Bekannte Issues +- **2026-11-19 (6. Tag — 06:00-Fenster wieder da, Retry-Schema hält):** Recipe-Scraper-Crash in `db_count()` (06:00:28, pymysql 2013, read_timeout 60 s) — 2. Rezidiv nach der 4-Tage-Lücke (11-14 bis 11-17). Retry 06:02:07 instant (<1 s): Fenster wieder kurz wie 11-18 (nicht wie 11-13 mit >122 s bis ~06:05). TCP .70:3306 offen; Schwere variabel, Grundmuster stabil — Root-Cause (DB-Infra-Job ~05:45–06:05 UTC) weiter offen. Fix weiter offen (Owner-GO): Scraper `read_timeout=60`→`300` (Zeile ~89) oder Cron auf 06:30. SolDoc-Nachtrag 11-19 im 11-13-Doc. - **2026-11-13 (3. Tag — 06:00-Fenster externally verursacht, Morgen-Briefing entlastet):** Recipe-Scraper-Crash in `db_count()` zum 3. Tag in Folge (06:00:28, pymysql 2013). Neu heute: COUNT hing **>122 s** im Fenster 06:01–06:04 (PROCESSLIST "Sending data"), ab 06:05 **4× 0,0 s** instant — die 52,4 s vom 12.11. sind kein fixer Strukturwert, sondern Cache-/Blockade-abhängig. Galera selbst gesund (3/3 Synced, wsrep_ready=ON, Flow Control aus, Uptime 4,5 d). **Morgen-Briefing (parallel 06:00) als Verursacher widerlegt** — dessen Scripts greifen nicht auf recipes-DB zu; am 10.11. lief COUNT während des Briefings durch. Ursache des Fensters offen: Backup-Jobs/Cron auf DB-VMs prüfen (neben Ceph osd slow-ops seit 08.11.). SolDocs: `bug-fixes/2026-11-13-recipe-scraper-0600-count-timeout-transient.md` + Nachtrag im 11-12-Doc. - **2026-11-12 (Wiederholung → systematisch):** Recipe-Scraper-Crash um 06:00 UTC in `db_count()` zum 2. Tag in Folge. Isolierte Messung: `SELECT COUNT(*) FROM recipes` = **52,4 s** (read_timeout 120 s), `SELECT 1` + Handshake instant. Die Query ist strukturell ~52 s langsam — SCRAPER-seitiges `read_timeout=60` zu knapp (Fix: read_timeout 300 im Scraper, s. systems/recipe-scraper). Buffer-Pool/Ceph-I/O der Galera-Nodes weiter im Blick (osd slow-ops seit 08.11. offen). Details + SolDoc: `docs/solutions/bug-fixes/2026-11-12-recipe-scraper-dbcount-timeout-galera.md`. - **2026-11-10 (beobachtet, selbst geheilt):** Transienter Stall via VIP .70 — `SELECT 1` instant, aber `SELECT COUNT(*) FROM recipes` hing 30 s (read-timeout), Wiederholung 1,2 s; wsrep_cluster_size=3. Recipe-Scraper-Cron-Crash um 06:01 UTC war die Folge; Retry 2 Min. später lief sofort. Vermutlich Flow-Control-Blip oder träger kalter Node nach Recovery. Beobachten; bei Wiederholung osd/Node-Last prüfen. diff --git a/systems/recipe-scraper.md b/systems/recipe-scraper.md index a7cdcdd..cac4da7 100644 --- a/systems/recipe-scraper.md +++ b/systems/recipe-scraper.md @@ -3,7 +3,7 @@ title: "Recipe Scraper v8 (Nutrition-Coach)" category: systems tags: [recipes, scraping, nutrition-coach, galera, curl-cffi] created: "2026-10-12" -modified: "2026-11-18" +modified: "2026-11-19" --- # Recipe Scraper v8 — Nutrition-Coach-Profil @@ -67,6 +67,17 @@ modified: "2026-11-18" (Owner-GO): `read_timeout=60`→`300` (Zeile ~89) oder Cron auf 06:30. - SolDoc-Nachtrag 11-18 im 11-13-Doc. +## Status 2026-11-19: 6. Crash-Tag, Retry sofort — Fenster wieder kurz +- 06:00:28 UTC: erster Lauf crashte in `db_count()` (Error 2013, 60-s-read_timeout) + — 2. Rezidiv nach der 4-Tage-Lücke (11-14 bis 11-17). Retry 06:02:07: instant + durch (COUNT <1 s), Exit 0, No-Op (0 neue, keine Quellen, keine Pipeline; + DB 200.000 = TARGET). +- Fenster heute wieder kurz (COUNT ab 06:02 instant, wie 11-18) — Root-Cause + (DB-Infra-Job ~05:45–06:05 UTC) weiter offen. Fix weiter offen (Owner-GO): + `read_timeout=60`→`300` (Zeile ~89) oder Cron auf 06:30. Owner-Entscheidung + Target/Cron-Deaktivierung weiterhin ausstehend. +- SolDoc-Nachtrag 11-19 im 11-13-Doc. + ## Architektur - **Skript:** `~/.hermes/profiles/nutrition-coach/scripts/recipe_scraper_v8_intl.py` (Venv: `~/.hermes/venv-recipe/`, curl_cffi 0.16.3 für Chrome-TLS-Fingerprints)