Auto-sync: 2026-11-19

This commit is contained in:
Dominik Schön
2026-11-19 22:00:22 +00:00
parent b171a41a8c
commit 7090b022c7
3 changed files with 21 additions and 2 deletions
+7
View File
@@ -1,5 +1,12 @@
# Memory Log
## [2026-11-19] recipe-scraper-cron | 6. Crash-Tag (06:00-Fenster), Retry sofort OK, weiter No-Op bei 200k
- **Lauf 1 (06:00:28):** Crash in `db_count()` — pymysql 2013, read_timeout 60 s überschritten. 2. Rezidiv nach der 4-Tage-Lücke; 6. Crash-Tag insgesamt (11-10/11/12/13/18/19).
- **Lauf 2 (06:02:07):** Exit 0 — COUNT instant (<1 s), „Already at 200000 recipes". Retry-Regel (nach DB-Timeout 1× retryen) erneut bestätigt.
- **Diagnose:** TCP .70:3306 offen; Fenster heute wieder kurz (wie 11-18): COUNT ab 06:02 instant. Root-Cause (DB-Infra-Job ~05:45–06:05 UTC auf Galera-VMs) weiter offen.
- **FIX/Entscheidungen weiter offen (Owner-GO):** (a) `read_timeout=60`→`300` im Scraper (Zeile ~89) oder Cron auf 06:30; (b) Target 200k anheben oder Cron deaktivieren — jeder Lauf bleibt sonst No-Op. Nichts ausgeführt — Auftrag war nur ausführen & berichten.
- **Learning-Cycle:** SolDoc-Nachtrag 11-19 im 11-13-Doc; Wiki `systems/recipe-scraper.md` (+Status 11-19), `systems/galera-maxscale.md` (+Issue 11-19); Hindsight-Indexierung via HTTP-API (bank `hermes`, retain).
## [2026-11-18] recipe-scraper-cron | Crash-Rezidiv nach 4 Tagen, Retry OK, No-Op — Störung täglich, nur Schwere variiert
- **Lauf 1 (06:00:29):** Crash in `db_count()` — pymysql 2013, read_timeout 60 s überschritten. Identischer Fehlerpfad wie 11-10 bis 11-13; erstes Rezidiv nach 4 Tagen.
- **Lauf 2 (06:01:53):** Exit 0, "Already at 200000 recipes" — 0 neue, keine Quellen, keine Pipeline. DB unverändert bei 200.000 = TARGET.
+2 -1
View File
@@ -3,7 +3,7 @@ title: MariaDB Galera + MaxScale
category: systems
tags: [mariadb, galera, maxscale, database, ha]
created: "2026-07-24"
modified: "2026-11-12"
modified: "2026-11-19"
---
# MariaDB Galera + MaxScale
@@ -47,6 +47,7 @@ Anti-Collocation: 310⊥311. **2026-10-10:** Beide Failover-VMs (301, 310) live
- VM310/311 (MaxScale): Fluent Bit aktiv
## Bekannte Issues
- **2026-11-19 (6. Tag — 06:00-Fenster wieder da, Retry-Schema hält):** Recipe-Scraper-Crash in `db_count()` (06:00:28, pymysql 2013, read_timeout 60 s) — 2. Rezidiv nach der 4-Tage-Lücke (11-14 bis 11-17). Retry 06:02:07 instant (<1 s): Fenster wieder kurz wie 11-18 (nicht wie 11-13 mit >122 s bis ~06:05). TCP .70:3306 offen; Schwere variabel, Grundmuster stabil — Root-Cause (DB-Infra-Job ~05:45–06:05 UTC) weiter offen. Fix weiter offen (Owner-GO): Scraper `read_timeout=60`→`300` (Zeile ~89) oder Cron auf 06:30. SolDoc-Nachtrag 11-19 im 11-13-Doc.
- **2026-11-13 (3. Tag — 06:00-Fenster externally verursacht, Morgen-Briefing entlastet):** Recipe-Scraper-Crash in `db_count()` zum 3. Tag in Folge (06:00:28, pymysql 2013). Neu heute: COUNT hing **>122 s** im Fenster 06:01–06:04 (PROCESSLIST "Sending data"), ab 06:05 **4× 0,0 s** instant — die 52,4 s vom 12.11. sind kein fixer Strukturwert, sondern Cache-/Blockade-abhängig. Galera selbst gesund (3/3 Synced, wsrep_ready=ON, Flow Control aus, Uptime 4,5 d). **Morgen-Briefing (parallel 06:00) als Verursacher widerlegt** — dessen Scripts greifen nicht auf recipes-DB zu; am 10.11. lief COUNT während des Briefings durch. Ursache des Fensters offen: Backup-Jobs/Cron auf DB-VMs prüfen (neben Ceph osd slow-ops seit 08.11.). SolDocs: `bug-fixes/2026-11-13-recipe-scraper-0600-count-timeout-transient.md` + Nachtrag im 11-12-Doc.
- **2026-11-12 (Wiederholung → systematisch):** Recipe-Scraper-Crash um 06:00 UTC in `db_count()` zum 2. Tag in Folge. Isolierte Messung: `SELECT COUNT(*) FROM recipes` = **52,4 s** (read_timeout 120 s), `SELECT 1` + Handshake instant. Die Query ist strukturell ~52 s langsam — SCRAPER-seitiges `read_timeout=60` zu knapp (Fix: read_timeout 300 im Scraper, s. systems/recipe-scraper). Buffer-Pool/Ceph-I/O der Galera-Nodes weiter im Blick (osd slow-ops seit 08.11. offen). Details + SolDoc: `docs/solutions/bug-fixes/2026-11-12-recipe-scraper-dbcount-timeout-galera.md`.
- **2026-11-10 (beobachtet, selbst geheilt):** Transienter Stall via VIP .70 — `SELECT 1` instant, aber `SELECT COUNT(*) FROM recipes` hing 30 s (read-timeout), Wiederholung 1,2 s; wsrep_cluster_size=3. Recipe-Scraper-Cron-Crash um 06:01 UTC war die Folge; Retry 2 Min. später lief sofort. Vermutlich Flow-Control-Blip oder träger kalter Node nach Recovery. Beobachten; bei Wiederholung osd/Node-Last prüfen.
+12 -1
View File
@@ -3,7 +3,7 @@ title: "Recipe Scraper v8 (Nutrition-Coach)"
category: systems
tags: [recipes, scraping, nutrition-coach, galera, curl-cffi]
created: "2026-10-12"
modified: "2026-11-18"
modified: "2026-11-19"
---
# Recipe Scraper v8 — Nutrition-Coach-Profil
@@ -67,6 +67,17 @@ modified: "2026-11-18"
(Owner-GO): `read_timeout=60`→`300` (Zeile ~89) oder Cron auf 06:30.
- SolDoc-Nachtrag 11-18 im 11-13-Doc.
## Status 2026-11-19: 6. Crash-Tag, Retry sofort — Fenster wieder kurz
- 06:00:28 UTC: erster Lauf crashte in `db_count()` (Error 2013, 60-s-read_timeout)
— 2. Rezidiv nach der 4-Tage-Lücke (11-14 bis 11-17). Retry 06:02:07: instant
durch (COUNT <1 s), Exit 0, No-Op (0 neue, keine Quellen, keine Pipeline;
DB 200.000 = TARGET).
- Fenster heute wieder kurz (COUNT ab 06:02 instant, wie 11-18) — Root-Cause
(DB-Infra-Job ~05:45–06:05 UTC) weiter offen. Fix weiter offen (Owner-GO):
`read_timeout=60`→`300` (Zeile ~89) oder Cron auf 06:30. Owner-Entscheidung
Target/Cron-Deaktivierung weiterhin ausstehend.
- SolDoc-Nachtrag 11-19 im 11-13-Doc.
## Architektur
- **Skript:** `~/.hermes/profiles/nutrition-coach/scripts/recipe_scraper_v8_intl.py`
(Venv: `~/.hermes/venv-recipe/`, curl_cffi 0.16.3 für Chrome-TLS-Fingerprints)