Auto-sync: 2026-10-13
This commit is contained in:
@@ -87,6 +87,36 @@ Backlog beim Fund: 138.531 Rezepte ohne Embedding, 90.689 unklassifiziert,
|
||||
Drain 12.10.: Classifier ~230/s, Embeddings ~58/s (beide live gelaufen),
|
||||
Normalizer regelbasiert danach. Alles resumable.
|
||||
|
||||
### Bug #7 + Galera-.73-Episode (12./13.10., nachts)
|
||||
- **Gift-Scan-Klasse entdeckt:** `embedding` ist LONGTEXT **inline im Clustered
|
||||
Index** (~25 kB × 198k ≈ 5 GB). JEDE Query mit `WHERE embedding IS NULL`
|
||||
ist ein Full-Blob-Scan: initial 67,6 s, degenerierte mit fortschreitendem
|
||||
Embedding progressiv (Redo: 91/s → 2/s über 11 h → read-timeout-Tod bei
|
||||
89.216). Vierte Instanz der Frontier-Familie.
|
||||
- **Fix (dreistufig):** (1) Keyset-Cursor `id > watermark` mit persistenter
|
||||
`embedding_watermark`-Tabelle (Restart-safe) + Zwei-Pass-Logik (Watermark-
|
||||
Pass → Reset-Pass fängt neu-unter-dem-Wassermarkige); (2) **Generated
|
||||
Column + Index:** `emb_pending TINYINT VIRTUAL AS (IF(embedding IS NULL,1,NULL))`
|
||||
+ Composite `(emb_pending, id)` → NULL-Seeking = Index-Seek, Reset-Pass
|
||||
O(Index); (3) Batch-Query auf `emb_pending = 1` umgestellt; Fingerprint-
|
||||
Shortcut (recipes_total unverändert ⇒ Exit in 2,2 s ohne jeglichen Scan);
|
||||
vanity-Counts entfernt (sie killten einen fertigen Lauf mit Exit 1).
|
||||
- **Galera-.73-Kettenreaktion:** Das DDL replizierte, aber mariadb-03 (.73,
|
||||
4-GB-Bufferpool, kalt) brauchte ~35 Min für den Index-Build („reading
|
||||
clustered index", 160 reads/s) → Applier-Queue 29 gestaute Transaktionen
|
||||
→ Certification-Stalls clusterweit. KEIN Deadlock, kein Restart nötig —
|
||||
Thrashing war self-limiting, Queue drainete auf 0, Index auf allen Nodes.
|
||||
- **Lessons:** Galera-KILL ist NODE-LOKAL (Connection-IDs gelten pro Node —
|
||||
Zombie-Session via VIP-KILL traf falschen Node, überlebte 485 s; immer erst
|
||||
`SELECT @@hostname` prüfen, dann direkt killen). DDL auf großem Table =
|
||||
TOI-Sperre: jeder Node baut individuell, kalte Nodes werden zum Bremsklotz;
|
||||
Bufferpool ≥ Table-Größe oder Index über schmale Generated Column.
|
||||
Terminal-Timeouts töten Shells, NICHT Python-Kinder → Waisen-Queries
|
||||
weitermahlen; Prozesslist-Hygiene nach jedem Timeout-Debugging.
|
||||
- **Verifikation:** `emb_pending=1` = 0 auf allen Nodes (198.133/198.133
|
||||
embedded); E2E-Steady-State-Test bestanden (Fake-Insert → Embed → Cleanup);
|
||||
Fingerprint-Shortcut 2,2 s Exit 0.
|
||||
|
||||
### Bug #5 + #6 (beim Drain gefunden, 12.10.)
|
||||
- **#5 ÷0-Crash:** Bruch-Regex `\b(\d+)/(\d+)\b` im Normalizer traf „x/0"
|
||||
in Wild-Data → ZeroDivisionError killte den Step. Fix: Nenner `[1-9]\d*`.
|
||||
|
||||
Reference in New Issue
Block a user