Commit the stray Q4a polygon addendum note left untracked from the mini-session
This commit is contained in:
parent
667eec0dc5
commit
aaa4e12bf8
1 changed files with 52 additions and 0 deletions
52
eval/exp15/Q4A_POLYGON_ADDENDUM.md
Normal file
52
eval/exp15/Q4A_POLYGON_ADDENDUM.md
Normal file
|
|
@ -0,0 +1,52 @@
|
|||
# ПОЛИГОН-АДДЕНДУМ к `docs/POLYGON_Q4A_MINI_SESSION_PROMPT.md` (exp15/Q4a)
|
||||
|
||||
> Приложить к промту оркестратора при запуске Q4a-мини-сессии. **НЕ отменяет и НЕ пере-сочиняет
|
||||
> замороженный дизайн** (pro-пин, два арма, сравнение с A0-flash, судьи, §D5-правило — всё в силе).
|
||||
> Это **только методологическая дисциплина** — прямые уроки коррекции exp15 REV.2 (2026-07-18), где
|
||||
> артефакт рига (`HEAD_CHARS=1100`) и пропущенный шум-пол дали ложный заголовок «−0.564», пойманный
|
||||
> лишь пост-хок верификацией оркестратора. Цель аддендума — чтобы Q4a не повторил это. При конфликте с
|
||||
> промтом оркестратора — промт побеждает; спорное — пингом оркестратору ДО спенда.
|
||||
|
||||
## 1. ШУМ-ПОЛ ОБЯЗАТЕЛЕН (пре-рег §1.5) — самый дорогой урок сессии
|
||||
Метрики Q4a — «доля flash-провалов, что pro-draft чинит» и «дельта (а)−(б)» — floor-чувствительны: судья
|
||||
флипает вердикт на ЭКВИВАЛЕНТНЫХ входах (в основном прогоне mean|Δ| судьи на A0 vs A0′ = **0.126**, БОЛЬШЕ
|
||||
всех интересующих эффектов). Без пола любую дельту примешь за реальную (ровно то, что сломало Q1b/Q3a).
|
||||
- **Померить пол ДО интерпретации:** судить одну и ту же пару драфтов повторно (test-retest) ИЛИ
|
||||
flash-seed1 vs flash-seed2 на тех же fidelity-трапах → **доля «ложных починок»** (судья зовёт wrong→correct
|
||||
на идентичном/эквивалентном тексте). Это и есть false-positive-rate метрики «pro чинит».
|
||||
- **Правило:** «pro чинит X%» и «(а)−(б)» интерпретируются ТОЛЬКО как превышение над этим полом. Эффект
|
||||
≤ пола = «не отличим от судейского шума», НЕ ратифицируется (даже если точка красивая).
|
||||
- Дельта (а)−(б) особенно уязвима (разница двух редакторских исходов на близких входах) — репортить с CI.
|
||||
|
||||
## 2. АДВЕРСАРИАЛЬНЫЙ РЕВЬЮ `q4a_*.py` ДО ПЕРВОГО ПЛАТНОГО ВЫЗОВА (2-рубежная дисциплина)
|
||||
Артефакт HEAD_CHARS пережил self-review-1; пойман только внешней верификацией. Для Q4a — 3–4-линзовый
|
||||
адверс-ревью нового драйвера ДО спенда (линзы: видимость трап-спана ОБОИМ драфтам без усечения; per-vote
|
||||
персист вердиктов; бюджет-кап/гейт; маппинг трап→чанк корректен и не роняет трапы молча). Дёшево, окупилось.
|
||||
|
||||
## 3. СКОУП ТРАП-МАТЕРИАЛА — РАЗРЕШИТЬ ЯВНО ДО ГЕНЕРАЦИИ (реальная развилка)
|
||||
Батарея exp14b лежит на **материале exp14** (`/home/ubuntu/books/gu-zhenren/exp14/`), НЕ на S2′. А сравнение
|
||||
Q4a = pro-draft vs **A0-flash на ТЕХ ЖЕ чанках** = S2′ flat-чанки (`flat_a0_30`). Два несовместимых пути:
|
||||
- **(A)** локализовать трап-ТИПЫ exp14b (a1 двойное-отрицание, классы инверсий, T-inv-контроль) **в S2′**
|
||||
flat-чанках (майнинг/детект) → сопоставимо с exp15-анкорами; ИЛИ
|
||||
- **(B)** гнать Q4a на материале exp14, реюзя точные трап-определения → сопоставимо с exp14b, но НЕ с S2′.
|
||||
«Реюз exp14b-батареи» в промте не различает (A)/(B). **Выбрать явно и записать в §7-Q4a-аддендум как девиацию;**
|
||||
при сомнении — пинг оркестратору. (Логика сравнения «на тех же чанках, что A0-flash» → по умолчанию склоняет к (A).)
|
||||
|
||||
## 4. Практические (экономят деньги/wall-clock)
|
||||
- **Flash-драфты УЖЕ есть:** `anchors/flat_a0_30.db` stage='draft' (порт-валидирован байт-в-байт, §7.2).
|
||||
Q4a генерит **только pro-драфты**; flash НЕ пере-гонять. Один pro-draft-набор питает оба арма
|
||||
(арм (б) = сам pro-draft; арм (а) = pro-draft → editor glm-5).
|
||||
- **mistral throttling:** интервал уже поднят **1.3→2.6s** в `exp15_llm.py` (был 48% retry@1.3s, max lat 64.7s
|
||||
на полн-чанке). НЕ пере-тюнить. Судейские прогоны медленные (~1–2 мин/ячейка полн-чанк) — заложить
|
||||
**wall-clock**, длинные джобы чекать периодически (не ждать пассивно финальную нотификацию).
|
||||
- **Свой Spender: кап $2, seed=0.** НЕ наследовать глобальный seed $9.82 / потолок $14.5 из `judge_run.py`
|
||||
(это кап exp15; Q4a — отдельный бюджет ВНЕ него). Леджеры `q4a_*.jsonl`, персистить ВЕСЬ спенд вкл. пробы.
|
||||
- **Windowing тут менее опасен, чем в Q1b:** pro и flash на ОДНОЙ нарезке → трап в одной позиции у обоих →
|
||||
симметрично, оракул-подобной асимметрии нет. Всё равно полно-evidence (не HEAD_CHARS-класс); переиспользуй
|
||||
`judge_run.py`-хелперы (`db_drafts`, `excerpt(...,full=True)`, `judge_cell` с per-vote), НЕ редактируя их.
|
||||
|
||||
## 5. Что переиспользовать из готового (не писать заново)
|
||||
- Судейский слой: `judges.py` (per-vote персист, gate-block≠parse-fail, cat/ev нормализация — уже пофикшены).
|
||||
- LLM/бюджет: `exp15_llm.py` (`MODELS['deepseek-v4-pro']` заведён; additive-биллинг grok/kimi; предикт-гейт).
|
||||
- Полн-evidence/анкор-guard/full-режим: `judge_run.py` (как образец; для Q4a — свой `q4a_judge.py`, additively).
|
||||
- Провенанс v1/v2 и §7-структуру отчёта — как шаблон аддендума §7-Q4a.
|
||||
Loading…
Add table
Reference in a new issue