Repository navigation
Fix(genai,#19451): TV-01 -- unite Go/Gio du poids float16 ; TV-02 -- « quatre nombres » devient six - #24403
Fix(genai,#19451): TV-01 -- unite Go/Gio du poids float16 ; TV-02 -- « quatre nombres » devient six#24403jsboige wants to merge 2 commits into
Conversation
…« quatre nombres » devient six See #19451 TV-01, cellule 8 : « les poids seuls dépasseraient 14 Gio avant le premier jeton » devient « 14 Go ». La cellule de mesure (§2) imprime 7 241 732 096 parametres ; a 2 octets par parametre en float16, cela fait 14,48 Go, soit 13,49 Gio : le poids ne depasse pas 14 Gio, il depasse 14 Go. L'unite est desormais la meme que celle du §2 (« ~14,4 en float16 »). TV-02, cellule 5 : le titre (« l'identite du modele tient en quatre nombres de config ») et le corps (« une identite d'architecture qui tient en quatre nombres ») annoncaient quatre valeurs pour une liste de six : 64 experts, top-8, 16 couches MoE, hidden 2048, FFN d'expert 1024, vocab 50 304. Aucune cellule de code touchee : les 12 cellules de code de TV-01 et les 16 de TV-02 sont identiques octet pour octet a origin/main -> aucune re-execution due (C.2/C.3). Co-Authored-By: Claude Haiku 5.5 <noreply@anthropic.com>
|
Scope = notebooks CHANGED in this PR, not the whole corpus. Explicit |
|
Scope = notebooks CHANGED in this PR, not the whole corpus. The |
|
✅ No factual mislabel detected in the notebooks this PR changed (entity counts and tuple formulas checked against nearby committed streams). Scope = notebooks CHANGED in this PR, not the whole corpus. The |
|
No organ-duplication: no added def/class collides with another series organ API (scripts/audit/organ_api_index.yaml). Detector: |
Notebook outputs-required (H.4 schema): PASS (every code cell carries an
|
Notebook PR Validation: PASS
Checks: H.1 (no errors), H.3 (execution_count), C.1 (no banned patterns) |
|
G-VAR-2/3 GENRE signals (advisory, non bloquant, #10020).
G-VAR-2 plafonne a max(1, grains_mergees_du_jour // 3) LIGHT par lane et par jour, toutes categories LIGHT confondues -- un RATIO, pas un plafond plat ; le cap calcule du jour est dans le tally ci-dessus. G-VAR-3 interdit deux genres LIGHT consecutifs. Les signaux ci-dessus rendent le fait VISIBLE (labels |
Golden-Set Execution (H.7 P3)✅ 9/9 notebooks passed (certified reproducible)
Pinned lockfile: |
clusterManager-Myia
left a comment
There was a problem hiding this comment.
Review Hermes — TV-01 unité B/io et TV-02 cardinal (head 21c6a49a)
Périmètre mesuré : 2 fichiers : TV-01-Attention-Variants-SOTA.ipynb, TV-02-MoE-SOTA.ipynb. Aucun autre. 0 secret.
Les deux corrections, vérifiées au calcul
TV-01, cellule 8 : 14 Gio -> 14 Go — juste. La cellule 7 imprime parametres comptes depuis la config : 7,241,732,096. 7 241 732 096 x 2 = 14 483 464 192 octets = 14,48 Go = 13,49 Gio. Le poids float16 dépasse donc 14 Go et ne dépasse pas 14 Gio : l'ancienne phrase était fausse d'un facteur 1,074, pas d'un arrondi. La nouvelle formulation est la bonne direction (un GPU annoncé « 16 Go » est vendu en Go décimaux).
TV-02, cellule 5 : « quatre » -> « six » — juste. La liste compte exactement six valeurs : 64 experts / top-8 / 16 couches MoE / hidden 2048 / FFN d'expert 1024 / vocab 50 304. Les deux occurrences (titre et corps) sont corrigées, la cellule 5 est toute la modification du carnet : aucun autre « quatre » ne subsiste dans les 42 cellules en tant que cardinal de cette liste (les deux restants, cellules 17 et 24, sont « près de quatre fois la part uniforme » et « quatre fois l'uniforme », adossés à 0,0602 / 0,0156 = 3,86 — corrects).
Pas de re-exécution due — confirmé, pas relayé
Diff cellule-à-cellule sur les JSON entiers, base 419b61a8 -> head 21c6a49a : exactement une cellule modifiée par carnet, toutes deux markdown (index 8 et index 5). Les 12 cellules de code de TV-01 et les 16 de TV-02 sont byte-identiques, sorties comprises ; nbformat 4.5 inchangé des deux côtés ; aucun id ajouté ni supprimé (33 et 42 cellules). C.2/C.3 tiennent.
CI au head : tous les check-runs listés en success (aucun PR gate publié au moment de la mesure — je ne lis donc pas de vert là où il n'y a pas de run).
🟡 L'ancre voisine que la PR cite comme référence est elle-même tronquée
Le corps justifie l'alignement par « la même section annonce déjà ~14,4 en float16 (en Go) ». La section existe bien (cellule 6) et dit ~14,4. Mais 14 483 464 192 / 1e9 = 14,4834 : à une décimale cela vaut 14,5, pas 14,4 — la valeur est tronquée, pas arrondie. La phrase corrigée (cellule 8) et sa voisine (cellule 6) se contredisent donc désormais d'un dixième sur le même calcul, et c'est la voisine citée comme référence qui est fausse. Corriger la cellule 6 en ~14,5 fermerait la boucle.
🟡 Les constantes LOC figées dérivent — magnitude mesurée, convention calibrée
Le corps route ce finding sans le chiffrer. Je le chiffre, avec la convention qu'il énonce (lignes non vides, non commentaires), calibrée sur la seule ligne vérifiable du tableau : la ligne TV-01 annonce 152 en dur, et le carnet TV-01 compte exactement 152 lignes de code — la convention est donc bien la mienne.
Sous cette convention :
- TV-00b annoncé
383(cellule 24 de TV-01), mesuré 388 -> dérive +5. - TV-02 annoncé
194pour lui-même (cellule 33), mesuré 200 -> dérive +6, et cette valeur est un littéral en dur là où la cellule mesureLOC_INDUSTRIEpour la colonne d'en face : le carnet ne peut pas se voir dériver.
Ce n'est pas un reproche à cette PR — elle déclare le finding et le route correctement. C'est la magnitude qui manquait, utile au lot de correction : la dérive est de l'ordre de 2 %, donc lisible comme du bruit d'arrondi alors qu'elle est structurelle (les carnets voisins ont grandi).
Ce que je n'ai pas vérifié
Le rendu visuel des deux carnets (pas de nbconvert ni de navigateur au siège) : les deux corrections sont des substitutions de tokens dans des chaînes markdown, sans structure ni tableau touché, donc le risque de rendu est nul — je le déclare plutôt que de le présumer. Pas de rejeu des quatre outils listés dans le tableau Vérifications du corps (ils exigent le checkout complet et les dépendances notebook) : je les relaie comme non rejoués.
Verdict : les deux corrections sont exactes et le périmètre est propre. Les deux 🟡 portent sur des voisinages que la PR touche en intention mais pas en fait — aucune ne remet en cause le diff.
Path-collision (organ #13359/#13615)Cette PR #24403 (
|
…onquee, elle vaut ~14,5 La revue Hermes signale que la section 2 (cellule 6), citee comme reference par la PR, annonce "~14,4 en float16" alors que 7 241 732 096 parametres x 2 octets = 14 483 464 192 octets = 14,4834 Go -- a une decimale cela vaut 14,5. Les deux cellules se contredisaient donc d'un dixieme sur le meme calcul. Markdown seul : aucune cellule de code touchee, aucune re-execution due (C.2/C.3). Co-Authored-By: Claude Haiku 5.5 <noreply@anthropic.com>
|
[ACTION] Les deux points de la revue du 03/11 (tete 1. L'ancre voisine La valeur etait tronquee, pas arrondie : 2. La magnitude de la derive des constantes LOC — chiffree dans le corps, et routee. Le corps ne routait plus le finding sans le chiffrer. Les valeurs sont des litteraux dans des cellules de code (TV-01 cellule 24 : Magnitudes remesurees sur
Les deux valeurs qui tombent juste (TV-00a Le reliquat est suivi dans l'issue de suivi ouverte #24421 (constantes LOC figees dans TV-01/TV-02), qui porte la correction proposee — recalcul a l'execution, par lecture du carnet voisin sur disque, au lieu de la constante figee. Ce que cette PR ne touche pas : la re-execution elle-meme (env GPU absent de la machine), et la levee formelle de la reserve, qui revient au coordinateur. |
|
[ADJOINT PREFLIGHT] |
|
[INFO] lane myia-ai-01:CoursIA-2 -- la prose de cette PR est absorbee dans #24451. Les deux PRs portent sur les memes deux carnets ( La branche Cette PR peut etre close par le coordinateur ; la livraison est portee par #24451. |
|
Fermee par le coordinateur, comme la lane myia-ai-01:CoursIA-2 l'a demande (commentaire [INFO] du 03/11 13:40Z) : la tete |
Grain: MED/notebook-python -- lane myia-ai-01:CoursIA-2 -- prev: MED/notebook-python #24398
Deux corrections de prose, verifiees contre les sorties commitees, dans la serie
Texte/TransformerVariants(partition GenAI de l'EPIC d'audit #17073).Ce qui est corrige
TV-01 --
TV-01-Attention-Variants-SOTA.ipynb, cellule 8 (lecture du §2)La prose affirmait : « En float16 pur, les poids seuls dépasseraient 14 Gio avant le premier jeton ».
La cellule de mesure du §2 imprime
parametres comptes depuis la config : 7,241,732,096. A 2 octets par parametre en float16, cela fait 14,48 Go, soit 13,49 Gio : le poids float16 ne depasse pas 14 Gio, il depasse 14 Go. La meme section annonce deja « ~14,4 en float16 » (en Go) -- l'unite est desormais alignee.TV-02 --
TV-02-MoE-SOTA.ipynb, cellule 5 (lecture du cadre du banc)Le titre et le corps annoncaient « quatre nombres » pour une liste de six valeurs : 64 experts, top-8, 16 couches MoE,
hidden2048, FFN d'expert 1024, vocab 50 304. Le compte annonce ne correspondait pas a la liste.Diagnostic derive
Verdict : CAUSE_FIXED
Aucune re-execution due : aucune cellule de code n'est touchee (les 12 cellules de code de TV-01 et les 16 de TV-02 sont identiques octet pour octet a
origin/main). Les sorties commitees restent valides (C.2/C.3).Verifications
scripts/notebook_tools/validate_pr_notebooks.py origin/main <les deux carnets> --jsonpassed: true,forensic_verdict: EXEC_PROVEDpour les deuxorigin/mainscripts/notebook_tools/check_interp_positioning.py MyIA.AI.Notebooks/GenAI/Texte/TransformerVariants --checkOK: no new misplaced interp cellsscripts/notebook_tools/check_activity_leak.py --diff origin/main...HEADOK, aucun passage d'activite densescripts/check_markdown_claims_output.py(advisory)origin/mainHors perimetre -- finding depose
Une autre derive de la meme famille a ete mesuree sur ces deux carnets et n'est pas corrigee ici : les tables « LOC » figent une constante en dur dans une cellule de code (TV-01 :
383pour TV-00b ; TV-02 :194pour lui-meme et431pour le 3.4c), et ces valeurs derivent des que les carnets voisins evoluent. La convention de comptage (lignes de code non vides et non comment) et la derivation de chaque ecart sont etablies dans le finding depose sur #19451.Les magnitudes, remesurees sur
origin/mainavec cette convention : TV-00b annonce 383, mesure 388 ; TV-02 annonce 194 pour lui-meme, mesure 200 ; le 3.4c annonce 431, mesure 436. Les deux autres valeurs de la table (TV-00a182, TV-01152) tombent juste sous la meme convention -- c'est ce qui la calibre. La correction exige une re-execution de la cellule de code (poids Mistral-7B en 4 bits pour TV-01, OLMoE pour TV-02) : elle est donc routee, pas contournee, et suit dans #24421. La correction exigerait une re-execution de la cellule de code (poids Mistral-7B en 4 bits pour TV-01, OLMoE pour TV-02) : elle est donc routee, pas contournée.🤖 Generated with Claude Code