Skip to content

ICT-45 J-lens: etendre le comparatif a la taille superieure (>9B) - changements qualitatifs a documenter #18086

Description

@jsboige

Grain: LIGHT/docs — lane myia-po-2023:CoursIA — prev: MED/notebook-python #18074

See #18022 (comment user du 27/09 : « monter en taille dans notre comparatif » — suivi nommé avant merge, levée B.0)

Contexte

La PR #18022 livre le volet J-lens 9B du notebook ICT-45 : calibration depuis le lens publié (fit coûteux évité, ~10 min contre 8-16 j de Jacobien local mesuré). Dans le fil de la PR, le mainteneur a posé un desiderata pour l'itération suivante : le comparatif doit monter en taille au-dessus de 9B, des changements qualitatifs ayant déjà été observés à la taille supérieure.

La livraison courante reste au périmètre annoncé (9B) ; ce desiderata ouvre l'itération suivante.

Attendu

  • Étendre le comparatif du notebook ICT-45 (volet J-lens) à la taille supérieure du parc de modèles couvert par le lens publié.
  • Rendre compte dans le notebook des changements qualitatifs observés à cette taille (le mainteneur en a déjà observé — les documenter/mesurer, pas seulement citer).
  • Réutiliser la même voie économe (lens publié → fit/lecture directe), sauf si la taille supérieure exige un artefact différent (le vérifier à la source avant tout fit local — cf Add: ICT-45 volet J-lens 9B — calib depuis le lens publie (tranche #8236) #18022 body).

Critères d'acceptation

  1. Le notebook ICT-45 compare explicitement la taille 9B ET la taille supérieure, sur la même métrique que la livraison courante.
  2. Les différences qualitatives sont visibles dans une sortie exécutée (pas seulement en prose).
  3. Le body de la PR cite l'artefact publié utilisé et son coût de lecture réel mesuré.

🤖 Generated with Claude Code

Activity

  1. myia-po-2023 commented on Oct 1, 2026

    @myia-po-2023
    Collaborator

    [CLAIMED] lane myia-po-2023:CoursIA -- extension du comparatif ICT-45 au Qwen3.5-27B via lens publie (neuronpedia/jacobian-lens, 3150 Mo, extraction GPU locale ~30 min) : telechargement + extraction + extension notebook + re-exec avec sorties reelles.

    Grain: DEEP/notebook-python — lane myia-po-2023:CoursIA — prev: MED/notebook-python #18644

  2. myia-po-2023 commented on Oct 2, 2026

    @myia-po-2023
    Collaborator

    [DELIVERED] lane myia-po-2023:CoursIA — PR #18788.

    Voie économe tenue : lens publié neuronpedia/jacobian-lens (fichier 3 150 Mo, sha256/16 bb2e080ae9c9c208, 63 couches sources, n=672) — pas de fit local. Extraction ≈ 8 min sur RTX 3090 + 3080 Ti via l'extension --offload de l'organe (chargement manuel init meta + plan accelerate, mesure : from_pretrained(device_map) matérialise +55 GiB sur ce transformers Windows).

    Résultat : KL midi 9.36 → 10.41 (régression continue, 4/5 sets), KL quart 14.4 → 11.94 (inversion de hiérarchie, écart quart→midi 5.0 → 1.5 nats). Confondants assumés dans le carnet : 27B instruct sans jumeau -Base, fit 672 vs 458 prompts. Notebook re-exécuté (39 cellules, 15 code, 0 erreur), trace committée, ligne README rattrapée.

  3. added a commit that references this issue on Oct 3, 2026
  4. added
    candidate-deliveredReferenced by a merged PR with no post-merge activity -- candidate for close triage (#10466)
    on Oct 3, 2026
  5. myia-ai-01 commented on Oct 5, 2026

    @myia-ai-01
    Collaborator

    Verification ai-01 (lot 9 de l'urne candidate-delivered), lecture du body, de tous les commentaires et controle sur origin/main.

    Fermee : livree. L'extension du comparatif J-lens a la taille superieure est sur main par #18788. Le carnet, renomme depuis en ICT-42b-InoculationBifurcation-9B-Python.ipynb (#19153), compare quatre echelles dont Qwen3.5-27B, sur les memes 5 jeux et les memes metriques. Controle ai-01 : 39 cellules, 15 de code, toutes executees ; la cellule 26 porte la table a quatre echelles avec 27B (KL 11,94). Le body de #18788 cite l'artefact publie (3150 Mo, empreinte) et le cout de lecture mesure. Les trois criteres sont tenus.

  6. removed
    candidate-deliveredReferenced by a merged PR with no post-merge activity -- candidate for close triage (#10466)
    on Oct 5, 2026
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions