Skip to content

H04-bis (P2) -- EMB-03 ex.2 : normaliser la perte par terme ne rend pas comparables des K différents (complément à #15677) #18738

Description

@jsboige

Parent : #18731. Complément à #15677 (fermée le 2026-09-12). Section 4.1 de l'Audit tiers Astra du 2026-10-01, archivé sur GDrive : MyIA/IA/LLMs/Conversations/CoursIA/Audit-CoursIA-Evolution-Digestion-2026-10-01.md (preuves : CoursIA-Audit-Preuves-2026-10-01.zip).

Reassessed by myia-ai-01 : CONFIRMED pedagogy, re-vérifié au source sur c2cd88cb7f.

Ce que #15677 a corrigé, et ce qui reste

MyIA.AI.Notebooks/GenAI/RAG-et-Memoire-Semantique/03-Embeddings-From-Scratch.ipynb, exercice 2 (markdown e59511aa c28, stub 6fe5ede8 c29) : la perte est maintenant divisée par 1 + K. C'est juste contre le simple facteur d'échelle.

Mais les problèmes statistiques restent différents quand K change, parce que la proportion positif/négatif change. Prenons un classifieur constant, sans aucune information : sa probabilité optimale est 1/(1+K), et sa perte moyenne par terme vaut 0,6365 à K=2, 0,4506 à K=5 et 0,3046 à K=10 (calcul de l'auditeur, probes.json). Le score « s'améliore » donc avec K sans aucune représentation plus informative. L'énoncé actuel invite à comparer entrainer_exo(30, 2), (50, 5) et (100, 10) sur cette perte.

Acceptation

  • Comparer à K fixe, ou évaluer tous les embeddings sur un même jeu de paires tenu à part, avec la même distribution.
  • Garder la perte d'entraînement pour diagnostiquer la convergence, sans en déduire seule la qualité relative.
  • Afficher la ligne de base « classifieur constant » pour chaque K comparé.

Cellules modifiées re-exécutées (C.2).

Activity

  1. added
    auditAutomated quality audit findings
    pedagogical:broken-to-fixReal bug or regression that needs fixing — not intentional
    on Oct 1, 2026
  2. jsboige commented on Oct 1, 2026

    @jsboige
    OwnerAuthor

    [CLAIMED] lane myia-po-2023:CoursIA-2 -- paths: MyIA.AI.Notebooks/GenAI/RAG-et-Memoire-Semantique/** -- Grain : corriger EMB-03 ex.2 (perte normalisée par 1+K non comparable entre K).

  3. added a commit that references this issue on Oct 1, 2026
  4. jsboige commented on Oct 1, 2026

    @jsboige
    OwnerAuthor

    [CLAIMED] lane myia-po-2027:CoursIA -- Fix EMB-03 ex.2 K-comparability wording (H04-bis, audit-reassessment CONFIRMED)

  5. jsboige commented on Oct 2, 2026

    @jsboige
    OwnerAuthor

    [CLAIMED] #18738 — lane myia-po-2026:CoursIA-2 — c.1374-r13 — fix GenAI EMB-03 ex.2 normaliser perte par terme (CPU-only — embeddings pairs, K=2..10)

  6. added a commit that references this issue on Oct 2, 2026
  7. added 2 commits that reference this issue on Oct 4, 2026
  8. myia-ai-01 commented on Oct 5, 2026

    @myia-ai-01
    Collaborator

    Clôture — critères vérifiés sur main (90b2be6).

    Critères : comparer à K fixe ou sur un même jeu tenu à part ; garder la perte d'entraînement comme diagnostic de convergence ; afficher la ligne de base « classifieur constant » pour chaque K.

    Livré par #18756 (fusionnée le 2026-10-04, commit 46fa3dc) et complété par #18891 (fusionnée le 2026-10-04, commit f9b1966). Dans 03-Embeddings-From-Scratch.ipynb :

    • la cellule 6fe5ede8 définit baseline_constant(K) et rend 0,6365, 0,4506 et 0,3046 pour K = 2, 5 et 10 ;
    • la cellule e59511aa énonce les trois écueils et les deux protocoles (K fixe, ou D fixe avec la ligne de base).
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Labels

    auditAutomated quality audit findingsgenaipedagogical:broken-to-fixReal bug or regression that needs fixing — not intentional

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions