Skip to content

Probas : exécuter la sélection du nombre de topics dans les twins LDA #13036

Description

@jsboigeEpita

Constat vérifié sur origin/main

Les twins LDA fixent le nombre de topics à partir de la structure connue du corpus et n'exécutent aucun protocole de choix de K :

  • MyIA.AI.Notebooks/Probas/Infer/Infer-11-Topic-Models.ipynb propose bien une cohérence UMass puis une grille K=2..6, mais les deux cellules exécutées restent des TODO et affichent « Exercice à compléter » ;
  • MyIA.AI.Notebooks/Probas/PyMC/PyMC-11-Topic-Models.ipynb fixe n_topics = 3 à la vérité génératrice, évalue surtout la récupération des topics connus et affirme en conclusion que K peut être sélectionné par cohérence ou critères prédictifs sans exécuter cette sélection.

Dans Infer-11, plusieurs visualisations ultérieures reposent en outre sur des distributions phi simulées ou un comptage par catégories connues, et non sur des topics appris pour des valeurs concurrentes de K. Aucun véhicule ouvert ne touche actuellement ces deux chemins.

Objectif pédagogique

Montrer qu'un modèle de topics ne fournit pas à lui seul son niveau de granularité : le nombre de topics doit faire l'objet d'un protocole mesuré, dont les métriques et l'interprétation peuvent diverger.

Critères d'acceptation

  • Construire un corpus reproductible comportant une structure thématique connue pour validation, des documents mixtes et au moins quelques mots partagés entre thèmes.
  • Ajuster réellement des modèles concurrents pour plusieurs valeurs de K, au minimum K=2..6, avec le vrai moteur de chaque twin.
  • Calculer sur les topics effectivement appris une cohérence documentée, sans utiliser une matrice phi simulée ni les étiquettes thématiques cachées pour construire les topics.
  • Ajouter une mesure prédictive ou de reconstruction hors échantillon adaptée au modèle, ou documenter précisément la limite du moteur si elle n'est pas disponible.
  • Afficher pour chaque K les top-mots et un indicateur de redondance ou de fragmentation des topics.
  • Comparer la sélection métrique à la vérité génératrice du corpus synthétique, puis expliciter les cas où le meilleur score ne donne pas l'interprétation la plus utile.
  • Distinguer clairement les résultats issus de l'inférence des démonstrations par comptage ou des paramètres générateurs connus.
  • Interpréter les résultats immédiatement après les sorties et conserver un verdict honnête si aucun K ne domine nettement.
  • Maintenir la parité pédagogique Infer.NET/PyMC sans exiger des valeurs numériques identiques entre VMP et NUTS.
  • Ré-exécuter intégralement les deux notebooks avec outputs réels, execution_count non nuls et zéro erreur volontaire.
  • Mettre à jour le registre twin canonique si les cellules partagées changent.

Hors scope

  • Benchmark de topic modeling sur un corpus massif.
  • Comparaison exhaustive de LDA, HDP, CTM et modèles neuronaux.
  • Évaluation humaine à grande échelle.

Activity

  1. added 3 commits that reference this issue on Aug 28, 2026
  2. added 10 commits that reference this issue on Aug 29, 2026
  3. added a commit that references this issue on Aug 29, 2026
  4. myia-po-2023 commented on Aug 29, 2026

    @myia-po-2023
    Collaborator

    [RELEASED] #13036 — myia-po-2023:CoursIA-2 — doublon-structurel c.667, substance LIVRÉE par #13091 (MERGED 17:03:26Z par jsboige). #13472 fermé, branche feature/13036-lda-topic-selection préservée (Tell c.10093 strict).

  5. added a commit that references this issue on Sep 2, 2026
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions