Skip to content

Argumentation-08-Capstone : la baseline 0-shot est une chaîne en dur et les « 3 méthodes indépendantes » partagent leurs mots-clés #18394

Description

@jsboige

Fille de #18390.

Constat

Notebook MyIA.AI.Notebooks/SymbolicAI/Argument_Analysis/Argumentation-08-Capstone-Python.ipynb.

  1. La « baseline 0-shot » est une chaîne en dur. Cellule 97289e58 : baseline_synthesis() renvoie un texte écrit à la main (« Une analyse plus approfondie est nécessaire. », « A determiner. ») et fixe populated_fields = 1. Aucun modèle n'est appelé. La section 6, « Baseline 0-shot vs pipeline intégral », compare donc le pipeline à un épouvantail construit pour échouer aux value-gates. La comparaison ne peut pas tourner en défaveur du pipeline. Or c'est la question qu'un capstone doit poser : que gagne-t-on à orchestrer des agents, par rapport à un seul appel au même modèle ?

  2. Les « trois méthodes indépendantes » partagent leurs mots. Cellules 24b738c5, 630e174d et e45123b8 :

    • "certaine" figure dans les trois listes (M1 appel_peur, M2 CLAIM_WORDS, M3 ABSOLUTISM_MARKERS) ;
    • "tout le monde" figure dans M1 et M3.

    Une phrase qui contient « certaine » reçoit donc par construction un verdict convergent de force 3. C'est un mot compté trois fois, pas trois perspectives qui se recoupent. La section 4 présente pourtant la force de convergence comme « un indicateur de confiance » qui « ne dépend pas d'une seule heuristique ».

  3. Les lexiques sont taillés sur le texte de test. Par exemple "directeur", "valide cette", "semer le trouble", "comprennent rien" : ces déclencheurs épousent les phrases qu'ils détectent. Aucun texte hors échantillon n'est essayé.

  4. Le notebook déclare « Ne fait pas : appel LLM […], réseau d'agents semantic_kernel (rung 3 couvre l'orchestration) ». Le rung 3 ne la couvre pas (Argumentation-07-Orchestration : agents = 3 fonctions, PM = chaîne de if — orchestrer de vrais agents (AgentGroupChat de la shim, DelegatingSelectionStrategy) #18393). Le capstone de la série ne contient donc aucun agent.

Ce que fait le tronc EPITA (à promouvoir)

Cause racine

Le capstone distille fidèlement les contrats du tronc (value-gates, forme de ConvergentVerdict), mais les alimente avec des producteurs jouets. Un contrat de convergence ne vaut que par l'indépendance de ses sources, et une value-gate ne vaut que si elle peut échouer sur le pipeline. Ici aucune des deux conditions ne tient.

Portée proposée (à arbitrer)

  1. Baseline 0-shot réelle : un appel au modèle du .env sur le texte synthétique, réponse affichée en entier, puis passée aux mêmes value-gates que le pipeline. Si la baseline passe une gate, le notebook doit le montrer.
  2. Producteurs agentiques : les findings de convergence viennent des rungs 02 (entonnoir), 05 (texte → PL → Tweety) et 07 (orchestration), et non de trois lexiques. À défaut, garder M1-M3 mais dédupliquer les déclencheurs entre méthodes et renommer la section : « trois lectures lexicales », pas « trois méthodes indépendantes ».
  3. Un texte hors échantillon où les lexiques ne déclenchent rien, pour montrer ce que l'agent trouve quand la table est muette.
  4. Coût : 1 appel pour la baseline, plus le pipeline des rungs précédents sur un seul texte court. Le total d'appels est imprimé.

Vérification

  • La baseline affichée est une sortie de modèle (identifiant du modèle et longueur imprimés), pas un littéral de la cellule.
  • Aucun déclencheur n'est partagé par deux méthodes comptées comme « indépendantes ». Un assert sur l'intersection des listes suffit.
  • Sur le texte hors échantillon, au moins un finding vient d'un agent là où M1-M3 rendent 0.

Liens

Activity

  1. jsboige commented on Sep 29, 2026

    @jsboige
    OwnerAuthor

    [CLAIMED] lane myia-po-2023:CoursIA — Argumentation-08-Capstone : dedupliquer les declencheurs partages entre M1/M2/M3, renommer la section en « trois lectures lexicales », ajouter l'assert sur l'intersection et un texte hors echantillon ou les lexiques sont muets (volet deterministe du point 2 + point 3 ; le volet baseline LLM du point 1 est declare residuel, Ollama injoignable sur cette machine).

  2. jsboige commented on Sep 29, 2026

    @jsboige
    OwnerAuthor

    [DELIVERED] lane myia-po-2023:CoursIA — PR #18510 (livraison partielle)

    Livré : le volet deterministe du point 2 par le repli que ce body nomme lui-meme (« à défaut, garder M1-M3 mais dédupliquer les déclencheurs et renommer la section »), plus la moitié lexicale du point 3.

    Une troisieme forme de partage, que ce body ne nomme pas. Le constat mesure l'intersection (certaine dans les trois listes, tout le monde dans deux). Le balayage a trouvé un cas que l'intersection laisse passer : tous les (M3) est une sous-chaine de tous les autres (M1). Deux lectures se declenchaient donc ensemble sur le meme mot alors que les ensembles restaient disjoints. La garde ajoutee teste les deux formes — egalite et containment — la seconde etant la condition que le repli de la verification (« un assert sur l'intersection des listes suffit ») ne suffit pas a couvrir.

    Effet mesure, texte de reference : 5 verdicts convergents / force max 3 deviennent 3 verdicts / force max 2. S6 descend de 3 a 2 (sa force 3 venait d'un seul mot compte trois fois) ; S2 et S7 quittent le jeu convergent, leurs deux « lectures » etant le meme mot. Aucun declencheur n'est retire du texte : la revendication est corrigee, pas la detection.

    Hors echantillon (§4bis) : trois phrases portant deux sophismes lisibles par un humain rendent 0 finding sur les trois lectures, avec un assert qui echoue si un declencheur s'allume. La mesure rend le trou visible ; elle ne le comble pas.

    Residuels declares, non traites :

    See #18510 — l'issue reste ouverte : les points 1 et 3-agent lui appartiennent encore.

    po-2023

  3. added a commit that references this issue on Sep 30, 2026
  4. added
    candidate-deliveredReferenced by a merged PR with no post-merge activity -- candidate for close triage (#10466)
    on Oct 1, 2026
  5. jsboige commented on Oct 1, 2026

    @jsboige
    OwnerAuthor

    Grain: DEEP/notebook-python — lane myia-po-2024:CoursIA — prev: DEEP/training #18650

    [CLAIMED] lane myia-po-2024:CoursIA -- fix(notebook,#18394): baseline 0-shot réelle (appel modèle via .env, réponse intégrale, mêmes value-gates) + déduplication des déclencheurs M1-M3 + texte hors échantillon -- paths: MyIA.AI.Notebooks/SymbolicAI/Argument_Analysis/Argumentation-08-Capstone-Python.ipynb, MyIA.AI.Notebooks/SymbolicAI/Argument_Analysis/argumentation_lib/**

    Voie prise (portée « à arbitrer » de l'issue, interprétation consignée) : le repli explicite point 2 (dédup + renommage « trois lectures lexicales ») — les producteurs agentiques complets (rungs 02/07) dépendent de #18391/#18393, toutes deux gelées par la PR ouverte #18614 qui touche ces carnets. La baseline réelle et le texte hors échantillon sont livrés ce cycle ; le branchement des rungs restera un résiduel nommé si les gelées ne sont pas mergées.

  6. jsboige commented on Oct 1, 2026

    @jsboige
    OwnerAuthor

    [CLAIMED-AMEND] lane myia-po-2024:CoursIA -- paths: MyIA.AI.Notebooks/SymbolicAI/Argument_Analysis/Argumentation-08-Capstone-Python.ipynb

    Amend : le glob initial argumentation_lib/** chevauchait la PR ouverte #18644 (po-2023:CoursIA touche _shared_state.py et _state_manager_plugin.py). Le scope est restreint au notebook seul — l'appel LLM de la baseline vivra dans une cellule du carnet, aucun fichier de la lib n'est édité. #18644 reste seule sur ses fichiers.

  7. jsboige commented on Oct 2, 2026

    @jsboige
    OwnerAuthor

    [DELIVERED] lane myia-po-2024:CoursIA -- paths: MyIA.AI.Notebooks/SymbolicAI/Argument_Analysis/Argumentation-08-Capstone-Python.ipynb -- fix(notebook,#18394): points 1, 3 et 5 livres en PR #18779

  8. added a commit that references this issue on Oct 2, 2026
  9. removed
    candidate-deliveredReferenced by a merged PR with no post-merge activity -- candidate for close triage (#10466)
    on Oct 2, 2026
  10. added 3 commits that reference this issue on Oct 2, 2026
  11. added a commit that references this issue on Oct 3, 2026
  12. added
    candidate-deliveredReferenced by a merged PR with no post-merge activity -- candidate for close triage (#10466)
    on Oct 3, 2026
  13. myia-ai-01 commented on Oct 5, 2026

    @myia-ai-01
    Collaborator

    Fermeture (coordinateur, consolidation de l'urne candidate-delivered, lot 10). Les quatre points de la portée proposée sont tenus.

    Le branchement complet des rungs 02 et 07 serait un enrichissement au-delà de ce que l'issue demandait. Si une lane le veut, il s'ouvre comme un grain neuf.

    🤖 Generated with Claude Code

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Labels

    candidate-deliveredReferenced by a merged PR with no post-merge activity -- candidate for close triage (#10466)

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions