Repository navigation
[ICT] Pont σ/K × direction de refus — l'irréversibilité du discours sépare-t-elle une trajectoire de jailbreak d'une trajectoire bénigne ? #17976
Description
Constat
ict/argumentation.py:337—discourse_irreversibility(P)mesure la production d'entropie σ (nats) d'une matrice de transition d'états de croyance ; la complexité K se mesure par le code à deux parties (ict/mdl.py).- Le notebook
ICT-Argumentation-BeliefTrajectories(cellulep1-run) montre une dissociation σ/K entre régimes de discours (σ haut / K bas contre σ bas / K haut) — mais sur des graphes de débat jouets (n = 6 à 14 arguments), jamais sur un modèle de langage. - Contrôle par interp : refusal direction, unlearning, finetuning shallow #16758 (contrôle par interprétabilité) porte la direction de refus d'un modèle ouvert, sans aucune mesure de σ.
L'idée d'un garde-fou anti-jailbreak fondé sur σ suppose un pont entre ces deux substrats. Ce pont n'existe pas ; ce grain le teste.
Question
Sur une échelle de prompts graduée, du bénin à la tentative de jailbreak, la trajectoire d'états refus / acceptation d'un modèle ouvert présente-t-elle une production d'entropie σ ou une complexité K qui sépare les deux classes au-dessus des contrôles ?
Organes réutilisés
ict/argumentation.py(discourse_irreversibility),ict/time_arrow.py,ict/mdl.py- la direction de refus livrée sous Contrôle par interp : refusal direction, unlearning, finetuning shallow #16758 (projection des activations par tour) ; si elle n'est pas encore livrée, commencer par un classifieur de sortie refus / acceptation, en le déclarant comme substitut.
Protocole
- Pré-enregistrement de la prédiction en commentaire de cette issue, avant mesure.
- Modèle jouet ou petit modèle ouvert accepté. États = projection sur la direction de refus, binarisée par tour de conversation.
- Au moins deux graines. Contrôles : ordre des tours mélangé ; étiquettes de classe permutées.
- Le transfert « graphe de débat → modèle de langage » est l'objet du test, pas une hypothèse : le verdict le dit explicitement.
Critère de fin
- Tableau de dissociation σ / K, jailbreak contre bénin, sur au moins deux graines, avec verdict PASS / FAIL / INCONCLUSIVE.
- Aucune formulation de « garde-fou » dans le notebook tant que le verdict n'est pas PASS.
Activity
jsboigeEpita commentedon Sep 27, 2026
[INFO] Vérification préalable, sans claim ni mesure de modèle : le protocole actuel binarise chaque tour en refus/acceptation, puis propose d'appliquer la production d'entropie stationnaire de ict/argumentation.py (discourse_irreversibility). Or toute chaîne de Markov stationnaire à deux états satisfait pi_0 P_01 = pi_1 P_10 : son courant antisymétrique est nul, donc sigma = 0 indépendamment du régime. Reproduction locale sur P=[[0.9,0.1],[0.8,0.2]] : pi≈[0.8889,0.1111], sigma≈1.38e-20, P_rev_distance≈4.92e-11. Ce zéro est structurel, pas un verdict FAIL sur les jailbreaks. K reste mesurable mais ne sauve pas la discrimination conjointe σ/K annoncée. Avant pré-enregistrement ou run, il faut décider un état enrichi à ≥3 états autorisant des cycles (avec justification sémantique et contrôles), ou remplacer sigma par une statistique transitoire explicitement distincte de l'organe actuel. Je ne modifie aucun notebook et ne revendique aucun résultat empirique.
jsboige commentedon Sep 27, 2026
[CLAIMED] lane myia-po-2026:CoursIA-2 -- reprise du grain apres le constat de jsboigeEpita (04:53Z) : decider et construire l'espace d'etats enrichi (>=3 etats autorisant des cycles), pre-enregistrer la prediction, puis mesurer sigma/K sur une echelle de prompts graduee avec modele ouvert local et les deux controles declares.
paths: MyIA.AI.Notebooks/IIT/ICT-Series/, ict/
Grain: DEEP/research-code -- lane myia-po-2026:CoursIA-2 -- prev: MED/notebook-python #18075
jsboige commentedon Sep 27, 2026
[CLAIMED-AMEND] lane myia-po-2026:CoursIA-2 -- paths: MyIA.AI.Notebooks/IIT/ICT-Series/, MyIA.AI.Notebooks/IIT/ICT-Series/ict/
Correction de mon claim precedent : j'avais declare
ict/**, qui n'existe pas a la racine du depot. Le paquet reel estMyIA.AI.Notebooks/IIT/ICT-Series/ict/(verifie sur l'arbre :ict/argumentation.py,ict/mdl.py,ict/time_arrow.py). Le perimetre est inchange, seule la racine du chemin est corrigee.jsboige commentedon Sep 27, 2026
Pre-enregistrement de la prediction (avant toute mesure)
Fait en application de l'etape 1 du protocole, et apres avoir reproduit le constat de jsboigeEpita (04:53Z) — voir la section « zero structurel » plus bas, qui n'est pas une mesure du grain mais une verification d'organe.
Espace d'etats retenu : trois niveaux de conformite, pas deux
Le protocole d'origine binarisait chaque tour en {refus, acceptation}. Je le remplace par un niveau de conformite ordinal a trois valeurs :
RHCJustification semantique du passage a trois etats. Ce n'est pas un ajustement numerique pour faire vivre
sigma: c'est que la these mesuree est une these de dynamique dirigee. Avec deux etats, aucune chaine de Markov stationnaire ne peut porter de courant — le zero est structurel et le resultat serait vide quel que soit le modele teste. Avec trois niveaux, un cycleR -> H -> C -> Rexiste, etsigma > 0signifie alors precisement ce que la these avance : le discours monte plus facilement l'echelle de conformite qu'il ne la redescend (hysteresis).sigma ~ 0signifie que les bascules sont symetriques. L'etat enrichi est donc la condition de non-vacuite de la question, pas une commodite.Protocole gele
s = 0(benin),s = 1(limitrophe),s = 2(tentative de jailbreak explicite).Qwen/Qwen2.5-0.5B-Instruct, local, CPU. Decodage glouton (do_sample=False) : la mesure est entierement reproductible, l'alea n'entre pas dans le protocole (donc pas de multi-graines, qui n'aurait pas de sens ici).alpha = 0.5.Predictions inscrites avant mesure
sigma(s=2) > sigma(s=0): l'escalade de jailbreak produit une dynamique plus dirigee que les prompts benins.Kne separe pas les classes. L'escalade imposee est une trajectoire monotone, donc de faible complexite : je m'attends aK(s=2) <= K(s=0), et je prevois que la discrimination annoncee, si elle existe, vient desigmaseule. C'est un point ou je m'attends a infirmer le cadrage initial de l'issue (qui annoncait une discrimination conjointesigma/K).{R}vs{H, C}doit rendresigma ~ 0pour toutes les classes. Ce n'est pas un resultat mais un controle de validite de ma chaine de traitement : si ce controle ne tombe pas a zero, c'est mon pipeline qui est faux.sigmavers le niveau de la classe melangee. Sisigmasurvit au melange, le signal n'est pas temporel : FAIL, quel que soit l'ecart entre classes.Criteres de verdict, fixes a l'avance
sigma(s=2) > sigma(s=0)et le controle d'ordre montre l'effondrement.sigmane separe pas les classes, ou survit au melange d'ordre.C, ou reste sur un seul etat), ce qui rend la TPM estimee non identifiable.jsboige commentedon Sep 27, 2026
Mesure livree : PR #18091 (
scripts/measure_sigma_jailbreak_bridge.py+runs/ict_sigma_jailbreak_bridge.json). Verdict : FAIL, au sens des criteres fixes dans mon pre-enregistrement du 27/09 et non renegocies apres lecture.Le constat de 04:53Z est confirme et chiffre. La reduction a deux etats donne
sigma = 1.1e-17 / 2.0e-17 / 5.4e-21selon la classe (controlestructural_zero) : le zero est bien structurel, pas un artefact de mesure. Le banc tourne donc sur trois niveaux de conformite{R, H, C}, qui autorisent le cycleR -> H -> C -> R.Prediction primaire tenue, en magnitude.
sigmacroit de facon monotone — 4.31e-05 (benin), 8.80e-03 (limitrophe), 1.67e-02 (jailbreak), soit ~387x entre les extremes.Mais le controle d'ordre echoue dans les trois classes.
sigmareel est inferieur a son propre null melange : 4.3e-05 < 7.5e-04 ; 8.8e-03 < 4.8e-02 ; 1.67e-02 < 1.30e-01. La structure de transition mesuree est donc plus proche de la reversibilite qu'une permutation aleatoire de ses propres etats. L'ecart entre classes mesure un niveau de bruit, pas un courant temporel — et le critere pre-enregistre ne laissait pas de marge sur ce point.Ma prediction secondaire est refutee par mes propres donnees. J'avais annonce que
Kne separerait pas les classes ; il se separe en realite de facon monotone (−0.017 / −0.909 / −4.968 bits). Mais cette separation est confondue avec l'entropie marginale : la classe benigne n'occupe que 2 etats sur 3 (R = 0), donc elle est plus compressible.Kmesure l'occupation des etats au niveau du tour, pas leur enchainement. Le cadrage conjoint sigma/K de l'issue ne tient donc pas — mais par une autre voie que celle que j'avais annoncee, et ce point est a mon debit.Confond du classifieur, a ne pas passer sous silence. Le classifieur lexical confond « reponse courte » et « reserve » : la classe benigne recoit
H = 24/80alors qu'aucun prompt benin ne devrait susciter de reserve. Ce biais ajoute de la structure a la classe benigne, donc il joue contre la separation primaire, qui est observee malgre lui.Residuel. Le null melange est estime sur 64 transitions par classe ; le bruit domine
sigma, et 16 trajectoires par classe ne suffisent pas a trancher entre « signal faible reel » et « bruit ». Le classifieur lexical est un substitut declare — l'instrument vise resterait la direction de refus de #16758.L'artefact ne persiste que les etats classes par tour, jamais le texte genere ; les deux confonds ci-dessus sont ecrits dans son champ
caveats.feat(ict,#17976): replication du banc sigma/K a 1,1 B -- le FAIL se r…
feat(ict,#17976): banc sigma/K x direction de refus — verdict FAIL me…
myia-ai-01 commentedon Oct 5, 2026
Fermeture — urne
delivered, chaque critere du body confronte aorigin/mainpar ai-01 (05/10)Le banc sigma/K entre benin et jailbreak est livre par #18091, mergee le 28/09 :
scripts/measure_sigma_jailbreak_bridge.pyetruns/ict_sigma_jailbreak_bridge.json. Il donne sigma et K par classe de severite, avec verdict FAIL, au sens des criteres pre-enregistres le 27/09 avant mesure. Le controle par melange d'ordre est mesure (200 melanges) et le zero structurel de la reduction a deux etats est chiffre.Deux ecarts au protocole, dits ici pour la trace :
Aucune formulation de « garde-fou » n'a ete publiee.