Skip to content

Evaluer l'onboarding Kimi comme lane forfait : boucher les trous de GLM a cout plat (PAYG DeepSeek a ~300 EUR/mois) #107

Description

@jsboige

Contexte

Annonce user du 14/09 soir :

  • 95 % du crédit Anthropic hebdo — mur attendu ce soir ; OpenAI prendra la suite, seconde saturation attendue d'ici jeudi avant le retour d'Anthropic.
  • DeepSeek PAYG à ~300 €/mois et en hausse.
  • Piste à évaluer : un abonnement Kimi, leur gros modèle étant « à peu près du niveau de GLM 5.3 » (appréciation user).

Cette issue porte l'évaluation d'opportunité. Elle ne décide rien — elle fixe les critères, les données disponibles et les manquantes.

Ce que la mesure dit déjà (14/09, corpus hub)

La facture DeepSeek n'est pas un accident, c'est une structure :

  • deepseek-flash = 10 201 resp sur la journée — la plus grosse lane du hub (les natives Anthropic : 718 sur la même fenêtre).
  • Motif horaire en balancier avec glm-5.3 : deepseek h04 (2 240) quand glm à 242 · glm h06 (527) · deepseek h07-09 (3 027) quand glm à ~0 · glm h10-12 (2 009) · deepseek h13-14 (2 633) · glm h15-17.
  • Lecture : GLM a une fenêtre glissante ~5 h (elle meurt et renaît), et le PAYG DeepSeek bouche les trous — comportement par design de la cascade (docs/reference/budget-failover.md).

⇒ La question d'opportunité se formule exactement : boucher les trous de GLM à coût plat (forfait) plutôt qu'au token (PAYG).

Ce qui existe déjà côté claudish

L'intégration Kimi n'est pas à écrire de zéro :

  • Raccourci de routage kimi@ (table docs/settings-reference.md §5.2).
  • Parser de flux anthropic-sse (MiniMax/Kimi direct) — handlers/shared/stream-parsers/.
  • Contrat reasoning_content connu : Kimi K2.5 l'exige à partir du tour 2 (omitReasoningContent, incident 2026-08-20 — docs/reference/proxy-pipeline-notes.md).
  • Un ~/.claudish/kimi-device-id existe sur ai-01 — ligne de vie d'un branchement antérieur.

À vérifier : entrée PROVIDER_PROFILES le cas échéant, catalogue modèles, position dans les cascades CLAUDISH_FAILOVER_<ROLE>, rollout flotte (6 machines), claudish --probe.

Critères de décision

  1. Coût : prix du forfait vs dépense PAYG mesurée sur les trous (~300 €/mois, en hausse). Break-even au chiffre user — la donnée manquante est le prix et la structure de plafond Kimi (mensuel fixe ? fenêtre glissante ? par modèle ?).
  2. Qualité : parité annoncée ≈ GLM 5.3. À vérifier par probe + side-by-side sur trafic réel.
  3. Couverture des trous — le différenciateur : si Kimi a une limite glissante qui meurt en même temps que GLM, il ne remplace pas DeepSeek dans les trous. Question prioritaire.
  4. Absorption : les trous montent à ~2 200 resp/h (h04) — tenir les rate-limits Kimi face à ce burst.
  5. Position de cascade : kimi@ en remplisseur de trous avant le PAYG DeepSeek (le PAYG devenant dernier recours), ou en redondance selon les plafonds.

Non-goal explicite

Un forfait ne borne pas la demande : la boucle sans condition d'arrêt remplira Kimi comme elle remplit DeepSeek. Le levier n°1 reste la borne (jsboige/CoursIA#16174 mergé ; borne de cycle = chantier suivant). Cette issue est le volet offre du problème, pas son substitut.

Données disponibles / manquantes

Disponible Manquant
Volume des trous (10 201 resp/j, motif balancier horaire) Prix + structure de plafond Kimi
Facture PAYG (~300 €/mois, user) Endpoints exacts du forfait (compat anthropic ? openai ?)
Parité annoncée ≈ GLM 5.3 (user) Mesure side-by-side qualité
Points d'intégration existants (parser, raccourci, contrat reasoning) Rate-limits en burst

Prochaines étapes proposées

  1. User : prix + structure de plafond Kimi — la donnée qui débloque le break-even.
  2. Si plausible : probe qualité + burst sur une machine (ai-01), sans rollout.
  3. Décision de cascade + rollout flotte gated (6 machines), solidaire du protocole de bascule existant.
  4. Mesure d'attribution de la lane deepseek par session (claudish, en corpus) — quelle part des trous est la boucle vs le trafic légitime.

Activity

  1. myia-ai-01 commented on Sep 17, 2026

    @myia-ai-01

    Statut au 17/09 15:5xZ (ai-01, corpus hub) : le reorder k3-avant-qwen/flash est LIVE depuis le déploiement 02:14Z (image 905b12) mais n'a pas été mis à l'épreuve aujourd'hui — glm-5.3 n'a pas muré hors fenêtre incident (267-961/h régulier) et k3 comme deepseek-flash affichent 0 resp sur la journée. Le seul effondrement glm-5.3 (h14, 1 resp/h) est l'incident #132 (cascades vidées), pas un mur — donc indépendant de cette évaluation. La structure du problème est désormais quantifiée : corrélation versée sur #116 aujourd'hui (murs 1308 ↔ deepseek-flash +0,697 ; 98,5 % du PAYG arrive pendant les murs GLM, 49 507 vs 732 resp/h) — le « trou à boucher à coût plat » vaut ~50 k resp/j en pic de mur. Ce qui manque pour le break-even reste la donnée user (point 1) : prix + structure de plafond Kimi (mensuel fixe ? fenêtre glissante ? — le différenciateur du critère 3 : si Kimi meurt en même temps que GLM, il ne bouche pas les trous). Question ajoutée au registre des questions ouvertes ai-01 (entrée #20). Prochaine mesure possible sans donnée user : au prochain mur GLM réel (hors incident), ventiler h-par-h k3/qwen/ds — l'observable est armé par le corpus, aucune action requise.

  2. jsboige commented on Sep 19, 2026

    @jsboige
    OwnerAuthor

    Évaluation mesurée (po-2025, relayée par ai-01 — leur siège gh est bloqué par un flag IP)

    Corpus : hub, lane-series.sqlite (17-19/09 ré-ingérés) + extraction captures-2026-09-17.7z pour les tokens. Réponses et tokens mesurés, aucune extrapolation.

    1. La prémisse de l'issue (~300 €/mois de PAYG) était une structure du 14/09, plus celle d'aujourd'hui

    • 2 heures-trous GLM en 57 h (GLM < 5 % du trafic horaire) : 17/09 17:00→19:00Z, puis plus rien. GLM-5.3 a porté 35 374 réponses sur la fenêtre.
    • deepseek-flash PAYG : 3 266 resp / 2,5 j (~1 300/j) contre 10 201/j le 14/09 ⇒ ~8× moins, et 89 % de ce volume est concentré dans les 2 heures de trou. Le PAYG d'aujourd'hui est exclusivement un phénomène de trou.

    2. Pendant le trou (17/09 h17-h18Z) — qui a servi quoi

    Lane resp OUT IN cache_read
    deepseek-flash (PAYG) 2 912 2,99 M 8,79 M 480 M
    k3 (forfait Kimi) 1 829 0,52 M 7,09 M 224 M
    MiniMax-M3 (haiku nominal) 795 — — —
    qwen-token-plan (forfait) 130 — — —

    La dynamique horaire est le résultat central : h17 k3 = 1 191 vs PAYG = 1 222 (le forfait tient ~la moitié) → h18 k3 = 638 vs PAYG = 1 690 (le forfait s'effondre à 27 % pendant que le PAYG double) → h19 GLM revient.

    C'est la réponse empirique au critère 3 de l'issue : le mur Kimi ne coïncide pas avec celui de GLM à l'horloge — k3 servait bien au début du trou — mais le bucket forfait se vide sous charge de trou. Conclusion : un forfait diffère le PAYG, il ne le remplace pas, ce qui est exactement le non-goal écrit ici (« un forfait ne borne pas la demande »).

    3. Position de cascade — aucune modification recommandée

    k3 est déjà en position 3 sonnet (glm-5.3 > qwen-TP > kc@k3 > ds@) et la mesure valide cette position : k3 ne sert que si glm et qwen-TP sont murés, c'est-à-dire des épisodes courts et dégradés. Le défaut d'écho de K3 se propage par compaction en sessions longues, ce qu'un trou de 1-2 h n'offre pas. Remonter k3 exposerait le trafic courant à un défaut connu pour économiser un PAYG devenu rare — non recommandé. Kimi 2.8 (haiku, derrière k3) : 3 resp en 2 jours, jamais atteint — redondance passive, mur 5 h partagé avec k3 : inutile d'empiler un 2ᵉ bucket Kimi derrière le premier.

    4. Ce qui reste à arbitrer (user, pas agent)

    Le break-even tient en une phrase mesurée : un trou-type coûte 2,99 M OUT + 8,79 M IN en PAYG sur 2 h, et k3 en absorbe ~15 % du volume OUT avant de vider son bucket. À ~2 h de trou / 57 h (≈0,8/j au rythme actuel — ne pas extrapoler au-delà, règle « le PAYG est le trop-plein, pas la dépense », arbitrage user 16/09), la donnée manquante est le prix/structure du forfait Kimi, qui n'est pas mesurable depuis la flotte.

    Le levier n°1 reste la borne (non-goal de l'issue ; CoursIA#16174 mergé), pas l'ajout d'un forfait.

    Note de méthode du coordinateur : cette évaluation était explicitement cadrée « mesuré, pas estimé », et elle rend un résultat qui contredit la prémisse de l'issue (300 €/mois). C'est le bon usage d'un grain d'évaluation : il pouvait conclure « ne rien faire », et il l'a fait, chiffres à l'appui — aucun geste de cascade n'a été proposé ni exécuté.

    🤖 Generated with Claude Code

  3. jsboige commented on Sep 22, 2026

    @jsboige
    OwnerAuthor

    The missing datum is in — Kimi is capped per 5h window AND per week, and both are reached quickly (user, 2026-09-23)

    This was the one blocking input of criterion 1 (structure of the Kimi cap). Consequences, reasoned from the structure; the last point says what still needs measuring:

    1. Kimi is a bounded buffer, not a floor. Its 5h window has the same shape as GLM's rolling window, so under a sustained load peak the two tend to be walled together — exactly when the hole needs filling. The weekly cap then ends it for the rest of the week. DeepSeek PAYG stays the only unbounded backstop: Kimi can reduce PAYG spend, not replace it.
    2. One wall, two steps. K3 and kimi-for-coding sit on the same subscription (2026-09-18 note). The live Haiku cascade starts kc@k3 > kc@kimi-for-coding > …: when step 0 walls on the shared window, step 1 is walled by the same event, so it adds a failed hop rather than coverage. Worth a look by the hub owner (reorder, or collapse to one step).
    3. What would close this issue: from the hub corpus, responses served by the Kimi steps per 5h window and per week before the first wall marker, set against DeepSeek PAYG responses in the same windows. That turns "reached quickly" into the number the break-even needs.

    — myia-ai-01:claudish (coordinator)

  4. myia-ai-01 commented on Oct 5, 2026

    @myia-ai-01

    Parquée explicitement (coordinateur ai-01, 05/10). La question d'opportunité est tranchée de fait : Kimi tourne en production comme marche de cascade (kc@kimi-for-coding, en tête de la cascade haiku et dans celle de sonnet). Reste la mesure annoncée au dernier commentaire (la fréquence réelle des murs Kimi 5 h et hebdomadaires sous charge). Elle n'est pas reconstituable aujourd'hui : les refus intermédiaires de cascade ne laissent aucune capture, et les lignes [Failover] meurent à chaque recreate (#331 Q2). Elle le deviendra avec le collecteur durable #347. Reprise quand #347 aura une semaine de données.

    🤖 Generated with Claude Code

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions