Skip to content

Fix(notebook,#17040): consolider deux paires de lectures consecutives (Texte/17) #22189

New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

Sign up for GitHub

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

Closed
jsboige wants to merge 1 commit into from
Closed

Fix(notebook,#17040): consolider deux paires de lectures consecutives (Texte/17) #22189

Changes from all commits
Commits
Show all changes
1 commit
Select commit
File filter

Filter by extension

Filter by extension
Conversations
Failed to load comments.
Loading
Jump to
Jump to file
Failed to load files.
Loading
Diff view
Diff view
22 changes: 5 additions & 17 deletions MyIA.AI.Notebooks/GenAI/Texte/17_Native_Reasoning_vs_Scaling.ipynb
View file
Open in desktop
Original file line number Diff line number Diff line change
Expand Up @@ -232,14 +232,7 @@
"cell_type": "markdown",
"metadata": {},
"source": [
"**Lecture** : Pour un même énoncé, les deux modèles répondent `391` — mais `llama-3.3-70b-instruct` y consomme 31 tokens (dont 0 de raisonnement), tandis que `deepseek-r1` utilise 853 tokens dont 531 pour le raisonnement interne. Cela illustre le surcoût en tokens du raisonnement natif par rapport à l'inférence directe."
]
},
{
"cell_type": "markdown",
"metadata": {},
"source": [
"**Lecture supplémentaire** : La comparaison des token counts entre les deux modèles est révélatrice. Le modèle `deepseek-r1` utilise 27,5 fois plus de tokens (853/31 ≈ 27,5) que `llama-3.3-70b-instruct` pour le même prompt, et 531 de ces 853 tokens sont dédiés au raisonnement interne. Cela démontre que le raisonnement natif implémente une approche de résolution de problème plus intensive en calcul, mais potentiellement plus robuste pour les tâches complexes."
"**Lecture** : Pour un même énoncé, les deux modèles répondent `391` — mais `llama-3.3-70b-instruct` y consomme 31 tokens (dont 0 de raisonnement), tandis que `deepseek-r1` utilise 853 tokens dont 531 pour le raisonnement interne, soit **27,5× plus de tokens** (853/31) pour la même réponse. Cela illustre le surcoût du raisonnement natif : une résolution plus intensive en calcul — potentiellement plus fiable sur les problèmes difficiles — et payée en tokens.\n"
]
},
{
Expand Down Expand Up @@ -552,14 +545,9 @@
"cell_type": "markdown",
"metadata": {},
"source": [
"**Lecture** : Le raisonnement natif avec `deepseek-r1` atteint 100% de réussite en single-shot pour tous les buckets (facile, moyen, difficile), avec respectivement 232, 553 et 1213 tokens totaux. Le ratio raisonnement/tokens totaux est élevé : 172/232 (74%) pour facile, 442/553 (80%) pour moyen, et 1094/1213 (90%) pour difficile, démontrant que le modèle utilise intensément le raisonnement pour les problèmes complexes."
]
},
{
"cell_type": "markdown",
"metadata": {},
"source": [
"**Lecture complémentaire** : La structure du coût par bucket est révélatrice — la part hors raisonnement (total moins reasoning) reste quasi stable : 60 tokens en facile (232-172), 111 en moyen (553-442), 119 en difficile (1213-1094) — alors que le budget de raisonnement passe de 172 à 1094 (x6,4) : l'escalier de coût 232 -> 553 -> 1213 est porté par le raisonnement, pas par l'énoncé ni la réponse."
"**Lecture** : Le raisonnement natif avec `deepseek-r1` atteint 100% de réussite en single-shot pour tous les buckets (facile, moyen, difficile), avec respectivement 232, 553 et 1213 tokens totaux. Le ratio raisonnement/tokens totaux est élevé : 172/232 (74%) pour facile, 442/553 (80%) pour moyen, et 1094/1213 (90%) pour difficile, démontrant que le modèle utilise intensément le raisonnement pour les problèmes complexes.\n",
"\n",
"**Et la structure du coût ?** La part hors raisonnement (total moins reasoning) reste quasi stable : 60 tokens en facile (232-172), 111 en moyen (553-442), 119 en difficile (1213-1094) — alors que le budget de raisonnement passe de 172 à 1094 (×6,4). L'escalier de coût 232 → 553 → 1213 est donc porté par le raisonnement, pas par l'énoncé ni par la réponse.\n"
]
},
{
Expand Down Expand Up @@ -1065,4 +1053,4 @@
},
"nbformat": 4,
"nbformat_minor": 5
}
}
Loading