Skip to content
Merged
Show file tree
Hide file tree
Changes from all commits
Commits
File filter

Filter by extension

Filter by extension

Conversations
Failed to load comments.
Loading
Jump to
Jump to file
Failed to load files.
Loading
Diff view
Diff view
Original file line number Diff line number Diff line change
Expand Up @@ -16,6 +16,7 @@
"source": [
"# Embeddings from scratch — word2vec skip-gram, la géométrie avant l'API\n",
"\n",
"[← 02 — Retrieval avancé](02-Retrieval-Avance.ipynb) · [03b — Espace des embeddings →](03b-Espace-Embeddings-Visualisation.ipynb) · [Sommaire de la série](README.md)\n",
"Les embeddings sont le carburant du RAG : c'est *sous leur forme vectorielle* qu'on retrouve un document par le sens, pas par les mots-clés. Les notebooks de la série les **consomment** (`01-Hands-On-Grounding`) ou les **mesurent** ; celui-ci les **construit**. L'objectif est de répondre à une question simple : *qu'est-ce qu'un embedding, physiquement ?*\n",
"\n",
"On part d'un mini-corpus français, on **compte** (co-occurrences, PMI), puis on entraîne à la main un **skip-gram avec échantillonnage négatif** (word2vec) en NumPy pur. On regarde la **géométrie** qui émerge — les mots aux contextes semblables se rapprochent — puis on est honnête sur ses limites, et on **compare** enfin avec un vrai **transformer contextuel** (le même type de modèle que le service d'embeddings de la série). La boucle *from-scratch → outil réel* est ainsi refermée sur notre propre stack.\n",
Expand Down Expand Up @@ -1964,6 +1965,7 @@
"source": [
"## Pour aller plus loin\n",
"\n",
"- **[`03b-Espace-Embeddings-Visualisation.ipynb`](03b-Espace-Embeddings-Visualisation.ipynb)** — voit l'espace construit ici : PCA à la main et t-SNE pour projeter les embeddings en deux axes, et un banc de trois modèles comparés sur un même corpus français.\n",
"- **[`04-Tokenisation-From-Scratch.ipynb`](04-Tokenisation-From-Scratch.ipynb)** — construit l'unité de compte qui précède l'embedding et détermine le coût des chunks.\n",
"- **[`05-Stockage-Vectoriel.ipynb`](05-Stockage-Vectoriel.ipynb)** — consomme les embeddings dans un stockage vectoriel local : c'est la suite aval directe de ce notebook.\n",
"- **[`01-Hands-On-Grounding.ipynb`](01-Hands-On-Grounding.ipynb)** — le même type de plongement, branché sur Qdrant (recherche par le sens).\n",
Expand Down
Loading
Loading