Хаб курсов
Практические курсы с runnable-кодом: каждый пример запускается локально, качество измеряется метриками, исходники лежат в открытом репозитории.
Курс по RAG
v1.2.0RAG Engineering: 12 глав от вопроса «нужен ли вам RAG» до production-сервиса с цитатами, eval в CI и MCP-сервером базы знаний. Весь код запускается оффлайн на чистом Python.
- Модуль 00: нужен ли тебе RAG и ландшафт стеков
- Модуль 01: мини-RAG руками, без фреймворков
- Модуль 02: векторные БД, Qdrant и pgvector
- Модуль 03: чанкинг и золотой набор для eval
- Модуль 04: гибридный поиск, BM25, dense и RRF
- Модуль 05: реранкинг cross-encoder поверх гибрида
- Модуль 06: оценка качества и eval в CI
- Модуль 07: паттерны HyDE, multi-hop, CRAG, GraphRAG
- Модуль 08: agentic RAG и MCP-сервер базы знаний
- Модуль 09: production-сервис на FastAPI
- Модуль 10: федеративный RAG, поиск по многим источникам
- Финальный проект: production-ready RAG с цитатами
LLM Inference Systems
v1.0.0LLM Inference Systems: 18 глав от matmul до собственного мини-движка инференса с paged KV-кэшем, continuous batching и W4-квантованием. Ядро — tiny-llm, расширения — CUDA, llama.cpp и vLLM.
- Модуль 00: Нужен ли тебе свой движок инференса и ландшафт путей
- Модуль 01: От matmul к тексту: тензоры и базовые операторы
- Модуль 02: Attention, RoPE и GQA
- Модуль 03: Автогрессивный цикл и сэмплирование
- Модуль 04: KV-кэш и арифметика памяти
- Модуль 05: Квантование весов: W4 и GGUF
- Модуль 06: Кернелы: SIMD-матмул и tiled prefill
- Модуль 07: Fused-операторы и FlashAttention
- Модуль 08: Continuous batching и чанкерная префилла
- Модуль 09: PagedAttention: пейджинг KV-кэша
- Модуль 10: Дистрибуция и спекулятивный декодинг
- Модуль 11: Прод-сервинг: метрики и движки
- Модуль 12: Финальный проект: мини-движок инференса
- Модуль 13: KV-хэндофф: передача кеша между моделями и узлами
- Модуль 14: Разреженное внимание и длинный контекст
- Модуль 15: Самоспекулятивный декодинг: драфтер внутри модели
- Модуль 16: Как не обмануться числом: методология замера
- Модуль 17: Unified memory и гибридные ноды: четвёртый путь инференса