Темы курса
- Продвинутая часть
- Практика и тренировки
- Гайды и шпаргалки
- Тесты и экзамены
- Экосистема и инструменты
Уровни
- PyTorch vs TensorFlow/Keras: фундаментальные различия графов вычислений (Static vs Eager), экосистемные стандарты индустрии. 20 мин
- Кастомные слои и слои без весов: наследование от tf.keras.layers.Layer, методы build() и call(). 19 мин
- Нейрон — искусственный нейрон: веса, смещение, функция активации, перцептрон 65 мин
- Читлисты и справочники по архитектурам нейросетей 1 мин
- Диагностика градиентов: отлов NaN / Inf в логах, детектирование взрыва (Exploding) и затухания (Vanishing) градиентов, градиентный клиппинг. 30 мин
- Подготовка датасетов через tf.data и DataLoader: генераторы, prefetch(), cache(), распараллеливание загрузки с диска без простоя GPU. 19 мин
- Нейросети и их связь с ИИ 55 мин
- Борьба с дисбалансом классов: Focal Loss, Class Weights, оверсэмплинг (SMOTE) против ложной точности (Accuracy Paradox) 30 мин
- Кастомные функции потерь и метрики: создание Stateful/Stateless метрик через наследование tf.keras.metrics.Metric. 21 мин
- Трекинг экспериментов (MLflow / Weights & Biases): логирование гиперпараметров, артефактов, кривых обучения и реестр моделей (Model Registry). 23 мин
- Кастомный цикл обучения (Custom Training Loop): управление градиентами через tf.GradientTape, градиентный спуск вручную 21 мин
- Принцип работы современных ИИ-систем 60 мин
- Версионирование данных (DVC): версионирование датасетов и весов в связке с Git без раздувания репозитория. 5 мин
- Архитектуры нейронных сетей 65 мин
- Смешанная точность (Mixed Precision): вычисления в float16 / bfloat16, масштабирование потерь (Loss Scaling) и экономия памяти GPU. 17 мин
- Keras и TensorFlow — нейросети 80 мин
- Экспорт и сериализация: ONNX, TorchScript, SavedModel — переносимость между средами исполнения. 35 мин
- Механизмы внимания (Attention Mechanism): математика Scaled Dot-Product, Query/Key/Value наглядно. 28 мин
- Multi-Head Attention изнутри: устройство параллельных голов внимания и позиционное кодирование (Positional Encoding). 35 мин
- Инференс и ускорение: TensorRT, OpenVINO, квантование (Post-Training Quantization, INT8), pruning (прореживание весов). 35 мин
- Первое обучение — перцептрон на NumPy 40 мин
- Сервинг моделей: упаковка в REST/gRPC через Triton Inference Server, TorchServe, vLLM или FastAPI. 35 мин
- Автоэнкодеры (Autoencoders): сжатие латентного пространства, устранение шума (Denoising Autoencoders). 30 мин
- Базовые массивы NumPy 60 мин
- Мониторинг в проде: отслеживание Data Drift и Concept Drift, задержки (Latency), утилизации памяти и метрик качества инференса. 35 мин
- Вариационные автоэнкодеры (VAE): трюк с репараметризацией (Reparameterization Trick) и дивергенция Кульбака — Лейблера (KL Loss). 35 мин
- Изменение формы и срезы 55 мин
- Диффузионные модели (Diffusion Models): прямой и обратный диффузионный процесс, шумоподавление шагами (DDPM). 35 мин
- Генерация учебных данных 50 мин
- Generative Adversarial Networks (GAN): битва Генератора и Дискриминатора, функция потерь Minimax, проблема схлопывания мод (Mode Collapse). 35 мин
- Первая модель Keras с линейной регрессией 50 мин
- Интерпретируемость нейросетей (XAI): визуализация активаций, карт внимания (Grad-CAM, Saliency Maps) и SHAP-анализ. 30 мин
- Обучение модели — обучение нейросети в Keras: fit, эпохи, батчи, мониторинг сходимости 50 мин
- Предсказание и сравнение — инференс нейросети: predict, оценка и сравнение моделей 55 мин
- Переход к классификации — от регрессии к классификации в нейросетях: sigmoid, логиты 55 мин
- Данные для бинарной классификации 55 мин
- Модель бинарной классификации 55 мин
- Обучение классификатора — обучение нейросети-классификатора в Keras: ранняя остановка, сходимость 55 мин
- Оценка и предсказание классификатора 55 мин
- Сохранение и загрузка модели 50 мин
- Многоклассовая классификация — softmax, categorical crossentropy в нейросетях Keras 55 мин
- Нормализация данных в NumPy 55 мин
- Регуляризация — борьба с переобучением нейросети: Dropout, L1, L2 55 мин
- BatchNormalization — пакетная нормализация (batch norm) в нейросетях и Keras 60 мин
- Колбэки — callbacks в Keras: EarlyStopping, ModelCheckpoint, контроль обучения 55 мин
- Оптимизаторы — оптимизаторы нейросетей: SGD, Adam, RMSprop, скорость обучения 60 мин
- Функции потерь — loss в нейросетях: MSE, кросс-энтропия, как выбрать 55 мин
- Регрессия — регрессия в машинном обучении и нейросетях: линейная регрессия, предсказание чисел 55 мин
- Метрики — метрики качества нейросетей и ML: accuracy, precision, recall, F1 60 мин
- Слои — слои нейросети в Keras: Dense, слой как преобразование, как устроена сеть 55 мин
- Входные и формирующие слои 55 мин
- Полносвязные и активационные слои 55 мин
- Свёрточные слои — Conv2D в Keras: свёрточные нейронные сети (CNN), фильтры, ядра 55 мин
- Пулинговые слои — MaxPooling, AveragePooling в свёрточных сетях Keras 55 мин
- Рекуррентные слои 55 мин
- Нормализация и регуляризация — BatchNormalization, Dropout, L2 в нейросетях Keras 55 мин
- Внимание и трансформеры — механизм внимания (attention), архитектура Transformer, self-attention 60 мин
- Объединяющие слои (Functional API) 55 мин
- Эмбеддинги и препроцессинг — embeddings и слои предобработки в Keras: Embedding, TextVectorization 60 мин
- Обёртки и утилитарные слои 50 мин
Все уровни курса открывается по подписке.
- Интерактивные уровни с проверкой ответов
- Прогресс и повторение терминов сохраняются
- Тренажёры Linux, SQL, Git и Docker в браузере